File size: 1,254 Bytes
3b3cb45 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 | {
"contract": {
"task": "dyck1",
"bucket": "62-80",
"examples": 512,
"eval_seed": 20260783,
"inference_R": [
1,
2,
4,
8
],
"seeds": [
0,
1,
2,
3,
4,
5,
6,
7,
8,
9,
10,
11,
12,
13,
14
],
"device": "mps",
"success_threshold": "p-effect growth from first to last R >= 0.10"
},
"effect_by_inference_R": {
"1": {
"p0_mean": 0.16510416666666666,
"p05_mean": 0.33697916666666666,
"paired_difference": 0.171875,
"paired_t": 1.7442303530131964
},
"2": {
"p0_mean": 0.07421875,
"p05_mean": 0.36614583333333334,
"paired_difference": 0.29192708333333334,
"paired_t": 3.208128228278845
},
"4": {
"p0_mean": 0.16822916666666668,
"p05_mean": 0.520703125,
"paired_difference": 0.35247395833333334,
"paired_t": 3.9422030171655895
},
"8": {
"p0_mean": 0.41744791666666664,
"p05_mean": 0.6098958333333333,
"paired_difference": 0.19244791666666666,
"paired_t": 2.2959838432415682
}
},
"effect_growth_first_to_last": 0.020572916666666663,
"supports_accumulating_p_effect": false
}
|