| { |
| "contract": { |
| "task": "dyck1", |
| "bucket": "62-80", |
| "examples": 512, |
| "eval_seed": 20260783, |
| "inference_R": [ |
| 1, |
| 2, |
| 4, |
| 8 |
| ], |
| "seeds": [ |
| 0, |
| 1, |
| 2, |
| 3, |
| 4, |
| 5, |
| 6, |
| 7, |
| 8, |
| 9, |
| 10, |
| 11, |
| 12, |
| 13, |
| 14 |
| ], |
| "device": "mps", |
| "success_threshold": "p-effect growth from first to last R >= 0.10" |
| }, |
| "effect_by_inference_R": { |
| "1": { |
| "p0_mean": 0.16510416666666666, |
| "p05_mean": 0.33697916666666666, |
| "paired_difference": 0.171875, |
| "paired_t": 1.7442303530131964 |
| }, |
| "2": { |
| "p0_mean": 0.07421875, |
| "p05_mean": 0.36614583333333334, |
| "paired_difference": 0.29192708333333334, |
| "paired_t": 3.208128228278845 |
| }, |
| "4": { |
| "p0_mean": 0.16822916666666668, |
| "p05_mean": 0.520703125, |
| "paired_difference": 0.35247395833333334, |
| "paired_t": 3.9422030171655895 |
| }, |
| "8": { |
| "p0_mean": 0.41744791666666664, |
| "p05_mean": 0.6098958333333333, |
| "paired_difference": 0.19244791666666666, |
| "paired_t": 2.2959838432415682 |
| } |
| }, |
| "effect_growth_first_to_last": 0.020572916666666663, |
| "supports_accumulating_p_effect": false |
| } |
|
|
