{ "contract": { "task": "dyck1", "bucket": "62-80", "examples": 512, "eval_seed": 20260783, "inference_R": [ 1, 2, 4, 8 ], "seeds": [ 0, 1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14 ], "device": "mps", "success_threshold": "p-effect growth from first to last R >= 0.10" }, "effect_by_inference_R": { "1": { "p0_mean": 0.16510416666666666, "p05_mean": 0.33697916666666666, "paired_difference": 0.171875, "paired_t": 1.7442303530131964 }, "2": { "p0_mean": 0.07421875, "p05_mean": 0.36614583333333334, "paired_difference": 0.29192708333333334, "paired_t": 3.208128228278845 }, "4": { "p0_mean": 0.16822916666666668, "p05_mean": 0.520703125, "paired_difference": 0.35247395833333334, "paired_t": 3.9422030171655895 }, "8": { "p0_mean": 0.41744791666666664, "p05_mean": 0.6098958333333333, "paired_difference": 0.19244791666666666, "paired_t": 2.2959838432415682 } }, "effect_growth_first_to_last": 0.020572916666666663, "supports_accumulating_p_effect": false }