{ "version": "processbench_splits_eval", "visual_inputs_redistributed": false, "reconstruction_required": true, "merged_eval_jsonl": "splits/processbench_eval.jsonl", "merged_eval_parquet": "splits/processbench_eval.parquet", "datasets": [ { "source": "GM-100", "slug": "gm100", "num_items_eval": 2643, "num_groups_eval": 628, "random_baselines": { "T1": 0.25, "T2": 0.5, "T3": 0.25, "T4": 0.25, "T6": 0.5, "T9": 0.5, "T5": 0.3333333333333333, "T8": 0.16666666666666666 } }, { "source": "RH20T", "slug": "rh20t", "num_items_eval": 2422, "num_groups_eval": 89, "random_baselines": { "T1": 0.25, "T2": 0.5, "T3": 0.25, "T6": 0.5, "T7": 0.5, "T9": 0.5, "T5": 0.3333333333333333, "T8": 0.16666666666666666 } }, { "source": "REASSEMBLE", "slug": "reassemble", "num_items_eval": 2562, "num_groups_eval": 6, "random_baselines": { "T1": 0.25, "T10": 0.25, "T11": 0.25, "T12": 0.25, "T2": 0.5, "T6": 0.5, "T7": 0.5, "T9": 0.5, "T5": 0.3333333333333333, "T8": 0.16666666666666666 } }, { "source": "AIST-Bimanual", "slug": "aist", "num_items_eval": 1424, "num_groups_eval": 30, "random_baselines": { "T3": 0.25, "T4": 0.25, "T6": 0.5, "T9": 0.5, "T8": 0.16666666666666666 } } ] }