| { |
| "version": "splits_v1", |
| "builder_version": "processbench_v1", |
| "visual_inputs_redistributed": false, |
| "reconstruction_required": true, |
| "merged_eval_jsonl": "data/processbench_eval.jsonl", |
| "merged_eval_parquet": "data/processbench_eval.parquet", |
| "datasets": [ |
| { |
| "source": "GM-100", |
| "slug": "gm100", |
| "eval_jsonl": "data/gm100_eval.jsonl", |
| "num_items_eval": 2643, |
| "num_groups_eval": 628, |
| "random_baselines": { |
| "T1": 0.25, |
| "T2": 0.5, |
| "T3": 0.25, |
| "T4": 0.25, |
| "T6": 0.5, |
| "T9": 0.5, |
| "T5": 0.3333333333333333, |
| "T8": 0.16666666666666666 |
| } |
| }, |
| { |
| "source": "RH20T", |
| "slug": "rh20t", |
| "eval_jsonl": "data/rh20t_eval.jsonl", |
| "num_items_eval": 2422, |
| "num_groups_eval": 89, |
| "random_baselines": { |
| "T1": 0.25, |
| "T2": 0.5, |
| "T3": 0.25, |
| "T6": 0.5, |
| "T7": 0.5, |
| "T9": 0.5, |
| "T5": 0.3333333333333333, |
| "T8": 0.16666666666666666 |
| } |
| }, |
| { |
| "source": "REASSEMBLE", |
| "slug": "reassemble", |
| "eval_jsonl": "data/reassemble_eval.jsonl", |
| "num_items_eval": 2562, |
| "num_groups_eval": 6, |
| "random_baselines": { |
| "T1": 0.25, |
| "T10": 0.25, |
| "T11": 0.25, |
| "T12": 0.25, |
| "T2": 0.5, |
| "T6": 0.5, |
| "T7": 0.5, |
| "T9": 0.5, |
| "T5": 0.3333333333333333, |
| "T8": 0.16666666666666666 |
| } |
| }, |
| { |
| "source": "AIST-Bimanual", |
| "slug": "aist", |
| "eval_jsonl": "data/aist_eval.jsonl", |
| "num_items_eval": 1424, |
| "num_groups_eval": 30, |
| "random_baselines": { |
| "T3": 0.25, |
| "T4": 0.25, |
| "T6": 0.5, |
| "T9": 0.5, |
| "T8": 0.16666666666666666 |
| } |
| } |
| ] |
| } |
|
|
