splits/eval_manifest.json

{
  "version": "processbench_splits_eval",
  "visual_inputs_redistributed": false,
  "reconstruction_required": true,
  "merged_eval_jsonl": "splits/processbench_eval.jsonl",
  "merged_eval_parquet": "splits/processbench_eval.parquet",
  "datasets": [
    {
      "source": "GM-100",
      "slug": "gm100",
      "num_items_eval": 2643,
      "num_groups_eval": 628,
      "random_baselines": {
        "T1": 0.25,
        "T2": 0.5,
        "T3": 0.25,
        "T4": 0.25,
        "T6": 0.5,
        "T9": 0.5,
        "T5": 0.3333333333333333,
        "T8": 0.16666666666666666
      }
    },
    {
      "source": "RH20T",
      "slug": "rh20t",
      "num_items_eval": 2422,
      "num_groups_eval": 89,
      "random_baselines": {
        "T1": 0.25,
        "T2": 0.5,
        "T3": 0.25,
        "T6": 0.5,
        "T7": 0.5,
        "T9": 0.5,
        "T5": 0.3333333333333333,
        "T8": 0.16666666666666666
      }
    },
    {
      "source": "REASSEMBLE",
      "slug": "reassemble",
      "num_items_eval": 2562,
      "num_groups_eval": 6,
      "random_baselines": {
        "T1": 0.25,
        "T10": 0.25,
        "T11": 0.25,
        "T12": 0.25,
        "T2": 0.5,
        "T6": 0.5,
        "T7": 0.5,
        "T9": 0.5,
        "T5": 0.3333333333333333,
        "T8": 0.16666666666666666
      }
    },
    {
      "source": "AIST-Bimanual",
      "slug": "aist",
      "num_items_eval": 1424,
      "num_groups_eval": 30,
      "random_baselines": {
        "T3": 0.25,
        "T4": 0.25,
        "T6": 0.5,
        "T9": 0.5,
        "T8": 0.16666666666666666
      }
    }
  ]
}