File size: 1,607 Bytes
1f69c5b
b6f6c69
1f69c5b
 
b6f6c69
 
1f69c5b
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
{
  "version": "processbench_splits_eval",
  "visual_inputs_redistributed": false,
  "reconstruction_required": true,
  "merged_eval_jsonl": "splits/processbench_eval.jsonl",
  "merged_eval_parquet": "splits/processbench_eval.parquet",
  "datasets": [
    {
      "source": "GM-100",
      "slug": "gm100",
      "num_items_eval": 2643,
      "num_groups_eval": 628,
      "random_baselines": {
        "T1": 0.25,
        "T2": 0.5,
        "T3": 0.25,
        "T4": 0.25,
        "T6": 0.5,
        "T9": 0.5,
        "T5": 0.3333333333333333,
        "T8": 0.16666666666666666
      }
    },
    {
      "source": "RH20T",
      "slug": "rh20t",
      "num_items_eval": 2422,
      "num_groups_eval": 89,
      "random_baselines": {
        "T1": 0.25,
        "T2": 0.5,
        "T3": 0.25,
        "T6": 0.5,
        "T7": 0.5,
        "T9": 0.5,
        "T5": 0.3333333333333333,
        "T8": 0.16666666666666666
      }
    },
    {
      "source": "REASSEMBLE",
      "slug": "reassemble",
      "num_items_eval": 2562,
      "num_groups_eval": 6,
      "random_baselines": {
        "T1": 0.25,
        "T10": 0.25,
        "T11": 0.25,
        "T12": 0.25,
        "T2": 0.5,
        "T6": 0.5,
        "T7": 0.5,
        "T9": 0.5,
        "T5": 0.3333333333333333,
        "T8": 0.16666666666666666
      }
    },
    {
      "source": "AIST-Bimanual",
      "slug": "aist",
      "num_items_eval": 1424,
      "num_groups_eval": 30,
      "random_baselines": {
        "T3": 0.25,
        "T4": 0.25,
        "T6": 0.5,
        "T9": 0.5,
        "T8": 0.16666666666666666
      }
    }
  ]
}