| # Manipulation VLA 评测全集 (GR00T N1.7 · pi0 · Genie-Envisioner) |
|
|
| ManiSkill 仿真上对多个 VLA 模型做的 **pairwise-OOD / all-factor / conflict / VLM** 评测的 |
| **可复现全集**:代码 + 仿真 + 全部评测结果(逐 ckpt 逐 seed)+ 复现步骤。**不含 ckpt 权重**(见下方 HF 链接)。 |
|
|
| 怎么跑 → 见 [`REPRODUCE.md`](REPRODUCE.md)。 |
|
|
| --- |
|
|
| ## 目录结构 |
|
|
| ``` |
| README.md ← 本文件:总览 + 结果 + 导航 |
| REPRODUCE.md ← 怎么跑每一类评测(环境/ckpt/命令) |
| code/ ← 全部评测代码(client / runner / dispatcher) |
| results/ |
| ├─ gr00t/ |
| │ ├─ pairgrid_hard/ 6 实验 × 9 ckpt,硬口径(同色同形干扰项) |
| │ │ {color_size, color_spatial, verb_spatial, spatial_size, spatial_object, verb_size}/ |
| │ ├─ pairgrid_easy/color_size/ 软口径对照(1 干扰项, ~2× 尺寸对比) |
| │ ├─ all_factor/ 16 ckpt,full-factor(对齐 pi0.5 协议) |
| │ └─ conflict_env/ 10 实验,双轴 env success(seed42) |
| ├─ pi0/pairgrid_hard/ color_spatial(9 ckpt)+ color_size(3 ckpt),硬口径 |
| ├─ genie/conflict_env/ 10 实验,双轴 env success |
| └─ vlm_gemini-2.5-flash/ Gemini-2.5-flash 看视频判 factor_followed + FDR_summary.txt |
| simulation/ |
| ├─ eval_simulation/ ManiSkill 仿真代码(VerbObjectColor-v1 环境) |
| ├─ Maniskill_gen_new/ 数据采集/环境定义(get_env_id_and_color) |
| └─ eval_simulation_ASSETS.tar.gz 二进制 3D 资源(解开覆盖回 eval_simulation/) |
| ``` |
|
|
| 每个 ckpt 目录里:`*_seed42.txt / _seed40.txt / _seed41.txt`(逐 episode 明细)+ `SUMMARY.txt`(3-seed 均)。 |
|
|
| ## checkpoint 权重(本仓库不含) |
| - pair-grid(f6/f12/f18):HF `yqi19/gr00t_public_pair_ckpt` |
| - all_factor(f50/n*):HF `yqi19/gr00t_all_factor_evaluation` |
|
|
| --- |
|
|
| ## 评测协议(一句话) |
| - **pairgrid 硬口径**:同色(或同形)cube 干扰项,强制模型靠目标因子区分;task_difficulty=1.5,gpu-sim,150 步,replan=10,210 ep/seed,seeds 42/40/41。 |
| - **pairgrid 软口径(EASY)**:仅 color_size,1 干扰项 + ~2× 尺寸对比。 |
| - **all_factor**:单指令全因子采样(pi0.5 对齐),200 ep,500 步,no_distractor=0.70。 |
| - **conflict env**:双轴成功率(因子A / 因子B 各自命中)。 |
| - **VLM**:Gemini-2.5-flash 看视频判模型跟了哪个因子,算 FDR。 |
| > 每个实验的 target/distractor 尺寸、spatial 坐标等**精确配置**见本文件末尾「附:干扰项明细」。 |
| |
| --- |
| |
| ## 关键结果(3-seed 均,各实验最强 ckpt) |
| |
| | 实验 | 模型 | 最强 ckpt | 成功率 | |
| |---|---|---|---| |
| | color_spatial | pi0 | stair_f18 | **54.9%** | |
| | color_spatial | GR00T | stair_f18 | 51.1% | |
| | spatial_size | GR00T | stair_f18 | 48.1% | |
| | all_factor | GR00T | Lrandom_f50_n400 | 47.0% | |
| | spatial_object | GR00T | Lrandom_f12 | 39.5% | |
| | color_size (EASY) | GR00T | Lrandom_f18 | 37.2% | |
| | verb_spatial | GR00T | stair_f18 | 35.5% | |
| | color_size (HARD) | GR00T | Lrandom_f18 | 34.9% | |
| | verb_size | GR00T | random_f12 | 24.2% | |
| |
| **结论:** 任务难度 color_spatial > spatial_size > spatial_object > verb_spatial > color_size ≈ verb_size; |
| **含 size 的任务对 VLA 最难**(8–35%);空间类任务里 **stair_f18 普遍最强**;`random_f18` 多实验偏弱。 |
|
|
| 完整逐 ckpt 表见 [`result.md`](result.md)(或各 `results/.../SUMMARY.txt`)。 |
|
|
