arrow-hf's picture
Add pi0_matrix_final comparison videos
f072102 verified
|
Raw
History Blame Contribute Delete
1.86 kB
# pi0 VLA→MPC 转移视频矩阵 (`Heisen0928/pi0_robotwin`)
每段是 **并排对比片**:**左 = VLA 原始(passthrough)**,**右 = VLA + MPC**,同一 seed 同一场景。
左上角标签为该次运行的真实结果(绿=SUCCESS,红=FAIL)。2240×480,30s @10fps,h264。
## 类别命名(`<cat>_seed<seed>.mp4`)
| cat | VLA 原始 | VLA+MPC | 含义 |
|---|---|---|---|
| **SF** | SUCCESS | FAIL | MPC 把成功改坏(过度修正) |
| **FS** | FAIL | SUCCESS | MPC 救回失败(正面案例) |
| **FF** | FAIL | FAIL | 两者都失败(难例) |
(SS = 两者都成功,不录。)
## 矩阵清单(目标每类 3 条)
| task | SF | FS | FF |
|---|---|---|---|
| place_bread_skillet | 3 | **2** | 3 |
| place_empty_cup | **2** | 3 | 3 |
| move_can_pot | 3 | **1** | 3 |
| move_pillbottle_pad | 3 | 3 | 3 |
| place_container_plate | 3 | **1** | 3 |
加粗 = 未达 3 条的缺口,原因见下。
## 关于可复现性与缺口
- eval(`eval_robotwin.py:635`)每集已做确定性 seeding(`torch.manual_seed(episode_seed)`
+ numpy + cudnn deterministic)。**绝大多数 seed 可复现**,但临界 case 仍有约 10%
残余 GPU/MPC 非确定性会翻面(尤其 MPC 的 80 噪声候选)。
- 因此本矩阵用 **record-and-verify**:按**录像那一次运行的真实结果**分桶,而非 campaign
的历史结果——保证视频与其标签 100% 一致。
- **FS 缺口**(bread=2, can_pot=1, plate=1):FS 是最稀缺类别(MPC 救回失败本就少见),
且部分 campaign 标为 FS 的 seed 在重跑里被 MPC 翻成 FF。候选池耗尽即止,不硬凑。
- **cup SF=2**:两个 SF 候选在重跑里 MPC 翻成 SUCCESS(变 SS),候选耗尽。
## 原始单模式素材
每个 kept seed 的两路原始运行(含 run.log)在
`outputs/pi0_matrix/<task>/seed<seed>/{pass,mpc}/`;分桶决策记录在
`outputs/pi0_matrix/<task>/MANIFEST.txt`