| # pi0 VLA→MPC 转移视频矩阵 (`Heisen0928/pi0_robotwin`) |
| |
| 每段是 **并排对比片**:**左 = VLA 原始(passthrough)**,**右 = VLA + MPC**,同一 seed 同一场景。 |
| 左上角标签为该次运行的真实结果(绿=SUCCESS,红=FAIL)。2240×480,30s @10fps,h264。 |
| |
| ## 类别命名(`<cat>_seed<seed>.mp4`) |
|
|
| | cat | VLA 原始 | VLA+MPC | 含义 | |
| |---|---|---|---| |
| | **SF** | SUCCESS | FAIL | MPC 把成功改坏(过度修正) | |
| | **FS** | FAIL | SUCCESS | MPC 救回失败(正面案例) | |
| | **FF** | FAIL | FAIL | 两者都失败(难例) | |
|
|
| (SS = 两者都成功,不录。) |
|
|
| ## 矩阵清单(目标每类 3 条) |
|
|
| | task | SF | FS | FF | |
| |---|---|---|---| |
| | place_bread_skillet | 3 | **2** | 3 | |
| | place_empty_cup | **2** | 3 | 3 | |
| | move_can_pot | 3 | **1** | 3 | |
| | move_pillbottle_pad | 3 | 3 | 3 | |
| | place_container_plate | 3 | **1** | 3 | |
|
|
| 加粗 = 未达 3 条的缺口,原因见下。 |
|
|
| ## 关于可复现性与缺口 |
|
|
| - eval(`eval_robotwin.py:635`)每集已做确定性 seeding(`torch.manual_seed(episode_seed)` |
| + numpy + cudnn deterministic)。**绝大多数 seed 可复现**,但临界 case 仍有约 10% |
| 残余 GPU/MPC 非确定性会翻面(尤其 MPC 的 80 噪声候选)。 |
| - 因此本矩阵用 **record-and-verify**:按**录像那一次运行的真实结果**分桶,而非 campaign |
| 的历史结果——保证视频与其标签 100% 一致。 |
| - **FS 缺口**(bread=2, can_pot=1, plate=1):FS 是最稀缺类别(MPC 救回失败本就少见), |
| 且部分 campaign 标为 FS 的 seed 在重跑里被 MPC 翻成 FF。候选池耗尽即止,不硬凑。 |
| - **cup SF=2**:两个 SF 候选在重跑里 MPC 翻成 SUCCESS(变 SS),候选耗尽。 |
| |
| ## 原始单模式素材 |
| |
| 每个 kept seed 的两路原始运行(含 run.log)在 |
| `outputs/pi0_matrix/<task>/seed<seed>/{pass,mpc}/`;分桶决策记录在 |
| `outputs/pi0_matrix/<task>/MANIFEST.txt`。 |
|
|