README.md

# J_VLA_v0 Task-Complete 数据集说明

## 概览

本目录是 `/public/home/zhuyuchen530/J_VLA_v0` 的任务完成版副本。原数据在
蓝色方块已经放入绿色碗后，还包含机械臂撤回并接近初始位姿的较长动作。本次
转换将 episode 终点改为“任务成功已经明确可见”，不再等待机械臂完全回位。

- 源目录：`/public/home/zhuyuchen530/J_VLA_v0`
- 输出目录：`/public/home/zhuyuchen530/J_VLA_v0_task_complete`
- 转换脚本：
  `/public/home/zhuyuchen530/projects/le-wm/scripts/trim_j_vla_to_task_success.py`
- 数据格式：LeRobot v2.1
- 任务：`Put the blue cube into the green bowl`
- 帧率：30 FPS
- Episodes：20
- 相机：`video.cam_high`、`video.cam_right_wrist`
- 帧数：9,615 -> 6,276
- 删除：3,339 帧，约 34.7%

源数据目录不会被脚本写入或覆盖。

## 任务完成检测

当前数据是单一 pick-and-place 任务，因此使用抓手释放作为可复现的任务完成
候选事件：

1. 读取 `observation.state[..., 6]` 的连续抓手状态。
2. 从每条 episode 的 35% 之后开始搜索，排除起始阶段张开抓手的动作。
3. 将 `gripper[t+1] - gripper[t] > 0.00015` 视为张开变化。
4. 将间隔不超过 15 帧的张开变化合并为同一个事件。
5. 选择第一个累计张开量不小于 `0.002` 的事件。
6. 在释放结束后额外保留 20 帧，约 0.67 秒。

额外保留的 20 帧用于记录方块已经稳定落入碗中，以及机械臂开始撤离。随后
回到初始位姿的动作被删除。20/20 条 episode 的主相机裁剪终点均已人工审查。

该规则依赖“释放物体即完成任务”的语义，不能不经检查地用于推、拉、开门或
无需松开抓手的任务。

## 每条 Episode 的长度

| Episode | 原长度 | 释放区间 | 新长度 | 删除 |
| ---: | ---: | ---: | ---: | ---: |
| 0 | 500 | 262-288 | 309 | 191 |
| 1 | 464 | 285-295 | 316 | 148 |
| 2 | 500 | 264-273 | 294 | 206 |
| 3 | 458 | 283-295 | 316 | 142 |
| 4 | 420 | 250-275 | 296 | 124 |
| 5 | 458 | 239-249 | 270 | 188 |
| 6 | 405 | 260-269 | 290 | 115 |
| 7 | 500 | 258-266 | 287 | 213 |
| 8 | 500 | 302-310 | 331 | 169 |
| 9 | 500 | 282-288 | 309 | 191 |
| 10 | 466 | 253-264 | 285 | 181 |
| 11 | 472 | 299-308 | 329 | 143 |
| 12 | 500 | 303-320 | 341 | 159 |
| 13 | 500 | 341-350 | 371 | 129 |
| 14 | 500 | 262-272 | 293 | 207 |
| 15 | 500 | 283-298 | 319 | 181 |
| 16 | 500 | 286-295 | 316 | 184 |
| 17 | 484 | 261-284 | 305 | 179 |
| 18 | 500 | 307-318 | 339 | 161 |
| 19 | 488 | 330-339 | 360 | 128 |

更完整的参数、候选释放事件和生成记录见
`conversion_manifest.json`；简要转换报告见 `CONVERSION_REPORT.md`。

## 转换内容

脚本对所有时序数据使用同一个裁剪长度：

- 截断两个相机的 MP4，并重新编码为 H.264、`yuv420p`。
- 截断对应 parquet 中的 `observation.state`、`action` 和索引字段。
- 重置 episode 内的 `frame_index` 与 `timestamp`。
- 重建跨 episode 连续的全局 `index`。
- 更新 `meta/episodes.jsonl` 和 `meta/info.json`。
- 重建 `meta/steps_data_index.pkl`。
- 使用裁剪后的全部帧重新计算 `meta/stats.json`。
- 同步重建 `meta/stats_gr00t.json`。

视频先在节点本地 `/tmp` 完成封装，再顺序复制到输出目录，以避免 `/public`
文件系统上的 MP4 随机写问题。整个数据集先写入同级临时目录，全部成功后再
原子 rename。目标目录已存在时脚本会直接退出，防止误覆盖。

## 复现转换

因为当前目录已经存在，复现时应指定新的输出目录：

```bash
cd /public/home/zhuyuchen530/projects/le-wm
source .venv/bin/activate

python scripts/trim_j_vla_to_task_success.py \
  --source /public/home/zhuyuchen530/J_VLA_v0 \
  --output /public/home/zhuyuchen530/J_VLA_v0_task_complete_rebuild \
  --visual-audit-status "manual review required"
```

关键参数可通过以下选项调整：

```text
--release-search-fraction
--positive-delta
--merge-gap
--min-release-gain
--post-success-frames
```

## LeWM 训练

对应的数据配置为：

```text
/public/home/zhuyuchen530/projects/le-wm/config/train/data/j_vla_v0_task_complete_fs2.yaml
```

它保持原 J_VLA 设置：`frameskip=2`、7D 连续 action/state、`min_max`
归一化，以及 episode-level 90/10 train/val 划分。使用已有两阶段微调脚本：

```bash
cd /public/home/zhuyuchen530/projects/le-wm

DATA_ROOT=/public/home/zhuyuchen530/J_VLA_v0_task_complete \
RUN_NAME=j_vla_task_complete_run01 \
scripts/run_j_vla_v0_finetune.sh
```

## 方法依据

- DROID 使用任务 success 标注区分可用于训练的成功示范：
  <https://www.jiajunwu.com/papers/droid_rss.pdf>
- LIV 使用语言条件视觉表示追踪任务视频中的进度：
  <https://proceedings.mlr.press/v202/ma23b/ma23b.pdf>
- RoboCLIP 和 RoboReward 展示了使用视频模型或 VLM 构造任务进度奖励的
  路径：<https://arxiv.org/abs/2310.07899>、
  <https://arxiv.org/abs/2601.00675>

对于当前仅 20 条、单任务且释放事件明确的数据，机器人状态检测加全量人工
审查比引入 learned reward 更直接，也更容易复现。