docs: add omnir2v subset (19,243 samples, dataset2_part01-08.zip)

README.md

@@ -12,8 +12,11 @@ tags:
   - motion
   - wan-move
   - sketchtraj
+  - omnir2v
+  - r2v
 size_categories:
   - 1K<n<10K
+  - 10K<n<100K
 pretty_name: SketchTraj InBetween Data
 ---
 
@@ -24,15 +27,22 @@ pretty_name: SketchTraj InBetween Data
 每条样本提供：RGB 源视频、XDoG 线稿视频（生成目标）、目标实例掩码（mask 版）、
 SpaTracker 运动轨迹、首/末帧图、自然语言描述。
 
-- 仓库文件：`dataset1.zip`（21.9 GB），解压后即本文档描述的 `datasets/` 目录
-  （3 个 mask 版子集 + 3 个 dense 版子集，共 2,258 条索引记录）
+- 仓库文件 **①**：`dataset1.zip`（21.9 GB），解压后是 `demo` / `anita` / `movebench`
+  三个子集的 `datasets/` 目录（mask 版 + dense 版，共 2,258 条索引记录）
 - 解压：`unzip dataset1.zip -d SketchTraj/`（解压后约 25 GB）
+- 仓库文件 **②**：`dataset2_part01.zip` … `dataset2_part08.zip`（共 114 GB），
+  解压后是 `datasets/omnir2v/`（**19,243 条**，dense 版轨迹，无实例掩码）
+- 解压：`unzip 'dataset2_part*.zip' -d SketchTraj/`（解压后约 115 GB；
+  `metadata.json` / `dataset.json` / `captions_from_metadata.json` /
+  `validate_report.json` 放在 **`dataset2_part01.zip`** 里，只需解这一个包拿索引）
 
-轨迹有**两个版本**，并存于 `datasets/` 下：
+`demo` / `anita` / `movebench` 的轨迹有**两个版本**，并存于 `datasets/` 下：
 
 - **mask 版**（`datasets/<subset>/`）：查询点限制在 SAM2 实例掩码内，聚焦主体运动
 - **dense 版**（`datasets/<subset>_dense/`）：全图均匀网格 1024 点，覆盖整帧运动场
 
+`omnir2v` 只有 **dense 版**（1024 点，全图网格），`instance_mask` 恒为 `null`。
+
 ## 数据规模
 
 | 子集 | mask 版 | dense 版 | 来源 | 说明 |
@@ -40,7 +50,9 @@ SpaTracker 运动轨迹、首/末帧图、自然语言描述。
 | `demo` | 21 | 21 | 场景片段 | 小规模自检集 |
 | `anita` | 90 | 90 | Anita 动画（草图域） | 人物/角色动作为主 |
 | `movebench` | 1,018 | 1,018 | MoveBench（RGB 域） | 大规模通用场景 |
-| **合计** | **1,129** | **1,129** | | |
+| **小计** | **1,129** | **1,129** | | |
+| `omnir2v` | — | **19,243** | Omni-R2V 线稿数据（草图域） | 大规模，只有 dense 版，`instance_mask = null` |
+| **总计** | **1,129** | **20,372** | | |
 
 ## 目录结构
 
@@ -76,6 +88,28 @@ datasets/<subset>_dense/
 └── validate_report.json
 ```
 
+### `omnir2v`（19,243 条，`dataset2_part*.zip`）
+
+单目录、无 mask 版、无 dense 子目录，全部素材都在 `datasets/omnir2v/` 下：
+
+```
+datasets/omnir2v/
+├── source_video/      # RGB 源视频（Omni-R2V 原始素材）      ->  source_video
+├── gt_video/          # XDoG 线稿视频（监督目标，65 GB）      ->  gt_video
+├── first_frame/       # 首帧 jpg（*_first.jpg）              ->  first_frame
+├── last_frame/        # 末帧 jpg（*_last.jpg）               ->  last_frame
+├── trajectory/        # SpaTracker 轨迹 npz（*_tracks.npz）  ->  trajectory
+├── traj_vis/          # 轨迹可视化 mp4 + traj_report.json
+├── dataset.json       # 最终训练索引（instance_mask = null）
+├── metadata.json      # 流水线输入索引（含 ref_video_path）
+├── validate_report.json
+└── captions_from_metadata.json   # {video_id: prompt} 备份
+```
+
+- `video_id` 形如 `r2v_lineart_000000`，共 19,243 个
+- **没有** `instance_mask/` 目录，索引里该字段恒为 `null`，读索引时要做空值处理
+- 视频规格与其余子集一致：H.264 / 832×480 / 49 帧 / 23.976 fps
+
 ## `dataset.json` 格式
 
 数组，每条一个样本：
@@ -93,6 +127,21 @@ datasets/<subset>_dense/
 }
 ```
 
+`omnir2v` 的同构样本（`instance_mask` 为 `null`）：
+
+```json
+{
+  "video_id": "r2v_lineart_000000",
+  "source_video": "./datasets/omnir2v/source_video/r2v_lineart_000000.mp4",
+  "gt_video": "./datasets/omnir2v/gt_video/r2v_lineart_000000.mp4",
+  "instance_mask": null,
+  "first_frame": "./datasets/omnir2v/first_frame/r2v_lineart_000000_first.jpg",
+  "last_frame": "./datasets/omnir2v/last_frame/r2v_lineart_000000_last.jpg",
+  "trajectory": "./datasets/omnir2v/trajectory/r2v_lineart_000000_tracks.npz",
+  "prompt": "The video clip features a close-up of an elderly woman with short, gray hair. ..."
+}
+```
+
 | 字段 | 含义 |
 |---|---|
 | `source_video` | RGB 源视频，轨迹从中提取 |
@@ -147,6 +196,7 @@ visibility = z["visibility"]  # bool    [49, N]，该帧该点是否可见
 | `anita`（90） | Qwen3-VL-30B-A3B-Instruct 逐条描述视频内容与运动，词数中位数 112 |
 | `demo`（21） | 同上，词数中位数 226 |
 | `movebench`（1,018） | 沿用 MoveBench 原始 caption（`raw/single_track.txt`） |
+| `omnir2v`（19,243） | Qwen3-VL-30B-A3B-Instruct 对 **RGB 源视频**（不是线稿，线稿对 VLM 不可读）<br>逐条描述人物/物体的运动方向与画面事件，词数中位数 **208**（p10 125 / p90 222）<br>已同步写回 `metadata.json` / `dataset.json` / `captions_from_metadata.json` |
 
 重建索引时 `prepare_metadata.py --inherit_prompt` 会自动继承旧索引里的 prompt，不会被默认模板冲掉。
 
@@ -178,9 +228,14 @@ DATASET=movebench GPU=7 bash data_process/preprocess_features.sh
 | anita | dense | 1024 | 0.592 | 1.05 px | 32 | 7 |
 | movebench | mask | 500 | 0.888 | 3.55 px | 23 | 10 |
 | movebench | dense | 1024 | 0.846 | 1.99 px | 137 | 6 |
+| **omnir2v** | dense | 1024 | 0.807 | 1.38 px | 5,401 | 661 |
 
 判据：可见率 < 0.2 记 `low_visible`；平均帧位移 < 0.5 px 记 `static_traj`。
 
+`omnir2v` 的 19,243 条里 `n_bad_samples = 6,058`（31.5%），绝大多数是 `static_traj`
+（5,401 条）——全图 1024 点里含大量静止背景点，和 `movebench_dense` 的 137/1018 是同一现象，
+按 `visible_ratio` 升序排的 `validate_report.json` 可直接用来剔样本。
+
 **dense 版的读数要注意**：全图网格包含大量静止背景点，因此平均位移被拉低、
 `static_traj` 计数上升（movebench 23 → 137）属于**预期现象**，不是跟踪失败；
 同时低可见率样本反而减少（背景点比目标实例上的点更容易保持可见）。
@@ -192,7 +247,7 @@ DATASET=movebench GPU=7 bash data_process/preprocess_features.sh
 import json, numpy as np
 from PIL import Image
 
-records = json.load(open("datasets/movebench/dataset.json"))     # 或 movebench_dense
+records = json.load(open("datasets/movebench/dataset.json"))     # 或 movebench_dense / omnir2v
 r = records[0]
 
 first_frame = Image.open(r["first_frame"])                 # 条件首帧（线稿）
@@ -211,4 +266,8 @@ prompt = r["prompt"]
 - dense 版的 `instance_mask` 为 `null`，读索引时要做空值处理
 - dense 目录不含视频文件，其 `source_video` / `gt_video` / 首末帧均指向对应的 mask 版目录，
   两者必须一起保留
-- 各子集的原始素材版权遵循其来源数据集（MoveBench / Anita）的规定
+- `omnir2v` 的索引 json 只在 `dataset2_part01.zip` 里，但 8 个分卷**必须全部解压**：
+  样本是按 `video_id` 交错切分的，每个包各持约 2,405 条的不同素材
+- `omnir2v` 的 prompt 描述的是 **RGB 源视频**（`source_video`），与线稿 `gt_video`
+  在内容上对应但不同域；做 caption 条件训练时用 `dataset.json` 的 `prompt` 即可
+- 各子集的原始素材版权遵循其来源数据集（MoveBench / Anita / Omni-R2V）的规定