README.md

---
license: other
task_categories:
  - video-to-video
  - image-to-video
tags:
  - video
  - sketch
  - line-art
  - trajectory
  - point-tracking
  - motion
  - wan-move
  - sketchtraj
  - omnir2v
  - r2v
size_categories:
  - 1K<n<10K
  - 10K<n<100K
pretty_name: SketchTraj InBetween Data
---

# SketchTraj InBetween Data

面向 **「首帧线稿 + 运动轨迹 → 生成完整线稿视频」** 任务的训练数据集集合。

每条样本提供：RGB 源视频、XDoG 线稿视频（生成目标）、目标实例掩码（mask 版）、
SpaTracker 运动轨迹、首/末帧图、自然语言描述。

- 仓库文件 **①**：`dataset1.zip`（21.9 GB），解压后是 `demo` / `anita` / `movebench`
  三个子集的 `datasets/` 目录（mask 版 + dense 版，共 2,258 条索引记录）
- 解压：`unzip dataset1.zip -d SketchTraj/`（解压后约 25 GB）
- 仓库文件 **②**：`dataset2_part01.zip` … `dataset2_part08.zip`（共 114 GB），
  解压后是 `datasets/omnir2v/`（**19,243 条**，dense 版轨迹，无实例掩码）
- 解压：`unzip 'dataset2_part*.zip' -d SketchTraj/`（解压后约 115 GB；
  `metadata.json` / `dataset.json` / `captions_from_metadata.json` /
  `validate_report.json` 放在 **`dataset2_part01.zip`** 里，只需解这一个包拿索引）

`demo` / `anita` / `movebench` 的轨迹有**两个版本**，并存于 `datasets/` 下：

- **mask 版**（`datasets/<subset>/`）：查询点限制在 SAM2 实例掩码内，聚焦主体运动
- **dense 版**（`datasets/<subset>_dense/`）：全图均匀网格 1024 点，覆盖整帧运动场

`omnir2v` 只有 **dense 版**（1024 点，全图网格），`instance_mask` 恒为 `null`。

## 数据规模

| 子集 | mask 版 | dense 版 | 来源 | 说明 |
|---|---|---|---|---|
| `demo` | 21 | 21 | 场景片段 | 小规模自检集 |
| `anita` | 90 | 90 | Anita 动画（草图域） | 人物/角色动作为主 |
| `movebench` | 1,018 | 1,018 | MoveBench（RGB 域） | 大规模通用场景 |
| **小计** | **1,129** | **1,129** | | |
| `omnir2v` | — | **19,243** | Omni-R2V 线稿数据（草图域） | 大规模，只有 dense 版，`instance_mask = null` |
| **总计** | **1,129** | **20,372** | | |

## 目录结构

### mask 版（`process_dataset.sh` 产出）

```
datasets/<subset>/
├── raw/               # 原始素材（MoveBench 的 single_track.txt / Anita PNG 等）
├── source_video/      # RGB 源视频                ->  dataset.json: source_video
├── gt_video/          # XDoG 线稿视频（监督目标）  ->  gt_video
├── instance_mask/     # SAM2 目标实例掩码视频      ->  instance_mask
├── first_frame/       # 首帧 jpg                  ->  first_frame
├── last_frame/        # 末帧 jpg                  ->  last_frame
├── trajectory/        # SpaTracker 轨迹 npz       ->  trajectory
├── traj_vis/          # 轨迹可视化 mp4 + traj_report.json
├── dataset.json       # 最终训练索引
├── metadata.json      # 流水线输入索引
├── validate_report.json   # 体检报告
└── captions_from_metadata.json   # {video_id: prompt} 备份
```

### dense 版（`process_dataset_dense.sh` 产出）

只做轨迹与可视化，视频 / 线稿 / 首末帧 / prompt 全部**复用 mask 版**（不复制文件，
索引里的 `source_video` / `gt_video` 仍指向 `datasets/<subset>/`）：

```
datasets/<subset>_dense/
├── metadata.json          # 输入索引（不含 mask）
├── trajectory/            # 密集轨迹 npz（1024 点/条）
├── traj_vis/              # 轨迹可视化 + traj_report.json
├── dataset.json           # 最终索引（instance_mask = null）
└── validate_report.json
```

### `omnir2v`（19,243 条，`dataset2_part*.zip`）

单目录、无 mask 版、无 dense 子目录，全部素材都在 `datasets/omnir2v/` 下：

```
datasets/omnir2v/
├── source_video/      # RGB 源视频（Omni-R2V 原始素材）      ->  source_video
├── gt_video/          # XDoG 线稿视频（监督目标，65 GB）      ->  gt_video
├── first_frame/       # 首帧 jpg（*_first.jpg）              ->  first_frame
├── last_frame/        # 末帧 jpg（*_last.jpg）               ->  last_frame
├── trajectory/        # SpaTracker 轨迹 npz（*_tracks.npz）  ->  trajectory
├── traj_vis/          # 轨迹可视化 mp4 + traj_report.json
├── dataset.json       # 最终训练索引（instance_mask = null）
├── metadata.json      # 流水线输入索引（含 ref_video_path）
├── validate_report.json
└── captions_from_metadata.json   # {video_id: prompt} 备份
```

- `video_id` 形如 `r2v_lineart_000000`，共 19,243 个
- **没有** `instance_mask/` 目录，索引里该字段恒为 `null`，读索引时要做空值处理
- 视频规格与其余子集一致：H.264 / 832×480 / 49 帧 / 23.976 fps

## `dataset.json` 格式

数组，每条一个样本：

```json
{
  "video_id": "Pexels_3C_product_0",
  "source_video": "./datasets/movebench/source_video/Pexels_3C_product_0.mp4",
  "gt_video": "./datasets/movebench/gt_video/Pexels_3C_product_0.mp4",
  "instance_mask": "./datasets/movebench/instance_mask/Pexels_3C_product_0.mp4",
  "first_frame": "./datasets/movebench/first_frame/Pexels_3C_product_0_first.jpg",
  "last_frame": "./datasets/movebench/last_frame/Pexels_3C_product_0_last.jpg",
  "trajectory": "./datasets/movebench/trajectory/Pexels_3C_product_0_tracks.npz",
  "prompt": "A laptop is placed on a wooden table. ..."
}
```

`omnir2v` 的同构样本（`instance_mask` 为 `null`）：

```json
{
  "video_id": "r2v_lineart_000000",
  "source_video": "./datasets/omnir2v/source_video/r2v_lineart_000000.mp4",
  "gt_video": "./datasets/omnir2v/gt_video/r2v_lineart_000000.mp4",
  "instance_mask": null,
  "first_frame": "./datasets/omnir2v/first_frame/r2v_lineart_000000_first.jpg",
  "last_frame": "./datasets/omnir2v/last_frame/r2v_lineart_000000_last.jpg",
  "trajectory": "./datasets/omnir2v/trajectory/r2v_lineart_000000_tracks.npz",
  "prompt": "The video clip features a close-up of an elderly woman with short, gray hair. ..."
}
```

| 字段 | 含义 |
|---|---|
| `source_video` | RGB 源视频，轨迹从中提取 |
| `gt_video` | XDoG 线稿视频，训练监督目标（草图域） |
| `instance_mask` | 目标实例掩码视频，限定轨迹查询点落在目标物体上（**dense 版为 `null`**） |
| `first_frame` / `last_frame` | 首帧 / 末帧图 |
| `trajectory` | 轨迹 npz：`tracks [T=49, N, 2]` + `visibility [T=49, N]`，坐标在 **832×480** 像素空间 |
| `prompt` | 自然语言描述 |

## 轨迹 npz

```python
z = np.load("..._tracks.npz")
tracks     = z["tracks"]      # float32 [49, N, 2]，逐帧 (x, y) 像素坐标
visibility = z["visibility"]  # bool    [49, N]，该帧该点是否可见
```

两个版本的区别只在**查询点从哪来**，取帧、跟踪器与坐标空间完全一致：

| | mask 版 | dense 版 |
|---|---|---|
| `warp_mode` | `ref_video_mask` | `ref_video` |
| 查询点 | `grid_size=22` 网格 ∩ 实例掩码首帧，上限 500 | 全图 `grid_size=32` 网格 |
| 点数 N | ~200–500（随掩码大小） | **1024**（= 32×32，固定） |
| 覆盖 | 仅目标实例 | 整帧（含背景） |
| 需要掩码 | 是（SAM2） | 否 |
| 质检指标 | 含 `in_mask_ratio` | 无 `in_mask_ratio` |

- 坐标空间与预处理一致：**49 帧 × 480(H) × 832(W)**
- `traj_vis/<video_id>.mp4` 是轨迹叠在 RGB 源视频上的可视化（H.264 / 832×480 / 49 帧 / 12fps），
  `traj_vis/traj_report.json` 给出每条的 `visible_ratio`、`mean_step_px`（mask 版还有 `in_mask_ratio`）

## 预处理参数

| 参数 | 值 |
|---|---|
| `frame_num` | 49（对原始视频按 `linspace` 重采样） |
| `resolution` | 480×832（bilinear resize） |
| `grid_size` | mask 版 22 / dense 版 32 |
| `warp_mode` | mask 版 `ref_video_mask` / dense 版 `ref_video` |
| `max_object_queries` | 500（仅 mask 版） |
| 线稿（gt_video） | XDoG，`sigma=1.0 k=2.0 tau=0.98 eps=0.01 phi=20` |
| 掩码 | SAM2.1 `sam2.1_hiera_large`，自动提示，`max_objects=1` |

训练特征（`preprocessed/`：Wan2.1 VAE latent / UMT5-XXL / OpenCLIP / y_cond）**当前未产出**，
数据集定稿后由 `bash data_process/preprocess_features.sh DATASET=<subset>` 单独生成。

## Prompt 来源

| 子集 | 生成方式 |
|---|---|
| `anita`（90） | Qwen3-VL-30B-A3B-Instruct 逐条描述视频内容与运动，词数中位数 112 |
| `demo`（21） | 同上，词数中位数 226 |
| `movebench`（1,018） | 沿用 MoveBench 原始 caption（`raw/single_track.txt`） |
| `omnir2v`（19,243） | Qwen3-VL-30B-A3B-Instruct 对 **RGB 源视频**（不是线稿，线稿对 VLM 不可读）<br>逐条描述人物/物体的运动方向与画面事件，词数中位数 **208**（p10 125 / p90 222）<br>已同步写回 `metadata.json` / `dataset.json` / `captions_from_metadata.json` |

重建索引时 `prepare_metadata.py --inherit_prompt` 会自动继承旧索引里的 prompt，不会被默认模板冲掉。

## 构建流程

1. **实例掩码**（mask 版）：SAM2.1 + 自动提示，逐视频生成目标实例掩码
2. **线稿生成**：XDoG（RGB → 白底黑线）
3. **轨迹提取**：SpaTrackerV2；mask 版 `ref_video_mask`，dense 版 `ref_video`（1024 点）
4. **质检可视化**：`visualize_trajectory.py` 渲染 `traj_vis/` 并输出质量报告
5. **体检**：`validate_dataset.py` 输出 `validate_report.json`
6. **训练特征**（可选）：`preprocess_features.sh` 生成 `preprocessed/`

```bash
# mask 版
DATASET=movebench GPU=7 bash data_process/process_dataset.sh
# dense 版（只跑轨迹 + 可视化，输出到新文件夹）
DATASET=movebench GPU=7 bash data_process/process_dataset_dense.sh
# 训练特征
DATASET=movebench GPU=7 bash data_process/preprocess_features.sh
```

## 质量统计（`validate_report.json`，中位数）

| 子集 | 版本 | 点数 | 可见率 p50 | 平均帧位移 p50 | 静止轨迹 | 低可见率 |
|---|---|---|---|---|---|---|
| demo | mask | 424 | 0.599 | 2.97 px | 6 | 5 |
| demo | dense | 1024 | 0.719 | 2.31 px | 7 | 6 |
| anita | mask | 500 | 0.586 | 1.85 px | 30 | 16 |
| anita | dense | 1024 | 0.592 | 1.05 px | 32 | 7 |
| movebench | mask | 500 | 0.888 | 3.55 px | 23 | 10 |
| movebench | dense | 1024 | 0.846 | 1.99 px | 137 | 6 |
| **omnir2v** | dense | 1024 | 0.807 | 1.38 px | 5,401 | 661 |

判据：可见率 < 0.2 记 `low_visible`；平均帧位移 < 0.5 px 记 `static_traj`。

`omnir2v` 的 19,243 条里 `n_bad_samples = 6,058`（31.5%），绝大多数是 `static_traj`
（5,401 条）——全图 1024 点里含大量静止背景点，和 `movebench_dense` 的 137/1018 是同一现象，
按 `visible_ratio` 升序排的 `validate_report.json` 可直接用来剔样本。

**dense 版的读数要注意**：全图网格包含大量静止背景点，因此平均位移被拉低、
`static_traj` 计数上升（movebench 23 → 137）属于**预期现象**，不是跟踪失败；
同时低可见率样本反而减少（背景点比目标实例上的点更容易保持可见）。
报告按 `visible_ratio` 升序排列，可直接用于剔除低质样本。

## 快速使用

```python
import json, numpy as np
from PIL import Image

records = json.load(open("datasets/movebench/dataset.json"))     # 或 movebench_dense / omnir2v
r = records[0]

first_frame = Image.open(r["first_frame"])                 # 条件首帧（线稿）
z = np.load(r["trajectory"])
tracks, vis = z["tracks"], z["visibility"]                 # [49, N, 2] / [49, N]
prompt = r["prompt"]
```

训练时的监督目标是 `gt_video`（线稿视频），输入条件为首帧线稿 + 轨迹 + prompt。

## 注意事项

- 轨迹坐标在 **832×480** 空间；若要可视化到原分辨率视频，需复现预处理的
  `linspace` 取帧 + `resize` 流程（取帧逻辑统一在 `data_process/common.py`），否则点位会错位
- `gt_video` 是线稿（低饱和、颜色数少），不要当 RGB 真值用
- dense 版的 `instance_mask` 为 `null`，读索引时要做空值处理
- dense 目录不含视频文件，其 `source_video` / `gt_video` / 首末帧均指向对应的 mask 版目录，
  两者必须一起保留
- `omnir2v` 的索引 json 只在 `dataset2_part01.zip` 里，但 8 个分卷**必须全部解压**：
  样本是按 `video_id` 交错切分的，每个包各持约 2,405 条的不同素材
- `omnir2v` 的 prompt 描述的是 **RGB 源视频**（`source_video`），与线稿 `gt_video`
  在内容上对应但不同域；做 caption 条件训练时用 `dataset.json` 的 `prompt` 即可
- 各子集的原始素材版权遵循其来源数据集（MoveBench / Anita / Omni-R2V）的规定