TopoSlots-MotionData / docs /ANNOTATION_TOOL_PLAN.md
Tevior's picture
Update README, docs (annotation plan + guidelines), scripts, src/data
eff1e50 verified

动作标注 Web 平台 — 实现方案

基于 Codex (GPT) 审批意见修订 2026-03-27


一、总体架构

标注者(浏览器) ──HTTP──▶ Flask App (端口 8080)
                            │
                            ├── SQLite (annotations.db)
                            ├── /data/renders/{dataset}/{id}.gif
                            └── /data/renders/{dataset}/{id}_overview.png

技术栈: Flask + Jinja2 + vanilla JS + SQLite 部署: python app.py --port 8080 --host 0.0.0.0,标注者浏览器直连内网 IP


二、数据库 Schema

motions 表(只读,初始化时从 npz 导入)

CREATE TABLE motions (
    id INTEGER PRIMARY KEY AUTOINCREMENT,
    dataset TEXT NOT NULL,           -- 'bandai_namco', 'mixamo', ...
    motion_id TEXT NOT NULL,         -- '000042', 'Dog_0001'
    source_file TEXT,                -- 原始 BVH 文件名
    num_frames INTEGER,
    fps REAL,
    num_joints INTEGER,
    species TEXT,                    -- 仅 Zoo 数据集
    existing_en TEXT,                -- 已有的英文文本(只读展示)
    action_category_auto TEXT,       -- 自动提取的 L1(从 labels.json)
    gif_path TEXT,                   -- 相对路径
    overview_path TEXT,              -- 相对路径
    UNIQUE(dataset, motion_id)
);

annotations 表(标注者写入)

CREATE TABLE annotations (
    id INTEGER PRIMARY KEY AUTOINCREMENT,
    dataset TEXT NOT NULL,
    motion_id TEXT NOT NULL,
    annotator TEXT NOT NULL DEFAULT '',
    L1_zh TEXT DEFAULT '',           -- 动作标签(2-6字)
    L2_zh TEXT DEFAULT '',           -- 短描述(1句,12-30字)
    L3_zh TEXT DEFAULT '',           -- 详细描述(2-3句,仅复杂动作)
    action_category TEXT DEFAULT '', -- 标注者选择的类别
    style TEXT DEFAULT '',           -- 风格标签(可选)
    species_override TEXT DEFAULT '',-- 物种修正(仅 Zoo)
    notes TEXT DEFAULT '',           -- 备注
    status TEXT DEFAULT 'unassigned',-- unassigned/in_progress/submitted/reviewed/needs_revision/skipped
    flag TEXT DEFAULT '',            -- uncertain/bad_render/ambiguous(异常标记)
    version INTEGER DEFAULT 1,
    created_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP,
    updated_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP,
    UNIQUE(dataset, motion_id)
);

annotation_history 表(变更记录)

CREATE TABLE annotation_history (
    id INTEGER PRIMARY KEY AUTOINCREMENT,
    dataset TEXT NOT NULL,
    motion_id TEXT NOT NULL,
    annotator TEXT,
    L1_zh TEXT,
    L2_zh TEXT,
    L3_zh TEXT,
    action_category TEXT,
    status TEXT,
    version INTEGER,
    saved_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP
);

三、页面设计

3.1 主页 /

6 个数据集卡片(排除 HumanML3D),每个显示:

  • 数据集名(中文别名)
  • 总条数 / 已标注数 / 完成率进度条
  • 优先级标记(P0/P1/P2)

数据集中文映射:

dataset_id 中文名 优先级
mixamo Mixamo 人类动画 P0
truebones_zoo 动物动作 P1
cmu_mocap CMU 动作捕捉 P1
bandai_namco 万代南梦宫 P2
100style 100种风格 P2
lafan1 LAFAN1 P2

3.2 标注列表页 /dataset/<dataset_id>

  • 分页表格(每页 50 条)
  • 列:序号 | GIF 缩略图(小) | Motion ID | 已有标注状态 | L1 | L2 | 状态标签 | 操作
  • 顶部筛选栏:全部 / 未标注 / 已标注 / 已提交 / 需修改 / 已跳过
  • "开始标注下一条"按钮(自动跳到第一条未标注的)

3.3 标注页面 /annotate/<dataset_id>/<motion_id> (核心)

┌─────────────────────────────────────────────────────────────┐
│  ◀ 上一条    [000042 / 3053]    下一条 ▶    [跳到未标注]     │
├────────────────────────┬────────────────────────────────────┤
│                        │                                    │
│  ┌──────────────────┐  │  📝 标注表单                       │
│  │                  │  │                                    │
│  │   GIF 动画       │  │  L1 动作标签 *(必填,2-6字)       │
│  │   (播放/暂停)    │  │  ┌────────────────────────┐       │
│  │                  │  │  │ 例: 走路、跳跃、攻击    │       │
│  └──────────────────┘  │  └────────────────────────┘       │
│                        │                                    │
│  ┌──────────────────┐  │  L2 短描述 *(必填,1句话)         │
│  │  多视角静态图     │  │  ┌────────────────────────┐       │
│  │  (overview.png)  │  │  │ 例: 一个人向前走了几步   │       │
│  └──────────────────┘  │  │ 然后停下。              │       │
│                        │  └────────────────────────┘       │
│  ────────────────────  │                                    │
│  ▶ 显示参考文本(折叠)  │  L3 详细描述(选填,复杂动作建议填) │
│  "A person performs    │  ┌────────────────────────┐       │
│   walk turn left."     │  │                        │       │
│                        │  │                        │       │
│                        │  └────────────────────────┘       │
│                        │                                    │
│                        │  动作类别 [下拉选择]               │
│                        │  风格/物种 [选填]                  │
│                        │  备注 [选填]                       │
│                        │                                    │
│                        │  异常标记: ☐看不清 ☐动作模糊 ☐渲染异常│
│                        │                                    │
│                        │  [💾 保存] [保存并下一条 ▶] [跳过]  │
├────────────────────────┴────────────────────────────────────┤
│  📖 标注指南(可折叠)                                       │
│  L1: 2-6字动作标签 | L2: 1句12-30字 | L3: 2-3句含时序细节   │
│  ✅ 好: "一个人向前快走" | ❌ 差: "走路" "关节运动"           │
└─────────────────────────────────────────────────────────────┘

关键交互:

  • 已有英文模板句默认折叠(避免锚定偏差)
  • 自动保存:输入 2 秒无操作后自动 AJAX 保存草稿
  • 明确"提交本条"按钮(status 从 in_progress → submitted)
  • 键盘: Ctrl+S 保存, Ctrl+→ 下一条, Ctrl+← 上一条
  • GIF 播放/暂停: 用 libgif-js 库实现帧级控制(无需 ffmpeg 转 mp4)

3.4 进度统计页 /stats

  • 各数据集完成率柱状图
  • 各标注者贡献统计
  • 按 action_category 分布饼图

四、API 设计

GET  /                                  → 主页
GET  /dataset/<ds>                      → 标注列表(支持 ?page=&filter=)
GET  /annotate/<ds>/<mid>               → 标注页面
POST /api/save/<ds>/<mid>               → 保存标注(自动保存/手动保存)
POST /api/submit/<ds>/<mid>             → 提交标注(status→submitted)
POST /api/skip/<ds>/<mid>               → 跳过(status→skipped, flag 必填)
GET  /api/next_unannotated/<ds>         → 获取下一条未标注的 motion_id
GET  /api/stats                         → JSON 统计数据
GET  /renders/<ds>/<filename>           → 静态文件(GIF/PNG)

五、状态机

unassigned ──(打开标注页)──▶ in_progress
in_progress ──(提交)──▶ submitted
in_progress ──(跳过)──▶ skipped
submitted ──(审核通过)──▶ reviewed
submitted ──(打回)──▶ needs_revision
needs_revision ──(重新提交)──▶ submitted
skipped ──(重新打开)──▶ in_progress

六、后处理流水线

1. 标注冻结后导出:
   python scripts/export_annotations.py --db annotations.db --output annotations_zh.json

2. LLM 批量翻译:
   python scripts/translate_annotations.py \
     --input annotations_zh.json \
     --output annotations_en.json \
     --model qwen2.5-72b \
     --terminology docs/terminology.json

3. 注入 npz:
   python scripts/inject_texts.py \
     --annotations annotations_en.json \
     --data_dir data/processed/

翻译脚本职责

  • 中文 → 英文直译
  • 生成第 2 条同义改写(不同用词相同语义)
  • 质量检查:长度、禁止技术词(关节/骨骼/帧数)、格式一致性
  • 记录 translation_model, prompt_version, translated_at

术语表 (docs/terminology.json):

{
  "走路": "walk", "跑步": "run", "跳跃": "jump",
  "左手": "left hand", "右脚": "right foot",
  "鳄鱼": "alligator", "老鹰": "eagle", ...
}

七、文件结构

annotation_tool/
├── app.py                   # Flask 主程序
├── db.py                    # SQLite 数据库层
├── init_db.py               # 从 npz/labels.json 初始化数据库
├── requirements.txt         # flask
├── annotations.db           # SQLite 数据库(运行时生成)
├── templates/
│   ├── base.html            # 基础模板(导航栏、CSS/JS 引用)
│   ├── index.html           # 主页(数据集卡片)
│   ├── dataset.html         # 标注列表页
│   ├── annotate.html        # 标注页面(核心)
│   └── stats.html           # 统计页
├── static/
│   ├── css/
│   │   └── style.css        # 全局样式
│   ├── js/
│   │   ├── annotate.js      # 标注页交互逻辑(自动保存、键盘、GIF控制)
│   │   └── libgif.js        # GIF 帧级控制库
│   └── img/
│       └── logo.png         # 可选
└── scripts/
    ├── export_annotations.py     # 导出标注为 JSON
    ├── translate_annotations.py  # LLM 批量翻译
    └── inject_texts.py           # 注入 npz

八、数据迁移

标注工具需要访问以下数据(从深度学习机拷贝到标注机):

# 需要拷贝的文件(约 23G renders + 少量 npz 元数据)
rsync -avP data/processed/*/renders/ target_machine:/path/to/data/renders/
rsync -avP data/processed/*/motions/ target_machine:/path/to/data/motions/  # 用于读取 texts/metadata
rsync -avP data/processed/*/labels.json target_machine:/path/to/data/labels/
rsync -avP data/processed/*/skeleton.npz target_machine:/path/to/data/skeletons/

或者只拷贝 renders(GIF/PNG)+ labels.json,init_db.py 只需要这些来初始化。


九、在标注机上的实现 Prompt

把以下 prompt 直接给标注机上的 Claude Code 执行:

请实现一个 3D 动作文本标注 Web 平台。

## 技术栈
Flask + Jinja2 + vanilla JS + SQLite,无需 React/Vue 等前端框架。

## 数据位置
动作 GIF 渲染在: {DATA_ROOT}/renders/{dataset}/{id}.gif 和 {id}_overview.png
动作元数据在: {DATA_ROOT}/motions/{dataset}/{id}.npz(numpy,含 texts/source_file/num_frames 等字段)
标签在: {DATA_ROOT}/labels/{dataset}/labels.json(JSON,motion_id → {L1_action, source_file, ...})

需要处理的 6 个数据集(排除 humanml3d):
- bandai_namco: 3053 条, 人类
- cmu_mocap: 2496 条, 人类
- mixamo: 2453 条, 人类
- truebones_zoo: 1110 条, 动物(73种)
- 100style: 810 条, 人类
- lafan1: 77 条, 人类

## 数据库
SQLite,三张表:

motions 表(只读,init 时从 npz/labels 导入):
- dataset, motion_id, source_file, num_frames, fps, num_joints, species, existing_en, action_category_auto, gif_path, overview_path

annotations 表(标注者写入):
- dataset, motion_id, annotator, L1_zh, L2_zh, L3_zh, action_category, style, species_override, notes, status(unassigned/in_progress/submitted/reviewed/needs_revision/skipped), flag(uncertain/bad_render/ambiguous), version, created_at, updated_at

annotation_history 表(每次保存记录快照):
- dataset, motion_id, annotator, L1_zh, L2_zh, L3_zh, action_category, status, version, saved_at

## 页面设计(全中文界面)

### 主页 /
6 个数据集卡片,显示名称/条数/已标注数/完成率进度条/优先级(P0/P1/P2)

### 列表页 /dataset/<ds>
分页表格(50条/页), 列: 序号|缩略图|ID|L1|L2|状态标签|操作
顶部筛选: 全部/未标注/已标注/已提交/需修改/已跳过
核心按钮: "开始标注下一条"(自动跳到第一条未标注的)

### 标注页 /annotate/<ds>/<mid>(核心页面)
左侧: GIF 动画(用 libgif-js 或 SuperGif 实现暂停/播放) + 多视角概览图
右侧表单:
- L1 动作标签 *必填 (placeholder: "2-6字,如: 走路、跳跃")
- L2 短描述 *必填 (placeholder: "1句话12-30字,描述动作主体和核心动作")
- L3 详细描述 选填 (placeholder: "2-3句,包含时序和身体部位细节")
- 动作类别下拉 *必填: locomotion/upper_body/full_body/dance/combat/daily/gesture/idle/vocalization/aerial/interaction
- 风格标签 选填
- 物种 选填(仅 truebones_zoo 显示,预填充)
- 备注 选填
- 异常标记 复选框: 看不清/动作模糊/渲染异常
- 已有英文参考文本 **默认折叠**(点击展开,避免锚定偏差)
- 按钮: [保存草稿] [提交本条] [保存并下一条] [跳过]
- 导航: 上一条/下一条/跳到未标注
- 自动保存: 输入停止 2 秒后自动 AJAX 保存草稿(不改变 status)
- 键盘: Ctrl+S 保存, Ctrl+Enter 提交并下一条, Ctrl+→ 下一条, Ctrl+← 上一条
- 顶部显示当前进度: "第 42 / 3053 条"
- 底部可折叠标注指南(含正反例)

### 统计页 /stats
各数据集完成率, 标注者贡献

## API
POST /api/save/<ds>/<mid>       — 保存草稿(自动保存调用)
POST /api/submit/<ds>/<mid>     — 提交(status→submitted, L1+L2+category 必填校验)
POST /api/skip/<ds>/<mid>       — 跳过(flag 必填)
GET  /api/next/<ds>?status=unassigned  — 下一条指定状态的 motion_id
GET  /api/stats                 — JSON 统计
GET  /renders/<path>            — 静态文件服务

## 状态流转
unassigned → in_progress(打开标注页时自动)
in_progress → submitted(提交)
in_progress → skipped(跳过)
submitted → reviewed(审核通过, 预留)
submitted → needs_revision(打回, 预留)
needs_revision → submitted(重新提交)

## 保存机制
- 每次保存同时写 annotations 表(更新 version+1)和 annotation_history 表(追加快照)
- 提交时校验: L1_zh 非空且 2-6 字, L2_zh 非空且 >=10 字, action_category 非空

## 初始化脚本 init_db.py
遍历 6 个数据集的 motions/*.npz 和 labels.json,填充 motions 表。
从 npz 的 texts 字段读取 existing_en。
从 labels.json 读取 action_category_auto。
检查 renders 目录中 gif/png 是否存在。

## 样式要求
- 中文界面,简洁实用
- 标注页左右分栏,左侧固定宽度(GIF),右侧表单
- 响应式,支持 1920px 宽屏
- 状态标签用颜色区分(未标注灰色/进行中蓝色/已提交绿色/需修改橙色/已跳过灰色)
- GIF 区域固定高度,不随表单滚动

## 注意事项
- 不要安装 React/Vue/npm,纯 Flask+Jinja+vanilla JS
- libgif-js 可以从 CDN 引入或直接内嵌(用于 GIF 暂停/播放/帧控制)
- 如果 libgif-js 太复杂,可以简化为点击 GIF 暂停(替换为 overview.png)/再点播放(恢复 GIF src)
- SQLite 文件放在 annotation_tool/annotations.db
- 启动命令: python annotation_tool/app.py --port 8080 --data-root /path/to/data

十、后续步骤

  1. 将 renders + labels.json + motions 拷贝到标注机
  2. 在标注机上用上述 prompt 让 Claude Code 实现
  3. 运行 python init_db.py 初始化数据库
  4. 启动 python app.py --port 8080
  5. 分配标注者账号(简单用户名即可)
  6. 标注完成后运行导出 → 翻译 → 注入流水线
  7. 翻译结果拷回深度学习机,注入 npz