# TopoSlots 项目索引

**项目根目录**: `/iridisfs/scratch/ts1v23/workspace/motion_representation_study/`
**HuggingFace**: https://huggingface.co/datasets/Tevior/TopoSlots-MotionData
**最后更新**: 2026-03-18

---

## 进度总览

| 阶段 | 状态 | 说明 |
|------|:----:|------|
| Idea Discovery | ✅ | 文献调研 → 生成 → 筛选 → 外部评审 |
| 数据准备 | ✅ | 7 数据集, 79 骨架, 24,448 motions, 可视化验证通过 |
| 数据上传 | ✅ | HuggingFace `Tevior/TopoSlots-MotionData` |
| 标注规范 | ✅ | 中英双语 JSON schema, 动作类别体系 |
| 骨骼命名审查 | ✅ | 0 errors, side tag 99.3%, canonical 100% 覆盖, 审查报告见下 |
| 实验计划 | ✅ | 6 blocks, 16 runs, 8 milestones |
| 模型: Skeleton Encoder (A) | ✅ | 5.9M params, 图注意力+时序融合 |
| 模型: Slot Assignment (B) | ✅ | 138K params, Sinkhorn OT, K=24 |
| 模型: Slot RVQ (C) | ❌ | 参考 MoMask RVQ |
| 模型: Foundation Align (D) | ❌ | CLIP/video alignment |
| 模型: Decoder (E) | ❌ | slot→joints + FK supervision |
| 模型: Generator (F) | ❌ | MaskGIT over T×K grid |
| 训练 pipeline | ❌ | 3 阶段训练 |
| Baselines | ❌ | NECromancer CLS变体, MoMask |
| 实验执行 | ❌ | M0-M7 (~6-8 周) |
| 论文 | ❌ | NeurIPS 2026 / ICLR 2027 |

---

## 骨骼命名审查结果

**审查脚本**: `scripts/full_skeleton_audit.py`
**审查报告**: `logs/data_fix_20260318/skeleton_audit_report.md`
**修复记录**: `logs/data_fix_20260318/PROGRESS.md`

### 审查指标

| 指标 | 结果 |
|------|------|
| 错误 (ERROR) | **0** — 所有骨架树连通、geodesic 对称、无 NaN/Inf |
| Side tag 准确率 | **99.3%** (3537/3563 关节) |
| Canonical name 覆盖率 | **100%** (1193 raw → 916 canonical) |
| Geodesic 距离有效性 | **100%** |
| Motion 数据完整性 | **100%** |
| 拓扑连通性 | **100%** (所有骨架单根、全连通) |

### 残留 Warnings (76, 全部非阻塞)
- Side tag mismatch: 26 (0.7%) — Sabrecat/Spider/Dog 极端命名模式的眼/脸/趾末端
- Duplicate canonical: 37 — BVH 源数据冗余命名 (Toe1 vs Toe01)
- 其他: 13 — 高速度(2), 前缀残留(2), 骨长异常(3), 深树(1), 跨数据集深度差异(5)

### 与架构兼容性

| 架构组件 | 依赖数据 | 兼容 |
|---------|---------|:----:|
| `get_joint_features()` side one-hot | side_tags | ✅ |
| Graph attention edge bias | adjacency, geodesic_dist | ✅ |
| Symmetry augmentation | symmetry_pairs | ✅ |
| CLIP embedding (foundation align) | canonical_names | ✅ |
| Motion features | local_positions, velocities | ✅ |
| FK supervision | local_rotations_6d | ✅ |

---

## 文件索引

### 规划文档
| 文件 | 内容 |
|------|------|
| `IDEA_REPORT.md` | 4 个候选 idea 排名, 新颖性验证, 外部评审结果 |
| `IMPLEMENTATION_PLAN.md` | 完整架构设计 (A-F 六个组件), 超参数, 训练计划, baseline, 评估方案 |
| `literature_survey.md` | 15+ 篇论文, 5 个关键 gap |
| `refine-logs/EXPERIMENT_PLAN.md` | Claim→实验映射, 6 blocks, baseline 选择, 参考代码库, 执行顺序 |
| `refine-logs/EXPERIMENT_TRACKER.md` | 16 个 run 的状态追踪表 |
| `docs/ANNOTATION_GUIDELINE.md` | 动作文本标注规范 (中文), JSON schema, 撰写指南 |

### 模型代码
| 文件 | 状态 | 内容 |
|------|:----:|------|
| `src/models/skeleton_encoder.py` | ✅ | GraphAttentionBlock + TemporalBlock + SkeletonEncoder |
| `src/models/slot_assignment.py` | ✅ | Sinkhorn OT + SlotAssignment (pool/unpool/losses) |
| `src/models/slot_quantizer.py` | ❌ | 2-level RVQ + skeleton residual adapter |
| `src/models/decoder.py` | ❌ | Cross-attention slot→joints + FK |
| `src/models/foundation_align.py` | ❌ | CLIP/video teacher alignment |
| `src/models/generator.py` | ❌ | MaskGIT 2D axial transformer |
| `src/models/toposlots.py` | ❌ | 完整模型整合 |

### 数据代码
| 文件 | 内容 |
|------|------|
| `src/data/unified_dataset.py` | PyTorch Dataset, 多骨架 padding/masking, Scheme C |
| `src/data/skeleton_graph.py` | SkeletonGraph 拓扑表示, side tag (6 级优先级正则), symmetry 检测 |
| `src/data/bvh_parser.py` | BVH 解析器 |
| `src/data/humanml3d_converter.py` | SMPL-22 骨架 + 263D 特征提取 |
| `src/data/canonical_names.py` | 人类数据集 canonical mapping (186 raw → 76 canonical) |
| `src/data/zoo_canonical_names.py` | Zoo 动物 canonical mapping (1193 raw → 916 canonical, 规则引擎) |

### 预处理 & 审查脚本
| 文件 | 内容 |
|------|------|
| `scripts/preprocess_humanml3d.py` | HumanML3D → Scheme C |
| `scripts/preprocess_bvh.py` | 通用 BVH → Scheme C (支持 --scale) |
| `scripts/preprocess_truebones_zoo.py` | Zoo 按物种处理 + 文本匹配 |
| `scripts/inject_canonical_names.py` | Canonical names 注入所有 skeleton.npz |
| `scripts/full_skeleton_audit.py` | 全面骨骼审查 (7 项检查, 79 骨架) |
| `scripts/fbx2bvh_blender.py` | Blender FBX→BVH 批量转换 |
| `scripts/visualize_datasets.py` | 数据可视化 + sanity check |
| `scripts/visualize_zoo.py` | Zoo 动物骨架可视化 |
| `scripts/visualize_canonical.py` | Canonical names + side tag + symmetry 可视化 |

### 数据集 (`data/processed/`)
| 目录 | 骨架 | 关节 | Motions | 文本 | 缩放 | Canonical |
|------|------|:----:|:-------:|:----:|------|:--------:|
| `humanml3d/` | SMPL | 22 | 14,449 | 44K | 米 | ✅ |
| `lafan1/` | Ubisoft | 22 | 77 | ✗ | cm→m | ✅ |
| `100style/` | XSens | 23 | 810 | styles | cm→m | ✅ |
| `bandai_namco/` | BN | 22 | 3,053 | ✗ | cm→m | ✅ |
| `cmu_mocap/` | CMU | 31 | 2,496 | ✗ | --scale 0.0685 | ✅ |
| `mixamo/` | Mixamo | 67 | 2,453 | ✗ | cm→m (Blender) | ✅ |
| `truebones_zoo/` | 73 种动物 | 9-145 | 1,110 | 888 | cm→m | ✅ |

### 审查 & 修复日志
| 文件 | 内容 |
|------|------|
| `logs/data_fix_20260318/PROGRESS.md` | 完整修复进度 + 关键决策 + 审查报告 |
| `logs/data_fix_20260318/skeleton_audit_report.md` | 自动生成的审查报告 (79 骨架 × 7 项检查) |
| `logs/data_fix_20260318/T2a_human_canonical.log` | Agent A: 人类 canonical mapping 日志 |
| `logs/data_fix_20260318/T2b_zoo_canonical.log` | Agent B: Zoo canonical mapping 日志 |

### 可视化结果
| 文件 | 内容 |
|------|------|
| `results/data_check/*.png` | 7 个数据集的骨架 + 轨迹 + 速度 + foot contact |
| `results/canonical_check/human_canonical_overview.png` | 6 个人类骨架 canonical names + side tags 标注 |
| `results/canonical_check/zoo_canonical_overview.png` | 12 种动物骨架 canonical + side tags 标注 |
| `results/canonical_check/canonical_consistency_heatmap.png` | 跨数据集 22 核心部位一致性热力图 |
| `results/canonical_check/side_tag_stats.png` | Side tag 分布 + symmetry pairs 统计柱状图 |

### 工具
| 路径 | 说明 |
|------|------|
| `tools/blender-4.2.0-linux-x64/blender` | Blender 便携版 (无需 sudo) |

### 参考代码库 (本地)
| 路径 | 用途 |
|------|------|
| `/scratch/ts1v23/workspace/momask-codes-main/` | RVQ, MaskGIT, HumanML3D 评估器 |
| `/scratch/ts1v23/workspace/motion-latent-diffusion-main/` | Latent diffusion baseline |
| `/scratch/ts1v23/workspace/motion-structural-disentangled-tokenizer/` | 分部位 tokenization |

---

## 动作表示 (Scheme C)

```
每个 motion.npz:
  Slot Token Input (跨骨架):  local_positions [T,J,3] + velocities [T,J,3] = 6D/joint
  Root Track (独立):          root_position [T,3] + root_velocity [T,3]
  Decoder GT (骨架特定):      local_rotations_6d [T,J-1,6], joint_positions [T,J,3]
  Auxiliary:                  foot_contact [T,4], bone_lengths [T,J], accelerations [T,J,3]

每个 skeleton.npz:
  joint_names       [J]      — 原始 BVH 关节名 (保持兼容)
  canonical_names   [J]      — 归一化英文解剖学名称 (用于 CLIP/语义)
  parent_indices    [J]      — 父节点索引 (-1 为 root)
  rest_offsets      [J, 3]   — 静息姿态偏移 (米)
  adjacency         [J, J]   — 无向邻接矩阵
  geodesic_dist     [J, J]   — 测地距离矩阵
  bone_lengths      [J]      — 骨骼长度
  depths            [J]      — 树深度
  degrees           [J]      — 子节点数
  side_tags         [J]      — left/right/center
  symmetry_pairs    [P, 2]   — 对称关节对
```

## 下一步

实现 Component C (SlotQuantizer) → D (Alignment) → E (Decoder) → F (Generator) → 训练