File size: 8,481 Bytes
362201d | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 | # TopoSlots 项目索引
**项目根目录**: `/iridisfs/scratch/ts1v23/workspace/motion_representation_study/`
**HuggingFace**: https://huggingface.co/datasets/Tevior/TopoSlots-MotionData
**最后更新**: 2026-03-18
---
## 进度总览
| 阶段 | 状态 | 说明 |
|------|:----:|------|
| Idea Discovery | ✅ | 文献调研 → 生成 → 筛选 → 外部评审 |
| 数据准备 | ✅ | 7 数据集, 79 骨架, 24,448 motions, 可视化验证通过 |
| 数据上传 | ✅ | HuggingFace `Tevior/TopoSlots-MotionData` |
| 标注规范 | ✅ | 中英双语 JSON schema, 动作类别体系 |
| 骨骼命名审查 | ✅ | 0 errors, side tag 99.3%, canonical 100% 覆盖, 审查报告见下 |
| 实验计划 | ✅ | 6 blocks, 16 runs, 8 milestones |
| 模型: Skeleton Encoder (A) | ✅ | 5.9M params, 图注意力+时序融合 |
| 模型: Slot Assignment (B) | ✅ | 138K params, Sinkhorn OT, K=24 |
| 模型: Slot RVQ (C) | ❌ | 参考 MoMask RVQ |
| 模型: Foundation Align (D) | ❌ | CLIP/video alignment |
| 模型: Decoder (E) | ❌ | slot→joints + FK supervision |
| 模型: Generator (F) | ❌ | MaskGIT over T×K grid |
| 训练 pipeline | ❌ | 3 阶段训练 |
| Baselines | ❌ | NECromancer CLS变体, MoMask |
| 实验执行 | ❌ | M0-M7 (~6-8 周) |
| 论文 | ❌ | NeurIPS 2026 / ICLR 2027 |
---
## 骨骼命名审查结果
**审查脚本**: `scripts/full_skeleton_audit.py`
**审查报告**: `logs/data_fix_20260318/skeleton_audit_report.md`
**修复记录**: `logs/data_fix_20260318/PROGRESS.md`
### 审查指标
| 指标 | 结果 |
|------|------|
| 错误 (ERROR) | **0** — 所有骨架树连通、geodesic 对称、无 NaN/Inf |
| Side tag 准确率 | **99.3%** (3537/3563 关节) |
| Canonical name 覆盖率 | **100%** (1193 raw → 916 canonical) |
| Geodesic 距离有效性 | **100%** |
| Motion 数据完整性 | **100%** |
| 拓扑连通性 | **100%** (所有骨架单根、全连通) |
### 残留 Warnings (76, 全部非阻塞)
- Side tag mismatch: 26 (0.7%) — Sabrecat/Spider/Dog 极端命名模式的眼/脸/趾末端
- Duplicate canonical: 37 — BVH 源数据冗余命名 (Toe1 vs Toe01)
- 其他: 13 — 高速度(2), 前缀残留(2), 骨长异常(3), 深树(1), 跨数据集深度差异(5)
### 与架构兼容性
| 架构组件 | 依赖数据 | 兼容 |
|---------|---------|:----:|
| `get_joint_features()` side one-hot | side_tags | ✅ |
| Graph attention edge bias | adjacency, geodesic_dist | ✅ |
| Symmetry augmentation | symmetry_pairs | ✅ |
| CLIP embedding (foundation align) | canonical_names | ✅ |
| Motion features | local_positions, velocities | ✅ |
| FK supervision | local_rotations_6d | ✅ |
---
## 文件索引
### 规划文档
| 文件 | 内容 |
|------|------|
| `IDEA_REPORT.md` | 4 个候选 idea 排名, 新颖性验证, 外部评审结果 |
| `IMPLEMENTATION_PLAN.md` | 完整架构设计 (A-F 六个组件), 超参数, 训练计划, baseline, 评估方案 |
| `literature_survey.md` | 15+ 篇论文, 5 个关键 gap |
| `refine-logs/EXPERIMENT_PLAN.md` | Claim→实验映射, 6 blocks, baseline 选择, 参考代码库, 执行顺序 |
| `refine-logs/EXPERIMENT_TRACKER.md` | 16 个 run 的状态追踪表 |
| `docs/ANNOTATION_GUIDELINE.md` | 动作文本标注规范 (中文), JSON schema, 撰写指南 |
### 模型代码
| 文件 | 状态 | 内容 |
|------|:----:|------|
| `src/models/skeleton_encoder.py` | ✅ | GraphAttentionBlock + TemporalBlock + SkeletonEncoder |
| `src/models/slot_assignment.py` | ✅ | Sinkhorn OT + SlotAssignment (pool/unpool/losses) |
| `src/models/slot_quantizer.py` | ❌ | 2-level RVQ + skeleton residual adapter |
| `src/models/decoder.py` | ❌ | Cross-attention slot→joints + FK |
| `src/models/foundation_align.py` | ❌ | CLIP/video teacher alignment |
| `src/models/generator.py` | ❌ | MaskGIT 2D axial transformer |
| `src/models/toposlots.py` | ❌ | 完整模型整合 |
### 数据代码
| 文件 | 内容 |
|------|------|
| `src/data/unified_dataset.py` | PyTorch Dataset, 多骨架 padding/masking, Scheme C |
| `src/data/skeleton_graph.py` | SkeletonGraph 拓扑表示, side tag (6 级优先级正则), symmetry 检测 |
| `src/data/bvh_parser.py` | BVH 解析器 |
| `src/data/humanml3d_converter.py` | SMPL-22 骨架 + 263D 特征提取 |
| `src/data/canonical_names.py` | 人类数据集 canonical mapping (186 raw → 76 canonical) |
| `src/data/zoo_canonical_names.py` | Zoo 动物 canonical mapping (1193 raw → 916 canonical, 规则引擎) |
### 预处理 & 审查脚本
| 文件 | 内容 |
|------|------|
| `scripts/preprocess_humanml3d.py` | HumanML3D → Scheme C |
| `scripts/preprocess_bvh.py` | 通用 BVH → Scheme C (支持 --scale) |
| `scripts/preprocess_truebones_zoo.py` | Zoo 按物种处理 + 文本匹配 |
| `scripts/inject_canonical_names.py` | Canonical names 注入所有 skeleton.npz |
| `scripts/full_skeleton_audit.py` | 全面骨骼审查 (7 项检查, 79 骨架) |
| `scripts/fbx2bvh_blender.py` | Blender FBX→BVH 批量转换 |
| `scripts/visualize_datasets.py` | 数据可视化 + sanity check |
| `scripts/visualize_zoo.py` | Zoo 动物骨架可视化 |
| `scripts/visualize_canonical.py` | Canonical names + side tag + symmetry 可视化 |
### 数据集 (`data/processed/`)
| 目录 | 骨架 | 关节 | Motions | 文本 | 缩放 | Canonical |
|------|------|:----:|:-------:|:----:|------|:--------:|
| `humanml3d/` | SMPL | 22 | 14,449 | 44K | 米 | ✅ |
| `lafan1/` | Ubisoft | 22 | 77 | ✗ | cm→m | ✅ |
| `100style/` | XSens | 23 | 810 | styles | cm→m | ✅ |
| `bandai_namco/` | BN | 22 | 3,053 | ✗ | cm→m | ✅ |
| `cmu_mocap/` | CMU | 31 | 2,496 | ✗ | --scale 0.0685 | ✅ |
| `mixamo/` | Mixamo | 67 | 2,453 | ✗ | cm→m (Blender) | ✅ |
| `truebones_zoo/` | 73 种动物 | 9-145 | 1,110 | 888 | cm→m | ✅ |
### 审查 & 修复日志
| 文件 | 内容 |
|------|------|
| `logs/data_fix_20260318/PROGRESS.md` | 完整修复进度 + 关键决策 + 审查报告 |
| `logs/data_fix_20260318/skeleton_audit_report.md` | 自动生成的审查报告 (79 骨架 × 7 项检查) |
| `logs/data_fix_20260318/T2a_human_canonical.log` | Agent A: 人类 canonical mapping 日志 |
| `logs/data_fix_20260318/T2b_zoo_canonical.log` | Agent B: Zoo canonical mapping 日志 |
### 可视化结果
| 文件 | 内容 |
|------|------|
| `results/data_check/*.png` | 7 个数据集的骨架 + 轨迹 + 速度 + foot contact |
| `results/canonical_check/human_canonical_overview.png` | 6 个人类骨架 canonical names + side tags 标注 |
| `results/canonical_check/zoo_canonical_overview.png` | 12 种动物骨架 canonical + side tags 标注 |
| `results/canonical_check/canonical_consistency_heatmap.png` | 跨数据集 22 核心部位一致性热力图 |
| `results/canonical_check/side_tag_stats.png` | Side tag 分布 + symmetry pairs 统计柱状图 |
### 工具
| 路径 | 说明 |
|------|------|
| `tools/blender-4.2.0-linux-x64/blender` | Blender 便携版 (无需 sudo) |
### 参考代码库 (本地)
| 路径 | 用途 |
|------|------|
| `/scratch/ts1v23/workspace/momask-codes-main/` | RVQ, MaskGIT, HumanML3D 评估器 |
| `/scratch/ts1v23/workspace/motion-latent-diffusion-main/` | Latent diffusion baseline |
| `/scratch/ts1v23/workspace/motion-structural-disentangled-tokenizer/` | 分部位 tokenization |
---
## 动作表示 (Scheme C)
```
每个 motion.npz:
Slot Token Input (跨骨架): local_positions [T,J,3] + velocities [T,J,3] = 6D/joint
Root Track (独立): root_position [T,3] + root_velocity [T,3]
Decoder GT (骨架特定): local_rotations_6d [T,J-1,6], joint_positions [T,J,3]
Auxiliary: foot_contact [T,4], bone_lengths [T,J], accelerations [T,J,3]
每个 skeleton.npz:
joint_names [J] — 原始 BVH 关节名 (保持兼容)
canonical_names [J] — 归一化英文解剖学名称 (用于 CLIP/语义)
parent_indices [J] — 父节点索引 (-1 为 root)
rest_offsets [J, 3] — 静息姿态偏移 (米)
adjacency [J, J] — 无向邻接矩阵
geodesic_dist [J, J] — 测地距离矩阵
bone_lengths [J] — 骨骼长度
depths [J] — 树深度
degrees [J] — 子节点数
side_tags [J] — left/right/center
symmetry_pairs [P, 2] — 对称关节对
```
## 下一步
实现 Component C (SlotQuantizer) → D (Alignment) → E (Decoder) → F (Generator) → 训练
|