Tevior commited on
Commit
362201d
·
verified ·
1 Parent(s): 141dea1

Upload INDEX.md with huggingface_hub

Browse files
Files changed (1) hide show
  1. INDEX.md +180 -0
INDEX.md ADDED
@@ -0,0 +1,180 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # TopoSlots 项目索引
2
+
3
+ **项目根目录**: `/iridisfs/scratch/ts1v23/workspace/motion_representation_study/`
4
+ **HuggingFace**: https://huggingface.co/datasets/Tevior/TopoSlots-MotionData
5
+ **最后更新**: 2026-03-18
6
+
7
+ ---
8
+
9
+ ## 进度总览
10
+
11
+ | 阶段 | 状态 | 说明 |
12
+ |------|:----:|------|
13
+ | Idea Discovery | ✅ | 文献调研 → 生成 → 筛选 → 外部评审 |
14
+ | 数据准备 | ✅ | 7 数据集, 79 骨架, 24,448 motions, 可视化验证通过 |
15
+ | 数据上传 | ✅ | HuggingFace `Tevior/TopoSlots-MotionData` |
16
+ | 标注规范 | ✅ | 中英双语 JSON schema, 动作类别体系 |
17
+ | 骨骼命名审查 | ✅ | 0 errors, side tag 99.3%, canonical 100% 覆盖, 审查报告见下 |
18
+ | 实验计划 | ✅ | 6 blocks, 16 runs, 8 milestones |
19
+ | 模型: Skeleton Encoder (A) | ✅ | 5.9M params, 图注意力+时序融合 |
20
+ | 模型: Slot Assignment (B) | ✅ | 138K params, Sinkhorn OT, K=24 |
21
+ | 模型: Slot RVQ (C) | ❌ | 参考 MoMask RVQ |
22
+ | 模型: Foundation Align (D) | ❌ | CLIP/video alignment |
23
+ | 模型: Decoder (E) | ❌ | slot→joints + FK supervision |
24
+ | 模型: Generator (F) | ❌ | MaskGIT over T×K grid |
25
+ | 训练 pipeline | ❌ | 3 阶段训练 |
26
+ | Baselines | ❌ | NECromancer CLS变体, MoMask |
27
+ | 实验执行 | ❌ | M0-M7 (~6-8 周) |
28
+ | 论文 | ❌ | NeurIPS 2026 / ICLR 2027 |
29
+
30
+ ---
31
+
32
+ ## 骨骼命名审查结果
33
+
34
+ **审查脚本**: `scripts/full_skeleton_audit.py`
35
+ **审查报告**: `logs/data_fix_20260318/skeleton_audit_report.md`
36
+ **修复记录**: `logs/data_fix_20260318/PROGRESS.md`
37
+
38
+ ### 审查指标
39
+
40
+ | 指标 | 结果 |
41
+ |------|------|
42
+ | 错误 (ERROR) | **0** — 所有骨架树连通、geodesic 对称、无 NaN/Inf |
43
+ | Side tag 准确率 | **99.3%** (3537/3563 关节) |
44
+ | Canonical name 覆盖率 | **100%** (1193 raw → 916 canonical) |
45
+ | Geodesic 距离有效性 | **100%** |
46
+ | Motion 数据完整性 | **100%** |
47
+ | 拓扑连通性 | **100%** (所有骨架单根、全连通) |
48
+
49
+ ### 残留 Warnings (76, 全部非阻塞)
50
+ - Side tag mismatch: 26 (0.7%) — Sabrecat/Spider/Dog 极端命名模式的眼/脸/趾末端
51
+ - Duplicate canonical: 37 — BVH 源数据冗余命名 (Toe1 vs Toe01)
52
+ - 其他: 13 — 高速度(2), 前缀残留(2), 骨长异常(3), 深树(1), 跨数据集深度差异(5)
53
+
54
+ ### 与架构兼容性
55
+
56
+ | 架构组件 | 依赖数据 | 兼容 |
57
+ |---------|---------|:----:|
58
+ | `get_joint_features()` side one-hot | side_tags | ✅ |
59
+ | Graph attention edge bias | adjacency, geodesic_dist | ✅ |
60
+ | Symmetry augmentation | symmetry_pairs | ✅ |
61
+ | CLIP embedding (foundation align) | canonical_names | ✅ |
62
+ | Motion features | local_positions, velocities | ✅ |
63
+ | FK supervision | local_rotations_6d | ✅ |
64
+
65
+ ---
66
+
67
+ ## 文件索引
68
+
69
+ ### 规划文档
70
+ | 文件 | 内容 |
71
+ |------|------|
72
+ | `IDEA_REPORT.md` | 4 个候选 idea 排名, 新颖性验证, 外部评审结果 |
73
+ | `IMPLEMENTATION_PLAN.md` | 完整架构设计 (A-F 六个组件), 超参数, 训练计划, baseline, 评估方案 |
74
+ | `literature_survey.md` | 15+ 篇论文, 5 个关键 gap |
75
+ | `refine-logs/EXPERIMENT_PLAN.md` | Claim→实验映射, 6 blocks, baseline 选择, 参考代码库, 执行顺序 |
76
+ | `refine-logs/EXPERIMENT_TRACKER.md` | 16 个 run 的状态追踪表 |
77
+ | `docs/ANNOTATION_GUIDELINE.md` | 动作文本标注规范 (中文), JSON schema, 撰写指南 |
78
+
79
+ ### 模型代码
80
+ | 文件 | 状态 | 内容 |
81
+ |------|:----:|------|
82
+ | `src/models/skeleton_encoder.py` | ✅ | GraphAttentionBlock + TemporalBlock + SkeletonEncoder |
83
+ | `src/models/slot_assignment.py` | ✅ | Sinkhorn OT + SlotAssignment (pool/unpool/losses) |
84
+ | `src/models/slot_quantizer.py` | ❌ | 2-level RVQ + skeleton residual adapter |
85
+ | `src/models/decoder.py` | ❌ | Cross-attention slot→joints + FK |
86
+ | `src/models/foundation_align.py` | ❌ | CLIP/video teacher alignment |
87
+ | `src/models/generator.py` | ❌ | MaskGIT 2D axial transformer |
88
+ | `src/models/toposlots.py` | ❌ | 完整模型整合 |
89
+
90
+ ### 数据代码
91
+ | 文件 | 内容 |
92
+ |------|------|
93
+ | `src/data/unified_dataset.py` | PyTorch Dataset, 多骨架 padding/masking, Scheme C |
94
+ | `src/data/skeleton_graph.py` | SkeletonGraph 拓扑表示, side tag (6 级优先级正则), symmetry 检测 |
95
+ | `src/data/bvh_parser.py` | BVH 解析器 |
96
+ | `src/data/humanml3d_converter.py` | SMPL-22 骨架 + 263D 特征提取 |
97
+ | `src/data/canonical_names.py` | 人类数据集 canonical mapping (186 raw → 76 canonical) |
98
+ | `src/data/zoo_canonical_names.py` | Zoo 动物 canonical mapping (1193 raw → 916 canonical, 规则引擎) |
99
+
100
+ ### 预处理 & 审查脚本
101
+ | 文件 | 内容 |
102
+ |------|------|
103
+ | `scripts/preprocess_humanml3d.py` | HumanML3D → Scheme C |
104
+ | `scripts/preprocess_bvh.py` | 通用 BVH → Scheme C (支持 --scale) |
105
+ | `scripts/preprocess_truebones_zoo.py` | Zoo 按物种处理 + 文本匹配 |
106
+ | `scripts/inject_canonical_names.py` | Canonical names 注入所有 skeleton.npz |
107
+ | `scripts/full_skeleton_audit.py` | 全面骨骼审查 (7 项检查, 79 骨架) |
108
+ | `scripts/fbx2bvh_blender.py` | Blender FBX���BVH 批量转换 |
109
+ | `scripts/visualize_datasets.py` | 数据可视化 + sanity check |
110
+ | `scripts/visualize_zoo.py` | Zoo 动物骨架可视化 |
111
+ | `scripts/visualize_canonical.py` | Canonical names + side tag + symmetry 可视化 |
112
+
113
+ ### 数据集 (`data/processed/`)
114
+ | 目录 | 骨架 | 关节 | Motions | 文本 | 缩放 | Canonical |
115
+ |------|------|:----:|:-------:|:----:|------|:--------:|
116
+ | `humanml3d/` | SMPL | 22 | 14,449 | 44K | 米 | ✅ |
117
+ | `lafan1/` | Ubisoft | 22 | 77 | ✗ | cm→m | ✅ |
118
+ | `100style/` | XSens | 23 | 810 | styles | cm→m | ✅ |
119
+ | `bandai_namco/` | BN | 22 | 3,053 | ✗ | cm→m | ✅ |
120
+ | `cmu_mocap/` | CMU | 31 | 2,496 | ✗ | --scale 0.0685 | ✅ |
121
+ | `mixamo/` | Mixamo | 67 | 2,453 | ✗ | cm→m (Blender) | ✅ |
122
+ | `truebones_zoo/` | 73 种动物 | 9-145 | 1,110 | 888 | cm→m | ✅ |
123
+
124
+ ### 审查 & 修复日志
125
+ | 文件 | 内容 |
126
+ |------|------|
127
+ | `logs/data_fix_20260318/PROGRESS.md` | 完整修复进度 + 关键决策 + 审查报告 |
128
+ | `logs/data_fix_20260318/skeleton_audit_report.md` | 自动生成的审查报告 (79 骨架 × 7 项检查) |
129
+ | `logs/data_fix_20260318/T2a_human_canonical.log` | Agent A: 人类 canonical mapping 日志 |
130
+ | `logs/data_fix_20260318/T2b_zoo_canonical.log` | Agent B: Zoo canonical mapping 日志 |
131
+
132
+ ### 可视化结果
133
+ | 文件 | 内容 |
134
+ |------|------|
135
+ | `results/data_check/*.png` | 7 个数据集的骨架 + 轨迹 + 速度 + foot contact |
136
+ | `results/canonical_check/human_canonical_overview.png` | 6 个人类骨架 canonical names + side tags 标注 |
137
+ | `results/canonical_check/zoo_canonical_overview.png` | 12 种动物骨架 canonical + side tags 标注 |
138
+ | `results/canonical_check/canonical_consistency_heatmap.png` | 跨数据集 22 核心部位一致性热力图 |
139
+ | `results/canonical_check/side_tag_stats.png` | Side tag 分布 + symmetry pairs 统计柱状图 |
140
+
141
+ ### 工具
142
+ | 路径 | 说明 |
143
+ |------|------|
144
+ | `tools/blender-4.2.0-linux-x64/blender` | Blender 便携版 (无需 sudo) |
145
+
146
+ ### 参考代码库 (本地)
147
+ | 路径 | 用途 |
148
+ |------|------|
149
+ | `/scratch/ts1v23/workspace/momask-codes-main/` | RVQ, MaskGIT, HumanML3D 评估器 |
150
+ | `/scratch/ts1v23/workspace/motion-latent-diffusion-main/` | Latent diffusion baseline |
151
+ | `/scratch/ts1v23/workspace/motion-structural-disentangled-tokenizer/` | 分部位 tokenization |
152
+
153
+ ---
154
+
155
+ ## 动作表示 (Scheme C)
156
+
157
+ ```
158
+ 每个 motion.npz:
159
+ Slot Token Input (跨骨架): local_positions [T,J,3] + velocities [T,J,3] = 6D/joint
160
+ Root Track (独立): root_position [T,3] + root_velocity [T,3]
161
+ Decoder GT (骨架特定): local_rotations_6d [T,J-1,6], joint_positions [T,J,3]
162
+ Auxiliary: foot_contact [T,4], bone_lengths [T,J], accelerations [T,J,3]
163
+
164
+ 每个 skeleton.npz:
165
+ joint_names [J] — 原始 BVH 关节名 (保持兼容)
166
+ canonical_names [J] — 归一化英文解剖学名称 (用于 CLIP/语义)
167
+ parent_indices [J] — 父节点索引 (-1 为 root)
168
+ rest_offsets [J, 3] — 静息姿态偏移 (米)
169
+ adjacency [J, J] — 无向邻接矩阵
170
+ geodesic_dist [J, J] — 测地距离矩阵
171
+ bone_lengths [J] — 骨骼长度
172
+ depths [J] — 树深度
173
+ degrees [J] — 子节点数
174
+ side_tags [J] — left/right/center
175
+ symmetry_pairs [P, 2] — 对称关节对
176
+ ```
177
+
178
+ ## 下一步
179
+
180
+ 实现 Component C (SlotQuantizer) → D (Alignment) → E (Decoder) → F (Generator) → 训练