TopoSlots 项目索引
项目根目录: /iridisfs/scratch/ts1v23/workspace/motion_representation_study/
HuggingFace: https://huggingface.co/datasets/Tevior/TopoSlots-MotionData
最后更新: 2026-03-18
进度总览
| 阶段 |
状态 |
说明 |
| Idea Discovery |
✅ |
文献调研 → 生成 → 筛选 → 外部评审 |
| 数据准备 |
✅ |
7 数据集, 79 骨架, 24,448 motions, 可视化验证通过 |
| 数据上传 |
✅ |
HuggingFace Tevior/TopoSlots-MotionData |
| 标注规范 |
✅ |
中英双语 JSON schema, 动作类别体系 |
| 骨骼命名审查 |
✅ |
0 errors, side tag 99.3%, canonical 100% 覆盖, 审查报告见下 |
| 实验计划 |
✅ |
6 blocks, 16 runs, 8 milestones |
| 模型: Skeleton Encoder (A) |
✅ |
5.9M params, 图注意力+时序融合 |
| 模型: Slot Assignment (B) |
✅ |
138K params, Sinkhorn OT, K=24 |
| 模型: Slot RVQ (C) |
❌ |
参考 MoMask RVQ |
| 模型: Foundation Align (D) |
❌ |
CLIP/video alignment |
| 模型: Decoder (E) |
❌ |
slot→joints + FK supervision |
| 模型: Generator (F) |
❌ |
MaskGIT over T×K grid |
| 训练 pipeline |
❌ |
3 阶段训练 |
| Baselines |
❌ |
NECromancer CLS变体, MoMask |
| 实验执行 |
❌ |
M0-M7 (~6-8 周) |
| 论文 |
❌ |
NeurIPS 2026 / ICLR 2027 |
骨骼命名审查结果
审查脚本: scripts/full_skeleton_audit.py
审查报告: logs/data_fix_20260318/skeleton_audit_report.md
修复记录: logs/data_fix_20260318/PROGRESS.md
审查指标
| 指标 |
结果 |
| 错误 (ERROR) |
0 — 所有骨架树连通、geodesic 对称、无 NaN/Inf |
| Side tag 准确率 |
99.3% (3537/3563 关节) |
| Canonical name 覆盖率 |
100% (1193 raw → 916 canonical) |
| Geodesic 距离有效性 |
100% |
| Motion 数据完整性 |
100% |
| 拓扑连通性 |
100% (所有骨架单根、全连通) |
残留 Warnings (76, 全部非阻塞)
- Side tag mismatch: 26 (0.7%) — Sabrecat/Spider/Dog 极端命名模式的眼/脸/趾末端
- Duplicate canonical: 37 — BVH 源数据冗余命名 (Toe1 vs Toe01)
- 其他: 13 — 高速度(2), 前缀残留(2), 骨长异常(3), 深树(1), 跨数据集深度差异(5)
与架构兼容性
| 架构组件 |
依赖数据 |
兼容 |
get_joint_features() side one-hot |
side_tags |
✅ |
| Graph attention edge bias |
adjacency, geodesic_dist |
✅ |
| Symmetry augmentation |
symmetry_pairs |
✅ |
| CLIP embedding (foundation align) |
canonical_names |
✅ |
| Motion features |
local_positions, velocities |
✅ |
| FK supervision |
local_rotations_6d |
✅ |
文件索引
规划文档
| 文件 |
内容 |
IDEA_REPORT.md |
4 个候选 idea 排名, 新颖性验证, 外部评审结果 |
IMPLEMENTATION_PLAN.md |
完整架构设计 (A-F 六个组件), 超参数, 训练计划, baseline, 评估方案 |
literature_survey.md |
15+ 篇论文, 5 个关键 gap |
refine-logs/EXPERIMENT_PLAN.md |
Claim→实验映射, 6 blocks, baseline 选择, 参考代码库, 执行顺序 |
refine-logs/EXPERIMENT_TRACKER.md |
16 个 run 的状态追踪表 |
docs/ANNOTATION_GUIDELINE.md |
动作文本标注规范 (中文), JSON schema, 撰写指南 |
模型代码
| 文件 |
状态 |
内容 |
src/models/skeleton_encoder.py |
✅ |
GraphAttentionBlock + TemporalBlock + SkeletonEncoder |
src/models/slot_assignment.py |
✅ |
Sinkhorn OT + SlotAssignment (pool/unpool/losses) |
src/models/slot_quantizer.py |
❌ |
2-level RVQ + skeleton residual adapter |
src/models/decoder.py |
❌ |
Cross-attention slot→joints + FK |
src/models/foundation_align.py |
❌ |
CLIP/video teacher alignment |
src/models/generator.py |
❌ |
MaskGIT 2D axial transformer |
src/models/toposlots.py |
❌ |
完整模型整合 |
数据代码
| 文件 |
内容 |
src/data/unified_dataset.py |
PyTorch Dataset, 多骨架 padding/masking, Scheme C |
src/data/skeleton_graph.py |
SkeletonGraph 拓扑表示, side tag (6 级优先级正则), symmetry 检测 |
src/data/bvh_parser.py |
BVH 解析器 |
src/data/humanml3d_converter.py |
SMPL-22 骨架 + 263D 特征提取 |
src/data/canonical_names.py |
人类数据集 canonical mapping (186 raw → 76 canonical) |
src/data/zoo_canonical_names.py |
Zoo 动物 canonical mapping (1193 raw → 916 canonical, 规则引擎) |
预处理 & 审查脚本
| 文件 |
内容 |
scripts/preprocess_humanml3d.py |
HumanML3D → Scheme C |
scripts/preprocess_bvh.py |
通用 BVH → Scheme C (支持 --scale) |
scripts/preprocess_truebones_zoo.py |
Zoo 按物种处理 + 文本匹配 |
scripts/inject_canonical_names.py |
Canonical names 注入所有 skeleton.npz |
scripts/full_skeleton_audit.py |
全面骨骼审查 (7 项检查, 79 骨架) |
scripts/fbx2bvh_blender.py |
Blender FBX→BVH 批量转换 |
scripts/visualize_datasets.py |
数据可视化 + sanity check |
scripts/visualize_zoo.py |
Zoo 动物骨架可视化 |
scripts/visualize_canonical.py |
Canonical names + side tag + symmetry 可视化 |
数据集 (data/processed/)
| 目录 |
骨架 |
关节 |
Motions |
文本 |
缩放 |
Canonical |
humanml3d/ |
SMPL |
22 |
14,449 |
44K |
米 |
✅ |
lafan1/ |
Ubisoft |
22 |
77 |
✗ |
cm→m |
✅ |
100style/ |
XSens |
23 |
810 |
styles |
cm→m |
✅ |
bandai_namco/ |
BN |
22 |
3,053 |
✗ |
cm→m |
✅ |
cmu_mocap/ |
CMU |
31 |
2,496 |
✗ |
--scale 0.0685 |
✅ |
mixamo/ |
Mixamo |
67 |
2,453 |
✗ |
cm→m (Blender) |
✅ |
truebones_zoo/ |
73 种动物 |
9-145 |
1,110 |
888 |
cm→m |
✅ |
审查 & 修复日志
| 文件 |
内容 |
logs/data_fix_20260318/PROGRESS.md |
完整修复进度 + 关键决策 + 审查报告 |
logs/data_fix_20260318/skeleton_audit_report.md |
自动生成的审查报告 (79 骨架 × 7 项检查) |
logs/data_fix_20260318/T2a_human_canonical.log |
Agent A: 人类 canonical mapping 日志 |
logs/data_fix_20260318/T2b_zoo_canonical.log |
Agent B: Zoo canonical mapping 日志 |
可视化结果
| 文件 |
内容 |
results/data_check/*.png |
7 个数据集的骨架 + 轨迹 + 速度 + foot contact |
results/canonical_check/human_canonical_overview.png |
6 个人类骨架 canonical names + side tags 标注 |
results/canonical_check/zoo_canonical_overview.png |
12 种动物骨架 canonical + side tags 标注 |
results/canonical_check/canonical_consistency_heatmap.png |
跨数据集 22 核心部位一致性热力图 |
results/canonical_check/side_tag_stats.png |
Side tag 分布 + symmetry pairs 统计柱状图 |
工具
| 路径 |
说明 |
tools/blender-4.2.0-linux-x64/blender |
Blender 便携版 (无需 sudo) |
参考代码库 (本地)
| 路径 |
用途 |
/scratch/ts1v23/workspace/momask-codes-main/ |
RVQ, MaskGIT, HumanML3D 评估器 |
/scratch/ts1v23/workspace/motion-latent-diffusion-main/ |
Latent diffusion baseline |
/scratch/ts1v23/workspace/motion-structural-disentangled-tokenizer/ |
分部位 tokenization |
动作表示 (Scheme C)
每个 motion.npz:
Slot Token Input (跨骨架): local_positions [T,J,3] + velocities [T,J,3] = 6D/joint
Root Track (独立): root_position [T,3] + root_velocity [T,3]
Decoder GT (骨架特定): local_rotations_6d [T,J-1,6], joint_positions [T,J,3]
Auxiliary: foot_contact [T,4], bone_lengths [T,J], accelerations [T,J,3]
每个 skeleton.npz:
joint_names [J] — 原始 BVH 关节名 (保持兼容)
canonical_names [J] — 归一化英文解剖学名称 (用于 CLIP/语义)
parent_indices [J] — 父节点索引 (-1 为 root)
rest_offsets [J, 3] — 静息姿态偏移 (米)
adjacency [J, J] — 无向邻接矩阵
geodesic_dist [J, J] — 测地距离矩阵
bone_lengths [J] — 骨骼长度
depths [J] — 树深度
degrees [J] — 子节点数
side_tags [J] — left/right/center
symmetry_pairs [P, 2] — 对称关节对
下一步
实现 Component C (SlotQuantizer) → D (Alignment) → E (Decoder) → F (Generator) → 训练
