Datasets:

Tevior
/

TopoSlots-MotionData

	# TopoSlots 项目索引

	项目根目录: `/iridisfs/scratch/ts1v23/workspace/motion_representation_study/`
	HuggingFace: https://huggingface.co/datasets/Tevior/TopoSlots-MotionData
	最后更新: 2026-03-18

	---

	## 进度总览

	\| 阶段 \| 状态 \| 说明 \|
	\|------\|:----:\|------\|
	\| Idea Discovery \| ✅ \| 文献调研 → 生成 → 筛选 → 外部评审 \|
	\| 数据准备 \| ✅ \| 7 数据集, 79 骨架, 24,448 motions, 可视化验证通过 \|
	\| 数据上传 \| ✅ \| HuggingFace `Tevior/TopoSlots-MotionData` \|
	\| 标注规范 \| ✅ \| 中英双语 JSON schema, 动作类别体系 \|
	\| 骨骼命名审查 \| ✅ \| 0 errors, side tag 99.3%, canonical 100% 覆盖, 审查报告见下 \|
	\| 实验计划 \| ✅ \| 6 blocks, 16 runs, 8 milestones \|
	\| 模型: Skeleton Encoder (A) \| ✅ \| 5.9M params, 图注意力+时序融合 \|
	\| 模型: Slot Assignment (B) \| ✅ \| 138K params, Sinkhorn OT, K=24 \|
	\| 模型: Slot RVQ (C) \| ❌ \| 参考 MoMask RVQ \|
	\| 模型: Foundation Align (D) \| ❌ \| CLIP/video alignment \|
	\| 模型: Decoder (E) \| ❌ \| slot→joints + FK supervision \|
	\| 模型: Generator (F) \| ❌ \| MaskGIT over T×K grid \|
	\| 训练 pipeline \| ❌ \| 3 阶段训练 \|
	\| Baselines \| ❌ \| NECromancer CLS变体, MoMask \|
	\| 实验执行 \| ❌ \| M0-M7 (~6-8 周) \|
	\| 论文 \| ❌ \| NeurIPS 2026 / ICLR 2027 \|

	---

	## 骨骼命名审查结果

	审查脚本: `scripts/full_skeleton_audit.py`
	审查报告: `logs/data_fix_20260318/skeleton_audit_report.md`
	修复记录: `logs/data_fix_20260318/PROGRESS.md`

	### 审查指标

	\| 指标 \| 结果 \|
	\|------\|------\|
	\| 错误 (ERROR) \| 0 — 所有骨架树连通、geodesic 对称、无 NaN/Inf \|
	\| Side tag 准确率 \| 99.3% (3537/3563 关节) \|
	\| Canonical name 覆盖率 \| 100% (1193 raw → 916 canonical) \|
	\| Geodesic 距离有效性 \| 100% \|
	\| Motion 数据完整性 \| 100% \|
	\| 拓扑连通性 \| 100% (所有骨架单根、全连通) \|

	### 残留 Warnings (76, 全部非阻塞)
	- Side tag mismatch: 26 (0.7%) — Sabrecat/Spider/Dog 极端命名模式的眼/脸/趾末端
	- Duplicate canonical: 37 — BVH 源数据冗余命名 (Toe1 vs Toe01)
	- 其他: 13 — 高速度(2), 前缀残留(2), 骨长异常(3), 深树(1), 跨数据集深度差异(5)

	### 与架构兼容性

	\| 架构组件 \| 依赖数据 \| 兼容 \|
	\|---------\|---------\|:----:\|
	\| `get_joint_features()` side one-hot \| side_tags \| ✅ \|
	\| Graph attention edge bias \| adjacency, geodesic_dist \| ✅ \|
	\| Symmetry augmentation \| symmetry_pairs \| ✅ \|
	\| CLIP embedding (foundation align) \| canonical_names \| ✅ \|
	\| Motion features \| local_positions, velocities \| ✅ \|
	\| FK supervision \| local_rotations_6d \| ✅ \|

	---

	## 文件索引

	### 规划文档
	\| 文件 \| 内容 \|
	\|------\|------\|
	\| `IDEA_REPORT.md` \| 4 个候选 idea 排名, 新颖性验证, 外部评审结果 \|
	\| `IMPLEMENTATION_PLAN.md` \| 完整架构设计 (A-F 六个组件), 超参数, 训练计划, baseline, 评估方案 \|
	\| `literature_survey.md` \| 15+ 篇论文, 5 个关键 gap \|
	\| `refine-logs/EXPERIMENT_PLAN.md` \| Claim→实验映射, 6 blocks, baseline 选择, 参考代码库, 执行顺序 \|
	\| `refine-logs/EXPERIMENT_TRACKER.md` \| 16 个 run 的状态追踪表 \|
	\| `docs/ANNOTATION_GUIDELINE.md` \| 动作文本标注规范 (中文), JSON schema, 撰写指南 \|

	### 模型代码
	\| 文件 \| 状态 \| 内容 \|
	\|------\|:----:\|------\|
	\| `src/models/skeleton_encoder.py` \| ✅ \| GraphAttentionBlock + TemporalBlock + SkeletonEncoder \|
	\| `src/models/slot_assignment.py` \| ✅ \| Sinkhorn OT + SlotAssignment (pool/unpool/losses) \|
	\| `src/models/slot_quantizer.py` \| ❌ \| 2-level RVQ + skeleton residual adapter \|
	\| `src/models/decoder.py` \| ❌ \| Cross-attention slot→joints + FK \|
	\| `src/models/foundation_align.py` \| ❌ \| CLIP/video teacher alignment \|
	\| `src/models/generator.py` \| ❌ \| MaskGIT 2D axial transformer \|
	\| `src/models/toposlots.py` \| ❌ \| 完整模型整合 \|

	### 数据代码
	\| 文件 \| 内容 \|
	\|------\|------\|
	\| `src/data/unified_dataset.py` \| PyTorch Dataset, 多骨架 padding/masking, Scheme C \|
	\| `src/data/skeleton_graph.py` \| SkeletonGraph 拓扑表示, side tag (6 级优先级正则), symmetry 检测 \|
	\| `src/data/bvh_parser.py` \| BVH 解析器 \|
	\| `src/data/humanml3d_converter.py` \| SMPL-22 骨架 + 263D 特征提取 \|
	\| `src/data/canonical_names.py` \| 人类数据集 canonical mapping (186 raw → 76 canonical) \|
	\| `src/data/zoo_canonical_names.py` \| Zoo 动物 canonical mapping (1193 raw → 916 canonical, 规则引擎) \|

	### 预处理 & 审查脚本
	\| 文件 \| 内容 \|
	\|------\|------\|
	\| `scripts/preprocess_humanml3d.py` \| HumanML3D → Scheme C \|
	\| `scripts/preprocess_bvh.py` \| 通用 BVH → Scheme C (支持 --scale) \|
	\| `scripts/preprocess_truebones_zoo.py` \| Zoo 按物种处理 + 文本匹配 \|
	\| `scripts/inject_canonical_names.py` \| Canonical names 注入所有 skeleton.npz \|
	\| `scripts/full_skeleton_audit.py` \| 全面骨骼审查 (7 项检查, 79 骨架) \|
	\| `scripts/fbx2bvh_blender.py` \| Blender FBX→BVH 批量转换 \|
	\| `scripts/visualize_datasets.py` \| 数据可视化 + sanity check \|
	\| `scripts/visualize_zoo.py` \| Zoo 动物骨架可视化 \|
	\| `scripts/visualize_canonical.py` \| Canonical names + side tag + symmetry 可视化 \|

	### 数据集 (`data/processed/`)
	\| 目录 \| 骨架 \| 关节 \| Motions \| 文本 \| 缩放 \| Canonical \|
	\|------\|------\|:----:\|:-------:\|:----:\|------\|:--------:\|
	\| `humanml3d/` \| SMPL \| 22 \| 14,449 \| 44K \| 米 \| ✅ \|
	\| `lafan1/` \| Ubisoft \| 22 \| 77 \| ✗ \| cm→m \| ✅ \|
	\| `100style/` \| XSens \| 23 \| 810 \| styles \| cm→m \| ✅ \|
	\| `bandai_namco/` \| BN \| 22 \| 3,053 \| ✗ \| cm→m \| ✅ \|
	\| `cmu_mocap/` \| CMU \| 31 \| 2,496 \| ✗ \| --scale 0.0685 \| ✅ \|
	\| `mixamo/` \| Mixamo \| 67 \| 2,453 \| ✗ \| cm→m (Blender) \| ✅ \|
	\| `truebones_zoo/` \| 73 种动物 \| 9-145 \| 1,110 \| 888 \| cm→m \| ✅ \|

	### 审查 & 修复日志
	\| 文件 \| 内容 \|
	\|------\|------\|
	\| `logs/data_fix_20260318/PROGRESS.md` \| 完整修复进度 + 关键决策 + 审查报告 \|
	\| `logs/data_fix_20260318/skeleton_audit_report.md` \| 自动生成的审查报告 (79 骨架 × 7 项检查) \|
	\| `logs/data_fix_20260318/T2a_human_canonical.log` \| Agent A: 人类 canonical mapping 日志 \|
	\| `logs/data_fix_20260318/T2b_zoo_canonical.log` \| Agent B: Zoo canonical mapping 日志 \|

	### 可视化结果
	\| 文件 \| 内容 \|
	\|------\|------\|
	\| `results/data_check/*.png` \| 7 个数据集的骨架 + 轨迹 + 速度 + foot contact \|
	\| `results/canonical_check/human_canonical_overview.png` \| 6 个人类骨架 canonical names + side tags 标注 \|
	\| `results/canonical_check/zoo_canonical_overview.png` \| 12 种动物骨架 canonical + side tags 标注 \|
	\| `results/canonical_check/canonical_consistency_heatmap.png` \| 跨数据集 22 核心部位一致性热力图 \|
	\| `results/canonical_check/side_tag_stats.png` \| Side tag 分布 + symmetry pairs 统计柱状图 \|

	### 工具
	\| 路径 \| 说明 \|
	\|------\|------\|
	\| `tools/blender-4.2.0-linux-x64/blender` \| Blender 便携版 (无需 sudo) \|

	### 参考代码库 (本地)
	\| 路径 \| 用途 \|
	\|------\|------\|
	\| `/scratch/ts1v23/workspace/momask-codes-main/` \| RVQ, MaskGIT, HumanML3D 评估器 \|
	\| `/scratch/ts1v23/workspace/motion-latent-diffusion-main/` \| Latent diffusion baseline \|
	\| `/scratch/ts1v23/workspace/motion-structural-disentangled-tokenizer/` \| 分部位 tokenization \|

	---

	## 动作表示 (Scheme C)

	```
	每个 motion.npz:
	Slot Token Input (跨骨架): local_positions [T,J,3] + velocities [T,J,3] = 6D/joint
	Root Track (独立): root_position [T,3] + root_velocity [T,3]
	Decoder GT (骨架特定): local_rotations_6d [T,J-1,6], joint_positions [T,J,3]
	Auxiliary: foot_contact [T,4], bone_lengths [T,J], accelerations [T,J,3]

	每个 skeleton.npz:
	joint_names [J] — 原始 BVH 关节名 (保持兼容)
	canonical_names [J] — 归一化英文解剖学名称 (用于 CLIP/语义)
	parent_indices [J] — 父节点索引 (-1 为 root)
	rest_offsets [J, 3] — 静息姿态偏移 (米)
	adjacency [J, J] — 无向邻接矩阵
	geodesic_dist [J, J] — 测地距离矩阵
	bone_lengths [J] — 骨骼长度
	depths [J] — 树深度
	degrees [J] — 子节点数
	side_tags [J] — left/right/center
	symmetry_pairs [P, 2] — 对称关节对
	```

	## 下一步

	实现 Component C (SlotQuantizer) → D (Alignment) → E (Decoder) → F (Generator) → 训练

	# TopoSlots 项目索引

	项目根目录: `/iridisfs/scratch/ts1v23/workspace/motion_representation_study/`
	HuggingFace: https://huggingface.co/datasets/Tevior/TopoSlots-MotionData
	最后更新: 2026-03-18

	---

	## 进度总览

	\| 阶段 \| 状态 \| 说明 \|
	\|------\|:----:\|------\|
	\| Idea Discovery \| ✅ \| 文献调研 → 生成 → 筛选 → 外部评审 \|
	\| 数据准备 \| ✅ \| 7 数据集, 79 骨架, 24,448 motions, 可视化验证通过 \|
	\| 数据上传 \| ✅ \| HuggingFace `Tevior/TopoSlots-MotionData` \|
	\| 标注规范 \| ✅ \| 中英双语 JSON schema, 动作类别体系 \|
	\| 骨骼命名审查 \| ✅ \| 0 errors, side tag 99.3%, canonical 100% 覆盖, 审查报告见下 \|
	\| 实验计划 \| ✅ \| 6 blocks, 16 runs, 8 milestones \|
	\| 模型: Skeleton Encoder (A) \| ✅ \| 5.9M params, 图注意力+时序融合 \|
	\| 模型: Slot Assignment (B) \| ✅ \| 138K params, Sinkhorn OT, K=24 \|
	\| 模型: Slot RVQ (C) \| ❌ \| 参考 MoMask RVQ \|
	\| 模型: Foundation Align (D) \| ❌ \| CLIP/video alignment \|
	\| 模型: Decoder (E) \| ❌ \| slot→joints + FK supervision \|
	\| 模型: Generator (F) \| ❌ \| MaskGIT over T×K grid \|
	\| 训练 pipeline \| ❌ \| 3 阶段训练 \|
	\| Baselines \| ❌ \| NECromancer CLS变体, MoMask \|
	\| 实验执行 \| ❌ \| M0-M7 (~6-8 周) \|
	\| 论文 \| ❌ \| NeurIPS 2026 / ICLR 2027 \|

	---

	## 骨骼命名审查结果

	审查脚本: `scripts/full_skeleton_audit.py`
	审查报告: `logs/data_fix_20260318/skeleton_audit_report.md`
	修复记录: `logs/data_fix_20260318/PROGRESS.md`

	### 审查指标

	\| 指标 \| 结果 \|
	\|------\|------\|
	\| 错误 (ERROR) \| 0 — 所有骨架树连通、geodesic 对称、无 NaN/Inf \|
	\| Side tag 准确率 \| 99.3% (3537/3563 关节) \|
	\| Canonical name 覆盖率 \| 100% (1193 raw → 916 canonical) \|
	\| Geodesic 距离有效性 \| 100% \|
	\| Motion 数据完整性 \| 100% \|
	\| 拓扑连通性 \| 100% (所有骨架单根、全连通) \|

	### 残留 Warnings (76, 全部非阻塞)
	- Side tag mismatch: 26 (0.7%) — Sabrecat/Spider/Dog 极端命名模式的眼/脸/趾末端
	- Duplicate canonical: 37 — BVH 源数据冗余命名 (Toe1 vs Toe01)
	- 其他: 13 — 高速度(2), 前缀残留(2), 骨长异常(3), 深树(1), 跨数据集深度差异(5)

	### 与架构兼容性

	\| 架构组件 \| 依赖数据 \| 兼容 \|
	\|---------\|---------\|:----:\|
	\| `get_joint_features()` side one-hot \| side_tags \| ✅ \|
	\| Graph attention edge bias \| adjacency, geodesic_dist \| ✅ \|
	\| Symmetry augmentation \| symmetry_pairs \| ✅ \|
	\| CLIP embedding (foundation align) \| canonical_names \| ✅ \|
	\| Motion features \| local_positions, velocities \| ✅ \|
	\| FK supervision \| local_rotations_6d \| ✅ \|

	---

	## 文件索引

	### 规划文档
	\| 文件 \| 内容 \|
	\|------\|------\|
	\| `IDEA_REPORT.md` \| 4 个候选 idea 排名, 新颖性验证, 外部评审结果 \|
	\| `IMPLEMENTATION_PLAN.md` \| 完整架构设计 (A-F 六个组件), 超参数, 训练计划, baseline, 评估方案 \|
	\| `literature_survey.md` \| 15+ 篇论文, 5 个关键 gap \|
	\| `refine-logs/EXPERIMENT_PLAN.md` \| Claim→实验映射, 6 blocks, baseline 选择, 参考代码库, 执行顺序 \|
	\| `refine-logs/EXPERIMENT_TRACKER.md` \| 16 个 run 的状态追踪表 \|
	\| `docs/ANNOTATION_GUIDELINE.md` \| 动作文本标注规范 (中文), JSON schema, 撰写指南 \|

	### 模型代码
	\| 文件 \| 状态 \| 内容 \|
	\|------\|:----:\|------\|
	\| `src/models/skeleton_encoder.py` \| ✅ \| GraphAttentionBlock + TemporalBlock + SkeletonEncoder \|
	\| `src/models/slot_assignment.py` \| ✅ \| Sinkhorn OT + SlotAssignment (pool/unpool/losses) \|
	\| `src/models/slot_quantizer.py` \| ❌ \| 2-level RVQ + skeleton residual adapter \|
	\| `src/models/decoder.py` \| ❌ \| Cross-attention slot→joints + FK \|
	\| `src/models/foundation_align.py` \| ❌ \| CLIP/video teacher alignment \|
	\| `src/models/generator.py` \| ❌ \| MaskGIT 2D axial transformer \|
	\| `src/models/toposlots.py` \| ❌ \| 完整模型整合 \|

	### 数据代码
	\| 文件 \| 内容 \|
	\|------\|------\|
	\| `src/data/unified_dataset.py` \| PyTorch Dataset, 多骨架 padding/masking, Scheme C \|
	\| `src/data/skeleton_graph.py` \| SkeletonGraph 拓扑表示, side tag (6 级优先级正则), symmetry 检测 \|
	\| `src/data/bvh_parser.py` \| BVH 解析器 \|
	\| `src/data/humanml3d_converter.py` \| SMPL-22 骨架 + 263D 特征提取 \|
	\| `src/data/canonical_names.py` \| 人类数据集 canonical mapping (186 raw → 76 canonical) \|
	\| `src/data/zoo_canonical_names.py` \| Zoo 动物 canonical mapping (1193 raw → 916 canonical, 规则引擎) \|

	### 预处理 & 审查脚本
	\| 文件 \| 内容 \|
	\|------\|------\|
	\| `scripts/preprocess_humanml3d.py` \| HumanML3D → Scheme C \|
	\| `scripts/preprocess_bvh.py` \| 通用 BVH → Scheme C (支持 --scale) \|
	\| `scripts/preprocess_truebones_zoo.py` \| Zoo 按物种处理 + 文本匹配 \|
	\| `scripts/inject_canonical_names.py` \| Canonical names 注入所有 skeleton.npz \|
	\| `scripts/full_skeleton_audit.py` \| 全面骨骼审查 (7 项检查, 79 骨架) \|
	\| `scripts/fbx2bvh_blender.py` \| Blender FBX→BVH 批量转换 \|
	\| `scripts/visualize_datasets.py` \| 数据可视化 + sanity check \|
	\| `scripts/visualize_zoo.py` \| Zoo 动物骨架可视化 \|
	\| `scripts/visualize_canonical.py` \| Canonical names + side tag + symmetry 可视化 \|

	### 数据集 (`data/processed/`)
	\| 目录 \| 骨架 \| 关节 \| Motions \| 文本 \| 缩放 \| Canonical \|
	\|------\|------\|:----:\|:-------:\|:----:\|------\|:--------:\|
	\| `humanml3d/` \| SMPL \| 22 \| 14,449 \| 44K \| 米 \| ✅ \|
	\| `lafan1/` \| Ubisoft \| 22 \| 77 \| ✗ \| cm→m \| ✅ \|
	\| `100style/` \| XSens \| 23 \| 810 \| styles \| cm→m \| ✅ \|
	\| `bandai_namco/` \| BN \| 22 \| 3,053 \| ✗ \| cm→m \| ✅ \|
	\| `cmu_mocap/` \| CMU \| 31 \| 2,496 \| ✗ \| --scale 0.0685 \| ✅ \|
	\| `mixamo/` \| Mixamo \| 67 \| 2,453 \| ✗ \| cm→m (Blender) \| ✅ \|
	\| `truebones_zoo/` \| 73 种动物 \| 9-145 \| 1,110 \| 888 \| cm→m \| ✅ \|

	### 审查 & 修复日志
	\| 文件 \| 内容 \|
	\|------\|------\|
	\| `logs/data_fix_20260318/PROGRESS.md` \| 完整修复进度 + 关键决策 + 审查报告 \|
	\| `logs/data_fix_20260318/skeleton_audit_report.md` \| 自动生成的审查报告 (79 骨架 × 7 项检查) \|
	\| `logs/data_fix_20260318/T2a_human_canonical.log` \| Agent A: 人类 canonical mapping 日志 \|
	\| `logs/data_fix_20260318/T2b_zoo_canonical.log` \| Agent B: Zoo canonical mapping 日志 \|

	### 可视化结果
	\| 文件 \| 内容 \|
	\|------\|------\|
	\| `results/data_check/*.png` \| 7 个数据集的骨架 + 轨迹 + 速度 + foot contact \|
	\| `results/canonical_check/human_canonical_overview.png` \| 6 个人类骨架 canonical names + side tags 标注 \|
	\| `results/canonical_check/zoo_canonical_overview.png` \| 12 种动物骨架 canonical + side tags 标注 \|
	\| `results/canonical_check/canonical_consistency_heatmap.png` \| 跨数据集 22 核心部位一致性热力图 \|
	\| `results/canonical_check/side_tag_stats.png` \| Side tag 分布 + symmetry pairs 统计柱状图 \|

	### 工具
	\| 路径 \| 说明 \|
	\|------\|------\|
	\| `tools/blender-4.2.0-linux-x64/blender` \| Blender 便携版 (无需 sudo) \|

	### 参考代码库 (本地)
	\| 路径 \| 用途 \|
	\|------\|------\|
	\| `/scratch/ts1v23/workspace/momask-codes-main/` \| RVQ, MaskGIT, HumanML3D 评估器 \|
	\| `/scratch/ts1v23/workspace/motion-latent-diffusion-main/` \| Latent diffusion baseline \|
	\| `/scratch/ts1v23/workspace/motion-structural-disentangled-tokenizer/` \| 分部位 tokenization \|

	---

	## 动作表示 (Scheme C)

	```
	每个 motion.npz:
	Slot Token Input (跨骨架): local_positions [T,J,3] + velocities [T,J,3] = 6D/joint
	Root Track (独立): root_position [T,3] + root_velocity [T,3]
	Decoder GT (骨架特定): local_rotations_6d [T,J-1,6], joint_positions [T,J,3]
	Auxiliary: foot_contact [T,4], bone_lengths [T,J], accelerations [T,J,3]

	每个 skeleton.npz:
	joint_names [J] — 原始 BVH 关节名 (保持兼容)
	canonical_names [J] — 归一化英文解剖学名称 (用于 CLIP/语义)
	parent_indices [J] — 父节点索引 (-1 为 root)
	rest_offsets [J, 3] — 静息姿态偏移 (米)
	adjacency [J, J] — 无向邻接矩阵
	geodesic_dist [J, J] — 测地距离矩阵
	bone_lengths [J] — 骨骼长度
	depths [J] — 树深度
	degrees [J] — 子节点数
	side_tags [J] — left/right/center
	symmetry_pairs [P, 2] — 对称关节对
	```

	## 下一步

	实现 Component C (SlotQuantizer) → D (Alignment) → E (Decoder) → F (Generator) → 训练