rodata / README.md
April-Yang's picture
docs: what these checkpoints are
ecde548 verified
|
Raw History Blame Contribute Delete
3.17 kB
metadata
license: other
tags:
  - robotics
  - cosmos
  - libero
  - checkpoint

Cosmos3-Nano × LIBERO-10 训练 checkpoint 冷备份

这是一个研究过程的 checkpoint 存档,不是可以开箱推理的模型。 来源:NTU EEE ROSE Cluster 02,账号 zaijia001,2026 年 7–9 月的 Cosmos3「视觉相变」研究项目。 建立本仓库的原因是集群磁盘配额耗尽,需要把不可替代的训练状态挪到异地。

格式警告

全部是 PyTorch DCP(Distributed Checkpoint)分片,不是 .safetensors、不是 .bin。 每个 model/ 或 optim/ 目录下是 4 个 rank 分片 __0_0.distcp … __3_0.distcp 加一个 .metadata。

不能用 torch.load 直接打开,必须走 NVIDIA cosmos-framework 的 DCP 加载路径, 并且要用 4-rank FSDP 布局(原始训练是 4× RTX PRO 6000 Blackwell)。

目录对应什么

目录 训练 step 来源 run 大小 是什么
iter_000001000_full/ 1000 libero10_continuous1000_r5(严格恢复主曲线) 146.9 GB 主曲线终点,训练到 step 1000 的状态
iter_000000850_full/ 850 libero10_visual_mechanism_e2e5_r2(机制实验 run) 146.9 GB 主曲线中段,训练到 step 850 的状态

每个目录内部结构一致:

model/      91.0 GB   .metadata + 4 × 22.76 GB .distcp   ← 推理/评测只需要这个
optim/      55.9 GB   .metadata + 4 × ~13.97 GB .distcp  ← 只有继续训练才需要
scheduler/  13 KB
trainer/    99 KB

不在这个仓库里的

  • iter_000000750(146.9 GB,含完整 optim/scheduler/trainer) —— 存在 Google Drive gdrive:cosmos3-backup-20260828/iter_000000750_full/,不在 HF。 它是后续重训的严格恢复基点,必须保留完整的 optimizer/scheduler/trainer, 否则会退化成不完整的 resume。
  • step 780 / 800 —— 项目早期已删除。
  • 官方初始权重(Cosmos3-Nano-DCP、HF 缓存)—— 可从 NVIDIA / HF 重新下载。
  • 评测输出、trace、日志、GIF —— 小型 canonical 结果在私有 Git 仓库的 Rose/Cosmos3/cosmos3_visual_transition_codex_docs/ 下。

三份说明的位置

本文件在三处保持同一内容,任何一处都能独立看懂:

位置 路径
Hugging Face April-Yang/rodata 的 README.md(即本文件)
Google Drive gdrive:cosmos3-backup-20260828/README_HF_SPLIT.md
ROSE 集群 /projects/_ssd/zaijia001/cosmos3/backup/HF_README.md

完整的存储盘点、删除分级和结论留存见私有仓库的 11_storage_cleanup_and_retained_conclusions.md 与 12_gdrive_backup_and_deletion_list.md。

完整性校验

上传后由脚本逐文件比对大小,并在 Hub 提供 LFS/Xet sha256 时比对 sha256。 结果写在集群的 /projects/_ssd/zaijia001/cosmos3/backup/status/<name>.hf_listing.json, 通过则另写 <name>.hf_done.json。没有 .hf_done.json 就不要删除集群上的对应副本。

访问

仓库是 public + manual gating:文件列表和本说明公开可见,实际下载需要申请并经人工批准。