rodata / README.md
April-Yang's picture
docs: what these checkpoints are
ecde548 verified
|
Raw History Blame Contribute Delete
3.17 kB
---
license: other
tags:
- robotics
- cosmos
- libero
- checkpoint
---
# Cosmos3-Nano × LIBERO-10 训练 checkpoint 冷备份
这是一个**研究过程的 checkpoint 存档**,不是可以开箱推理的模型。
来源:NTU EEE ROSE Cluster 02,账号 `zaijia001`,2026 年 7–9 月的 Cosmos3「视觉相变」研究项目。
建立本仓库的原因是集群磁盘配额耗尽,需要把不可替代的训练状态挪到异地。
## 格式警告
全部是 **PyTorch DCP(Distributed Checkpoint)分片**,不是 `.safetensors`、不是 `.bin`。
每个 `model/` 或 `optim/` 目录下是 4 个 rank 分片 `__0_0.distcp` … `__3_0.distcp` 加一个 `.metadata`。
**不能用 `torch.load` 直接打开**,必须走 NVIDIA cosmos-framework 的 DCP 加载路径,
并且要用 4-rank FSDP 布局(原始训练是 4× RTX PRO 6000 Blackwell)。
## 目录对应什么
| 目录 | 训练 step | 来源 run | 大小 | 是什么 |
|---|---:|---|---:|---|
| `iter_000001000_full/` | 1000 | `libero10_continuous1000_r5`(严格恢复主曲线) | 146.9 GB | 主曲线终点,训练到 step 1000 的状态 |
| `iter_000000850_full/` | 850 | `libero10_visual_mechanism_e2e5_r2`(机制实验 run) | 146.9 GB | 主曲线中段,训练到 step 850 的状态 |
每个目录内部结构一致:
```
model/ 91.0 GB .metadata + 4 × 22.76 GB .distcp ← 推理/评测只需要这个
optim/ 55.9 GB .metadata + 4 × ~13.97 GB .distcp ← 只有继续训练才需要
scheduler/ 13 KB
trainer/ 99 KB
```
## 不在这个仓库里的
- **`iter_000000750`(146.9 GB,含完整 optim/scheduler/trainer)** —— 存在 Google Drive
`gdrive:cosmos3-backup-20260828/iter_000000750_full/`,不在 HF。
它是后续重训的严格恢复基点,必须保留完整的 optimizer/scheduler/trainer,
否则会退化成不完整的 resume。
- **step 780 / 800** —— 项目早期已删除。
- **官方初始权重**(`Cosmos3-Nano-DCP`、HF 缓存)—— 可从 NVIDIA / HF 重新下载。
- **评测输出、trace、日志、GIF** —— 小型 canonical 结果在私有 Git 仓库的
`Rose/Cosmos3/cosmos3_visual_transition_codex_docs/` 下。
## 三份说明的位置
本文件在三处保持同一内容,任何一处都能独立看懂:
| 位置 | 路径 |
|---|---|
| Hugging Face | `April-Yang/rodata` 的 `README.md`(即本文件) |
| Google Drive | `gdrive:cosmos3-backup-20260828/README_HF_SPLIT.md` |
| ROSE 集群 | `/projects/_ssd/zaijia001/cosmos3/backup/HF_README.md` |
完整的存储盘点、删除分级和结论留存见私有仓库的
`11_storage_cleanup_and_retained_conclusions.md` 与 `12_gdrive_backup_and_deletion_list.md`。
## 完整性校验
上传后由脚本逐文件比对大小,并在 Hub 提供 LFS/Xet sha256 时比对 sha256。
结果写在集群的 `/projects/_ssd/zaijia001/cosmos3/backup/status/<name>.hf_listing.json`,
通过则另写 `<name>.hf_done.json`。**没有 `.hf_done.json` 就不要删除集群上的对应副本。**
## 访问
仓库是 public + manual gating:文件列表和本说明公开可见,实际下载需要申请并经人工批准。