|
Download README.md from April-Yang/rodata: direct link, hf CLI and curl.
- Browser
- Download file 3.17 kB
-
https://huggingface.co/datasets/April-Yang/rodata/resolve/main/README.md
- Command line
-
hf download hf://datasets/April-Yang/rodata/README.md
-
curl -L -H "Authorization: Bearer $HF_TOKEN" -o README.md https://huggingface.co/datasets/April-Yang/rodata/resolve/main/README.md
3.17 kB
| license: other | |
| tags: | |
| - robotics | |
| - cosmos | |
| - libero | |
| - checkpoint | |
| # Cosmos3-Nano × LIBERO-10 训练 checkpoint 冷备份 | |
| 这是一个**研究过程的 checkpoint 存档**,不是可以开箱推理的模型。 | |
| 来源:NTU EEE ROSE Cluster 02,账号 `zaijia001`,2026 年 7–9 月的 Cosmos3「视觉相变」研究项目。 | |
| 建立本仓库的原因是集群磁盘配额耗尽,需要把不可替代的训练状态挪到异地。 | |
| ## 格式警告 | |
| 全部是 **PyTorch DCP(Distributed Checkpoint)分片**,不是 `.safetensors`、不是 `.bin`。 | |
| 每个 `model/` 或 `optim/` 目录下是 4 个 rank 分片 `__0_0.distcp` … `__3_0.distcp` 加一个 `.metadata`。 | |
| **不能用 `torch.load` 直接打开**,必须走 NVIDIA cosmos-framework 的 DCP 加载路径, | |
| 并且要用 4-rank FSDP 布局(原始训练是 4× RTX PRO 6000 Blackwell)。 | |
| ## 目录对应什么 | |
| | 目录 | 训练 step | 来源 run | 大小 | 是什么 | | |
| |---|---:|---|---:|---| | |
| | `iter_000001000_full/` | 1000 | `libero10_continuous1000_r5`(严格恢复主曲线) | 146.9 GB | 主曲线终点,训练到 step 1000 的状态 | | |
| | `iter_000000850_full/` | 850 | `libero10_visual_mechanism_e2e5_r2`(机制实验 run) | 146.9 GB | 主曲线中段,训练到 step 850 的状态 | | |
| 每个目录内部结构一致: | |
| ``` | |
| model/ 91.0 GB .metadata + 4 × 22.76 GB .distcp ← 推理/评测只需要这个 | |
| optim/ 55.9 GB .metadata + 4 × ~13.97 GB .distcp ← 只有继续训练才需要 | |
| scheduler/ 13 KB | |
| trainer/ 99 KB | |
| ``` | |
| ## 不在这个仓库里的 | |
| - **`iter_000000750`(146.9 GB,含完整 optim/scheduler/trainer)** —— 存在 Google Drive | |
| `gdrive:cosmos3-backup-20260828/iter_000000750_full/`,不在 HF。 | |
| 它是后续重训的严格恢复基点,必须保留完整的 optimizer/scheduler/trainer, | |
| 否则会退化成不完整的 resume。 | |
| - **step 780 / 800** —— 项目早期已删除。 | |
| - **官方初始权重**(`Cosmos3-Nano-DCP`、HF 缓存)—— 可从 NVIDIA / HF 重新下载。 | |
| - **评测输出、trace、日志、GIF** —— 小型 canonical 结果在私有 Git 仓库的 | |
| `Rose/Cosmos3/cosmos3_visual_transition_codex_docs/` 下。 | |
| ## 三份说明的位置 | |
| 本文件在三处保持同一内容,任何一处都能独立看懂: | |
| | 位置 | 路径 | | |
| |---|---| | |
| | Hugging Face | `April-Yang/rodata` 的 `README.md`(即本文件) | | |
| | Google Drive | `gdrive:cosmos3-backup-20260828/README_HF_SPLIT.md` | | |
| | ROSE 集群 | `/projects/_ssd/zaijia001/cosmos3/backup/HF_README.md` | | |
| 完整的存储盘点、删除分级和结论留存见私有仓库的 | |
| `11_storage_cleanup_and_retained_conclusions.md` 与 `12_gdrive_backup_and_deletion_list.md`。 | |
| ## 完整性校验 | |
| 上传后由脚本逐文件比对大小,并在 Hub 提供 LFS/Xet sha256 时比对 sha256。 | |
| 结果写在集群的 `/projects/_ssd/zaijia001/cosmos3/backup/status/<name>.hf_listing.json`, | |
| 通过则另写 `<name>.hf_done.json`。**没有 `.hf_done.json` 就不要删除集群上的对应副本。** | |
| ## 访问 | |
| 仓库是 public + manual gating:文件列表和本说明公开可见,实际下载需要申请并经人工批准。 | |