| --- |
| pretty_name: SimLingo Post-train Bucket Cache and Index |
| language: |
| - zh |
| - en |
| license: other |
| license_name: upstream-terms-apply |
| license_link: https://huggingface.co/datasets/data-loader/simlingo-posttrain-buckets/blob/main/TERMS.md |
| tags: |
| - simlingo |
| - autonomous-driving |
| - reproducibility |
| - metadata |
| --- |
| |
| # SimLingo post-train bucket 迁移包 |
|
|
| 保存现有 SimLingo post-train 使用的 **bucket 索引和样本缓存**。 |
| 缓存已去除原服务器绝对路径，恢复工具会写入新服务器的数据路径。 |
| **不包含 RGB、measurements、boxes、commentary、DriveLM 或 Dreamer 原始数据。** |
| 压缩包约 129 MB，解压约 3.86 GB；恢复后的缓存大小随目标路径长度变化。 |
|
|
| | 内容 | 说明 | |
| |---|---| |
| | 样本缓存 | `BUCKET2DATA_remove_missing_dream_jianing.pkl` 的可迁移快照 | |
| | Bucket 索引 | `bucketsv2_simlingo/buckets_paths.pkl`，42 个非空定义，原样保存 | |
| | train / all | 2,023,499 个 expert 样本 | |
| | train / dream_all | 1,058,349 个 Dreamer 样本 | |
| | 其他分组 | 保留源缓存的全部 train / val buckets；数量见 `manifest.json` | |
| |
| 这是项目实际使用的历史缓存，包含原有过滤结果；恢复工具不重新划分数据。 |
| 索引中的路径本来就是 `database/simlingo_v2_2025_01_10/...`，因此保持不变。 |
| 缓存里的绝对路径则需要转换。包内 `BUCKET2DATA.portable.pkl` **不能直接作为训练缓存**。 |
| |
| ## 1. 下载与恢复 |
| |
| 使用已恢复的 [simlingo 环境](https://huggingface.co/datasets/data-loader/simlingo-conda-env) |
| （或 Python 3.8+、NumPy 和 Pillow）。建议 64 GB RAM、20 GB 空闲磁盘。 |
| |
| ```bash |
| source "$HOME/envs/simlingo/bin/activate" |
| huggingface-cli download data-loader/simlingo-posttrain-buckets \ |
| --repo-type dataset --local-dir /srv/downloads/simlingo-buckets |
| cd /srv/downloads/simlingo-buckets |
| sha256sum -c SHA256SUMS |
| ``` |
| |
| 若客户端使用新版命令，将 `huggingface-cli download` 换成 `hf download`。 |
| 也可从 Files 页面下载全部文件；下载完成后恢复过程不访问网络。 |
| |
| 先准备 [SimLingo 原始数据](https://huggingface.co/datasets/RenzKa/simlingo)，整理为： |
| |
| ```text |
| /srv/resources/simlingo_data/ |
| simlingo_v2_2025_01_10/ |
| data/simlingo/ # RGB、measurements、boxes 等 |
| commentary/simlingo/ |
| drivelm/simlingo/ |
| dreamer/simlingo/ |
| ``` |
| |
| 随后恢复缓存、索引，并实际解码代表性的 expert、语言标签和 Dreamer 文件： |
|
|
| ```bash |
| python restore.py --database-root /srv/resources/simlingo_data --check-data |
| ``` |
|
|
| 结果是在 `simlingo_data/` 下新增两个训练入口： |
|
|
| ```text |
| BUCKET2DATA_remove_missing_dream_jianing.pkl |
| bucketsv2_simlingo/buckets_paths.pkl |
| ``` |
|
|
| 恢复工具核验压缩包和内部文件 SHA-256，按字段转换路径，保留样本、顺序和计数， |
| 并拒绝覆盖已有文件。若想先恢复缓存、之后再下载原始数据，可暂时省略 `--check-data`。 |
| 恢复后的缓存绑定指定的数据目录；移动原始数据后，需从此原始迁移包恢复到新的空目录。 |
|
|
| ## 2. 接入本项目 |
|
|
| 把本项目 SimLingo 子目录的 `database` 链接到资源目录： |
|
|
| ```bash |
| PROJECT=/path/to/driving-mid-train |
| ln -s /srv/resources/simlingo_data "$PROJECT/simlingo_posttrain_bench2drive/database" |
| cd "$PROJECT/simlingo_posttrain_bench2drive" |
| python tools/audit_simlingo_data.py --project-root "$PWD" \ |
| --output validation_logs/data_audit_migrated.json |
| ``` |
|
|
| 若 `database` 已存在，先核对并调整已有入口，不在已有目录里再嵌套创建链接。 |
| 保持原有 `data_path=database/simlingo_v2_2025_01_10`、 |
| `bucket_path=database/bucketsv2_simlingo` 配置即可。 |
| 加载器还支持 `SIMLINGO_BUCKET_CACHE` 指定缓存文件，但当前项目 preflight 检查默认位置； |
| 优先按上面的目录布局恢复。 |
|
|
| 官方下载数据的版本、路径和完整性必须与快照匹配。`--check-data` 是代表性样本检查， |
| 不是数百万样本的完整覆盖证明；若缺少特定路线或标签，补齐对应文件或按项目流程重建缓存， |
| 不要靠修改路径掩盖缺失。该 SimLingo 样本缓存不适用于 FiveVLA 的独立 loader 缓存。 |
|
|
| ## 验证与来源 |
|
|
| 源快照日期：2026-10-15。来源是本项目已使用的共享 SimLingo bucket 文件； |
| 原始文件大小和 SHA-256、各分组数量、包内清单见 `manifest.json`。 |
| `restore-validation.json` 记录完整缓存路径往返转换校验、索引检查和真实文件解码结果。 |
| 源共享文件未被修改。用途和上游条款见 [TERMS.md](TERMS.md)。 |
|
|
