Datasets:

data-loader
/

simlingo-posttrain-buckets

---
pretty_name: SimLingo Post-train Bucket Cache and Index
language:
- zh
- en
license: other
license_name: upstream-terms-apply
license_link: https://huggingface.co/datasets/data-loader/simlingo-posttrain-buckets/blob/main/TERMS.md
tags:
- simlingo
- autonomous-driving
- reproducibility
- metadata
---

# SimLingo post-train bucket 迁移包

保存现有 SimLingo post-train 使用的 **bucket 索引和样本缓存**。
缓存已去除原服务器绝对路径，恢复工具会写入新服务器的数据路径。
**不包含 RGB、measurements、boxes、commentary、DriveLM 或 Dreamer 原始数据。**
压缩包约 129 MB，解压约 3.86 GB；恢复后的缓存大小随目标路径长度变化。

| 内容 | 说明 |
|---|---|
| 样本缓存 | `BUCKET2DATA_remove_missing_dream_jianing.pkl` 的可迁移快照 |
| Bucket 索引 | `bucketsv2_simlingo/buckets_paths.pkl`，42 个非空定义，原样保存 |
| train / all | 2,023,499 个 expert 样本 |
| train / dream_all | 1,058,349 个 Dreamer 样本 |
| 其他分组 | 保留源缓存的全部 train / val buckets；数量见 `manifest.json` |

这是项目实际使用的历史缓存，包含原有过滤结果；恢复工具不重新划分数据。
索引中的路径本来就是 `database/simlingo_v2_2025_01_10/...`，因此保持不变。
缓存里的绝对路径则需要转换。包内 `BUCKET2DATA.portable.pkl` **不能直接作为训练缓存**。

## 1. 下载与恢复

使用已恢复的 [simlingo 环境](https://huggingface.co/datasets/data-loader/simlingo-conda-env)
（或 Python 3.8+、NumPy 和 Pillow）。建议 64 GB RAM、20 GB 空闲磁盘。

```bash
source "$HOME/envs/simlingo/bin/activate"
huggingface-cli download data-loader/simlingo-posttrain-buckets \
  --repo-type dataset --local-dir /srv/downloads/simlingo-buckets
cd /srv/downloads/simlingo-buckets
sha256sum -c SHA256SUMS
```

若客户端使用新版命令，将 `huggingface-cli download` 换成 `hf download`。
也可从 Files 页面下载全部文件；下载完成后恢复过程不访问网络。

先准备 [SimLingo 原始数据](https://huggingface.co/datasets/RenzKa/simlingo)，整理为：

```text
/srv/resources/simlingo_data/
  simlingo_v2_2025_01_10/
    data/simlingo/           # RGB、measurements、boxes 等
    commentary/simlingo/
    drivelm/simlingo/
    dreamer/simlingo/
```

随后恢复缓存、索引，并实际解码代表性的 expert、语言标签和 Dreamer 文件：

```bash
python restore.py --database-root /srv/resources/simlingo_data --check-data
```

结果是在 `simlingo_data/` 下新增两个训练入口：

```text
BUCKET2DATA_remove_missing_dream_jianing.pkl
bucketsv2_simlingo/buckets_paths.pkl
```

恢复工具核验压缩包和内部文件 SHA-256，按字段转换路径，保留样本、顺序和计数，
并拒绝覆盖已有文件。若想先恢复缓存、之后再下载原始数据，可暂时省略 `--check-data`。
恢复后的缓存绑定指定的数据目录；移动原始数据后，需从此原始迁移包恢复到新的空目录。

## 2. 接入本项目

把本项目 SimLingo 子目录的 `database` 链接到资源目录：

```bash
PROJECT=/path/to/driving-mid-train
ln -s /srv/resources/simlingo_data "$PROJECT/simlingo_posttrain_bench2drive/database"
cd "$PROJECT/simlingo_posttrain_bench2drive"
python tools/audit_simlingo_data.py --project-root "$PWD" \
  --output validation_logs/data_audit_migrated.json
```

若 `database` 已存在，先核对并调整已有入口，不在已有目录里再嵌套创建链接。
保持原有 `data_path=database/simlingo_v2_2025_01_10`、
`bucket_path=database/bucketsv2_simlingo` 配置即可。
加载器还支持 `SIMLINGO_BUCKET_CACHE` 指定缓存文件，但当前项目 preflight 检查默认位置；
优先按上面的目录布局恢复。

官方下载数据的版本、路径和完整性必须与快照匹配。`--check-data` 是代表性样本检查，
不是数百万样本的完整覆盖证明；若缺少特定路线或标签，补齐对应文件或按项目流程重建缓存，
不要靠修改路径掩盖缺失。该 SimLingo 样本缓存不适用于 FiveVLA 的独立 loader 缓存。

## 验证与来源

源快照日期：2026-10-15。来源是本项目已使用的共享 SimLingo bucket 文件；
原始文件大小和 SHA-256、各分组数量、包内清单见 `manifest.json`。
`restore-validation.json` 记录完整缓存路径往返转换校验、索引检查和真实文件解码结果。
源共享文件未被修改。用途和上游条款见 [TERMS.md](TERMS.md)。