README.md

---
library_name: transformers
tags:
- qwen3.5
- vision-language-model
- drivelm
- lora
- online-distillation
- rlhf
---

# Qwen3.5 DriveLM：H20 × 4 迁移运行包

这是一个**只包含代码与配置**的独立迁移目录。它的用途是：在本地整理好后上传到私有 Hugging Face 仓库，再从公司的 H20 × 4 服务器拉取运行。默认使用公司服务器上已有的：

- Student：`/data/models/Qwen3.5-4B`
- Teacher：`/data/models/Qwen3.5-9B`
- Student SFT：GPU 0、1、2、3
- 在线 OPD：GPU 0 放 Teacher，GPU 1、2、3 运行 Student DDP

模型、数据集、LoRA adapter、checkpoint、日志和 `.env` 都被排除在上传目录之外。**只有公司明确允许外传时才上传；必须使用私有仓库。**

## 1. 上传这个目录

推荐在本地直接上传整个 `h20_qwen35_drivelm` 文件夹。也可以安装并登录 Hugging Face CLI 后执行：

```bash
cd h20_qwen35_drivelm
hf auth login
bash scripts/06_upload_private_hf.sh YOUR_ACCOUNT/qwen35-drivelm-h20
```

上传脚本会拒绝包含 `.env` 或权重文件的目录。当前用户仓库是 Dataset 类型的 `huohuo0345/0716`，Windows PowerShell 可直接执行：

```powershell
py -m pip install -U huggingface_hub
hf auth login
Set-Location F:\VLA-Drive\h20_qwen35_drivelm
.\scripts\06_upload_hf_dataset.ps1
```

脚本会先把仓库设置为 Private，再把本目录内容上传到仓库根目录。

## 2. 公司服务器拉取与安装

```bash
cd /data/your_workspace
hf download YOUR_ACCOUNT/qwen35-drivelm-h20 \
  --repo-type model --local-dir h20_qwen35_drivelm
cd h20_qwen35_drivelm

# Python 3.12 可以直接使用。创建独立环境，不覆盖公司公共 Python。
python3.12 -m venv .venv
source .venv/bin/activate
python -m pip install -U pip

# 优先使用公司已经验证过的内部 PyPI/torch wheel。
# 没有内部环境时，可使用提供的 H20/CUDA 12.8 基线：
python -m pip install torch==2.11.0 torchvision==0.26.0 \
  --index-url https://download.pytorch.org/whl/cu128
python -m pip install -r requirements-h20-py312.txt

cp .env.example .env
vim .env
```

必须修改 `.env` 中的 `DATA_DIR`。两个模型路径若和默认值一致则不用改。服务器无法联网时，默认的 `HF_HUB_OFFLINE=1` 和 `TRANSFORMERS_OFFLINE=1` 会确保只读取本地模型。

Qwen3.5 必须使用能够导入 `AutoModelForMultimodalLM` 的较新 Transformers。若公司的稳定环境版本较旧，请另建环境，不要直接破坏公共环境。

## 3. 数据格式

`DATA_DIR` 下应有 `train.json` 和 `val.json`，每个文件是展平后的 JSON 数组：

```json
[
  {
    "scene_id": "scene-001",
    "frame_token": "frame-001",
    "task_type": "perception",
    "question": "What is directly ahead of the ego vehicle?",
    "answer": "A stopped vehicle is directly ahead.",
    "image_paths": {
      "CAM_FRONT": "/data/datasets/nuscenes/samples/CAM_FRONT/a.jpg",
      "CAM_FRONT_LEFT": "/data/datasets/nuscenes/samples/CAM_FRONT_LEFT/b.jpg",
      "CAM_FRONT_RIGHT": "/data/datasets/nuscenes/samples/CAM_FRONT_RIGHT/c.jpg",
      "CAM_BACK": "/data/datasets/nuscenes/samples/CAM_BACK/d.jpg",
      "CAM_BACK_LEFT": "/data/datasets/nuscenes/samples/CAM_BACK_LEFT/e.jpg",
      "CAM_BACK_RIGHT": "/data/datasets/nuscenes/samples/CAM_BACK_RIGHT/f.jpg"
    }
  }
]
```

图片路径必须是**公司服务器上的真实路径**，不能保留 Windows 的 `F:\...`。如手上是 DriveLM 原始 `v1_0_train_nus.json`，可在服务器转换：

```bash
python tools/convert_drivelm.py \
  --json /data/datasets/drivelm/v1_0_train_nus.json \
  --images-root /data/datasets/drivelm \
  --output-dir /data/vla_drive/data/drive_lm
```

转换脚本按 scene 划分训练集和验证集，避免同一 scene 泄漏到两边。

## 4. 严格按顺序跑

### 4.1 数据审计

```bash
bash scripts/00_data_audit.sh
```

它会检查问题/答案是否为空、六路相机字段是否齐全、图片文件是否真实存在。出现错误时不要继续训练。

### 4.2 模型与样本预检

```bash
bash scripts/01_preflight.sh
```

它会实际加载 Qwen3.5-4B 和一张图片，执行一次前向，确认：模型是 VLM、processor 能读取本地图片、chat template 可用、CUDA/BF16 正常。

先做一个短 smoke run：

```bash
SFT_MAX_STEPS=5 SFT_GRAD_ACC=1 bash scripts/02_sft_student.sh
```

短跑无误后，删除或更换 smoke 输出目录，再开始正式 SFT：

```bash
bash scripts/02_sft_student.sh
```

在裸模型和 SFT adapter 上分别运行验证集推理，保留可复现基线。脚本在 adapter 不存在时自动评测裸模型，存在时自动加载 adapter：

```bash
EVAL_MAX_SAMPLES=100 bash scripts/02b_eval_student.sh
```

输出包括逐样本预测、Exact Match 和简单 token-F1。它们适合做工程回归检查，但不能替代 DriveLM 官方指标或人工驾驶安全评测。

默认 Student SFT 只使用 `CAM_FRONT`，这是为了先建立可靠基线。有效 batch size 为 `4 × 1 × SFT_GRAD_ACC`。若单视图稳定后需要六视图：

```bash
STUDENT_SFT_VIEWS=6 SFT_MAX_LENGTH=4096 SFT_GRAD_ACC=4 \
  bash scripts/02_sft_student.sh
```

显存不足时依次降低：视图数、`SFT_MAX_LENGTH`、LoRA rank（需修改脚本参数）；不要把每卡 batch size 从 1 调大。

### 4.3 可选：领域微调 Teacher

裸 9B Teacher 不一定熟悉 DriveLM 的回答格式。可先用六视图数据做一次 LoRA SFT：

```bash
TEACHER_SFT_MAX_STEPS=5 bash scripts/03_sft_teacher_optional.sh  # smoke
bash scripts/03_sft_teacher_optional.sh                         # 正式
```

若跳过这一步，Teacher server 会直接使用 `/data/models/Qwen3.5-9B`。

### 4.4 在线 OPD

终端 A：

```bash
bash scripts/04_teacher_server.sh
```

看到包含 `"ok": true` 的健康信息后，在终端 B 先短跑：

```bash
OPD_MAX_STEPS=5 OPD_GRAD_ACC=1 bash scripts/05_online_opd.sh
```

确认 loss、advantage、response token 数均正常，再正式运行：

```bash
bash scripts/05_online_opd.sh
```

在线 OPD 的每个 step 是：Student 根据当前参数在线采样回答；Teacher 对**完全相同的回答 token**打分；Teacher 只返回这些 token 的 log-prob，不传 `[序列长度, 词表大小]` 的完整 logits；Student 用带截断 advantage 的 sampled-token loss 更新，同时加入少量 ground-truth SFT anchor 防止漂移。

Teacher 与 Student 必须使用完全一致的 tokenizer。启动时会计算完整 token-id 映射的 SHA-256，不一致会立即退出。Teacher server 默认只监听 `127.0.0.1`，不会暴露到公司网络。

## 5. 推荐实验顺序

不要第一次就跑“大而全”：

1. 1 张图、4B Student、5 step SFT，确认链路。
2. 1 张图、4B Student 正式 SFT，保存可复现实验指标。
3. 六视图 Student SFT，与单视图做消融。
4. 对 9B Teacher 做六视图领域 SFT，并验证它确实优于 Student。
5. 在线 OPD 先跑 5/20/100 step，检查回答质量与 KL/advantage 变化。
6. 再比较 `SFT anchor=0/0.05/0.1`、Teacher 裸模型/领域 LoRA、不同采样温度。

OPD 不是完整意义上的人类偏好 RLHF：它属于在线策略蒸馏。若要在简历中写“RLHF 全流程”，还应另外构建偏好对、训练 reward model，随后实现 DPO/GRPO/PPO 中至少一种，并提供安全性和任务指标评测；不要把 OPD 单独包装成完整 RLHF。

## 6. 目录说明

```text
configs/                 DeepSpeed ZeRO-2 配置（SFT 显存紧张时可启用）
scripts/                 H20×4 一键运行及私有 HF 上传脚本
src/common.py            Qwen3.5 多模态消息、相机顺序、tokenizer 校验
src/data.py              数据集与严格 assistant-only loss mask
src/modeling.py          Qwen3.5 VLM、LoRA、视觉塔冻结
src/train_sft.py         四卡 LoRA SFT
src/evaluate.py          验证集生成、Exact Match、token-F1
src/teacher_server.py    GPU0 Teacher sampled-token 打分服务
src/train_online_opd.py  GPU1–3 Student 在线 OPD
tools/convert_drivelm.py DriveLM 原始标注转换
tests/                   与 token 对齐/梯度相关的单元测试
```

## 7. 当前边界

- 本目录在本地可做语法和 CPU 单元测试，但真正的 Qwen3.5 多模态前向必须在公司 H20 环境预检。
- 公司模型可能是内部修改版。若 `config.json`、processor 或层名偏离官方 Qwen3.5，预检/LoRA target discovery 会明确失败，不会静默训练错误模块。
- 第一版 Teacher HTTP 服务为单 GPU 串行推理，优先保证正确性。三路 Student 会排队等待 GPU0；跑通后再考虑 vLLM/SGLang continuous batching。
- `configs/ds_zero2.json` 是可选项。默认 LoRA SFT 用 DDP；需要 ZeRO-2 时给 `src.train_sft` 增加 `--deepspeed configs/ds_zero2.json`。

运行测试：

```bash
pytest -q
python -m compileall -q src tools
```