huohuo0345/0716

Qwen3.5 DriveLM：H20 × 4 迁移运行包

这是一个只包含代码与配置的独立迁移目录。它的用途是：在本地整理好后上传到私有 Hugging Face 仓库，再从公司的 H20 × 4 服务器拉取运行。默认使用公司服务器上已有的：

• Student：/data/models/Qwen3.5-4B
• Teacher：/data/models/Qwen3.5-9B
• Student SFT：GPU 0、1、2、3
• 在线 OPD：GPU 0 放 Teacher，GPU 1、2、3 运行 Student DDP

模型、数据集、LoRA adapter、checkpoint、日志和 .env 都被排除在上传目录之外。只有公司明确允许外传时才上传；必须使用私有仓库。

1. 上传这个目录

推荐在本地直接上传整个 h20_qwen35_drivelm 文件夹。也可以安装并登录 Hugging Face CLI 后执行：

cd h20_qwen35_drivelm
hf auth login
bash scripts/06_upload_private_hf.sh YOUR_ACCOUNT/qwen35-drivelm-h20

上传脚本会拒绝包含 .env 或权重文件的目录。当前用户仓库是 Dataset 类型的 huohuo0345/0716，Windows PowerShell 可直接执行：

py -m pip install -U huggingface_hub
hf auth login
Set-Location F:\VLA-Drive\h20_qwen35_drivelm
.\scripts\06_upload_hf_dataset.ps1

脚本会先把仓库设置为 Private，再把本目录内容上传到仓库根目录。

2. 公司服务器拉取与安装

cd /data/your_workspace
hf download YOUR_ACCOUNT/qwen35-drivelm-h20 \
  --repo-type model --local-dir h20_qwen35_drivelm
cd h20_qwen35_drivelm

# Python 3.12 可以直接使用。创建独立环境，不覆盖公司公共 Python。
python3.12 -m venv .venv
source .venv/bin/activate
python -m pip install -U pip

# 优先使用公司已经验证过的内部 PyPI/torch wheel。
# 没有内部环境时，可使用提供的 H20/CUDA 12.8 基线：
python -m pip install torch==2.11.0 torchvision==0.26.0 \
  --index-url https://download.pytorch.org/whl/cu128
python -m pip install -r requirements-h20-py312.txt

cp .env.example .env
vim .env

必须修改 .env 中的 DATA_DIR。两个模型路径若和默认值一致则不用改。服务器无法联网时，默认的 HF_HUB_OFFLINE=1 和 TRANSFORMERS_OFFLINE=1 会确保只读取本地模型。

Qwen3.5 必须使用能够导入 AutoModelForMultimodalLM 的较新 Transformers。若公司的稳定环境版本较旧，请另建环境，不要直接破坏公共环境。

3. 数据格式

DATA_DIR 下应有 train.json 和 val.json，每个文件是展平后的 JSON 数组：

[
  {
    "scene_id": "scene-001",
    "frame_token": "frame-001",
    "task_type": "perception",
    "question": "What is directly ahead of the ego vehicle?",
    "answer": "A stopped vehicle is directly ahead.",
    "image_paths": {
      "CAM_FRONT": "/data/datasets/nuscenes/samples/CAM_FRONT/a.jpg",
      "CAM_FRONT_LEFT": "/data/datasets/nuscenes/samples/CAM_FRONT_LEFT/b.jpg",
      "CAM_FRONT_RIGHT": "/data/datasets/nuscenes/samples/CAM_FRONT_RIGHT/c.jpg",
      "CAM_BACK": "/data/datasets/nuscenes/samples/CAM_BACK/d.jpg",
      "CAM_BACK_LEFT": "/data/datasets/nuscenes/samples/CAM_BACK_LEFT/e.jpg",
      "CAM_BACK_RIGHT": "/data/datasets/nuscenes/samples/CAM_BACK_RIGHT/f.jpg"
    }
  }
]

图片路径必须是公司服务器上的真实路径，不能保留 Windows 的 F:\...。如手上是 DriveLM 原始 v1_0_train_nus.json，可在服务器转换：

python tools/convert_drivelm.py \
  --json /data/datasets/drivelm/v1_0_train_nus.json \
  --images-root /data/datasets/drivelm \
  --output-dir /data/vla_drive/data/drive_lm

转换脚本按 scene 划分训练集和验证集，避免同一 scene 泄漏到两边。

4. 严格按顺序跑

4.1 数据审计

bash scripts/00_data_audit.sh

它会检查问题/答案是否为空、六路相机字段是否齐全、图片文件是否真实存在。出现错误时不要继续训练。

4.2 模型与样本预检

bash scripts/01_preflight.sh

它会实际加载 Qwen3.5-4B 和一张图片，执行一次前向，确认：模型是 VLM、processor 能读取本地图片、chat template 可用、CUDA/BF16 正常。

先做一个短 smoke run：

SFT_MAX_STEPS=5 SFT_GRAD_ACC=1 bash scripts/02_sft_student.sh

短跑无误后，删除或更换 smoke 输出目录，再开始正式 SFT：

bash scripts/02_sft_student.sh

在裸模型和 SFT adapter 上分别运行验证集推理，保留可复现基线。脚本在 adapter 不存在时自动评测裸模型，存在时自动加载 adapter：

EVAL_MAX_SAMPLES=100 bash scripts/02b_eval_student.sh

输出包括逐样本预测、Exact Match 和简单 token-F1。它们适合做工程回归检查，但不能替代 DriveLM 官方指标或人工驾驶安全评测。

默认 Student SFT 只使用 CAM_FRONT，这是为了先建立可靠基线。有效 batch size 为 4 × 1 × SFT_GRAD_ACC。若单视图稳定后需要六视图：

STUDENT_SFT_VIEWS=6 SFT_MAX_LENGTH=4096 SFT_GRAD_ACC=4 \
  bash scripts/02_sft_student.sh

显存不足时依次降低：视图数、SFT_MAX_LENGTH、LoRA rank（需修改脚本参数）；不要把每卡 batch size 从 1 调大。

4.3 可选：领域微调 Teacher

裸 9B Teacher 不一定熟悉 DriveLM 的回答格式。可先用六视图数据做一次 LoRA SFT：

TEACHER_SFT_MAX_STEPS=5 bash scripts/03_sft_teacher_optional.sh  # smoke
bash scripts/03_sft_teacher_optional.sh                         # 正式

若跳过这一步，Teacher server 会直接使用 /data/models/Qwen3.5-9B。

4.4 在线 OPD

终端 A：

bash scripts/04_teacher_server.sh

看到包含 "ok": true 的健康信息后，在终端 B 先短跑：

OPD_MAX_STEPS=5 OPD_GRAD_ACC=1 bash scripts/05_online_opd.sh

确认 loss、advantage、response token 数均正常，再正式运行：

bash scripts/05_online_opd.sh

在线 OPD 的每个 step 是：Student 根据当前参数在线采样回答；Teacher 对完全相同的回答 token打分；Teacher 只返回这些 token 的 log-prob，不传 [序列长度, 词表大小] 的完整 logits；Student 用带截断 advantage 的 sampled-token loss 更新，同时加入少量 ground-truth SFT anchor 防止漂移。

Teacher 与 Student 必须使用完全一致的 tokenizer。启动时会计算完整 token-id 映射的 SHA-256，不一致会立即退出。Teacher server 默认只监听 127.0.0.1，不会暴露到公司网络。

5. 推荐实验顺序

不要第一次就跑“大而全”：

1. 1 张图、4B Student、5 step SFT，确认链路。
2. 1 张图、4B Student 正式 SFT，保存可复现实验指标。
3. 六视图 Student SFT，与单视图做消融。
4. 对 9B Teacher 做六视图领域 SFT，并验证它确实优于 Student。
5. 在线 OPD 先跑 5/20/100 step，检查回答质量与 KL/advantage 变化。
6. 再比较 SFT anchor=0/0.05/0.1、Teacher 裸模型/领域 LoRA、不同采样温度。

OPD 不是完整意义上的人类偏好 RLHF：它属于在线策略蒸馏。若要在简历中写“RLHF 全流程”，还应另外构建偏好对、训练 reward model，随后实现 DPO/GRPO/PPO 中至少一种，并提供安全性和任务指标评测；不要把 OPD 单独包装成完整 RLHF。

6. 目录说明

configs/                 DeepSpeed ZeRO-2 配置（SFT 显存紧张时可启用）
scripts/                 H20×4 一键运行及私有 HF 上传脚本
src/common.py            Qwen3.5 多模态消息、相机顺序、tokenizer 校验
src/data.py              数据集与严格 assistant-only loss mask
src/modeling.py          Qwen3.5 VLM、LoRA、视觉塔冻结
src/train_sft.py         四卡 LoRA SFT
src/evaluate.py          验证集生成、Exact Match、token-F1
src/teacher_server.py    GPU0 Teacher sampled-token 打分服务
src/train_online_opd.py  GPU1–3 Student 在线 OPD
tools/convert_drivelm.py DriveLM 原始标注转换
tests/                   与 token 对齐/梯度相关的单元测试

7. 当前边界

• 本目录在本地可做语法和 CPU 单元测试，但真正的 Qwen3.5 多模态前向必须在公司 H20 环境预检。
• 公司模型可能是内部修改版。若 config.json、processor 或层名偏离官方 Qwen3.5，预检/LoRA target discovery 会明确失败，不会静默训练错误模块。
• 第一版 Teacher HTTP 服务为单 GPU 串行推理，优先保证正确性。三路 Student 会排队等待 GPU0；跑通后再考虑 vLLM/SGLang continuous batching。
• configs/ds_zero2.json 是可选项。默认 LoRA SFT 用 DDP；需要 ZeRO-2 时给 src.train_sft 增加 --deepspeed configs/ds_zero2.json。

运行测试：

pytest -q
python -m compileall -q src tools