--- library_name: transformers tags: - qwen3.5 - vision-language-model - drivelm - lora - online-distillation - rlhf --- # Qwen3.5 DriveLM：H20 × 4 迁移运行包 这是一个**只包含代码与配置**的独立迁移目录。它的用途是：在本地整理好后上传到私有 Hugging Face 仓库，再从公司的 H20 × 4 服务器拉取运行。默认使用公司服务器上已有的： - Student：`/data/models/Qwen3.5-4B` - Teacher：`/data/models/Qwen3.5-9B` - Student SFT：GPU 0、1、2、3 - 在线 OPD：GPU 0 放 Teacher，GPU 1、2、3 运行 Student DDP 模型、数据集、LoRA adapter、checkpoint、日志和 `.env` 都被排除在上传目录之外。**只有公司明确允许外传时才上传；必须使用私有仓库。** ## 1. 上传这个目录 推荐在本地直接上传整个 `h20_qwen35_drivelm` 文件夹。也可以安装并登录 Hugging Face CLI 后执行： ```bash cd h20_qwen35_drivelm hf auth login bash scripts/06_upload_private_hf.sh YOUR_ACCOUNT/qwen35-drivelm-h20 ``` 上传脚本会拒绝包含 `.env` 或权重文件的目录。当前用户仓库是 Dataset 类型的 `huohuo0345/0716`，Windows PowerShell 可直接执行： ```powershell py -m pip install -U huggingface_hub hf auth login Set-Location F:\VLA-Drive\h20_qwen35_drivelm .\scripts\06_upload_hf_dataset.ps1 ``` 脚本会先把仓库设置为 Private，再把本目录内容上传到仓库根目录。 ## 2. 公司服务器拉取与安装 ```bash cd /data/your_workspace hf download YOUR_ACCOUNT/qwen35-drivelm-h20 \ --repo-type model --local-dir h20_qwen35_drivelm cd h20_qwen35_drivelm # Python 3.12 可以直接使用。创建独立环境，不覆盖公司公共 Python。 python3.12 -m venv .venv source .venv/bin/activate python -m pip install -U pip # 优先使用公司已经验证过的内部 PyPI/torch wheel。 # 没有内部环境时，可使用提供的 H20/CUDA 12.8 基线： python -m pip install torch==2.11.0 torchvision==0.26.0 \ --index-url https://download.pytorch.org/whl/cu128 python -m pip install -r requirements-h20-py312.txt cp .env.example .env vim .env ``` 必须修改 `.env` 中的 `DATA_DIR`。两个模型路径若和默认值一致则不用改。服务器无法联网时，默认的 `HF_HUB_OFFLINE=1` 和 `TRANSFORMERS_OFFLINE=1` 会确保只读取本地模型。 Qwen3.5 必须使用能够导入 `AutoModelForMultimodalLM` 的较新 Transformers。若公司的稳定环境版本较旧，请另建环境，不要直接破坏公共环境。 ## 3. 数据格式 `DATA_DIR` 下应有 `train.json` 和 `val.json`，每个文件是展平后的 JSON 数组： ```json [ { "scene_id": "scene-001", "frame_token": "frame-001", "task_type": "perception", "question": "What is directly ahead of the ego vehicle?", "answer": "A stopped vehicle is directly ahead.", "image_paths": { "CAM_FRONT": "/data/datasets/nuscenes/samples/CAM_FRONT/a.jpg", "CAM_FRONT_LEFT": "/data/datasets/nuscenes/samples/CAM_FRONT_LEFT/b.jpg", "CAM_FRONT_RIGHT": "/data/datasets/nuscenes/samples/CAM_FRONT_RIGHT/c.jpg", "CAM_BACK": "/data/datasets/nuscenes/samples/CAM_BACK/d.jpg", "CAM_BACK_LEFT": "/data/datasets/nuscenes/samples/CAM_BACK_LEFT/e.jpg", "CAM_BACK_RIGHT": "/data/datasets/nuscenes/samples/CAM_BACK_RIGHT/f.jpg" } } ] ``` 图片路径必须是**公司服务器上的真实路径**，不能保留 Windows 的 `F:\...`。如手上是 DriveLM 原始 `v1_0_train_nus.json`，可在服务器转换： ```bash python tools/convert_drivelm.py \ --json /data/datasets/drivelm/v1_0_train_nus.json \ --images-root /data/datasets/drivelm \ --output-dir /data/vla_drive/data/drive_lm ``` 转换脚本按 scene 划分训练集和验证集，避免同一 scene 泄漏到两边。 ## 4. 严格按顺序跑 ### 4.1 数据审计 ```bash bash scripts/00_data_audit.sh ``` 它会检查问题/答案是否为空、六路相机字段是否齐全、图片文件是否真实存在。出现错误时不要继续训练。 ### 4.2 模型与样本预检 ```bash bash scripts/01_preflight.sh ``` 它会实际加载 Qwen3.5-4B 和一张图片，执行一次前向，确认：模型是 VLM、processor 能读取本地图片、chat template 可用、CUDA/BF16 正常。 先做一个短 smoke run： ```bash SFT_MAX_STEPS=5 SFT_GRAD_ACC=1 bash scripts/02_sft_student.sh ``` 短跑无误后，删除或更换 smoke 输出目录，再开始正式 SFT： ```bash bash scripts/02_sft_student.sh ``` 在裸模型和 SFT adapter 上分别运行验证集推理，保留可复现基线。脚本在 adapter 不存在时自动评测裸模型，存在时自动加载 adapter： ```bash EVAL_MAX_SAMPLES=100 bash scripts/02b_eval_student.sh ``` 输出包括逐样本预测、Exact Match 和简单 token-F1。它们适合做工程回归检查，但不能替代 DriveLM 官方指标或人工驾驶安全评测。 默认 Student SFT 只使用 `CAM_FRONT`，这是为了先建立可靠基线。有效 batch size 为 `4 × 1 × SFT_GRAD_ACC`。若单视图稳定后需要六视图： ```bash STUDENT_SFT_VIEWS=6 SFT_MAX_LENGTH=4096 SFT_GRAD_ACC=4 \ bash scripts/02_sft_student.sh ``` 显存不足时依次降低：视图数、`SFT_MAX_LENGTH`、LoRA rank（需修改脚本参数）；不要把每卡 batch size 从 1 调大。 ### 4.3 可选：领域微调 Teacher 裸 9B Teacher 不一定熟悉 DriveLM 的回答格式。可先用六视图数据做一次 LoRA SFT： ```bash TEACHER_SFT_MAX_STEPS=5 bash scripts/03_sft_teacher_optional.sh # smoke bash scripts/03_sft_teacher_optional.sh # 正式 ``` 若跳过这一步，Teacher server 会直接使用 `/data/models/Qwen3.5-9B`。 ### 4.4 在线 OPD 终端 A： ```bash bash scripts/04_teacher_server.sh ``` 看到包含 `"ok": true` 的健康信息后，在终端 B 先短跑： ```bash OPD_MAX_STEPS=5 OPD_GRAD_ACC=1 bash scripts/05_online_opd.sh ``` 确认 loss、advantage、response token 数均正常，再正式运行： ```bash bash scripts/05_online_opd.sh ``` 在线 OPD 的每个 step 是：Student 根据当前参数在线采样回答；Teacher 对**完全相同的回答 token**打分；Teacher 只返回这些 token 的 log-prob，不传 `[序列长度, 词表大小]` 的完整 logits；Student 用带截断 advantage 的 sampled-token loss 更新，同时加入少量 ground-truth SFT anchor 防止漂移。 Teacher 与 Student 必须使用完全一致的 tokenizer。启动时会计算完整 token-id 映射的 SHA-256，不一致会立即退出。Teacher server 默认只监听 `127.0.0.1`，不会暴露到公司网络。 ## 5. 推荐实验顺序 不要第一次就跑“大而全”： 1. 1 张图、4B Student、5 step SFT，确认链路。 2. 1 张图、4B Student 正式 SFT，保存可复现实验指标。 3. 六视图 Student SFT，与单视图做消融。 4. 对 9B Teacher 做六视图领域 SFT，并验证它确实优于 Student。 5. 在线 OPD 先跑 5/20/100 step，检查回答质量与 KL/advantage 变化。 6. 再比较 `SFT anchor=0/0.05/0.1`、Teacher 裸模型/领域 LoRA、不同采样温度。 OPD 不是完整意义上的人类偏好 RLHF：它属于在线策略蒸馏。若要在简历中写“RLHF 全流程”，还应另外构建偏好对、训练 reward model，随后实现 DPO/GRPO/PPO 中至少一种，并提供安全性和任务指标评测；不要把 OPD 单独包装成完整 RLHF。 ## 6. 目录说明 ```text configs/ DeepSpeed ZeRO-2 配置（SFT 显存紧张时可启用） scripts/ H20×4 一键运行及私有 HF 上传脚本 src/common.py Qwen3.5 多模态消息、相机顺序、tokenizer 校验 src/data.py 数据集与严格 assistant-only loss mask src/modeling.py Qwen3.5 VLM、LoRA、视觉塔冻结 src/train_sft.py 四卡 LoRA SFT src/evaluate.py 验证集生成、Exact Match、token-F1 src/teacher_server.py GPU0 Teacher sampled-token 打分服务 src/train_online_opd.py GPU1–3 Student 在线 OPD tools/convert_drivelm.py DriveLM 原始标注转换 tests/ 与 token 对齐/梯度相关的单元测试 ``` ## 7. 当前边界 - 本目录在本地可做语法和 CPU 单元测试，但真正的 Qwen3.5 多模态前向必须在公司 H20 环境预检。 - 公司模型可能是内部修改版。若 `config.json`、processor 或层名偏离官方 Qwen3.5，预检/LoRA target discovery 会明确失败，不会静默训练错误模块。 - 第一版 Teacher HTTP 服务为单 GPU 串行推理，优先保证正确性。三路 Student 会排队等待 GPU0；跑通后再考虑 vLLM/SGLang continuous batching。 - `configs/ds_zero2.json` 是可选项。默认 LoRA SFT 用 DDP；需要 ZeRO-2 时给 `src.train_sft` 增加 `--deepspeed configs/ds_zero2.json`。 运行测试： ```bash pytest -q python -m compileall -q src tools ```