| # Multi-Teacher Soft Routing for Flow-OPD（`multi_opd`） |
| |
| > 在 Flow-OPD 的稠密多 teacher 蒸馏上，用**逐时间步 + 逐空间位置**的软路由替换原本的 |
| > **硬路由**（每个 prompt 只配一个 teacher）。包含两条改进： |
| > **想法 1（按时间步分工）** 与 **想法 2（velocity 空间 PCGrad 去冲突）**。 |
| > |
| > 本文档用于介绍这次迁移：改了什么、为什么这么改、怎么配、怎么跑，以及迁移到训练机上的**补充事项**。 |
| |
| --- |
| |
| ## 0. 动机（为什么要软路由） |
| |
| Flow-OPD 的稠密监督是：在每个去噪步，让 student 的预测均值 `prev_sample_mean` 去贴 teacher 的 |
| `prev_sample_mean`。由于 SDE 一步更新里 |
| |
| ``` |
| prev_sample_mean = sample · (1 + std²/(2σ)·dt) + v · (1 + std²(1-σ)/(2σ)) · dt |
| ``` |
| |
| 两个模型在同一 `(sample, t)` 上的均值之差 = `B · (v_teacher − v_student)`，其中 `B > 0` 是标量。 |
| **所以在 `prev_sample_mean` 空间里算距离/投影，等价于在 velocity 空间里算**（差一个正标量）。 |
| |
| 原版**硬路由**（alternate 模式）：每个 epoch 只训练一个数据集，并且只用该数据集对应的**单个** |
| teacher LoRA 提供监督。问题：一张图常常需要多种能力（例如「四个写着 XX 字的气球」= counting + OCR）， |
| 硬路由只能选一个 teacher，丢掉另一边的知识；路由分错则整条样本在错的 teacher 上训练。 |
| |
| **为什么不能简单地把多个 teacher 的 loss 加权平均？** 因为 flow matching 的逐步 loss 是二次型， |
| `∇(‖v−v₁‖² + ‖v−v₂‖²)` 把 student 拉向 `(v₁+v₂)/2`——当两个 teacher 冲突时，平均速度两边都不满足 |
| （正是硬路由想避免的梯度打架又被请回来）。所以关键不是"软不软"，而是"在哪一层软、怎么合"。 |
| |
| --- |
| |
| ## 1. 方法 |
| |
| ### 想法 1 — 按时间步分工（timestep-split routing） |
| |
| 每个 teacher 给一个随去噪进度变化的权重 `w_t(frac)`，`frac = j/(N−1) ∈ [0,1]` |
| （`frac=0` 第一步/高噪声，`frac=1` 最后一步/低噪声）： |
|
|
| ``` |
| w_t(frac) = exp(−sharpness · (frac − center_t)²) → 跨 teacher 归一化使 Σ w_t = 1 |
| ``` |
|
|
| - **高噪声段（早）** 定的是粗结构/布局/数量 → 让 **composition/counting teacher（GenEval）** 主导，`center=0.0` |
| - **低噪声段（晚）** 定的是细节/笔画清晰度 → 让 **text/OCR teacher** 主导，`center=1.0` |
|
|
| 两个 teacher 时这就是一条 **sigmoid 式的交叉**；`sharpness` 越大越接近"硬分段"（单 teacher/步、零冲突）， |
| 中间的重叠带才是想法 2 起作用的地方。`weight_floor` 把该步权重过小的 teacher 直接剔除（保持 disjoint 段干净， |
| 并避免近零权重 teacher 通过投影扰动主 teacher）。 |
|
|
| ### 想法 2 — velocity 空间 PCGrad（co-active teacher 去冲突） |
|
|
| 在多个 teacher 都活跃的步上，不做 target 平均，而是对**加权残差**做梯度手术（Gradient Surgery / PCGrad）， |
| **逐空间位置**（在 channel 维上点积）判断冲突： |
|
|
| ``` |
| r_t = teacher_mean_t − policy_mean # 残差 ∝ (v_teacher − v_student) |
| d_t = w_t · r_t # 加权下降方向 |
| 若 d_i · d_k < 0（该位置两 teacher 互相抵消）: |
| d_i ← d_i − (d_i · d_k)/‖d_k‖² · d_k # 投掉冲突分量，使 d_i ⟂ d_k |
| combined = Σ_t d_t' # 去冲突后求和 |
| target = sg(policy_mean) + combined # sg = stop-grad |
| ``` |
|
|
| 逐位置投影天然吃下了冲突的**空间局部性**（文字区域 OCR 说了算、布局区域两者基本一致）。 |
|
|
| ### 合成 target + 回归 loss |
|
|
| ``` |
| loss = mean_b[ ‖policy_mean − sg(target)‖²_(c,h,w) / (2 · std²) ] |
| ``` |
|
|
| 因为 `target` 被 stop-grad，loss 对 `policy_mean` 的梯度 ∝ `−combined`，即把 student 沿 |
| **去冲突后的、按时间步路由的 teacher 共识方向**推进——也就是你说的"去冲突后的残差相加，得到合成目标，做一次回归"。 |
|
|
| - 无冲突且权重归一 → `target = Σ w_t · teacher_mean_t`（加权平均，纯想法 1）。 |
| - 有冲突 → PCGrad 砍掉互相抵消的分量（想法 2）。 |
| - `sharpness→∞` → 退化为按时间步的硬分段；`use_pcgrad=False` → 朴素加权平均（消融对照）。 |
|
|
| --- |
|
|
| ## 2. 改了哪些文件 |
|
|
| | 文件 | 改动 | |
| |---|---| |
| | **`flow_grpo/multi_routing.py`** | 新增。纯张量路由数学（无模型依赖，可单测）：`timestep_weights`（想法1）、`pcgrad_combine`（想法2，逐位置/channel 维）、`build_target`（合成 detached 回归 target，返回 `(target, weights)`）。 | |
| | **`scripts/train_sd3_opd_mix.py`** | 新增 `reward_mode="multi_opd"`：每步对**所有** teacher 前向（`forward_ref_mean` 辅助函数）→ `build_target` → gkd 式直接 MSE 回归，`beta>0` 可叠加 MAR/base 锚。日志记录 `multi_loss` 与每 teacher 的 `route_w_<name>`。 | |
| | **`config/grpo.py`** | 新增 `mix_opd_1gpu`（单卡复现 baseline 硬路由 kl_only）与 `multi_opd_1gpu`（想法1+2）。 | |
| | **`scripts/single_node/sd3_opd_mix_1gpu.sh` / `sd3_multi_opd_1gpu.sh`** | 新增。单卡启动脚本（HF_HOME / offline / bf16 / num_processes 1）。 | |
|
|
| **为跑通额外修的兼容性 bug（迁移到任何新环境都用得上）：** |
| - `config/grpo.py`、`config/sft.py` 的 `import imp`（Py3.12 已删）→ 换成 importlib 的 `_load_source`。 |
| - 缺失的 `flow_grpo/assets/`（`import flow_grpo.prompts` 模块级 `resources.files(...)` 崩溃）→ 补空包。 |
| - 单卡下 `transformer.module.disable_adapter()` 无 `.module` → 改用 `unwrap_model(transformer, accelerator)`（单/多卡都安全）。 |
| - LoRA 训练时 `autocast` 被硬关 → 文本编码器 bf16 与 fp32 transformer 类型冲突（`mat1/mat2 dtype`）。开启 |
| `autocast`（bf16 无需 GradScaler）解决；SDE 数学仍走 fp32。 |
| - autocast 下 VAE 解码出 bf16，`numpy()` 不支持 → patch 里把图像 `.float()`（图像只用于 reward/可视化，不在梯度路径）。 |
|
|
| --- |
|
|
| ## 3. 怎么跑 |
|
|
| ```bash |
| # 复现 baseline（硬路由，单 teacher/epoch，kl_only） |
| bash scripts/single_node/sd3_opd_mix_1gpu.sh |
| |
| # 想法 1+2（多 teacher 软路由） |
| bash scripts/single_node/sd3_multi_opd_1gpu.sh |
| ``` |
|
|
| 两个脚本都设置了本地缓存（无需联网/下载）： |
|
|
| ```bash |
| export HF_HOME=/workspace/Research/UMM/.hf_cache # SD3.5-M 基座 |
| export HF_HUB_OFFLINE=1 |
| # teacher LoRA： |
| # OCR/text = /workspace/Research/UMM/checkpoints/teachers/text |
| # GenEval = /workspace/Research/Fopd/weights/teachers/geneval |
| ``` |
|
|
| 冒烟验证（本机 1×A100 80G）：baseline 跑到 Epoch 5、multi_opd 跑到 Epoch 3，多 teacher 反传稳定，显存 ~63GB。 |
| reward 用 server-free 的 `jpeg_compressibility` 占位（OPD 梯度来自 teacher-KL，不依赖任务 reward）。 |
|
|
| --- |
|
|
| ## 4. 配置项（`config.train.multi_opd`） |
| |
| ```python |
| config.train.reward_mode = "multi_opd" |
| config.train.kl_scale = 0 # 跳过原单 teacher 的 kl_ref 前向（我们前向所有 teacher） |
| config.train.kl_reward_level = "none" |
| config.train.beta = 0.0 # >0 则叠加 MAR/base 锚（需要时再开） |
| config.train.multi_opd = { |
| "centers": {"geneval": 0.0, "ocr": 1.0}, # 时间中心：0=早/高噪→结构, 1=晚/低噪→细节 |
| "sharpness": 8.0, # 越大 → 时间分工越"硬"（越 disjoint） |
| "use_pcgrad": True, # 想法2 开关；False = 朴素加权平均（消融） |
| "weight_floor": 0.05, # 该步归一权重 < floor 的 teacher 被剔除 |
| } |
| ``` |
| |
| - `centers` 的 key 必须与 `config.alternate_datasets[*].name` 一致（teacher 顺序取自 `ref_transformers`， |
| 权重按名字对齐，与顺序无关）。 |
| - teacher 来源仍是每个数据集的 `kl_ref_lora_path`；multi_opd 会忽略"当前 epoch 是哪个数据集"，**对每个 prompt 都用全部 teacher**。 |
| |
| --- |
| |
| ## 5. 补充事项（迁移到训练机时务必看） |
| |
| 1. **环境版本错位**：本机用的是较新的 `torch 2.8 / transformers 4.57 / peft 0.17 / accelerate 1.11`， |
| `diffusers==0.33.1`（`--no-deps` 装，避免动到上面这套）。`setup.py` 里的旧 pin（torch 2.6 等）**不要**照装去降级。 |
| 上面第 2 节列的 5 个兼容性 fix 是通用的，新环境若版本不同也大概率需要。 |
| |
| 2. **单卡 vs 多卡**：`.module` 那处已修成两边都安全。多卡时注意现有不变式仍要满足： |
| `num_image_per_prompt (k)` 必须整除 `num_processes × train_batch_size`；`num_batches_per_epoch` 为偶数 |
| （`gradient_accumulation_steps = num_batches_per_epoch // 2`）。把 `mix_opd_8gpu` 的 batch 规模按卡数还原即可， |
| multi_opd 的逻辑与卡数无关。 |
| |
| 3. **真实 reward**：冒烟用的是 `jpeg_compressibility` 占位。上训练机后把 |
| `alternate_datasets[*].reward_fn` 换回 `{"ocr":1.0}` / `{"geneval":1.0}`（需 PaddleOCR / GenEval reward-server）。 |
| 注意：OPD/multi_opd 的**训练梯度来自 teacher-KL，不是任务 reward**；任务 reward 只用于采样期的统计/零方差掩码， |
| 以及外部评测。真实指标请用 `scripts/single_node/run_eval.sh` + T2I-CompBench 在保存的 LoRA 上跑。 |
| |
| 4. **MAR/base 锚（`beta>0`）**：开启后会额外前向一次 base（`unwrap_model(...).disable_adapter()`）得到 |
| `prev_sample_mean_ref_base`，loss 变成 `multi_loss + beta · ‖policy_mean − base_mean‖²/(2std²)`。 |
| 也可用 `train.mar_lora` 指定一个 task-agnostic 美学 teacher 作为锚。 |
|
|
| 5. **显存**：当前实现里**每个 teacher 都是一份完整常驻 transformer**（2 个 ≈ 63GB）。teacher 数量多时， |
| 建议改成"单 base + 多 LoRA adapter 切换"（PEFT `add_adapter`/`set_adapter`），可省下 N−1 份 base； |
| 或把 teacher 以 bf16 载入。autocast 下 teacher 前向本就走 bf16，载入 dtype 只影响常驻权重显存。 |
|
|
| 6. **gkd（回归）vs policy-gradient**：multi_opd 目前是 **gkd 式直接回归**到合成 target（贴合"做一次回归"的设计， |
| 也最适合想法 2 的 target 构造）。若想要 ratio/PPO 形式的软路由（把合成 KL 当 advantage），是另一种接法，可再加。 |
| |
| 7. **消融与退火**： |
| - `use_pcgrad=False` → 朴素加权平均（用来证明 PCGrad 是否有净增益）。 |
| - `sharpness` 调大 → 接近按时间步硬分段；想做"温度从软退火到硬"就逐步调大它。 |
| - `weight_floor=0` → 所有 teacher 全程参与（重叠最大）。 |
| - `centers` 全设 0.5 + `use_pcgrad=False` → 退化为全程等权平均的对照。 |
|
|
| 8. **数值**：transformer 前向走 bf16 autocast，SDE/log-prob/KL 全程 fp32（`sde_step_with_logprob` 内部 `.float()`）。 |
| `/ (2·std²)` 是逐步 KL-to-Gaussian 归一（早步高噪声权重小、晚步权重大），与原 gkd/kl_only 一致。 |
| |
| 9. **与 RG-STR 的关系**：`/workspace/Research/Fopd/Flow-OPD` 里那套 `rgstr`（reliability-gated spatio-temporal， |
| 带 attention 归因 + 可靠性门控）是更重的版本；本 `multi_opd` 是其**轻量子集**（想法 1+2），代码独立、便于做干净的 baseline/消融。 |
|
|
| --- |
|
|
| ## 6. 快速自检（路由数学，无需模型） |
|
|
| ```python |
| from flow_grpo import multi_routing as mr |
| # 想法1：geneval(center0) 早段主导，ocr(center1) 晚段主导 |
| mr.timestep_weights(0.0, [0.0,1.0], 8.0) # ≈ [1.0, 0.0] |
| mr.timestep_weights(1.0, [0.0,1.0], 8.0) # ≈ [0.0, 1.0] |
| # 想法2：冲突分量被投掉，一致分量保留 / build_target 在 disjoint 段≈对应 teacher |
| ``` |
|
|
