Ziruibest/Flow-OPD-multi-opd

Multi-Teacher Soft Routing for Flow-OPD（multi_opd）

在 Flow-OPD 的稠密多 teacher 蒸馏上，用逐时间步 + 逐空间位置的软路由替换原本的 硬路由（每个 prompt 只配一个 teacher）。包含两条改进： 想法 1（按时间步分工） 与 想法 2（velocity 空间 PCGrad 去冲突）。

本文档用于介绍这次迁移：改了什么、为什么这么改、怎么配、怎么跑，以及迁移到训练机上的补充事项。

---

0. 动机（为什么要软路由）

Flow-OPD 的稠密监督是：在每个去噪步，让 student 的预测均值 prev_sample_mean 去贴 teacher 的 prev_sample_mean。由于 SDE 一步更新里

prev_sample_mean = sample · (1 + std²/(2σ)·dt) + v · (1 + std²(1-σ)/(2σ)) · dt

两个模型在同一 (sample, t) 上的均值之差 = B · (v_teacher − v_student)，其中 B > 0 是标量。 所以在 prev_sample_mean 空间里算距离/投影，等价于在 velocity 空间里算（差一个正标量）。

原版硬路由（alternate 模式）：每个 epoch 只训练一个数据集，并且只用该数据集对应的单个 teacher LoRA 提供监督。问题：一张图常常需要多种能力（例如「四个写着 XX 字的气球」= counting + OCR）， 硬路由只能选一个 teacher，丢掉另一边的知识；路由分错则整条样本在错的 teacher 上训练。

为什么不能简单地把多个 teacher 的 loss 加权平均？ 因为 flow matching 的逐步 loss 是二次型， ∇(‖v−v₁‖² + ‖v−v₂‖²) 把 student 拉向 (v₁+v₂)/2——当两个 teacher 冲突时，平均速度两边都不满足 （正是硬路由想避免的梯度打架又被请回来）。所以关键不是"软不软"，而是"在哪一层软、怎么合"。

---

1. 方法

想法 1 — 按时间步分工（timestep-split routing）

每个 teacher 给一个随去噪进度变化的权重 w_t(frac)，frac = j/(N−1) ∈ [0,1] （frac=0 第一步/高噪声，frac=1 最后一步/低噪声）：

w_t(frac) = exp(−sharpness · (frac − center_t)²)  →  跨 teacher 归一化使 Σ w_t = 1

• 高噪声段（早） 定的是粗结构/布局/数量 → 让 composition/counting teacher（GenEval） 主导，center=0.0
• 低噪声段（晚） 定的是细节/笔画清晰度 → 让 text/OCR teacher 主导，center=1.0

两个 teacher 时这就是一条 sigmoid 式的交叉；sharpness 越大越接近"硬分段"（单 teacher/步、零冲突）， 中间的重叠带才是想法 2 起作用的地方。weight_floor 把该步权重过小的 teacher 直接剔除（保持 disjoint 段干净， 并避免近零权重 teacher 通过投影扰动主 teacher）。

想法 2 — velocity 空间 PCGrad（co-active teacher 去冲突）

在多个 teacher 都活跃的步上，不做 target 平均，而是对加权残差做梯度手术（Gradient Surgery / PCGrad）， 逐空间位置（在 channel 维上点积）判断冲突：

r_t = teacher_mean_t − policy_mean        # 残差 ∝ (v_teacher − v_student)
d_t = w_t · r_t                            # 加权下降方向
若 d_i · d_k < 0（该位置两 teacher 互相抵消）:
    d_i ← d_i − (d_i · d_k)/‖d_k‖² · d_k   # 投掉冲突分量，使 d_i ⟂ d_k
combined = Σ_t d_t'                         # 去冲突后求和
target   = sg(policy_mean) + combined      # sg = stop-grad

逐位置投影天然吃下了冲突的空间局部性（文字区域 OCR 说了算、布局区域两者基本一致）。

合成 target + 回归 loss

loss = mean_b[ ‖policy_mean − sg(target)‖²_(c,h,w) / (2 · std²) ]

因为 target 被 stop-grad，loss 对 policy_mean 的梯度 ∝ −combined，即把 student 沿 去冲突后的、按时间步路由的 teacher 共识方向推进——也就是你说的"去冲突后的残差相加，得到合成目标，做一次回归"。

• 无冲突且权重归一 → target = Σ w_t · teacher_mean_t（加权平均，纯想法 1）。
• 有冲突 → PCGrad 砍掉互相抵消的分量（想法 2）。
• sharpness→∞ → 退化为按时间步的硬分段；use_pcgrad=False → 朴素加权平均（消融对照）。

---

2. 改了哪些文件

文件	改动
flow_grpo/multi_routing.py	新增。纯张量路由数学（无模型依赖，可单测）：timestep_weights（想法1）、pcgrad_combine（想法2，逐位置/channel 维）、build_target（合成 detached 回归 target，返回 (target, weights)）。
scripts/train_sd3_opd_mix.py	新增 reward_mode="multi_opd"：每步对所有 teacher 前向（forward_ref_mean 辅助函数）→ build_target → gkd 式直接 MSE 回归，beta>0 可叠加 MAR/base 锚。日志记录 multi_loss 与每 teacher 的 route_w_<name>。
config/grpo.py	新增 mix_opd_1gpu（单卡复现 baseline 硬路由 kl_only）与 multi_opd_1gpu（想法1+2）。
scripts/single_node/sd3_opd_mix_1gpu.sh / sd3_multi_opd_1gpu.sh	新增。单卡启动脚本（HF_HOME / offline / bf16 / num_processes 1）。

为跑通额外修的兼容性 bug（迁移到任何新环境都用得上）：

• config/grpo.py、config/sft.py 的 import imp（Py3.12 已删）→ 换成 importlib 的 _load_source。
• 缺失的 flow_grpo/assets/（import flow_grpo.prompts 模块级 resources.files(...) 崩溃）→ 补空包。
• 单卡下 transformer.module.disable_adapter() 无 .module → 改用 unwrap_model(transformer, accelerator)（单/多卡都安全）。
• LoRA 训练时 autocast 被硬关 → 文本编码器 bf16 与 fp32 transformer 类型冲突（mat1/mat2 dtype）。开启 autocast（bf16 无需 GradScaler）解决；SDE 数学仍走 fp32。
• autocast 下 VAE 解码出 bf16，numpy() 不支持 → patch 里把图像 .float()（图像只用于 reward/可视化，不在梯度路径）。

---

3. 怎么跑

# 复现 baseline（硬路由，单 teacher/epoch，kl_only）
bash scripts/single_node/sd3_opd_mix_1gpu.sh

# 想法 1+2（多 teacher 软路由）
bash scripts/single_node/sd3_multi_opd_1gpu.sh

两个脚本都设置了本地缓存（无需联网/下载）：

export HF_HOME=/workspace/Research/UMM/.hf_cache   # SD3.5-M 基座
export HF_HUB_OFFLINE=1
# teacher LoRA：
#   OCR/text  = /workspace/Research/UMM/checkpoints/teachers/text
#   GenEval   = /workspace/Research/Fopd/weights/teachers/geneval

冒烟验证（本机 1×A100 80G）：baseline 跑到 Epoch 5、multi_opd 跑到 Epoch 3，多 teacher 反传稳定，显存 ~63GB。 reward 用 server-free 的 jpeg_compressibility 占位（OPD 梯度来自 teacher-KL，不依赖任务 reward）。

---

4. 配置项（config.train.multi_opd）

config.train.reward_mode   = "multi_opd"
config.train.kl_scale      = 0          # 跳过原单 teacher 的 kl_ref 前向（我们前向所有 teacher）
config.train.kl_reward_level = "none"
config.train.beta          = 0.0        # >0 则叠加 MAR/base 锚（需要时再开）
config.train.multi_opd = {
    "centers": {"geneval": 0.0, "ocr": 1.0},  # 时间中心：0=早/高噪→结构, 1=晚/低噪→细节
    "sharpness": 8.0,        # 越大 → 时间分工越"硬"（越 disjoint）
    "use_pcgrad": True,      # 想法2 开关；False = 朴素加权平均（消融）
    "weight_floor": 0.05,    # 该步归一权重 < floor 的 teacher 被剔除
}

• centers 的 key 必须与 config.alternate_datasets[*].name 一致（teacher 顺序取自 ref_transformers， 权重按名字对齐，与顺序无关）。
• teacher 来源仍是每个数据集的 kl_ref_lora_path；multi_opd 会忽略"当前 epoch 是哪个数据集"，对每个 prompt 都用全部 teacher。

---

5. 补充事项（迁移到训练机时务必看）

1. 环境版本错位：本机用的是较新的 torch 2.8 / transformers 4.57 / peft 0.17 / accelerate 1.11， diffusers==0.33.1（--no-deps 装，避免动到上面这套）。setup.py 里的旧 pin（torch 2.6 等）不要照装去降级。 上面第 2 节列的 5 个兼容性 fix 是通用的，新环境若版本不同也大概率需要。

2. 单卡 vs 多卡：.module 那处已修成两边都安全。多卡时注意现有不变式仍要满足： num_image_per_prompt (k) 必须整除 num_processes × train_batch_size；num_batches_per_epoch 为偶数 （gradient_accumulation_steps = num_batches_per_epoch // 2）。把 mix_opd_8gpu 的 batch 规模按卡数还原即可， multi_opd 的逻辑与卡数无关。

3. 真实 reward：冒烟用的是 jpeg_compressibility 占位。上训练机后把 alternate_datasets[*].reward_fn 换回 {"ocr":1.0} / {"geneval":1.0}（需 PaddleOCR / GenEval reward-server）。 注意：OPD/multi_opd 的训练梯度来自 teacher-KL，不是任务 reward；任务 reward 只用于采样期的统计/零方差掩码， 以及外部评测。真实指标请用 scripts/single_node/run_eval.sh + T2I-CompBench 在保存的 LoRA 上跑。

4. MAR/base 锚（beta>0）：开启后会额外前向一次 base（unwrap_model(...).disable_adapter()）得到 prev_sample_mean_ref_base，loss 变成 multi_loss + beta · ‖policy_mean − base_mean‖²/(2std²)。 也可用 train.mar_lora 指定一个 task-agnostic 美学 teacher 作为锚。

5. 显存：当前实现里每个 teacher 都是一份完整常驻 transformer（2 个 ≈ 63GB）。teacher 数量多时， 建议改成"单 base + 多 LoRA adapter 切换"（PEFT add_adapter/set_adapter），可省下 N−1 份 base； 或把 teacher 以 bf16 载入。autocast 下 teacher 前向本就走 bf16，载入 dtype 只影响常驻权重显存。

6. gkd（回归）vs policy-gradient：multi_opd 目前是 gkd 式直接回归到合成 target（贴合"做一次回归"的设计， 也最适合想法 2 的 target 构造）。若想要 ratio/PPO 形式的软路由（把合成 KL 当 advantage），是另一种接法，可再加。

7. 消融与退火：

   • use_pcgrad=False → 朴素加权平均（用来证明 PCGrad 是否有净增益）。
   • sharpness 调大 → 接近按时间步硬分段；想做"温度从软退火到硬"就逐步调大它。
   • weight_floor=0 → 所有 teacher 全程参与（重叠最大）。
   • centers 全设 0.5 + use_pcgrad=False → 退化为全程等权平均的对照。

8. 数值：transformer 前向走 bf16 autocast，SDE/log-prob/KL 全程 fp32（sde_step_with_logprob 内部 .float()）。 / (2·std²) 是逐步 KL-to-Gaussian 归一（早步高噪声权重小、晚步权重大），与原 gkd/kl_only 一致。

9. 与 RG-STR 的关系：/workspace/Research/Fopd/Flow-OPD 里那套 rgstr（reliability-gated spatio-temporal， 带 attention 归因 + 可靠性门控）是更重的版本；本 multi_opd 是其轻量子集（想法 1+2），代码独立、便于做干净的 baseline/消融。

---

6. 快速自检（路由数学，无需模型）

from flow_grpo import multi_routing as mr
# 想法1：geneval(center0) 早段主导，ocr(center1) 晚段主导
mr.timestep_weights(0.0, [0.0,1.0], 8.0)   # ≈ [1.0, 0.0]
mr.timestep_weights(1.0, [0.0,1.0], 8.0)   # ≈ [0.0, 1.0]
# 想法2：冲突分量被投掉，一致分量保留 / build_target 在 disjoint 段≈对应 teacher