bernini_optimization_docs/docs/inference_optimization_roadmap.md

# Bernini T2V 下一步优化规划

更新日期：2026-07-02

Baseline 命名和相对加速分母统一遵循
[`inference_baseline_naming.md`](inference_baseline_naming.md)：官方原始路径称为
`pristine baseline`；新设计的严格分母必须是同运行、仅关闭候选方法的
`optimized-stack baseline`。

## 总目标

在固定的 8x H100、Ulysses 8、480x848、81 帧、50-step T2V 配置上继续降低
单视频热推理延迟，同时保持三条边界清晰：

1. 无损优化必须与 `dense quality reference` 对应视频逐字节一致。
2. 近似优化必须分别报告执行 step、E2E、Diffusion、逐帧指标和人工评价。
3. microbenchmark 只有在真实 module shape、真实 dtype、完整 layout/quant 开销下
   获得收益，才允许进入 full pipeline。

## P0：锁定推荐配置和 optimized-stack baseline

### 工作项

- 在同一节点重跑 `current optimized-stack baseline`（dense lossless）、
  `recommended_easycache`、
  `recommended_easycache_pisa` 三档六 prompt matrix。
- 对 PISA + EasyCache 扫少量 threshold，使实际 DiT forward 接近 28.6/50；候选从
  0.09、0.10、0.11 开始，保持 retain 4 + last 1。
- 固化 profile fingerprint、模型 snapshot、Torch/Triton/PISA commit、GPU 名称和
  每 rank peak memory。
- 为 static T2V cache 增加真实行为测试：prompt 隔离、RNG state、payload device。
- 为 CPU-master manager 增加 parameter replacement/mismatch 恢复和异常路径 teardown
  测试。

### 通过门槛

- Dense lossless 的 6/6 视频与 reference SHA256 一致。
- 两个近似档均无 decode/shape/fps 错误，日志有完整 stage/action timing。
- 第二档只有在实测 forward 数接近目标后，才可以写“28.6 step + PISA”。

## P1：压缩约 23 秒 cache-insensitive 成本

### 1. Rank-leader condition execution

当前 Qwen、T5 和部分纯 T2V preprocess 在 8 个 Ulysses rank 上重复。先让组内
leader 执行，再广播最终 embedding、latent distribution parameters 和必要 metadata。

验证顺序：2-step smoke -> 2 prompt 50-step exact -> 6 prompt exact。广播前后 tensor
的 shape、dtype、stride 和 RNG 消耗必须一致；热 E2E 至少节省约 1 s 才保留。

### 2. DiT root-H2D + NCCL/NVLink broadcast

当前每个 rank 都从 host 装载相同 expert。先用真实 weight bucket 做 microbenchmark：

- all-rank parallel H2D；
- rank 0 H2D + bucketed NCCL broadcast；
- 每 GPU 分片 H2D + all-gather。

分别覆盖约 50 MB QKV/out projection、约 135 MB FFN projection 和整 expert bucket。
计入 pinning、同步和 allocator 开销。只有每次 expert load 稳定节省至少约 1 s 且不
拖慢 normal step，才整体集成。

### 3. Expert 2 延迟预取

在 root-H2D/broadcast 方案确定后，测试在 high-noise expert 最后 1、2、4 step 开始
预取 expert 2。不能重新采用全程双 expert resident；已有结果证明它让 normal step
显著变慢。接受标准：总 diffusion 降低，normal-step 中位数退化不超过 2%，peak
memory 留有稳定余量。

### 4. VAE decode 与保存拆分

把约 4.1 s 的 VAE/decode/save 进一步拆成 GPU decode、D2H、颜色/布局转换和 ffmpeg
编码。依次验证 inference mode、channels-last、局部 compile 和 pinned async copy。
异步编码可以提高吞吐，但不能把后台未完成的工作从单请求 latency 中删掉。

## P2：Kernel、attention 和低精度

### FP8 GEMM

动态 FP8 只让 FFN-up 的单 module 获益，quant 开销和一次性 weight conversion 抵消
了 full-pipeline 收益。下一轮改为：

- 模型加载时一次性生成 FP8 weight + scale，跨 request 重用；
- 按 expert、layer 和 timestep bucket 校准 activation scale；
- 分别测 QKV/out、FFN-up、FFN-down、cross-KV 的真实 M/K/N；
- microbench 同时报告 BF16、动态 FP8、预量化 FP8、误差和额外显存；
- 逐 module gate 通过后，再做 2-step 和 6-prompt full integration。

初始门槛：含 quant/layout 的 module 至少 1.15x、normal step 至少 1.08x，且不存在
31.5 s 的 request 内 lazy quant 成本。

### PISA attention

- 消除 `[tokens, heads, dim]` 与 head-major 之间多余 contiguous copy。
- 单独测 routing/top-k、layout、sparse kernel、concat 四段。
- 扫 density、起始 layer、结束 layer和 timestep schedule，而不是只扫全局 density。
- 让 EasyCache threshold 与 PISA 联合校准，避免把 FA3 的 skip 统计直接套用。
- 质量评价加入 CLIP/text alignment、运动指标和人工盲评。

### Compile 与 CUDA Graph

在 shape 和 allocator 行为稳定后，对单个 normal DiT step 评估 `torch.compile` 和
CUDA Graph。expert swap、variable-length metadata 和 cache hit/miss 分支需要拆成
独立 graph；先证明 capture/replay 不改变 collective 次序，再做端到端集成。

## P3：Diffusion cache 算法

### EasyCache

- 在更大的 T2V prompt 集上拟合 threshold 与质量/step 曲线。
- 分别记录 high-noise 和 low-noise expert 的 hit 率，允许 expert-specific threshold。
- 研究 timestep-aware threshold 和最小执行预算，降低不同 prompt 的 25-35 step
  波动。
- 除平均值外，报告最差 prompt 和 temporal flicker。

### TeaCache

当前 Wan2.1-14B polynomial 不适合 Bernini 双 expert。下一轮必须按两个 expert 的
真实 residual 曲线分别拟合系数，再比较同执行预算下的 EasyCache。未重新拟合前，
TeaCache 不进入推荐 profile。

## P4：并行策略与跨硬件解释

- 复测 8x H100、4x B200 的相同模型、相同代码、相同计时边界，解释此前约 200 s
  B200 数据是否来自优化前路径、不同 offload 或不同通信拓扑。
- 评估 Ulysses + tensor parallel 的 2D 并行，减少单 rank projection 和 attention
  工作；必须包含新增 collective 成本。
- 对多请求吞吐场景单独测试较小 Ulysses + data parallel，不与单视频 latency 混报。
- 只有当 H2D/broadcast 和 kernel 方向达到瓶颈后，再考虑参数分片/FSDP-like runtime。

## 统一实验协议

每项优化按以下顺序推进：

1. 记录 hypothesis、目标 module、真实 shape、理论上限和可能的质量风险。
2. module-wise microbenchmark，包含 warmup、P50/P90、峰值显存和完整前后处理开销。
3. 2-step 单 prompt correctness smoke。
4. 50-step 两 prompt A/B，固定 seed，检查逐阶段绝对时间和 SHA/SSIM。
5. 六 prompt validator，首条单列 cold，后五条报告 hot mean、median、worst。
6. 只有通过门槛的开关进入推荐 profile；失败结果也保留在 benchmark 文档中。

所有速度结论必须同时给出 reference：`pristine baseline` 只作官方原始锚点；严格
增量分母必须是同节点、同进程、只关闭当前候选方法的 `optimized-stack baseline`。
同时报告是否包含模型加载、是否排除首条 warmup、是否包含 VAE/save。禁止把跨节点
的 108.094 s、83.152 s 和 75.441 s 直接当成同条件 A/B。

## 近期交付顺序

| 优先级 | 交付物 | 目标 |
| --- | --- | --- |
| P0 | 三档同节点 validator + PISA 28.6-step 校准 | 关闭当前最大数据缺口 |
| P1 | rank-leader condition prototype | 降低 non-diffusion 重复工作 |
| P1 | root-H2D/broadcast microbench | 降低约 8.1 s diffusion fixed 中的 H2D 部分 |
| P1 | expert 2 overlap prototype | 隐藏 switch H2D |
| P2 | 静态 FP8 weight/scale microbench | 判断 FP8 是否值得 full integration |
| P2 | PISA layout/layer/timestep sweep | 提高 attention 收益/质量比 |
| P3 | EasyCache/TeaCache 联合校准 | 建立可控的速度-质量档位 |