File size: 11,447 Bytes

e241361

# Bernini T2V 推理优化总结

更新日期：2026-07-02

本文档记录当前分支已经实现和保留的 Bernini T2V 推理优化，并区分完整栈实测
与分项验证。重点是 8x H100、Ulysses 8、单视频 CFG batch 场景。这里的“推荐”
指本优化分支的配置：保持模型权重和 nominal scheduler 配置，但 EasyCache/PISA
会改变实际计算量，PISA 还会改变生成轨迹。

Baseline 名称统一遵循
[`inference_baseline_naming.md`](inference_baseline_naming.md)：官方 upstream
`pristine baseline` 的统一 reporting anchor 为 200 s E2E/request；评估新方法时，
已经叠加现有优化且只关闭候选方法的相对对照称为 `optimized-stack baseline`。

## 固定测试配置

| 项目 | 配置 |
| --- | --- |
| 模型 | `ByteDance/Bernini-Diffusers`，snapshot `b988d6af97714041e0d21a31d4faff5ac42bac09` |
| 语义规划器 | Qwen2.5-VL-7B，25 planning steps |
| Renderer | Wan2.2-T2V-A14B 双 DiT expert，BF16 |
| GPU | 单节点 8x H100 80 GB |
| 并行 | Ulysses 8，CFG batch packing |
| 视频 | 480x848，81 帧，16 fps |
| Diffusion | 50 scheduler steps，flow shift 5.0 |
| 随机性 | seed 42 |
| 验证集 | `assets/validators/t2v_validator_6.jsonl` 的 6 条 Bernini T2V prompt |

## 两个推荐 Profile

### 1. `recommended_easycache`

这是默认推荐档。通过 `run_t2v.sh` 启动时，它打开全部已验证的无损系统优化，
使用 Ulysses 8、CFG batch 和 kernel prewarm，并使用
EasyCache `threshold=0.08`、`retain_steps=4`、`retain_last=1`，attention
保持 FA3。

六条 prompt 的实际 DiT forward 数是 `29, 31, 25, 35, 26, 26`：

- 六条均值：28.67 / 50，跳过 42.67%。
- 排除每个 profile 第一条 warmup 后：28.6 / 50，跳过 42.8%。
- EasyCache hit 的调度壳开销约 2.3-2.5 ms，不会执行 DiT forward。

最终同节点热推理结果：

| 配置 | E2E | Diffusion | 相对同节点 optimized-stack baseline |
| --- | ---: | ---: | ---: |
| current optimized-stack baseline | 83.152 s | 67.731 s | 1.00x |
| 全部无损优化 + EasyCache 0.08/4 | 56.056 s | 41.141 s | 1.48x |

相对 108.094 s 的 `legacy optimized-stack baseline`，累计是 1.93x；该数字跨运行、
跨节点，只用于说明累计进展。同节点的严格增量加速是 1.48x。

按 200 s pristine reporting anchor，current lossless stack 为 2.41x，
EasyCache 0.08/4 交付档为 3.57x；这两个是累计比例，不是同节点严格 A/B。

质量结果以逐帧、同 seed `dense quality reference` 为参照：mean SSIM 0.92995，最差
prompt SSIM 0.89079。六条最终视频与此前 `easy_t08_r4` 验证视频逐字节一致。

### 2. `recommended_easycache_pisa`

这是第二个推荐的激进 attention 候选档。配置上完整继承第一个 profile，只把
部分 self-attention 切换为 PISA；完整 CPU-master stack 的六条复验列为 P0：

- PISA variant：HYD。
- density：0.10。
- block size：64。
- bias correction：开启。
- layer 0-3 保持 FA3，layer 4 以后使用 PISA。
- cross-attention 始终保持 FA3。

必须注意，PISA 会改变 EasyCache 的在线残差，所以“相同 EasyCache 参数”
不等于“相同执行 step 数”。已有六条实测中，PISA d=0.10 + EasyCache
0.08/4 实际执行 `31, 39, 29, 38, 30, 29` 个 DiT step，均值 32.67；不是
28.6。若要求第二档也严格校准到约 28.6，需要重新扫 EasyCache threshold，
不能直接沿用第一个 profile 的统计数字。

已有 combo 测试是在 CPU-master offload 合入前完成的：热 E2E 72.041 s，
相对当时 108.094 s `legacy optimized-stack baseline` 为 1.50x；mean SSIM 0.5435，
最差 0.3244。
按 200 s pristine reporting anchor，该历史 combo 的累计比例是 2.78x，但它不是
当前 CPU-master 全栈交付速度。
低 SSIM 主要表示生成轨迹、构图和角色外观偏离同 seed
`dense quality reference`，不等价于视频不可用。当前 profile 已在代码中叠加全部
无损优化，但该完整组合仍需
重新跑六条，不能把旧 72.041 s 与新 83.152 s
`current optimized-stack baseline` 混算。

PISA 不是基础依赖。使用第二档前，`piecewise_attn` 及兼容 Triton 必须已经
安装，或通过 `PISA_OVERLAY` 加入 `PYTHONPATH`。历史验证 overlay 使用
PyTorch 2.5.1 + Triton 3.5.1；该组合通过本地 micro/full-video 测试，但不是
PISA upstream 声明的支持组合，复现时必须记录具体 PISA commit。

## Profile 开关明细

两个 profile 都默认打开：

| 类别 | 环境变量 | 值 |
| --- | --- | --- |
| Triton fusion | `BERNINI_FUSED_KERNELS` | `1` |
| Ulysses communication | `BERNINI_A2A_SINGLE` | `1` |
| QKV/communication overlap | `BERNINI_ASYNC_QKV_A2A` | `1` |
| Planner | `BERNINI_PLANNER_COND_ONLY` | `1` |
| Condition projection cache | `BERNINI_CACHE_CONDITION` | `1` |
| DiT offload | `BERNINI_DIT_CPU_MASTER` | `1` |
| 其他模型 offload | `BERNINI_PIPELINE_CPU_MASTER` | `1` |
| Qwen output | `BERNINI_QWEN_HIDDEN_ONLY` | `1` |
| 纯 T2V 静态输入 | `BERNINI_CACHE_T2V_STATIC_INPUT` | `1` |
| Diffusion cache | `BERNINI_DIFFUSION_CACHE` | `easycache` |
| EasyCache | threshold / retain / last | `0.08 / 4 / 1` |

为避免误叠加未通过推荐门槛的实验，profile 会显式关闭 FP8 FFN-up、双 DiT
resident、T5 resident 和 condition-model resident。

## 已完成的无损优化

### BF16、FA3 与 fused kernels

主路径使用 BF16 和 Hopper FA3。新增 Triton/PyTorch exact fallback 封装，
覆盖 SwiGLU、RMSNorm、LayerNorm + modulation、residual gate、rotary embedding
和 Ulysses transpose/chunk 重排。预热脚本在正式推理前编译固定 shape，避免
首个视频承担 Triton compile 时间。

### CFG batch 与 Ulysses 通信

pure T2V 的三个 `vae_txt_vit_wapg` CFG 分支打包到一次 variable-length
forward；存在 source VAE condition 时最多四支。
sequence parallel 使用 `all_to_all_single`，并把 Q/K/V projection 与专用
communication stream 上的 A2A 重叠。padding、unpadding 和输出 gather 都保留
原始 token 边界。

### Condition 与 metadata cache

每个 diffusion request 内，重复不变的 condition projection、sequence metadata
和 cu-seqlens 被缓存。planner 只保留 renderer 真正使用的 conditional hidden
state，避免无用 CFG 分支。Qwen hidden-only 路径跳过 `lm_head` 和 KV cache；
单独收益约 43 ms，收益很小但输出一致。

### CPU-master offload

原实现每次 expert 切换都把约 26.6 GiB 权重从 GPU 拷回 CPU，再装载下一个
expert。`CpuMasterModule` 永久保留不可变 CPU master storage：H2D 时只挂接
CUDA copy，drop 时恢复 CPU storage 指针，不再 D2H。

历史实测的四次 DiT transfer 为：

| 动作 | 旧路径 |
| --- | ---: |
| expert 1 H2D | 3.35 s |
| expert 1 D2H | 7.46 s |
| expert 2 H2D | 3.31 s |
| expert 2 D2H | 7.46 s |

新路径两次 drop 都约 1-2 ms。相同机制用于 Qwen、ViT decoder、connector、
T5 和 VAE。最终 lossless 输出与 `dense quality reference` 对应视频逐字节一致。

### 纯 T2V 静态输入 cache

纯 T2V 的 fake target ViT embedding bytes 和 VAE distribution parameters 与
prompt 无关，可以跨 request 缓存。cache key 包含完整 transform 签名；prompt tokens
每次重建，VAE latent 仍在每次 request 按当前 RNG sample，所以不改变 prompt
隔离和随机数语义。该项在快节点节省约 1.87 s preprocess。

### 结构化计时与验证工具

当前计时覆盖 preprocess、semantic planner、T5、video diffusion、VAE/save，
并继续拆 H2D、drop、`empty_cache`、expert switch、normal step 与 cache hit。
配套脚本支持：

- 真实 Bernini shape 的 FP8 GEMM 和 PISA attention microbenchmark。
- 六 prompt profile matrix。
- 逐帧 PSNR/SSIM、视频元数据与 cache hit 汇总。
- 每张可见 GPU 的 `torch.linalg.solve` fail-fast 检查。

## 时间账本

历史 `legacy optimized-stack baseline` 的 validator hot wall 是 108.094 s；其内部
stage timer 合计 108.092 s。
它已经包含 BF16、FA3、fused kernel、CFG batch、
single-A2A、async QKV-A2A、planner-cond-only 和 condition cache，不是官方 naive
inference：

| 阶段 | 热时间 |
| --- | ---: |
| preprocess | 4.577 s |
| semantic planner | 1.134 s |
| T5 | 8.896 s |
| video diffusion | 89.382 s |
| VAE decode/save | 4.101 s |
| 总计 | 108.092 s |

在最终验证节点，EasyCache 之外约有 23 s 不随 DiT skip 数同比缩放：约
14.9-15.4 s non-diffusion，加约 8.1 s diffusion 内固定工作。后者包括 expert
H2D、switch、`empty_cache`、scheduler/noise/latent setup 和尾部整理。因此
42.8% DiT skip 不会直接转化成 42.8% E2E 降时。

## 已验证但不作为推荐默认值

| 方法 | 实验范围 | 结论 |
| --- | --- | --- |
| EasyCache 0.12/3 | 六 prompt hot，旧 offload 路径 | 21.8/50 次 forward，E2E 70.357 s，mean SSIM 0.855 |
| EasyCache 0.20/2 | 六 prompt hot，旧 offload 路径 | 16.4/50 次 forward，E2E 65.323 s，mean SSIM 0.744 |
| TeaCache 0.15 | 单 prompt diffusion-only | diffusion 80.417 s，SSIM 0.9539；Wan2.1 系数未针对 Bernini 双 expert 重拟合 |
| FP8 dynamic FFN-up | module + 10-step video | module shape 1.393x，但完整 step 仅约 1.03x，lazy quant 两个 expert 合计约 31.5 s，且有质量偏差 |
| 双 DiT resident | 单 prompt cold comparison | peak 58.03 GiB/GPU，但 diffusion 116.37 s，慢于 nonresident 95.69 s |
| T5 resident | 两 prompt hot matrix | E2E 91.193 s，normal step 从约 1.16 s 变为 1.50 s |
| 全 condition resident | 两 prompt hot matrix | E2E 92.535 s，normal step 约 1.62 s |

Resident 方案虽然减少 transfer，却增加每个 DiT step 的显存压力和执行时间，
当前明确关闭。

## 使用方法

默认推荐档：

```bash
bash scripts/bernini/run_t2v.sh
```

显式写法：

```bash
BERNINI_OPTIMIZATION_PROFILE=recommended_easycache \
bash scripts/bernini/run_t2v.sh
```

PISA attention 档：

```bash
BERNINI_OPTIMIZATION_PROFILE=recommended_easycache_pisa \
PISA_OVERLAY=/path/to/compatible/pisa/python-packages \
bash scripts/bernini/run_t2v.sh
```

六条 validator：

```bash
PISA_OVERLAY=/path/to/compatible/pisa/python-packages \
bash scripts/bernini/run_t2v_validator6.sh
```

validator 默认跑 lossless reference 和两个推荐档；若 PISA/FA3 可选依赖不兼容，
脚本会明确跳过 PISA 档，仍完成前两档。

原始实验和单 prompt microbenchmark 记录见
[`inference_optimization_benchmarks.md`](inference_optimization_benchmarks.md)。

## 结果口径和限制

1. `hot` 排除每个 profile 的第一条，避免把一次性 kernel compile/warmup 记入稳态。
2. 跨节点 H2D、T5 和文件系统存在明显波动；75.441 s 与 83.152 s 的 lossless
   结果不能当算法回归直接比较，也不能替代同节点 `optimized-stack baseline`。
3. 质量数字是同 seed、逐帧对齐的 PSNR/SSIM。它适合检测轨迹漂移，但不能替代
   人工视频质量、文本一致性和运动质量评价。
4. `recommended_easycache_pisa` 是分项结果支持的激进候选档；完整 CPU-master stack
   尚未重跑六条，文档不提供推算后的虚假累计速度。
5. 当前推荐只针对固定的 T2V 480p/81f/50-step 工作负载；其他分辨率、帧数、任务
   类型和 GPU 需要重新验证。