bernini_optimization_docs/docs/inference_optimization_summary.md

Bernini T2V 推理优化总结

更新日期：2026-07-02

本文档记录当前分支已经实现和保留的 Bernini T2V 推理优化，并区分完整栈实测 与分项验证。重点是 8x H100、Ulysses 8、单视频 CFG batch 场景。这里的“推荐” 指本优化分支的配置：保持模型权重和 nominal scheduler 配置，但 EasyCache/PISA 会改变实际计算量，PISA 还会改变生成轨迹。

Baseline 名称统一遵循 inference_baseline_naming.md：官方 upstream pristine baseline 的统一 reporting anchor 为 200 s E2E/request；评估新方法时， 已经叠加现有优化且只关闭候选方法的相对对照称为 optimized-stack baseline。

固定测试配置

项目	配置
模型	ByteDance/Bernini-Diffusers，snapshot b988d6af97714041e0d21a31d4faff5ac42bac09
语义规划器	Qwen2.5-VL-7B，25 planning steps
Renderer	Wan2.2-T2V-A14B 双 DiT expert，BF16
GPU	单节点 8x H100 80 GB
并行	Ulysses 8，CFG batch packing
视频	480x848，81 帧，16 fps
Diffusion	50 scheduler steps，flow shift 5.0
随机性	seed 42
验证集	assets/validators/t2v_validator_6.jsonl 的 6 条 Bernini T2V prompt

两个推荐 Profile

1. recommended_easycache

这是默认推荐档。通过 run_t2v.sh 启动时，它打开全部已验证的无损系统优化， 使用 Ulysses 8、CFG batch 和 kernel prewarm，并使用 EasyCache threshold=0.08、retain_steps=4、retain_last=1，attention 保持 FA3。

六条 prompt 的实际 DiT forward 数是 29, 31, 25, 35, 26, 26：

• 六条均值：28.67 / 50，跳过 42.67%。
• 排除每个 profile 第一条 warmup 后：28.6 / 50，跳过 42.8%。
• EasyCache hit 的调度壳开销约 2.3-2.5 ms，不会执行 DiT forward。

最终同节点热推理结果：

配置	E2E	Diffusion	相对同节点 optimized-stack baseline
current optimized-stack baseline	83.152 s	67.731 s	1.00x
全部无损优化 + EasyCache 0.08/4	56.056 s	41.141 s	1.48x

相对 108.094 s 的 legacy optimized-stack baseline，累计是 1.93x；该数字跨运行、 跨节点，只用于说明累计进展。同节点的严格增量加速是 1.48x。

按 200 s pristine reporting anchor，current lossless stack 为 2.41x， EasyCache 0.08/4 交付档为 3.57x；这两个是累计比例，不是同节点严格 A/B。

质量结果以逐帧、同 seed dense quality reference 为参照：mean SSIM 0.92995，最差 prompt SSIM 0.89079。六条最终视频与此前 easy_t08_r4 验证视频逐字节一致。

2. recommended_easycache_pisa

这是第二个推荐的激进 attention 候选档。配置上完整继承第一个 profile，只把 部分 self-attention 切换为 PISA；完整 CPU-master stack 的六条复验列为 P0：

• PISA variant：HYD。
• density：0.10。
• block size：64。
• bias correction：开启。
• layer 0-3 保持 FA3，layer 4 以后使用 PISA。
• cross-attention 始终保持 FA3。

必须注意，PISA 会改变 EasyCache 的在线残差，所以“相同 EasyCache 参数” 不等于“相同执行 step 数”。已有六条实测中，PISA d=0.10 + EasyCache 0.08/4 实际执行 31, 39, 29, 38, 30, 29 个 DiT step，均值 32.67；不是 28.6。若要求第二档也严格校准到约 28.6，需要重新扫 EasyCache threshold， 不能直接沿用第一个 profile 的统计数字。

已有 combo 测试是在 CPU-master offload 合入前完成的：热 E2E 72.041 s， 相对当时 108.094 s legacy optimized-stack baseline 为 1.50x；mean SSIM 0.5435， 最差 0.3244。 按 200 s pristine reporting anchor，该历史 combo 的累计比例是 2.78x，但它不是 当前 CPU-master 全栈交付速度。 低 SSIM 主要表示生成轨迹、构图和角色外观偏离同 seed dense quality reference，不等价于视频不可用。当前 profile 已在代码中叠加全部 无损优化，但该完整组合仍需 重新跑六条，不能把旧 72.041 s 与新 83.152 s current optimized-stack baseline 混算。

PISA 不是基础依赖。使用第二档前，piecewise_attn 及兼容 Triton 必须已经 安装，或通过 PISA_OVERLAY 加入 PYTHONPATH。历史验证 overlay 使用 PyTorch 2.5.1 + Triton 3.5.1；该组合通过本地 micro/full-video 测试，但不是 PISA upstream 声明的支持组合，复现时必须记录具体 PISA commit。

Profile 开关明细

两个 profile 都默认打开：

类别	环境变量	值
Triton fusion	BERNINI_FUSED_KERNELS	1
Ulysses communication	BERNINI_A2A_SINGLE	1
QKV/communication overlap	BERNINI_ASYNC_QKV_A2A	1
Planner	BERNINI_PLANNER_COND_ONLY	1
Condition projection cache	BERNINI_CACHE_CONDITION	1
DiT offload	BERNINI_DIT_CPU_MASTER	1
其他模型 offload	BERNINI_PIPELINE_CPU_MASTER	1
Qwen output	BERNINI_QWEN_HIDDEN_ONLY	1
纯 T2V 静态输入	BERNINI_CACHE_T2V_STATIC_INPUT	1
Diffusion cache	BERNINI_DIFFUSION_CACHE	easycache
EasyCache	threshold / retain / last	0.08 / 4 / 1

为避免误叠加未通过推荐门槛的实验，profile 会显式关闭 FP8 FFN-up、双 DiT resident、T5 resident 和 condition-model resident。

已完成的无损优化

BF16、FA3 与 fused kernels

主路径使用 BF16 和 Hopper FA3。新增 Triton/PyTorch exact fallback 封装， 覆盖 SwiGLU、RMSNorm、LayerNorm + modulation、residual gate、rotary embedding 和 Ulysses transpose/chunk 重排。预热脚本在正式推理前编译固定 shape，避免 首个视频承担 Triton compile 时间。

CFG batch 与 Ulysses 通信

pure T2V 的三个 vae_txt_vit_wapg CFG 分支打包到一次 variable-length forward；存在 source VAE condition 时最多四支。 sequence parallel 使用 all_to_all_single，并把 Q/K/V projection 与专用 communication stream 上的 A2A 重叠。padding、unpadding 和输出 gather 都保留 原始 token 边界。

Condition 与 metadata cache

每个 diffusion request 内，重复不变的 condition projection、sequence metadata 和 cu-seqlens 被缓存。planner 只保留 renderer 真正使用的 conditional hidden state，避免无用 CFG 分支。Qwen hidden-only 路径跳过 lm_head 和 KV cache； 单独收益约 43 ms，收益很小但输出一致。

CPU-master offload

原实现每次 expert 切换都把约 26.6 GiB 权重从 GPU 拷回 CPU，再装载下一个 expert。CpuMasterModule 永久保留不可变 CPU master storage：H2D 时只挂接 CUDA copy，drop 时恢复 CPU storage 指针，不再 D2H。

历史实测的四次 DiT transfer 为：

动作	旧路径
expert 1 H2D	3.35 s
expert 1 D2H	7.46 s
expert 2 H2D	3.31 s
expert 2 D2H	7.46 s

新路径两次 drop 都约 1-2 ms。相同机制用于 Qwen、ViT decoder、connector、 T5 和 VAE。最终 lossless 输出与 dense quality reference 对应视频逐字节一致。

纯 T2V 静态输入 cache

纯 T2V 的 fake target ViT embedding bytes 和 VAE distribution parameters 与 prompt 无关，可以跨 request 缓存。cache key 包含完整 transform 签名；prompt tokens 每次重建，VAE latent 仍在每次 request 按当前 RNG sample，所以不改变 prompt 隔离和随机数语义。该项在快节点节省约 1.87 s preprocess。

结构化计时与验证工具

当前计时覆盖 preprocess、semantic planner、T5、video diffusion、VAE/save， 并继续拆 H2D、drop、empty_cache、expert switch、normal step 与 cache hit。 配套脚本支持：

• 真实 Bernini shape 的 FP8 GEMM 和 PISA attention microbenchmark。
• 六 prompt profile matrix。
• 逐帧 PSNR/SSIM、视频元数据与 cache hit 汇总。
• 每张可见 GPU 的 torch.linalg.solve fail-fast 检查。

时间账本

历史 legacy optimized-stack baseline 的 validator hot wall 是 108.094 s；其内部 stage timer 合计 108.092 s。 它已经包含 BF16、FA3、fused kernel、CFG batch、 single-A2A、async QKV-A2A、planner-cond-only 和 condition cache，不是官方 naive inference：

阶段	热时间
preprocess	4.577 s
semantic planner	1.134 s
T5	8.896 s
video diffusion	89.382 s
VAE decode/save	4.101 s
总计	108.092 s

在最终验证节点，EasyCache 之外约有 23 s 不随 DiT skip 数同比缩放：约 14.9-15.4 s non-diffusion，加约 8.1 s diffusion 内固定工作。后者包括 expert H2D、switch、empty_cache、scheduler/noise/latent setup 和尾部整理。因此 42.8% DiT skip 不会直接转化成 42.8% E2E 降时。

已验证但不作为推荐默认值

方法	实验范围	结论
EasyCache 0.12/3	六 prompt hot，旧 offload 路径	21.8/50 次 forward，E2E 70.357 s，mean SSIM 0.855
EasyCache 0.20/2	六 prompt hot，旧 offload 路径	16.4/50 次 forward，E2E 65.323 s，mean SSIM 0.744
TeaCache 0.15	单 prompt diffusion-only	diffusion 80.417 s，SSIM 0.9539；Wan2.1 系数未针对 Bernini 双 expert 重拟合
FP8 dynamic FFN-up	module + 10-step video	module shape 1.393x，但完整 step 仅约 1.03x，lazy quant 两个 expert 合计约 31.5 s，且有质量偏差
双 DiT resident	单 prompt cold comparison	peak 58.03 GiB/GPU，但 diffusion 116.37 s，慢于 nonresident 95.69 s
T5 resident	两 prompt hot matrix	E2E 91.193 s，normal step 从约 1.16 s 变为 1.50 s
全 condition resident	两 prompt hot matrix	E2E 92.535 s，normal step 约 1.62 s

Resident 方案虽然减少 transfer，却增加每个 DiT step 的显存压力和执行时间， 当前明确关闭。

使用方法

默认推荐档：

bash scripts/bernini/run_t2v.sh

显式写法：

BERNINI_OPTIMIZATION_PROFILE=recommended_easycache \
bash scripts/bernini/run_t2v.sh

PISA attention 档：

BERNINI_OPTIMIZATION_PROFILE=recommended_easycache_pisa \
PISA_OVERLAY=/path/to/compatible/pisa/python-packages \
bash scripts/bernini/run_t2v.sh

六条 validator：

PISA_OVERLAY=/path/to/compatible/pisa/python-packages \
bash scripts/bernini/run_t2v_validator6.sh

validator 默认跑 lossless reference 和两个推荐档；若 PISA/FA3 可选依赖不兼容， 脚本会明确跳过 PISA 档，仍完成前两档。

原始实验和单 prompt microbenchmark 记录见 inference_optimization_benchmarks.md。

结果口径和限制

1. hot 排除每个 profile 的第一条，避免把一次性 kernel compile/warmup 记入稳态。
2. 跨节点 H2D、T5 和文件系统存在明显波动；75.441 s 与 83.152 s 的 lossless 结果不能当算法回归直接比较，也不能替代同节点 optimized-stack baseline。
3. 质量数字是同 seed、逐帧对齐的 PSNR/SSIM。它适合检测轨迹漂移，但不能替代 人工视频质量、文本一致性和运动质量评价。
4. recommended_easycache_pisa 是分项结果支持的激进候选档；完整 CPU-master stack 尚未重跑六条，文档不提供推算后的虚假累计速度。
5. 当前推荐只针对固定的 T2V 480p/81f/50-step 工作负载；其他分辨率、帧数、任务 类型和 GPU 需要重新验证。