bernini_optimization_docs/docs/editing_optimization_roadmap.md

Bernini Editing 下一步优化规划

更新日期：2026-07-02

当前同节点五例 hot-inference 结果为 pristine 1714.106 s、editing lossless 1138.782 s，总和口径 1.505x。后续工作分成 lossless system track 和 approximate algorithm track，两条轨道使用不同正确性和质量门槛，结果不得混报。

统一定义

Lossless system track

保持同一实数算法和数学映射：模型权重、40-step scheduler、dense attention、 CFG/APG 分支、conditioning 和随机采样不变。允许等价重排、批处理、通信 overlap、 cache 和不同的 BF16 reduction tiling，因此不要求跨实现 bitwise equality。

通过条件是公式/排列 oracle、serial differential、RNG 与 cache lifecycle test、真实 GPU shape audit 和五例同节点 hot A/B 全部通过。PSNR/SSIM、SHA 和人工 contact sheet 只作诊断，不代替数学语义审计。

Approximate algorithm track

PISA sparse attention、FP8 quantization、EasyCache、TeaCache、step skipping 和其他 改变算子或实际计算量的方法都属于近似轨道。必须同时报告速度、真实执行工作量、 数值误差和视频质量；即使视觉结果可接受，也不能标为 lossless。

P0：强化基准与审计

1. 在同一 allocation 中交替运行 pristine 与 optimized，至少三轮 measure，报告每例 median、P90、range 和 sum(pristine)/sum(optimized)，降低节点时序噪声。
2. 增加 request-stage timer：media preprocess、planner、T5、expert H2D/switch、 DiT normal step、VAE decode、D2H/postprocess。所有 stage 合计必须闭合到 synchronized request walltime。
3. 固化 Torch/CUDA/FA3/NCCL/Triton、model snapshot、输入 SHA、launcher env、GPU clocks 和峰值显存；统一 pristine/optimized 的 FA3 wrapper 后再复测 dependency normalization 的影响。
4. 补一个 live 8-GPU all_to_all_single vs legacy all_to_all differential，覆盖五例 实际 source+target sequence length、global padding trim 和 async stream event。
5. 扩大 real-Wan differential 到 expert 1/2、多个 block 和真实五例 metadata；逐层 检查 packed segment 不串扰，而不是追求最终视频逐比特一致。

P1：Lossless 条件路径去重

Rank-leader planner/encoder

当前八个 Ulysses rank 重复执行 media condition、Qwen planner 和 T5。评估由 group leader 计算确定性 embedding/distribution parameters，再广播最终 tensor 和 metadata。 必须保持 dtype、shape、stride、mask、token ordering 与原路径一致；涉及 latent sample 时只广播 distribution parameters，仍在原逻辑位置消费 RNG，或证明一次采样广播与 原分布/RNG 合同等价。

验证顺序：单模块 broadcast microbench、两例 2-step differential、五例 40-step 同节点 A/B。只有 E2E 有稳定正收益且 69/69 CPU suite、GPU formula audit 和 cache lifecycle 均通过，才进入默认 launcher。

跨请求 media cache

把当前 request-local media dedupe 扩展为 server-lifetime immutable cache，key 至少包含 文件内容 SHA、duration/fps、resize/crop/normalize 参数、model snapshot、dtype 和 encoder version。只缓存确定性 payload 或 distribution parameters，不缓存本应重新 sample 的 latent；提供 LRU、显存/主存预算和请求结束引用释放。

Condition/metadata cache 整理

统一 condition projection、RoPE、mask、cu_seqlens 和 packed-condition 的 key 与 失效策略。为 tensor mutation/version、expert switch、shape collision、异常 teardown、 并发 request 隔离增加测试，避免为了命中率放宽语义条件。

P1：Lossless 权重搬运与 overlap

Root H2D + NCCL broadcast

当前每个 rank 从 host 各自搬运同一 expert。按真实 QKV/out、FFN-up/down 和整 expert bucket 比较：all-rank H2D、rank-0 H2D + NCCL broadcast、分片 H2D + all-gather。 microbenchmark 必须计入 pinning、allocator、event 和 collective，同一 weight bit pattern 到达每个 rank 后再做 module output differential。

Expert 2 延迟预取

在 expert 1 的最后若干 step 用独立 copy stream 预取 expert 2，并用 event 精确约束 首次消费。不得恢复双 expert 全程 resident，因为已有 profiling 显示它会拖慢 normal step。验收同时看 request E2E、normal-step P50/P90 和 peak memory。

Offload 生命周期

继续审计 CpuMasterModule 的 parameter replacement、shared storage、异常退出和 repeated request teardown。探索 pinned CPU master 与 bucketed async H2D，但禁止在 timer 外偷跑 属于当前请求的必要 transfer。

P2：Lossless DiT 与 decode

1. 对固定 shape bucket 评估 torch.compile 和 CUDA Graph。expert switch、不同 editing layout、packed branch count 和 cache hit/miss 应拆成显式 graph；先验证 collective 次序和 RNG state，再测 E2E。
2. 继续融合 target patch、mask gather、APG delta 和 output unpatchify 中的纯 elementwise 链。每个 fused kernel 都对独立 FP32/FP64 公式 oracle，并使用实际 5120 hidden dim、 BF16 和 production token length。
3. 对 RV2V 动态 branch set 自动选择 chunk 1-5，目标是减少 launch overhead 与峰值显存， 但 branch boundary、zero-scale alias 和 APG reference 必须与 serial oracle 一致。
4. 拆分 VAE decode、D2H、layout/color conversion 和 MP4 encode。热 latency 只可 overlap 真正能与同请求前序并行的工作；后台未完成任务不能从 latency 中删除。
5. 评估 channels-last、decode-only compile、pinned async D2H 和预分配 output buffer， 逐项验证 decode tensor 的数值容差和 frame/layout 顺序。

P3：Approximate attention 与低精度

PISA

先按 editing 的真实 module shape 做 self-attention microbenchmark，完整计入 routing、 top-k、layout conversion、sparse kernel 和 concat。扫描 density、layer range、timestep schedule 与 V2V/RV2V branch shape；只有模块端到端正收益后才集成完整五例。

PISA 报告必须包括实际 attention density、每层/每 timestep 命中、E2E/stage speedup、 数值误差、PSNR/SSIM、文本一致性、运动指标和人工盲评。cross-attention 是否保持 dense 要单独写明。

FP8

在模型加载时预生成 FP8 weight/scale，避免 request 内 lazy quant。分别测 QKV/out、 FFN-up/down、cross-KV 的真实 M/K/N，比较 per-tensor、per-channel 和 timestep-aware activation scale。module gate 需要同时报告含 quant/layout 的速度、误差和显存；FP8 始终属于 approximate track。

P3：Approximate diffusion cache

EasyCache

对 V2V、MV2V、RV2V、ADS2V 分任务记录 high/low-noise expert 的实际 DiT forward 数和 hit schedule。扫描 threshold、retain-first、retain-last 和最小执行预算；速度必须从 同运行、只关闭 EasyCache 的 optimized-stack baseline 计算。

TeaCache

不能直接复用 Wan2.1/T2V polynomial。先用 Bernini editing 双 expert 的 residual curve 分别拟合系数，再在与 EasyCache 相同的实际 forward budget 下比较最差 case、temporal flicker 和 source/reference adherence。

组合档

PISA、FP8 与 diffusion cache 会相互改变 residual 和数值轨迹。组合实验必须重新校准， 不能把单项 speedup 相乘，也不能沿用单项的 executed-step 或质量数据。推荐档至少保留：

• dense lossless reference；
• one-method optimized-stack baseline；
• PISA-only、cache-only、FP8-only；
• 明确参数的组合候选。

统一实验门槛

每个候选按以下顺序推进：

1. 写明数学变换、可复用条件、潜在失效模式和理论上限。
2. 用实际 dtype/shape/layout 做 module microbenchmark，报告 warmup、P50/P90、峰值显存 和所有前后处理开销。
3. 运行 CPU semantic suite、2-step 单例和相关 GPU oracle。
4. 同节点跑五例 warmup+measure；lossless 候选保持 dense 40-step，approximate 候选记录 实际 DiT forward、density 或 quantization 配置。
5. lossless 以算法/数学语义通过为 gate；approximate 另做逐帧指标、source adherence、 motion/text metrics 和人工评价。两者的表格、命名和结论分开。
6. 只保留同节点重复实验中的稳定正收益；负结果和 no-op 也记录，避免重复探索。

近期交付顺序

优先级	交付物	目标
P0	三轮同 allocation 五例 A/B + stage ledger	收紧 1.505x 的方差和瓶颈解释
P0	live 8-GPU collective + real metadata audit	补齐当前 world-size-2 硬件覆盖限制
P1	rank-leader planner/T5 prototype	删除 Ulysses rank 间确定性重复计算
P1	root-H2D/broadcast microbench	降低每 rank 重复 expert transfer
P1	expert-2 prefetch prototype	隐藏不可避免的 expert switch H2D
P1	server-lifetime immutable media cache	降低重复素材请求的 preprocess 成本
P2	graph/compile + decode microbench	降低固定 launch 和 decode 开销
P3	PISA/FP8 module gates	决定近似 kernel 是否值得 full integration
P3	Editing-specific EasyCache/TeaCache calibration	建立独立、可解释的速度-质量档位

所有新速度必须同时注明分母、commit、job、节点、计时边界和是否包含 model load。 pristine baseline 只作 upstream 锚点；候选的增量收益必须相对同运行、仅关闭该候选的 optimized-stack baseline。