Bernini Editing 无损推理优化总结
更新日期:2026-07-02
本文记录 Bernini V2V/RV2V editing 的严格热推理基线、已交付优化、数学语义审计和
当前限制。冻结用例与双分支协议见
benchmarks/editing/README.md,GPU 数值审计见
benchmarks/editing/semantic_audit/SEMANTIC_AUDIT.md。
结论
本报告中的 lossless 指同一实数算法和数学映射:模型权重、scheduler、40 个 denoising step、dense attention、CFG/APG 分支定义和随机采样语义不变。实现可以改变 等价计算的批处理方式、通信排列和 BF16 GEMM 的归约分块,因此不要求 pristine 与 optimized 逐比特一致,也不把跨实现 SHA256 相同作为交付条件。
正式 A/B 在同一节点 pool0-01826 上使用 8x H100 80 GB、Ulysses 8、DP=1。
五个用例串行总时间从 1714.106 s 降到 1138.782 s,总和口径加速
1714.106 / 1138.782 = 1.505x。这里没有启用 PISA、FP8、EasyCache 或
TeaCache,也没有跳过任何 diffusion step。
固定测试配置
| 项目 | 配置 |
|---|---|
| 模型 | ByteDance/Bernini-Diffusers,snapshot b988d6af97714041e0d21a31d4faff5ac42bac09 |
| 语义规划器 | Qwen2.5-VL-7B,25 planning steps |
| Renderer | Wan2.2 A14B 双 DiT expert,BF16,每个 expert 40 layers |
| 软件 | PyTorch 2.5.1+cu124,CUDA 12.4,dense FA3 |
| GPU | 单节点 8x H100 80 GB |
| 并行 | world size 8,Ulysses 8,DP=1;pristine 为 serial CFG,optimized 为 CFG varlen batch |
| Editing 验证集 | benchmarks/editing/tasks.json 的 3 条 V2V/MV2V 和 2 条 RV2V/ADS2V |
| 视频 | 81 帧,16 fps,source-derived resolution,最大边 848 |
| Diffusion | 40 scheduler steps,UniPC,flow shift 5.0 |
| Planner decoder | vit_denoising_step=5,vit_txt_cfg=1.2,vit_img_cfg=1.0 |
| 随机性 | seed 42 |
这里的 Editing pristine 是原始代码分支上严格同步、完整 warmup 后得到的五元素 hot
vector,不是 T2V 文档中由单条首请求日志取整得到的 200 s reporting anchor。以后评估
PISA、FP8、EasyCache 或 TeaCache 时,应把本交付的 dense lossless stack 称为该候选的
optimized-stack baseline,不能继续使用 T2V 的 200 s 作为严格分母。
推荐交付配置
当前推荐配置称为 editing_lossless。它不是一个虚构的
BERNINI_OPTIMIZATION_PROFILE selector,而是由
scripts/bernini/run_editing_hot_optimized.sh 固化的一组默认值:
- V2V 和 RV2V 都执行完整 40/40 diffusion steps;
- self/cross attention 都保持 dense FA3;
- 所有已验证的 exact kernel、通信、offload、cache 和 CFG packing 默认开启;
- RV2V 默认把最多五个独立 guidance segment 放在同一次 varlen forward 中;
- PISA、FP8、EasyCache、TeaCache 和所有 diffusion-step reuse 强制关闭。
该配置的正式 measure vector 为:
[192.528052, 191.511893, 190.842407, 243.134162, 320.765783] s
五请求串行总和为 1138.782 s,不是单请求延迟。V2V 三例合计加速 1.284x,
RV2V 两例合计加速 1.731x,全部五例按总时间加权为 1.505x。
Profile 开关明细
正式 optimized timing row 会记录完整 optimization_env。下表是正式 run 实际记录的配置指纹,
也是推荐 launcher 的默认值:
| 类别 | 开关 | 正式值 |
|---|---|---|
| Kernel | BERNINI_FUSED_KERNELS |
1 |
| Communication | BERNINI_A2A_SINGLE |
1 |
| Communication overlap | BERNINI_ASYNC_QKV_A2A |
1 |
| Planner mask | BERNINI_PLANNER_MASK_CPU |
1 |
| Condition cache | BERNINI_CACHE_CONDITION |
1 |
| DiT offload | BERNINI_DIT_CPU_MASTER |
1 |
| Pipeline offload | BERNINI_PIPELINE_CPU_MASTER |
1 |
| Qwen output | BERNINI_QWEN_HIDDEN_ONLY |
1 |
| Editing media | BERNINI_DEDUPE_EDITING_MEDIA |
1 |
| Editing static DiT inputs | BERNINI_CACHE_EDITING_STATIC_DIT_INPUT |
1 |
| Auxiliary transfer | BERNINI_SELECTIVE_EDITING_H2D |
1 |
| Layout pruning | BERNINI_PRUNE_UNUSED_EDITING_LAYOUTS |
1 |
| CFG | launcher CFG_BATCH / CLI --cfg_batch |
1 / enabled |
| RV2V packing | BERNINI_RV2V_CFG_BATCH_CHUNK_SIZE |
5 |
| Attention | BERNINI_ATTENTION_BACKEND |
fa3 |
| Diffusion cache | BERNINI_DIFFUSION_CACHE |
none |
| T2V-only planner shortcut | BERNINI_PLANNER_COND_ONLY |
0 |
| T2V-only static cache | BERNINI_CACHE_T2V_STATIC_INPUT |
0 |
| FP8 | BERNINI_FP8_FFN_UP |
0 |
| Resident modules | BERNINI_RESIDENT_DIT/T5/CONDITION_MODELS |
0/0/0 |
| Approximate variables | PISA/EasyCache/TeaCache variables | unset |
正式 run 使用的 CLI 还包括 --use_unipc --use_src_tgt_id --ulysses 8 --num_frames 81 --max_image_size 848 --num_inference_steps 40 --flow_shift 5.0 --seed 42 --fps 16 --vit_denoising_step 5 --vit_txt_cfg 1.2 --vit_img_cfg 1.0 --cfg_batch。
被测版本
| 角色 | 分支与提交 | Slurm job | 节点 | 说明 |
|---|---|---|---|---|
| pristine | benchmark/editing-pristine,9f5de73c45c9e8a2e7af23efec37889e354d813c |
13357422 | pool0-01826 |
harness 基于 upstream 8c805a5;核心实现未改 |
| optimized | optimization/editing-lossless,521d6bc4a39a144f904a6e4266888ae42c3bcc80 |
13357799 | pool0-01826 |
完整 editing lossless stack,RV2V chunk=5 |
| semantic audit | optimization/editing-lossless,f1ae46b2427c56fb32b68e5d0f1620375af85614 |
13358786 / 13358800 | pool0-01881 |
增加测试、审计档案和 launcher 防漂移 unset;验证 521d6bc 的数学路径 |
pristine 与 optimized 分别记录了 249.402837 s 和 177.988664 s 的 model load。
这两个数字只作 cold-start 诊断,完全排除在下表与 1.505x 加速之外。
正式热推理结果
五个元素的顺序固定为:
[v2v_case1, v2v_case2, v2v_case3, rv2v_case1, rv2v_case2]
严格 measure-round 向量为:
pristine_s = [247.662622, 245.681346, 244.530002, 374.843315, 601.388817]
optimized_s = [192.528052, 191.511893, 190.842407, 243.134162, 320.765783]
| 用例 | manifest task | 输出 tensor shape | Pristine | Optimized | 加速 |
|---|---|---|---|---|---|
v2v_case1 |
v2v |
81x480x848x3 |
247.663 s | 192.528 s | 1.286x |
v2v_case2 |
mv2v |
81x480x848x3 |
245.681 s | 191.512 s | 1.283x |
v2v_case3 |
v2v |
81x480x848x3 |
244.530 s | 190.842 s | 1.281x |
rv2v_case1 |
rv2v |
81x848x480x3 |
374.843 s | 243.134 s | 1.542x |
rv2v_case2 |
ads2v |
81x448x848x3 |
601.389 s | 320.766 s | 1.875x |
| 五例串行总和 | - | - | 1714.106 s | 1138.782 s | 1.505x |
总加速按 sum(pristine) / sum(optimized) 计算,不是五个 speedup 的算术平均。
对应的每请求算术均值是 342.821 s 和 227.756 s,但五个任务的分辨率、输入结构和
CFG 分支不同,因此向量和逐项结果比单一 mean 更重要。
五例完整计时明细
所有正式结果均来自同一节点 pool0-01826,使用 8x H100 80 GB、
Ulysses 8、DP=1、40 个 diffusion step、25 个语义规划 step、81 输出帧、
最大边 848、16 fps、flow shift 5.0 和 seed 42。
Formal hot request 是跨 8 rank 同步并取 MAX 的精确 wall time,包含输入媒体读取与
preprocess、Qwen/planner、T5、40-step diffusion、VAE decode、D2H 和 tensor
postprocess;不包含 model load、warmup/compile 和 MP4 encode/write。
v2v_case1
输入为 1920x1080、150 帧、30 fps、5.000 s 的 source_case1.mp4;任务是在
雪地道路右侧添加稳定的雪人,输出为 81x480x848x3。
| 诊断项 | Pristine | Optimized |
|---|---|---|
| 每 step guidance DiT 求值 | 4 个 serial forward | 1 次 packed forward,4 segments |
| diffusion tqdm 日志区间 | 约 206-214 s | 约 171-172 s |
| residual proxy | 约 33.663 s | 约 20.528 s |
| Formal hot request | 247.662622 s | 192.528052 s |
| Warmup request | 298.902 s | 238.069 s |
| MP4 encode/write | 0.958 s | 0.951 s |
| 正式节省 / 加速 | - | 55.135 s / 1.286x |
v2v_case2
输入为 1920x1080、150 帧、29.970 fps、5.005 s 的 source_case2.mp4;任务是把
人的动作改为在狗旁自然蹲下,输出为 81x480x848x3。
| 诊断项 | Pristine | Optimized |
|---|---|---|
| 每 step guidance DiT 求值 | 4 个 serial forward | 1 次 packed forward,4 segments |
| diffusion tqdm 日志区间 | 约 206-214 s | 约 171 s |
| residual proxy | 约 31.681 s | 约 20.512 s |
| Formal hot request | 245.681346 s | 191.511893 s |
| Warmup request | 246.854 s | 191.634 s |
| MP4 encode/write | 0.796 s | 0.776 s |
| 正式节省 / 加速 | - | 54.169 s / 1.283x |
v2v_case3
输入为 1920x1080、125 帧、25 fps、5.000 s 的 source_case3.mp4;任务是把
人形机器人替换为保持动作和反射的机器狗,输出为 81x480x848x3。
| 诊断项 | Pristine | Optimized |
|---|---|---|
| 每 step guidance DiT 求值 | 4 个 serial forward | 1 次 packed forward,4 segments |
| diffusion tqdm 日志区间 | 约 206-214 s | 约 170-171 s |
| residual proxy | 约 30.530 s | 约 19.842 s |
| Formal hot request | 244.530002 s | 190.842407 s |
| Warmup request | 246.095 s | 191.949 s |
| MP4 encode/write | 0.706 s | 0.719 s |
| 正式节省 / 加速 | - | 53.688 s / 1.281x |
rv2v_case1
输入为 1080x1920、125 帧、25 fps、5.000 s 的人物视频,加一张
1280x2173 参考衬衫图像;任务是将参考衬衫迁移到人物,输出为
81x848x480x3。
| 诊断项 | Pristine | Optimized |
|---|---|---|
| 每 step guidance DiT 求值 | 6 个 serial forward,包含重复 VTIC | 1 次 packed forward,5 distinct segments |
| diffusion tqdm 日志区间 | 约 335-343 s | 约 222-223 s |
| residual proxy | 约 31.843 s | 约 20.134 s |
| Formal hot request | 374.843315 s | 243.134162 s |
| Warmup request | 376.080 s | 240.936 s |
| MP4 encode/write | 0.635 s | 0.628 s |
| 正式节省 / 加速 | - | 131.709 s / 1.542x |
rv2v_case2
输入为 4096x2160、151 帧、30 fps、5.033 s 的目标视频,加一条
1280x720、121 帧、24 fps、5.042 s 的参考视频;任务是将参考视频放到电脑屏幕,
输出为 81x448x848x3。
| 诊断项 | Pristine | Optimized |
|---|---|---|
| 每 step guidance DiT 求值 | 6 个 serial forward | 1 次 packed forward,V == VI,4 distinct segments |
| diffusion tqdm 日志区间 | 约 536-544 s | 约 285 s |
| residual proxy | 约 57.389 s | 约 35.766 s |
| Formal hot request | 601.388817 s | 320.765783 s |
| Warmup request | 602.474 s | 320.993 s |
| MP4 encode/write | 0.747 s | 0.758 s |
| 正式节省 / 加速 | - | 280.623 s / 1.875x |
tqdm 与 residual 的口径
Formal hot request、warmup 和 encode 来自 JSONL 精确记录。diffusion tqdm
不是独立 CUDA stage timer:8 个 rank 各自在第 40 次 update 和进度对象稍后 close 时
各打印一次 40/40,后一次还可能包含 loop 后的清理等待,且都只有整秒级显示。
上表的 residual proxy 是 formal request - 最大 tqdm 整秒显示 的诊断值,混合了 media
preprocess、Qwen、T5、expert switch、VAE、D2H、postprocess 以及 tqdm 边界误差,
它既不是严格上界或下界,也不能解读为精确的“非 diffusion 固定开销”。
计时协议
每个分支只启动一次八 rank torchrun,每个 rank 只加载一次 pipeline。一个
distributed process group 依次执行五例 warmup,再依次执行五例 measure;没有
八路 data parallel,也没有同时生成多个 sample。
每次请求前后都执行 CUDA synchronize 和 distributed barrier,最终对 rank elapsed
取 MAX。计时包含:
- 参考图像/视频读取、变换和 VAE/ViT media preprocessing。
- Qwen2.5-VL 语义规划和 ViT decoder/connector。
- UMT5 conditioning。
- 40-step dense video diffusion,包括 expert H2D/switch 和全部通信。
- VAE decode、D2H 以及输出 tensor postprocess。
计时不包含模型加载、第一轮 compile/warmup、MP4 encode 和文件写入。MP4 仍在 timer 外生成以便人工检查。这个边界模拟模型已驻留的服务请求;不能与包含 checkpoint load、Slurm 排队或 allocation 初始化的 walltime 混算。
时间账本与 RV2V 成本解释
| 边界 | Pristine | Optimized | 是否进入正式加速比 |
|---|---|---|---|
| Model load | 249.402837 s | 177.988664 s | 否 |
| 五例 warmup 总和 | 1770.404 s | 1183.581 s | 否 |
| 五例 formal hot request 总和 | 1714.106 s | 1138.782 s | 是 |
| 五例 MP4 encode/write 总和 | 3.843 s | 3.831 s | 否 |
1714.106 -> 1138.782 s 是五个请求串行总和,不是某一个 RV2V 请求,也不包含
上表其他三行。单请求的严格值必须查看五元向量或逐例表。
RV2V 比 V2V 慢的主因不是“又多跑了 diffusion step”:两者都是 40 step,但是
每个 step 内的 guidance segment 数量和 sequence length 不同。前例的
848x480 或 480x848 目标空间 token 数相同,第五例 848x448 需单独记为 N2:
N = 21 temporal patches * 30 * 53 spatial patches = 33,390 tokens
N2 = 21 temporal patches * 28 * 53 spatial patches = 31,164 tokens
以每个 varlen segment 独立 dense self-attention 的 sum(L_i^2) 作结构估算:
| 路径 | Distinct guidance segments | 每 step token 量级 | self-attention 代价量级 |
|---|---|---|---|
| target-only T2V 参考 | 3 | 约 3N |
约 3N^2 |
| 本次 V2V | 4 | 约 7N |
约 13N^2 |
rv2v_case1,视频+图像参考 |
5 | 约 9N + 3I |
约 17.6N^2 |
rv2v_case2,两条视频 |
4,V == VI 已 alias |
约 10N2 |
约 28N2^2 |
I 是参考图像 latent token 数;本例图像只有一个 temporal latent slice,因此
I ≈ N/21,表中 17.6N^2 来自 N^2 + (2N)^2 + 3(2N + I)^2。
这些是根据冻结用例的 segment 结构做的代数估算,
不是 profiler 输出,也不代表整个 DiT 的 FLOP 精确比例。Packed varlen forward 不会让
segments 之间相互 attention,但仍必须对每个 segment 完成原本的 dense attention 和
MLP。Packing 本身的收益是提高 GPU 利用率;静态工作复用来自独立 cache,
重复 VTIC 和 V == VI 的删除来自 dedupe/alias。组合起来仍不是把 RV2V 变成
T2V 的计算量。
日志中 optimized diffusion 进度的代表值为 V2V 约 170-172 s、
rv2v_case1 约 222-223 s、rv2v_case2 约 285 s,与上述 sequence 结构一致。
当前 harness 没有低开销 CUDA-event stage ledger,因此不能从现有数据中准确拆出
media/Qwen/T5/DiT/VAE 各自的秒数。
与 T2V 交付数字的口径差异
T2V 文档中的 3.57x 和本文的 Editing 1.505x 不是同一种 A/B:
| 数字 | 分子 / 分母 | 口径 |
|---|---|---|
T2V lossless 2.41x |
200 / 83.152 s |
200 s 是 pristine reporting anchor,不是与 83.152 s 的同节点严格 A/B |
T2V EasyCache 增量 1.48x |
83.152 / 56.056 s |
同节点,但只实际执行平均 28.6/50 个 DiT forward,属于 approximate |
T2V EasyCache 累计 3.57x |
200 / 56.056 s |
reporting anchor 叠加 approximate cache,不是纯 lossless 同节点实测 |
Editing lossless 1.505x |
1714.106 / 1138.782 s |
同节点五请求总和,每例都是 dense 40/40 step |
Editing 本次没有使用 EasyCache,而且 T2V 的 planner cond-only 和 pure-T2V static-input
cache 对真实 source media 不适用;Editing 还有更长、更多的 guidance segments。
因此不能用 T2V 3.57x 作为 Editing lossless 的应达目标,也不能把 T2V 的
EasyCache 1.48x 直接乘到 Editing 1.505x 上。
完整无损优化栈
通用系统优化
| 方法 | 实现与保持的语义 |
|---|---|
| BF16 + dense FA3 | self/cross attention 都执行完整 dense attention;没有 sparse top-k 或 token 丢弃 |
| Exact fused kernels | Triton/PyTorch fusion 覆盖 SwiGLU、RMSNorm、LayerNorm+modulation、residual gate、rotary 和 Ulysses transpose;公式不变 |
all_to_all_single |
用单 buffer collective 替换 list all_to_all;head/token permutation 和 padding trim 不变 |
| Async QKV/A2A | Q/K/V projection 与专用通信 stream 上的 A2A 重叠;event 依赖保持消费顺序 |
| CFG variable-length packing | 独立 guidance 分支拼成 varlen batch,再按原长度拆回;每个 segment 的 mask、timestep、RoPE 和 text boundary 独立 |
| Condition projection cache | request 内复用不变的 condition projection;key 覆盖多个 editing condition slot,不跨请求泄漏 |
| Sequence metadata cache | 复用稳定的长度、padding 和 cu_seqlens;长度保留为 Python list,避免逐 step 构造微小 CUDA tensor |
| CPU-master offload | CPU master storage 永久保留;H2D 时挂接 CUDA storage,drop 时恢复 CPU storage 指针,取消无意义 D2H 回写 |
| Pipeline CPU-master | 同一 storage 策略扩展到 Qwen、ViT decoder、connector、T5 和 VAE |
| Qwen hidden-only | renderer 只消费 hidden state,因此跳过未使用的 lm_head 和 KV-cache 输出 |
| Planner mask CPU schedule | 在 CPU 上计算同一 cosine/floor/min/max MaskGIT schedule,并保留原实现的 index-zero skip 行为,消除每轮 scalar sync |
BERNINI_RESIDENT_DIT、BERNINI_RESIDENT_T5 和
BERNINI_RESIDENT_CONDITION_MODELS 明确为 0。历史 T2V profiling 显示常驻会增加
normal DiT step 的显存压力和执行时间;本次 Editing 没有对 resident 单独重跑
五例消融,正式 launcher 沿用已审计的 CPU-master transfer 策略。
Editing 专项优化
| 方法 | 实现与数学依据 |
|---|---|
| Media feature dedupe | 相同 realpath+duration 的输入只做一次确定性 media encode;缓存序列化 payload/distribution parameters,逻辑上的 latent sampling 仍逐次执行,因此 RNG 消耗不变 |
| Per-request/per-expert static DiT cache | 缓存 source patch tokens、source RoPE、只依赖 target shape 的 RoPE 和 masks;每 step 变化的 noisy-target patch embedding 仍重新计算 |
| Selective auxiliary H2D | positive branch 保留完整输入;uncond/imgcond 只搬运 Qwen 实际读取的六类 tensor,所有 transform 和随机操作仍按原顺序完成 |
| Layout pruning | V2V 不构建从未读取的 image-only/video-only latent layouts;RV2V 不构建未读取的 image-only layout |
| RV2V no-image alias | 没有 source image 时 wvae == wvid,所以 eps_VI == eps_V,image guidance 项 omega_img * (eps_VI - eps_V) 数学上为 0;直接复用同一 prediction |
| RV2V shared-result dedupe | serial fallback 复用已经计算的 VTIC/shared conditional 结果,删除同输入、同条件、同 timestep 的重复 forward |
| V2V packed guidance | vae_txt_vit_wapg 的 base/image/text/target 条件分支按真实长度打包,拆分后仍执行原来的 APG delta 与 scale 链 |
| RV2V all-branch packing | base, V, VI, VTI, VTIC 最多五个逻辑分支一次打包;默认 chunk=5,zero-scale 分支仍遵循原 alias 规则 |
| Cache lifecycle | media、condition、metadata、static DiT 和 packed-condition cache 都在 request/expert 边界显式激活或清理 |
RV2V 最终组合仍是原公式:
base
+ omega_vid * (eps_V - base)
+ omega_img * (eps_VI - eps_V)
+ omega_txt * (eps_VTI - eps_VI)
+ omega_tgt * (eps_VTIC - eps_VTI)
packing 只改变这些 eps 的批处理求值方式,不改变分支输入、差分顺序或系数。V2V
的 WAPG projection 同样在拆分后执行,未被线性化或省略。
明确关闭或不适用的方法
正式 launcher 锁定以下边界:
| 方法 | 正式配置 | 原因 |
|---|---|---|
| PISA | BERNINI_ATTENTION_BACKEND=fa3,PISA variables unset |
sparse attention 改变 attention mapping |
| FP8 | BERNINI_FP8_FFN_UP=0 |
quantization 改变数值映射;当前实现与默认 CPU-master DiT offload 硬互斥 |
| EasyCache / TeaCache | BERNINI_DIFFUSION_CACHE=none,cache variables unset |
会复用输出并跳过实际 DiT forward |
| Planner cond-only | BERNINI_PLANNER_COND_ONLY=0 |
editing visual-source branches 并不相等,不能应用 T2V identity shortcut |
| T2V static cache | BERNINI_CACHE_T2V_STATIC_INPUT=0 |
editing 有真实 source media,不能套用 pure-T2V fake-target cache |
| DiT/T5/condition 常驻 | 三个 BERNINI_RESIDENT_* 开关均为 0 |
历史 T2V profiling 中常驻增加 normal-step 显存压力和时间;本次 Editing 没有独立重跑该消融 |
因此“CFG branch forward 次数减少”不等于“diffusion step skipping”:每个请求仍执行 完整 40 个 scheduler/denoising step,所有逻辑 guidance 分支仍进入同一公式。
1.505x 是上述整套 lossless 方法合并后的正式五例 A/B,不是每个方法单独
speedup 的乘积。当前没有对每一个开关都做同节点五例 formal ablation,因此不能
从这个数字反推 fused kernel、A2A、offload、media cache 或 CFG packing 各自节省了
多少秒。下一步的独立贡献必须用同一 optimized-stack baseline 逐项开关重测。
尚未纳入当前交付的候选
| 候选 | 当前状态 |
|---|---|
| Rank-leader media/Qwen/T5 + broadcast | 尚未完成语义审计和五例正收益 A/B |
| Server-lifetime immutable media cache | 当前只有 request-local dedupe;跨请求 key、LRU 和 RNG 合同待验证 |
| Root H2D + NCCL broadcast | 尚未用真实 expert bucket 完成 microbenchmark |
| Expert-2 延迟预取 | 尚未验证 copy-stream event、峰值显存和 E2E 收益 |
Full-DiT torch.compile / CUDA Graph |
尚未处理 expert switch、dynamic layout、collective 顺序和 RNG state |
| VAE decode compile / async D2H / output buffer reuse | 尚未完成逐项数值验证和热请求 A/B |
这些都是 roadmap,不能算入当前 1.505x。完整验收顺序见
editing_optimization_roadmap.md。
算法与数学语义审计
正确性检查按从纯函数到真实 GPU 路径分层完成:
| 层次 | 结果 | 覆盖范围 |
|---|---|---|
| 原 editing/unit discovery | 66/66 pass | cache 生命周期、media RNG、layout、selective H2D、planner schedule、RV2V packing 等 |
| 补充 V2V/launcher 后完整 discovery | 69/69 pass | V2V serial-vs-packed、zero/nonzero scale 组合、正式 launcher 的近似方法强制关闭 |
| Fused GPU audit | 19/19 pass,job 13358786 | 真实 BF16 Bernini 维度下逐公式对 FP32/FP64 oracle |
| Parallel + real Wan audit | 19/19 pass,job 13358800 | NCCL A2A、async stream、padding、真实 Wan block serial-vs-packed |
关键结果:
- fused audit 使用
dim=5120、40 heads、head dim 128 和 production-derived token geometry。最差 max abs 为 0.015625,最差 relative L2 为约1.74e-5,cosine 大于 0.9999999998;SwiGLU、rotary 和 layout roundtrip 中相应项目为 exact。 - 2-GPU NCCL audit 的 18 个 legacy-vs-single、oracle、roundtrip 和 async-stream comparison 都是 0 个 BF16 mismatch。
- 一个真实
WanTransformer3DModelblock 以五个不同 VAE/text length 和 timestep 比较 serial 与 packed:max abs 0.0078125,relative L2 0.0031476,cosine 0.9999951,atol=0.05, rtol=0.05sampled close fraction 为 1.0。 - V2V/RV2V CPU differential test 覆盖 serial/packed、chunk 1/3/5、source-image 有无、guidance scale 开关和 alias 组合;最终 guidance tensor 按容差一致。
- planner test 对 35 组 query/planning-step 组合复现原 cosine/floor schedule、mask、 indices 和历史 skip 语义。
正式五例中,每个分支自己的 warmup/measure decoded hash 都重复一致,所有跨分支 decoded shape 一致;pristine 与 optimized 的 decoded hash 不同。这与 packed/fused BF16 GEMM 使用不同 reduction tiling 相符,不构成算法错误。
PSNR/SSIM 和 contact sheet 只用于发现明显视觉异常,不能证明或否定数学等价。扩散 轨迹会放大早期舍入差异:较低的逐像素相似度可能仍来自同一实数算法;反过来,较高 相似度也不能证明 branch boundary、timestep 或 guidance 公式正确。本交付的语义证据是 显式公式 oracle、排列 oracle 和 serial-vs-packed differential;正式 40-step run 只提供 完整端到端路径的执行覆盖与视频诊断,不是 scheduler 中间状态的独立 differential。
端到端视频诊断
每个 pristine/optimized MP4 都是 81 帧、16 fps、5.0625 秒,分辨率与 decoded tensor shape 一致。对每对压缩后 MP4 计算的诊断值如下;它们不参与 correctness gate:
| 用例 | 平均 PSNR | 平均 SSIM | 首/中/末帧语义检查 |
|---|---|---|---|
v2v_case1 |
44.2907 dB | 0.993895 | 通过 |
v2v_case2 |
40.0705 dB | 0.989776 | 通过 |
v2v_case3 |
37.5640 dB | 0.993541 | 通过 |
rv2v_case1 |
37.1619 dB | 0.964702 | 通过 |
rv2v_case2 |
45.7571 dB | 0.993673 | 通过 |
结构化向量、job、raw JSONL hash、MP4 hash 和审计摘要保存在
benchmarks/editing/results/editing_lossless_8xh100_20260702.json。
使用与复现
应在两个独立 worktree 中运行,避免 optimized 实现污染 pristine 分支。正式数据对应:
| 角色 | Branch | Measured compute commit |
|---|---|---|
| Pristine | benchmark/editing-pristine |
9f5de73c45c9e8a2e7af23efec37889e354d813c |
| Optimized measured implementation | optimization/editing-lossless |
521d6bc4a39a144f904a6e4266888ae42c3bcc80 |
后续 branch head 追加了结果和审计材料,但严格复刻 job 13357422/13357799 时仍应在
临时 worktree 中 detach 到上表的精确 commit,不应只检查 measured commit 是当前
HEAD 的 ancestor。
Pristine worktree:
git switch --detach 9f5de73c45c9e8a2e7af23efec37889e354d813c
test "$(git rev-parse HEAD)" = 9f5de73c45c9e8a2e7af23efec37889e354d813c
OUTPUT_ROOT=/path/to/editing_hot/pristine \
NUM_INFERENCE_STEPS=40 WARMUP_ROUNDS=1 MEASURE_ROUNDS=1 SAVE_MEASURED_OUTPUTS=1 \
srun -A nvr_elm_llm -p interactive --gpus 8 -t 04:00:00 \
bash scripts/bernini/run_editing_hot_pristine.sh
Optimized worktree:
git switch --detach 521d6bc4a39a144f904a6e4266888ae42c3bcc80
test "$(git rev-parse HEAD)" = 521d6bc4a39a144f904a6e4266888ae42c3bcc80
unset BERNINI_TEACACHE_COEFFICIENTS
OUTPUT_ROOT=/path/to/editing_hot/optimized \
TASKS_FILE=benchmarks/editing/tasks.json \
NUM_INFERENCE_STEPS=40 WARMUP_ROUNDS=1 MEASURE_ROUNDS=1 SAVE_MEASURED_OUTPUTS=1 CFG_BATCH=1 \
BERNINI_FUSED_KERNELS=1 BERNINI_A2A_SINGLE=1 BERNINI_ASYNC_QKV_A2A=1 \
BERNINI_PLANNER_MASK_CPU=1 BERNINI_CACHE_CONDITION=1 \
BERNINI_DIT_CPU_MASTER=1 BERNINI_PIPELINE_CPU_MASTER=1 \
BERNINI_QWEN_HIDDEN_ONLY=1 BERNINI_DEDUPE_EDITING_MEDIA=1 \
BERNINI_CACHE_EDITING_STATIC_DIT_INPUT=1 BERNINI_SELECTIVE_EDITING_H2D=1 \
BERNINI_PRUNE_UNUSED_EDITING_LAYOUTS=1 BERNINI_RV2V_CFG_BATCH_CHUNK_SIZE=5 \
srun -A nvr_elm_llm -p interactive --gpus 8 -t 04:00:00 \
bash scripts/bernini/run_editing_hot_optimized.sh
完成后在 optimized worktree 中对比最后一轮 measure:
python scripts/bernini/compare_editing_hot.py \
/path/to/editing_hot/pristine/timings.jsonl \
/path/to/editing_hot/optimized/timings.jsonl \
--json-output /path/to/editing_hot/comparison.json
不要加 --require-hash-match;该选项只用于额外的 bitwise 诊断,不是本次 lossless
验收条件。冻结用例、计时协议和分支关系见
benchmarks/editing/README.md;机器可读结果见
editing_lossless_8xh100_20260702.json;
GPU 数值审计见
SEMANTIC_AUDIT.md。
两个 launcher 的 PYTHON_BIN、BERNINI_CONFIG 和默认 OUTPUT_ROOT 含当前机器的绝对路径。
在其他机器或用户下复现时必须显式覆盖这些变量,并保持模型 snapshot、PyTorch/CUDA/
FA3 版本和 8-GPU Ulysses 配置不变。Launcher 中部分 exact 优化使用
${ENV:-default},所以复现时还必须核对 optimized timing row 的 optimization_env
与本文 Profile 表完全一致。
限制
- 每例只有一轮 warmup 和一轮正式 measure,当前没有 P50/P90 或跨日期方差;
1.505x是严格同节点配对结果,不是硬件无关常数。 - pristine 使用官方
flash-attn==2.8.3的hopper/wrapper,optimized 使用 top-level wrapper;路径均被 assert 并写入 timing row,但 wrapper 差异仍属于环境 provenance,不能把结果外推到任意 FA3 版本。 - NCCL differential 为节省 GPU 使用 world size 2;Ulysses-8 的 permutation 和 production token geometry 由独立 oracle 覆盖,但尚未做 live 8-GPU legacy-vs-single collective differential。
- real-Wan packed differential 使用一个真实 block 和短 sequence;它验证 segment、 timestep、RoPE、cross-attention boundary 和 APG 输入,不等同于逐层比较完整 40 层。
- model load、compile、warmup 和 MP4 encode 不在服务热请求时间内。cold-start、吞吐、 多请求并发和显存峰值需要单独报告。
- 结论只适用于当前五例、40-step、81-frame、8x H100/Ulysses-8 配置。其他帧数、 分辨率、GPU 数量或 model snapshot 必须重新验证。
- 当前没有闭合到 request walltime 的 CUDA-event stage ledger,所以不能准确报告 text encoder、DiT、expert transfer 和 VAE decode 各自的绝对时间。
- 当前 formal run 是完整无损栈对 pristine 的组合 A/B,没有为每个方法单独跑完
五例消融。因此可以报告组合后
1.505x,不能给每一项分配精确秒数或相乘收益。
下一阶段的 lossless 与 approximate 工作严格分轨,见
editing_optimization_roadmap.md。