sana_video / bernini_optimization_docs /docs /editing_lossless_optimization.md
yitongl's picture
Upload Bernini T2V and Editing optimization docs
e241361 verified
|
Raw
History Blame Contribute Delete
30.2 kB

Bernini Editing 无损推理优化总结

更新日期:2026-07-02

本文记录 Bernini V2V/RV2V editing 的严格热推理基线、已交付优化、数学语义审计和 当前限制。冻结用例与双分支协议见 benchmarks/editing/README.md,GPU 数值审计见 benchmarks/editing/semantic_audit/SEMANTIC_AUDIT.md

结论

本报告中的 lossless 指同一实数算法和数学映射:模型权重、scheduler、40 个 denoising step、dense attention、CFG/APG 分支定义和随机采样语义不变。实现可以改变 等价计算的批处理方式、通信排列和 BF16 GEMM 的归约分块,因此不要求 pristine 与 optimized 逐比特一致,也不把跨实现 SHA256 相同作为交付条件。

正式 A/B 在同一节点 pool0-01826 上使用 8x H100 80 GB、Ulysses 8、DP=1。 五个用例串行总时间从 1714.106 s 降到 1138.782 s,总和口径加速 1714.106 / 1138.782 = 1.505x。这里没有启用 PISA、FP8、EasyCache 或 TeaCache,也没有跳过任何 diffusion step。

固定测试配置

项目 配置
模型 ByteDance/Bernini-Diffusers,snapshot b988d6af97714041e0d21a31d4faff5ac42bac09
语义规划器 Qwen2.5-VL-7B,25 planning steps
Renderer Wan2.2 A14B 双 DiT expert,BF16,每个 expert 40 layers
软件 PyTorch 2.5.1+cu124,CUDA 12.4,dense FA3
GPU 单节点 8x H100 80 GB
并行 world size 8,Ulysses 8,DP=1;pristine 为 serial CFG,optimized 为 CFG varlen batch
Editing 验证集 benchmarks/editing/tasks.json 的 3 条 V2V/MV2V 和 2 条 RV2V/ADS2V
视频 81 帧,16 fps,source-derived resolution,最大边 848
Diffusion 40 scheduler steps,UniPC,flow shift 5.0
Planner decoder vit_denoising_step=5vit_txt_cfg=1.2vit_img_cfg=1.0
随机性 seed 42

这里的 Editing pristine 是原始代码分支上严格同步、完整 warmup 后得到的五元素 hot vector,不是 T2V 文档中由单条首请求日志取整得到的 200 s reporting anchor。以后评估 PISA、FP8、EasyCache 或 TeaCache 时,应把本交付的 dense lossless stack 称为该候选的 optimized-stack baseline,不能继续使用 T2V 的 200 s 作为严格分母。

推荐交付配置

当前推荐配置称为 editing_lossless。它不是一个虚构的 BERNINI_OPTIMIZATION_PROFILE selector,而是由 scripts/bernini/run_editing_hot_optimized.sh 固化的一组默认值:

  • V2V 和 RV2V 都执行完整 40/40 diffusion steps;
  • self/cross attention 都保持 dense FA3;
  • 所有已验证的 exact kernel、通信、offload、cache 和 CFG packing 默认开启;
  • RV2V 默认把最多五个独立 guidance segment 放在同一次 varlen forward 中;
  • PISA、FP8、EasyCache、TeaCache 和所有 diffusion-step reuse 强制关闭。

该配置的正式 measure vector 为:

[192.528052, 191.511893, 190.842407, 243.134162, 320.765783] s

五请求串行总和为 1138.782 s,不是单请求延迟。V2V 三例合计加速 1.284x, RV2V 两例合计加速 1.731x,全部五例按总时间加权为 1.505x

Profile 开关明细

正式 optimized timing row 会记录完整 optimization_env。下表是正式 run 实际记录的配置指纹, 也是推荐 launcher 的默认值:

类别 开关 正式值
Kernel BERNINI_FUSED_KERNELS 1
Communication BERNINI_A2A_SINGLE 1
Communication overlap BERNINI_ASYNC_QKV_A2A 1
Planner mask BERNINI_PLANNER_MASK_CPU 1
Condition cache BERNINI_CACHE_CONDITION 1
DiT offload BERNINI_DIT_CPU_MASTER 1
Pipeline offload BERNINI_PIPELINE_CPU_MASTER 1
Qwen output BERNINI_QWEN_HIDDEN_ONLY 1
Editing media BERNINI_DEDUPE_EDITING_MEDIA 1
Editing static DiT inputs BERNINI_CACHE_EDITING_STATIC_DIT_INPUT 1
Auxiliary transfer BERNINI_SELECTIVE_EDITING_H2D 1
Layout pruning BERNINI_PRUNE_UNUSED_EDITING_LAYOUTS 1
CFG launcher CFG_BATCH / CLI --cfg_batch 1 / enabled
RV2V packing BERNINI_RV2V_CFG_BATCH_CHUNK_SIZE 5
Attention BERNINI_ATTENTION_BACKEND fa3
Diffusion cache BERNINI_DIFFUSION_CACHE none
T2V-only planner shortcut BERNINI_PLANNER_COND_ONLY 0
T2V-only static cache BERNINI_CACHE_T2V_STATIC_INPUT 0
FP8 BERNINI_FP8_FFN_UP 0
Resident modules BERNINI_RESIDENT_DIT/T5/CONDITION_MODELS 0/0/0
Approximate variables PISA/EasyCache/TeaCache variables unset

正式 run 使用的 CLI 还包括 --use_unipc --use_src_tgt_id --ulysses 8 --num_frames 81 --max_image_size 848 --num_inference_steps 40 --flow_shift 5.0 --seed 42 --fps 16 --vit_denoising_step 5 --vit_txt_cfg 1.2 --vit_img_cfg 1.0 --cfg_batch

被测版本

角色 分支与提交 Slurm job 节点 说明
pristine benchmark/editing-pristine9f5de73c45c9e8a2e7af23efec37889e354d813c 13357422 pool0-01826 harness 基于 upstream 8c805a5;核心实现未改
optimized optimization/editing-lossless521d6bc4a39a144f904a6e4266888ae42c3bcc80 13357799 pool0-01826 完整 editing lossless stack,RV2V chunk=5
semantic audit optimization/editing-losslessf1ae46b2427c56fb32b68e5d0f1620375af85614 13358786 / 13358800 pool0-01881 增加测试、审计档案和 launcher 防漂移 unset;验证 521d6bc 的数学路径

pristine 与 optimized 分别记录了 249.402837 s177.988664 s 的 model load。 这两个数字只作 cold-start 诊断,完全排除在下表与 1.505x 加速之外

正式热推理结果

五个元素的顺序固定为:

[v2v_case1, v2v_case2, v2v_case3, rv2v_case1, rv2v_case2]

严格 measure-round 向量为:

pristine_s = [247.662622, 245.681346, 244.530002, 374.843315, 601.388817]
optimized_s = [192.528052, 191.511893, 190.842407, 243.134162, 320.765783]
用例 manifest task 输出 tensor shape Pristine Optimized 加速
v2v_case1 v2v 81x480x848x3 247.663 s 192.528 s 1.286x
v2v_case2 mv2v 81x480x848x3 245.681 s 191.512 s 1.283x
v2v_case3 v2v 81x480x848x3 244.530 s 190.842 s 1.281x
rv2v_case1 rv2v 81x848x480x3 374.843 s 243.134 s 1.542x
rv2v_case2 ads2v 81x448x848x3 601.389 s 320.766 s 1.875x
五例串行总和 - - 1714.106 s 1138.782 s 1.505x

总加速按 sum(pristine) / sum(optimized) 计算,不是五个 speedup 的算术平均。 对应的每请求算术均值是 342.821 s 和 227.756 s,但五个任务的分辨率、输入结构和 CFG 分支不同,因此向量和逐项结果比单一 mean 更重要。

五例完整计时明细

所有正式结果均来自同一节点 pool0-01826,使用 8x H100 80 GB、 Ulysses 8、DP=1、40 个 diffusion step、25 个语义规划 step、81 输出帧、 最大边 848、16 fps、flow shift 5.0 和 seed 42。

Formal hot request 是跨 8 rank 同步并取 MAX 的精确 wall time,包含输入媒体读取与 preprocess、Qwen/planner、T5、40-step diffusion、VAE decode、D2H 和 tensor postprocess;不包含 model load、warmup/compile 和 MP4 encode/write。

v2v_case1

输入为 1920x1080、150 帧、30 fps、5.000 s 的 source_case1.mp4;任务是在 雪地道路右侧添加稳定的雪人,输出为 81x480x848x3

诊断项 Pristine Optimized
每 step guidance DiT 求值 4 个 serial forward 1 次 packed forward,4 segments
diffusion tqdm 日志区间 约 206-214 s 约 171-172 s
residual proxy 约 33.663 s 约 20.528 s
Formal hot request 247.662622 s 192.528052 s
Warmup request 298.902 s 238.069 s
MP4 encode/write 0.958 s 0.951 s
正式节省 / 加速 - 55.135 s / 1.286x

v2v_case2

输入为 1920x1080、150 帧、29.970 fps、5.005 s 的 source_case2.mp4;任务是把 人的动作改为在狗旁自然蹲下,输出为 81x480x848x3

诊断项 Pristine Optimized
每 step guidance DiT 求值 4 个 serial forward 1 次 packed forward,4 segments
diffusion tqdm 日志区间 约 206-214 s 约 171 s
residual proxy 约 31.681 s 约 20.512 s
Formal hot request 245.681346 s 191.511893 s
Warmup request 246.854 s 191.634 s
MP4 encode/write 0.796 s 0.776 s
正式节省 / 加速 - 54.169 s / 1.283x

v2v_case3

输入为 1920x1080、125 帧、25 fps、5.000 s 的 source_case3.mp4;任务是把 人形机器人替换为保持动作和反射的机器狗,输出为 81x480x848x3

诊断项 Pristine Optimized
每 step guidance DiT 求值 4 个 serial forward 1 次 packed forward,4 segments
diffusion tqdm 日志区间 约 206-214 s 约 170-171 s
residual proxy 约 30.530 s 约 19.842 s
Formal hot request 244.530002 s 190.842407 s
Warmup request 246.095 s 191.949 s
MP4 encode/write 0.706 s 0.719 s
正式节省 / 加速 - 53.688 s / 1.281x

rv2v_case1

输入为 1080x1920、125 帧、25 fps、5.000 s 的人物视频,加一张 1280x2173 参考衬衫图像;任务是将参考衬衫迁移到人物,输出为 81x848x480x3

诊断项 Pristine Optimized
每 step guidance DiT 求值 6 个 serial forward,包含重复 VTIC 1 次 packed forward,5 distinct segments
diffusion tqdm 日志区间 约 335-343 s 约 222-223 s
residual proxy 约 31.843 s 约 20.134 s
Formal hot request 374.843315 s 243.134162 s
Warmup request 376.080 s 240.936 s
MP4 encode/write 0.635 s 0.628 s
正式节省 / 加速 - 131.709 s / 1.542x

rv2v_case2

输入为 4096x2160、151 帧、30 fps、5.033 s 的目标视频,加一条 1280x720、121 帧、24 fps、5.042 s 的参考视频;任务是将参考视频放到电脑屏幕, 输出为 81x448x848x3

诊断项 Pristine Optimized
每 step guidance DiT 求值 6 个 serial forward 1 次 packed forward,V == VI,4 distinct segments
diffusion tqdm 日志区间 约 536-544 s 约 285 s
residual proxy 约 57.389 s 约 35.766 s
Formal hot request 601.388817 s 320.765783 s
Warmup request 602.474 s 320.993 s
MP4 encode/write 0.747 s 0.758 s
正式节省 / 加速 - 280.623 s / 1.875x

tqdm 与 residual 的口径

Formal hot request、warmup 和 encode 来自 JSONL 精确记录。diffusion tqdm 不是独立 CUDA stage timer:8 个 rank 各自在第 40 次 update 和进度对象稍后 close 时 各打印一次 40/40,后一次还可能包含 loop 后的清理等待,且都只有整秒级显示。 上表的 residual proxy 是 formal request - 最大 tqdm 整秒显示 的诊断值,混合了 media preprocess、Qwen、T5、expert switch、VAE、D2H、postprocess 以及 tqdm 边界误差, 它既不是严格上界或下界,也不能解读为精确的“非 diffusion 固定开销”。

计时协议

每个分支只启动一次八 rank torchrun,每个 rank 只加载一次 pipeline。一个 distributed process group 依次执行五例 warmup,再依次执行五例 measure;没有 八路 data parallel,也没有同时生成多个 sample。

每次请求前后都执行 CUDA synchronize 和 distributed barrier,最终对 rank elapsed 取 MAX。计时包含:

  1. 参考图像/视频读取、变换和 VAE/ViT media preprocessing。
  2. Qwen2.5-VL 语义规划和 ViT decoder/connector。
  3. UMT5 conditioning。
  4. 40-step dense video diffusion,包括 expert H2D/switch 和全部通信。
  5. VAE decode、D2H 以及输出 tensor postprocess。

计时不包含模型加载、第一轮 compile/warmup、MP4 encode 和文件写入。MP4 仍在 timer 外生成以便人工检查。这个边界模拟模型已驻留的服务请求;不能与包含 checkpoint load、Slurm 排队或 allocation 初始化的 walltime 混算。

时间账本与 RV2V 成本解释

边界 Pristine Optimized 是否进入正式加速比
Model load 249.402837 s 177.988664 s
五例 warmup 总和 1770.404 s 1183.581 s
五例 formal hot request 总和 1714.106 s 1138.782 s
五例 MP4 encode/write 总和 3.843 s 3.831 s

1714.106 -> 1138.782 s 是五个请求串行总和,不是某一个 RV2V 请求,也不包含 上表其他三行。单请求的严格值必须查看五元向量或逐例表。

RV2V 比 V2V 慢的主因不是“又多跑了 diffusion step”:两者都是 40 step,但是 每个 step 内的 guidance segment 数量和 sequence length 不同。前例的 848x480480x848 目标空间 token 数相同,第五例 848x448 需单独记为 N2

N  = 21 temporal patches * 30 * 53 spatial patches = 33,390 tokens
N2 = 21 temporal patches * 28 * 53 spatial patches = 31,164 tokens

以每个 varlen segment 独立 dense self-attention 的 sum(L_i^2) 作结构估算:

路径 Distinct guidance segments 每 step token 量级 self-attention 代价量级
target-only T2V 参考 3 3N 3N^2
本次 V2V 4 7N 13N^2
rv2v_case1,视频+图像参考 5 9N + 3I 17.6N^2
rv2v_case2,两条视频 4,V == VI 已 alias 10N2 28N2^2

I 是参考图像 latent token 数;本例图像只有一个 temporal latent slice,因此 I ≈ N/21,表中 17.6N^2 来自 N^2 + (2N)^2 + 3(2N + I)^2。 这些是根据冻结用例的 segment 结构做的代数估算, 不是 profiler 输出,也不代表整个 DiT 的 FLOP 精确比例。Packed varlen forward 不会让 segments 之间相互 attention,但仍必须对每个 segment 完成原本的 dense attention 和 MLP。Packing 本身的收益是提高 GPU 利用率;静态工作复用来自独立 cache, 重复 VTIC 和 V == VI 的删除来自 dedupe/alias。组合起来仍不是把 RV2V 变成 T2V 的计算量。

日志中 optimized diffusion 进度的代表值为 V2V 约 170-172 s、 rv2v_case1 约 222-223 s、rv2v_case2 约 285 s,与上述 sequence 结构一致。 当前 harness 没有低开销 CUDA-event stage ledger,因此不能从现有数据中准确拆出 media/Qwen/T5/DiT/VAE 各自的秒数。

与 T2V 交付数字的口径差异

T2V 文档中的 3.57x 和本文的 Editing 1.505x 不是同一种 A/B:

数字 分子 / 分母 口径
T2V lossless 2.41x 200 / 83.152 s 200 s 是 pristine reporting anchor,不是与 83.152 s 的同节点严格 A/B
T2V EasyCache 增量 1.48x 83.152 / 56.056 s 同节点,但只实际执行平均 28.6/50 个 DiT forward,属于 approximate
T2V EasyCache 累计 3.57x 200 / 56.056 s reporting anchor 叠加 approximate cache,不是纯 lossless 同节点实测
Editing lossless 1.505x 1714.106 / 1138.782 s 同节点五请求总和,每例都是 dense 40/40 step

Editing 本次没有使用 EasyCache,而且 T2V 的 planner cond-only 和 pure-T2V static-input cache 对真实 source media 不适用;Editing 还有更长、更多的 guidance segments。 因此不能用 T2V 3.57x 作为 Editing lossless 的应达目标,也不能把 T2V 的 EasyCache 1.48x 直接乘到 Editing 1.505x 上。

完整无损优化栈

通用系统优化

方法 实现与保持的语义
BF16 + dense FA3 self/cross attention 都执行完整 dense attention;没有 sparse top-k 或 token 丢弃
Exact fused kernels Triton/PyTorch fusion 覆盖 SwiGLU、RMSNorm、LayerNorm+modulation、residual gate、rotary 和 Ulysses transpose;公式不变
all_to_all_single 用单 buffer collective 替换 list all_to_all;head/token permutation 和 padding trim 不变
Async QKV/A2A Q/K/V projection 与专用通信 stream 上的 A2A 重叠;event 依赖保持消费顺序
CFG variable-length packing 独立 guidance 分支拼成 varlen batch,再按原长度拆回;每个 segment 的 mask、timestep、RoPE 和 text boundary 独立
Condition projection cache request 内复用不变的 condition projection;key 覆盖多个 editing condition slot,不跨请求泄漏
Sequence metadata cache 复用稳定的长度、padding 和 cu_seqlens;长度保留为 Python list,避免逐 step 构造微小 CUDA tensor
CPU-master offload CPU master storage 永久保留;H2D 时挂接 CUDA storage,drop 时恢复 CPU storage 指针,取消无意义 D2H 回写
Pipeline CPU-master 同一 storage 策略扩展到 Qwen、ViT decoder、connector、T5 和 VAE
Qwen hidden-only renderer 只消费 hidden state,因此跳过未使用的 lm_head 和 KV-cache 输出
Planner mask CPU schedule 在 CPU 上计算同一 cosine/floor/min/max MaskGIT schedule,并保留原实现的 index-zero skip 行为,消除每轮 scalar sync

BERNINI_RESIDENT_DITBERNINI_RESIDENT_T5BERNINI_RESIDENT_CONDITION_MODELS 明确为 0。历史 T2V profiling 显示常驻会增加 normal DiT step 的显存压力和执行时间;本次 Editing 没有对 resident 单独重跑 五例消融,正式 launcher 沿用已审计的 CPU-master transfer 策略。

Editing 专项优化

方法 实现与数学依据
Media feature dedupe 相同 realpath+duration 的输入只做一次确定性 media encode;缓存序列化 payload/distribution parameters,逻辑上的 latent sampling 仍逐次执行,因此 RNG 消耗不变
Per-request/per-expert static DiT cache 缓存 source patch tokens、source RoPE、只依赖 target shape 的 RoPE 和 masks;每 step 变化的 noisy-target patch embedding 仍重新计算
Selective auxiliary H2D positive branch 保留完整输入;uncond/imgcond 只搬运 Qwen 实际读取的六类 tensor,所有 transform 和随机操作仍按原顺序完成
Layout pruning V2V 不构建从未读取的 image-only/video-only latent layouts;RV2V 不构建未读取的 image-only layout
RV2V no-image alias 没有 source image 时 wvae == wvid,所以 eps_VI == eps_V,image guidance 项 omega_img * (eps_VI - eps_V) 数学上为 0;直接复用同一 prediction
RV2V shared-result dedupe serial fallback 复用已经计算的 VTIC/shared conditional 结果,删除同输入、同条件、同 timestep 的重复 forward
V2V packed guidance vae_txt_vit_wapg 的 base/image/text/target 条件分支按真实长度打包,拆分后仍执行原来的 APG delta 与 scale 链
RV2V all-branch packing base, V, VI, VTI, VTIC 最多五个逻辑分支一次打包;默认 chunk=5,zero-scale 分支仍遵循原 alias 规则
Cache lifecycle media、condition、metadata、static DiT 和 packed-condition cache 都在 request/expert 边界显式激活或清理

RV2V 最终组合仍是原公式:

base
+ omega_vid * (eps_V - base)
+ omega_img * (eps_VI - eps_V)
+ omega_txt * (eps_VTI - eps_VI)
+ omega_tgt * (eps_VTIC - eps_VTI)

packing 只改变这些 eps 的批处理求值方式,不改变分支输入、差分顺序或系数。V2V 的 WAPG projection 同样在拆分后执行,未被线性化或省略。

明确关闭或不适用的方法

正式 launcher 锁定以下边界:

方法 正式配置 原因
PISA BERNINI_ATTENTION_BACKEND=fa3,PISA variables unset sparse attention 改变 attention mapping
FP8 BERNINI_FP8_FFN_UP=0 quantization 改变数值映射;当前实现与默认 CPU-master DiT offload 硬互斥
EasyCache / TeaCache BERNINI_DIFFUSION_CACHE=none,cache variables unset 会复用输出并跳过实际 DiT forward
Planner cond-only BERNINI_PLANNER_COND_ONLY=0 editing visual-source branches 并不相等,不能应用 T2V identity shortcut
T2V static cache BERNINI_CACHE_T2V_STATIC_INPUT=0 editing 有真实 source media,不能套用 pure-T2V fake-target cache
DiT/T5/condition 常驻 三个 BERNINI_RESIDENT_* 开关均为 0 历史 T2V profiling 中常驻增加 normal-step 显存压力和时间;本次 Editing 没有独立重跑该消融

因此“CFG branch forward 次数减少”不等于“diffusion step skipping”:每个请求仍执行 完整 40 个 scheduler/denoising step,所有逻辑 guidance 分支仍进入同一公式。

1.505x 是上述整套 lossless 方法合并后的正式五例 A/B,不是每个方法单独 speedup 的乘积。当前没有对每一个开关都做同节点五例 formal ablation,因此不能 从这个数字反推 fused kernel、A2A、offload、media cache 或 CFG packing 各自节省了 多少秒。下一步的独立贡献必须用同一 optimized-stack baseline 逐项开关重测。

尚未纳入当前交付的候选

候选 当前状态
Rank-leader media/Qwen/T5 + broadcast 尚未完成语义审计和五例正收益 A/B
Server-lifetime immutable media cache 当前只有 request-local dedupe;跨请求 key、LRU 和 RNG 合同待验证
Root H2D + NCCL broadcast 尚未用真实 expert bucket 完成 microbenchmark
Expert-2 延迟预取 尚未验证 copy-stream event、峰值显存和 E2E 收益
Full-DiT torch.compile / CUDA Graph 尚未处理 expert switch、dynamic layout、collective 顺序和 RNG state
VAE decode compile / async D2H / output buffer reuse 尚未完成逐项数值验证和热请求 A/B

这些都是 roadmap,不能算入当前 1.505x。完整验收顺序见 editing_optimization_roadmap.md

算法与数学语义审计

正确性检查按从纯函数到真实 GPU 路径分层完成:

层次 结果 覆盖范围
原 editing/unit discovery 66/66 pass cache 生命周期、media RNG、layout、selective H2D、planner schedule、RV2V packing 等
补充 V2V/launcher 后完整 discovery 69/69 pass V2V serial-vs-packed、zero/nonzero scale 组合、正式 launcher 的近似方法强制关闭
Fused GPU audit 19/19 pass,job 13358786 真实 BF16 Bernini 维度下逐公式对 FP32/FP64 oracle
Parallel + real Wan audit 19/19 pass,job 13358800 NCCL A2A、async stream、padding、真实 Wan block serial-vs-packed

关键结果:

  • fused audit 使用 dim=5120、40 heads、head dim 128 和 production-derived token geometry。最差 max abs 为 0.015625,最差 relative L2 为约 1.74e-5,cosine 大于 0.9999999998;SwiGLU、rotary 和 layout roundtrip 中相应项目为 exact。
  • 2-GPU NCCL audit 的 18 个 legacy-vs-single、oracle、roundtrip 和 async-stream comparison 都是 0 个 BF16 mismatch。
  • 一个真实 WanTransformer3DModel block 以五个不同 VAE/text length 和 timestep 比较 serial 与 packed:max abs 0.0078125,relative L2 0.0031476,cosine 0.9999951,atol=0.05, rtol=0.05 sampled close fraction 为 1.0。
  • V2V/RV2V CPU differential test 覆盖 serial/packed、chunk 1/3/5、source-image 有无、guidance scale 开关和 alias 组合;最终 guidance tensor 按容差一致。
  • planner test 对 35 组 query/planning-step 组合复现原 cosine/floor schedule、mask、 indices 和历史 skip 语义。

正式五例中,每个分支自己的 warmup/measure decoded hash 都重复一致,所有跨分支 decoded shape 一致;pristine 与 optimized 的 decoded hash 不同。这与 packed/fused BF16 GEMM 使用不同 reduction tiling 相符,不构成算法错误。

PSNR/SSIM 和 contact sheet 只用于发现明显视觉异常,不能证明或否定数学等价。扩散 轨迹会放大早期舍入差异:较低的逐像素相似度可能仍来自同一实数算法;反过来,较高 相似度也不能证明 branch boundary、timestep 或 guidance 公式正确。本交付的语义证据是 显式公式 oracle、排列 oracle 和 serial-vs-packed differential;正式 40-step run 只提供 完整端到端路径的执行覆盖与视频诊断,不是 scheduler 中间状态的独立 differential。

端到端视频诊断

每个 pristine/optimized MP4 都是 81 帧、16 fps、5.0625 秒,分辨率与 decoded tensor shape 一致。对每对压缩后 MP4 计算的诊断值如下;它们不参与 correctness gate:

用例 平均 PSNR 平均 SSIM 首/中/末帧语义检查
v2v_case1 44.2907 dB 0.993895 通过
v2v_case2 40.0705 dB 0.989776 通过
v2v_case3 37.5640 dB 0.993541 通过
rv2v_case1 37.1619 dB 0.964702 通过
rv2v_case2 45.7571 dB 0.993673 通过

结构化向量、job、raw JSONL hash、MP4 hash 和审计摘要保存在 benchmarks/editing/results/editing_lossless_8xh100_20260702.json

使用与复现

应在两个独立 worktree 中运行,避免 optimized 实现污染 pristine 分支。正式数据对应:

角色 Branch Measured compute commit
Pristine benchmark/editing-pristine 9f5de73c45c9e8a2e7af23efec37889e354d813c
Optimized measured implementation optimization/editing-lossless 521d6bc4a39a144f904a6e4266888ae42c3bcc80

后续 branch head 追加了结果和审计材料,但严格复刻 job 13357422/13357799 时仍应在 临时 worktree 中 detach 到上表的精确 commit,不应只检查 measured commit 是当前 HEAD 的 ancestor。

Pristine worktree:

git switch --detach 9f5de73c45c9e8a2e7af23efec37889e354d813c
test "$(git rev-parse HEAD)" = 9f5de73c45c9e8a2e7af23efec37889e354d813c
OUTPUT_ROOT=/path/to/editing_hot/pristine \
NUM_INFERENCE_STEPS=40 WARMUP_ROUNDS=1 MEASURE_ROUNDS=1 SAVE_MEASURED_OUTPUTS=1 \
srun -A nvr_elm_llm -p interactive --gpus 8 -t 04:00:00 \
  bash scripts/bernini/run_editing_hot_pristine.sh

Optimized worktree:

git switch --detach 521d6bc4a39a144f904a6e4266888ae42c3bcc80
test "$(git rev-parse HEAD)" = 521d6bc4a39a144f904a6e4266888ae42c3bcc80
unset BERNINI_TEACACHE_COEFFICIENTS
OUTPUT_ROOT=/path/to/editing_hot/optimized \
TASKS_FILE=benchmarks/editing/tasks.json \
NUM_INFERENCE_STEPS=40 WARMUP_ROUNDS=1 MEASURE_ROUNDS=1 SAVE_MEASURED_OUTPUTS=1 CFG_BATCH=1 \
BERNINI_FUSED_KERNELS=1 BERNINI_A2A_SINGLE=1 BERNINI_ASYNC_QKV_A2A=1 \
BERNINI_PLANNER_MASK_CPU=1 BERNINI_CACHE_CONDITION=1 \
BERNINI_DIT_CPU_MASTER=1 BERNINI_PIPELINE_CPU_MASTER=1 \
BERNINI_QWEN_HIDDEN_ONLY=1 BERNINI_DEDUPE_EDITING_MEDIA=1 \
BERNINI_CACHE_EDITING_STATIC_DIT_INPUT=1 BERNINI_SELECTIVE_EDITING_H2D=1 \
BERNINI_PRUNE_UNUSED_EDITING_LAYOUTS=1 BERNINI_RV2V_CFG_BATCH_CHUNK_SIZE=5 \
srun -A nvr_elm_llm -p interactive --gpus 8 -t 04:00:00 \
  bash scripts/bernini/run_editing_hot_optimized.sh

完成后在 optimized worktree 中对比最后一轮 measure:

python scripts/bernini/compare_editing_hot.py \
  /path/to/editing_hot/pristine/timings.jsonl \
  /path/to/editing_hot/optimized/timings.jsonl \
  --json-output /path/to/editing_hot/comparison.json

不要加 --require-hash-match;该选项只用于额外的 bitwise 诊断,不是本次 lossless 验收条件。冻结用例、计时协议和分支关系见 benchmarks/editing/README.md;机器可读结果见 editing_lossless_8xh100_20260702.json; GPU 数值审计见 SEMANTIC_AUDIT.md

两个 launcher 的 PYTHON_BINBERNINI_CONFIG 和默认 OUTPUT_ROOT 含当前机器的绝对路径。 在其他机器或用户下复现时必须显式覆盖这些变量,并保持模型 snapshot、PyTorch/CUDA/ FA3 版本和 8-GPU Ulysses 配置不变。Launcher 中部分 exact 优化使用 ${ENV:-default},所以复现时还必须核对 optimized timing row 的 optimization_env 与本文 Profile 表完全一致。

限制

  1. 每例只有一轮 warmup 和一轮正式 measure,当前没有 P50/P90 或跨日期方差; 1.505x 是严格同节点配对结果,不是硬件无关常数。
  2. pristine 使用官方 flash-attn==2.8.3hopper/ wrapper,optimized 使用 top-level wrapper;路径均被 assert 并写入 timing row,但 wrapper 差异仍属于环境 provenance,不能把结果外推到任意 FA3 版本。
  3. NCCL differential 为节省 GPU 使用 world size 2;Ulysses-8 的 permutation 和 production token geometry 由独立 oracle 覆盖,但尚未做 live 8-GPU legacy-vs-single collective differential。
  4. real-Wan packed differential 使用一个真实 block 和短 sequence;它验证 segment、 timestep、RoPE、cross-attention boundary 和 APG 输入,不等同于逐层比较完整 40 层。
  5. model load、compile、warmup 和 MP4 encode 不在服务热请求时间内。cold-start、吞吐、 多请求并发和显存峰值需要单独报告。
  6. 结论只适用于当前五例、40-step、81-frame、8x H100/Ulysses-8 配置。其他帧数、 分辨率、GPU 数量或 model snapshot 必须重新验证。
  7. 当前没有闭合到 request walltime 的 CUDA-event stage ledger,所以不能准确报告 text encoder、DiT、expert transfer 和 VAE decode 各自的绝对时间。
  8. 当前 formal run 是完整无损栈对 pristine 的组合 A/B,没有为每个方法单独跑完 五例消融。因此可以报告组合后 1.505x,不能给每一项分配精确秒数或相乘收益。

下一阶段的 lossless 与 approximate 工作严格分轨,见 editing_optimization_roadmap.md