File size: 30,209 Bytes

e241361

# Bernini Editing 无损推理优化总结

更新日期：2026-07-02

本文记录 Bernini V2V/RV2V editing 的严格热推理基线、已交付优化、数学语义审计和
当前限制。冻结用例与双分支协议见
[`benchmarks/editing/README.md`](../benchmarks/editing/README.md)，GPU 数值审计见
[`benchmarks/editing/semantic_audit/SEMANTIC_AUDIT.md`](../benchmarks/editing/semantic_audit/SEMANTIC_AUDIT.md)。

## 结论

本报告中的 **lossless** 指同一实数算法和数学映射：模型权重、scheduler、40 个
denoising step、dense attention、CFG/APG 分支定义和随机采样语义不变。实现可以改变
等价计算的批处理方式、通信排列和 BF16 GEMM 的归约分块，因此不要求 pristine 与
optimized 逐比特一致，也不把跨实现 SHA256 相同作为交付条件。

正式 A/B 在同一节点 `pool0-01826` 上使用 8x H100 80 GB、Ulysses 8、DP=1。
五个用例串行总时间从 `1714.106 s` 降到 `1138.782 s`，总和口径加速
`1714.106 / 1138.782 = 1.505x`。这里没有启用 PISA、FP8、EasyCache 或
TeaCache，也没有跳过任何 diffusion step。

## 固定测试配置

| 项目 | 配置 |
| --- | --- |
| 模型 | `ByteDance/Bernini-Diffusers`，snapshot `b988d6af97714041e0d21a31d4faff5ac42bac09` |
| 语义规划器 | Qwen2.5-VL-7B，25 planning steps |
| Renderer | Wan2.2 A14B 双 DiT expert，BF16，每个 expert 40 layers |
| 软件 | PyTorch `2.5.1+cu124`，CUDA `12.4`，dense FA3 |
| GPU | 单节点 8x H100 80 GB |
| 并行 | world size 8，Ulysses 8，DP=1；pristine 为 serial CFG，optimized 为 CFG varlen batch |
| Editing 验证集 | `benchmarks/editing/tasks.json` 的 3 条 V2V/MV2V 和 2 条 RV2V/ADS2V |
| 视频 | 81 帧，16 fps，source-derived resolution，最大边 848 |
| Diffusion | 40 scheduler steps，UniPC，flow shift 5.0 |
| Planner decoder | `vit_denoising_step=5`，`vit_txt_cfg=1.2`，`vit_img_cfg=1.0` |
| 随机性 | seed 42 |

这里的 Editing pristine 是原始代码分支上严格同步、完整 warmup 后得到的五元素 hot
vector，不是 T2V 文档中由单条首请求日志取整得到的 `200 s reporting anchor`。以后评估
PISA、FP8、EasyCache 或 TeaCache 时，应把本交付的 dense lossless stack 称为该候选的
`optimized-stack baseline`，不能继续使用 T2V 的 200 s 作为严格分母。

## 推荐交付配置

当前推荐配置称为 `editing_lossless`。它不是一个虚构的
`BERNINI_OPTIMIZATION_PROFILE` selector，而是由
`scripts/bernini/run_editing_hot_optimized.sh` 固化的一组默认值：

- V2V 和 RV2V 都执行完整 40/40 diffusion steps；
- self/cross attention 都保持 dense FA3；
- 所有已验证的 exact kernel、通信、offload、cache 和 CFG packing 默认开启；
- RV2V 默认把最多五个独立 guidance segment 放在同一次 varlen forward 中；
- PISA、FP8、EasyCache、TeaCache 和所有 diffusion-step reuse 强制关闭。

该配置的正式 measure vector 为：

```text
[192.528052, 191.511893, 190.842407, 243.134162, 320.765783] s
```

五请求串行总和为 `1138.782 s`，不是单请求延迟。V2V 三例合计加速 `1.284x`，
RV2V 两例合计加速 `1.731x`，全部五例按总时间加权为 `1.505x`。

## Profile 开关明细

正式 optimized timing row 会记录完整 `optimization_env`。下表是正式 run 实际记录的配置指纹，
也是推荐 launcher 的默认值：

| 类别 | 开关 | 正式值 |
| --- | --- | --- |
| Kernel | `BERNINI_FUSED_KERNELS` | `1` |
| Communication | `BERNINI_A2A_SINGLE` | `1` |
| Communication overlap | `BERNINI_ASYNC_QKV_A2A` | `1` |
| Planner mask | `BERNINI_PLANNER_MASK_CPU` | `1` |
| Condition cache | `BERNINI_CACHE_CONDITION` | `1` |
| DiT offload | `BERNINI_DIT_CPU_MASTER` | `1` |
| Pipeline offload | `BERNINI_PIPELINE_CPU_MASTER` | `1` |
| Qwen output | `BERNINI_QWEN_HIDDEN_ONLY` | `1` |
| Editing media | `BERNINI_DEDUPE_EDITING_MEDIA` | `1` |
| Editing static DiT inputs | `BERNINI_CACHE_EDITING_STATIC_DIT_INPUT` | `1` |
| Auxiliary transfer | `BERNINI_SELECTIVE_EDITING_H2D` | `1` |
| Layout pruning | `BERNINI_PRUNE_UNUSED_EDITING_LAYOUTS` | `1` |
| CFG | launcher `CFG_BATCH` / CLI `--cfg_batch` | `1` / enabled |
| RV2V packing | `BERNINI_RV2V_CFG_BATCH_CHUNK_SIZE` | `5` |
| Attention | `BERNINI_ATTENTION_BACKEND` | `fa3` |
| Diffusion cache | `BERNINI_DIFFUSION_CACHE` | `none` |
| T2V-only planner shortcut | `BERNINI_PLANNER_COND_ONLY` | `0` |
| T2V-only static cache | `BERNINI_CACHE_T2V_STATIC_INPUT` | `0` |
| FP8 | `BERNINI_FP8_FFN_UP` | `0` |
| Resident modules | `BERNINI_RESIDENT_DIT/T5/CONDITION_MODELS` | `0/0/0` |
| Approximate variables | PISA/EasyCache/TeaCache variables | unset |

正式 run 使用的 CLI 还包括 `--use_unipc --use_src_tgt_id --ulysses 8 --num_frames 81
--max_image_size 848 --num_inference_steps 40 --flow_shift 5.0 --seed 42 --fps 16
--vit_denoising_step 5 --vit_txt_cfg 1.2 --vit_img_cfg 1.0 --cfg_batch`。

## 被测版本

| 角色 | 分支与提交 | Slurm job | 节点 | 说明 |
| --- | --- | ---: | --- | --- |
| pristine | `benchmark/editing-pristine`，`9f5de73c45c9e8a2e7af23efec37889e354d813c` | 13357422 | `pool0-01826` | harness 基于 upstream `8c805a5`；核心实现未改 |
| optimized | `optimization/editing-lossless`，`521d6bc4a39a144f904a6e4266888ae42c3bcc80` | 13357799 | `pool0-01826` | 完整 editing lossless stack，RV2V chunk=5 |
| semantic audit | `optimization/editing-lossless`，`f1ae46b2427c56fb32b68e5d0f1620375af85614` | 13358786 / 13358800 | `pool0-01881` | 增加测试、审计档案和 launcher 防漂移 unset；验证 `521d6bc` 的数学路径 |

pristine 与 optimized 分别记录了 `249.402837 s` 和 `177.988664 s` 的 model load。
这两个数字只作 cold-start 诊断，**完全排除在下表与 1.505x 加速之外**。

## 正式热推理结果

五个元素的顺序固定为：

```text
[v2v_case1, v2v_case2, v2v_case3, rv2v_case1, rv2v_case2]
```

严格 measure-round 向量为：

```text
pristine_s = [247.662622, 245.681346, 244.530002, 374.843315, 601.388817]
optimized_s = [192.528052, 191.511893, 190.842407, 243.134162, 320.765783]
```

| 用例 | manifest task | 输出 tensor shape | Pristine | Optimized | 加速 |
| --- | --- | --- | ---: | ---: | ---: |
| `v2v_case1` | `v2v` | `81x480x848x3` | 247.663 s | 192.528 s | 1.286x |
| `v2v_case2` | `mv2v` | `81x480x848x3` | 245.681 s | 191.512 s | 1.283x |
| `v2v_case3` | `v2v` | `81x480x848x3` | 244.530 s | 190.842 s | 1.281x |
| `rv2v_case1` | `rv2v` | `81x848x480x3` | 374.843 s | 243.134 s | 1.542x |
| `rv2v_case2` | `ads2v` | `81x448x848x3` | 601.389 s | 320.766 s | 1.875x |
| 五例串行总和 | - | - | 1714.106 s | 1138.782 s | **1.505x** |

总加速按 `sum(pristine) / sum(optimized)` 计算，不是五个 speedup 的算术平均。
对应的每请求算术均值是 342.821 s 和 227.756 s，但五个任务的分辨率、输入结构和
CFG 分支不同，因此向量和逐项结果比单一 mean 更重要。

## 五例完整计时明细

所有正式结果均来自同一节点 `pool0-01826`，使用 8x H100 80 GB、
Ulysses 8、DP=1、40 个 diffusion step、25 个语义规划 step、81 输出帧、
最大边 848、16 fps、flow shift 5.0 和 seed 42。

`Formal hot request` 是跨 8 rank 同步并取 `MAX` 的精确 wall time，包含输入媒体读取与
preprocess、Qwen/planner、T5、40-step diffusion、VAE decode、D2H 和 tensor
postprocess；不包含 model load、warmup/compile 和 MP4 encode/write。

### `v2v_case1`

输入为 `1920x1080`、150 帧、30 fps、5.000 s 的 `source_case1.mp4`；任务是在
雪地道路右侧添加稳定的雪人，输出为 `81x480x848x3`。

| 诊断项 | Pristine | Optimized |
| --- | ---: | ---: |
| 每 step guidance DiT 求值 | 4 个 serial forward | 1 次 packed forward，4 segments |
| diffusion tqdm 日志区间 | 约 206-214 s | 约 171-172 s |
| residual proxy | 约 33.663 s | 约 20.528 s |
| Formal hot request | 247.662622 s | 192.528052 s |
| Warmup request | 298.902 s | 238.069 s |
| MP4 encode/write | 0.958 s | 0.951 s |
| 正式节省 / 加速 | \- | 55.135 s / **1.286x** |

### `v2v_case2`

输入为 `1920x1080`、150 帧、29.970 fps、5.005 s 的 `source_case2.mp4`；任务是把
人的动作改为在狗旁自然蹲下，输出为 `81x480x848x3`。

| 诊断项 | Pristine | Optimized |
| --- | ---: | ---: |
| 每 step guidance DiT 求值 | 4 个 serial forward | 1 次 packed forward，4 segments |
| diffusion tqdm 日志区间 | 约 206-214 s | 约 171 s |
| residual proxy | 约 31.681 s | 约 20.512 s |
| Formal hot request | 245.681346 s | 191.511893 s |
| Warmup request | 246.854 s | 191.634 s |
| MP4 encode/write | 0.796 s | 0.776 s |
| 正式节省 / 加速 | \- | 54.169 s / **1.283x** |

### `v2v_case3`

输入为 `1920x1080`、125 帧、25 fps、5.000 s 的 `source_case3.mp4`；任务是把
人形机器人替换为保持动作和反射的机器狗，输出为 `81x480x848x3`。

| 诊断项 | Pristine | Optimized |
| --- | ---: | ---: |
| 每 step guidance DiT 求值 | 4 个 serial forward | 1 次 packed forward，4 segments |
| diffusion tqdm 日志区间 | 约 206-214 s | 约 170-171 s |
| residual proxy | 约 30.530 s | 约 19.842 s |
| Formal hot request | 244.530002 s | 190.842407 s |
| Warmup request | 246.095 s | 191.949 s |
| MP4 encode/write | 0.706 s | 0.719 s |
| 正式节省 / 加速 | \- | 53.688 s / **1.281x** |

### `rv2v_case1`

输入为 `1080x1920`、125 帧、25 fps、5.000 s 的人物视频，加一张
`1280x2173` 参考衬衫图像；任务是将参考衬衫迁移到人物，输出为
`81x848x480x3`。

| 诊断项 | Pristine | Optimized |
| --- | ---: | ---: |
| 每 step guidance DiT 求值 | 6 个 serial forward，包含重复 VTIC | 1 次 packed forward，5 distinct segments |
| diffusion tqdm 日志区间 | 约 335-343 s | 约 222-223 s |
| residual proxy | 约 31.843 s | 约 20.134 s |
| Formal hot request | 374.843315 s | 243.134162 s |
| Warmup request | 376.080 s | 240.936 s |
| MP4 encode/write | 0.635 s | 0.628 s |
| 正式节省 / 加速 | \- | 131.709 s / **1.542x** |

### `rv2v_case2`

输入为 `4096x2160`、151 帧、30 fps、5.033 s 的目标视频，加一条
`1280x720`、121 帧、24 fps、5.042 s 的参考视频；任务是将参考视频放到电脑屏幕，
输出为 `81x448x848x3`。

| 诊断项 | Pristine | Optimized |
| --- | ---: | ---: |
| 每 step guidance DiT 求值 | 6 个 serial forward | 1 次 packed forward，`V == VI`，4 distinct segments |
| diffusion tqdm 日志区间 | 约 536-544 s | 约 285 s |
| residual proxy | 约 57.389 s | 约 35.766 s |
| Formal hot request | 601.388817 s | 320.765783 s |
| Warmup request | 602.474 s | 320.993 s |
| MP4 encode/write | 0.747 s | 0.758 s |
| 正式节省 / 加速 | \- | 280.623 s / **1.875x** |

### tqdm 与 residual 的口径

`Formal hot request`、warmup 和 encode 来自 JSONL 精确记录。`diffusion tqdm`
不是独立 CUDA stage timer：8 个 rank 各自在第 40 次 update 和进度对象稍后 close 时
各打印一次 `40/40`，后一次还可能包含 loop 后的清理等待，且都只有整秒级显示。
上表的 residual proxy 是 `formal request - 最大 tqdm 整秒显示` 的诊断值，混合了 media
preprocess、Qwen、T5、expert switch、VAE、D2H、postprocess 以及 tqdm 边界误差，
它既不是严格上界或下界，也不能解读为精确的“非 diffusion 固定开销”。

## 计时协议

每个分支只启动一次八 rank `torchrun`，每个 rank 只加载一次 pipeline。一个
distributed process group 依次执行五例 warmup，再依次执行五例 measure；没有
八路 data parallel，也没有同时生成多个 sample。

每次请求前后都执行 CUDA synchronize 和 distributed barrier，最终对 rank elapsed
取 `MAX`。计时包含：

1. 参考图像/视频读取、变换和 VAE/ViT media preprocessing。
2. Qwen2.5-VL 语义规划和 ViT decoder/connector。
3. UMT5 conditioning。
4. 40-step dense video diffusion，包括 expert H2D/switch 和全部通信。
5. VAE decode、D2H 以及输出 tensor postprocess。

计时不包含模型加载、第一轮 compile/warmup、MP4 encode 和文件写入。MP4 仍在 timer
外生成以便人工检查。这个边界模拟模型已驻留的服务请求；不能与包含 checkpoint
load、Slurm 排队或 allocation 初始化的 walltime 混算。

## 时间账本与 RV2V 成本解释

| 边界 | Pristine | Optimized | 是否进入正式加速比 |
| --- | ---: | ---: | :---: |
| Model load | 249.402837 s | 177.988664 s | 否 |
| 五例 warmup 总和 | 1770.404 s | 1183.581 s | 否 |
| 五例 formal hot request 总和 | 1714.106 s | 1138.782 s | **是** |
| 五例 MP4 encode/write 总和 | 3.843 s | 3.831 s | 否 |

`1714.106 -> 1138.782 s` 是五个请求串行总和，不是某一个 RV2V 请求，也不包含
上表其他三行。单请求的严格值必须查看五元向量或逐例表。

RV2V 比 V2V 慢的主因不是“又多跑了 diffusion step”：两者都是 40 step，但是
每个 step 内的 guidance segment 数量和 sequence length 不同。前例的
`848x480` 或 `480x848` 目标空间 token 数相同，第五例 `848x448` 需单独记为 `N2`：

```text
N  = 21 temporal patches * 30 * 53 spatial patches = 33,390 tokens
N2 = 21 temporal patches * 28 * 53 spatial patches = 31,164 tokens
```

以每个 varlen segment 独立 dense self-attention 的 `sum(L_i^2)` 作结构估算：

| 路径 | Distinct guidance segments | 每 step token 量级 | self-attention 代价量级 |
| --- | ---: | ---: | ---: |
| target-only T2V 参考 | 3 | 约 `3N` | 约 `3N^2` |
| 本次 V2V | 4 | 约 `7N` | 约 `13N^2` |
| `rv2v_case1`，视频+图像参考 | 5 | 约 `9N + 3I` | 约 `17.6N^2` |
| `rv2v_case2`，两条视频 | 4，`V == VI` 已 alias | 约 `10N2` | 约 `28N2^2` |

`I` 是参考图像 latent token 数；本例图像只有一个 temporal latent slice，因此
`I ≈ N/21`，表中 `17.6N^2` 来自 `N^2 + (2N)^2 + 3(2N + I)^2`。
这些是根据冻结用例的 segment 结构做的代数估算，
不是 profiler 输出，也不代表整个 DiT 的 FLOP 精确比例。Packed varlen forward 不会让
segments 之间相互 attention，但仍必须对每个 segment 完成原本的 dense attention 和
MLP。Packing 本身的收益是提高 GPU 利用率；静态工作复用来自独立 cache，
重复 VTIC 和 `V == VI` 的删除来自 dedupe/alias。组合起来仍不是把 RV2V 变成
T2V 的计算量。

日志中 optimized diffusion 进度的代表值为 V2V 约 170-172 s、
`rv2v_case1` 约 222-223 s、`rv2v_case2` 约 285 s，与上述 sequence 结构一致。
当前 harness 没有低开销 CUDA-event stage ledger，因此不能从现有数据中准确拆出
media/Qwen/T5/DiT/VAE 各自的秒数。

### 与 T2V 交付数字的口径差异

T2V 文档中的 `3.57x` 和本文的 Editing `1.505x` 不是同一种 A/B：

| 数字 | 分子 / 分母 | 口径 |
| --- | --- | --- |
| T2V lossless `2.41x` | `200 / 83.152 s` | `200 s` 是 pristine reporting anchor，不是与 83.152 s 的同节点严格 A/B |
| T2V EasyCache 增量 `1.48x` | `83.152 / 56.056 s` | 同节点，但只实际执行平均 `28.6/50` 个 DiT forward，属于 approximate |
| T2V EasyCache 累计 `3.57x` | `200 / 56.056 s` | reporting anchor 叠加 approximate cache，不是纯 lossless 同节点实测 |
| Editing lossless `1.505x` | `1714.106 / 1138.782 s` | 同节点五请求总和，每例都是 dense `40/40` step |

Editing 本次没有使用 EasyCache，而且 T2V 的 planner cond-only 和 pure-T2V static-input
cache 对真实 source media 不适用；Editing 还有更长、更多的 guidance segments。
因此不能用 T2V `3.57x` 作为 Editing lossless 的应达目标，也不能把 T2V 的
EasyCache `1.48x` 直接乘到 Editing `1.505x` 上。

## 完整无损优化栈

### 通用系统优化

| 方法 | 实现与保持的语义 |
| --- | --- |
| BF16 + dense FA3 | self/cross attention 都执行完整 dense attention；没有 sparse top-k 或 token 丢弃 |
| Exact fused kernels | Triton/PyTorch fusion 覆盖 SwiGLU、RMSNorm、LayerNorm+modulation、residual gate、rotary 和 Ulysses transpose；公式不变 |
| `all_to_all_single` | 用单 buffer collective 替换 list `all_to_all`；head/token permutation 和 padding trim 不变 |
| Async QKV/A2A | Q/K/V projection 与专用通信 stream 上的 A2A 重叠；event 依赖保持消费顺序 |
| CFG variable-length packing | 独立 guidance 分支拼成 varlen batch，再按原长度拆回；每个 segment 的 mask、timestep、RoPE 和 text boundary 独立 |
| Condition projection cache | request 内复用不变的 condition projection；key 覆盖多个 editing condition slot，不跨请求泄漏 |
| Sequence metadata cache | 复用稳定的长度、padding 和 `cu_seqlens`；长度保留为 Python list，避免逐 step 构造微小 CUDA tensor |
| CPU-master offload | CPU master storage 永久保留；H2D 时挂接 CUDA storage，drop 时恢复 CPU storage 指针，取消无意义 D2H 回写 |
| Pipeline CPU-master | 同一 storage 策略扩展到 Qwen、ViT decoder、connector、T5 和 VAE |
| Qwen hidden-only | renderer 只消费 hidden state，因此跳过未使用的 `lm_head` 和 KV-cache 输出 |
| Planner mask CPU schedule | 在 CPU 上计算同一 cosine/floor/min/max MaskGIT schedule，并保留原实现的 index-zero skip 行为，消除每轮 scalar sync |

`BERNINI_RESIDENT_DIT`、`BERNINI_RESIDENT_T5` 和
`BERNINI_RESIDENT_CONDITION_MODELS` 明确为 0。历史 T2V profiling 显示常驻会增加
normal DiT step 的显存压力和执行时间；本次 Editing 没有对 resident 单独重跑
五例消融，正式 launcher 沿用已审计的 CPU-master transfer 策略。

### Editing 专项优化

| 方法 | 实现与数学依据 |
| --- | --- |
| Media feature dedupe | 相同 realpath+duration 的输入只做一次确定性 media encode；缓存序列化 payload/distribution parameters，逻辑上的 latent sampling 仍逐次执行，因此 RNG 消耗不变 |
| Per-request/per-expert static DiT cache | 缓存 source patch tokens、source RoPE、只依赖 target shape 的 RoPE 和 masks；每 step 变化的 noisy-target patch embedding 仍重新计算 |
| Selective auxiliary H2D | positive branch 保留完整输入；uncond/imgcond 只搬运 Qwen 实际读取的六类 tensor，所有 transform 和随机操作仍按原顺序完成 |
| Layout pruning | V2V 不构建从未读取的 image-only/video-only latent layouts；RV2V 不构建未读取的 image-only layout |
| RV2V no-image alias | 没有 source image 时 `wvae == wvid`，所以 `eps_VI == eps_V`，image guidance 项 `omega_img * (eps_VI - eps_V)` 数学上为 0；直接复用同一 prediction |
| RV2V shared-result dedupe | serial fallback 复用已经计算的 VTIC/shared conditional 结果，删除同输入、同条件、同 timestep 的重复 forward |
| V2V packed guidance | `vae_txt_vit_wapg` 的 base/image/text/target 条件分支按真实长度打包，拆分后仍执行原来的 APG delta 与 scale 链 |
| RV2V all-branch packing | `base, V, VI, VTI, VTIC` 最多五个逻辑分支一次打包；默认 chunk=5，zero-scale 分支仍遵循原 alias 规则 |
| Cache lifecycle | media、condition、metadata、static DiT 和 packed-condition cache 都在 request/expert 边界显式激活或清理 |

RV2V 最终组合仍是原公式：

```text
base
+ omega_vid * (eps_V - base)
+ omega_img * (eps_VI - eps_V)
+ omega_txt * (eps_VTI - eps_VI)
+ omega_tgt * (eps_VTIC - eps_VTI)
```

packing 只改变这些 `eps` 的批处理求值方式，不改变分支输入、差分顺序或系数。V2V
的 WAPG projection 同样在拆分后执行，未被线性化或省略。

### 明确关闭或不适用的方法

正式 launcher 锁定以下边界：

| 方法 | 正式配置 | 原因 |
| --- | --- | --- |
| PISA | `BERNINI_ATTENTION_BACKEND=fa3`，PISA variables unset | sparse attention 改变 attention mapping |
| FP8 | `BERNINI_FP8_FFN_UP=0` | quantization 改变数值映射；当前实现与默认 CPU-master DiT offload 硬互斥 |
| EasyCache / TeaCache | `BERNINI_DIFFUSION_CACHE=none`，cache variables unset | 会复用输出并跳过实际 DiT forward |
| Planner cond-only | `BERNINI_PLANNER_COND_ONLY=0` | editing visual-source branches 并不相等，不能应用 T2V identity shortcut |
| T2V static cache | `BERNINI_CACHE_T2V_STATIC_INPUT=0` | editing 有真实 source media，不能套用 pure-T2V fake-target cache |
| DiT/T5/condition 常驻 | 三个 `BERNINI_RESIDENT_*` 开关均为 0 | 历史 T2V profiling 中常驻增加 normal-step 显存压力和时间；本次 Editing 没有独立重跑该消融 |

因此“CFG branch forward 次数减少”不等于“diffusion step skipping”：每个请求仍执行
完整 40 个 scheduler/denoising step，所有逻辑 guidance 分支仍进入同一公式。

`1.505x` 是上述整套 lossless 方法合并后的正式五例 A/B，不是每个方法单独
speedup 的乘积。当前没有对每一个开关都做同节点五例 formal ablation，因此不能
从这个数字反推 fused kernel、A2A、offload、media cache 或 CFG packing 各自节省了
多少秒。下一步的独立贡献必须用同一 `optimized-stack baseline` 逐项开关重测。

### 尚未纳入当前交付的候选

| 候选 | 当前状态 |
| --- | --- |
| Rank-leader media/Qwen/T5 + broadcast | 尚未完成语义审计和五例正收益 A/B |
| Server-lifetime immutable media cache | 当前只有 request-local dedupe；跨请求 key、LRU 和 RNG 合同待验证 |
| Root H2D + NCCL broadcast | 尚未用真实 expert bucket 完成 microbenchmark |
| Expert-2 延迟预取 | 尚未验证 copy-stream event、峰值显存和 E2E 收益 |
| Full-DiT `torch.compile` / CUDA Graph | 尚未处理 expert switch、dynamic layout、collective 顺序和 RNG state |
| VAE decode compile / async D2H / output buffer reuse | 尚未完成逐项数值验证和热请求 A/B |

这些都是 roadmap，不能算入当前 `1.505x`。完整验收顺序见
[`editing_optimization_roadmap.md`](editing_optimization_roadmap.md)。

## 算法与数学语义审计

正确性检查按从纯函数到真实 GPU 路径分层完成：

| 层次 | 结果 | 覆盖范围 |
| --- | --- | --- |
| 原 editing/unit discovery | 66/66 pass | cache 生命周期、media RNG、layout、selective H2D、planner schedule、RV2V packing 等 |
| 补充 V2V/launcher 后完整 discovery | 69/69 pass | V2V serial-vs-packed、zero/nonzero scale 组合、正式 launcher 的近似方法强制关闭 |
| Fused GPU audit | 19/19 pass，job 13358786 | 真实 BF16 Bernini 维度下逐公式对 FP32/FP64 oracle |
| Parallel + real Wan audit | 19/19 pass，job 13358800 | NCCL A2A、async stream、padding、真实 Wan block serial-vs-packed |

关键结果：

- fused audit 使用 `dim=5120`、40 heads、head dim 128 和 production-derived token
  geometry。最差 max abs 为 0.015625，最差 relative L2 为约 `1.74e-5`，cosine
  大于 0.9999999998；SwiGLU、rotary 和 layout roundtrip 中相应项目为 exact。
- 2-GPU NCCL audit 的 18 个 legacy-vs-single、oracle、roundtrip 和 async-stream
  comparison 都是 0 个 BF16 mismatch。
- 一个真实 `WanTransformer3DModel` block 以五个不同 VAE/text length 和 timestep
  比较 serial 与 packed：max abs 0.0078125，relative L2 0.0031476，cosine
  0.9999951，`atol=0.05, rtol=0.05` sampled close fraction 为 1.0。
- V2V/RV2V CPU differential test 覆盖 serial/packed、chunk 1/3/5、source-image
  有无、guidance scale 开关和 alias 组合；最终 guidance tensor 按容差一致。
- planner test 对 35 组 query/planning-step 组合复现原 cosine/floor schedule、mask、
  indices 和历史 skip 语义。

正式五例中，每个分支自己的 warmup/measure decoded hash 都重复一致，所有跨分支
decoded shape 一致；pristine 与 optimized 的 decoded hash 不同。这与 packed/fused
BF16 GEMM 使用不同 reduction tiling 相符，不构成算法错误。

PSNR/SSIM 和 contact sheet 只用于发现明显视觉异常，不能证明或否定数学等价。扩散
轨迹会放大早期舍入差异：较低的逐像素相似度可能仍来自同一实数算法；反过来，较高
相似度也不能证明 branch boundary、timestep 或 guidance 公式正确。本交付的语义证据是
显式公式 oracle、排列 oracle 和 serial-vs-packed differential；正式 40-step run 只提供
完整端到端路径的执行覆盖与视频诊断，不是 scheduler 中间状态的独立 differential。

### 端到端视频诊断

每个 pristine/optimized MP4 都是 81 帧、16 fps、5.0625 秒，分辨率与 decoded tensor
shape 一致。对每对压缩后 MP4 计算的诊断值如下；它们不参与 correctness gate：

| 用例 | 平均 PSNR | 平均 SSIM | 首/中/末帧语义检查 |
| --- | ---: | ---: | --- |
| `v2v_case1` | 44.2907 dB | 0.993895 | 通过 |
| `v2v_case2` | 40.0705 dB | 0.989776 | 通过 |
| `v2v_case3` | 37.5640 dB | 0.993541 | 通过 |
| `rv2v_case1` | 37.1619 dB | 0.964702 | 通过 |
| `rv2v_case2` | 45.7571 dB | 0.993673 | 通过 |

结构化向量、job、raw JSONL hash、MP4 hash 和审计摘要保存在
[`benchmarks/editing/results/editing_lossless_8xh100_20260702.json`](../benchmarks/editing/results/editing_lossless_8xh100_20260702.json)。

## 使用与复现

应在两个独立 worktree 中运行，避免 optimized 实现污染 pristine 分支。正式数据对应：

| 角色 | Branch | Measured compute commit |
| --- | --- | --- |
| Pristine | `benchmark/editing-pristine` | `9f5de73c45c9e8a2e7af23efec37889e354d813c` |
| Optimized measured implementation | `optimization/editing-lossless` | `521d6bc4a39a144f904a6e4266888ae42c3bcc80` |

后续 branch head 追加了结果和审计材料，但严格复刻 job 13357422/13357799 时仍应在
临时 worktree 中 detach 到上表的精确 commit，不应只检查 measured commit 是当前
`HEAD` 的 ancestor。

Pristine worktree：

```bash
git switch --detach 9f5de73c45c9e8a2e7af23efec37889e354d813c
test "$(git rev-parse HEAD)" = 9f5de73c45c9e8a2e7af23efec37889e354d813c
OUTPUT_ROOT=/path/to/editing_hot/pristine \
NUM_INFERENCE_STEPS=40 WARMUP_ROUNDS=1 MEASURE_ROUNDS=1 SAVE_MEASURED_OUTPUTS=1 \
srun -A nvr_elm_llm -p interactive --gpus 8 -t 04:00:00 \
  bash scripts/bernini/run_editing_hot_pristine.sh
```

Optimized worktree：

```bash
git switch --detach 521d6bc4a39a144f904a6e4266888ae42c3bcc80
test "$(git rev-parse HEAD)" = 521d6bc4a39a144f904a6e4266888ae42c3bcc80
unset BERNINI_TEACACHE_COEFFICIENTS
OUTPUT_ROOT=/path/to/editing_hot/optimized \
TASKS_FILE=benchmarks/editing/tasks.json \
NUM_INFERENCE_STEPS=40 WARMUP_ROUNDS=1 MEASURE_ROUNDS=1 SAVE_MEASURED_OUTPUTS=1 CFG_BATCH=1 \
BERNINI_FUSED_KERNELS=1 BERNINI_A2A_SINGLE=1 BERNINI_ASYNC_QKV_A2A=1 \
BERNINI_PLANNER_MASK_CPU=1 BERNINI_CACHE_CONDITION=1 \
BERNINI_DIT_CPU_MASTER=1 BERNINI_PIPELINE_CPU_MASTER=1 \
BERNINI_QWEN_HIDDEN_ONLY=1 BERNINI_DEDUPE_EDITING_MEDIA=1 \
BERNINI_CACHE_EDITING_STATIC_DIT_INPUT=1 BERNINI_SELECTIVE_EDITING_H2D=1 \
BERNINI_PRUNE_UNUSED_EDITING_LAYOUTS=1 BERNINI_RV2V_CFG_BATCH_CHUNK_SIZE=5 \
srun -A nvr_elm_llm -p interactive --gpus 8 -t 04:00:00 \
  bash scripts/bernini/run_editing_hot_optimized.sh
```

完成后在 optimized worktree 中对比最后一轮 measure：

```bash
python scripts/bernini/compare_editing_hot.py \
  /path/to/editing_hot/pristine/timings.jsonl \
  /path/to/editing_hot/optimized/timings.jsonl \
  --json-output /path/to/editing_hot/comparison.json
```

不要加 `--require-hash-match`；该选项只用于额外的 bitwise 诊断，不是本次 lossless
验收条件。冻结用例、计时协议和分支关系见
[`benchmarks/editing/README.md`](../benchmarks/editing/README.md)；机器可读结果见
[`editing_lossless_8xh100_20260702.json`](../benchmarks/editing/results/editing_lossless_8xh100_20260702.json)；
GPU 数值审计见
[`SEMANTIC_AUDIT.md`](../benchmarks/editing/semantic_audit/SEMANTIC_AUDIT.md)。

两个 launcher 的 `PYTHON_BIN`、`BERNINI_CONFIG` 和默认 `OUTPUT_ROOT` 含当前机器的绝对路径。
在其他机器或用户下复现时必须显式覆盖这些变量，并保持模型 snapshot、PyTorch/CUDA/
FA3 版本和 8-GPU Ulysses 配置不变。Launcher 中部分 exact 优化使用
`${ENV:-default}`，所以复现时还必须核对 optimized timing row 的 `optimization_env`
与本文 Profile 表完全一致。

## 限制

1. 每例只有一轮 warmup 和一轮正式 measure，当前没有 P50/P90 或跨日期方差；
   `1.505x` 是严格同节点配对结果，不是硬件无关常数。
2. pristine 使用官方 `flash-attn==2.8.3` 的 `hopper/` wrapper，optimized 使用
   top-level wrapper；路径均被 assert 并写入 timing row，但 wrapper 差异仍属于环境
   provenance，不能把结果外推到任意 FA3 版本。
3. NCCL differential 为节省 GPU 使用 world size 2；Ulysses-8 的 permutation 和
   production token geometry 由独立 oracle 覆盖，但尚未做 live 8-GPU
   legacy-vs-single collective differential。
4. real-Wan packed differential 使用一个真实 block 和短 sequence；它验证 segment、
   timestep、RoPE、cross-attention boundary 和 APG 输入，不等同于逐层比较完整 40 层。
5. model load、compile、warmup 和 MP4 encode 不在服务热请求时间内。cold-start、吞吐、
   多请求并发和显存峰值需要单独报告。
6. 结论只适用于当前五例、40-step、81-frame、8x H100/Ulysses-8 配置。其他帧数、
   分辨率、GPU 数量或 model snapshot 必须重新验证。
7. 当前没有闭合到 request walltime 的 CUDA-event stage ledger，所以不能准确报告
   text encoder、DiT、expert transfer 和 VAE decode 各自的绝对时间。
8. 当前 formal run 是完整无损栈对 pristine 的组合 A/B，没有为每个方法单独跑完
   五例消融。因此可以报告组合后 `1.505x`，不能给每一项分配精确秒数或相乘收益。

下一阶段的 lossless 与 approximate 工作严格分轨，见
[`editing_optimization_roadmap.md`](editing_optimization_roadmap.md)。