FlowCache/FlowCache4MAGI-1-dev5-history/README_DEV5_HISTORY.md

dev5-history：利用 AR 历史 Chunk 的改进方向

基于 FlowCache4MAGI-1-dev4-detail（Motion + Detail 双度量），dev5 探索 自回归（AR）已生成历史 chunk 如何进一步改进 cache 决策与画质。

AR 场景下「历史」指什么？

MAGI-1 自回归生成时，在 denoise chunk i 的时刻，系统已经拥有：

历史信息	代码/机制中已有	当前 dev4 使用情况
前序 clean chunk 的 latent	x 前缀、KV cache	仅 KV 压缩，未用于 token 策略
前一 chunk 末帧	prev_chunk_last_frame	仅算 chunk 首帧 motion
各 chunk 上一步 latent	prev_latent_chunks	存了但几乎未参与 Phase2 决策
各 chunk embedding 特征	prev_metric_chunks	仅与 当前步 比 Δ_chunk
前序 clean 特征的 KV	compress_kv + tracker	Attention 用，reuse 策略未显式用
各 chunk residual / velocity	previous_residual	仅 本 chunk 内 复用

核心洞察：AR 下历史 chunk 是 已收敛的时空上下文，比单步 Δ 或单帧 motion 更稳定，可用于：

• 更准的「该不该算」
• 更准的「算哪些 token」
• 更准的「inactive token 复用什么」

---

Idea 分级（推荐实施顺序）

★★★ Tier 1：实现成本低、与 dev4 正交、收益可期

Idea 1 — 跨 Chunk 时空累积器（History Accumulator）

动机：dev4 的 A[p] 在每个 chunk 内独立；AR 下同一空间位置在多 chunk 有连续轨迹。

做法：

A_hist[p] = decay · A_hist[p] + W_combined[p] · Δ_step

• 对 空间对齐 的 token（同 (h,w)，跨 chunk 用上一 chunk 对应列/网格对齐，首帧对齐 prev_chunk_last_frame）
• decay ∈ (0,1) 或 chunk 边界衰减
• active 判定：A_hist[p] > τ 替代或补充现有 A[p]

预期：运动物体沿时间「扫过」的空间位置会持续 active；长期静止背景更快 reuse。

改动点：MotionDetailCache → HistoryAwareCache，新增 cross_chunk_accumulator dict。

---

Idea 2 — 历史 Clean Latent 锚定（Clean History Anchor）

动机：AR 中 chunk i-k 已 clean 的 latent 是 真实生成结果，可作为锚点。

做法：

• 维护每个 spatial token 最近 H 个 clean chunk 的 latent 统计（均值/最后一帧）
• 当前 denoise latent 与锚的距离：

  d_anchor[p] = ||x_current[p] - x_clean_hist[p]|| / (||x_clean_hist[p]|| + ε)
  

• 权重：W_anchor = soft_map(d_anchor)，高距离 → 更需计算
• 融合：W_final = combine(W_motion, W_detail, W_anchor)

预期：减少「看起来不动但 latent 在 drift」区域的误 reuse；对 dancing 等场景尤其有用。

改动点：在 store_latent_chunk 时，若 chunk 刚 clean，写入 clean_latent_history[chunk_id]。

---

Idea 3 — 历史 Active 轨迹传播（Active Streak Propagation）

动机：dev4 仅看当前步 motion/detail；AR 下「持续在变的区域」有惯性。

做法：

• 记录每个 token 最近 S 步是否 active（或 active 计数 streak）
• 传播权重：

  W_streak[p] = α_s + (1-α_s) · min(streak[p] / S_max, 1)
  

• streak 高 → 提高 W_combined 或直接 pin active

预期：减少运动主体边缘的 flickering（时而算时而不算）；略降 reuse，提 PSNR。

---

★★ Tier 2：中等工程量、需与 KV/Attention 协同

Idea 4 — 历史特征一致性门控（Embedding Consistency Gate）

做法：

• 不仅比较 metric_chunks[i] 与上一步，还与 历史 clean chunk 的 embedding（需存 clean_metric_history）比：

  Δ_hist = rel_L1(f_current, f_clean_ref)
  

• 若与 clean 历史一致且 streak 低 → 允许 skip forward
• 若与 clean 历史偏离增大 → 强制 active

与 FlowCache 关系：FlowCache 的 Δ 是 step-wise；这是 chunk-wise AR 锚定。

---

Idea 5 — 历史 Residual 外推（Historical Residual Extrapolation）

动机：inactive token 目前复用 previous_residual（本 chunk 上一步）；AR 可提供更长上下文。

做法：

• 存每个 token 最近 K 次 被计算时 的 residual 序列
• inactive 时：

  r_reuse = (1-β)·r_prev_step + β·r_hist_extrap
  

  其中 r_hist_extrap 可为线性外推或上一 clean chunk 同位置 residual

风险：外推错误会累积；建议仅对 streak=0 且 anchor 距离小 的 token 使用。

---

Idea 6 — 多 Chunk Motion 场（Temporal Motion Field）

做法：

• 用 {x_chunk[t] - x_chunk[t-1]} 在多 chunk 上建 low-res motion field
• 当前 token 的 motion 不只看相邻帧，还看 历史 motion 幅值的分位数
• 高历史 motion 区域（舞台中央舞者）→ 永久提高 W；静态背景 → 降低

与 dev4 区别：dev4 motion 是 单 chunk 内 帧差；这是 跨 chunk 运动先验。

---

★ Tier 3：研究向 / 改动较大

Idea 7 — 历史 Conditioned Sparse Attention Mask

• 利用 KV 中 clean history 的 attention score 或 query-key 相似度，决定哪些 query token 必须重算
• 需改 DiT sparse forward，工程量大

Idea 8 — Chunk 级 AR 难度预测器

• 用前 n 个 chunk 的 reuse 率、平均 Δ、motion 统计，预测 chunk i 的「难度」
• 动态调节 τ、detail_lambda（简单 chunk 更激进 reuse）

Idea 9 — 显式 Warp 对齐历史 Token

• 对 camera motion 场景，用光流/块匹配将 chunk i-1 token 对齐到 chunk i 网格再比特征
• 最准但最重；适合 v2v 或有 camera 运动的数据

---

推荐 dev5 首版实现路线（MVP）

建议 Idea 1 + Idea 2 + Idea 3 组合为 HistoryAwareCache：

W_final = blend( max(W_motion, W_detail), W_anchor, λ_a )
         × (1 + γ · W_streak)

A_cross[p] += W_final[p] · Δ_chunk
active[p] = (A_cross[p] > τ) OR (A_local[p] > τ)   # 双累积器 OR 逻辑

超参（新增 yaml）：

history_decay: 0.7          # 跨 chunk 累积衰减
history_anchor_horizon: 3   # 参考最近 H 个 clean chunk
history_streak_len: 5       # streak 窗口
history_anchor_lambda: 0.3  # anchor 权重
history_streak_gamma: 0.2   # streak 加成

验证指标（延续 dev3/dev4 sweep）：

• PSNR vs FlowCache baseline（240f）
• reuse_rate / wall_time
• 运动区域 active 比例稳定性（方差↓更好）

---

代码结构规划（dev5）

inference/pipeline/cache/
├── motioncache.py           # dev3 基类
├── motiondetailcache.py     # dev4
└── historycache.py          # dev5 HistoryAwareCache（待实现）

yaml_config/single_run/
└── historycache_config.yaml # dev5 默认 + 历史相关超参

README_DEV5_HISTORY.md       # 本文档

---

与 dev4 最优配置的继承关系

dev5 默认继承 dev4 sweep 最优（τ=0.012, blend, detail_window=3, detail_lambda=0.3），在其上叠加 history 项；便于 ablation：

实验	配置
A0	dev4 best（对照）
A1	dev5 仅 Idea1 跨 chunk 累积
A2	dev5 Idea1+2
A3	dev5 Idea1+2+3 全量

---

风险与注意点

1. Chunk 边界对齐：latent 空间 (h,w) 在 chunk 间是否严格对齐需确认 patch/grid 一致
2. Clean 时机：只有 chunk_denoise_count == num_steps 后的 latent 才能进 history anchor
3. 内存：存 H 个 clean chunk latent 会增加 CPU/GPU 缓存，可只存 downsampled 或 embedding
4. CFG：batch=2 时 history 需 per-batch 维护
5. 不要破坏 Phase1：前 K 步仍 chunk-wise FlowCache，history 仅 Phase2 启用

---

下一步

1. 确认优先实现的 Idea（建议 1+2+3）
2. 在 historycache.py 实现 HistoryAwareCache
3. 复用 dev4 sweep 脚本做 dev5 ablation
4. 在 a woman dancing. + VBench 子集上对比 dev4 best

如需我直接在 dev5 实现 HistoryAwareCache MVP（Idea 1+2+3），可以指定优先哪几个 Idea。