# dev5-history：利用 AR 历史 Chunk 的改进方向

基于 `FlowCache4MAGI-1-dev4-detail`（Motion + Detail 双度量），dev5 探索 **自回归（AR）已生成历史 chunk** 如何进一步改进 cache 决策与画质。

## AR 场景下「历史」指什么？

MAGI-1 自回归生成时，在 denoise chunk `i` 的时刻，系统已经拥有：

| 历史信息 | 代码/机制中已有 | 当前 dev4 使用情况 |
|----------|----------------|-------------------|
| 前序 **clean chunk** 的 latent | `x` 前缀、KV cache | 仅 KV 压缩，未用于 token 策略 |
| 前一 chunk 末帧 | `prev_chunk_last_frame` | 仅算 chunk 首帧 motion |
| 各 chunk 上一步 latent | `prev_latent_chunks` | 存了但几乎未参与 Phase2 决策 |
| 各 chunk embedding 特征 | `prev_metric_chunks` | 仅与 **当前步** 比 Δ_chunk |
| 前序 clean 特征的 KV | `compress_kv` + tracker | Attention 用，reuse 策略未显式用 |
| 各 chunk residual / velocity | `previous_residual` | 仅 **本 chunk 内** 复用 |

**核心洞察**：AR 下历史 chunk 是 **已收敛的时空上下文**，比单步 Δ 或单帧 motion 更稳定，可用于：
- 更准的「该不该算」
- 更准的「算哪些 token」
- 更准的「inactive token 复用什么」

---

## Idea 分级（推荐实施顺序）

### ★★★ Tier 1：实现成本低、与 dev4 正交、收益可期

#### Idea 1 — 跨 Chunk 时空累积器（History Accumulator）

**动机**：dev4 的 `A[p]` 在每个 chunk 内独立；AR 下同一空间位置在多 chunk 有连续轨迹。

**做法**：
```
A_hist[p] = decay · A_hist[p] + W_combined[p] · Δ_step
```
- 对 **空间对齐** 的 token（同 `(h,w)`，跨 chunk 用上一 chunk 对应列/网格对齐，首帧对齐 `prev_chunk_last_frame`）
- `decay ∈ (0,1)` 或 chunk 边界衰减
- active 判定：`A_hist[p] > τ` 替代或补充现有 `A[p]`

**预期**：运动物体沿时间「扫过」的空间位置会持续 active；长期静止背景更快 reuse。

**改动点**：`MotionDetailCache` → `HistoryAwareCache`，新增 `cross_chunk_accumulator` dict。

---

#### Idea 2 — 历史 Clean Latent 锚定（Clean History Anchor）

**动机**：AR 中 chunk `i-k` 已 clean 的 latent 是 **真实生成结果**，可作为锚点。

**做法**：
- 维护每个 spatial token 最近 `H` 个 clean chunk 的 latent 统计（均值/最后一帧）
- 当前 denoise latent 与锚的距离：
  ```
  d_anchor[p] = ||x_current[p] - x_clean_hist[p]|| / (||x_clean_hist[p]|| + ε)
  ```
- 权重：`W_anchor = soft_map(d_anchor)`，高距离 → 更需计算
- 融合：`W_final = combine(W_motion, W_detail, W_anchor)`

**预期**：减少「看起来不动但 latent 在 drift」区域的误 reuse；对 dancing 等场景尤其有用。

**改动点**：在 `store_latent_chunk` 时，若 chunk 刚 clean，写入 `clean_latent_history[chunk_id]`。

---

#### Idea 3 — 历史 Active 轨迹传播（Active Streak Propagation）

**动机**：dev4 仅看当前步 motion/detail；AR 下「持续在变的区域」有惯性。

**做法**：
- 记录每个 token 最近 `S` 步是否 active（或 active 计数 streak）
- 传播权重：
  ```
  W_streak[p] = α_s + (1-α_s) · min(streak[p] / S_max, 1)
  ```
- streak 高 → 提高 `W_combined` 或直接 pin active

**预期**：减少运动主体边缘的 flickering（时而算时而不算）；略降 reuse，提 PSNR。

---

### ★★ Tier 2：中等工程量、需与 KV/Attention 协同

#### Idea 4 — 历史特征一致性门控（Embedding Consistency Gate）

**做法**：
- 不仅比较 `metric_chunks[i]` 与上一步，还与 **历史 clean chunk 的 embedding**（需存 `clean_metric_history`）比：
  ```
  Δ_hist = rel_L1(f_current, f_clean_ref)
  ```
- 若与 clean 历史一致且 streak 低 → 允许 skip forward
- 若与 clean 历史偏离增大 → 强制 active

**与 FlowCache 关系**：FlowCache 的 Δ 是 step-wise；这是 **chunk-wise AR 锚定**。

---

#### Idea 5 — 历史 Residual 外推（Historical Residual Extrapolation）

**动机**：inactive token 目前复用 `previous_residual`（本 chunk 上一步）；AR 可提供更长上下文。

**做法**：
- 存每个 token 最近 `K` 次 **被计算时** 的 residual 序列
- inactive 时：
  ```
  r_reuse = (1-β)·r_prev_step + β·r_hist_extrap
  ```
  其中 `r_hist_extrap` 可为线性外推或上一 clean chunk 同位置 residual

**风险**：外推错误会累积；建议仅对 **streak=0 且 anchor 距离小** 的 token 使用。

---

#### Idea 6 — 多 Chunk Motion 场（Temporal Motion Field）

**做法**：
- 用 `{x_chunk[t] - x_chunk[t-1]}` 在多 chunk 上建 low-res motion field
- 当前 token 的 motion 不只看相邻帧，还看 **历史 motion 幅值的分位数**
- 高历史 motion 区域（舞台中央舞者）→ 永久提高 W；静态背景 → 降低

**与 dev4 区别**：dev4 motion 是 **单 chunk 内** 帧差；这是 **跨 chunk 运动先验**。

---

### ★ Tier 3：研究向 / 改动较大

#### Idea 7 — 历史 Conditioned Sparse Attention Mask

- 利用 KV 中 clean history 的 attention score 或 query-key 相似度，决定哪些 query token 必须重算
- 需改 DiT sparse forward，工程量大

#### Idea 8 — Chunk 级 AR 难度预测器

- 用前 `n` 个 chunk 的 reuse 率、平均 Δ、motion 统计，预测 chunk `i` 的「难度」
- 动态调节 τ、detail_lambda（简单 chunk 更激进 reuse）

#### Idea 9 — 显式 Warp 对齐历史 Token

- 对 camera motion 场景，用光流/块匹配将 chunk `i-1` token 对齐到 chunk `i` 网格再比特征
- 最准但最重；适合 v2v 或有 camera 运动的数据

---

## 推荐 dev5 首版实现路线（MVP）

建议 **Idea 1 + Idea 2 + Idea 3** 组合为 `HistoryAwareCache`：

```
W_final = blend( max(W_motion, W_detail), W_anchor, λ_a )
         × (1 + γ · W_streak)

A_cross[p] += W_final[p] · Δ_chunk
active[p] = (A_cross[p] > τ) OR (A_local[p] > τ)   # 双累积器 OR 逻辑
```

**超参（新增 yaml）**：
```yaml
history_decay: 0.7          # 跨 chunk 累积衰减
history_anchor_horizon: 3   # 参考最近 H 个 clean chunk
history_streak_len: 5       # streak 窗口
history_anchor_lambda: 0.3  # anchor 权重
history_streak_gamma: 0.2   # streak 加成
```

**验证指标**（延续 dev3/dev4 sweep）：
- PSNR vs FlowCache baseline（240f）
- reuse_rate / wall_time
- 运动区域 active 比例稳定性（方差↓更好）

---

## 代码结构规划（dev5）

```
inference/pipeline/cache/
├── motioncache.py           # dev3 基类
├── motiondetailcache.py     # dev4
└── historycache.py          # dev5 HistoryAwareCache（待实现）

yaml_config/single_run/
└── historycache_config.yaml # dev5 默认 + 历史相关超参

README_DEV5_HISTORY.md       # 本文档
```

---

## 与 dev4 最优配置的继承关系

dev5 默认继承 dev4 sweep 最优（τ=0.012, blend, detail_window=3, detail_lambda=0.3），在其上叠加 history 项；便于 ablation：

| 实验 | 配置 |
|------|------|
| A0 | dev4 best（对照） |
| A1 | dev5 仅 Idea1 跨 chunk 累积 |
| A2 | dev5 Idea1+2 |
| A3 | dev5 Idea1+2+3 全量 |

---

## 风险与注意点

1. **Chunk 边界对齐**：latent 空间 `(h,w)` 在 chunk 间是否严格对齐需确认 patch/grid 一致
2. **Clean 时机**：只有 `chunk_denoise_count == num_steps` 后的 latent 才能进 history anchor
3. **内存**：存 H 个 clean chunk latent 会增加 CPU/GPU 缓存，可只存 downsampled 或 embedding
4. **CFG**：batch=2 时 history 需 per-batch 维护
5. **不要破坏 Phase1**：前 K 步仍 chunk-wise FlowCache，history 仅 Phase2 启用

---

## 下一步

1. 确认优先实现的 Idea（建议 1+2+3）
2. 在 `historycache.py` 实现 `HistoryAwareCache`
3. 复用 dev4 sweep 脚本做 dev5 ablation
4. 在 `a woman dancing.` + VBench 子集上对比 dev4 best

如需我直接在 dev5 实现 **HistoryAwareCache MVP（Idea 1+2+3）**，可以指定优先哪几个 Idea。