Helios/_DEV2/README.md

# Short History Attention Debug

本次修改实现了一个默认关闭的 debug hook，用来分析 current token 到 short history 上一帧 token 的对应关系。

## 背景结论

默认设置下：

- current chunk 是 33 个视频帧，对应 9 个 latent frames。
- 默认视频分辨率是 384x640。
- VAE latent 分辨率是 48x80。
- transformer patch 是 `(1, 2, 2)`，所以 current token grid 是 `9 x 24 x 40`。
- short history 经过 `patch_short` 后是 `2 x 24 x 40`。
- 本次只在 short history 的上一帧里找对应 token，也就是每个 current latent frame 的 `24 x 40` tokens 对应 previous short frame 的 `24 x 40` tokens。

## 已实现内容

新增 `short_attn_debug` pipeline 参数。开启后，attention hook 会在指定 block、chunk、denoise step、current frame 上导出 current token 到 previous short token 的 top-k 匹配。

实现位置：

- `helios/diffusers_version/transformer_helios_diffusers.py`
- `helios/diffusers_version/pipeline_helios_diffusers.py`
- `helios/modules/transformer_helios.py`
- `helios/pipelines/pipeline_helios.py`
- `tools/visualize_short_attention_matches.py`

导出的 artifact 默认包含：

- `match_yx`: 每个 current token 匹配到的 previous short token 坐标
- `query_yx`: current token 自身坐标
- `displacement_yx`: token 位移
- `topk_indices`: top-k 匹配 index
- `topk_scores`: top-k raw attention scores
- `top1_score`
- `top2_score`
- `margin`: `top1_score - top2_score`

不会保存完整 `960 x 960` attention matrix，避免显存和磁盘开销过大。

## 使用示例

在 pipeline 调用里加：

```python
output = pipe(
    prompt=prompt,
    negative_prompt=negative_prompt,
    height=384,
    width=640,
    num_frames=99,
    short_attn_debug={
        "output_dir": "short_attn_debug",
        "blocks": [30],
        "steps": ["last"],
        "chunks": [0],
        "current_frame": -1,
        "prev_short_frame": 1,
        "pass_names": ["cond"],
        "topk": 2,
        "query_chunk_size": 128,
    },
).frames[0]
```

默认推荐先看：

- block `30`
- denoise last step
- chunk `0`
- current latent frame `-1`
- previous short frame `1`
- cond pass

## 可视化

生成图：

```bash
python tools/visualize_short_attention_matches.py \
  short_attn_debug/short_attn_chunk0_step49_block30_frame8_cond.pt \
  --output-dir short_attn_debug \
  --stride 4
```

输出：

- `*_flow_quiver.png`: 稀疏 token flow 箭头图
- `*_displacement_heatmap.png`: 位移大小热图
- `*_confidence_heatmap.png`: `top1 - top2` margin 热图
- `*_top1_score_heatmap.png`: top1 raw score 热图

## 当前实现细节

匹配计算使用 attn1 里已经 projection、norm、rotary 后的 Q/K：

```text
score = Q_current_frame @ K_previous_short_frame.T / sqrt(head_dim)
```

然后对 heads 做平均，再取 top-k。

为了控制开销，计算按 query chunk 分块进行。默认每次处理 128 个 query tokens。

## 未做但可继续扩展的方案

1. full softmax attention heatmap

   当前保存的是 top-k raw scores，不保存完整 softmax 分布。后续如果要做单点 token viewer，可以只对用户点击的 token 计算完整 `24 x 40` softmax heatmap。

2. click-to-inspect viewer

   可以做一个交互式界面：左边点 current token，右边显示它对 previous short frame 的 `24 x 40` score/attention heatmap，并框出 top-k。

3. 多层对比

   当前支持配置多个 blocks，例如 `[10, 20, 30, 39]`。后续可以把这些层的 flow 和 confidence 并排画出来，观察 correspondence 在不同深度的变化。

4. 多 denoise step 对比

   当前支持 `steps=["first", "last"]` 或具体 step index。后续可以把 first/mid/last step 的图并排，观察匹配是否从噪声期到收敛期变稳定。

5. 多 current latent frame 可视化

   当前推荐只看一个 current frame，例如 `-1`。后续可以对 `0..8` 全部导出，生成 grid 或小视频。

6. warped previous frame

   可以用 token correspondence 把 previous short frame 的 patch/grid warp 到 current frame，再与 current frame 做差分。这比 flow 图更接近视觉验证，但实现成本更高。

7. mutual nearest neighbor 过滤

   当前是 current -> previous short 的单向 top-k。后续可加 previous short -> current，再保留互为 top-1 的 matches，用来过滤不稳定对应。

8. one-to-one matching

   如果需要严格的一对一 token matching，可以在 score matrix 上做 Hungarian 或 optimal transport。但 `960 x 960` 会比当前 top-k 更重，而且未必符合 attention 本身的多对一行为。