# _DEV3 Token Dynamics Debug

分析 **short history 最近一帧** 与 **current chunk 第一帧（noise frame）** 之间 token 的匹配关系，以及去噪过程中 token 变化率的对比。

## 实现逻辑

1. **最后一步开始时匹配**（基于 patch 后的 latent token）  
   在 denoise 最后一步的 forward 开始时，取：
   - short history 最近一帧（默认 `history_frame=-1` → 第 2 帧）
   - current chunk 第一帧（默认 `noise_frame=0`）  
   对 noise 帧每个 token，在历史帧中找 **cos 相似度最高** 的 token 作为匹配。

2. **去噪过程变化率**（基于 patch 后 latent token）  
   只记录调试需要的两帧（默认 `CHUNKS=1`：`history_frame=-1` + `noise_frame=0`）：
   - chunk 0 **最后一帧**（将作为 history）
   - chunk 1 **第 0 帧**（将作为 noise）  
   各自去噪时逐步记录：
   ```text
   change_rate(token) = (||token_t|| - ||token_{t-1}||) / ||token_t||
   ```
   在 chunk 1 最后一步做 cos 匹配后，按匹配 token 对比两条曲线。

3. **可视化**  
   - 变化率曲线：每一对匹配 token 一张图，两根曲线（history / noise 逐步变化率）
   - 匹配帧空间图：chunk 去噪**完成后**，用 fully-denoised latent 经 VAE decode，左 history、右 noise，框出 cos 匹配 token 对

## 运行

```bash
cd _DEV3
CUDA_VISIBLE_DEVICES=0 bash scripts/inference/run_token_dynamics_debug.sh
```

常用环境变量：

| 变量 | 默认 | 说明 |
|------|------|------|
| `CHUNKS` | `1` | 分析哪个 chunk（需 `NUM_FRAMES>=66` 才有 chunk 1） |
| `HISTORY_FRAME` | `-1` | short history 帧索引（-1=最后一帧） |
| `NOISE_FRAME` | `0` | current chunk 帧索引（0=第一帧） |
| `VIS_STRIDE` | `16` | 每 N 个 token 画一对图 |
| `VIS_MAX_PAIRS` | `32` | 最多画多少对 |

## 输出

- `output_helios/token_dynamics_debug/token_dynamics_debug_video.mp4`
- `output_helios/token_dynamics_debug/artifacts/token_dynamics_chunk*.pt`
- `output_helios/token_dynamics_debug/artifacts/*_pair_*.png` — 每对 token 双曲线图
- `output_helios/token_dynamics_debug/artifacts/*_mean_summary.png` — 全体均值对比
- `output_helios/token_dynamics_debug/artifacts/*_match_frames/noise*.png` — 每个 noise token 一张图：左 history 前一帧，右 noise0，分别框出匹配 token

单独跑匹配帧可视化（默认保存全部 960 个 noise token）：

```bash
python tools/visualize_token_match_frames.py \
  output_helios/token_dynamics_debug/artifacts/token_dynamics_chunk1_hist-1_noise0_cond.pt \
  --model-path ./checkpoints/Helios-Base \
  --tokens "4:0,10:16"   # 可选：只画指定 token
```

## 代码位置

- `helios/utils/token_dynamics_debug.py` — 匹配与变化率核心逻辑
- `helios/diffusers_version/transformer_helios_diffusers.py` — forward hook
- `helios/diffusers_version/pipeline_helios_diffusers.py` — pipeline 参数 `token_dynamics_debug`
- `tools/visualize_token_dynamics.py` — 变化率曲线可视化
- `tools/visualize_token_match_frames.py` — 匹配帧空间可视化（VAE decode + 框选 token）