_DEV3 Token Dynamics Debug

分析 short history 最近一帧 与 current chunk 第一帧（noise frame） 之间 token 的匹配关系，以及去噪过程中 token 变化率的对比。

实现逻辑

最后一步开始时匹配（基于 patch 后的 latent token）
在 denoise 最后一步的 forward 开始时，取：
- short history 最近一帧（默认 history_frame=-1 → 第 2 帧）
- current chunk 第一帧（默认 noise_frame=0）
  对 noise 帧每个 token，在历史帧中找 cos 相似度最高 的 token 作为匹配。
去噪过程变化率（基于 patch 后 latent token）
只记录调试需要的两帧（默认 CHUNKS=1：history_frame=-1 + noise_frame=0）：
- chunk 0 最后一帧（将作为 history）
- chunk 1 第 0 帧（将作为 noise）
  各自去噪时逐步记录：
```
change_rate(token) = (||token_t|| - ||token_{t-1}||) / ||token_t||
```
在 chunk 1 最后一步做 cos 匹配后，按匹配 token 对比两条曲线。
可视化
- 变化率曲线：每一对匹配 token 一张图，两根曲线（history / noise 逐步变化率）
- 匹配帧空间图：chunk 去噪完成后，用 fully-denoised latent 经 VAE decode，左 history、右 noise，框出 cos 匹配 token 对

运行

cd _DEV3
CUDA_VISIBLE_DEVICES=0 bash scripts/inference/run_token_dynamics_debug.sh

常用环境变量：

变量	默认	说明
`CHUNKS`	`1`	分析哪个 chunk（需 `NUM_FRAMES>=66` 才有 chunk 1）
`HISTORY_FRAME`	`-1`	short history 帧索引（-1=最后一帧）
`NOISE_FRAME`	`0`	current chunk 帧索引（0=第一帧）
`VIS_STRIDE`	`16`	每 N 个 token 画一对图
`VIS_MAX_PAIRS`	`32`	最多画多少对

输出

output_helios/token_dynamics_debug/token_dynamics_debug_video.mp4
output_helios/token_dynamics_debug/artifacts/token_dynamics_chunk*.pt
output_helios/token_dynamics_debug/artifacts/*_pair_*.png — 每对 token 双曲线图
output_helios/token_dynamics_debug/artifacts/*_mean_summary.png — 全体均值对比
output_helios/token_dynamics_debug/artifacts/*_match_frames/noise*.png — 每个 noise token 一张图：左 history 前一帧，右 noise0，分别框出匹配 token

单独跑匹配帧可视化（默认保存全部 960 个 noise token）：

python tools/visualize_token_match_frames.py \
  output_helios/token_dynamics_debug/artifacts/token_dynamics_chunk1_hist-1_noise0_cond.pt \
  --model-path ./checkpoints/Helios-Base \
  --tokens "4:0,10:16"   # 可选：只画指定 token

代码位置

helios/utils/token_dynamics_debug.py — 匹配与变化率核心逻辑
helios/diffusers_version/transformer_helios_diffusers.py — forward hook
helios/diffusers_version/pipeline_helios_diffusers.py — pipeline 参数 token_dynamics_debug
tools/visualize_token_dynamics.py — 变化率曲线可视化
tools/visualize_token_match_frames.py — 匹配帧空间可视化（VAE decode + 框选 token）