| # _DEV3 Token Dynamics Debug |
| |
| 分析 **short history 最近一帧** 与 **current chunk 第一帧（noise frame）** 之间 token 的匹配关系，以及去噪过程中 token 变化率的对比。 |
| |
| ## 实现逻辑 |
| |
| 1. **最后一步开始时匹配**（基于 patch 后的 latent token） |
| 在 denoise 最后一步的 forward 开始时，取： |
| - short history 最近一帧（默认 `history_frame=-1` → 第 2 帧） |
| - current chunk 第一帧（默认 `noise_frame=0`） |
| 对 noise 帧每个 token，在历史帧中找 **cos 相似度最高** 的 token 作为匹配。 |
|
|
| 2. **去噪过程变化率**（基于 patch 后 latent token） |
| 只记录调试需要的两帧（默认 `CHUNKS=1`：`history_frame=-1` + `noise_frame=0`）： |
| - chunk 0 **最后一帧**（将作为 history） |
| - chunk 1 **第 0 帧**（将作为 noise） |
| 各自去噪时逐步记录： |
| ```text |
| change_rate(token) = (||token_t|| - ||token_{t-1}||) / ||token_t|| |
| ``` |
| 在 chunk 1 最后一步做 cos 匹配后，按匹配 token 对比两条曲线。 |
|
|
| 3. **可视化** |
| - 变化率曲线：每一对匹配 token 一张图，两根曲线（history / noise 逐步变化率） |
| - 匹配帧空间图：chunk 去噪**完成后**，用 fully-denoised latent 经 VAE decode，左 history、右 noise，框出 cos 匹配 token 对 |
|
|
| ## 运行 |
|
|
| ```bash |
| cd _DEV3 |
| CUDA_VISIBLE_DEVICES=0 bash scripts/inference/run_token_dynamics_debug.sh |
| ``` |
|
|
| 常用环境变量： |
|
|
| | 变量 | 默认 | 说明 | |
| |------|------|------| |
| | `CHUNKS` | `1` | 分析哪个 chunk（需 `NUM_FRAMES>=66` 才有 chunk 1） | |
| | `HISTORY_FRAME` | `-1` | short history 帧索引（-1=最后一帧） | |
| | `NOISE_FRAME` | `0` | current chunk 帧索引（0=第一帧） | |
| | `VIS_STRIDE` | `16` | 每 N 个 token 画一对图 | |
| | `VIS_MAX_PAIRS` | `32` | 最多画多少对 | |
|
|
| ## 输出 |
|
|
| - `output_helios/token_dynamics_debug/token_dynamics_debug_video.mp4` |
| - `output_helios/token_dynamics_debug/artifacts/token_dynamics_chunk*.pt` |
| - `output_helios/token_dynamics_debug/artifacts/*_pair_*.png` — 每对 token 双曲线图 |
| - `output_helios/token_dynamics_debug/artifacts/*_mean_summary.png` — 全体均值对比 |
| - `output_helios/token_dynamics_debug/artifacts/*_match_frames/noise*.png` — 每个 noise token 一张图：左 history 前一帧，右 noise0，分别框出匹配 token |
|
|
| 单独跑匹配帧可视化（默认保存全部 960 个 noise token）： |
|
|
| ```bash |
| python tools/visualize_token_match_frames.py \ |
| output_helios/token_dynamics_debug/artifacts/token_dynamics_chunk1_hist-1_noise0_cond.pt \ |
| --model-path ./checkpoints/Helios-Base \ |
| --tokens "4:0,10:16" # 可选：只画指定 token |
| ``` |
|
|
| ## 代码位置 |
|
|
| - `helios/utils/token_dynamics_debug.py` — 匹配与变化率核心逻辑 |
| - `helios/diffusers_version/transformer_helios_diffusers.py` — forward hook |
| - `helios/diffusers_version/pipeline_helios_diffusers.py` — pipeline 参数 `token_dynamics_debug` |
| - `tools/visualize_token_dynamics.py` — 变化率曲线可视化 |
| - `tools/visualize_token_match_frames.py` — 匹配帧空间可视化（VAE decode + 框选 token） |
|
|
