PROJECT_OVERVIEW.md

# 项目工件清单 (2026-06-30 整合版)

> 本文档把当前项目里所有**已经做完的工件**整理出来,标清楚每个工件用的 ckpt、
> 数据、产出位置。每次回到项目时先看这一份,避免再次"忘记自己做了什么"。

---

## 0. 全局速查:四个 paper 工件用的 ckpt

| 工件 | 用的 ckpt | 训练设置 |
|---|---|---|
| **Motivation 三套图(旧)** | `outputs/cta_ablation_A1_full_20260602_153521/checkpoints/epoch10` | A1_full,**8 generator 全训**,30 epoch,dropout 0.1 |
| **Motivation 三套图(新,2026-06-30)** | `outputs/cta_ablation_diffusion_A1_full_20260611_161857/checkpoints/epoch02` | A1_full,**diffusion-only**,3 epoch,dropout 0.5 |
| **Token residual heatmap** | `outputs/cta_ablation_diffusion_A1_full_20260611_161857/checkpoints/epoch02` | 同上 |
| **消融汇总表(主)** | 全部 15 个 `cta_ablation_diffusion_*_20260611_*/checkpoints/epoch02` | 各 variant,**diffusion-only**,3 epoch,dropout 0.5 |
| **鲁棒性 sweep** | `outputs/cta_diffusion_combined_20260604_205145/checkpoints/epoch16` | full CTA,**ours-diffusion + HDTF-diffusion**,30 epoch,dropout 0.1 |

→ 旧的 motivation 图保留(`figs_oursval/`),新的(`figs_oursval_diffusion/`)用相同的训练流程对齐到消融 / heatmap,在 paper 里更一致。
→ 鲁棒性是单独的 ckpt,之前定下来不动。

---

## 1. Motivation 可视化(分布层面)

### 1.1 数据 dump

| 输入 | 命令 |
|---|---|
| 旧版(8gen)| `python3 scripts/analysis/dump_cta_features.py +ckpt=outputs/cta_ablation_A1_full_20260602_153521/checkpoints/epoch10-valauc1.0000.ckpt method=cta_ablation method.ablation_variant=A1_full data=fairtalking +split=val +out=outputs/analysis/cta_features_oursval.npz` |
| **新版(diffusion-only,推荐)** | `python3 scripts/analysis/dump_cta_features.py +ckpt=outputs/cta_ablation_diffusion_A1_full_20260611_161857/checkpoints/epoch02-valauc0.9999.ckpt method=cta_ablation method.ablation_variant=A1_full data=fairtalking +split=val +out=outputs/analysis/cta_features_oursval_diffusion.npz` |

### 1.2 出图

```bash
python3 scripts/analysis/visualize_motivation.py \
    --npz outputs/analysis/cta_features_oursval_diffusion.npz \
    --out-dir outputs/analysis/figs_oursval_diffusion
```

### 1.3 产出文件

| 路径 | 内容 |
|---|---|
| `outputs/analysis/figs_oursval/` | **旧版**(8gen ckpt,2026-06 第一次跑,保留作历史)|
| `outputs/analysis/figs_oursval_diffusion/` | **新版**(diffusion ckpt,2026-06-30 最新)|
| `*/hist_asym.{pdf,png}` | s_asym 标量分布(real vs fake) |
| `*/hist_l_av.{pdf,png}` / `*/hist_l_va.{pdf,png}` | L_AV / L_VA 分布 |
| `*/scatter_lva_lav.{pdf,png}` | (L_AV, L_VA) 二维散点 |
| `*/tsne_residual.{pdf,png}` | 768 维残差向量的 t-SNE |
| `*/per_generator_asym.csv` | 每个 generator 的 asym 统计 |

### 1.4 实测数字(新版 diffusion ckpt)

| | real | fake | 比值 |
|---|---|---|---|
| s_asym mean | -0.0050 | **-0.2278** | 45× gap |
| 分布是否分离 | 集中在 0 附近 | 整体偏到 -0.23 | ✅ 几乎完全分离 |

---

## 2. Token residual heatmap(空间层面)

### 2.1 命令

```bash
python3 scripts/analysis/dump_token_residual_heatmap.py \
    +ckpt=outputs/cta_ablation_diffusion_A1_full_20260611_161857/checkpoints/epoch02-valauc0.9999.ckpt \
    method=cta_ablation method.ablation_variant=A1_full \
    data=fairtalking \
    +out_dir=/apdcephfs_gy5/share_303628665/joyewu/HDTF-paird/cta_visual-diffusion-nohdtf \
    +num_groups=99999 +heatmap_interp=bilinear +heatmap_sigma=4 +n_frames=4
```

### 2.2 产出

`/apdcephfs_gy5/share_303628665/joyewu/HDTF-paird/cta_visual-diffusion-nohdtf/`,每个 `<num>` 三个文件:

- `heatmap_<num>_overlay.png` — 热图叠在原帧上(8 行 × 4 列)
- `heatmap_<num>_pair.png` — 上下对照
- `heatmap_<num>_summary.csv` — 该 num 下每个 generator 的 mean/max residual

跑了 410 个 num × 8 行(real + 7 fake = 8;HDTF-paired 没 SadTalker)。

### 2.3 5 个典型 case 的均残差(2026-06-12 整理过)

| Case | Real | 平均 fake | 比值 |
|---|---|---|---|
| 033 | 0.0017 | 0.0091 | 5.3× |
| 038 | 0.0019 | 0.0049 | 2.6× |
| 040 | 0.0016 | 0.0054 | 3.4× |
| 106 | 0.0022 | 0.0076 | 3.5× |
| 126 | 0.0016 | 0.0046 | 2.9× |

---

## 3. CTA Framework 图

| 路径 | 版本 |
|---|---|
| `outputs/analysis/figs_framework/cta_framework.{png,pdf}` | v2(旧,只画 forward + 简化 loss panel)|
| `outputs/analysis/figs_framework/cta_framework_v3.{png,pdf}` | **v3 最新**:forward + 5 loss 反向 + detach + is_real mask + cross-attention QKV + 真实数值 |

生成脚本:`scripts/analysis/draw_cta_framework_v3.py`

---

## 4. 消融实验(全部 31 variant)

### 4.1 Variant 命名规则

| 组 | 变体 | 改了什么 |
|---|---|---|
| **A**(检测信号)| A1_full, A2_no_asym, A3_no_ltotal, A4_asym_only, A5_pooled_only | classifier 输入特征 |
| **B**(predictor 训练样本)| B1_real_only, B2_all_samples, B3_no_predictor | predictor 看哪些样本 |
| **C**(loss 项)| C1_no_loss_asym, C2_no_loss_aux, C3_no_loss_av, C4_no_loss_va, C5_no_detach | 拿掉某个 loss / 不 detach |
| **D**(predictor 架构)| D1_depth_1, D2_depth_4, D3_depth_8, D4_mlp_predictor, D5_shared_predictor | predictor 容量 |
| **E**(video freeze 比例)| E1_video_freeze_0, E2_video_freeze_07, E3_video_freeze_10 | video backbone 冻结多少 |
| **F**(audio freeze 比例)| F1_audio_freeze_0, F2_audio_freeze_08 | audio backbone 冻结多少 |
| **G**(数据策略)| G2_random_crop | 时间裁剪策略 |
| **M**(模态/跨模态作用)| M1_video_only, M2_audio_only, M3_intra_modal, M4_noise_target, M5_shuffle_pair, M6_drop_audio_infer, M7_drop_video_infer | 模态消融 |

### 4.2 训练完成情况(diffusion-only)

**已训完 15 个**(2026-06-11 那批,3 epoch + dropout 0.5):

A1_full, A2_no_asym, A3_no_ltotal, A4_asym_only, A5_pooled_only,
B1_real_only, B2_all_samples, B3_no_predictor,
M1–M7

→ 路径:`outputs/cta_ablation_diffusion_<V>_20260611_*/`

**没训的 16 个**:C 组 5 个 + D 组 5 个 + E 组 3 个 + F 组 2 个 + G2

(C/D/E/F/G 都是"模型结构 / 训练流程"维度,论文里如果只想报"per-modality / per-loss" 级别的消融,**已训的 15 个就够了**)

### 4.3 主测试 CSV

`outputs/cta_test_result/diffusion_ablation_20260611_210804/results.csv`

15 variant × 3 ckpt(top1/top2/top3,无 last)× 6 dataset = **270 行**

数据集:`ours_sadtalker, ours_edtalk, ours_float, thb, ff++, mmdf`

### 4.4 关键发现(top1 AUROC,15 variant × 6 数据集)

| variant | ours 三家族平均 | thb | mmdf | ff++ | Δ vs A1 |
|---|---|---|---|---|---|
| **A1_full**(基线) | 0.993 | 0.999 | 0.520 | 0.516 | 基线 |
| A4_asym_only | **0.500** | 0.500 | 0.500 | 0.500 | **−0.493** ★ 灾难 |
| A5_pooled_only | 0.993 | 0.998 | 0.502 | 0.521 | ≈0 |
| M1_video_only | 0.994 | 0.997 | 0.496 | 0.531 | ≈0 |
| M2_audio_only | 0.952 | 0.500 | 0.497 | 0.600 | -0.04 |
| M7_drop_video_infer | 0.941 | 0.500 | 0.496 | 0.500 | -0.05 |
| 其他 ablation | ≈0.99 | ≈0.999 | ≈0.51 | ≈0.52 | ≈0 |

**三个被 falsified 的 claim**(详见 `PAPER_MOTIVATION.md` §15):

1. ❌ "s_asym 是核心检测信号" — A4_asym_only AUROC = 0.5
2. ❌ "跨模态预测的不对称性是 CTA 检测能力的来源" — A5_pooled_only ≈ A1_full
3. ❌ "audio 是必要的" — M1_video_only ≈ A1_full(三家族 holdout 上)

→ 论文叙事改成:**"interpretable explanation, NOT SOTA detector"**

---

## 5. 鲁棒性(7 perturbation × 5 level)

### 5.1 核心代码

| 文件 | 用途 |
|---|---|
| `scripts/analysis/evaluate_robustness.py` | 单个 perturbation × level 跑一次评测 |
| `scripts/analysis/run_robustness_sweep.sh` | 一次 sweep 全部 7 × 5 = 35 个 setting |
| `scripts/analysis/plot_robustness.py`(单模型版)| 画 6/7 条线的折线图 |
| `outputs/analysis/robustness/4-all-copy/plot_robustness.py` | **跨模型**对比图(简洁版,4 模型)|
| `outputs/analysis/robustness/4-all-copy/plot-stlye.py` | **跨模型**对比图(论文风格 + 平均子图)|

### 5.2 完整命令(从头跑一遍)

```bash
cd /apdcephfs_gy4/share_303628665/joywu/research/fairtalking-second-work

bash scripts/analysis/run_robustness_sweep.sh \
    outputs/cta_diffusion_combined_20260604_205145/checkpoints/epoch16-valauc1.0000.ckpt \
    fairtalking_test_nondiffusion
# 第 3 个参数(demographics_csv)留空 → 不算 fairness
```

### 5.3 7 种 perturbation(参数表)

```python
SEVERITY = {
    "color_saturation":  [1.0,   0.8,   1.2,   1.5,   2.0],
    "color_contrast":    [1.0,   0.85,  1.2,   1.4,   1.6],
    "block_wise":        [0,     8,     16,    24,    32],
    "gaussian_noise":    [0.0,   0.001, 0.005, 0.01,  0.05],
    "gaussian_blur":     [1,     3,     7,     11,    15],
    "pixelate":          [1,     2,     4,     6,     8],
    "jpeg_quality":      [100,   85,    70,    50,    30],
}
```

### 5.4 测试集

`fairtalking_test_nondiffusion`(三家族合并:SadTalker + EDTalk + Float = 870 fake + 291 real = **1161 样本**),用的是 `cta_diffusion_combined_20260604_205145/checkpoints/epoch16` 这个 ckpt。

### 5.5 产出位置

| 路径 | 内容 |
|---|---|
| `outputs/analysis/robustness/cta_runs_20260615_205515.json` | **CTA 自家** sweep 的 30+5 = 35 条 run JSON |
| `outputs/analysis/robustness/figs_with_jpeg/` | CTA 单家折线图(7 perturbation × 4 metric)|
| `outputs/analysis/robustness/figs_*_noex_gaussian_noise/` | 排除 gaussian_noise 后的折线图(突出 JPEG)|
| `outputs/analysis/robustness/4-all-copy/` | **★ 最新跨模型对比图**(CTA / X-AVDT / AVH-Align / LipFD,2026-06-30)|
| `outputs/analysis/robustness/4-all-copy/merged_long_table.csv` | 4 模型合并长表(35 × 4 = 140 行)|
| `outputs/analysis/robustness/4-all-copy/AUROC_paper_style.png` | 论文风格 paper figure 候选 |

### 5.6 关键发现(CTA 自家)

| 扰动 | L1 AUROC | L5 AUROC | ΔAUROC |
|---|---|---|---|
| **Gaussian noise** | 0.997 | **0.813** | **−0.184** ⚠️ |
| **JPEG compression** | 0.997 | 0.900 | −0.097 ⚠️ |
| Pixelation | 0.997 | 0.986 | −0.011 |
| Block occlusion | 0.997 | 0.993 | −0.004 |
| Color contrast | 0.997 | 0.995 | −0.002 |
| Color saturation | 0.997 | 0.998 | +0.001 |
| Gaussian blur | 0.997 | 0.997 | ≈0 |

→ CTA 对 5 类扰动几乎免疫,只对 Gaussian noise 和 JPEG 显著退化。

### 5.7 跨模型对比(4-all-copy 最新)

`merged_long_table.csv` schema:`model, perturbation, level, param, AUROC, AP, Accuracy, Acc@EER`,4 个模型:`AVH-Align / X-AVDT / LipFD / CTA`,各 35 行。

跑 `plot_robustness.py` 就出 4 张多面板图(每个 metric 一张),跑 `plot-stlye.py` 出 paper-style 单 metric 图(默认 AUROC,带 Average 子图)。

---

## 6. 文档索引

| 文档 | 内容 |
|---|---|
| `PAPER_MOTIVATION.md` | 17 节,从 motivation 怀疑 → 三版理论 → 实测否决 → 定稿叙事 → 完整代码 → 命令 |
| `CTA_README.md` | CTA 方法的旧版技术文档(2026-05 写的) |
| `CTA_ABLATION_README.md` | 31 变体说明 + 4b 章节是 diffusion-only 流程 |
| `DIFFUSION_TRAINING_README.md` | diffusion-only 训练 + holdout 测试完整 SOP |
| `README.md` | 顶层入口,按生成器家族训练 / Holdout / 联合训练等章节 |
| **`PROJECT_OVERVIEW.md`(本文档)** | **2026-06-30 整合版,所有工件清单 + ckpt 对照** |

---

## 7. 待补 / 已知缺口

- [ ] C / D / E / F / G2 共 16 个消融 variant 没训(diffusion-only 设置下)。如果要补,跑 `bash scripts/run_all_ablations_diffusion.sh --group C` 等
- [ ] PAPER_MOTIVATION.md 的 §13 paper checklist 还有未勾选项目(per-generator violin / 互信息基线)
- [ ] 鲁棒性的 fairness 维度没跑(sweep 时第 3 个参数留空)
- [ ] HDTF-paired 现在已经有 SadTalker 子目录(2026-06-13 之后),如果想重做 token heatmap 包含 SadTalker,可重跑 `dump_token_residual_heatmap.py +hdtf_generators=[AniPortrait,Ditto,EDTalk,Float,Hallo,Joyvasa,Sonic,SadTalker]`

---

*文档版本:2026-06-30(整合 motivation 重跑 + framework v3 + 鲁棒性 4-all-copy)*