PROJECT_OVERVIEW.md

项目工件清单 (2026-06-30 整合版)

本文档把当前项目里所有已经做完的工件整理出来,标清楚每个工件用的 ckpt、 数据、产出位置。每次回到项目时先看这一份,避免再次"忘记自己做了什么"。

---

0. 全局速查:四个 paper 工件用的 ckpt

工件	用的 ckpt	训练设置
Motivation 三套图(旧)	outputs/cta_ablation_A1_full_20260602_153521/checkpoints/epoch10	A1_full,8 generator 全训,30 epoch,dropout 0.1
Motivation 三套图(新,2026-06-30)	outputs/cta_ablation_diffusion_A1_full_20260611_161857/checkpoints/epoch02	A1_full,diffusion-only,3 epoch,dropout 0.5
Token residual heatmap	outputs/cta_ablation_diffusion_A1_full_20260611_161857/checkpoints/epoch02	同上
消融汇总表(主)	全部 15 个 cta_ablation_diffusion_*_20260611_*/checkpoints/epoch02	各 variant,diffusion-only,3 epoch,dropout 0.5
鲁棒性 sweep	outputs/cta_diffusion_combined_20260604_205145/checkpoints/epoch16	full CTA,ours-diffusion + HDTF-diffusion,30 epoch,dropout 0.1

→ 旧的 motivation 图保留(figs_oursval/),新的(figs_oursval_diffusion/)用相同的训练流程对齐到消融 / heatmap,在 paper 里更一致。 → 鲁棒性是单独的 ckpt,之前定下来不动。

---

1. Motivation 可视化(分布层面)

1.1 数据 dump

输入	命令
旧版(8gen)	python3 scripts/analysis/dump_cta_features.py +ckpt=outputs/cta_ablation_A1_full_20260602_153521/checkpoints/epoch10-valauc1.0000.ckpt method=cta_ablation method.ablation_variant=A1_full data=fairtalking +split=val +out=outputs/analysis/cta_features_oursval.npz
新版(diffusion-only,推荐)	python3 scripts/analysis/dump_cta_features.py +ckpt=outputs/cta_ablation_diffusion_A1_full_20260611_161857/checkpoints/epoch02-valauc0.9999.ckpt method=cta_ablation method.ablation_variant=A1_full data=fairtalking +split=val +out=outputs/analysis/cta_features_oursval_diffusion.npz

1.2 出图

python3 scripts/analysis/visualize_motivation.py \
    --npz outputs/analysis/cta_features_oursval_diffusion.npz \
    --out-dir outputs/analysis/figs_oursval_diffusion

1.3 产出文件

路径	内容
outputs/analysis/figs_oursval/	旧版(8gen ckpt,2026-06 第一次跑,保留作历史)
outputs/analysis/figs_oursval_diffusion/	新版(diffusion ckpt,2026-06-30 最新)
*/hist_asym.{pdf,png}	s_asym 标量分布(real vs fake)
*/hist_l_av.{pdf,png} / */hist_l_va.{pdf,png}	L_AV / L_VA 分布
*/scatter_lva_lav.{pdf,png}	(L_AV, L_VA) 二维散点
*/tsne_residual.{pdf,png}	768 维残差向量的 t-SNE
*/per_generator_asym.csv	每个 generator 的 asym 统计

1.4 实测数字(新版 diffusion ckpt)

	real	fake	比值
s_asym mean	-0.0050	-0.2278	45× gap
分布是否分离	集中在 0 附近	整体偏到 -0.23	✅ 几乎完全分离

---

2. Token residual heatmap(空间层面)

2.1 命令

python3 scripts/analysis/dump_token_residual_heatmap.py \
    +ckpt=outputs/cta_ablation_diffusion_A1_full_20260611_161857/checkpoints/epoch02-valauc0.9999.ckpt \
    method=cta_ablation method.ablation_variant=A1_full \
    data=fairtalking \
    +out_dir=/apdcephfs_gy5/share_303628665/joyewu/HDTF-paird/cta_visual-diffusion-nohdtf \
    +num_groups=99999 +heatmap_interp=bilinear +heatmap_sigma=4 +n_frames=4

2.2 产出

/apdcephfs_gy5/share_303628665/joyewu/HDTF-paird/cta_visual-diffusion-nohdtf/,每个 <num> 三个文件:

• heatmap_<num>_overlay.png — 热图叠在原帧上(8 行 × 4 列)
• heatmap_<num>_pair.png — 上下对照
• heatmap_<num>_summary.csv — 该 num 下每个 generator 的 mean/max residual

跑了 410 个 num × 8 行(real + 7 fake = 8;HDTF-paired 没 SadTalker)。

2.3 5 个典型 case 的均残差(2026-06-12 整理过)

Case	Real	平均 fake	比值
033	0.0017	0.0091	5.3×
038	0.0019	0.0049	2.6×
040	0.0016	0.0054	3.4×
106	0.0022	0.0076	3.5×
126	0.0016	0.0046	2.9×

---

3. CTA Framework 图

路径	版本
outputs/analysis/figs_framework/cta_framework.{png,pdf}	v2(旧,只画 forward + 简化 loss panel)
outputs/analysis/figs_framework/cta_framework_v3.{png,pdf}	v3 最新:forward + 5 loss 反向 + detach + is_real mask + cross-attention QKV + 真实数值

生成脚本:scripts/analysis/draw_cta_framework_v3.py

---

4. 消融实验(全部 31 variant)

4.1 Variant 命名规则

组	变体	改了什么
A(检测信号)	A1_full, A2_no_asym, A3_no_ltotal, A4_asym_only, A5_pooled_only	classifier 输入特征
B(predictor 训练样本)	B1_real_only, B2_all_samples, B3_no_predictor	predictor 看哪些样本
C(loss 项)	C1_no_loss_asym, C2_no_loss_aux, C3_no_loss_av, C4_no_loss_va, C5_no_detach	拿掉某个 loss / 不 detach
D(predictor 架构)	D1_depth_1, D2_depth_4, D3_depth_8, D4_mlp_predictor, D5_shared_predictor	predictor 容量
E(video freeze 比例)	E1_video_freeze_0, E2_video_freeze_07, E3_video_freeze_10	video backbone 冻结多少
F(audio freeze 比例)	F1_audio_freeze_0, F2_audio_freeze_08	audio backbone 冻结多少
G(数据策略)	G2_random_crop	时间裁剪策略
M(模态/跨模态作用)	M1_video_only, M2_audio_only, M3_intra_modal, M4_noise_target, M5_shuffle_pair, M6_drop_audio_infer, M7_drop_video_infer	模态消融

4.2 训练完成情况(diffusion-only)

已训完 15 个(2026-06-11 那批,3 epoch + dropout 0.5):

A1_full, A2_no_asym, A3_no_ltotal, A4_asym_only, A5_pooled_only, B1_real_only, B2_all_samples, B3_no_predictor, M1–M7

→ 路径:outputs/cta_ablation_diffusion_<V>_20260611_*/

没训的 16 个:C 组 5 个 + D 组 5 个 + E 组 3 个 + F 组 2 个 + G2

(C/D/E/F/G 都是"模型结构 / 训练流程"维度,论文里如果只想报"per-modality / per-loss" 级别的消融,已训的 15 个就够了)

4.3 主测试 CSV

outputs/cta_test_result/diffusion_ablation_20260611_210804/results.csv

15 variant × 3 ckpt(top1/top2/top3,无 last)× 6 dataset = 270 行

数据集:ours_sadtalker, ours_edtalk, ours_float, thb, ff++, mmdf

4.4 关键发现(top1 AUROC,15 variant × 6 数据集)

variant	ours 三家族平均	thb	mmdf	ff++	Δ vs A1
A1_full(基线)	0.993	0.999	0.520	0.516	基线
A4_asym_only	0.500	0.500	0.500	0.500	−0.493 ★ 灾难
A5_pooled_only	0.993	0.998	0.502	0.521	≈0
M1_video_only	0.994	0.997	0.496	0.531	≈0
M2_audio_only	0.952	0.500	0.497	0.600	-0.04
M7_drop_video_infer	0.941	0.500	0.496	0.500	-0.05
其他 ablation	≈0.99	≈0.999	≈0.51	≈0.52	≈0

三个被 falsified 的 claim(详见 PAPER_MOTIVATION.md §15):

1. ❌ "s_asym 是核心检测信号" — A4_asym_only AUROC = 0.5
2. ❌ "跨模态预测的不对称性是 CTA 检测能力的来源" — A5_pooled_only ≈ A1_full
3. ❌ "audio 是必要的" — M1_video_only ≈ A1_full(三家族 holdout 上)

→ 论文叙事改成:"interpretable explanation, NOT SOTA detector"

---

5. 鲁棒性(7 perturbation × 5 level)

5.1 核心代码

文件	用途
scripts/analysis/evaluate_robustness.py	单个 perturbation × level 跑一次评测
scripts/analysis/run_robustness_sweep.sh	一次 sweep 全部 7 × 5 = 35 个 setting
scripts/analysis/plot_robustness.py(单模型版)	画 6/7 条线的折线图
outputs/analysis/robustness/4-all-copy/plot_robustness.py	跨模型对比图(简洁版,4 模型)
outputs/analysis/robustness/4-all-copy/plot-stlye.py	跨模型对比图(论文风格 + 平均子图)

5.2 完整命令(从头跑一遍)

cd /apdcephfs_gy4/share_303628665/joywu/research/fairtalking-second-work

bash scripts/analysis/run_robustness_sweep.sh \
    outputs/cta_diffusion_combined_20260604_205145/checkpoints/epoch16-valauc1.0000.ckpt \
    fairtalking_test_nondiffusion
# 第 3 个参数(demographics_csv)留空 → 不算 fairness

5.3 7 种 perturbation(参数表)

SEVERITY = {
    "color_saturation":  [1.0,   0.8,   1.2,   1.5,   2.0],
    "color_contrast":    [1.0,   0.85,  1.2,   1.4,   1.6],
    "block_wise":        [0,     8,     16,    24,    32],
    "gaussian_noise":    [0.0,   0.001, 0.005, 0.01,  0.05],
    "gaussian_blur":     [1,     3,     7,     11,    15],
    "pixelate":          [1,     2,     4,     6,     8],
    "jpeg_quality":      [100,   85,    70,    50,    30],
}

5.4 测试集

fairtalking_test_nondiffusion(三家族合并:SadTalker + EDTalk + Float = 870 fake + 291 real = 1161 样本),用的是 cta_diffusion_combined_20260604_205145/checkpoints/epoch16 这个 ckpt。

5.5 产出位置

路径	内容
outputs/analysis/robustness/cta_runs_20260615_205515.json	CTA 自家 sweep 的 30+5 = 35 条 run JSON
outputs/analysis/robustness/figs_with_jpeg/	CTA 单家折线图(7 perturbation × 4 metric)
outputs/analysis/robustness/figs_*_noex_gaussian_noise/	排除 gaussian_noise 后的折线图(突出 JPEG)
outputs/analysis/robustness/4-all-copy/	★ 最新跨模型对比图(CTA / X-AVDT / AVH-Align / LipFD,2026-06-30)
outputs/analysis/robustness/4-all-copy/merged_long_table.csv	4 模型合并长表(35 × 4 = 140 行)
outputs/analysis/robustness/4-all-copy/AUROC_paper_style.png	论文风格 paper figure 候选

5.6 关键发现(CTA 自家)

扰动	L1 AUROC	L5 AUROC	ΔAUROC
Gaussian noise	0.997	0.813	−0.184 ⚠️
JPEG compression	0.997	0.900	−0.097 ⚠️
Pixelation	0.997	0.986	−0.011
Block occlusion	0.997	0.993	−0.004
Color contrast	0.997	0.995	−0.002
Color saturation	0.997	0.998	+0.001
Gaussian blur	0.997	0.997	≈0

→ CTA 对 5 类扰动几乎免疫,只对 Gaussian noise 和 JPEG 显著退化。

5.7 跨模型对比(4-all-copy 最新)

merged_long_table.csv schema:model, perturbation, level, param, AUROC, AP, Accuracy, Acc@EER,4 个模型:AVH-Align / X-AVDT / LipFD / CTA,各 35 行。

跑 plot_robustness.py 就出 4 张多面板图(每个 metric 一张),跑 plot-stlye.py 出 paper-style 单 metric 图(默认 AUROC,带 Average 子图)。

---

6. 文档索引

文档	内容
PAPER_MOTIVATION.md	17 节,从 motivation 怀疑 → 三版理论 → 实测否决 → 定稿叙事 → 完整代码 → 命令
CTA_README.md	CTA 方法的旧版技术文档(2026-05 写的)
CTA_ABLATION_README.md	31 变体说明 + 4b 章节是 diffusion-only 流程
DIFFUSION_TRAINING_README.md	diffusion-only 训练 + holdout 测试完整 SOP
README.md	顶层入口,按生成器家族训练 / Holdout / 联合训练等章节
PROJECT_OVERVIEW.md(本文档)	2026-06-30 整合版,所有工件清单 + ckpt 对照

---

7. 待补 / 已知缺口

• C / D / E / F / G2 共 16 个消融 variant 没训(diffusion-only 设置下)。如果要补,跑 bash scripts/run_all_ablations_diffusion.sh --group C 等
• PAPER_MOTIVATION.md 的 §13 paper checklist 还有未勾选项目(per-generator violin / 互信息基线)
• 鲁棒性的 fairness 维度没跑(sweep 时第 3 个参数留空)
• HDTF-paired 现在已经有 SadTalker 子目录(2026-06-13 之后),如果想重做 token heatmap 包含 SadTalker,可重跑 dump_token_residual_heatmap.py +hdtf_generators=[AniPortrait,Ditto,EDTalk,Float,Hallo,Joyvasa,Sonic,SadTalker]

---

文档版本:2026-06-30(整合 motivation 重跑 + framework v3 + 鲁棒性 4-all-copy)