cta_method.md

CTA (Causal Time-Arrow Asymmetry) 方法总体介绍

1. 核心思想

CTA 的检测假设来自 **说话人视频的因果时间箭头不对称性 (causal time-arrow asymmetry)**：

• 真实的说话视频遵循真实物理：声音由声带 → 口型 → 面部形变共同产生；音频与视频在真实数据中存在双向可预测但方向不对称的信息映射。
• 现有 talking-head 生成器几乎全部是 audio → video 单向训练的：给定 audio 生成对应 lip/face。因此在生成的假视频里：
  • A → V 方向（用音频预测视频特征）依然容易（生成器就是被优化来做这件事的）。
  • V → A 方向（用生成的视频反推音频）变得反常地容易或反常地难，因为生成器丢弃了真实物理需要的细节。
• 于是把两个方向的预测损失差作为判别信号：
  • 检测分数：s = L_VA(x) − L_AV(x)
  • 真实样本：L_AV 小 / L_VA 大 → gap 大
  • 假样本：gap 会缩小或翻转，且各生成器有各自的稳定偏移

2. 训练脚本入口

scripts/train_cta.sh：

python3 src/train.py \
    method=cta \
    data=fairtalking \
    trainer=ddp \
    backbone=timesformer

Hydra 组合：configs/method/cta.yaml + configs/data/fairtalking.yaml + configs/trainer/ddp.yaml + configs/backbone/timesformer.yaml。

3. 模型结构 (src/methods/cta.py :: CTAModel)

整个模型由 5 个子模块组成：

3.1 双模态骨干 (src/models/backbones.py)

模块	实现	输入	输出
VideoBackbone	HuggingFace VideoMAE-base	(B, T, 3, H, W) 已归一化视频	{pooled: (B, D_v), tokens: (B, T*N, D_v)}
AudioBackbone	HuggingFace Wav2Vec2-base	(B, num_samples) 16 kHz 波形	{pooled: (B, D_a), tokens: (B, T_a, D_a)}

两个骨干都支持 freeze_ratio：冻结底部若干层 + patch/pos embedding，只微调顶部。默认视频冻结比例来自 backbone 配置，音频 freeze_ratio=0.8。

3.2 两个跨模态预测器 (CrossModalPredictor)

标准 Transformer Decoder（cross-attention），教师强制、非自回归，目标是在 token embedding 上做 MSE 回归：

• av_pred：以 audio tokens 作 memory，以 video tokens 作 query，预测 video token 特征 → 得到 L_AV
• va_pred：以 video tokens 作 memory，以 audio tokens 作 query，预测 audio token 特征 → 得到 L_VA

关键实现：F.mse_loss(pred, target_tokens, reduction="none").mean(dim=[1,2]) 得到 per-sample 损失 (B,)，才能算 gap。

3.3 非对称分数 asym

asym = L_VA − L_AV        # (B,)

这就是核心可判别量。

3.4 分类头 cls

一个两层 MLP，输入拼接：

[v_pooled, a_pooled, asym, (L_AV + L_VA)]   # 维度 = D_v + D_a + 2

输出 1-logit，做真假二分类。

注意：分类头看的 L_AV/L_VA 是 .detach() 过的 —— 保证分类信号不会通过分数反向污染预测器。

4. 前向流程 (predict_pairs)

1. 分别过视频/音频骨干得到 pooled + tokens
2. 两个预测器分别做跨模态回归
3. 对每样本求 MSE loss l_av、l_va
4. 计算 asym = l_va − l_av
5. 返回 v, a, l_av, l_va, asym

5. 训练损失设计 (training_step)

组合损失包含 5 项：

5.1 loss_av / loss_va — 预测器损失（只在真实样本上）

is_real = (labels == 0).float()
loss_av = (l_av * is_real).sum() / denom_r
loss_va = (l_va * is_real).sum() / denom_r

关键设计：预测器只用真实样本学习。否则预测器会去拟合"假视频的伪影"，从而破坏 gap 判别性。

5.2 loss_asym — 非对称间隔损失

强迫真实样本的 asym 均值 > 假样本的 asym 均值：

loss_asym = ReLU(margin + asym_fake.mean() − asym_real.mean())

margin=0，且 asym_weight=0.5（较弱），避免预测器塌陷成为一个"asym 极大化器"。

5.3 loss_cls — 二分类 BCE

分类头对拼接特征做 sigmoid 二分类，标签 1=fake / 0=real。

5.4 loss_aux — 跨生成器辅助损失（可选）

当 aux_crossgen.enabled=True 且 batch 里带了 alt_video/alt_audio 时启用：

• 数据集里 8 个生成器目录下同名的样本共享同一 (reference_image, audio) GT。
• 对同一 GT 下两个不同生成器伪造的样本计算 asym 和 asym2，然后：

  loss_aux = F.mse_loss(asym, asym2)
  

• 直觉：不同生成器都是"同一段物理事实的失真副本"，它们的 asym 应当接近 —— 相当于强制模型学到 与生成器无关、与物理事实相关 的 asym 信号，做泛化正则。
• aux_weight=0.1，弱约束。

5.5 总损失

loss = 1.0·L_AV + 1.0·L_VA + 0.5·L_asym + 1.0·L_cls + 0.1·L_aux

6. 推理 (score)

v, a, l_av, l_va, asym = model.predict_pairs(video, audio)
logits = model.classify(v.pooled, a.pooled, l_av, l_va)
score = sigmoid(logits)   # 越接近 1 越可能是 fake

注意：推理时并没有直接使用 asym 作为最终分数，而是通过训练好的分类头融合 asym、L_AV+L_VA 和 pooled 特征输出概率。原始的 asym = L_VA − L_AV 只是分类头输入之一，也是训练时的正则目标。

7. 关键设计要点回顾

设计	用意
Predictor loss 只在 real 上	防止预测器学到假伪影，保持 gap 的物理意义
Classifier 里 l_av/l_va .detach()	分类梯度不污染预测器，避免预测器为分类而"作弊"
asym_weight=0.5 较小	asym 只是弱正则，让 gap 保持自然物理性
Aux cross-generator MSE	强制 asym 对生成器不变，增强跨生成器泛化
双模态 pooled + 双损失和 一起进分类头	asym 之外补充绝对幅度/内容信息
freeze_ratio 高（音频 0.8）	小数据集微调时防止骨干破坏预训练表示

8. 与传统 deepfake 检测的区别

• 不依赖显式伪影检测（模糊边界、频域瑕疵、闪烁等）。
• 建模的是 物理生成过程的方向性：real 数据里 A↔V 双向可预测但不对称；生成器打破这种对称结构。
• 天然更能泛化到未见过的生成器 —— 因为几乎所有 talking-head 生成器都是 A → V 单向的，这是一个结构性共性弱点。

9. 主要代码定位

组件	文件
训练入口脚本	scripts/train_cta.sh
Hydra 配置	configs/method/cta.yaml
Lightning 模块 & 损失	src/methods/cta.py
骨干 & 跨模态预测器	src/models/backbones.py
通用 Lightning 基类	src/methods/base.py