cta_method.md

# CTA (Causal Time-Arrow Asymmetry) 方法总体介绍

## 1. 核心思想

CTA 的检测假设来自 **说话人视频的因果时间箭头不对称性 (causal time-arrow asymmetry)**：

- 真实的说话视频遵循真实物理：声音由声带 → 口型 → 面部形变共同产生；音频与视频在真实数据中存在**双向可预测但方向不对称**的信息映射。
- 现有 talking-head 生成器几乎全部是 **audio → video** 单向训练的：给定 audio 生成对应 lip/face。因此在生成的假视频里：
  - `A → V` 方向（用音频预测视频特征）**依然容易**（生成器就是被优化来做这件事的）。
  - `V → A` 方向（用生成的视频反推音频）**变得反常地容易或反常地难**，因为生成器丢弃了真实物理需要的细节。
- 于是把两个方向的预测损失差作为判别信号：
  - **检测分数**：`s = L_VA(x) − L_AV(x)`
  - 真实样本：`L_AV` 小 / `L_VA` 大 → gap 大
  - 假样本：gap 会缩小或翻转，且各生成器有各自的稳定偏移

## 2. 训练脚本入口

`scripts/train_cta.sh`：

```bash
python3 src/train.py \
    method=cta \
    data=fairtalking \
    trainer=ddp \
    backbone=timesformer
```

Hydra 组合：`configs/method/cta.yaml` + `configs/data/fairtalking.yaml` + `configs/trainer/ddp.yaml` + `configs/backbone/timesformer.yaml`。

## 3. 模型结构 (`src/methods/cta.py :: CTAModel`)

整个模型由 5 个子模块组成：

### 3.1 双模态骨干 (`src/models/backbones.py`)

| 模块 | 实现 | 输入 | 输出 |
|------|------|------|------|
| `VideoBackbone` | HuggingFace VideoMAE-base | `(B, T, 3, H, W)` 已归一化视频 | `{pooled: (B, D_v), tokens: (B, T*N, D_v)}` |
| `AudioBackbone` | HuggingFace Wav2Vec2-base | `(B, num_samples)` 16 kHz 波形 | `{pooled: (B, D_a), tokens: (B, T_a, D_a)}` |

两个骨干都支持 `freeze_ratio`：冻结底部若干层 + patch/pos embedding，只微调顶部。默认视频冻结比例来自 backbone 配置，音频 `freeze_ratio=0.8`。

### 3.2 两个跨模态预测器 (`CrossModalPredictor`)

标准 Transformer Decoder（cross-attention），**教师强制、非自回归**，目标是在 token embedding 上做 MSE 回归：

- `av_pred`：以 audio tokens 作 memory，以 video tokens 作 query，预测 video token 特征 → 得到 `L_AV`
- `va_pred`：以 video tokens 作 memory，以 audio tokens 作 query，预测 audio token 特征 → 得到 `L_VA`

关键实现：`F.mse_loss(pred, target_tokens, reduction="none").mean(dim=[1,2])` 得到 **per-sample** 损失 `(B,)`，才能算 gap。

### 3.3 非对称分数 `asym`

```
asym = L_VA − L_AV        # (B,)
```

这就是核心可判别量。

### 3.4 分类头 `cls`

一个两层 MLP，输入拼接：

```
[v_pooled, a_pooled, asym, (L_AV + L_VA)]   # 维度 = D_v + D_a + 2
```

输出 1-logit，做真假二分类。

**注意**：分类头看的 `L_AV`/`L_VA` 是 `.detach()` 过的 —— 保证分类信号不会通过分数反向污染预测器。

## 4. 前向流程 (`predict_pairs`)

1. 分别过视频/音频骨干得到 pooled + tokens
2. 两个预测器分别做跨模态回归
3. 对每样本求 MSE loss `l_av`、`l_va`
4. 计算 `asym = l_va − l_av`
5. 返回 `v, a, l_av, l_va, asym`

## 5. 训练损失设计 (`training_step`)

组合损失包含 5 项：

### 5.1 `loss_av` / `loss_va` — 预测器损失（**只在真实样本上**）

```python
is_real = (labels == 0).float()
loss_av = (l_av * is_real).sum() / denom_r
loss_va = (l_va * is_real).sum() / denom_r
```

**关键设计**：预测器只用真实样本学习。否则预测器会去拟合"假视频的伪影"，从而破坏 gap 判别性。

### 5.2 `loss_asym` — 非对称间隔损失

强迫真实样本的 asym 均值 > 假样本的 asym 均值：

```python
loss_asym = ReLU(margin + asym_fake.mean() − asym_real.mean())
```

`margin=0`，且 `asym_weight=0.5`（较弱），避免预测器塌陷成为一个"asym 极大化器"。

### 5.3 `loss_cls` — 二分类 BCE

分类头对拼接特征做 sigmoid 二分类，标签 1=fake / 0=real。

### 5.4 `loss_aux` — 跨生成器辅助损失（可选）

当 `aux_crossgen.enabled=True` 且 batch 里带了 `alt_video/alt_audio` 时启用：

- 数据集里 8 个生成器目录下同名的样本共享同一 `(reference_image, audio)` GT。
- 对同一 GT 下两个不同生成器伪造的样本计算 `asym` 和 `asym2`，然后：
  ```python
  loss_aux = F.mse_loss(asym, asym2)
  ```
- 直觉：不同生成器都是"同一段物理事实的失真副本"，它们的 asym 应当接近 —— 相当于强制模型学到 **与生成器无关、与物理事实相关** 的 asym 信号，做泛化正则。
- `aux_weight=0.1`，弱约束。

### 5.5 总损失

```
loss = 1.0·L_AV + 1.0·L_VA + 0.5·L_asym + 1.0·L_cls + 0.1·L_aux
```

## 6. 推理 (`score`)

```python
v, a, l_av, l_va, asym = model.predict_pairs(video, audio)
logits = model.classify(v.pooled, a.pooled, l_av, l_va)
score = sigmoid(logits)   # 越接近 1 越可能是 fake
```

注意：**推理时并没有直接使用 `asym` 作为最终分数**，而是通过训练好的分类头融合 `asym`、`L_AV+L_VA` 和 pooled 特征输出概率。原始的 `asym = L_VA − L_AV` 只是分类头输入之一，也是训练时的正则目标。

## 7. 关键设计要点回顾

| 设计 | 用意 |
|------|------|
| Predictor loss 只在 real 上 | 防止预测器学到假伪影，保持 gap 的物理意义 |
| Classifier 里 `l_av/l_va` `.detach()` | 分类梯度不污染预测器，避免预测器为分类而"作弊" |
| `asym_weight=0.5` 较小 | asym 只是弱正则，让 gap 保持自然物理性 |
| Aux cross-generator MSE | 强制 asym 对生成器不变，增强跨生成器泛化 |
| 双模态 pooled + 双损失和 一起进分类头 | asym 之外补充绝对幅度/内容信息 |
| freeze_ratio 高（音频 0.8） | 小数据集微调时防止骨干破坏预训练表示 |

## 8. 与传统 deepfake 检测的区别

- **不依赖显式伪影检测**（模糊边界、频域瑕疵、闪烁等）。
- 建模的是 **物理生成过程的方向性**：real 数据里 A↔V 双向可预测但**不对称**；生成器打破这种对称结构。
- 天然更能泛化到未见过的生成器 —— 因为几乎所有 talking-head 生成器都是 `A → V` 单向的，这是一个**结构性**共性弱点。

## 9. 主要代码定位

| 组件 | 文件 |
|------|------|
| 训练入口脚本 | `scripts/train_cta.sh` |
| Hydra 配置 | `configs/method/cta.yaml` |
| Lightning 模块 & 损失 | `src/methods/cta.py` |
| 骨干 & 跨模态预测器 | `src/models/backbones.py` |
| 通用 Lightning 基类 | `src/methods/base.py` |