analysis/decoupling_analysis/DESIGN.md

# 解耦蒸馏 vs 集成蒸馏 消融实验设计

> 最后更新: 2026-01-11

---

## 📋 审稿人要求

> The advantages of the decoupled learning framework—especially compared to integrated or joint distillation strategies—require clearer justification through more focused ablation studies.
>
> DeCLIP claims decoupling avoids optimization conflicts, but lacks:
> (1) direct comparison with integrated distillation (e.g., joint content+context distillation without decoupling) in terms of mIoU/mAP and training stability

---

## 🎯 核心对比定义

### 1. 解耦蒸馏 (Decoupled Distillation) - DeCLIP

```
┌─────────────────────────────────────────────────────────────────────────────────────┐
│                              DeCLIP 解耦蒸馏架构                                      │
│                                                                                     │
│  Input Image                                                                        │
│       ↓                                                                             │
│  ┌─────────────────────────────────────────────────────────────────┐               │
│  │                    EVA-CLIP / OpenAI-CLIP ViT                   │               │
│  │  ┌─────────────────────────────────────────────────────────┐    │               │
│  │  │  Block 0 → Block 1 → ... → Block (N-2)                  │    │               │
│  │  │            (完整的 Attention + Residual + MLP)           │    │               │
│  │  └─────────────────────────────────────────────────────────┘    │               │
│  │                             ↓                                   │               │
│  │  ┌─────────────────────────────────────────────────────────┐    │               │
│  │  │              Block (N-1) - 最后一个 Block                │    │               │
│  │  │  ┌─────────────────────────────────────────────────┐    │    │               │
│  │  │  │  LayerNorm → Q, K, V Projection                 │    │    │               │
│  │  │  │                                                 │    │    │               │
│  │  │  │      ┌────────┐        ┌────────┐               │    │    │               │
│  │  │  │      │   Q    │        │   V    │               │    │    │               │
│  │  │  │      └────┬───┘        └────┬───┘               │    │    │               │
│  │  │  │           │                 │                   │    │    │               │
│  │  │  │      Q @ Q^T           V @ V^T                  │    │    │               │
│  │  │  │           │                 │                   │    │    │               │
│  │  │  │      softmax            softmax                 │    │    │               │
│  │  │  │           ↓                 ↓                   │    │    │               │
│  │  │  │   ┌──────────────┐  ┌──────────────┐            │    │    │               │
│  │  │  │   │ Q Self-Sim   │  │ V Self-Sim   │            │    │    │               │
│  │  │  │   │  (Content)   │  │  (Context)   │            │    │    │               │
│  │  │  │   └──────┬───────┘  └──────┬───────┘            │    │    │               │
│  │  │  │          │                 │                    │    │    │               │
│  │  │  │  ❌ 无残差连接   ❌ 无 MLP                       │    │    │               │
│  │  │  └─────────────────────────────────────────────────┘    │    │               │
│  │  └─────────────────────────────────────────────────────────┘    │               │
│  └─────────────────────────────────────────────────────────────────┘               │
│                             ↓                         ↓                             │
│                    ┌──────────────────┐      ┌──────────────────┐                   │
│                    │  L_content Loss  │      │  L_context Loss  │                   │
│                    │  (Q features)    │      │  (V self-sim)    │                   │
│                    └──────────────────┘      └──────────────────┘                   │
│                             ↓                         ↓                             │
│                    Teacher: CLIP crops       Teacher: DINOv2 corr                   │
└─────────────────────────────────────────────────────────────────────────────────────┘
```

**关键特点**：
- 在最后一个 Block 使用 `forward_without_rcffn` 方法
- **去掉残差连接**：避免特征混合
- **去掉 MLP**：保持 Q 和 V 的纯净表示
- Q 的自相似性 → Content Loss（与 CLIP Teacher 对齐）
- V 的自相似性 → Context Loss（与 DINOv2 相关性对齐）

### 2. 集成蒸馏 (Integrated Distillation) - Baseline

```
┌─────────────────────────────────────────────────────────────────────────────────────┐
│                            Integrated 集成蒸馏架构                                    │
│                                                                                     │
│  Input Image                                                                        │
│       ↓                                                                             │
│  ┌─────────────────────────────────────────────────────────────────┐               │
│  │                    EVA-CLIP / OpenAI-CLIP ViT                   │               │
│  │  ┌─────────────────────────────────────────────────────────┐    │               │
│  │  │  Block 0 → Block 1 → ... → Block (N-1)                  │    │               │
│  │  │     完整的 Attention + Residual + MLP（所有层）          │    │               │
│  │  └─────────────────────────────────────────────────────────┘    │               │
│  │                             ↓                                   │               │
│  │  ┌─────────────────────────────────────────────────────────┐    │               │
│  │  │                   Final Processing                       │    │               │
│  │  │          Head (Linear) → LayerNorm                       │    │               │
│  │  └─────────────────────────────────────────────────────────┘    │               │
│  └─────────────────────────────────────────────────────────────────┘               │
│                             ↓                                                       │
│                    ┌──────────────────┐                                             │
│                    │  Final Features  │                                             │
│                    │   (融合的特征)    │                                             │
│                    └────────┬─────────┘                                             │
│                             │                                                       │
│           ┌─────────────────┼─────────────────┐                                     │
│           ↓                 ↓                 ↓                                     │
│  ┌──────────────┐  ┌──────────────┐  ┌──────────────┐                               │
│  │ L_content    │  │ L_context    │  │ L_region     │                               │
│  │ (ROI池化)    │  │ (self-sim)   │  │ (ROI sim)    │                               │
│  └──────────────┘  └──────────────┘  └──────────────┘                               │
│           ↓                 ↓                 ↓                                     │
│  Teacher: CLIP       Teacher: DINOv2    Teacher: DINOv2                             │
│                                                                                     │
│              L_total = L_content + L_context + L_region                             │
│              (所有 Loss 作用于同一个融合特征！)                                       │
└─────────────────────────────────────────────────────────────────────────────────────┘
```

**关键特点**：
- 使用完整的 ViT forward（包含所有残差连接和 MLP）
- 最终输出是 **融合后的特征**
- Content 和 Context Loss 都作用于 **同一个融合特征**
- 可能导致 **梯度冲突**：两个任务的梯度方向可能相反

---

## 📊 实验方案

### 实验 1：训练动态曲线（Training Dynamics）

**目的**：证明解耦蒸馏训练更稳定

**记录指标**（每个 iteration）：
- `L_content` vs Iteration
- `L_context` vs Iteration
- `L_total` vs Iteration

**预期结果**：
- DeCLIP：曲线平稳下降，收敛快
- Integrated：曲线震荡，收敛慢，可能出现 Loss 反弹

### 实验 2：梯度冲突分析（Gradient Conflict Analysis）

**目的**：数学证明两个任务存在优化冲突

**方法**（参考 PCGrad 论文）：
```python
# 在 Integrated baseline 训练时：
# 1. 分别计算 L_content 和 L_context 对最后 N 层的梯度
grad_content = torch.autograd.grad(L_content, params, retain_graph=True)
grad_context = torch.autograd.grad(L_context, params, retain_graph=True)

# 2. 计算梯度余弦相似度
cos_sim = cosine_similarity(grad_content, grad_context)

# 3. 逐层统计
# cos_sim < 0: 梯度冲突
# cos_sim ≈ 0: 梯度正交
# cos_sim > 0: 梯度一致
```

**分析范围**：逐层分析每个 ViT Block

**预期结果**：
- 梯度余弦相似度主要分布在 **负值区间**（冲突）或 **接近 0**（正交）
- 说明两个任务的梯度方向经常相反或不相关

### 实验 3：PCA 可视化

**目的**：直观展示解耦效果

**对比内容**：
- DeCLIP 解耦蒸馏的最终输出特征
- Integrated 集成蒸馏的最终输出特征

**方法**：
- 选取挑战性图片（多物体、复杂背景）
- 提取特征的前 3 主成分，映射为 RGB

**预期结果**：
- Integrated：特征"模糊"或"混乱"
- DeCLIP：边界清晰，语义准确

### 实验 4：CKA 分析

**目的**：分析特征相似性

**对比内容**：
1. DeCLIP 的 Q 特征 vs V 特征
2. Integrated 输出特征 vs DeCLIP Q 特征
3. Integrated 输出特征 vs DeCLIP V 特征

**预期结果**：
- DeCLIP 的 Q 和 V 有一定差异（证明确实解耦了）
- Integrated 输出与 DeCLIP Q/V 的关系模糊

### 实验 5：定量表格对比（暂不实现，用户自行评估）

**指标**：
- Detection: mAP
- Segmentation: mIoU

---

## 🔧 训练配置

### 统一配置

| 配置项 | 值 |
|-------|---|
| VFM Teacher | DINOv2 |
| Epochs | 6 |
| Learning Rate | 1e-5 |
| Batch Size | 16 (total) |
| Optimizer | AdamW |
| Scheduler | Cosine |
| Dataset | COCO |

### 模型配置

| Student Model | VFM Size |
|--------------|----------|
| EVA02-CLIP-B-16 | DINOv2-B |
| EVA02-CLIP-L-14-336 | DINOv2-L |
| OpenAI-CLIP-B-16 | DINOv2-B |
| OpenAI-CLIP-L-14-336 | DINOv2-L |

### Loss 配置

**DeCLIP（解耦）**：
- Content Loss 权重: 1.0
- Context Loss 权重: 0.25
- Region Loss 权重: 0.05

**Integrated（集成）**：
- Content Loss 权重: 1.0
- Context Loss 权重: 1.0（直接相加，不用系数）

---

## 📁 代码组织

```
decoupling_analysis/
├── DESIGN.md                           # 本设计文档
├── PROGRESS.md                         # 进度记录
├── gradient_analysis.py                # 梯度冲突分析
├── pca_visualization.py                # PCA 可视化
└── cka_analysis.py                     # CKA 分析

scripts/decoupling_ablation/
├── dist_integrated_eva_vitb16_coco.sh      # EVA-B/16 多卡训练
├── dist_integrated_eva_vitL14_336_coco.sh  # EVA-L/14-336 多卡训练
├── dist_integrated_openai_vitb16_coco.sh   # OpenAI-B/16 多卡训练
├── dist_integrated_openai_vitL14_coco.sh   # OpenAI-L/14 多卡训练
├── debug_integrated_eva_vitb16_coco.sh     # EVA-B/16 单卡调试
├── debug_integrated_eva_vitL14_336_coco.sh # EVA-L/14-336 单卡调试
├── debug_integrated_openai_vitb16_coco.sh  # OpenAI-B/16 单卡调试
└── debug_integrated_openai_vitL14_coco.sh  # OpenAI-L/14 单卡调试

src/training/
├── integrated_distill.py     # 集成蒸馏实现 (IntegratedDistillation 类)
├── main.py                   # (已修改) 添加 integrated 版本支持
└── params.py                 # (已修改) 添加 --version integrated 选项
```

---

## 📝 实现步骤

### Step 1: 实现 Integrated Distillation ✅
- [x] 创建 `src/training/integrated_distill.py`
- [x] 使用完整的 ViT forward（`mode="vanilla"`，不调用 `forward_without_rcffn`）
- [x] 在最终输出特征上同时计算 Content + Context Loss

### Step 2: 实现 Gradient Analysis ✅
- [x] 创建 `gradient_analysis.py`
- [x] 在训练过程中记录梯度余弦相似度
- [x] 逐层分析

### Step 3: 实现 PCA Visualization ✅
- [x] 创建 `pca_visualization.py`
- [x] 对比 DeCLIP vs Integrated 的特征

### Step 4: 实现 CKA Analysis ✅
- [x] 创建 `cka_analysis.py`
- [x] 分析 Q, V, 输出特征的相似性

### Step 5: 创建训练脚本 ✅
- [x] EVA-CLIP B/L
- [x] OpenAI CLIP B/L

### Step 6: 代码审阅与修复 ✅ (2026-01-11)
- [x] 修复 `extract_roi_features_integrated` 缺少 `.transpose(-2,-1)` 的维度问题
- [x] 修复 `region_scd_loss` 中不必要的 transpose
- [x] 移除未使用的导入 (`autocast`, `math`)

---

## ⚠️ 注意事项

1. **PCGrad 仅用于分析**：不使用它来解决冲突，只用来证明冲突存在
2. **Loss 直接相加**：Integrated 的 Content 和 Context Loss 直接相加，不调权重
3. **训练配置一致**：除了解耦 vs 集成的差异，其他配置完全一致
4. **评估用户自行**：训练完毕后用户自己进行 mAP/mIoU 评估