Datasets:

xiaomoguhzz
/

DeCLIP-TPAMI

Tags:

xiaomoguhzz

Add files using upload-large-folder tool

c9aee57 verified about 2 months ago

preview code

raw

history blame contribute delete

27.3 kB

消融实验设计流程图

🎯 核心思想：统一框架下的公平对比

三种方法共享完全相同的训练框架，唯一区别是用于 refine DINO 相似度的外部 attention 来源。

📊 整体流程对比

┌─────────────────────────────────────────────────────────────────────────────────────┐
│                              DeCLIP+ 训练框架                                        │
│                                                                                     │
│   ┌──────────────┐                                                                  │
│   │  Input Image │                                                                  │
│   └──────┬───────┘                                                                  │
│          │                                                                          │
│          ▼                                                                          │
│   ┌──────────────────────────────────────────────────────────────────────┐         │
│   │                        特征提取阶段                                    │         │
│   │  ┌─────────────┐    ┌─────────────┐    ┌─────────────────────────┐   │         │
│   │  │   DINOv2    │    │  EVA-CLIP   │    │   External Model        │   │         │
│   │  │  (Teacher)  │    │  (Student)  │    │   (SD / SAM / I-JEPA)   │   │         │
│   │  └──────┬──────┘    └──────┬──────┘    └───────────┬─────────────┘   │         │
│   │         │                  │                       │                 │         │
│   │         ▼                  ▼                       ▼                 │         │
│   │   DINO Features     CLIP Features          External Attention       │         │
│   │    (B,C,H,W)         (B,C,H,W)                (B,HW,HW)              │         │
│   └─────────┬──────────────────┬───────────────────────┬────────────────┘         │
│             │                  │                       │                           │
│             ▼                  │                       │                           │
│   ┌─────────────────┐          │                       │                           │
│   │ DINO Correlation│          │                       │                           │
│   │   (B,HW,HW)     │◄─────────┼───────────────────────┘                           │
│   └────────┬────────┘          │         Refine                                    │
│            │                   │                                                   │
│            ▼                   │                                                   │
│   ┌─────────────────┐          │                                                   │
│   │ Refined DINO    │          │                                                   │
│   │ Correlation     │          │                                                   │
│   └────────┬────────┘          │                                                   │
│            │                   │                                                   │
│            ▼                   ▼                                                   │
│   ┌───────────────────────────────────────────────────┐                           │
│   │                    Loss 计算                       │                           │
│   │  Context Loss: KL(Student_corr || Refined_DINO)   │                           │
│   │  Content Loss: Cosine(Student_ROI, Teacher_crop)  │                           │
│   │  Region Loss:  KL(Student_ROI_corr || DINO_ROI)   │                           │
│   └───────────────────────────────────────────────────┘                           │
│                                                                                     │
└─────────────────────────────────────────────────────────────────────────────────────┘

🔄 三种方法的 Attention 提取对比

┌─────────────────────────────────────────────────────────────────────────────────────┐
│                                                                                     │
│                          ┌─────────────┐                                            │
│                          │ Input Image │                                            │
│                          └──────┬──────┘                                            │
│                                 │                                                   │
│           ┌─────────────────────┼─────────────────────┐                            │
│           │                     │                     │                            │
│           ▼                     ▼                     ▼                            │
│  ┌─────────────────┐   ┌─────────────────┐   ┌─────────────────┐                   │
│  │    SD v2.1      │   │    SAM ViT-L    │   │  I-JEPA ViT-H   │                   │
│  │    (UNet)       │   │  (Image Enc)    │   │   (Encoder)     │                   │
│  └────────┬────────┘   └────────┬────────┘   └────────┬────────┘                   │
│           │                     │                     │                            │
│           ▼                     ▼                     ▼                            │
│  ┌─────────────────┐   ┌─────────────────┐   ┌─────────────────┐                   │
│  │ Layer [-4,-6]   │   │ Global Attn     │   │ Layer [-4,-2]   │                   │
│  │ Self-Attention  │   │ [5,11,17,23]    │   │ Self-Attention  │                   │
│  └────────┬────────┘   └────────┬────────┘   └────────┬────────┘                   │
│           │                     │                     │                            │
│           ▼                     ▼                     ▼                            │
│  ┌─────────────────┐   ┌─────────────────┐   ┌─────────────────┐                   │
│  │   SD Attention  │   │  SAM Attention  │   │ I-JEPA Attention│                   │
│  │   (B, HW, HW)   │   │   (B, HW, HW)   │   │   (B, HW, HW)   │                   │
│  └────────┬────────┘   └────────┬────────┘   └────────┬────────┘                   │
│           │                     │                     │                            │
│           └─────────────────────┼─────────────────────┘                            │
│                                 │                                                   │
│                                 ▼                                                   │
│                    ┌────────────────────────┐                                       │
│                    │  Resize to DINO size   │                                       │
│                    │  (if needed)           │                                       │
│                    └───────────┬────────────┘                                       │
│                                │                                                   │
│                                ▼                                                   │
│                    ┌────────────────────────┐                                       │
│                    │   External Attention   │                                       │
│                    │      (B, 256, 256)     │ ◄── 统一尺寸: 16×16 patches          │
│                    └────────────────────────┘                                       │
│                                                                                     │
└─────────────────────────────────────────────────────────────────────────────────────┘

🧮 Refine 操作（三种方法完全一致）

┌─────────────────────────────────────────────────────────────────────────────────────┐
│                           refine_dino_with_attn()                                   │
│                                                                                     │
│   输入:                                                                              │
│   ┌─────────────────┐         ┌─────────────────┐                                   │
│   │  DINO Corr      │         │ External Attn   │                                   │
│   │  (B, 256, 256)  │         │ (B, 256, 256)   │                                   │
│   └────────┬────────┘         └────────┬────────┘                                   │
│            │                           │                                            │
│            │    ┌──────────────────────┘                                            │
│            │    │                                                                   │
│            ▼    ▼                                                                   │
│   ┌─────────────────────────────────────┐                                           │
│   │                                     │                                           │
│   │   propagated = bmm(ext_attn, dino)  │  ◄── 核心: Attention 作为传播矩阵         │
│   │                                     │                                           │
│   └──────────────────┬──────────────────┘                                           │
│                      │                                                              │
│                      ▼                                                              │
│   ┌─────────────────────────────────────┐                                           │
│   │                                     │                                           │
│   │   refined = w × propagated          │                                           │
│   │          + (1-w) × dino_corr        │  ◄── 残差连接                              │
│   │                                     │                                           │
│   └──────────────────┬──────────────────┘                                           │
│                      │                                                              │
│                      ▼                                                              │
│   ┌─────────────────────────────────────┐                                           │
│   │                                     │                                           │
│   │   refined[diag] = 1.0               │  ◄── 强制自相似度为 1                      │
│   │                                     │                                           │
│   └──────────────────┬──────────────────┘                                           │
│                      │                                                              │
│                      ▼                                                              │
│   ┌─────────────────────────────────────┐                                           │
│   │       Refined DINO Correlation      │                                           │
│   │           (B, 256, 256)             │                                           │
│   └─────────────────────────────────────┘                                           │
│                                                                                     │
└─────────────────────────────────────────────────────────────────────────────────────┘

📋 实验设置对比表

设置项	SD-GSC (Ours)	SAM-GSC	JEPA-GSC
外部模型	Stable Diffusion v2.1	SAM ViT-L	I-JEPA ViT-H/14
Attention 层	UNet layer [-4, -6]	Global attn [5,11,17,23]	Encoder layer [-4, -2]
原始 Attn 尺寸	取决于输入	64×64 (1024px input)	16×16 (224px input)
Refine Weight	0.3	0.3	0.3
训练框架	DeCLIP+	DeCLIP+	DeCLIP+
DINO Teacher	DINOv2-B	DINOv2-B	DINOv2-B
Student Model	EVA-CLIP-B/16	EVA-CLIP-B/16	EVA-CLIP-B/16

🔬 为什么这样设计是公平的？

┌─────────────────────────────────────────────────────────────────────────────────────┐
│                              公平对比的保证                                          │
│                                                                                     │
│  ✅ 相同的训练框架 (DeCLIP+)                                                         │
│     └── 相同的 loss 函数: Context + Content + Region                                │
│     └── 相同的训练超参数: lr, epochs, batch_size                                     │
│     └── 相同的数据集: COCO                                                          │
│                                                                                     │
│  ✅ 相同的 Teacher-Student 设置                                                      │
│     └── Teacher: DINOv2-B + EVA-CLIP (crop features)                               │
│     └── Student: EVA-CLIP-B/16                                                     │
│                                                                                     │
│  ✅ 相同的 Refine 操作                                                               │
│     └── 都使用 bmm(attn, dino_corr) + 残差连接                                      │
│     └── 都使用相同的 refine_weight = 0.3                                            │
│                                                                                     │
│  ✅ 唯一变量：External Attention 的来源                                              │
│     └── SD: 生成式模型的语义聚合能力                                                 │
│     └── SAM: 分割模型的边界感知能力                                                  │
│     └── I-JEPA: 预测式模型的空间推理能力                                             │
│                                                                                     │
└─────────────────────────────────────────────────────────────────────────────────────┘

📈 预期结果分析

                        预期性能排序
                        
    mIoU (语义分割)
    ▲
    │
    │    ┌─────┐
    │    │ SD  │  ◄── 最优：生成式先验 + 多层融合
    │    │ GSC │
    │    └─────┘
    │         ┌─────┐
    │         │ SAM │  ◄── 次优：强边界感知但语义弱
    │         │ GSC │
    │         └─────┘
    │              ┌─────┐
    │              │JEPA │  ◄── 语义一致但边界模糊
    │              │ GSC │
    │              └─────┘
    │                   ┌──────┐
    │                   │ DINO │  ◄── Baseline: 无 refine
    │                   │ only │
    │                   └──────┘
    └──────────────────────────────────────────────► Method

SD-GSC 预期最优的原因：

🎨 生成式先验: 在大规模图文数据上学习，语义理解更丰富
🔗 去噪任务: 迫使模型学习图像的整体结构
📊 多层融合: 使用 [-4, -6] 两层 attention 的融合

🛠️ 实验执行流程

┌─────────────────────────────────────────────────────────────────────────────────────┐
│                              Step-by-Step 执行                                       │
│                                                                                     │
│  Step 1: 训练（实时计算 Attention，无需预提取）                                       │
│  ┌─────────────────────────────────────────────────────────────────────────────┐    │
│  │  # SD-GSC (原方法)                                                          │    │
│  │  bash scripts/declip+/dist_DeCLIP+_eva_vitb16_coco.sh                       │    │
│  │                                                                             │    │
│  │  # SAM-GSC (实时计算 SAM attention)                                         │    │
│  │  bash scripts/ablation_sam/dist_sam_gsc_eva_vitb16_coco.sh                  │    │
│  │                                                                             │    │
│  │  # JEPA-GSC (实时计算 I-JEPA attention)                                     │    │
│  │  bash scripts/ablation_ijepa/dist_ijepa_gsc_eva_vitb16_coco.sh              │    │
│  └─────────────────────────────────────────────────────────────────────────────┘    │
│                                                                                     │
│  Step 2: 评估                                                                        │
│  ┌─────────────────────────────────────────────────────────────────────────────┐    │
│  │  # 在相同的评估集上测试                                                       │    │
│  │  - VOC 2012 语义分割                                                         │    │
│  │  - COCO Stuff 语义分割                                                       │    │
│  │  - ADE20K 语义分割                                                           │    │
│  └─────────────────────────────────────────────────────────────────────────────┘    │
│                                                                                     │
│  Step 3: 分析（可选：离线预提取用于可视化）                                           │
│  ┌─────────────────────────────────────────────────────────────────────────────┐    │
│  │  python ablation_experiments/extract_sam_attention.py --data_path /coco     │    │
│  │  python ablation_experiments/extract_ijepa_attention.py --data_path /coco   │    │
│  │  python ablation_experiments/visualize_ablation.py                          │    │
│  └─────────────────────────────────────────────────────────────────────────────┘    │
│                                                                                     │
└─────────────────────────────────────────────────────────────────────────────────────┘

🔧 技术实现细节

分辨率对齐（参考 ProxyCLIP）

参考项目: https://github.com/mc-lan/ProxyCLIP/blob/main/proxyclip_segmentor.py

┌─────────────────────────────────────────────────────────────────────────────────────┐
│                           分辨率处理策略                                              │
│                                                                                     │
│  模型          │ 处理方式                                                            │
│  ─────────────┼───────────────────────────────────────────────────                  │
│  SAM          │ 输入 resize 到 1024×1024，内置 pos_embed 插值                        │
│  I-JEPA       │ 加载时预插值 pos_embed 到目标分辨率（无运行时开销）                    │
│  DINOv2       │ 直接支持可变分辨率                                                   │
│                                                                                     │
│  计算公式:                                                                           │
│  ┌─────────────────────────────────────────────────────────────────────────────┐    │
│  │  CLIP: patch_count = det_image_size / downsample_factor = 560/16 = 35×35   │    │
│  │  I-JEPA: target_resolution = 35 × patch_size = 35 × 14 = 490×490           │    │
│  └─────────────────────────────────────────────────────────────────────────────┘    │
│                                                                                     │
└─────────────────────────────────────────────────────────────────────────────────────┘