analysis/ablation_experiments/PROGRESS.md

# 消融实验进度记录

> 最后更新: 2026-01-10

---

## ✅ 已完成任务

### 1. 代码文件创建

| 文件 | 路径 | 说明 |
|-----|------|-----|
| **SAM-GSC 训练代码** | `src/training/ablation_sam.py` | 实时计算 SAM attention，包含完整训练逻辑 |
| **JEPA-GSC 训练代码** | `src/training/ablation_ijepa.py` | 实时计算 I-JEPA attention，包含完整训练逻辑 |
| **消融实验数据集** | `src/training/data_ablation.py` | 支持 SAM/I-JEPA 消融实验的数据加载 |

### 2. 训练脚本创建

```
scripts/
├── ablation_sam/
│   ├── dist_sam_gsc_eva_vitb16_coco.sh      # 多卡训练 EVA-B/16
│   ├── debug_sam_gsc_eva_vitb16_coco.sh     # 单卡调试 EVA-B/16
│   ├── dist_sam_gsc_eva_vitL14_336_coco.sh  # 多卡训练 EVA-L/14
│   └── debug_sam_gsc_eva_vitL14_336_coco.sh # 单卡调试 EVA-L/14
│
└── ablation_ijepa/
    ├── dist_ijepa_gsc_eva_vitb16_coco.sh      # 多卡训练 EVA-B/16
    ├── debug_ijepa_gsc_eva_vitb16_coco.sh     # 单卡调试 EVA-B/16
    ├── dist_ijepa_gsc_eva_vitL14_336_coco.sh  # 多卡训练 EVA-L/14
    └── debug_ijepa_gsc_eva_vitL14_336_coco.sh # 单卡调试 EVA-L/14
```

### 3. 框架代码修改

| 文件 | 修改内容 |
|-----|---------|
| `src/training/main.py` | 添加 `ablation_sam` 和 `ablation_ijepa` 版本支持 |
| `src/training/data.py` | 添加消融实验数据集类型 |
| `src/training/params.py` | 添加新的 `--version` 和 `--dataset-type` 选项 |

### 4. I-JEPA 位置编码修复

**问题**: I-JEPA 预训练 pos_embed 尺寸 (16×16=256) 与目标尺寸 (35×35=1225) 不匹配

**解决方案**: 参考 [ProxyCLIP](https://github.com/mc-lan/ProxyCLIP/blob/main/proxyclip_segmentor.py) 的 MAE 处理方式

```python
# 修改 third_party/ijepa/src/models/vision_transformer.py
# 修正 interpolate_pos_encoding() 方法，支持无 cls_token 的情况

# 修改 src/training/ablation_ijepa.py
# 在加载权重时预先插值 pos_embed（而非运行时动态插值）
def _interpolate_pos_embed(self, state_dict, target_img_size, patch_size):
    # 2D bicubic 插值 pos_embed 到目标尺寸
    ...
```

---

## 🔧 技术细节

### 分辨率对齐策略

```
┌─────────────────────────────────────────────────────────────────┐
│                    分辨率计算公式                                 │
├─────────────────────────────────────────────────────────────────┤
│  CLIP: det_image_size = 560, downsample_factor = 16             │
│        → patch_count = 560 / 16 = 35 × 35 = 1225                │
│                                                                 │
│  I-JEPA: patch_size = 14                                        │
│          → target_resolution = 35 × 14 = 490 × 490              │
│                                                                 │
│  SAM: 使用原生 1024×1024，特征会自动 resize                       │
└─────────────────────────────────────────────────────────────────┘
```

### 不同模型的分辨率处理方式（参考 ProxyCLIP）

| 模型 | 处理方式 | 说明 |
|-----|---------|-----|
| **SAM** | 输入 resize 到 1024×1024 | SAM 原生分辨率，内置 pos_embed 插值 |
| **I-JEPA** | 加载时预插值 pos_embed | 参考 ProxyCLIP 的 MAE 处理方式 |
| **DINOv2** | 直接支持可变分辨率 | 无需特殊处理 |

### 关键配置参数

```bash
# 公共参数
--sd-refine-weight 0.3     # Refine 权重
--epochs 6                  # 训练轮数
--lr 1e-5                   # 学习率
--batch-size 16             # 总批大小

# SAM 专用
--sam-checkpoint /mnt/SSD8T/home/wjj/code/ProxyCLIP/sam_ckpts/sam_vit_l_0b3195.pth

# I-JEPA 专用  
--ijepa-checkpoint /mnt/SSD8T/home/wjj/code/DeCLIP_private/ckpts/ijepa/IN1K-vit.h.14-300e.pth.tar
```

---

## 🚀 运行方式

### 单卡调试（推荐先运行确保代码正常）

```bash
cd /mnt/SSD8T/home/wjj/code/DeCLIP_private

# SAM-GSC
bash scripts/ablation_sam/debug_sam_gsc_eva_vitb16_coco.sh

# JEPA-GSC
bash scripts/ablation_ijepa/debug_ijepa_gsc_eva_vitb16_coco.sh
```

### 多卡训练

```bash
# SAM-GSC (EVA-B/16)
bash scripts/ablation_sam/dist_sam_gsc_eva_vitb16_coco.sh

# SAM-GSC (EVA-L/14)
bash scripts/ablation_sam/dist_sam_gsc_eva_vitL14_336_coco.sh

# JEPA-GSC (EVA-B/16)
bash scripts/ablation_ijepa/dist_ijepa_gsc_eva_vitb16_coco.sh

# JEPA-GSC (EVA-L/14)
bash scripts/ablation_ijepa/dist_ijepa_gsc_eva_vitL14_336_coco.sh
```

---

## 📦 预训练权重

### SAM 权重（已存在）
```
/mnt/SSD8T/home/wjj/code/ProxyCLIP/sam_ckpts/
├── sam_vit_l_0b3195.pth
└── sam_vit_b_01ec64.pth
```

### I-JEPA 权重
```bash
# 下载脚本
bash ablation_experiments/download_ijepa_weights.sh

# 权重路径
/mnt/SSD8T/home/wjj/code/DeCLIP_private/ckpts/ijepa/
├── IN1K-vit.h.14-300e.pth.tar     # ViT-H/14, 224×224
└── IN1K-vit.h.16-448px-300e.pth.tar # ViT-H/16, 448×448
```

---

## 📊 实验状态

| 实验 | 模型配置 | 状态 | 备注 |
|-----|---------|-----|-----|
| SAM-GSC | EVA-B/16 | 🔄 运行中 | - |
| SAM-GSC | EVA-L/14 | ⏳ 待运行 | - |
| JEPA-GSC | EVA-B/16 | 🔄 运行中 | - |
| JEPA-GSC | EVA-L/14 | ⏳ 待运行 | - |
| SD-GSC (baseline) | EVA-B/16 | ✅ 已有结果 | 原 DeCLIP+ |

---

## 🔗 相关文件快速索引

### 核心代码
- `src/training/ablation_sam.py` - SAM-GSC 训练逻辑
- `src/training/ablation_ijepa.py` - JEPA-GSC 训练逻辑
- `src/training/declip_plus.py` - SD-GSC 原方法（参考）

### 参考项目
- [ProxyCLIP](https://github.com/mc-lan/ProxyCLIP) - 分辨率处理参考
- [I-JEPA](https://github.com/facebookresearch/ijepa) - I-JEPA 原始实现
- [SAM](https://github.com/facebookresearch/segment-anything) - SAM 原始实现

---

## 📝 待办事项

- [ ] 等待实验完成
- [ ] 收集评估结果 (VOC, COCO Stuff, ADE20K)
- [ ] 生成对比表格和分析
- [ ] 可视化 attention map 对比