analysis/ablation_experiments/PROGRESS.md

消融实验进度记录

最后更新: 2026-01-10

---

✅ 已完成任务

1. 代码文件创建

文件	路径	说明
SAM-GSC 训练代码	src/training/ablation_sam.py	实时计算 SAM attention，包含完整训练逻辑
JEPA-GSC 训练代码	src/training/ablation_ijepa.py	实时计算 I-JEPA attention，包含完整训练逻辑
消融实验数据集	src/training/data_ablation.py	支持 SAM/I-JEPA 消融实验的数据加载

2. 训练脚本创建

scripts/
├── ablation_sam/
│   ├── dist_sam_gsc_eva_vitb16_coco.sh      # 多卡训练 EVA-B/16
│   ├── debug_sam_gsc_eva_vitb16_coco.sh     # 单卡调试 EVA-B/16
│   ├── dist_sam_gsc_eva_vitL14_336_coco.sh  # 多卡训练 EVA-L/14
│   └── debug_sam_gsc_eva_vitL14_336_coco.sh # 单卡调试 EVA-L/14
│
└── ablation_ijepa/
    ├── dist_ijepa_gsc_eva_vitb16_coco.sh      # 多卡训练 EVA-B/16
    ├── debug_ijepa_gsc_eva_vitb16_coco.sh     # 单卡调试 EVA-B/16
    ├── dist_ijepa_gsc_eva_vitL14_336_coco.sh  # 多卡训练 EVA-L/14
    └── debug_ijepa_gsc_eva_vitL14_336_coco.sh # 单卡调试 EVA-L/14

3. 框架代码修改

文件	修改内容
src/training/main.py	添加 ablation_sam 和 ablation_ijepa 版本支持
src/training/data.py	添加消融实验数据集类型
src/training/params.py	添加新的 --version 和 --dataset-type 选项

4. I-JEPA 位置编码修复

问题: I-JEPA 预训练 pos_embed 尺寸 (16×16=256) 与目标尺寸 (35×35=1225) 不匹配

解决方案: 参考 ProxyCLIP 的 MAE 处理方式

# 修改 third_party/ijepa/src/models/vision_transformer.py
# 修正 interpolate_pos_encoding() 方法，支持无 cls_token 的情况

# 修改 src/training/ablation_ijepa.py
# 在加载权重时预先插值 pos_embed（而非运行时动态插值）
def _interpolate_pos_embed(self, state_dict, target_img_size, patch_size):
    # 2D bicubic 插值 pos_embed 到目标尺寸
    ...

---

🔧 技术细节

分辨率对齐策略

┌─────────────────────────────────────────────────────────────────┐
│                    分辨率计算公式                                 │
├─────────────────────────────────────────────────────────────────┤
│  CLIP: det_image_size = 560, downsample_factor = 16             │
│        → patch_count = 560 / 16 = 35 × 35 = 1225                │
│                                                                 │
│  I-JEPA: patch_size = 14                                        │
│          → target_resolution = 35 × 14 = 490 × 490              │
│                                                                 │
│  SAM: 使用原生 1024×1024，特征会自动 resize                       │
└─────────────────────────────────────────────────────────────────┘

不同模型的分辨率处理方式（参考 ProxyCLIP）

模型	处理方式	说明
SAM	输入 resize 到 1024×1024	SAM 原生分辨率，内置 pos_embed 插值
I-JEPA	加载时预插值 pos_embed	参考 ProxyCLIP 的 MAE 处理方式
DINOv2	直接支持可变分辨率	无需特殊处理

关键配置参数

# 公共参数
--sd-refine-weight 0.3     # Refine 权重
--epochs 6                  # 训练轮数
--lr 1e-5                   # 学习率
--batch-size 16             # 总批大小

# SAM 专用
--sam-checkpoint /mnt/SSD8T/home/wjj/code/ProxyCLIP/sam_ckpts/sam_vit_l_0b3195.pth

# I-JEPA 专用  
--ijepa-checkpoint /mnt/SSD8T/home/wjj/code/DeCLIP_private/ckpts/ijepa/IN1K-vit.h.14-300e.pth.tar

---

🚀 运行方式

单卡调试（推荐先运行确保代码正常）

cd /mnt/SSD8T/home/wjj/code/DeCLIP_private

# SAM-GSC
bash scripts/ablation_sam/debug_sam_gsc_eva_vitb16_coco.sh

# JEPA-GSC
bash scripts/ablation_ijepa/debug_ijepa_gsc_eva_vitb16_coco.sh

多卡训练

# SAM-GSC (EVA-B/16)
bash scripts/ablation_sam/dist_sam_gsc_eva_vitb16_coco.sh

# SAM-GSC (EVA-L/14)
bash scripts/ablation_sam/dist_sam_gsc_eva_vitL14_336_coco.sh

# JEPA-GSC (EVA-B/16)
bash scripts/ablation_ijepa/dist_ijepa_gsc_eva_vitb16_coco.sh

# JEPA-GSC (EVA-L/14)
bash scripts/ablation_ijepa/dist_ijepa_gsc_eva_vitL14_336_coco.sh

---

📦 预训练权重

SAM 权重（已存在）

/mnt/SSD8T/home/wjj/code/ProxyCLIP/sam_ckpts/
├── sam_vit_l_0b3195.pth
└── sam_vit_b_01ec64.pth

I-JEPA 权重

# 下载脚本
bash ablation_experiments/download_ijepa_weights.sh

# 权重路径
/mnt/SSD8T/home/wjj/code/DeCLIP_private/ckpts/ijepa/
├── IN1K-vit.h.14-300e.pth.tar     # ViT-H/14, 224×224
└── IN1K-vit.h.16-448px-300e.pth.tar # ViT-H/16, 448×448

---

📊 实验状态

实验	模型配置	状态	备注
SAM-GSC	EVA-B/16	🔄 运行中	-
SAM-GSC	EVA-L/14	⏳ 待运行	-
JEPA-GSC	EVA-B/16	🔄 运行中	-
JEPA-GSC	EVA-L/14	⏳ 待运行	-
SD-GSC (baseline)	EVA-B/16	✅ 已有结果	原 DeCLIP+

---

🔗 相关文件快速索引

核心代码

• src/training/ablation_sam.py - SAM-GSC 训练逻辑
• src/training/ablation_ijepa.py - JEPA-GSC 训练逻辑
• src/training/declip_plus.py - SD-GSC 原方法（参考）

参考项目

• ProxyCLIP - 分辨率处理参考
• I-JEPA - I-JEPA 原始实现
• SAM - SAM 原始实现

---

📝 待办事项

• 等待实验完成
• 收集评估结果 (VOC, COCO Stuff, ADE20K)
• 生成对比表格和分析
• 可视化 attention map 对比