Hugging Face's logo

Datasets:
xiaomoguhzz
/
DeCLIP-TPAMI

Tags:
open-vocabulary
dense-prediction
clip
cvpr-2025
tpami
Dataset card Files
xet
 Community
DeCLIP-TPAMI / analysis /decoupling_analysis /PROGRESS.md
xiaomoguhzz's picture
xiaomoguhzz
Add files using upload-large-folder tool
c9aee57 verified
preview code
|
raw
history blame contribute delete
11.9 kB

解耦蒸馏消融实验进度

最后更新: 2026-01-23

✅ 已完成任务

1. 设计文档

  • 创建 DESIGN.md - 详细的实验设计文档
  • 定义解耦蒸馏 vs 集成蒸馏的区别

2. 代码实现

模块 文件 说明
集成蒸馏 src/training/integrated_distill.py IntegratedDistillation 和 IntegratedDistillationWithGradientAnalysis 类
3loss分析 3loss/loss_analysis/ 3loss (content+context+region) 实验的 Loss 分析
3loss分析 3loss/gradient_analysis/ 3loss 实验的梯度冲突分析
2loss分析 2loss/extract_training_data.py 2loss (content+context) 实验数据提取
2loss分析 2loss/plot_loss_curves.py 2loss 实验 Loss 曲线绘制
2loss分析 2loss/plot_gradient_analysis.py 2loss 实验梯度冲突可视化
2loss分析 2loss/compare_2loss_vs_3loss.py 2loss vs 3loss 对比分析
特征可视化 feature_visualization/pca_visualization.py PCA特征可视化工具
特征可视化 feature_visualization/cka_analysis.py CKA分析工具
特征可视化 feature_visualization/run_cka_comparison.py EVA-CLIP vs DeCLIP+ 的 Q/V CKA 对比
特征可视化 feature_visualization/visualize_feature_comparison.py DeCLIP+ vs Integrated 的 PCA 和 KMeans 可视化
特征可视化 feature_visualization/visualize_panoptic_comparison.py 基于 COCO Panoptic 数据的可视化

3. 训练脚本 

scripts/decoupling_ablation/
├── dist_integrated_eva_vitb16_coco.sh        # Integrated EVA-B/16 多卡训练
├── debug_integrated_eva_vitb16_coco.sh       # EVA-B/16 单卡调试
├── resume_integrated.sh                       # Resume Integrated 实验
├── resume_integrated_grad_analysis.sh         # Resume Integrated + 梯度分析
└── resume_all_experiments.sh                  # Resume 所有实验

scripts/ablation_ijepa/
├── dist_ijepa_gsc_eva_vitL14_336_coco.sh     # JEPA-GSC EVA-L/14 多卡训练
└── resume_ijepa_gsc_eva_vitL14_336.sh        # Resume JEPA-GSC 实验

4. Bug 修复 (2026-01-18)

文件 问题 修复
src/training/data.py:715 np.asarray() 返回只读数组导致 evaluation 失败 改为 np.array()
src/training/file_utils.py:74 PyTorch 2.6 默认 weights_only=True 导致 checkpoint 加载失败 添加 weights_only=False
src/training/main.py IntegratedDistillationWithGradientAnalysis 初始化缺少参数 添加 save_dir 和 rank 参数
src/training/integrated_distill.py 梯度分析尝试对冻结参数求梯度 过滤 requires_grad=False 的参数

📊 实验结果

1. 蒸馏训练

实验 状态 Checkpoints
DeCLIP_EVA-B_DINOv2-B_560 ✅ 完成 epoch_6.pt
Integrated_EVA-B_DINOv2-B_560_3loss ✅ 完成 epoch_1~6.pt
Integrated_EVA-B_DINOv2-B_560_grad_analysis_3loss ✅ 完成 epoch_1~6.pt
Integrated_EVA-B_DINOv2-B_560_2loss ✅ 完成 epoch_6.pt
Integrated_EVA-B_DINOv2-B_560_grad_analysis_2loss ✅ 完成 epoch_6.pt
Integrated_EVA-L_DINOv2-L_336 ✅ 完成 epoch_6.pt
Ablation_JEPA-GSC_EVA-L_DINOv2-B_csa_336 ✅ 完成 epoch_6.pt

2. 2loss vs 3loss 配置区别

配置 2loss 3loss
Content Loss 权重 1.0 1.0
Context Loss 权重 0.25 1.0
Region Loss ❌ 无 ✅ 有
与 DeCLIP 对齐 ✅ 完全对齐 ❌ 需要归一化

3. Loss 曲线分析 ✅

3loss 实验（原始实验）

结果目录: 3loss/loss_analysis/results/

指标 DeCLIP Final Integrated_3loss Final (归一化后)
Total Loss 0.5894 1.6221
Content Loss 0.1207 0.3879
Context Loss 0.4687 1.2342

2loss 实验（对齐实验）

结果目录: 2loss/results/

指标 DeCLIP Final Integrated_2loss Final
Total Loss 0.5894 0.9994
Content Loss 0.1207 0.3076
Context Loss 0.4687 0.6918

结论:

  • 即使对齐 Loss 配置（2loss），Integrated 仍比 DeCLIP 差 1.7 倍
  • 2loss 比 3loss 收敛更好（0.9994 vs 1.6221），但仍显著不如 DeCLIP（0.5894）

4. 梯度冲突分析 ✅

3loss 实验

结果目录: 3loss/gradient_analysis/results/

指标 数值
全局冲突比例 63.8%
正交比例 45.5%
平均余弦相似度 -0.067

2loss 实验

结果目录: 2loss/results/

指标 数值
全局冲突比例 78.0%
正交比例 33.5%
平均余弦相似度 -0.148

逐层趋势 (2loss):

  • 浅层（Layer 0-5）：冲突比例 64-76%
  • 深层（Layer 9-11）：冲突比例 **85-88%**，平均cos=-0.27

2loss vs 3loss 梯度冲突对比

指标 2loss 3loss 结论
全局冲突比例 78.0% 63.8% 2loss 冲突更严重
平均余弦相似度 -0.148 -0.067 2loss 冲突更严重
正交比例 33.5% 45.5% 2loss 更少正交

结论:

  • ✅ 2loss 和 3loss 都存在显著的梯度冲突 (>50%)
  • ✅ 这证明了解耦蒸馏的必要性，与 Loss 数量无关
  • 📊 2loss 的冲突比例甚至更高（78% vs 64%），可能是因为去掉 region loss 后，content 和 context 的梯度更直接冲突

4. OV-COCO 目标检测评估 ✅

Integrated EVA-B 结果 (work_dirs/integrated_ovcoco):

Epoch base_ap50 novel_ap50 all_ap50 bbox_mAP
2 53.69 36.51 49.19 0.264
3 55.47 34.56 50.00 0.277

DeCLIP 结果（来自论文）：base_ap50=43.99, novel_ap50=26.74

5. 特征可视化 ✅

结果目录: feature_visualization/results/

  • panoptic_comparison/ - 100张Panoptic可视化（含mIoU评估）
  • feature_comparison/ - 5张PCA+KMeans对比

6. CKA 分析 ✅

模型 CKA(Q, V)
Pretrained EVA-CLIP 0.9958
DeCLIP+ (trained) 0.9932

结论: CKA变化很小，不是验证解耦效果的最佳指标。

📈 关键发现

梯度冲突是真实存在的（无论 2loss 还是 3loss）

  • 3loss: 梯度冲突比例 63.8%，深层冲突 70%+
  • 2loss: 梯度冲突比例 **78.0%**，深层冲突 85-88%
  • ✅ 这证明了解耦蒸馏的必要性与 Loss 数量无关
  • 2loss 冲突更严重，可能因为去掉 region loss 后梯度更直接冲突

解耦蒸馏收敛更好

  • DeCLIP: Total Loss = 0.59
  • Integrated (2loss): Total Loss = 1.00 (1.7倍差距)
  • Integrated (3loss，归一化后): Total Loss = 1.62 (2.7倍差距)

对齐 Loss 配置后结论一致

  • 即使 2loss 完全对齐 DeCLIP 的 Loss 权重配置
  • Integrated 仍然存在显著的梯度冲突和收敛差距
  • 证明性能差距来自架构设计（解耦 vs 集成），而非 Loss 配置

⏳ 待完成任务

高优先级

  • Resume JEPA-GSC 实验 ✅
  • 运行 DeCLIP baseline 训练 ✅
  • Resume Integrated 实验 ✅

中优先级

  • OV-COCO 环境配置 ✅
  • OV-COCO mAP 评估 ✅
  • Loss 曲线对比分析 ✅
  • 梯度冲突分析可视化 ✅

低优先级

  • 特征可视化 ✅
  • 论文撰写

🚀 运行方式

1. 2loss 分析（推荐） 

cd /mnt/bn/strategy-mllm-train/user/wangjunjie/code/xiaomoguhzz/DeCLIP_private/decoupling_analysis/2loss

# Step 1: 提取数据
python extract_training_data.py

# Step 2: 绘制 Loss 曲线
python plot_loss_curves.py

# Step 3: 绘制梯度冲突分析
python plot_gradient_analysis.py

# Step 4: 2loss vs 3loss 对比
python compare_2loss_vs_3loss.py

2. 3loss 分析（原始实验） 

cd /mnt/bn/strategy-mllm-train/user/wangjunjie/code/xiaomoguhzz/DeCLIP_private/decoupling_analysis/3loss

python loss_analysis/extract_training_data.py
python loss_analysis/plot_loss_curves.py
python gradient_analysis/plot_gradient_analysis.py

3. 特征可视化 

cd /mnt/bn/strategy-mllm-train/user/wangjunjie/code/xiaomoguhzz/DeCLIP_private/decoupling_analysis

# Panoptic 可视化（推荐）
CUDA_VISIBLE_DEVICES=0 python feature_visualization/visualize_panoptic_comparison.py

# CKA 分析
CUDA_VISIBLE_DEVICES=0 python feature_visualization/run_cka_comparison.py

📁 文件结构 

decoupling_analysis/
├── DESIGN.md                          # 设计文档
├── PROGRESS.md                        # 进度文档（本文件）
│
├── 2loss/                             # 2loss 实验分析（对齐配置）
│   ├── extract_training_data.py       # 数据提取
│   ├── plot_loss_curves.py            # Loss曲线绘制
│   ├── plot_gradient_analysis.py      # 梯度冲突分析
│   ├── compare_2loss_vs_3loss.py      # 2loss vs 3loss 对比
│   └── results/
│       ├── data/                      # JSONL数据
│       ├── comparison/                # 对比分析结果
│       ├── *_2loss_paper.png/pdf      # 论文图表
│       └── *.json                     # 统计数据
│
├── 3loss/                             # 3loss 实验分析（原始实验）
│   ├── loss_analysis/                 # Loss分析模块
│   │   ├── extract_training_data.py
│   │   ├── plot_loss_curves.py
│   │   └── results/
│   └── gradient_analysis/             # 梯度分析模块
│       ├── gradient_analysis.py
│       ├── plot_gradient_analysis.py
│       └── results/
│
└── feature_visualization/             # 特征可视化模块
    ├── pca_visualization.py           # PCA工具
    ├── cka_analysis.py                # CKA工具
    ├── run_cka_comparison.py          # CKA对比脚本
    ├── visualize_feature_comparison.py    # 特征对比（简单版）
    ├── visualize_panoptic_comparison.py   # Panoptic可视化（推荐）
    └── results/
        ├── feature_comparison/        # 特征对比结果
        └── panoptic_comparison/       # Panoptic结果

📊 实验配置

关键区别

配置 DeCLIP (解耦) Integrated 2loss Integrated 3loss
最后一层 forward_without_rcffn 完整 forward 完整 forward
残差连接 ❌ 去掉 ✅ 保留 ✅ 保留
MLP ❌ 去掉 ✅ 保留 ✅ 保留
Context Loss 作用于 V self-sim 作用于融合特征 作用于融合特征
Content Loss 作用于 Q features 作用于融合特征 作用于融合特征
Region Loss ❌ 无 ❌ 无 ✅ 有
Content 权重 1.0 1.0 1.0
Context 权重 0.25 0.25 1.0

训练配置（统一）

配置 值
VFM Teacher DINOv2-B
Epochs 6
Learning Rate 1e-5
Batch Size 16 (total, 2 per GPU × 8 GPUs)
Dataset COCO
Image Size 560 (EVA-B) / 336 (EVA-L)

日志路径

实验 日志目录
DeCLIP logs/DeCLIP_EVA-B_DINOv2-B_560/
Integrated 2loss logs/Integrated_EVA-B_DINOv2-B_560_2loss/
Integrated 2loss + 梯度分析 logs/Integrated_EVA-B_DINOv2-B_560_grad_analysis_2loss/
Integrated 3loss logs/Integrated_EVA-B_DINOv2-B_560_3loss/
Integrated 3loss + 梯度分析 logs/Integrated_EVA-B_DINOv2-B_560_grad_analysis_3loss/