OV-COCO Failure Case Analysis
针对TPAMI审稿意见，分析DeCLIP在OV-COCO数据集上的failure cases，展示DeCLIP相比CLIPSelf和CLIP的优势，同时识别有待改进的场景。
审稿人要求
(2) failure case analysis (e.g., small objects <32×32 pixels, complex backgrounds with multiple overlapping objects)
核心功能
- 跨模型对比分析：比较DeCLIP、CLIPSelf、CLIP在同一GT目标上的定位与分类表现
- 聚焦 Novel + Small：分析 novel 类别中的小目标（<32×32像素）
- 优势Case可视化：DeCLIP分类正确而其他模型分类错误的case
- 未解决Case可视化：DeCLIP分类错误的小目标case
项目结构
failure_case_analysis/
├── ov_coco/
│ ├── configs/ # 6个模型配置文件
│ ├── scripts/ # 推理/分析脚本
│ ├── compare_models_v2.py
│ ├── visualize_comparison.py
│ ├── generate_paper_report.py
│ ├── convert_pkl_to_json.py
│ └── analysis_output/ # 分析输出（新生成）
└── analysis_output/ # 历史输出（旧版路径，保留不动）
Quick Start
方式1：复用现有Prediction（推荐）
如果 ov_coco/results/ 目录下已有预测结果，直接运行分析和可视化：
cd ov_coco/scripts
# 使用ViT-B/16
bash run_novel_small_analysis.sh vitb16
# 使用ViT-L/14
bash run_novel_small_analysis.sh vitl14
方式2：从头运行完整流程
cd ov_coco/scripts
# 使用ViT-B/16，8卡
bash run_comparison.sh vitb16 8
# 使用ViT-L/14，8卡
bash run_comparison.sh vitl14 8
可视化参数说明
python visualize_comparison.py \
--cases analysis_output/comparison_vitb16/top_advantage_cases.json \
--ann-file /path/to/instances_val2017_all_2.json \
--img-dir /path/to/val2017 \
--output analysis_output/visualizations_vitb16/advantage \
--case-type advantage \
--dpi 150
| 参数 | 说明 |
|---|---|
--case-type |
advantage=优势case，unsolved=未解决case |
模型配置
| 模型 | feature_mode | Checkpoint |
|---|---|---|
| DeCLIP-B | 'csa' |
/opt/tiger/xiaomoguhzz/declip2_ovcoco_detector/EVAB_dinov2B_epoch2.pth |
| DeCLIP-L | 'csa' |
/opt/tiger/xiaomoguhzz/declip2_ovcoco_detector/EVAL_dinov2L_epoch3.pth |
| CLIPSelf-B | 'maskclip' |
/opt/tiger/xiaomoguhzz/fvit_eva_vitb16_ovcoco_clipself_proposals.pth |
| CLIPSelf-L | 'maskclip' |
/opt/tiger/xiaomoguhzz/fvit_eva_vitl14_ovcoco_clipself_proposals.pth |
| CLIP-B | 'qq' |
../../CLIPSelf/F-ViT/work_dirs/clearclip_ovcoco/epoch_3.pth |
| CLIP-L | 'qq' |
../../CLIPSelf/F-ViT/work_dirs/clearclip_ovcoco_large/epoch_3.pth |
故障排除
1. 数据集路径问题
检查软链接是否存在：
ls -la ../../CLIPSelf/F-ViT/data/coco/
2. 找不到prediction文件
确保先运行推理：
bash scripts/run_comparison.sh vitb16 8
3. 图像显示问题
import matplotlib
matplotlib.use('Agg') # 无GUI环境
参考
- CLIPSelf项目:
../../CLIPSelf/F-ViT/ - DeCLIP HuggingFace:
wangjunjie2024/declip2_ovcoco_detector - OV-COCO数据集: COCO 2017 Val + 65类Open-Vocabulary标注