analysis/failure_case_analysis/ov_coco/README.md

# OV-COCO Failure Case Analysis

针对TPAMI审稿意见，分析DeCLIP在OV-COCO数据集上的failure cases，展示DeCLIP相比CLIPSelf和CLIP的优势，同时识别有待改进的场景。

## 审稿人要求

> (2) failure case analysis (e.g., small objects <32×32 pixels, complex backgrounds with multiple overlapping objects)

## 核心功能

1. **跨模型对比分析**：比较DeCLIP、CLIPSelf、CLIP在同一GT目标上的定位与分类表现
2. **聚焦 Novel + Small**：分析 novel 类别中的小目标（<32×32像素）
3. **优势Case可视化**：DeCLIP分类正确而其他模型分类错误的case
4. **未解决Case可视化**：DeCLIP分类错误的小目标case

## 项目结构

```
failure_case_analysis/
├── ov_coco/
│   ├── configs/                          # 6个模型配置文件
│   ├── scripts/                          # 推理/分析脚本
│   ├── compare_models_v2.py
│   ├── visualize_comparison.py
│   ├── generate_paper_report.py
│   ├── convert_pkl_to_json.py
│   └── analysis_output/                  # 分析输出（新生成）
└── analysis_output/                      # 历史输出（旧版路径，保留不动）
```

## Quick Start

### 方式1：复用现有Prediction（推荐）

如果 `ov_coco/results/` 目录下已有预测结果，直接运行分析和可视化：

```bash
cd ov_coco/scripts

# 使用ViT-B/16
bash run_novel_small_analysis.sh vitb16

# 使用ViT-L/14
bash run_novel_small_analysis.sh vitl14
```

### 方式2：从头运行完整流程

```bash
cd ov_coco/scripts

# 使用ViT-B/16，8卡
bash run_comparison.sh vitb16 8

# 使用ViT-L/14，8卡
bash run_comparison.sh vitl14 8
```

## 可视化参数说明

```bash
python visualize_comparison.py \
    --cases analysis_output/comparison_vitb16/top_advantage_cases.json \
    --ann-file /path/to/instances_val2017_all_2.json \
    --img-dir /path/to/val2017 \
    --output analysis_output/visualizations_vitb16/advantage \
    --case-type advantage \
    --dpi 150
```

| 参数 | 说明 |
|------|------|
| `--case-type` | `advantage`=优势case，`unsolved`=未解决case |

## 模型配置

| 模型 | feature_mode | Checkpoint |
|------|--------------|------------|
| DeCLIP-B | `'csa'` | `/opt/tiger/xiaomoguhzz/declip2_ovcoco_detector/EVAB_dinov2B_epoch2.pth` |
| DeCLIP-L | `'csa'` | `/opt/tiger/xiaomoguhzz/declip2_ovcoco_detector/EVAL_dinov2L_epoch3.pth` |
| CLIPSelf-B | `'maskclip'` | `/opt/tiger/xiaomoguhzz/fvit_eva_vitb16_ovcoco_clipself_proposals.pth` |
| CLIPSelf-L | `'maskclip'` | `/opt/tiger/xiaomoguhzz/fvit_eva_vitl14_ovcoco_clipself_proposals.pth` |
| CLIP-B | `'qq'` | `../../CLIPSelf/F-ViT/work_dirs/clearclip_ovcoco/epoch_3.pth` |
| CLIP-L | `'qq'` | `../../CLIPSelf/F-ViT/work_dirs/clearclip_ovcoco_large/epoch_3.pth` |

## 故障排除

### 1. 数据集路径问题

检查软链接是否存在：
```bash
ls -la ../../CLIPSelf/F-ViT/data/coco/
```

### 2. 找不到prediction文件

确保先运行推理：
```bash
bash scripts/run_comparison.sh vitb16 8
```

### 3. 图像显示问题

```python
import matplotlib
matplotlib.use('Agg')  # 无GUI环境
```

## 参考

- CLIPSelf项目: `../../CLIPSelf/F-ViT/`
- DeCLIP HuggingFace: `wangjunjie2024/declip2_ovcoco_detector`
- OV-COCO数据集: COCO 2017 Val + 65类Open-Vocabulary标注