# 鲁棒性评估工具

用于评估模型在不同图像退化条件下的性能。

## 快速开始

### 1. 选择数据集 & 编辑脚本

编辑 `robustness_eval/run_eval.sh`，修改以下参数：

```bash
# 数据集名称（与 robust_datasets.py 中的键一致）
DATASET="cityscapes"   # 可选: cityscapes, coco_stuff164k, ade20k, voc20, voc21, context59, context60, coco_object

# 若想手动指定配置，可填 CONFIG；否则保持空，脚本会根据 DATASET 自动解析
CONFIG=""

# 退化类型: common/validation/all/noise/blur/weather/digital
CORRUPTIONS="common"

# 严重程度
SEVERITIES="1 2 3 4 5"

# 指定可用的GPU ID（根据实际情况修改）
GPUS=(0 2 3 4 5 6 7)
```

### 2. 运行评估

```bash
bash robustness_eval/run_eval.sh
```

## 参数说明

### GPU配置
- `GPUS`: 指定可用的GPU ID数组，例如 `(0 2 3 4 5 6 7)`

### 退化类型
- `CORRUPTIONS`: 退化类型类别（一次只能选择一个）
  - `common`: 常见退化类型（推荐，包含15种）
  - `all`: 所有退化类型（75种）
  - `validation`: 验证集退化类型
  - `noise`: 噪声类（gaussian_noise, shot_noise, impulse_noise, speckle_noise）
  - `blur`: 模糊类（defocus_blur, glass_blur, motion_blur, zoom_blur）
  - `weather`: 天气类（snow, frost, fog, brightness）
  - `digital`: 数字类（contrast, elastic_transform, pixelate, jpeg_compression）

### 其他参数
- `CONFIG`: 配置文件路径
- `WORK_DIR`: 工作目录（默认: `robustness_eval/results`）
- `SEVERITIES`: 严重程度列表（默认: `1 2 3 4 5`）

### 数据集预置配置（8个）
- `robustness_eval/robust_datasets.py` 预置 8 个鲁棒性配置（均位于 `robustness_eval/configs/`）  
  支持: cityscapes, coco_stuff164k, ade20k, voc20, voc21, context59, context60, coco_object
- 查看支持的数据集：
  ```bash
  python robustness_eval/robust_datasets.py --list
  ```
- 获取某个数据集的鲁棒性配置路径（示例 cityscapes）：
  ```bash
  CONFIG=$(python robustness_eval/robust_datasets.py --name cityscapes)
  ```
  然后将 `CONFIG` 写入 `run_eval.sh` 中的 CONFIG 变量即可。

## 评估流程

1. **编辑脚本**: 修改 `run_eval.sh` 中的GPU ID和其他参数
2. **运行评估**: 执行 `bash robustness_eval/run_eval.sh`
3. **收集结果**: 评估完成后，收集所有结果并生成Excel

```bash
python robustness_eval/collect_all_results.py --results-dir robustness_eval/results
```

结果将保存到 `robustness_eval/results.xlsx`

## 注意事项

- **退化类型**: `CORRUPTIONS` 参数一次只能选择一个预定义的类别（如 `common`、`all`、`noise` 等），不能直接指定多个具体的退化类型名称
- **GPU选择**: 根据实际可用的GPU修改 `GPUS` 数组，避免使用不可用的GPU
- **评估时间**: 使用 `all` 会评估所有75种退化类型，耗时较长，建议先用 `common` 测试

## 文件说明

- `run_eval.sh`: 评估启动脚本（推荐使用）
- `run_robustness_eval_multi_gpu.py`: 多GPU并行评估主程序
- `run_robustness_eval.py`: 单GPU评估主程序
- `collect_all_results.py`: 收集结果并生成Excel
- `save_results_to_excel.py`: 保存结果到Excel
- `prepare_corrupted_images.py`: 准备退化图片