downstream/ProxyCLIP_TPAMI/robustness_eval/README.md

鲁棒性评估工具

用于评估模型在不同图像退化条件下的性能。

快速开始

1. 选择数据集 & 编辑脚本

编辑 robustness_eval/run_eval.sh，修改以下参数：

# 数据集名称（与 robust_datasets.py 中的键一致）
DATASET="cityscapes"   # 可选: cityscapes, coco_stuff164k, ade20k, voc20, voc21, context59, context60, coco_object

# 若想手动指定配置，可填 CONFIG；否则保持空，脚本会根据 DATASET 自动解析
CONFIG=""

# 退化类型: common/validation/all/noise/blur/weather/digital
CORRUPTIONS="common"

# 严重程度
SEVERITIES="1 2 3 4 5"

# 指定可用的GPU ID（根据实际情况修改）
GPUS=(0 2 3 4 5 6 7)

2. 运行评估

bash robustness_eval/run_eval.sh

参数说明

GPU配置

• GPUS: 指定可用的GPU ID数组，例如 (0 2 3 4 5 6 7)

退化类型

• CORRUPTIONS: 退化类型类别（一次只能选择一个）
  • common: 常见退化类型（推荐，包含15种）
  • all: 所有退化类型（75种）
  • validation: 验证集退化类型
  • noise: 噪声类（gaussian_noise, shot_noise, impulse_noise, speckle_noise）
  • blur: 模糊类（defocus_blur, glass_blur, motion_blur, zoom_blur）
  • weather: 天气类（snow, frost, fog, brightness）
  • digital: 数字类（contrast, elastic_transform, pixelate, jpeg_compression）

其他参数

• CONFIG: 配置文件路径
• WORK_DIR: 工作目录（默认: robustness_eval/results）
• SEVERITIES: 严重程度列表（默认: 1 2 3 4 5）

数据集预置配置（8个）

• robustness_eval/robust_datasets.py 预置 8 个鲁棒性配置（均位于 robustness_eval/configs/）
  支持: cityscapes, coco_stuff164k, ade20k, voc20, voc21, context59, context60, coco_object
• 查看支持的数据集：

  python robustness_eval/robust_datasets.py --list
  

• 获取某个数据集的鲁棒性配置路径（示例 cityscapes）：

  CONFIG=$(python robustness_eval/robust_datasets.py --name cityscapes)
  

  然后将 CONFIG 写入 run_eval.sh 中的 CONFIG 变量即可。

评估流程

1. 编辑脚本: 修改 run_eval.sh 中的GPU ID和其他参数
2. 运行评估: 执行 bash robustness_eval/run_eval.sh
3. 收集结果: 评估完成后，收集所有结果并生成Excel

python robustness_eval/collect_all_results.py --results-dir robustness_eval/results

结果将保存到 robustness_eval/results.xlsx

注意事项

• 退化类型: CORRUPTIONS 参数一次只能选择一个预定义的类别（如 common、all、noise 等），不能直接指定多个具体的退化类型名称
• GPU选择: 根据实际可用的GPU修改 GPUS 数组，避免使用不可用的GPU
• 评估时间: 使用 all 会评估所有75种退化类型，耗时较长，建议先用 common 测试

文件说明

• run_eval.sh: 评估启动脚本（推荐使用）
• run_robustness_eval_multi_gpu.py: 多GPU并行评估主程序
• run_robustness_eval.py: 单GPU评估主程序
• collect_all_results.py: 收集结果并生成Excel
• save_results_to_excel.py: 保存结果到Excel
• prepare_corrupted_images.py: 准备退化图片