| # 鲁棒性评估工具 |
|
|
| 用于评估模型在不同图像退化条件下的性能。 |
|
|
| ## 快速开始 |
|
|
| ### 1. 选择数据集 & 编辑脚本 |
|
|
| 编辑 `robustness_eval/run_eval.sh`，修改以下参数： |
|
|
| ```bash |
| # 数据集名称（与 robust_datasets.py 中的键一致） |
| DATASET="cityscapes" # 可选: cityscapes, coco_stuff164k, ade20k, voc20, voc21, context59, context60, coco_object |
| |
| # 若想手动指定配置，可填 CONFIG；否则保持空，脚本会根据 DATASET 自动解析 |
| CONFIG="" |
| |
| # 退化类型: common/validation/all/noise/blur/weather/digital |
| CORRUPTIONS="common" |
| |
| # 严重程度 |
| SEVERITIES="1 2 3 4 5" |
| |
| # 指定可用的GPU ID（根据实际情况修改） |
| GPUS=(0 2 3 4 5 6 7) |
| ``` |
|
|
| ### 2. 运行评估 |
|
|
| ```bash |
| bash robustness_eval/run_eval.sh |
| ``` |
|
|
| ## 参数说明 |
|
|
| ### GPU配置 |
| - `GPUS`: 指定可用的GPU ID数组，例如 `(0 2 3 4 5 6 7)` |
|
|
| ### 退化类型 |
| - `CORRUPTIONS`: 退化类型类别（一次只能选择一个） |
| - `common`: 常见退化类型（推荐，包含15种） |
| - `all`: 所有退化类型（75种） |
| - `validation`: 验证集退化类型 |
| - `noise`: 噪声类（gaussian_noise, shot_noise, impulse_noise, speckle_noise） |
| - `blur`: 模糊类（defocus_blur, glass_blur, motion_blur, zoom_blur） |
| - `weather`: 天气类（snow, frost, fog, brightness） |
| - `digital`: 数字类（contrast, elastic_transform, pixelate, jpeg_compression） |
|
|
| ### 其他参数 |
| - `CONFIG`: 配置文件路径 |
| - `WORK_DIR`: 工作目录（默认: `robustness_eval/results`） |
| - `SEVERITIES`: 严重程度列表（默认: `1 2 3 4 5`） |
|
|
| ### 数据集预置配置（8个） |
| - `robustness_eval/robust_datasets.py` 预置 8 个鲁棒性配置（均位于 `robustness_eval/configs/`） |
| 支持: cityscapes, coco_stuff164k, ade20k, voc20, voc21, context59, context60, coco_object |
| - 查看支持的数据集： |
| ```bash |
| python robustness_eval/robust_datasets.py --list |
| ``` |
| - 获取某个数据集的鲁棒性配置路径（示例 cityscapes）： |
| ```bash |
| CONFIG=$(python robustness_eval/robust_datasets.py --name cityscapes) |
| ``` |
| 然后将 `CONFIG` 写入 `run_eval.sh` 中的 CONFIG 变量即可。 |
|
|
| ## 评估流程 |
|
|
| 1. **编辑脚本**: 修改 `run_eval.sh` 中的GPU ID和其他参数 |
| 2. **运行评估**: 执行 `bash robustness_eval/run_eval.sh` |
| 3. **收集结果**: 评估完成后，收集所有结果并生成Excel |
|
|
| ```bash |
| python robustness_eval/collect_all_results.py --results-dir robustness_eval/results |
| ``` |
|
|
| 结果将保存到 `robustness_eval/results.xlsx` |
|
|
| ## 注意事项 |
|
|
| - **退化类型**: `CORRUPTIONS` 参数一次只能选择一个预定义的类别（如 `common`、`all`、`noise` 等），不能直接指定多个具体的退化类型名称 |
| - **GPU选择**: 根据实际可用的GPU修改 `GPUS` 数组，避免使用不可用的GPU |
| - **评估时间**: 使用 `all` 会评估所有75种退化类型，耗时较长，建议先用 `common` 测试 |
|
|
| ## 文件说明 |
|
|
| - `run_eval.sh`: 评估启动脚本（推荐使用） |
| - `run_robustness_eval_multi_gpu.py`: 多GPU并行评估主程序 |
| - `run_robustness_eval.py`: 单GPU评估主程序 |
| - `collect_all_results.py`: 收集结果并生成Excel |
| - `save_results_to_excel.py`: 保存结果到Excel |
| - `prepare_corrupted_images.py`: 准备退化图片 |
|
|
|
|
