metadata
license: other
tags:
- medical
- benchmark
- multimodal
- agentic
AutoMedBench-Full-release
AutoMedBench 是一个面向自主医疗 AI 研究智能体的工作流感知基准。它同时评估 最终任务产出物和 S1-S5 研究工作流：计划、配置、验证、推理、提交。
本完整版发布包含 7 个赛道、48 个任务，每个任务包含 Lite 和 Standard 两个 层级，共 96 个"任务 × 层级"组合。每个组合均有预构建 Docker 镜像。数据集 字节不包含在发布中 — 用户需独立准备数据并在运行时挂载。
如何提交
提交邮箱：jliu718@ucsc.edu
建议邮件主题：AutoMedBench submission - <智能体/团队名称>
| 优先级 | 操作 | 原因 |
|---|---|---|
| 必须 | 在基准上至少运行 5 次重复实验。 智能体运行可能因模型采样、工具选择、网络时序和依赖配置等因素产生变化。多次重复运行可提供比单次运行更稳定的真实性能估计。 | |
| 必须 | 将所有输出报告和对话/转录文件打包为一个压缩文件，发送至 jliu718@ucsc.edu。 | 完整包让维护者可以验证最终产出物、审计工作流并检查多次运行的稳定性。 |
| 推荐 | 使用编码智能体来启动、监控和收集运行结果。 | 基准测试运行时间较长，可能需要查看日志、快速修复和清理对话文件。 |
快速开始
# 1. 下载赛道 Docker 镜像（以分割为例）
# 从本仓库下载：docker/segmentation/automedbench-segmentation-docker-image-v0.1.0.tar.gz
# 2. 加载 Docker 镜像
docker load -i automedbench-segmentation-docker-image-v0.1.0.tar.gz
# 3. 配置凭据
cp env.example .env
# 编辑 .env 填入你的 API 密钥
# 4. 运行任务
python docker/orchestrator.py \
--agent claude-opus-4-6 \
--task kidney-seg-task \
--tier lite \
--n-patients 20
Docker 镜像包含基准测试框架和评分代码。凭据仅在运行时通过 .env 或 shell
环境变量传入。数据集文件需单独挂载（参见下方数据获取）。
Docker 镜像包
本仓库中存储了按赛道划分的预构建 Docker 镜像包：
docker/classification/automedbench-classification-docker-image-v0.1.0.tar.gz
docker/detection/automedbench-detection-docker-image-v0.1.0.tar.gz
docker/enhancement/automedbench-enhancement-docker-image-v0.1.0.tar.gz
docker/report/automedbench-report-docker-image-v0.1.0.tar.gz
docker/segmentation/automedbench-segmentation-docker-image-v0.1.0.tar.gz
docker/synthesis/automedbench-synthesis-docker-image-v0.1.0.tar.gz
docker/vqa/automedbench-vqa-docker-image-v0.1.0.tar.gz
每个归档约 3.5 GB，包含该赛道全部 Lite + Standard 任务层级镜像。共享运行时
归档（runtime/automedbench-full-runtime-0.1.0.tar.gz，约 4 GB）提供公共
agent 运行时和 7 个赛道的 evaluator 镜像。
下载后加载全部镜像：
docker load -i runtime/automedbench-full-runtime-0.1.0.tar.gz
docker load -i docker/segmentation/automedbench-segmentation-docker-image-v0.1.0.tar.gz
# ... 按需重复其他赛道
发布任务（48 个任务，96 个 Lite/Standard 组合）
| 赛道 | 任务数 | 评估指标 |
|---|---|---|
| 分割 (Segmentation) | 14 | Dice（器官 + 病灶） |
| 图像增强 (Enhancement) | 7 | SSIM |
| 视觉问答 (VQA) | 9 | 答案准确率 |
| 报告生成 (Report) | 5 | 临床报告质量 |
| 检测 (Detection) | 4 | mAP@0.5 |
| 分类 (Classification) | 5 | 标签准确率 |
| 合成 (Synthesis) | 4 | SSIM |
数据获取
本发布不包含数据集字节。 每个任务引用一个上游数据集，需独立下载。下表列出 每个任务的数据来源、下载链接、许可和访问要求。
分割（14 个任务）
| 任务 ID | 上游数据集 | 下载链接 | 许可 | 访问 | 大小 | 状态 |
|---|---|---|---|---|---|---|
kidney-seg-task |
KiTS19 | kits19.grand-challenge.org | CC BY-NC-SA 4.0 | 公开 | ~200 MB/例 | 可获取 |
pancreas-seg-task |
PanTS | github.com/MrGiovanni/PanTS | CC BY-NC-ND 4.0 | 公开 | ~300–346 GB | 可获取 |
pancreas-oar-seg-task |
PanTS | github.com/MrGiovanni/PanTS | CC BY-NC-ND 4.0 | 公开 | ~300–346 GB | 可获取 |
liver-seg-task |
MSD Task03 肝脏 | medicaldecathlon.com | 来源冲突 | 公开 | ~28.9 GB | 已验证 |
aeropath-seg-task |
AeroPath | zenodo.org/records/10069289 | CC BY 4.0 | 公开 | ~5.04 GB | 可获取 |
tsg-multiorgan-seg-task |
TotalSegmentator v2.0.1 | zenodo.org/records/10047263 | CC BY 4.0 | 公开 | ~3.24 GB | 已验证 |
colon-seg-task |
MSD Task10 结肠 | medicaldecathlon.com | CC BY-SA 4.0 | 公开 | ~6.24 GB | 已验证 |
hepaticvessel-seg-task |
MSD Task08 肝血管 | medicaldecathlon.com | CC BY-SA 4.0 | 公开 | ~9.35 GB | 已验证 |
spleen-seg-task |
MSD Task09 脾脏 | medicaldecathlon.com | CC BY-SA 4.0 | 公开 | ~1.61 GB | 已验证 |
heart-seg-task |
MSD Task02 心脏 | medicaldecathlon.com | CC BY-SA 4.0 | 公开 | ~456 MB | 已验证 |
prostate-seg-task |
MSD Task05 前列腺 | medicaldecathlon.com | CC BY-SA 4.0 | 公开 | ~240 MB | 已验证 |
feta-seg-task |
FeTA | zenodo.org/records/4541606 | 研究协议 | 需授权 | — | 外部阻塞 |
panther-t1-seg-task |
PANTHER | zenodo.org/records/15192302 | CC BY-NC 4.0 + 访问控制 | 受限 | — | 外部阻塞 |
panther-t2-seg-task |
PANTHER | zenodo.org/records/15192302 | CC BY-NC 4.0 + 访问控制 | 受限 | — | 外部阻塞 |
图像增强（7 个任务）
| 任务 ID | 上游数据集 | 下载链接 | 许可 | 访问 | 大小 | 状态 |
|---|---|---|---|---|---|---|
ldct-denoising-task |
AAPM 低剂量 CT 大挑战 | aapm.org/grandchallenge/lowdosect | 无明确再分发许可 | 公共图书馆 | ~42 MB 暂存 | 需下载 |
lidc-idri-denoising-task |
LIDC-IDRI | cancerimagingarchive.net/collection/lidc-idri | CC BY 3.0 | 公开 | ~136.55 GB | 可获取 |
deeplesion-denoising-task |
NIH DeepLesion | nihcc.app.box.com/v/DeepLesion | 无明确许可 | 公开 | 未知 | 可获取 |
mri-sr-task |
fastMRI | fastmri.med.nyu.edu | 协议禁止再分发 | 需申请 | — | 外部阻塞 |
brats-t1c-sr-task |
BraTS 2023 GLI | synapse.org/Synapse:syn51156910 | 受控访问 | 受控 | — | 外部阻塞 |
ixi-t1-sr-task |
IXI T1 | brain-development.org/ixi-dataset | CC BY-SA 3.0 | 公开 | 未明确 | 可获取 |
nih-cxr-sr-task |
NIH ChestXray14 | nihcc.app.box.com/v/ChestXray-NIHCC | CC0 (NIH Kaggle) | 公开 | ~45.08 GB | 可获取 |
视觉问答（9 个任务）
| 任务 ID | 上游数据集 | 下载链接 | 许可 | 访问 | 大小 | 状态 |
|---|---|---|---|---|---|---|
pathvqa-task |
PathVQA | huggingface.co/datasets/flaviagiammarino/path-vqa | MIT | 公开 | ~785 MB | 已验证 |
vqa-rad-task |
VQA-RAD | huggingface.co/datasets/flaviagiammarino/vqa-rad | CC0 1.0 | 公开 | ~34.5 MB | 已验证 |
medframeqa-task |
MedFrameQA | huggingface.co/datasets/SuhaoYu1020/MedFrameQA | CC BY 4.0 | 公开 | ~571 MB | 已验证 |
slake-task |
SLAKE | huggingface.co/datasets/BoKelvin/SLAKE | CC BY 4.0 | 公开 | ~217 MB | 已验证 |
medxpertqa-mm-task |
MedXpertQA | huggingface.co/datasets/TsinghuaC3I/MedXpertQA | MIT | 公开 | ~523 MB | 已验证 |
vqa-kvasir-task |
Kvasir-VQA | huggingface.co/datasets/SimulaMet-HOST/Kvasir-VQA | CC BY-NC 4.0 + 基准许可 | 需许可 | ~15.18 GB | 外部阻塞 |
vqa-omnimedvqa-task |
OmniMedVQA | huggingface.co/datasets/foreverbeliever/OmniMedVQA | 混合（无统一许可） | 混合 | ~10.70 GB | 外部阻塞 |
vqa-pmc-vqa-task |
PMC-VQA | huggingface.co/datasets/RadGenome/PMC-VQA | CC BY-SA | 公开 | ~21.77 GB | 已验证 |
vqa-mmmu-medical-task |
MMMU 医学子集 | huggingface.co/datasets/MMMU/MMMU | Apache-2.0 | 公开 | ~2.09 GB | 已验证 |
报告生成（5 个任务）
| 任务 ID | 上游数据集 | 下载链接 | 许可 | 访问 | 大小 | 状态 |
|---|---|---|---|---|---|---|
mimic-cxr-report-task |
MIMIC-CXR | physionet.org/content/mimic-cxr/2.1.0 | DUA 禁止共享 | 需凭据 DUA | 377,110 张图像 | 外部阻塞 |
iu-xray-report-task |
IU Open-i | openi.nlm.nih.gov | 无明确批量再分发许可 | 公开搜索 | 未知 | 可获取 |
chexpert-plus-cxr-task |
CheXpert Plus | aimi.stanford.edu/datasets/chexpert-plus | 镜像未声明许可 | 公开镜像 | ~636 MB | 已验证 |
pathology-caption-100-task |
PathCap | huggingface.co/datasets/jamessyx/PathCap | CC BY-NC 2.0 + 点击同意 | 自动受限 | ~13.7 GB | 已验证 |
pathology-caption-500-task |
PathCap | huggingface.co/datasets/jamessyx/PathCap | CC BY-NC 2.0 + 点击同意 | 自动受限 | ~13.7 GB | 已验证 |
检测（4 个任务）
| 任务 ID | 上游数据集 | 下载链接 | 许可 | 访问 | 大小 | 状态 |
|---|---|---|---|---|---|---|
vindr-cxr-det-task |
VinDr-CXR | physionet.org/content/vindr-cxr/1.0.0 | PhysioNet 认证健康数据许可 | 需凭据 DUA | — | 外部阻塞 |
bccd-det-task |
BCCD | github.com/Shenggan/BCCD_Dataset | MIT | 公开 | ~4.95 MB | 已验证 |
dentex-det-task |
DENTEX | huggingface.co/datasets/ibrahimhamamci/DENTEX | CC BY-NC-SA 4.0 | 公开 | ~11.84 GB | 已验证 |
grazpedwri-det-task |
GRAZPEDWRI-DX | figshare.com/articles/dataset/GRAZPEDWRI-DX/14825193 | CC BY 4.0 | 公开 | ~16.26 GB | 已验证 |
分类（5 个任务）
| 任务 ID | 上游数据集 | 下载链接 | 许可 | 访问 | 大小 | 状态 |
|---|---|---|---|---|---|---|
braintumor-cls-task |
Brain Tumor MRI | kaggle.com/datasets/masoudnickparvar/brain-tumor-mri-dataset | CC BY 4.0 | 公开 | ~167.85 MB | 可获取 |
crc-histology-cls-task |
NCT-CRC-HE-100K | zenodo.org/records/1214456 | CC BY 4.0 | 公开 | ~11.7 GB | 可获取 |
patchcamelyon-cls-task |
PatchCamelyon | github.com/basveeling/pcam | CC0 | 公开 | ~7.7 GB | 可获取 |
chest-xray-pneumonia-cls-task |
Kermany 胸片肺炎 | data.mendeley.com/datasets/rscbjbr9sj/2 | CC BY 4.0 | 公开 | 未明确 | 可获取 |
skin-lesion-cls-task |
ISIC Archive | isic-archive.com | 逐图许可（未冻结） | 公开 | ~6.26 MB 暂存 | 已验证 |
合成（4 个任务）
| 任务 ID | 上游数据集 | 下载链接 | 许可 | 访问 | 大小 | 状态 |
|---|---|---|---|---|---|---|
synthrad2025-mrct-task |
SynthRAD2025 | zenodo.org/records/15373853 | CC BY-NC 4.0 | 公开 | ~14.8 GB | 可获取 |
ctorg-ctsr-task |
CT-ORG | cancerimagingarchive.net/collection/ct-org | CC BY 3.0 | 公开 | 未公开 | 可获取 |
msd-pancreas-ctsr-task |
MSD Task07 胰腺 | medicaldecathlon.com | CC BY-SA 4.0 | 公开 | ~12.3 GB | 已验证 |
totalsegmentator-ctsr-task |
TotalSegmentator | github.com/wasserth/TotalSegmentator | CC BY 4.0 | 公开 | 未冻结 | 可获取 |
数据获取汇总
| 状态 | 数量 | 说明 |
|---|---|---|
| 已验证 | 23 | 本地暂存并完成布局哈希；获取流程已冻结 |
| 可获取 | 16 | 来源和暂存流程已冻结；用户需自行下载 |
| 外部阻塞 | 9 | 需审批、DUA 或上游澄清 |
数据集许可
完整逐任务策略记录见 docs/DATA_POLICY.md。发布规则保守： 任何任务包、运行时镜像或任务层级镜像均不嵌入数据集字节。 所有上传产物仅含代码。
打包设计
48 个任务包中的每一个都同时支持 lite 和 standard，两个层级共享同一任务
框架和运行时契约。公共容器层由 8 个共享、无数据的运行时镜像组成：
- 1 个供全部赛道共用的 agent 运行时；
- 7 个按赛道划分的 evaluator 运行时，每个赛道 1 个。
执行发布在该共享层之上增加 96 个轻量镜像，每个"任务 × 层级"组合对应一个不可变
镜像。构建 ID 与 API 验证记录冻结在 manifests/cell_images.csv 和
manifests/cell_verification.csv；共享镜像清单位于
manifests/runtime_images.csv。
与 AutoMedBench-Lite 一致，96 个镜像按 7 个赛道目录导出为
docker/<track>/automedbench-<track>-docker-image-v0.1.0.tar.gz；本地
synthetic 赛道在公开路径中使用 Lite 的 synthesis 名称。每个归档均包含
SHA-256 旁文件和镜像清单，远端大小、哈希与修订版本冻结在
manifests/cell_archives.csv。
安全
仓库及其镜像不得包含凭据、API 密钥、模型服务令牌、个人主目录路径或已填写的 运行时配置。源工作树仅作为只读输入；构建使用来自不可变 Git 对象、经过白名单 筛选的新暂存上下文。
论文
项目主页：https://automedbench.github.io/
论文：Junqi Liu et al., "AutoMedBench: Towards Medical AutoResearch with Agentic AI Models", arXiv:2606.01961, 2026. https://arxiv.org/abs/2606.01961
DOI: https://doi.org/10.48550/arXiv.2606.01961
@article{liu2026automedbench,
title={AutoMedBench: Towards Medical AutoResearch with Agentic AI Models},
author={Liu, Junqi and Song, Selena and Wang, Yuhan and Mao, Jiawei and Chen, Hardy and Huang, Xiaoke and Qi, Tianhao and Guo, Pengfei and Tang, Yucheng and He, Yufan and Zhao, Can and Myronenko, Andriy and Yang, Dong and Xu, Daguang and Zhou, Yuyin},
journal={arXiv preprint arXiv:2606.01961},
year={2026}
}