| --- |
| license: cc-by-nc-4.0 |
| language: [zh, en] |
| tags: [computer-use-agent, benchmark, digital-pathology, qupath, osworld, agent-trajectory] |
| --- |
| |
| # QuPath CUA Benchmark — 二十三题全记录 |
|
|
| > ⚠️ **本仓库包含全部 Ground Truth 与判分器,因此设为 gated(人工逐个审批)。** |
| > 仓库对外可见,但文件下载需先提交访问申请并由仓库所有者批准。 |
| > 拿到 GT 即等于拿到答案 —— 请勿转发、镜像或将本仓库内容并入任何训练/检索语料, |
| > 否则这 23 道题对任何接触过该语料的模型即刻作废。 |
|
|
| QuPath 0.5.1 数字病理任务上的 Computer-Using Agent 评测。四个系列共 23 道题, |
| 两个模型各跑一轮,步数上限一律 **100 个感知—行动循环**。 |
|
|
| | | Claude Sonnet 5 | GPT-5.6 Luna Pro | |
| |---|---|---| |
| | **总分** | **5.70 / 23** | **3.95 / 23** | |
|
|
| ## 每道题都是完整的 |
|
|
| **任何一道题单独取出即可运行,不依赖仓库其它部分。** 材料在各题之间有意重复存放。 |
|
|
| ``` |
| tasks/<题号>/ |
| task/ ← 单独拿出来就能做的完整题包 |
| instruction.txt 给 agent 的题面(逐字) |
| task.json OSWorld 布置配置:上传哪些文件到 guest 哪个路径、判分项与权重 |
| layout.txt 材料落到 guest 的映射 |
| inputs/ 全部输入材料,含完整 WSI,按 guest 路径层次摆放 |
| data/ · classifiers/ 起始 QuPath 工程(若该题有) |
| MANIFEST.json 材料清单:大小 / sha256 / 逐个校验结果 |
| gt/ ← 私有判分材料 |
| evaluator.py 判分器 |
| private_gt/ GT 与参考件 |
| tests/ 出题方自带的判分器测试 |
| report.html 题面 / 材料 / GT / 判分口径 / 双模型结果 |
| trajectory.html 两个模型逐步高清轨迹 |
| shots/{sonnet,luna}/step_NNN.webp |
| ``` |
|
|
| 顶层 **`index.html`** 是总览与战绩总表。HF 网页端不渲染 HTML,需下载到本地打开: |
|
|
| 访问已获批准后(`huggingface-cli login` 用批准过的账号): |
|
|
| ```bash |
| huggingface-cli download daipath/qupath-cua-benchmark-full --repo-type dataset --local-dir ./qupath-cua |
| # 只要某一道题: |
| huggingface-cli download daipath/qupath-cua-benchmark-full --repo-type dataset --include "tasks/QP_003_T3/*" --local-dir ./one-task |
| open ./qupath-cua/index.html |
| ``` |
|
|
| ## 截图 |
|
|
| 3556 张,原始 1920×1080 PNG(3.51 GB),转为 **WebP 无损**。 |
| 转换时**逐张做了像素比对,与原始 PNG 完全一致**;比对失败会自动退回 PNG 保存(实际发生 0 次)。 |
|
|
| ## Ground Truth 的三类来源 |
|
|
| 每道题的 GT 都写在 `report.html` 的「Ground Truth(私有)」一节,来源逐题注明: |
|
|
| - **官方公开数据集** — TIGER challenge 的组织 mask 与 COCO 淋巴/浆细胞标注 |
| - **出题方的 QuPath 参考工程** — 做题方独立复现验证过,结论写在「做题方的 GT 独立验证」 |
| - **病理专家目视判定** — 做题方无法独立复现,报告中明确标注 |
|
|
| ## 方法学 |
|
|
| - 题面、资产、GT 与判分器**均由出题方提供,做题方未改动任何一方** |
| - 做题方在 harness 侧另加两类零权重项:受保护 WSI 的 sha256 门、可重开工程的记录项 |
| - 每道题发车前做判分链预检(参考答案→满分、起始状态→零分) |
| - 材料 sha256 **逐个校验**,102/102 全部吻合 |
|
|
| ## 战绩明细 |
|
|
| ### QP-001 — 核尺寸判断与细胞标点 |
|
|
| | 题号 | 内容 | 类型 | Sonnet 5 | 步 | Luna Pro | 步 | |
| |---|---|---|---|---|---|---| |
| | `QP_001_T1-1` | 最大核尺寸椭圆 | 尺寸判断 | **1.00** | 81 | 0.00 | 42 | |
| | `QP_001_T1-2` | 中等核尺寸椭圆 | 尺寸判断 | **1.00** | 69 | **1.00** | 30 | |
| | `QP_001_T2-1` | 单区域 TIL 标点 | 感知+标注 | 0.00 | 100 | 0.05 | 66 | |
| | `QP_001_T2-2` | 三区域 TIL 标点 | 感知+标注 | 0.00 | 100 | 0.00 | 100 | |
| | `QP_001_T3` | 可分核全标点 | 感知+标注 | 0.00 | 100 | 0.00 | 49 | |
|
|
| ### QP-002 — 对象构建与几何编辑 |
|
|
| | 题号 | 内容 | 类型 | Sonnet 5 | 步 | Luna Pro | 步 | |
| |---|---|---|---|---|---|---| |
| | `QP_002_T1` | 三 FIELD 建 tile 网格 | 算法执行 | **1.00** | 12 | 0.00 | 100 | |
| | `QP_002_T2` | SLIC 超像素 + 负向约束 | 算法执行 | **1.00** | 60 | **1.00** | 60 | |
| | `QP_002_T3-1` | FIELD-1 上边界 | 几何编辑 | 0.00 | 100 | 0.00 | 19 | |
| | `QP_002_T3-2` | FIELD-2 右边界 | 几何编辑 | 0.00 | 100 | **1.00** | 12 | |
| | `QP_002_T3-3` | FIELD-3 左边界 | 几何编辑 | 0.00 | 100 | 0.00 | 31 | |
| | `QP_002_T3-4` | 三条边界合并 | 几何编辑 | 0.00 | 100 | 0.00 | 76 | |
| | `QP_002_T4` | 最大腺体描边 Dice | 描边 | 0.10 | 100 | 0.10 | 21 | |
| | `QP_002_T5-1` | FIELD-1 四类分割 | 语义分割 | 0.20 | 100 | 0.00 | 29 | |
| | `QP_002_T5-2` | FIELD-2 四类分割 | 语义分割 | 0.20 | 100 | 0.20 | 54 | |
| | `QP_002_T5-3` | FIELD-3 四类分割 | 语义分割 | 0.20 | 100 | 0.00 | 81 | |
|
|
| ### QP-003 — 算法执行与测量读数 |
|
|
| | 题号 | 内容 | 类型 | Sonnet 5 | 步 | Luna Pro | 步 | |
| |---|---|---|---|---|---|---| |
| | `QP_003_T1` | 读九个测量值 | 读数 | **1.00** | 61 | 0.00 | 100 | |
| | `QP_003_T2` | 阈值分类 + 面积换算 | 算法执行 | 0.00 | 100 | 0.00 | 55 | |
| | `QP_003_T3` | 细胞检测计数 | 算法执行 | 0.00 | 100 | 0.00 | 100 | |
| | `QP_003_T4` | 像素分类 + Create objects | 算法执行 | 0.00 | 100 | 0.00 | 100 | |
| | `QP_003_T5` | TIL 计数与排序 | 感知判断 | 0.00 | 100 | 0.50 | 100 | |
|
|
| ### QP-004 — 热图配准与渲染导出 |
|
|
| | 题号 | 内容 | 类型 | Sonnet 5 | 步 | Luna Pro | 步 | |
| |---|---|---|---|---|---|---| |
| | `QP_004_T1` | 给 affine,不评 opacity | 配准+导出 | 0.00 | 100 | 0.10 | 48 | |
| | `QP_004_T2` | 给 affine + opacity 0.50 | 配准+导出 | 0.00 | 100 | 0.00 | 100 | |
| | `QP_004_T3` | 不给 affine(原 v2) | 配准+导出 | 0.00 | 100 | 0.00 | 100 | |
|
|
| ## 授权 |
|
|
| 切片与标注来自 TIGER Challenge(CC BY-NC 4.0),见各题 `task/LICENSE-TIGER.txt` 与 `task/ATTRIBUTION.md`。 |
|
|
