daipath/qupath-cua-benchmark-full

QuPath CUA Benchmark — 二十三题全记录

⚠️ 本仓库包含全部 Ground Truth 与判分器,因此设为 gated(人工逐个审批)。 仓库对外可见,但文件下载需先提交访问申请并由仓库所有者批准。 拿到 GT 即等于拿到答案 —— 请勿转发、镜像或将本仓库内容并入任何训练/检索语料, 否则这 23 道题对任何接触过该语料的模型即刻作废。

QuPath 0.5.1 数字病理任务上的 Computer-Using Agent 评测。四个系列共 23 道题, 两个模型各跑一轮,步数上限一律 100 个感知—行动循环。

	Claude Sonnet 5	GPT-5.6 Luna Pro
总分	5.70 / 23	3.95 / 23

每道题都是完整的

任何一道题单独取出即可运行,不依赖仓库其它部分。 材料在各题之间有意重复存放。

tasks/<题号>/
  task/                        ← 单独拿出来就能做的完整题包
    instruction.txt              给 agent 的题面(逐字)
    task.json                    OSWorld 布置配置:上传哪些文件到 guest 哪个路径、判分项与权重
    layout.txt                   材料落到 guest 的映射
    inputs/                      全部输入材料,含完整 WSI,按 guest 路径层次摆放
    data/ · classifiers/         起始 QuPath 工程(若该题有)
    MANIFEST.json                材料清单:大小 / sha256 / 逐个校验结果
  gt/                          ← 私有判分材料
    evaluator.py                 判分器
    private_gt/                  GT 与参考件
    tests/                       出题方自带的判分器测试
  report.html                  题面 / 材料 / GT / 判分口径 / 双模型结果
  trajectory.html              两个模型逐步高清轨迹
  shots/{sonnet,luna}/step_NNN.webp

顶层 index.html 是总览与战绩总表。HF 网页端不渲染 HTML,需下载到本地打开:

访问已获批准后(huggingface-cli login 用批准过的账号):

huggingface-cli download daipath/qupath-cua-benchmark-full --repo-type dataset --local-dir ./qupath-cua
# 只要某一道题:
huggingface-cli download daipath/qupath-cua-benchmark-full --repo-type dataset --include "tasks/QP_003_T3/*" --local-dir ./one-task
open ./qupath-cua/index.html

截图

3556 张,原始 1920×1080 PNG(3.51 GB),转为 WebP 无损。 转换时逐张做了像素比对,与原始 PNG 完全一致;比对失败会自动退回 PNG 保存(实际发生 0 次)。

Ground Truth 的三类来源

每道题的 GT 都写在 report.html 的「Ground Truth(私有)」一节,来源逐题注明:

• 官方公开数据集 — TIGER challenge 的组织 mask 与 COCO 淋巴/浆细胞标注
• 出题方的 QuPath 参考工程 — 做题方独立复现验证过,结论写在「做题方的 GT 独立验证」
• 病理专家目视判定 — 做题方无法独立复现,报告中明确标注

方法学

• 题面、资产、GT 与判分器均由出题方提供,做题方未改动任何一方
• 做题方在 harness 侧另加两类零权重项:受保护 WSI 的 sha256 门、可重开工程的记录项
• 每道题发车前做判分链预检(参考答案→满分、起始状态→零分)
• 材料 sha256 逐个校验,102/102 全部吻合

战绩明细

QP-001 — 核尺寸判断与细胞标点

题号	内容	类型	Sonnet 5	步	Luna Pro	步
QP_001_T1-1	最大核尺寸椭圆	尺寸判断	1.00	81	0.00	42
QP_001_T1-2	中等核尺寸椭圆	尺寸判断	1.00	69	1.00	30
QP_001_T2-1	单区域 TIL 标点	感知+标注	0.00	100	0.05	66
QP_001_T2-2	三区域 TIL 标点	感知+标注	0.00	100	0.00	100
QP_001_T3	可分核全标点	感知+标注	0.00	100	0.00	49

QP-002 — 对象构建与几何编辑

题号	内容	类型	Sonnet 5	步	Luna Pro	步
QP_002_T1	三 FIELD 建 tile 网格	算法执行	1.00	12	0.00	100
QP_002_T2	SLIC 超像素 + 负向约束	算法执行	1.00	60	1.00	60
QP_002_T3-1	FIELD-1 上边界	几何编辑	0.00	100	0.00	19
QP_002_T3-2	FIELD-2 右边界	几何编辑	0.00	100	1.00	12
QP_002_T3-3	FIELD-3 左边界	几何编辑	0.00	100	0.00	31
QP_002_T3-4	三条边界合并	几何编辑	0.00	100	0.00	76
QP_002_T4	最大腺体描边 Dice	描边	0.10	100	0.10	21
QP_002_T5-1	FIELD-1 四类分割	语义分割	0.20	100	0.00	29
QP_002_T5-2	FIELD-2 四类分割	语义分割	0.20	100	0.20	54
QP_002_T5-3	FIELD-3 四类分割	语义分割	0.20	100	0.00	81

QP-003 — 算法执行与测量读数

题号	内容	类型	Sonnet 5	步	Luna Pro	步
QP_003_T1	读九个测量值	读数	1.00	61	0.00	100
QP_003_T2	阈值分类 + 面积换算	算法执行	0.00	100	0.00	55
QP_003_T3	细胞检测计数	算法执行	0.00	100	0.00	100
QP_003_T4	像素分类 + Create objects	算法执行	0.00	100	0.00	100
QP_003_T5	TIL 计数与排序	感知判断	0.00	100	0.50	100

QP-004 — 热图配准与渲染导出

题号	内容	类型	Sonnet 5	步	Luna Pro	步
QP_004_T1	给 affine,不评 opacity	配准+导出	0.00	100	0.10	48
QP_004_T2	给 affine + opacity 0.50	配准+导出	0.00	100	0.00	100
QP_004_T3	不给 affine(原 v2)	配准+导出	0.00	100	0.00	100

授权

切片与标注来自 TIGER Challenge(CC BY-NC 4.0),见各题 task/LICENSE-TIGER.txt 与 task/ATTRIBUTION.md。