PI-Research-Bench / docs /DATA_NOTES.md
FaFa1116's picture
Explain benchmark purpose and tasks; organize method details
0172dfd verified
|
Raw History Blame Contribute Delete
2.43 kB

数据说明

来源与样本分组

generation 的 772 个助手回合来自 716 个原始样本,按原始 case_groups 连通关系构成 31 个统计簇。source 包含 19 篇 DOI 文献、76 张证据卡与 76 条引用定位。workflow 包含 12 个文献驱动任务,每题四段原文,共 48 段。

题目 ID、DOI、原文定位和原文件哈希保存在 provenance/。generation_clusters.json 提供分组映射,source_catalog.jsonl 汇总各子集识别到的来源。

标注与审核状态

项目 当前记录
参考构造 助手编写与原文派生
领域复核 待开展,逐条状态见 generation_cases.jsonl
独立专家审阅 待开展
历史使用 题集曾用于开发与评测
基座预训练接触 未知
统计单位 按原始样本组或 DOI 聚类

参考答案用于程序匹配,科学内容依据原文与工作流量表审查。对照实验采用固定最终检查点,阶段适配器单列为辅助对照。

已记录的题目问题

2026-10-21 的题目与参考审计确认三个跨物理量比较或排序条目:

题目 ID 问题
compare2-4f0507d5543cb2dc@assistant-2 激光能量 mJ 与光斑尺寸 µm 被直接作数值差
compare2-6d2bb6919adb1b6a@assistant-2 光斑尺寸 µm 与重复频率 Hz 被直接比较
order2-d1f22b1c18079733@assistant-2 仪器参数表中的不同物理量按数值列混合排序

三题继续保留原始输入与机械参考,便于复现已冻结的评测。科学审查将量纲可比性纳入判断,并据实评价正确指出不可比问题的回答。逐题证据和原参考见 question_reference_audit.json。

这批记录是推理开始后的首批已核实实例,全面审计继续逐项维护。后续分层分析标明审计时间与筛选依据。

工作流任务内容

12 个工作流均围绕提供的文献设计研究方向、经典对照、可检验假设和实验验证计划。输入中的 verified_structures 列表为空,评分侧重证据支持、研究规划和工具输入条件的处理。

版本记录

v0.1 固定 936 个评测单元、参考答案、程序评分与工作流量表。文档编辑单独记录版本,题目与评分变化通过数据版本发布。