FaFa1116 commited on
Commit
0172dfd
·
verified ·
1 Parent(s): 292fd32

Explain benchmark purpose and tasks; organize method details

Browse files
DATA_RIGHTS.md CHANGED
@@ -1,7 +1,13 @@
1
- # 数据来源与权利记录
2
 
3
- 本版本为公开研究快照,供同行查看与复现。包含项目构造的题目、参考答案、已有评分代码,以及第三方论文的原文段落、表格内容和引用。原始论文内容的权利归其权利人,不能因为本仓库上传就推定其适用统一开源许可。
4
 
5
- `provenance/generation_cases.jsonl` 保留原始语料的 DOI、定位、label_kind、已记录的 license_kind 和审核状态;`provenance/source_catalog.jsonl` 汇总各子集可识别来源。`license_kind` 是上游记录,未在本次上传中独立复核。缺失的许可标记为待核对。
6
 
7
- 各来源许可证原文、署名与再分发条件逐项核对和补充维护中;项目原创题目、标注和评分代码尚未指定统一发布许可。本快照不替权利人授予新的许可,不包含模型权重许可授权。
 
 
 
 
 
 
 
1
+ # 数据来源与许可
2
 
3
+ 本仓库包含项目构造的题目、参考答案、评分代码,以及第三方论文的原文段落、表格内容和引用,供同行查看与复现。
4
 
5
+ 文献摘录适用各原始来源的权利与许可。项目原创题目、标注和评分代码的统一发布许可待确定。
6
 
7
+ ## 来源记录
8
+
9
+ - [generation_cases.jsonl](provenance/generation_cases.jsonl):原始语料的 DOI、定位、label_kind、license_kind 与审核状态。
10
+ - [source_catalog.jsonl](provenance/source_catalog.jsonl):各子集的文献来源索引。
11
+ - [数据说明](docs/DATA_NOTES.md):样本构造、分组和题目审查记录。
12
+
13
+ license_kind 沿用上游记录。本次发布的许可核对状态为待逐来源复核;许可证原文、署名和再分发条件逐项补充维护。
MANIFEST.sha256.json CHANGED
@@ -2,8 +2,8 @@
2
  "algorithm": "SHA-256",
3
  "files": {
4
  ".gitignore": "b72e95d31b8da405ae3f609d60c88628263853f0016653a8e9f3fe245290ac70",
5
- "DATA_RIGHTS.md": "c8ef24fe4e311403803cd6c6c1d283a6c88c37d2334cb71c27064ca0341e801e",
6
- "README.md": "7bbf2b86ed7e7e4d2221936426b31c182c18a12b18c210b394caf615c37f9284",
7
  "audits/package_validation.json": "6e90929899678ae13d3af411524210188180a647fc586e98aeb9bec0c71dc354",
8
  "audits/question_reference_audit.json": "4e66e30ca4ce0a467356b1495bb504c755bda1d8927f81fe5161d582711526c8",
9
  "configs/analysis_plan.json": "0e4a587f44cdad459f9ff237b867ca2f81cc37477905be6612e5b35591a26618",
@@ -12,10 +12,14 @@
12
  "data/generation/test.jsonl": "6972fd1222a9c78c412ed1e2d59bc6fb648dfd452b6780eea5af59e143a95e82",
13
  "data/source/test.jsonl": "6ddca10b4055273d6fc5ba26d74c8459f32326069e2a83077f653e278f419a72",
14
  "data/workflow/test.jsonl": "f786eae295324f60a890b8876b62a69dd299fc496daf3cd17fc272c1ce5e5b30",
 
 
 
15
  "docs/WORKFLOW_RUBRIC.md": "e343fe6a3214df3d23ca44052f6e03100be9dad42213660b4463c6ae2d427d29",
16
  "inputs/generation.jsonl": "a734255baa4cd72adc3dbe677006217f3452b97444625462ccf23711e05761ed",
17
  "inputs/source.jsonl": "db175b5dcb5d3b6460f89bfa76c1c60664914ac76b5d3f4e5d8f65ebb0f9de0e",
18
  "inputs/workflow.jsonl": "e93345326fb081fc281b820b1e77a4c4fd9a0409caccef806deb886fd1fdfaaf",
 
19
  "provenance/generation_cases.jsonl": "eb4e4ecf902bdf8bac0182571f8d582479d9d9a851c74447f069b0b3f5afe4a9",
20
  "provenance/generation_clusters.json": "e1a5b359746c3f4b1a1301924d5e85d2005fadd876d218cc88a0804f6b3ab44d",
21
  "provenance/publication.json": "2acaa28fbb2ed6d199fc71146a01756b8ae69d358f23dbdc10e723c08d3267e8",
 
2
  "algorithm": "SHA-256",
3
  "files": {
4
  ".gitignore": "b72e95d31b8da405ae3f609d60c88628263853f0016653a8e9f3fe245290ac70",
5
+ "DATA_RIGHTS.md": "97e3b28030cf5a894bdf6122bdefd854cceb03f0d7e0649c1c1e9869bc60985b",
6
+ "README.md": "44bb760fab9479fe2650df381a2abcf3c30ce91be6e55a58857e3ac4e6ed8c4f",
7
  "audits/package_validation.json": "6e90929899678ae13d3af411524210188180a647fc586e98aeb9bec0c71dc354",
8
  "audits/question_reference_audit.json": "4e66e30ca4ce0a467356b1495bb504c755bda1d8927f81fe5161d582711526c8",
9
  "configs/analysis_plan.json": "0e4a587f44cdad459f9ff237b867ca2f81cc37477905be6612e5b35591a26618",
 
12
  "data/generation/test.jsonl": "6972fd1222a9c78c412ed1e2d59bc6fb648dfd452b6780eea5af59e143a95e82",
13
  "data/source/test.jsonl": "6ddca10b4055273d6fc5ba26d74c8459f32326069e2a83077f653e278f419a72",
14
  "data/workflow/test.jsonl": "f786eae295324f60a890b8876b62a69dd299fc496daf3cd17fc272c1ce5e5b30",
15
+ "docs/DATA_NOTES.md": "8916318e69c0dc1abd9cf4c06cff4ba4b9380ad89586dfba0ea995fe78275566",
16
+ "docs/EVALUATION.md": "4ad39322895d063d9bb9f0d7229583f545a1ab5089d4f7c91ebeb364cfdfdee9",
17
+ "docs/USAGE.md": "98900026f6bdca9184cbd5c8fcbdfb47dc30fec868a3ffdac5a5f9bed4f7c08a",
18
  "docs/WORKFLOW_RUBRIC.md": "e343fe6a3214df3d23ca44052f6e03100be9dad42213660b4463c6ae2d427d29",
19
  "inputs/generation.jsonl": "a734255baa4cd72adc3dbe677006217f3452b97444625462ccf23711e05761ed",
20
  "inputs/source.jsonl": "db175b5dcb5d3b6460f89bfa76c1c60664914ac76b5d3f4e5d8f65ebb0f9de0e",
21
  "inputs/workflow.jsonl": "e93345326fb081fc281b820b1e77a4c4fd9a0409caccef806deb886fd1fdfaaf",
22
+ "provenance/documentation_revision.json": "9d363daabd7724111a39a8a7ddb8395768980878b5bdb7a493cc8cc6ab2baaa6",
23
  "provenance/generation_cases.jsonl": "eb4e4ecf902bdf8bac0182571f8d582479d9d9a851c74447f069b0b3f5afe4a9",
24
  "provenance/generation_clusters.json": "e1a5b359746c3f4b1a1301924d5e85d2005fadd876d218cc88a0804f6b3ab44d",
25
  "provenance/publication.json": "2acaa28fbb2ed6d199fc71146a01756b8ae69d358f23dbdc10e723c08d3267e8",
README.md CHANGED
@@ -30,91 +30,99 @@ configs:
30
  path: data/workflow/test.jsonl
31
  ---
32
 
33
- # PI Research Bench · 聚酰亚胺科研任务评测基准
 
34
 
35
- **v0.1 研究快照,2026-10-21,公开供同行查看与复现。** 面向聚酰亚胺科研助手,覆盖领域生成、结构化工具调用、文献证据溯源和科研工作流。题目与参考答案来自当前 Qwen/Gemma 对齐对照实验的冻结输入。本版本保存题库、机械评分器、工作流审查量表和来源记录。
36
 
37
- | 子集 | 评测单元 | 内容 | 主要评价 |
38
- |---|---:|---|---|
39
- | generation | 772 | 732 条 JSON、32 条工具调用、8 条文本;来自 716 个原始样本 | 格式、字段、参考匹配、工具名与参数 |
40
- | source | 152 | 19 篇 DOI 文献,76 张证据卡、76 条引用定位 | 原文区间、逐字引用、数值字面量 |
41
- | workflow | 12 | 每题 4 段原文,共 48 段;2 个研究方向、经典对照与可检验假设 | 交付完整性与科学可用性,分开审查 |
42
- | 合计 | 936 | 三类任务分别报告 | 按来源/原始样本聚类分析 |
43
 
44
- ## 题目示例与用途
45
 
46
- - 领域知识:二胺与二酐制备线性 PI 时,为什么高转化率还不足以保证高分子量?
47
- - 工具调用:给定候选身份、结构与目标性能,输出共同 JSON 协议的工具名和参数。此类题使用历史工具返回,不重新执行预测服务。
48
- - 文献证据:从给定原文提取支持语句,保留样品、单位、条件、DOI 和段落定位。
49
- - 引用定位:给定原文与待定位引用,返回 Unicode 码点的 `[start, end)` 区间。辅助词边界表覆盖全部原文。
50
- - 科研工作流:根据给定 PI 文献提出两个有差异的方向,包含原文经典对照、研究假设、材料与工艺方案、能力核对、风险分析和实验验证规划。
51
 
52
- ## 使用
53
 
54
- 安装评分依赖:
55
 
56
- ```bash
57
- python -m pip install -r requirements.txt
58
- python scripts/validate_package.py
59
- ```
60
 
61
- 通过 Hugging Face Datasets 读取任一子集:
62
 
63
- ```python
64
- import json
65
- from datasets import load_dataset
66
 
67
- ds = load_dataset("FaFa1116/PI-Research-Bench", "generation", split="test")
68
- case = json.loads(ds[0]["input_json"])
69
- messages = case["messages"]
70
- reference = json.loads(ds[0]["reference_json"]) # 仅用于评分
71
- ```
72
 
73
- `data/` 是便于 Dataset Viewer 读取的扁平索引。复杂任务内容以 JSON 字符串保存,避免不同题型产生不一致的 Arrow 嵌套结构。`inputs/` 与 `references/` 保存逐字复制的冻结文件;`input_json` 解析后与对应冻结记录逐项一致。
74
 
75
- 生成原答后,保存 JSONL,每行包含唯一 `id` 和字符串 `raw_text`。generation 的 id 使用 `unit_id`;source 使用 `id`。可选 `terminal_eos_text` 必须对应实际最后一个生成 token,并有 `terminal_eos_verified: true`。未提供时,调用方应保存已剥除最后原生 EOS 的评分文本,同时另存完整原答与 token。
76
 
77
- ```bash
78
- python scripts/score.py --suite generation --predictions predictions.jsonl --output scores.json
79
- python scripts/score.py --suite source --predictions source_predictions.jsonl --output source_scores.json
80
- ```
 
81
 
82
- 评分输出保留逐题结果、题型分组计数以及未提交题目。缺失回答保持未执行状态;完整配对比较应先确认所有预期题目和运行完整性。参考答案示例可用于检查评分接口,不应送入被测模型。
83
 
84
- ## 评测协议
85
 
86
- 四个主臂为 Qwen 原版、Qwen 104+40 步最终 LoRA、Gemma 原版、Gemma 104+40 步最终 LoRA。生成诊断另含两个 104 步 domain 适配器作为辅助对照。模型修订与适配器 SHA-256 见 `configs/model_bindings.json`。
 
 
 
87
 
88
- 统一单张 A800 80GB、BF16、batch size 1、SDPA、贪心解码、32768 上下文;使用各模型原生聊天模板与结束 token。生成诊断输出预算 2048 token,证据卡 2048,引用定位 512。完整工作流的调用、token、时长和工具预算见 `configs/protocol.json`。四个工作流主臂均采用规则协调,JEV 关闭。
89
 
90
- 本仓库提供可独立运行的 generation/source **机械评分**。工作流提供输入、预算和人工/助手内容审查量表;原研究的多智能体协调器及材料计算服务需另外部署,当前快照未打包这些执行依赖。
91
 
92
- ## 评分解释
93
 
94
- - generation 普通 JSON 评分保留历史解析行为:去除既有 think/EOS 标记及外层 Markdown 代码围栏后解析;文本项主要检查非空。这些指标测量格式和参考匹配。
95
- - 工具调用使用双方共同的 JSON 协议,严格核对工具 schema、名称和参数,不接受 XML、围栏包装、重复键或非有限数。
96
- - source 逐字核对给定原文、Unicode 区间和数值字面量,保留原评分器;机械通过与科学蕴含审查分别记录。
97
- - workflow 的科学内容按来源蕴含、身份/数值/条件、假设与对照、测量设计、执行与能力边界五维评分。量表见 `docs/WORKFLOW_RUBRIC.md`。
98
 
99
- ## 数据构造与审查状态
100
 
101
- 参考答案包含助手编写与原文派生内容,领域审核状态保留在 `provenance/generation_cases.jsonl`。本快照尚无独立领域专家审阅结论。历史测试集曾用于开发与评测,预训练接触未知;分组与 DOI 信息用于控制相关样本,不能将 772 个助手回合视为 772 篇独立文献。
 
 
 
 
 
 
 
 
102
 
103
- 2026-10-21 的题目/参考审计发现三个已核实的跨物理量数值比较或排序例子,例如将激光能量与光斑尺寸直接相减。原题和机械参考保持冻结,审计单独列于 `audits/question_reference_audit.json`。正确指出量纲不可比的回答应在科学内容审查中据实评价。该审计发生于推理开始后,且目前不是穷尽性审计。
 
 
 
 
104
 
105
- 12 个 workflow 输入的 `verified_structures` 均为空,因此这一子集主要评估基于原文的科研规划及能力边界处理。材料性能预测准确度、实际实验成效和 JEV 的独立增益需要对应实验。
 
 
 
 
 
 
106
 
107
- ## 文件与版本
108
 
109
- - `inputs/`:三个子集的冻结输入。
110
- - `references/`:生成与来源任务的参考答案;工作流使用审查量表。
111
- - `data/`:Hugging Face 可读取的 936 行索引。
112
- - `scoring/`、`scripts/score.py`:从既有冻结评分器移植的 CPU 评分工具。
113
- - `configs/`、`docs/`:协议、模型绑定、分析方案与量表。
114
- - `provenance/`:来源、分组、原文件哈希和评分器移植记录。
115
- - `audits/`:题目问题与打包校验记录。
116
- - `MANIFEST.sha256.json`:文件哈希清单。
117
 
118
- 此快照按原样保留历史工具消息中的来源路径,它们属于题目文本,不提供远程文件访问能力。部署时使用自己的路径和服务配置。
 
 
 
 
 
 
 
119
 
120
- 本版本已公开。文献段落及原表内容适用各原始来源的权利与许可,详见 `DATA_RIGHTS.md`;逐来源许可核对和完整题目审查仍在进行。当前运行的模型结果会在统一评分与内容审查完成后另行整理;本版本没有排行榜结论。
 
30
  path: data/workflow/test.jsonl
31
  ---
32
 
33
+ # PI Research Bench
34
+ ## 聚酰亚胺科研任务评测基准
35
 
36
+ PI Research Bench 面向聚酰亚胺(Polyimide,PI)科研助手,评估大语言模型在**领域问答、工具调用、文献证据提取和科研方案设计**中的表现。它将科研任务组织为三个层次,共 **936 个评测单元**,用于比较模型能力、检验领域微调效果,并分析科研工作流中的表现差异。
37
 
38
+ 基准提供统一题目、参考答案、评分代码、研究规划量表和文献来源,支持按同一套条件开展模型对照与结果复现。
 
 
 
 
 
39
 
40
+ ## 评测什么
41
 
42
+ | 层次 | 子集 | 数量 | 任务内容 | 评价重点 |
43
+ |---|---|---:|---|---|
44
+ | 基础任务 | `generation` | 772 | 领域问答、原文事实提取、表格处理、结构化输出与工具调用 | 输出格式、字段完整性、参考匹配、工具选择与参数 |
45
+ | 证据溯源 | `source` | 152 | 76 张研究证据卡与 76 条引用定位,覆盖 19 篇文献 | 来源定位、原文区间、逐字引用与带单位数值 |
46
+ | 科研工作流 | `workflow` | 12 | 根据给定文献设计研究方向、材料与工艺方案、实验验证计划 | 交付完整性、证据支持、假设与对照、测量设计 |
47
 
48
+ 生成子集包含 **732 条 JSON、32 条工具调用和 8 条文本任务**,来自 716 个原始样本。工作流子集每题提供 4 段原文,覆盖透明 PI 气凝胶、摩擦磨损涂层、复合材料、分离膜和电池隔膜等研究主题。
49
 
50
+ ## 题目是什么样的
51
 
52
+ **领域知识**
 
 
 
53
 
54
+ > 二胺与二酐制备线性 PI 时,为什么高转化率还不足以保证高分子量?
55
 
56
+ **工具调用**
 
 
57
 
58
+ 给定候选材料身份、结构与目标性能,组织性能预测工具调用,填写工具名称、结构输入、预测属性和测试条件。
 
 
 
 
59
 
60
+ **文献证据**
61
 
62
+ 根据给定 PI 论文原文建立研究证据卡,提取支持语句、带单位数值、样品与实验条件,并附上 DOI、段落和字符区间。
63
 
64
+ **引用定位**
65
+
66
+ 在给定原文中定位指定引用,返回 Unicode 码点的 `[start, end)` 区间。
67
+
68
+ **科研工作流**
69
 
70
+ 根据给定文献提出两个有差异的研究方向,包含原文体系的经典对照和可检验假设,形成材料设计、工艺建议、能力核对、风险分析、综合评价与实验验证计划。
71
 
72
+ ## 可以用来做什么
73
 
74
+ - **比较微调前后的变化**:在相同题目、提示、解码和预算下,评估领域训练带来的收益。
75
+ - **比较不同模型**:使用共同任务合同、工具协议和评分器,对齐模型间的评测条件。
76
+ - **分析能力环节**:分别查看结构化生成、证据定位和完整科研规划的表现。
77
+ - **复现与审查实验**:通过题目 ID、文献来源、逐题评分和文件哈希追踪结果。
78
 
79
+ 当前对照实验包含 Qwen 与 Gemma 的原版模型、104+40 步最终 LoRA,以及生成子集上的 104 步阶段适配器。具体配置见[评测方法](docs/EVALUATION.md)。
80
 
81
+ ## 快速使用
82
 
83
+ 安装数据读取依赖:
84
 
85
+ ```bash
86
+ python -m pip install datasets
87
+ ```
 
88
 
89
+ 读取题目:
90
 
91
+ ```python
92
+ import json
93
+ from datasets import load_dataset
94
+
95
+ dataset = load_dataset(
96
+ "FaFa1116/PI-Research-Bench",
97
+ "generation", # 可选 generation、source、workflow
98
+ split="test",
99
+ )
100
 
101
+ example = dataset[0]
102
+ task = json.loads(example["input_json"])
103
+ messages = task["messages"]
104
+ reference = json.loads(example["reference_json"])
105
+ ```
106
 
107
+ 在下载的仓库目录中运行评分:
108
+
109
+ ```bash
110
+ python -m pip install -r requirements.txt
111
+ python scripts/validate_package.py
112
+ python scripts/score.py --suite generation --predictions predictions.jsonl --output scores.json
113
+ ```
114
 
115
+ 评分程序输出逐题结果和按题型汇总的指标。预测文件格式、来源子集评分与工作流复现步骤见[使用指南](docs/USAGE.md)。
116
 
117
+ ## 数据与文档
 
 
 
 
 
 
 
118
 
119
+ | 资源 | 内容 |
120
+ |---|---|
121
+ | [题目](inputs/)与[参考答案](references/) | 三个子集的评测输入与生成、来源任务参考 |
122
+ | [评分代码](scoring/) | generation 与 source 的程序评分器 |
123
+ | [工作流量表](docs/WORKFLOW_RUBRIC.md) | 科研交付与科学内容审查标准 |
124
+ | [评测方法](docs/EVALUATION.md) | 模型对照、生成预算、评分口径与统计方案 |
125
+ | [数据说明](docs/DATA_NOTES.md) | 来源、样本分组、标注状态与已记录的题目问题 |
126
+ | [来源与许可](DATA_RIGHTS.md) | 原始材料的来源记录与许可状态 |
127
 
128
+ **版本:v0.1 · 2026-10-21。** 本版本提供完整题库、参考答案、评分工具和复现说明。
docs/DATA_NOTES.md ADDED
@@ -0,0 +1,42 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 数据说明
2
+
3
+ ## 来源与样本分组
4
+
5
+ generation 的 772 个助手回合来自 716 个原始样本,按原始 case_groups 连通关系构成 31 个统计簇。source 包含 19 篇 DOI 文献、76 张证据卡与 76 条引用定位。workflow 包含 12 个文献驱动任务,每题四段原文,共 48 段。
6
+
7
+ 题目 ID、DOI、原文定位和原文件哈希保存在 [provenance/](../provenance/)。[generation_clusters.json](../provenance/generation_clusters.json) 提供分组映射,[source_catalog.jsonl](../provenance/source_catalog.jsonl) 汇总各子集识别到的来源。
8
+
9
+ ## 标注与审核状态
10
+
11
+ | 项目 | 当前记录 |
12
+ |---|---|
13
+ | 参考构造 | 助手编写与原文派生 |
14
+ | 领域复核 | 待开展,逐条状态见 generation_cases.jsonl |
15
+ | 独立专家审阅 | 待开展 |
16
+ | 历史使用 | 题集曾用于开发与评测 |
17
+ | 基座预训练接触 | 未知 |
18
+ | 统计单位 | 按原始样本组或 DOI 聚类 |
19
+
20
+ 参考答案用于程序匹配,科学内容依据原文与工作流量表审查。对照实验采用固定最终检查点,阶段适配器单列为辅助对照。
21
+
22
+ ## 已记录的题目问题
23
+
24
+ 2026-10-21 的题目与参考审计确认三个跨物理量比较或排序条目:
25
+
26
+ | 题目 ID | 问题 |
27
+ |---|---|
28
+ | compare2-4f0507d5543cb2dc@assistant-2 | 激光能量 mJ 与光斑尺寸 µm 被直接作数值差 |
29
+ | compare2-6d2bb6919adb1b6a@assistant-2 | 光斑尺寸 µm 与重复频率 Hz 被直接比较 |
30
+ | order2-d1f22b1c18079733@assistant-2 | 仪器参数表中的不同物理量按数值列混合排序 |
31
+
32
+ 三题继续保留原始输入与机械参考,便于复现已冻结的评测。科学审查将量纲可比性纳入判断,并据实评价正确指出不可比问题的回答。逐题证据和原参考见 [question_reference_audit.json](../audits/question_reference_audit.json)。
33
+
34
+ 这批记录是推理开始后的首批已核实实例,全面审计继续逐项维护。后续分层分析标明审计时间与筛选依据。
35
+
36
+ ## 工作流任务内容
37
+
38
+ 12 个工作流均围绕提供的文献设计研究方向、经典对照、可检验假设和实验验证计划。输入中的 verified_structures 列表为空,评分侧重证据支持、研究规划和工具输入条件的处理。
39
+
40
+ ## 版本记录
41
+
42
+ v0.1 固定 936 个评测单元、参考答案、程序评分与工作流量表。文档编辑单独记录版本,题目与评分变化通过数据版本发布。
docs/EVALUATION.md ADDED
@@ -0,0 +1,57 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 评测方法
2
+
3
+ ## 对照设计
4
+
5
+ PI Research Bench 使用相同任务、语义提示、解码与预算比较模型。当前实验的主对照为:
6
+
7
+ | 模型 | 原版 | 最终 LoRA |
8
+ |---|---|---|
9
+ | Qwen/Qwen3.8-27B | 原始权重 | domain 104 步 + semantic 40 步 |
10
+ | google/gemma-3-27b-it | 原始权重 | domain 104 步 + semantic 40 步 |
11
+
12
+ 生成子集另评估两种模型各自的 domain 104 步适配器,用于观察训练阶段变化。模型修订和适配器 SHA-256 见 [model_bindings.json](../configs/model_bindings.json)。
13
+
14
+ ## 推理条件
15
+
16
+ 共同设置为单张 A800 80GB、BF16、batch size 1、SDPA、贪心生成、32768 token 上下文。各模型采用原生聊天模板与结束 token,语义消息与工具定义保持一致。
17
+
18
+ | 任务 | 输出预算 |
19
+ |---|---:|
20
+ | 生成诊断 | 2048 token/题 |
21
+ | 研究证据卡 | 2048 token/题 |
22
+ | 引用定位 | 512 token/题 |
23
+ | 完整工作流 | 8192 token/调用,65536 token/题 |
24
+
25
+ 工作流最多 20 次模型调用、8 次工具请求、4 次修正、200 个图步骤,每题 3600 秒。四个主臂均使用规则协调、相同工具和服务版本,JEV 关闭。完整预算见 [protocol.json](../configs/protocol.json)。
26
+
27
+ generation 中的工具任务根据共同对话和历史工具返回生成下一次调用;source 使用完整给定原文与确定性词边界索引。workflow 每题提供四段原文,12 题的 verified_structures 均为空,重点评估文献驱动的研究规划、输入检查和能力边界处理。
28
+
29
+ ## 程序评分
30
+
31
+ 程序评分与科学内容审查分别报告。
32
+
33
+ - **普通 JSON**:沿用既有解析器,处理 think/EOS 标记与外层代码围栏后,检查 JSON、字段覆盖及参考匹配。
34
+ - **文本**:程序检查非空,内容判断使用科学审查记录。
35
+ - **工具调用**:使用共同 JSON tool_calls 协议,核对 schema、工具名和参数。解析器严格检查字段、重复键和数值类型。
36
+ - **证据卡**:核对来源标识、原文字符区间、引用文字和带单位数值字面量。
37
+ - **引用定位**:核对逐字引用、Unicode 码点区间与参考位置。
38
+
39
+ 评分源码位于 [scoring/](../scoring/)。移植时保留原评分逻辑,通过 3696 项参考与合成错误输入的一致性检查,记录见 [package_validation.json](../audits/package_validation.json)。
40
+
41
+ ## 科学内容审查
42
+
43
+ 工作流报告两个终点:交付完整、科学可用交付。内容按来源蕴含、身份/数值/条件、假设与对照、测量设计、执行与能力边界五维评分,每维 0/1/2 分,总分 0–10。
44
+
45
+ 依据原任务、原始来源和实际交付评分,隐藏模型标签并打乱顺序,先锁定评分再解盲。未审项保留 null,未形成最终交付的内容另存过程诊断。量表和审查者身份要求见 [WORKFLOW_RUBRIC.md](WORKFLOW_RUBRIC.md)。
46
+
47
+ ## 配对统计
48
+
49
+ 四项主比较分别为 Qwen 微调前后、Gemma 微调前后、两种原版模型、两种最终 LoRA 模型。生成子集另比较 domain 阶段变化。
50
+
51
+ 生成数据按原始 case_groups 连通分组聚类,来源与工作流按 DOI 聚类,采用 10000 次配对簇 bootstrap。工作流二元终点使用精确 McNemar 检验,对四项主比较与两个终点共八项检验进行 Holm 校正。方案见 [analysis_plan.json](../configs/analysis_plan.json)。
52
+
53
+ 统计细化方案保存于推理进行期间、完整组间分析和科学内容评分之前。分词器原生 token 数分别记录;性能成本比较采用各条记录标明的计时范围,历史复用与新推理的解码/评分计时边界分别列示。
54
+
55
+ ## 当前实验进度
56
+
57
+ 题库、参考答案、程序评分与工作流量表已发布。Qwen/Gemma 对照结果在推理、统一评分和科学内容审查完成后整理发布。数据来源、标注状态和题目审计见 [DATA_NOTES.md](DATA_NOTES.md)。
docs/USAGE.md ADDED
@@ -0,0 +1,61 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # 使用指南
2
+
3
+ ## 读取三个子集
4
+
5
+ 安装 `datasets` 后,用 `load_dataset("FaFa1116/PI-Research-Bench", subset, split="test")` 读取数据。subset 为 `generation`、`source` 或 `workflow`。
6
+
7
+ `data/` 为 Dataset Viewer 和 Datasets 库提供统一行结构。嵌套任务以 JSON 字符串保存,字段如下:
8
+
9
+ | 字段 | 内容 |
10
+ |---|---|
11
+ | id | 唯一评测单元 ID |
12
+ | suite、kind、category | 子集、题型与任务类别 |
13
+ | cluster_id | 用于分组分析的来源或原始样本组 |
14
+ | question | 便于浏览的当前问题 |
15
+ | messages_json | 完整对话输入,使用 json.loads 解析 |
16
+ | input_json | 完整任务记录,使用 json.loads 解析 |
17
+ | reference_json | 评分参考;workflow 使用审查量表 |
18
+ | original_split | 原始数据分区 |
19
+ | reference_status | 参考答案审核状态 |
20
+
21
+ `inputs/` 保存冻结输入,`references/` 保存评分参考;data 中的对应记录与冻结文件逐项一致。构造模型输入时读取 messages 或 workflow 的 task/sources,评分阶段读取 reference。
22
+
23
+ ## generation 与 source 评分
24
+
25
+ 在仓库目录中安装依赖并校验文件:
26
+
27
+ ```bash
28
+ python -m pip install -r requirements.txt
29
+ python scripts/validate_package.py
30
+ ```
31
+
32
+ 预测文件采用 JSONL,每行包含唯一 `id` 和字符串 `raw_text`:
33
+
34
+ ```json
35
+ {"id":"pi-k001@assistant-2","raw_text":"逐步聚合的分子量还受到官能团计量平衡、单体纯度与副反应等因素影响。"}
36
+ ```
37
+
38
+ generation 的 id 对应输入中的 unit_id;source 的 id 对应输入中的 id。
39
+
40
+ ```bash
41
+ python scripts/score.py --suite generation --predictions predictions.jsonl --output scores.json
42
+ python scripts/score.py --suite source --predictions source_predictions.jsonl --output source_scores.json
43
+ ```
44
+
45
+ 输出包括逐题指标、按题型汇总的通过/已评分数量、缺失题目与完整性状态。配对分析使用相同题目集合与完整运行记录。
46
+
47
+ ### 原生结束 token
48
+
49
+ 提供 `terminal_eos_text` 时,同时设置 `terminal_eos_verified: true`,并通过实际最后一个生成 token ID 确认该标记。评分器移除对应的末尾标记。采用调用方剥除 EOS 的流程时,将剥除后的文本交给评分器,另存完整原答和 token 序列。
50
+
51
+ ## 工作流复现
52
+
53
+ 工作流输入位于 `inputs/workflow.jsonl`,包含研究任务、四段文献原文和来源定位。按[评测方法](EVALUATION.md)设置预算,使用同一规则协调器、工具 schema 与服务版本执行四个主臂。
54
+
55
+ 完整工作流执行环境需要部署原研究的多智能体协调器与材料计算服务。本仓库提供任务、预算、模型绑定和[科学内容量表](WORKFLOW_RUBRIC.md)。完成后对模型标识进行盲化,依据原始来源与实际交付评分,锁分后开展配对统计。
56
+
57
+ ## 文件校验与历史工具记录
58
+
59
+ `MANIFEST.sha256.json` 固定各文件哈希,`provenance/` 保存原输入哈希、来源分组和评分器移植记录。
60
+
61
+ 历史工具消息中的路径属于题目内容。执行环境使用各自的本地路径和服务配置,评分保留题目中的原始文本。
provenance/documentation_revision.json ADDED
@@ -0,0 +1,7 @@
 
 
 
 
 
 
 
 
1
+ {
2
+ "utc": "2026-10-21T07:06:09.386418+00:00",
3
+ "base_commit": "292fd3264a563595707df4b405b59c53ead488f7",
4
+ "change": "Rewrite dataset card around purpose, tasks, examples and usage; organize evaluation and provenance details in linked documents.",
5
+ "data_and_scoring_changed": false,
6
+ "benchmark_version": "0.1"
7
+ }