Datasets:
Explain benchmark purpose and tasks; organize method details
Browse files- DATA_RIGHTS.md +10 -4
- MANIFEST.sha256.json +6 -2
- README.md +68 -60
- docs/DATA_NOTES.md +42 -0
- docs/EVALUATION.md +57 -0
- docs/USAGE.md +61 -0
- provenance/documentation_revision.json +7 -0
DATA_RIGHTS.md
CHANGED
|
@@ -1,7 +1,13 @@
|
|
| 1 |
-
# 数据来源与
|
| 2 |
|
| 3 |
-
本
|
| 4 |
|
| 5 |
-
|
| 6 |
|
| 7 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# 数据来源与许可
|
| 2 |
|
| 3 |
+
本仓库包含项目构造的题目、参考答案、评分代码,以及第三方论文的原文段落、表格内容和引用,供同行查看与复现。
|
| 4 |
|
| 5 |
+
文献摘录适用各原始来源的权利与许可。项目原创题目、标注和评分代码的统一发布许可待确定。
|
| 6 |
|
| 7 |
+
## 来源记录
|
| 8 |
+
|
| 9 |
+
- [generation_cases.jsonl](provenance/generation_cases.jsonl):原始语料的 DOI、定位、label_kind、license_kind 与审核状态。
|
| 10 |
+
- [source_catalog.jsonl](provenance/source_catalog.jsonl):各子集的文献来源索引。
|
| 11 |
+
- [数据说明](docs/DATA_NOTES.md):样本构造、分组和题目审查记录。
|
| 12 |
+
|
| 13 |
+
license_kind 沿用上游记录。本次发布的许可核对状态为待逐来源复核;许可证原文、署名和再分发条件逐项补充维护。
|
MANIFEST.sha256.json
CHANGED
|
@@ -2,8 +2,8 @@
|
|
| 2 |
"algorithm": "SHA-256",
|
| 3 |
"files": {
|
| 4 |
".gitignore": "b72e95d31b8da405ae3f609d60c88628263853f0016653a8e9f3fe245290ac70",
|
| 5 |
-
"DATA_RIGHTS.md": "
|
| 6 |
-
"README.md": "
|
| 7 |
"audits/package_validation.json": "6e90929899678ae13d3af411524210188180a647fc586e98aeb9bec0c71dc354",
|
| 8 |
"audits/question_reference_audit.json": "4e66e30ca4ce0a467356b1495bb504c755bda1d8927f81fe5161d582711526c8",
|
| 9 |
"configs/analysis_plan.json": "0e4a587f44cdad459f9ff237b867ca2f81cc37477905be6612e5b35591a26618",
|
|
@@ -12,10 +12,14 @@
|
|
| 12 |
"data/generation/test.jsonl": "6972fd1222a9c78c412ed1e2d59bc6fb648dfd452b6780eea5af59e143a95e82",
|
| 13 |
"data/source/test.jsonl": "6ddca10b4055273d6fc5ba26d74c8459f32326069e2a83077f653e278f419a72",
|
| 14 |
"data/workflow/test.jsonl": "f786eae295324f60a890b8876b62a69dd299fc496daf3cd17fc272c1ce5e5b30",
|
|
|
|
|
|
|
|
|
|
| 15 |
"docs/WORKFLOW_RUBRIC.md": "e343fe6a3214df3d23ca44052f6e03100be9dad42213660b4463c6ae2d427d29",
|
| 16 |
"inputs/generation.jsonl": "a734255baa4cd72adc3dbe677006217f3452b97444625462ccf23711e05761ed",
|
| 17 |
"inputs/source.jsonl": "db175b5dcb5d3b6460f89bfa76c1c60664914ac76b5d3f4e5d8f65ebb0f9de0e",
|
| 18 |
"inputs/workflow.jsonl": "e93345326fb081fc281b820b1e77a4c4fd9a0409caccef806deb886fd1fdfaaf",
|
|
|
|
| 19 |
"provenance/generation_cases.jsonl": "eb4e4ecf902bdf8bac0182571f8d582479d9d9a851c74447f069b0b3f5afe4a9",
|
| 20 |
"provenance/generation_clusters.json": "e1a5b359746c3f4b1a1301924d5e85d2005fadd876d218cc88a0804f6b3ab44d",
|
| 21 |
"provenance/publication.json": "2acaa28fbb2ed6d199fc71146a01756b8ae69d358f23dbdc10e723c08d3267e8",
|
|
|
|
| 2 |
"algorithm": "SHA-256",
|
| 3 |
"files": {
|
| 4 |
".gitignore": "b72e95d31b8da405ae3f609d60c88628263853f0016653a8e9f3fe245290ac70",
|
| 5 |
+
"DATA_RIGHTS.md": "97e3b28030cf5a894bdf6122bdefd854cceb03f0d7e0649c1c1e9869bc60985b",
|
| 6 |
+
"README.md": "44bb760fab9479fe2650df381a2abcf3c30ce91be6e55a58857e3ac4e6ed8c4f",
|
| 7 |
"audits/package_validation.json": "6e90929899678ae13d3af411524210188180a647fc586e98aeb9bec0c71dc354",
|
| 8 |
"audits/question_reference_audit.json": "4e66e30ca4ce0a467356b1495bb504c755bda1d8927f81fe5161d582711526c8",
|
| 9 |
"configs/analysis_plan.json": "0e4a587f44cdad459f9ff237b867ca2f81cc37477905be6612e5b35591a26618",
|
|
|
|
| 12 |
"data/generation/test.jsonl": "6972fd1222a9c78c412ed1e2d59bc6fb648dfd452b6780eea5af59e143a95e82",
|
| 13 |
"data/source/test.jsonl": "6ddca10b4055273d6fc5ba26d74c8459f32326069e2a83077f653e278f419a72",
|
| 14 |
"data/workflow/test.jsonl": "f786eae295324f60a890b8876b62a69dd299fc496daf3cd17fc272c1ce5e5b30",
|
| 15 |
+
"docs/DATA_NOTES.md": "8916318e69c0dc1abd9cf4c06cff4ba4b9380ad89586dfba0ea995fe78275566",
|
| 16 |
+
"docs/EVALUATION.md": "4ad39322895d063d9bb9f0d7229583f545a1ab5089d4f7c91ebeb364cfdfdee9",
|
| 17 |
+
"docs/USAGE.md": "98900026f6bdca9184cbd5c8fcbdfb47dc30fec868a3ffdac5a5f9bed4f7c08a",
|
| 18 |
"docs/WORKFLOW_RUBRIC.md": "e343fe6a3214df3d23ca44052f6e03100be9dad42213660b4463c6ae2d427d29",
|
| 19 |
"inputs/generation.jsonl": "a734255baa4cd72adc3dbe677006217f3452b97444625462ccf23711e05761ed",
|
| 20 |
"inputs/source.jsonl": "db175b5dcb5d3b6460f89bfa76c1c60664914ac76b5d3f4e5d8f65ebb0f9de0e",
|
| 21 |
"inputs/workflow.jsonl": "e93345326fb081fc281b820b1e77a4c4fd9a0409caccef806deb886fd1fdfaaf",
|
| 22 |
+
"provenance/documentation_revision.json": "9d363daabd7724111a39a8a7ddb8395768980878b5bdb7a493cc8cc6ab2baaa6",
|
| 23 |
"provenance/generation_cases.jsonl": "eb4e4ecf902bdf8bac0182571f8d582479d9d9a851c74447f069b0b3f5afe4a9",
|
| 24 |
"provenance/generation_clusters.json": "e1a5b359746c3f4b1a1301924d5e85d2005fadd876d218cc88a0804f6b3ab44d",
|
| 25 |
"provenance/publication.json": "2acaa28fbb2ed6d199fc71146a01756b8ae69d358f23dbdc10e723c08d3267e8",
|
README.md
CHANGED
|
@@ -30,91 +30,99 @@ configs:
|
|
| 30 |
path: data/workflow/test.jsonl
|
| 31 |
---
|
| 32 |
|
| 33 |
-
# PI Research Bench
|
|
|
|
| 34 |
|
| 35 |
-
|
| 36 |
|
| 37 |
-
|
| 38 |
-
|---|---:|---|---|
|
| 39 |
-
| generation | 772 | 732 条 JSON、32 条工具调用、8 条文本;来自 716 个原始样本 | 格式、字段、参考匹配、工具名与参数 |
|
| 40 |
-
| source | 152 | 19 篇 DOI 文献,76 张证据卡、76 条引用定位 | 原文区间、逐字引用、数值字面量 |
|
| 41 |
-
| workflow | 12 | 每题 4 段原文,共 48 段;2 个研究方向、经典对照与可检验假设 | 交付完整性与科学可用性,分开审查 |
|
| 42 |
-
| 合计 | 936 | 三类任务分别报告 | 按来源/原始样本聚类分析 |
|
| 43 |
|
| 44 |
-
##
|
| 45 |
|
| 46 |
-
|
| 47 |
-
-
|
| 48 |
-
|
| 49 |
-
|
| 50 |
-
|
| 51 |
|
| 52 |
-
|
| 53 |
|
| 54 |
-
|
| 55 |
|
| 56 |
-
|
| 57 |
-
python -m pip install -r requirements.txt
|
| 58 |
-
python scripts/validate_package.py
|
| 59 |
-
```
|
| 60 |
|
| 61 |
-
|
| 62 |
|
| 63 |
-
|
| 64 |
-
import json
|
| 65 |
-
from datasets import load_dataset
|
| 66 |
|
| 67 |
-
|
| 68 |
-
case = json.loads(ds[0]["input_json"])
|
| 69 |
-
messages = case["messages"]
|
| 70 |
-
reference = json.loads(ds[0]["reference_json"]) # 仅用于评分
|
| 71 |
-
```
|
| 72 |
|
| 73 |
-
|
| 74 |
|
| 75 |
-
|
| 76 |
|
| 77 |
-
|
| 78 |
-
|
| 79 |
-
|
| 80 |
-
|
|
|
|
| 81 |
|
| 82 |
-
|
| 83 |
|
| 84 |
-
##
|
| 85 |
|
| 86 |
-
|
|
|
|
|
|
|
|
|
|
| 87 |
|
| 88 |
-
|
| 89 |
|
| 90 |
-
|
| 91 |
|
| 92 |
-
|
| 93 |
|
| 94 |
-
|
| 95 |
-
-
|
| 96 |
-
|
| 97 |
-
- workflow 的科学内容按来源蕴含、身份/数值/条件、假设与对照、测量设计、执行与能力边界五维评分。量表见 `docs/WORKFLOW_RUBRIC.md`。
|
| 98 |
|
| 99 |
-
|
| 100 |
|
| 101 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 102 |
|
| 103 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
| 104 |
|
| 105 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 106 |
|
| 107 |
-
|
| 108 |
|
| 109 |
-
|
| 110 |
-
- `references/`:生成与来源任务的参考答案;工作流使用审查量表。
|
| 111 |
-
- `data/`:Hugging Face 可读取的 936 行索引。
|
| 112 |
-
- `scoring/`、`scripts/score.py`:从既有冻结评分器移植的 CPU 评分工具。
|
| 113 |
-
- `configs/`、`docs/`:协议、模型绑定、分析方案与量表。
|
| 114 |
-
- `provenance/`:来源、分组、原文件哈希和评分器移植记录。
|
| 115 |
-
- `audits/`:题目问题与打包校验记录。
|
| 116 |
-
- `MANIFEST.sha256.json`:文件哈希清单。
|
| 117 |
|
| 118 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 119 |
|
| 120 |
-
|
|
|
|
| 30 |
path: data/workflow/test.jsonl
|
| 31 |
---
|
| 32 |
|
| 33 |
+
# PI Research Bench
|
| 34 |
+
## 聚酰亚胺科研任务评测基准
|
| 35 |
|
| 36 |
+
PI Research Bench 面向聚酰亚胺(Polyimide,PI)科研助手,评估大语言模型在**领域问答、工具调用、文献证据提取和科研方案设计**中的表现。它将科研任务组织为三个层次,共 **936 个评测单元**,用于比较模型能力、检验领域微调效果,并分析科研工作流中的表现差异。
|
| 37 |
|
| 38 |
+
基准提供统一题目、参考答案、评分代码、研究规划量表和文献来源,支持按同一套条件开展模型对照与结果复现。
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 39 |
|
| 40 |
+
## 评测什么
|
| 41 |
|
| 42 |
+
| 层次 | 子集 | 数量 | 任务内容 | 评价重点 |
|
| 43 |
+
|---|---|---:|---|---|
|
| 44 |
+
| 基础任务 | `generation` | 772 | 领域问答、原文事实提取、表格处理、结构化输出与工具调用 | 输出格式、字段完整性、参考匹配、工具选择与参数 |
|
| 45 |
+
| 证据溯源 | `source` | 152 | 76 张研究证据卡与 76 条引用定位,覆盖 19 篇文献 | 来源定位、原文区间、逐字引用与带单位数值 |
|
| 46 |
+
| 科研工作流 | `workflow` | 12 | 根据给定文献设计研究方向、材料与工艺方案、实验验证计划 | 交付完整性、证据支持、假设与对照、测量设计 |
|
| 47 |
|
| 48 |
+
生成子集包含 **732 条 JSON、32 条工具调用和 8 条文本任务**,来自 716 个原始样本。工作流子集每题提供 4 段原文,覆盖透明 PI 气凝胶、摩擦磨损涂层、复合材料、分离膜和电池隔膜等研究主题。
|
| 49 |
|
| 50 |
+
## 题目是什么样的
|
| 51 |
|
| 52 |
+
**领域知识**
|
|
|
|
|
|
|
|
|
|
| 53 |
|
| 54 |
+
> 二胺与二酐制备线性 PI 时,为什么高转化率还不足以保证高分子量?
|
| 55 |
|
| 56 |
+
**工具调用**
|
|
|
|
|
|
|
| 57 |
|
| 58 |
+
给定候选材料身份、结构与目标性能,组织性能预测工具调用,填写工具名称、结构输入、预测属性和测试条件。
|
|
|
|
|
|
|
|
|
|
|
|
|
| 59 |
|
| 60 |
+
**文献证据**
|
| 61 |
|
| 62 |
+
根据给定 PI 论文原文建立研究证据卡,提取支持语句、带单位数值、样品与实验条件,并附上 DOI、段落和字符区间。
|
| 63 |
|
| 64 |
+
**引用定位**
|
| 65 |
+
|
| 66 |
+
在给定原文中定位指定引用,返回 Unicode 码点的 `[start, end)` 区间。
|
| 67 |
+
|
| 68 |
+
**科研工作流**
|
| 69 |
|
| 70 |
+
根据给定文献提出两个有差异的研究方向,包含原文体系的经典对照和可检验假设,形成材料设计、工艺建议、能力核对、风险分析、综合评价与实验验证计划。
|
| 71 |
|
| 72 |
+
## 可以用来做什么
|
| 73 |
|
| 74 |
+
- **比较微调前后的变化**:在相同题目、提示、解码和预算下,评估领域训练带来的收益。
|
| 75 |
+
- **比较不同模型**:使用共同任务合同、工具协议和评分器,对齐模型间的评测条件。
|
| 76 |
+
- **分析能力环节**:分别查看结构化生成、证据定位和完整科研规划的表现。
|
| 77 |
+
- **复现与审查实验**:通过题目 ID、文献来源、逐题评分和文件哈希追踪结果。
|
| 78 |
|
| 79 |
+
当前对照实验包含 Qwen 与 Gemma 的原版模型、104+40 步最终 LoRA,以及生成子集上的 104 步阶段适配器。具体配置见[评测方法](docs/EVALUATION.md)。
|
| 80 |
|
| 81 |
+
## 快速使用
|
| 82 |
|
| 83 |
+
安装数据读取依赖:
|
| 84 |
|
| 85 |
+
```bash
|
| 86 |
+
python -m pip install datasets
|
| 87 |
+
```
|
|
|
|
| 88 |
|
| 89 |
+
读取题目:
|
| 90 |
|
| 91 |
+
```python
|
| 92 |
+
import json
|
| 93 |
+
from datasets import load_dataset
|
| 94 |
+
|
| 95 |
+
dataset = load_dataset(
|
| 96 |
+
"FaFa1116/PI-Research-Bench",
|
| 97 |
+
"generation", # 可选 generation、source、workflow
|
| 98 |
+
split="test",
|
| 99 |
+
)
|
| 100 |
|
| 101 |
+
example = dataset[0]
|
| 102 |
+
task = json.loads(example["input_json"])
|
| 103 |
+
messages = task["messages"]
|
| 104 |
+
reference = json.loads(example["reference_json"])
|
| 105 |
+
```
|
| 106 |
|
| 107 |
+
在下载的仓库目录中运行评分:
|
| 108 |
+
|
| 109 |
+
```bash
|
| 110 |
+
python -m pip install -r requirements.txt
|
| 111 |
+
python scripts/validate_package.py
|
| 112 |
+
python scripts/score.py --suite generation --predictions predictions.jsonl --output scores.json
|
| 113 |
+
```
|
| 114 |
|
| 115 |
+
评分程序输出逐题结果和按题型汇总的指标。预测文件格式、来源子集评分与工作流复现步骤见[使用指南](docs/USAGE.md)。
|
| 116 |
|
| 117 |
+
## 数据与文档
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 118 |
|
| 119 |
+
| 资源 | 内容 |
|
| 120 |
+
|---|---|
|
| 121 |
+
| [题目](inputs/)与[参考答案](references/) | 三个子集的评测输入与生成、来源任务参考 |
|
| 122 |
+
| [评分代码](scoring/) | generation 与 source 的程序评分器 |
|
| 123 |
+
| [工作流量表](docs/WORKFLOW_RUBRIC.md) | 科研交付与科学内容审查标准 |
|
| 124 |
+
| [评测方法](docs/EVALUATION.md) | 模型对照、生成预算、评分口径与统计方案 |
|
| 125 |
+
| [数据说明](docs/DATA_NOTES.md) | 来源、样本分组、标注状态与已记录的题目问题 |
|
| 126 |
+
| [来源与许可](DATA_RIGHTS.md) | 原始材料的来源记录与许可状态 |
|
| 127 |
|
| 128 |
+
**版本:v0.1 · 2026-10-21。** 本版本提供完整题库、参考答案、评分工具和复现说明。
|
docs/DATA_NOTES.md
ADDED
|
@@ -0,0 +1,42 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# 数据说明
|
| 2 |
+
|
| 3 |
+
## 来源与样本分组
|
| 4 |
+
|
| 5 |
+
generation 的 772 个助手回合来自 716 个原始样本,按原始 case_groups 连通关系构成 31 个统计簇。source 包含 19 篇 DOI 文献、76 张证据卡与 76 条引用定位。workflow 包含 12 个文献驱动任务,每题四段原文,共 48 段。
|
| 6 |
+
|
| 7 |
+
题目 ID、DOI、原文定位和原文件哈希保存在 [provenance/](../provenance/)。[generation_clusters.json](../provenance/generation_clusters.json) 提供分组映射,[source_catalog.jsonl](../provenance/source_catalog.jsonl) 汇总各子集识别到的来源。
|
| 8 |
+
|
| 9 |
+
## 标注与审核状态
|
| 10 |
+
|
| 11 |
+
| 项目 | 当前记录 |
|
| 12 |
+
|---|---|
|
| 13 |
+
| 参考构造 | 助手编写与原文派生 |
|
| 14 |
+
| 领域复核 | 待开展,逐条状态见 generation_cases.jsonl |
|
| 15 |
+
| 独立专家审阅 | 待开展 |
|
| 16 |
+
| 历史使用 | 题集曾用于开发与评测 |
|
| 17 |
+
| 基座预训练接触 | 未知 |
|
| 18 |
+
| 统计单位 | 按原始样本组或 DOI 聚类 |
|
| 19 |
+
|
| 20 |
+
参考答案用于程序匹配,科学内容依据原文与工作流量表审查。对照实验采用固定最终检查点,阶段适配器单列为辅助对照。
|
| 21 |
+
|
| 22 |
+
## 已记录的题目问题
|
| 23 |
+
|
| 24 |
+
2026-10-21 的题目与参考审计确认三个跨物理量比较或排序条目:
|
| 25 |
+
|
| 26 |
+
| 题目 ID | 问题 |
|
| 27 |
+
|---|---|
|
| 28 |
+
| compare2-4f0507d5543cb2dc@assistant-2 | 激光能量 mJ 与光斑尺寸 µm 被直接作数值差 |
|
| 29 |
+
| compare2-6d2bb6919adb1b6a@assistant-2 | 光斑尺寸 µm 与重复频率 Hz 被直接比较 |
|
| 30 |
+
| order2-d1f22b1c18079733@assistant-2 | 仪器参数表中的不同物理量按数值列混合排序 |
|
| 31 |
+
|
| 32 |
+
三题继续保留原始输入与机械参考,便于复现已冻结的评测。科学审查将量纲可比性纳入判断,并据实评价正确指出不可比问题的回答。逐题证据和原参考见 [question_reference_audit.json](../audits/question_reference_audit.json)。
|
| 33 |
+
|
| 34 |
+
这批记录是推理开始后的首批已核实实例,全面审计继续逐项维护。后续分层分析标明审计时间与筛选依据。
|
| 35 |
+
|
| 36 |
+
## 工作流任务内容
|
| 37 |
+
|
| 38 |
+
12 个工作流均围绕提供的文献设计研究方向、经典对照、可检验假设和实验验证计划。输入中的 verified_structures 列表为空,评分侧重证据支持、研究规划和工具输入条件的处理。
|
| 39 |
+
|
| 40 |
+
## 版本记录
|
| 41 |
+
|
| 42 |
+
v0.1 固定 936 个评测单元、参考答案、程序评分与工作流量表。文档编辑单独记录版本,题目与评分变化通过数据版本发布。
|
docs/EVALUATION.md
ADDED
|
@@ -0,0 +1,57 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# 评测方法
|
| 2 |
+
|
| 3 |
+
## 对照设计
|
| 4 |
+
|
| 5 |
+
PI Research Bench 使用相同任务、语义提示、解码与预算比较模型。当前实验的主对照为:
|
| 6 |
+
|
| 7 |
+
| 模型 | 原版 | 最终 LoRA |
|
| 8 |
+
|---|---|---|
|
| 9 |
+
| Qwen/Qwen3.8-27B | 原始权重 | domain 104 步 + semantic 40 步 |
|
| 10 |
+
| google/gemma-3-27b-it | 原始权重 | domain 104 步 + semantic 40 步 |
|
| 11 |
+
|
| 12 |
+
生成子集另评估两种模型各自的 domain 104 步适配器,用于观察训练阶段变化。模型修订和适配器 SHA-256 见 [model_bindings.json](../configs/model_bindings.json)。
|
| 13 |
+
|
| 14 |
+
## 推理条件
|
| 15 |
+
|
| 16 |
+
共同设置为单张 A800 80GB、BF16、batch size 1、SDPA、贪心生成、32768 token 上下文。各模型采用原生聊天模板与结束 token,语义消息与工具定义保持一致。
|
| 17 |
+
|
| 18 |
+
| 任务 | 输出预算 |
|
| 19 |
+
|---|---:|
|
| 20 |
+
| 生成诊断 | 2048 token/题 |
|
| 21 |
+
| 研究证据卡 | 2048 token/题 |
|
| 22 |
+
| 引用定位 | 512 token/题 |
|
| 23 |
+
| 完整工作流 | 8192 token/调用,65536 token/题 |
|
| 24 |
+
|
| 25 |
+
工作流最多 20 次模型调用、8 次工具请求、4 次修正、200 个图步骤,每题 3600 秒。四个主臂均使用规则协调、相同工具和服务版本,JEV 关闭。完整预算见 [protocol.json](../configs/protocol.json)。
|
| 26 |
+
|
| 27 |
+
generation 中的工具任务根据共同对话和历史工具返回生成下一次调用;source 使用完整给定原文与确定性词边界索引。workflow 每题提供四段原文,12 题的 verified_structures 均为空,重点评估文献驱动的研究规划、输入检查和能力边界处理。
|
| 28 |
+
|
| 29 |
+
## 程序评分
|
| 30 |
+
|
| 31 |
+
程序评分与科学内容审查分别报告。
|
| 32 |
+
|
| 33 |
+
- **普通 JSON**:沿用既有解析器,处理 think/EOS 标记与外层代码围栏后,检查 JSON、字段覆盖及参考匹配。
|
| 34 |
+
- **文本**:程序检查非空,内容判断使用科学审查记录。
|
| 35 |
+
- **工具调用**:使用共同 JSON tool_calls 协议,核对 schema、工具名和参数。解析器严格检查字段、重复键和数值类型。
|
| 36 |
+
- **证据卡**:核对来源标识、原文字符区间、引用文字和带单位数值字面量。
|
| 37 |
+
- **引用定位**:核对逐字引用、Unicode 码点区间与参考位置。
|
| 38 |
+
|
| 39 |
+
评分源码位于 [scoring/](../scoring/)。移植时保留原评分逻辑,通过 3696 项参考与合成错误输入的一致性检查,记录见 [package_validation.json](../audits/package_validation.json)。
|
| 40 |
+
|
| 41 |
+
## 科学内容审查
|
| 42 |
+
|
| 43 |
+
工作流报告两个终点:交付完整、科学可用交付。内容按来源蕴含、身份/数值/条件、假设与对照、测量设计、执行与能力边界五维评分,每维 0/1/2 分,总分 0–10。
|
| 44 |
+
|
| 45 |
+
依据原任务、原始来源和实际交付评分,隐藏模型标签并打乱顺序,先锁定评分再解盲。未审项保留 null,未形成最终交付的内容另存过程诊断。量表和审查者身份要求见 [WORKFLOW_RUBRIC.md](WORKFLOW_RUBRIC.md)。
|
| 46 |
+
|
| 47 |
+
## 配对统计
|
| 48 |
+
|
| 49 |
+
四项主比较分别为 Qwen 微调前后、Gemma 微调前后、两种原版模型、两种最终 LoRA 模型。生成子集另比较 domain 阶段变化。
|
| 50 |
+
|
| 51 |
+
生成数据按原始 case_groups 连通分组聚类,来源与工作流按 DOI 聚类,采用 10000 次配对簇 bootstrap。工作流二元终点使用精确 McNemar 检验,对四项主比较与两个终点共八项检验进行 Holm 校正。方案见 [analysis_plan.json](../configs/analysis_plan.json)。
|
| 52 |
+
|
| 53 |
+
统计细化方案保存于推理进行期间、完整组间分析和科学内容评分之前。分词器原生 token 数分别记录;性能成本比较采用各条记录标明的计时范围,历史复用与新推理的解码/评分计时边界分别列示。
|
| 54 |
+
|
| 55 |
+
## 当前实验进度
|
| 56 |
+
|
| 57 |
+
题库、参考答案、程序评分与工作流量表已发布。Qwen/Gemma 对照结果在推理、统一评分和科学内容审查完成后整理发布。数据来源、标注状态和题目审计见 [DATA_NOTES.md](DATA_NOTES.md)。
|
docs/USAGE.md
ADDED
|
@@ -0,0 +1,61 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# 使用指南
|
| 2 |
+
|
| 3 |
+
## 读取三个子集
|
| 4 |
+
|
| 5 |
+
安装 `datasets` 后,用 `load_dataset("FaFa1116/PI-Research-Bench", subset, split="test")` 读取数据。subset 为 `generation`、`source` 或 `workflow`。
|
| 6 |
+
|
| 7 |
+
`data/` 为 Dataset Viewer 和 Datasets 库提供统一行结构。嵌套任务以 JSON 字符串保存,字段如下:
|
| 8 |
+
|
| 9 |
+
| 字段 | 内容 |
|
| 10 |
+
|---|---|
|
| 11 |
+
| id | 唯一评测单元 ID |
|
| 12 |
+
| suite、kind、category | 子集、题型与任务类别 |
|
| 13 |
+
| cluster_id | 用于分组分析的来源或原始样本组 |
|
| 14 |
+
| question | 便于浏览的当前问题 |
|
| 15 |
+
| messages_json | 完整对话输入,使用 json.loads 解析 |
|
| 16 |
+
| input_json | 完整任务记录,使用 json.loads 解析 |
|
| 17 |
+
| reference_json | 评分参考;workflow 使用审查量表 |
|
| 18 |
+
| original_split | 原始数据分区 |
|
| 19 |
+
| reference_status | 参考答案审核状态 |
|
| 20 |
+
|
| 21 |
+
`inputs/` 保存冻结输入,`references/` 保存评分参考;data 中的对应记录与冻结文件逐项一致。构造模型输入时读取 messages 或 workflow 的 task/sources,评分阶段读取 reference。
|
| 22 |
+
|
| 23 |
+
## generation 与 source 评分
|
| 24 |
+
|
| 25 |
+
在仓库目录中安装依赖并校验文件:
|
| 26 |
+
|
| 27 |
+
```bash
|
| 28 |
+
python -m pip install -r requirements.txt
|
| 29 |
+
python scripts/validate_package.py
|
| 30 |
+
```
|
| 31 |
+
|
| 32 |
+
预测文件采用 JSONL,每行包含唯一 `id` 和字符串 `raw_text`:
|
| 33 |
+
|
| 34 |
+
```json
|
| 35 |
+
{"id":"pi-k001@assistant-2","raw_text":"逐步聚合的分子量还受到官能团计量平衡、单体纯度与副反应等因素影响。"}
|
| 36 |
+
```
|
| 37 |
+
|
| 38 |
+
generation 的 id 对应输入中的 unit_id;source 的 id 对应输入中的 id。
|
| 39 |
+
|
| 40 |
+
```bash
|
| 41 |
+
python scripts/score.py --suite generation --predictions predictions.jsonl --output scores.json
|
| 42 |
+
python scripts/score.py --suite source --predictions source_predictions.jsonl --output source_scores.json
|
| 43 |
+
```
|
| 44 |
+
|
| 45 |
+
输出包括逐题指标、按题型汇总的通过/已评分数量、缺失题目与完整性状态。配对分析使用相同题目集合与完整运行记录。
|
| 46 |
+
|
| 47 |
+
### 原生结束 token
|
| 48 |
+
|
| 49 |
+
提供 `terminal_eos_text` 时,同时设置 `terminal_eos_verified: true`,并通过实际最后一个生成 token ID 确认该标记。评分器移除对应的末尾标记。采用调用方剥除 EOS 的流程时,将剥除后的文本交给评分器,另存完整原答和 token 序列。
|
| 50 |
+
|
| 51 |
+
## 工作流复现
|
| 52 |
+
|
| 53 |
+
工作流输入位于 `inputs/workflow.jsonl`,包含研究任务、四段文献原文和来源定位。按[评测方法](EVALUATION.md)设置预算,使用同一规则协调器、工具 schema 与服务版本执行四个主臂。
|
| 54 |
+
|
| 55 |
+
完整工作流执行环境需要部署原研究的多智能体协调器与材料计算服务。本仓库提供任务、预算、模型绑定和[科学内容量表](WORKFLOW_RUBRIC.md)。完成后对模型标识进行盲化,依据原始来源与实际交付评分,锁分后开展配对统计。
|
| 56 |
+
|
| 57 |
+
## 文件校验与历史工具记录
|
| 58 |
+
|
| 59 |
+
`MANIFEST.sha256.json` 固定各文件哈希,`provenance/` 保存原输入哈希、来源分组和评分器移植记录。
|
| 60 |
+
|
| 61 |
+
历史工具消息中的路径属于题目内容。执行环境使用各自的本地路径和服务配置,评分保留题目中的原始文本。
|
provenance/documentation_revision.json
ADDED
|
@@ -0,0 +1,7 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
{
|
| 2 |
+
"utc": "2026-10-21T07:06:09.386418+00:00",
|
| 3 |
+
"base_commit": "292fd3264a563595707df4b405b59c53ead488f7",
|
| 4 |
+
"change": "Rewrite dataset card around purpose, tasks, examples and usage; organize evaluation and provenance details in linked documents.",
|
| 5 |
+
"data_and_scoring_changed": false,
|
| 6 |
+
"benchmark_version": "0.1"
|
| 7 |
+
}
|