README.md

---
pretty_name: PI Research Bench
language:
- zh
- en
size_categories:
- n<1K
task_categories:
- text-generation
tags:
- polyimide
- materials-science
- benchmark
- evidence-grounding
- tool-calling
- research-planning
configs:
- config_name: generation
  default: true
  data_files:
  - split: test
    path: data/generation/test.jsonl
- config_name: source
  data_files:
  - split: test
    path: data/source/test.jsonl
- config_name: workflow
  data_files:
  - split: test
    path: data/workflow/test.jsonl
---

# PI Research Bench
## 聚酰亚胺科研任务评测基准

PI Research Bench 面向聚酰亚胺（Polyimide，PI）科研助手，评估大语言模型在**领域问答、工具调用、文献证据提取和科研方案设计**中的表现。它将科研任务组织为三个层次，共 **936 个评测单元**，用于比较模型能力、检验领域微调效果，并分析科研工作流中的表现差异。

基准提供统一题目、参考答案、评分代码、研究规划量表和文献来源，支持按同一套条件开展模型对照与结果复现。

## 评测什么

| 层次 | 子集 | 数量 | 任务内容 | 评价重点 |
|---|---|---:|---|---|
| 基础任务 | `generation` | 772 | 领域问答、原文事实提取、表格处理、结构化输出与工具调用 | 输出格式、字段完整性、参考匹配、工具选择与参数 |
| 证据溯源 | `source` | 152 | 76 张研究证据卡与 76 条引用定位，覆盖 19 篇文献 | 来源定位、原文区间、逐字引用与带单位数值 |
| 科研工作流 | `workflow` | 12 | 根据给定文献设计研究方向、材料与工艺方案、实验验证计划 | 交付完整性、证据支持、假设与对照、测量设计 |

生成子集包含 **732 条 JSON、32 条工具调用和 8 条文本任务**，来自 716 个原始样本。工作流子集每题提供 4 段原文，覆盖透明 PI 气凝胶、摩擦磨损涂层、复合材料、分离膜和电池隔膜等研究主题。

## 题目是什么样的

**领域知识**

> 二胺与二酐制备线性 PI 时，为什么高转化率还不足以保证高分子量？

**工具调用**

给定候选材料身份、结构与目标性能，组织性能预测工具调用，填写工具名称、结构输入、预测属性和测试条件。

**文献证据**

根据给定 PI 论文原文建立研究证据卡，提取支持语句、带单位数值、样品与实验条件，并附上 DOI、段落和字符区间。

**引用定位**

在给定原文中定位指定引用，返回 Unicode 码点的 `[start, end)` 区间。

**科研工作流**

根据给定文献提出两个有差异的研究方向，包含原文体系的经典对照和可检验假设，形成材料设计、工艺建议、能力核对、风险分析、综合评价与实验验证计划。

## 可以用来做什么

- **比较微调前后的变化**：在相同题目、提示、解码和预算下，评估领域训练带来的收益。
- **比较不同模型**：使用共同任务合同、工具协议和评分器，对齐模型间的评测条件。
- **分析能力环节**：分别查看结构化生成、证据定位和完整科研规划的表现。
- **复现与审查实验**：通过题目 ID、文献来源、逐题评分和文件哈希追踪结果。

当前对照实验包含 Qwen 与 Gemma 的原版模型、104+40 步最终 LoRA，以及生成子集上的 104 步阶段适配器。具体配置见[评测方法](docs/EVALUATION.md)。

## 快速使用

安装数据读取依赖：

```bash
python -m pip install datasets
```

读取题目：

```python
import json
from datasets import load_dataset

dataset = load_dataset(
    "FaFa1116/PI-Research-Bench",
    "generation",  # 可选 generation、source、workflow
    split="test",
)

example = dataset[0]
task = json.loads(example["input_json"])
messages = task["messages"]
reference = json.loads(example["reference_json"])
```

在下载的仓库目录中运行评分：

```bash
python -m pip install -r requirements.txt
python scripts/validate_package.py
python scripts/score.py --suite generation --predictions predictions.jsonl --output scores.json
```

评分程序输出逐题结果和按题型汇总的指标。预测文件格式、来源子集评分与工作流复现步骤见[使用指南](docs/USAGE.md)。

## 数据与文档

| 资源 | 内容 |
|---|---|
| [题目](inputs/)与[参考答案](references/) | 三个子集的评测输入与生成、来源任务参考 |
| [评分代码](scoring/) | generation 与 source 的程序评分器 |
| [工作流量表](docs/WORKFLOW_RUBRIC.md) | 科研交付与科学内容审查标准 |
| [评测方法](docs/EVALUATION.md) | 模型对照、生成预算、评分口径与统计方案 |
| [数据说明](docs/DATA_NOTES.md) | 来源、样本分组、标注状态与已记录的题目问题 |
| [来源与许可](DATA_RIGHTS.md) | 原始材料的来源记录与许可状态 |

**版本：v0.1 · 2026-10-21。** 本版本提供完整题库、参考答案、评分工具和复现说明。