| # 使用指南 |
|
|
| ## 读取三个子集 |
|
|
| 安装 `datasets` 后，用 `load_dataset("FaFa1116/PI-Research-Bench", subset, split="test")` 读取数据。subset 为 `generation`、`source` 或 `workflow`。 |
|
|
| `data/` 为 Dataset Viewer 和 Datasets 库提供统一行结构。嵌套任务以 JSON 字符串保存，字段如下： |
|
|
| | 字段 | 内容 | |
| |---|---| |
| | id | 唯一评测单元 ID | |
| | suite、kind、category | 子集、题型与任务类别 | |
| | cluster_id | 用于分组分析的来源或原始样本组 | |
| | question | 便于浏览的当前问题 | |
| | messages_json | 完整对话输入，使用 json.loads 解析 | |
| | input_json | 完整任务记录，使用 json.loads 解析 | |
| | reference_json | 评分参考；workflow 使用审查量表 | |
| | original_split | 原始数据分区 | |
| | reference_status | 参考答案审核状态 | |
|
|
| `inputs/` 保存冻结输入，`references/` 保存评分参考；data 中的对应记录与冻结文件逐项一致。构造模型输入时读取 messages 或 workflow 的 task/sources，评分阶段读取 reference。 |
|
|
| ## generation 与 source 评分 |
|
|
| 在仓库目录中安装依赖并校验文件： |
|
|
| ```bash |
| python -m pip install -r requirements.txt |
| python scripts/validate_package.py |
| ``` |
|
|
| 预测文件采用 JSONL，每行包含唯一 `id` 和字符串 `raw_text`： |
|
|
| ```json |
| {"id":"pi-k001@assistant-2","raw_text":"逐步聚合的分子量还受到官能团计量平衡、单体纯度与副反应等因素影响。"} |
| ``` |
|
|
| generation 的 id 对应输入中的 unit_id；source 的 id 对应输入中的 id。 |
| |
| ```bash |
| python scripts/score.py --suite generation --predictions predictions.jsonl --output scores.json |
| python scripts/score.py --suite source --predictions source_predictions.jsonl --output source_scores.json |
| ``` |
| |
| 输出包括逐题指标、按题型汇总的通过/已评分数量、缺失题目与完整性状态。配对分析使用相同题目集合与完整运行记录。 |
| |
| ### 原生结束 token |
| |
| 提供 `terminal_eos_text` 时，同时设置 `terminal_eos_verified: true`，并通过实际最后一个生成 token ID 确认该标记。评分器移除对应的末尾标记。采用调用方剥除 EOS 的流程时，将剥除后的文本交给评分器，另存完整原答和 token 序列。 |
| |
| ## 工作流复现 |
| |
| 工作流输入位于 `inputs/workflow.jsonl`，包含研究任务、四段文献原文和来源定位。按[评测方法](EVALUATION.md)设置预算，使用同一规则协调器、工具 schema 与服务版本执行四个主臂。 |
| |
| 完整工作流执行环境需要部署原研究的多智能体协调器与材料计算服务。本仓库提供任务、预算、模型绑定和[科学内容量表](WORKFLOW_RUBRIC.md)。完成后对模型标识进行盲化，依据原始来源与实际交付评分，锁分后开展配对统计。 |
| |
| ## 文件校验与历史工具记录 |
| |
| `MANIFEST.sha256.json` 固定各文件哈希，`provenance/` 保存原输入哈希、来源分组和评分器移植记录。 |
| |
| 历史工具消息中的路径属于题目内容。执行环境使用各自的本地路径和服务配置，评分保留题目中的原始文本。 |
| |
