| # 评测方法 |
|
|
| ## 对照设计 |
|
|
| PI Research Bench 使用相同任务、语义提示、解码与预算比较模型。当前实验的主对照为： |
|
|
| | 模型 | 原版 | 最终 LoRA | |
| |---|---|---| |
| | Qwen/Qwen3.8-27B | 原始权重 | domain 104 步 + semantic 40 步 | |
| | google/gemma-3-27b-it | 原始权重 | domain 104 步 + semantic 40 步 | |
|
|
| 生成子集另评估两种模型各自的 domain 104 步适配器，用于观察训练阶段变化。模型修订和适配器 SHA-256 见 [model_bindings.json](../configs/model_bindings.json)。 |
|
|
| ## 推理条件 |
|
|
| 共同设置为单张 A800 80GB、BF16、batch size 1、SDPA、贪心生成、32768 token 上下文。各模型采用原生聊天模板与结束 token，语义消息与工具定义保持一致。 |
|
|
| | 任务 | 输出预算 | |
| |---|---:| |
| | 生成诊断 | 2048 token/题 | |
| | 研究证据卡 | 2048 token/题 | |
| | 引用定位 | 512 token/题 | |
| | 完整工作流 | 8192 token/调用，65536 token/题 | |
|
|
| 工作流最多 20 次模型调用、8 次工具请求、4 次修正、200 个图步骤，每题 3600 秒。四个主臂均使用规则协调、相同工具和服务版本，JEV 关闭。完整预算见 [protocol.json](../configs/protocol.json)。 |
|
|
| generation 中的工具任务根据共同对话和历史工具返回生成下一次调用；source 使用完整给定原文与确定性词边界索引。workflow 每题提供四段原文，12 题的 verified_structures 均为空，重点评估文献驱动的研究规划、输入检查和能力边界处理。 |
| |
| ## 程序评分 |
| |
| 程序评分与科学内容审查分别报告。 |
| |
| - **普通 JSON**：沿用既有解析器，处理 think/EOS 标记与外层代码围栏后，检查 JSON、字段覆盖及参考匹配。 |
| - **文本**：程序检查非空，内容判断使用科学审查记录。 |
| - **工具调用**：使用共同 JSON tool_calls 协议，核对 schema、工具名和参数。解析器严格检查字段、重复键和数值类型。 |
| - **证据卡**：核对来源标识、原文字符区间、引用文字和带单位数值字面量。 |
| - **引用定位**：核对逐字引用、Unicode 码点区间与参考位置。 |
|
|
| 评分源码位于 [scoring/](../scoring/)。移植时保留原评分逻辑，通过 3696 项参考与合成错误输入的一致性检查，记录见 [package_validation.json](../audits/package_validation.json)。 |
|
|
| ## 科学内容审查 |
|
|
| 工作流报告两个终点：交付完整、科学可用交付。内容按来源蕴含、身份/数值/条件、假设与对照、测量设计、执行与能力边界五维评分，每维 0/1/2 分，总分 0–10。 |
|
|
| 依据原任务、原始来源和实际交付评分，隐藏模型标签并打乱顺序，先锁定评分再解盲。未审项保留 null，未形成最终交付的内容另存过程诊断。量表和审查者身份要求见 [WORKFLOW_RUBRIC.md](WORKFLOW_RUBRIC.md)。 |
|
|
| ## 配对统计 |
|
|
| 四项主比较分别为 Qwen 微调前后、Gemma 微调前后、两种原版模型、两种最终 LoRA 模型。生成子集另比较 domain 阶段变化。 |
|
|
| 生成数据按原始 case_groups 连通分组聚类，来源与工作流按 DOI 聚类，采用 10000 次配对簇 bootstrap。工作流二元终点使用精确 McNemar 检验，对四项主比较与两个终点共八项检验进行 Holm 校正。方案见 [analysis_plan.json](../configs/analysis_plan.json)。 |
| |
| 统计细化方案保存于推理进行期间、完整组间分析和科学内容评分之前。分词器原生 token 数分别记录；性能成本比较采用各条记录标明的计时范围，历史复用与新推理的解码/评分计时边界分别列示。 |
| |
| ## 当前实验进度 |
| |
| 题库、参考答案、程序评分与工作流量表已发布。Qwen/Gemma 对照结果在推理、统一评分和科学内容审查完成后整理发布。数据来源、标注状态和题目审计见 [DATA_NOTES.md](DATA_NOTES.md)。 |
| |
