docs/EVALUATION.md

评测方法

对照设计

PI Research Bench 使用相同任务、语义提示、解码与预算比较模型。当前实验的主对照为：

模型	原版	最终 LoRA
Qwen/Qwen3.8-27B	原始权重	domain 104 步 + semantic 40 步
google/gemma-3-27b-it	原始权重	domain 104 步 + semantic 40 步

生成子集另评估两种模型各自的 domain 104 步适配器，用于观察训练阶段变化。模型修订和适配器 SHA-256 见 model_bindings.json。

推理条件

共同设置为单张 A800 80GB、BF16、batch size 1、SDPA、贪心生成、32768 token 上下文。各模型采用原生聊天模板与结束 token，语义消息与工具定义保持一致。

任务	输出预算
生成诊断	2048 token/题
研究证据卡	2048 token/题
引用定位	512 token/题
完整工作流	8192 token/调用，65536 token/题

工作流最多 20 次模型调用、8 次工具请求、4 次修正、200 个图步骤，每题 3600 秒。四个主臂均使用规则协调、相同工具和服务版本，JEV 关闭。完整预算见 protocol.json。

generation 中的工具任务根据共同对话和历史工具返回生成下一次调用；source 使用完整给定原文与确定性词边界索引。workflow 每题提供四段原文，12 题的 verified_structures 均为空，重点评估文献驱动的研究规划、输入检查和能力边界处理。

程序评分

程序评分与科学内容审查分别报告。

• 普通 JSON：沿用既有解析器，处理 think/EOS 标记与外层代码围栏后，检查 JSON、字段覆盖及参考匹配。
• 文本：程序检查非空，内容判断使用科学审查记录。
• 工具调用：使用共同 JSON tool_calls 协议，核对 schema、工具名和参数。解析器严格检查字段、重复键和数值类型。
• 证据卡：核对来源标识、原文字符区间、引用文字和带单位数值字面量。
• 引用定位：核对逐字引用、Unicode 码点区间与参考位置。

评分源码位于 scoring/。移植时保留原评分逻辑，通过 3696 项参考与合成错误输入的一致性检查，记录见 package_validation.json。

科学内容审查

工作流报告两个终点：交付完整、科学可用交付。内容按来源蕴含、身份/数值/条件、假设与对照、测量设计、执行与能力边界五维评分，每维 0/1/2 分，总分 0–10。

依据原任务、原始来源和实际交付评分，隐藏模型标签并打乱顺序，先锁定评分再解盲。未审项保留 null，未形成最终交付的内容另存过程诊断。量表和审查者身份要求见 WORKFLOW_RUBRIC.md。

配对统计

四项主比较分别为 Qwen 微调前后、Gemma 微调前后、两种原版模型、两种最终 LoRA 模型。生成子集另比较 domain 阶段变化。

生成数据按原始 case_groups 连通分组聚类，来源与工作流按 DOI 聚类，采用 10000 次配对簇 bootstrap。工作流二元终点使用精确 McNemar 检验，对四项主比较与两个终点共八项检验进行 Holm 校正。方案见 analysis_plan.json。

统计细化方案保存于推理进行期间、完整组间分析和科学内容评分之前。分词器原生 token 数分别记录；性能成本比较采用各条记录标明的计时范围，历史复用与新推理的解码/评分计时边界分别列示。

当前实验进度

题库、参考答案、程序评分与工作流量表已发布。Qwen/Gemma 对照结果在推理、统一评分和科学内容审查完成后整理发布。数据来源、标注状态和题目审计见 DATA_NOTES.md。