| # Construction log —— Fact Knowledge Stability Benchmark |
|
|
| > **ARCHIVAL DOCUMENT.** This records how `benchmark_facts_2592.jsonl` and |
| > `evaluation_queries_44416.jsonl` were built, for provenance and auditability. |
| > It is **not** a usage guide — see the repository README for that, and |
| > `evaluation_protocol.md` for the metric definitions. |
| > |
| > The build scripts themselves and the upstream corpora (CounterFact, LAMA, |
| > PopQA) are not distributed here; the two frozen artefacts above are. Paths and |
| > sibling-directory references below refer to the original working tree. |
| > |
| > Two facts in here matter for anyone *using* the benchmark, and are repeated in |
| > the README: the **0.59% selection rate** in Stage I (facts were kept only if |
| > all five filter models answered them correctly, so the benchmark is |
| > deliberately easy), and **F1** (750 of 2,592 facts can be answered by copying |
| > the subject string). |
| |
| 方法论要点： |
| |
| > **基准集是固定的 2,592 条，对所有模型相同。** `K_m` 只是每个模型的正确性**标签**， |
| > 绝不用来从基准集里删事实（spec §2.1）。模型答错、一直答错、拒答、 |
| > 在不同条件下答不同答案——事实都留在集合里。 |
|
|
| --- |
|
|
| ## 目录 |
|
|
| ``` |
| dataset3/ |
| ├── configs/ # 全部参数外置，脚本里不硬编码（spec §4.4, §18） |
| │ ├── models.yaml # 5 个过滤模型 + 评测模型 + 生成配置 |
| │ ├── relations.yaml # 21 个基准关系 + 排除清单 + 两个开关 |
| │ ├── source_templates.yaml # 原始来源、cloze 模板、别名资源 |
| │ └── eval_conditions.yaml # 8 个条件的角色/目标槽/期望计数 |
| ├── src/ |
| │ ├── common.py 公共：配置/规范化/校验和/计数核对 |
| │ ├── build_candidate_known.py (I) → candidate_known_8107.jsonl |
| │ ├── enrich_facts.py (II) → enriched_facts_6180.jsonl |
| │ ├── select_benchmark.py (III) → benchmark_facts_2592.jsonl |
| │ ├── build_eval_bank.py (IV) → evaluation_queries_44418.jsonl |
| │ ├── validate_facts.py → validation_report.json ← 硬门禁 |
| │ ├── build_stats.py → dataset_statistics.json |
| │ ├── qualification_run.py (V) → qualification/<model>.jsonl [GPU] |
| │ ├── qualification_score.py (V) → known_labels.json |
| │ ├── eval_run.py (VI) → evaluation/<model>.jsonl [GPU] |
| │ ├── eval_score.py (VI) → stability_report.json |
| │ ├── filter_run.py 阶段 I 首 token 过滤（重跑用） [GPU] |
| │ ├── scoring_full.py 五标签判分器 |
| │ ├── qual_templates.py 非基准关系的兜底问句 |
| │ └── test_scoring.py 31 条单元测试 |
| ├── outputs/ |
| └── run_pipeline.sh # build / gpu / score / report / all |
| ``` |
|
|
| --- |
|
|
| ## 六个阶段 |
|
|
| ### I. 候选召回 → 8,107（spec §4） |
|
|
| ``` |
| 1,783,541 cloze prompt |
| → 5 模型首 token argmax 取交集 → 10,601 |
| → 丢弃 T-REx / Wikidata5M 子集，补 PopQA 378 → 8,107 |
| ``` |
|
|
| **GPU 未重跑。** 那 1,783,541 × 5 次前向的逐条判定向量已存于 |
| `dataset/filter/correct_<model>.npy`。[build_candidate_known.py](src/build_candidate_known.py) |
| 重新读取 prompt 表、**重新求交集**、重新施加来源丢弃规则，并把每个输入文件的 |
| 校验和写进 `stage1_report.json`——数字是**验证出来的**，不是照抄。 |
| 另外与 `dataset/filter/global_known_clean.jsonl` 做集合相等性核对。 |
| 要从零重跑推理用 `src/filter_run.py`。 |
|
|
| ### II. 事实增强 → 6,180（spec §5） |
|
|
| - **实体感知分组**：优先用实体 ID，无 ID 才退回规范化文本；**跨来源合并** |
| （1,036 组同时出现在 CounterFact 和 LAMA-TREx）。8,107 行 → 6,185 组 |
| - **函数型冲突丢弃 5 条**：同名不同人（两个 "Michael Vincent" 生于 1964/1976）问题本身无解。 |
| 判据严格——**缺实体 ID 不算"同一实体"的证据**，所有成员必须都有 ID 且一致才保留 |
| - **别名扩展**：对别名资源做**单次过滤扫描**（spec §5.3），不全量载入 |
| - **挂 canonical 问句**，与评测扰动模板严格分离（spec §16） |
|
|
| ### III. 基准选择 → 2,592 / 21 关系（spec §6） |
|
|
| ``` |
| 6,180 → core 来源（CounterFact + LAMA-TREx + PopQA）→ 3,705 |
| → 函数型（单值）关系 → 2,592 |
| ``` |
|
|
| ### IV. 查询库 → 44,416（spec §8–§12） |
|
|
| | 条件 | 查询 | 事实 | 角色 | |
| |---|---:|---:|---| |
| | anchor | 2,592 | 2,592 | main | |
| | multilingual | 12,010 | 2,402 | main | |
| | paraphrase | 10,053 | 2,592 | main | |
| | format | 7,776 | 2,592 | main | |
| | context | **6,829** | 2,591 | main | |
| | reverse | 634 | 253 | **结构分析，单独报** | |
| | recognition | 3,412 | 2,585 | 诊断 | |
| | reverse_illposed | 1,110 | 1,110 | 诊断 | |
| | **合计** | **44,416** | | main forward **39,260** | |
| |
| 每条查询自带 `use_for_main_forward` / `use_for_reverse_analysis` / |
| `use_for_recognition_analysis` 三个布尔量，**由 `eval_conditions.yaml` 派生**， |
| 下游聚合不需要硬编码哪个条件进哪个平均。校验器会检查每行的布尔量与注册表一致。 |
| |
| ### V. Anchor 资格认证 → `K_m` 标签（spec §7）⬜ 待跑 |
| |
| 纯补全 prompt（base 与 instruct 用**完全相同**的字符串，无 chat template）、 |
| 贪婪解码 24 token、无候选无 few-shot。判分在 CPU，**五标签**： |
| |
| `correct` / `incorrect` / `ambiguous` / `abstain` / `unparseable` |
| |
| 输出 `known_labels.json`：`{fact_id: {model: label}}`，覆盖全部 2,592 × 全部模型。 |
| |
| ### VI. 扰动评测 → 稳定性 ⬜ 待跑 |
| |
| [eval_run.py](src/eval_run.py) 跑全部 44,416 条查询， |
| **解码配置与 anchor 完全一致**（同一份 `configs/models.yaml:generation`）—— |
| 否则 `max_new_tokens` 或 chat template 的差异会被误读成稳定性效应。 |
| anchor 也一起重跑，让所有条件走同一条代码路径。 |
| |
| [eval_score.py](src/eval_score.py) 在 CPU 判分并出报表，三条规则写死在代码里而不是留给读者： |
| |
| 1. **按查询自带的布尔量分组** —— `recognition` 和 `reverse_illposed` 永不进主平均， |
| `reverse` 因为换了目标槽而单独报（spec §2.3） |
| 2. **两个分母并排报**：`fixed`（固定 2,592，spec §2.1）与 |
| `anchored`（限定在该模型的 `K_m` 内，即条件化保持率） |
| 3. **每个数字按 `answer_in_subject_surface` 再拆一次**（`·real` / `·copy`）， |
| 因为 28.9% 的事实靠复制就能答对、天然接近满分（见 F1） |
| |
| 主指标 macro = paraphrase / format / context / multilingual 四者均值： |
| anchor 是基线不计入，reverse 换了槽不计入，两个诊断条件不计入。 |
| |
| --- |
| |
| ## 运行（原工作树，此处不分发） |
| |
| 阶段 I–IV 是建库，产物就是本仓库 `data/` 下的两个文件，不需要重跑。 |
| 阶段 V–VI 的**生成**部分在本仓库里对应 `runner/eval_run.py`，用法见 README。 |
| |
| --- |
| |
| ## 当前状态 |
| |
| | 阶段 | 状态 | |
| |---|---| |
| | I 候选召回 | ✅ 8,107，全部计数命中 | |
| | II 事实增强 | ✅ 6,180，6,185 组 / 5 冲突 / 1,771 合并 / 1,036 跨来源，全中 | |
| | III 基准选择 | ✅ 2,592 / 21 关系，全中 | |
| | IV 查询库 | ✅ 44,416（见差异 D1） | |
| | 校验 | ✅ **0 hard errors** | |
| | 单元测试 | ✅ **31/31** | |
| | V 资格认证 | ⬜ 待跑（判分逻辑已用合成数据演练通过） | |
| | VI 扰动评测 | ⬜ 待跑（运行器 + 报表已用合成数据演练通过） | |
|
|
| --- |
|
|
| ## 与 spec 的差异（完整版见 [outputs/reconstruction_differences.md](outputs/reconstruction_differences.md)） |
|
|
| 除一处外全部精确复现。 |
|
|
| **D1 — context 6,831 → 6,829，总计 44,418 → 44,416。** |
| 旧数据里有 2 条 context 查询的干扰实体字面包含 gold： |
| `"...confuse States Reorganisation Act with **Indian** Act..."` 而 gold 是 `India`。 |
| 违反 spec §9.4 与 §13.9。按 spec §10「发现既有缺陷可改数」处理： |
| 在建库时加**规则化守卫**（主语提及剔除后 gold 仍出现即丢弃），不是硬编码例外。 |
|
|
| **C1 — spec §6.2 与要求的规模自相矛盾。** |
| §6.2 点名 `developer of` / `manufacturer of` 不适合，但这两个关系共 **846 条**， |
| 去掉只剩 1,746 条 / 19 关系，达不到 §15 验收要求的 2,592 / 21。 |
| 处理：保留并打 `spec_6_2_flag`，`relations.yaml` 提供 `drop_spec_6_2_flagged` 开关 |
| 可一键产出 1,746 条的合规变体。 |
|
|
| **F1 — 28.9% 的基准事实可以靠复制字符串答对。** |
| 2,592 条里有 **750 条** object 字面包含在 subject 名字里： |
|
|
| ``` |
| Airbus A318 → manufacturer Airbus (该关系 87.8% 命中) |
| Adobe Acrobat → developer Adobe (49.1%) |
| Amazon Music → owned by Amazon (58.4%) |
| ``` |
|
|
| 其中 586 条来自 manufacturer 和 developer——**独立印证了 C1**。 |
| 这类事实"稳定"的原因与知识无关，会抬高所有保持率、削弱要研究的效应。 |
| 按 spec §16 不删，打 `answer_in_subject_surface` 标记，事实和查询两级都带。 |
| `qualification_score.py` 已经**默认分开报**这两个子集的准确率。 |
|
|
| **F2 — 8,107 里有 808 条完全重复的三元组**（唯一四元组只有 7,299）。分组阶段自然吸收，仅记录。 |
|
|
| **N1 — Stage I 未重跑 GPU**（见上）。 |
| **N2 — `capital_of` 方向未归一化**：spec §2.2 要求单一方向，但归一化会改变规模，故保留 |
| `direction: inverse` + `inverse_of: capital` 显式标注，开关在 `relations.yaml`。 |
| |
| --- |
| |
| ## 两个必须记住的口径 |
| |
| 1. **分母永远是 2,592。** `K_m` 是标签不是筛子。加模型、换模型都不改任何已算出的数。 |
| 2. **reverse 不进 main forward 平均。** 它换了目标槽（object → subject）， |
| spec §2.3 要求单独报。`recognition` 和 `reverse_illposed` 同理，且校验器有硬检查。 |
|
|
| --- |
|
|
| ## 报告用描述（spec §17） |
|
|
| > We first use five-model first-token consensus to retrieve high-probability |
| > factual candidates from large-scale knowledge resources. We then merge |
| > duplicate facts, expand entity aliases, construct independent canonical |
| > questions, remove ambiguous and multi-valued relations, and obtain a fixed |
| > benchmark of 2,592 facts across 21 relations. Model-specific open-ended anchor |
| > generation provides correctness labels but does not alter the benchmark |
| > denominator. Based on the fixed fact set, we construct 44,416 queries covering |
| > anchor, paraphrastic, format, contextual, cross-lingual, reverse, and |
| > recognition conditions, while isolating ill-posed reverse queries as a |
| > separate diagnostic set. |
|
|
