dataset_upload/protocol/evaluation_protocol.md

BCS、BES、ISS 与 KTS 评测规范

0. 目的

本规范用于在固定事实知识数据集上评测大语言模型的：

1. 外部行为一致性；
2. 内部事实状态稳定性；
3. 整体知识拓扑稳定性。

最终报告四个核心指标：

[ \boxed{ \mathrm{BCS},\quad \mathrm{BES},\quad \mathrm{ISS},\quad \mathrm{KTS} } ]

其中：

指标	全称	分析层级	核心问题
BCS	Behavioral Consistency Score	单事实、外部行为	不同检索条件下是否主要表达同一个答案？
BES	Behavioral Entropy Stability	单事实、外部行为	回答分布是否集中，还是分散到多个答案？
ISS	Internal State Stability	单事实、内部表示	同一事实跨条件是否形成一致且可区分的内部状态？
KTS	Knowledge Topology Stability	数据集、内部空间	不同条件下事实身份与整体知识几何是否保持？

本规范默认使用固定主事实集：

[ \mathcal D={f_1,\ldots,f_N},\qquad N=2,592. ]

所有被测模型使用完全相同的事实和 query bank。模型在 anchor 条件下是否回答正确，只作为标签，不改变评测分母。

---

1. 评测条件

1.1 主前向检索条件

以下条件保持检索目标为：

[ (s,r)\rightarrow o. ]

记主条件集合为：

[ \mathcal T= { \text{anchor}, \text{paraphrase}, \text{format}, \text{context}, \text{multilingual} }. ]

这些条件进入 BCS、BES、ISS 和 KTS 的主要计算。

1.2 独立诊断条件

以下条件不混入主指标：

• recognition：正确答案已经出现在候选中，属于辅助识别；
• reverse：检索目标从 object 改为 subject，单独报告 structural retrieval；
• reverse_illposed：反向映射不唯一，只用于数据诊断。

1.3 覆盖不完整时的处理

当前数据中：

• anchor：覆盖 2,592 条事实；
• paraphrase：覆盖 2,592 条事实；
• format：覆盖 2,592 条事实；
• context：覆盖 2,591 条事实；
• multilingual：覆盖 2,402 条事实。

推荐优先补齐缺失条件。

在未补齐前，应同时报告：

Complete-family 主结果

仅使用具备全部五个主条件的事实集合：

[ \mathcal D_{\cap}

\bigcap_{t\in\mathcal T}\mathcal D_t. ]

这是最严格、最可比的主结果。

Full-set 补充结果

对每条事实使用其实际存在的条件集合：

[ \mathcal T_f

{t\in\mathcal T:f\in\mathcal D_t}. ]

所有平均都按可用 condition family 等权计算，并报告每个指标的有效样本数。

不能为缺失条件伪造零分，也不能把不同模型的有效事实集设为不同集合。

---

2. 必要输入

2.1 Fact 文件

每条事实至少包含：

{
  "fact_id": "fact_000001",
  "subject": "France",
  "relation": "capital",
  "object": "Paris",
  "gold_aliases": ["Paris", "City of Paris"],
  "answer_type": "city",
  "answer_granularity": "entity"
}

2.2 Query 文件

每条 query 至少包含：

{
  "query_id": "query_00000001",
  "fact_id": "fact_000001",
  "condition_family": "paraphrase",
  "variant_id": "para_02",
  "language": "en",
  "query": "Which city serves as the capital of France?",
  "target_slot": "object",
  "use_for_main_forward": true
}

2.3 模型输出文件

{
  "model": "model_name",
  "query_id": "query_00000001",
  "fact_id": "fact_000001",
  "condition_family": "paraphrase",
  "raw_response": "The answer is Paris.",
  "generation_config": {
    "do_sample": false,
    "temperature": 0,
    "max_new_tokens": 24
  }
}

2.4 内部表示文件

ISS 和 KTS 需要在模型尚未生成第一个答案 token 时，提取问题末位位置的 residual state：

{
  "model": "model_name",
  "query_id": "query_00000001",
  "fact_id": "fact_000001",
  "condition_family": "paraphrase",
  "layer": 16,
  "position": "query_end",
  "hidden_state_path": "..."
}

必须保证所有 query 使用同一种位置定义：

输入 prompt 的最后一个有效 token，即模型读完问题但尚未开始生成答案的位置。

---

3. AI Judge 输出协议

BCS 和 BES 不直接比较原始字符串，而基于 AI Judge 得到的语义答案 cluster。

整个过程分为两步。

3.1 Reference-blind 答案抽取与聚类

Judge 不看 gold answer，只完成：

1. 提取回答最终主张的核心答案；
2. 忽略句式、语言、标点和解释性文字；
3. 将语义等价答案归为同一 cluster；
4. 标记拒答、多答案和无法解析输出。

例如：

Paris
The answer is Paris.
Paris, France.
巴黎

应归入同一个语义 cluster。

建议特殊 cluster：

• ABSTAIN：拒答或明确表示不知道；
• MULTIPLE：给出多个冲突答案且未选择；
• UNPARSEABLE：无法提取明确答案；
• 具体实体或命题 cluster，如 ENTITY_Q90 或 SEMANTIC_PARIS。

Judge 输出：

{
  "query_id": "query_00000001",
  "fact_id": "fact_000001",
  "cluster_id": "ENTITY_Q90",
  "canonical_meaning": "Paris",
  "status": "ANSWER",
  "confidence": 0.98
}

同一事实的所有主条件输出应一次性或全局一致地聚类，避免两两判断产生非传递关系。

3.2 Reference-aware 正确性判断

第二步再向 Judge 提供：

• gold answer；
• accepted aliases；
• answer type；
• answer granularity。

对每个语义 cluster 标记：

• CORRECT；
• INCORRECT；
• ABSTAIN；
• AMBIGUOUS；
• REVIEW_REQUIRED。

该步骤用于区分 Stable Correct 和 Stable Wrong，但不参与答案 cluster 的形成。

---

4. BCS：Behavioral Consistency Score

4.1 为什么需要 family-balanced 计算

不同 condition family 的 query 数量差异很大。例如：

• paraphrase 可能有 3–5 个版本；
• multilingual 可能有多个语言版本；
• anchor 通常只有 1 条。

如果直接按全部 query 计数，query 更多的 family 会支配结果。

因此必须先在每个 family 内计算答案分布，再对 family 等权聚合。

4.2 Family 内答案分布

设事实 (f) 在 family (t) 下的 query 集为：

[ Q_{f,t}. ]

AI Judge 给 query (q) 分配语义 cluster：

[ \kappa_{m,f,q}. ]

对于答案 cluster (a)，定义：

[ p_{m,f,t}(a)

\frac{1}{|Q_{f,t}|} \sum_{q\in Q_{f,t}} \mathbb I[ \kappa_{m,f,q}=a ]. ]

每个 family 的总概率满足：

[ \sum_a p_{m,f,t}(a)=1. ]

4.3 跨 family 等权聚合

对事实 (f) 的有效主条件集合 (\mathcal T_f)，定义：

[ p_{m,f}(a)

\frac{1}{|\mathcal T_f|} \sum_{t\in\mathcal T_f} p_{m,f,t}(a). ]

这样每个 condition family 权重相同，不受该 family 中 query 数量影响。

4.4 BCS 定义

[ \boxed{ \mathrm{BCS}_{m,f}

\max_a p_{m,f}(a) } ]

取最大概率的 cluster：

[ a^*_{m,f}

\arg\max_a p_{m,f}(a). ]

解释：

• (\mathrm{BCS}=1)：所有有效条件都只支持同一个语义答案；
• (\mathrm{BCS}=0.8)：主要答案获得 80% 的 family-balanced 概率；
• BCS 较低：输出分散到多个答案。

BCS 不判断主答案是否正确。

例如，gold 是 Canberra，但所有条件都回答 Sydney：

[ \mathrm{BCS}=1. ]

这是高度稳定但错误的行为。

4.5 模型级 BCS

[ \boxed{ \mathrm{BCS}_m

\frac{1}{|\mathcal D_{\mathrm{eval}}|} \sum_{f\in\mathcal D_{\mathrm{eval}}} \mathrm{BCS}_{m,f} } ]

其中：

• 主结果使用 (\mathcal D_{\cap})；
• 补充结果可使用完整可用集合。

---

5. BES：Behavioral Entropy Stability

BCS 只关注最大答案 cluster，可能忽略剩余概率如何分布。

例如以下两种情况的 BCS 都是 0.6：

A: 0.6, B: 0.4

和：

A: 0.6, B: 0.1, C: 0.1, D: 0.1, E: 0.1

第二种回答明显更加分散，因此需要 BES。

5.1 答案熵

基于 family-balanced 分布 (p_{m,f}(a))，定义：

[ H_{m,f}

-\sum_{a:p_{m,f}(a)>0} p_{m,f}(a)\log p_{m,f}(a). ]

设实际观察到的非零答案 cluster 数为：

[ A_{m,f}

\left| {a:p_{m,f}(a)>0} \right|. ]

5.2 BES 定义

当 (A_{m,f}=1) 时：

[ \mathrm{BES}_{m,f}=1. ]

当 (A_{m,f}>1) 时：

[ \boxed{ \mathrm{BES}_{m,f}

1- \frac{H_{m,f}}{\log A_{m,f}} } ]

解释：

• (\mathrm{BES}=1)：回答完全集中于一个 cluster；
• (\mathrm{BES}=0)：回答在所有已观察 cluster 上均匀分布；
• 值越高，回答分布越集中。

BCS 和 BES 的区别：

• BCS 衡量最大 cluster 的占比；
• BES 衡量完整答案分布的集中程度。

建议将 BCS 作为主外部稳定性指标，BES 作为补充指标。

5.3 模型级 BES

[ \boxed{ \mathrm{BES}_m

\frac{1}{|\mathcal D_{\mathrm{eval}}|} \sum_{f\in\mathcal D_{\mathrm{eval}}} \mathrm{BES}_{m,f} } ]

---

6. 外部行为类型

设置预注册的行为稳定阈值：

[ \tau_B=0.8. ]

根据主答案 cluster (a^*_{m,f}) 的正确性，将事实划分为：

6.1 Stable Correct

[ \mathrm{BCS}_{m,f}\ge \tau_B ]

且：

[ a^*_{m,f}\text{ 被 Judge 标记为 CORRECT}. ]

6.2 Stable Wrong

[ \mathrm{BCS}_{m,f}\ge \tau_B ]

且主 cluster 是明确的错误答案。

6.3 Stable Abstention

[ \mathrm{BCS}_{m,f}\ge \tau_B ]

且：

[ a^*_{m,f}=\mathrm{ABSTAIN}. ]

6.4 Unstable

[ \mathrm{BCS}_{m,f}<\tau_B. ]

建议额外做阈值敏感性分析：

[ \tau_B\in{0.7,0.8,0.9}. ]

模型级比例：

[ \mathrm{SCR}_m

\frac{#\text{Stable Correct}}{|\mathcal D_{\mathrm{eval}}|}, ]

[ \mathrm{SWR}_m

\frac{#\text{Stable Wrong}}{|\mathcal D_{\mathrm{eval}}|}, ]

[ \mathrm{SAR}_m

\frac{#\text{Stable Abstention}}{|\mathcal D_{\mathrm{eval}}|}, ]

[ \mathrm{UR}_m

\frac{#\text{Unstable}}{|\mathcal D_{\mathrm{eval}}|}. ]

四者应满足：

[ \mathrm{SCR}_m+ \mathrm{SWR}_m+ \mathrm{SAR}_m+ \mathrm{UR}_m =1. ]

---

7. ISS：Internal State Stability

7.1 测量目标

ISS 衡量：

同一事实在不同主检索条件下，是否形成一致且具有事实区分性的内部状态。

ISS 不依赖模型最终答案是否正确，也不依赖 gold answer 是单 token 还是多 token。

7.2 Query-end hidden state

对于模型 (m)、事实 (f)、query (q) 和层 (\ell)，提取：

[ h^\ell_{m,f,q}\in\mathbb R^{d_m}. ]

位置固定为 query 最后一个有效输入 token。

7.3 J-Lens Jacobian transport

对每一层估计平均 Jacobian transport：

[ J^\ell_m

\mathbb E_x \left[ \frac{\partial h^L_m}{\partial h^\ell_m} \right]. ]

将第 (\ell) 层状态运输到 final-layer residual basis：

[ \boxed{ z^\ell_{m,f,q}

J^\ell_m h^\ell_{m,f,q} } ]

这里只使用运输后的 hidden representation，不乘 unembedding matrix，因此不进入 vocabulary space。

如果暂时无法实现 Jacobian transport，可以用 raw hidden state 计算一个 Raw-ISS 作为消融，但主指标应使用 transported state。

7.4 去除 relation 和 condition family 主效应

对每个模型和层计算：

[ \mu^\ell_m

\mathbb E_{f,q}[z^\ell_{m,f,q}], ]

[ \mu^\ell_{m,r}

\mathbb E_{f,q:r_f=r}[z^\ell_{m,f,q}], ]

[ \mu^\ell_{m,t}

\mathbb E_{f,q:t(q)=t}[z^\ell_{m,f,q}]. ]

双重残差化：

[ \bar z^\ell_{m,f,q}

z^\ell_{m,f,q}

\mu^\ell_{m,r_f}

\mu^\ell_{m,t(q)} + \mu^\ell_m. ]

该步骤用于减少：

• relation 类型共有方向；
• query 格式共有方向；
• 语言 family 共有方向；
• residual stream 公共均值。

7.5 正则化白化

估计协方差：

[ \Sigma^\ell_m

\operatorname{Cov} \left( \bar z^\ell_{m,f,q} \right). ]

定义：

[ \tilde z^\ell_{m,f,q}

\left( \Sigma^\ell_m+\lambda I \right)^{-1/2} \bar z^\ell_{m,f,q}. ]

实践建议：

• 使用 shrinkage covariance；
• 或使用 PCA whitening；
• PCA 维度固定为 (\min(512,d_m))；
• 所有 query 使用同一个模型、同一层的变换；
• 不允许为不同 condition family 单独拟合白化矩阵。

随后进行 L2 归一化：

[ \hat z^\ell_{m,f,q}

\frac{\tilde z^\ell_{m,f,q}} {|\tilde z^\ell_{m,f,q}|_2+\epsilon}. ]

7.6 Family centroid

一个 family 内可能有多个 query。为了避免 query 数量多的 family 获得更高权重，先计算 family centroid：

[ v^\ell_{m,f,t}

\operatorname{Normalize} \left( \frac{1}{|Q_{f,t}|} \sum_{q\in Q_{f,t}} \hat z^\ell_{m,f,q} \right). ]

每条事实在每个 condition family 下只保留一个表示。

7.7 同事实跨 family 相似度

设事实 (f) 的有效 family pair 集为：

[ \mathcal P_f

{(t,t'):t,t'\in\mathcal T_f,\ t<t'}. ]

定义正样本相似度：

[ S^+_{m,f,\ell}

\frac{1}{|\mathcal P_f|} \sum_{(t,t')\in\mathcal P_f} \cos \left( v^\ell_{m,f,t}, v^\ell_{m,f,t'} \right). ]

7.8 同 relation 背景相似度

为每个事实选择同 relation、不同事实的负样本集合：

[ \mathcal N_f

{g:g\neq f,\ r_g=r_f}. ]

对于每个 family pair，使用对称背景：

[ B_{m,f,\ell}(t,t')

\frac{1}{2|\mathcal N_f|} \sum_{g\in\mathcal N_f} \left[ \cos(v^\ell_{m,f,t},v^\ell_{m,g,t'}) + \cos(v^\ell_{m,f,t'},v^\ell_{m,g,t}) \right]. ]

再定义：

[ S^-_{m,f,\ell}

\frac{1}{|\mathcal P_f|} \sum_{(t,t')\in\mathcal P_f} B_{m,f,\ell}(t,t'). ]

如果同 relation 事实过多，可以固定随机采样最多 100 个负事实，并对所有模型使用同一采样列表。

7.9 ISS 定义

[ \boxed{ \mathrm{ISS}_{m,f,\ell}

\frac{ S^+_{m,f,\ell}

S^-{m,f,\ell} }{ 1-S^-{m,f,\ell}+\epsilon } } ]

解释：

• 接近 1：同一事实跨条件高度一致；
• 接近 0：同一事实的相似性不高于同 relation 背景；
• 小于 0：跨条件表示比其他事实背景还不一致。

该值理论上可能小于 (-1)。统计分析应保留原始值；如果用于图表展示，可额外报告裁剪版本：

[ \mathrm{ISS}^{\mathrm{clip}}

\operatorname{clip}(\mathrm{ISS},-1,1). ]

不要用裁剪值替代原始统计值。

7.10 跨层 ISS

将相对层深定义为：

[ d_\ell

\frac{\ell}{L_m-1}. ]

预注册主分析窗口：

[ \mathcal W_m

{\ell:0.4\le d_\ell\le1.0}. ]

单事实 ISS：

[ \boxed{ \mathrm{ISS}_{m,f}

\frac{1}{|\mathcal W_m|} \sum_{\ell\in\mathcal W_m} \mathrm{ISS}_{m,f,\ell} } ]

模型级 ISS：

[ \boxed{ \mathrm{ISS}_m

\frac{1}{|\mathcal D_{\mathrm{eval}}|} \sum_{f\in\mathcal D_{\mathrm{eval}}} \mathrm{ISS}_{m,f} } ]

同时建议报告：

Peak ISS

[ \mathrm{ISS}^{\mathrm{peak}}_{m,f}

\max_{\ell\in\mathcal W_m} \mathrm{ISS}_{m,f,\ell}. ]

表示模型是否曾形成过一致事实状态。

Late ISS

[ \mathrm{ISS}^{\mathrm{late}}_{m,f}

\frac{1}{|\mathcal W^{\mathrm{late}}m|} \sum{\ell:d_\ell\ge0.8} \mathrm{ISS}_{m,f,\ell}. ]

表示一致状态是否保持到靠近输出的阶段。

---

8. KTS：Knowledge Topology Stability

8.1 测量目标

KTS 衡量：

不同 condition family 下，整个事实表示空间的相对几何和事实身份是否保持。

KTS 不要求不同问法触发相同的计算路径。

它允许：

• 整体空间旋转；
• 平移；
• 各向同性缩放；
• 不同语言使用不同内部实现。

只要事实间相对结构和事实身份仍可保持，KTS 就可以较高。

8.2 Condition-specific knowledge space

对 condition family (t)、层 (\ell)，将所有有效事实的 family centroid 组成：

[ V^\ell_{m,t}

\begin{bmatrix} v^\ell_{m,1,t}\ v^\ell_{m,2,t}\ \vdots\ v^\ell_{m,N_t,t} \end{bmatrix}. ]

对 family pair ((t,t'))，只使用共同覆盖事实：

[ \mathcal D_{t,t'}

\mathcal D_t\cap\mathcal D_{t'}. ]

不同模型必须使用完全相同的 (\mathcal D_{t,t'})。

---

9. KTS-Geo：全局几何稳定性

9.1 Relation 内距离矩阵

为减少 relation 不平衡和 relation 间宏观差异的支配作用，KTS-Geo 按 relation 计算后再宏平均。

对于 relation (r)，定义：

[ \mathcal D_{r,t,t'}

{f\in\mathcal D_{t,t'}:r_f=r}. ]

仅保留至少包含 5 条事实的 relation。

在 family (t) 下构造 relation 内距离：

[ D^\ell_{m,t,r}(f,g)

1- \cos \left( v^\ell_{m,f,t}, v^\ell_{m,g,t} \right). ]

在 family (t') 下类似构造：

[ D^\ell_{m,t',r}(f,g). ]

9.2 Relation 内几何相关性

[ \rho^\ell_{m,r}(t,t')

\operatorname{Spearman} \left( \operatorname{vec}{f<g}D^\ell{m,t,r}, \operatorname{vec}{f<g}D^\ell{m,t',r} \right). ]

9.3 Relation-macro KTS-Geo

[ \boxed{ \mathrm{KTS}^{\mathrm{geo}}_{m,\ell}(t,t')

\frac{1}{|\mathcal R_{t,t'}|} \sum_{r\in\mathcal R_{t,t'}} \rho^\ell_{m,r}(t,t') } ]

该值范围为：

[ [-1,1]. ]

解释：

• 1：事实距离排序完全保持；
• 0：两个条件下的事实几何无显著对应；
• 负值：事实距离结构发生反向重排。

为了与 KTS-ID 合成，需要映射到 ([0,1])：

[ \widetilde{\mathrm{KTS}}^{\mathrm{geo}}

\frac{ \mathrm{KTS}^{\mathrm{geo}}+1 }{2}. ]

---

10. KTS-ID：事实身份稳定性

全局距离结构可能看起来类似，但局部事实身份仍可能交换，因此需要 cross-condition fact identification。

10.1 跨条件最近邻检索

对于事实 (f) 在 family (t) 下的表示，在 family (t') 的同 relation 事实中检索最近邻：

[ \hat f_{t\rightarrow t'}

\arg\max_{ g\in\mathcal D_{r_f,t,t'} } \cos \left( v^\ell_{m,f,t}, v^\ell_{m,g,t'} \right). ]

反向同样计算：

[ \hat f_{t'\rightarrow t}. ]

10.2 Relation 内 Top-1 身份准确率

[ \mathrm{ID}_{m,\ell,r}(t\rightarrow t')

\frac{1}{|\mathcal D_{r,t,t'}|} \sum_{f\in\mathcal D_{r,t,t'}} \mathbb I[ \hat f_{t\rightarrow t'}=f ]. ]

进行双向平均：

[ \mathrm{ID}^{\mathrm{sym}}_{m,\ell,r}(t,t')

\frac{ \mathrm{ID}{m,\ell,r}(t\rightarrow t') + \mathrm{ID}{m,\ell,r}(t'\rightarrow t) }{2}. ]

10.3 Chance correction

若 relation (r) 有 (n_r) 条事实，随机 Top-1 命中的概率为：

[ b_r=\frac{1}{n_r}. ]

定义 chance-corrected identity：

[ \mathrm{ID}^{\mathrm{adj}}_{m,\ell,r}

\frac{ \mathrm{ID}^{\mathrm{sym}}_{m,\ell,r}-b_r }{ 1-b_r+\epsilon }. ]

用于合成时裁剪到：

[ [0,1]. ]

10.4 Relation-macro KTS-ID

[ \boxed{ \mathrm{KTS}^{\mathrm{id}}_{m,\ell}(t,t')

\frac{1}{|\mathcal R_{t,t'}|} \sum_{r\in\mathcal R_{t,t'}} \operatorname{clip} \left( \mathrm{ID}^{\mathrm{adj}}_{m,\ell,r}, 0,1 \right) } ]

建议同时报告原始：

• Top-1 accuracy；
• Top-5 accuracy；
• mean reciprocal rank；
• chance-corrected Top-1。

主 KTS 使用 chance-corrected Top-1。

---

11. KTS 合成

对于 family pair ((t,t')) 和层 (\ell)，定义：

[ g

\widetilde{\mathrm{KTS}}^{\mathrm{geo}}_{m,\ell}(t,t'), ]

[ i

\mathrm{KTS}^{\mathrm{id}}_{m,\ell}(t,t'). ]

使用调和平均：

[ \boxed{ \mathrm{KTS}_{m,\ell}(t,t')

\frac{ 2gi }{ g+i+\epsilon } } ]

使用调和平均的原因是：

• 只有几何稳定但事实身份无法匹配，不应获得高 KTS；
• 只有身份匹配但整体邻域结构严重扭曲，也不应获得高 KTS。

11.1 跨 family pair 平均

主 family pair 集：

[ \mathcal P_{\mathcal T}

{(t,t'):t,t'\in\mathcal T,\ t<t'}. ]

每个 pair 等权：

[ \mathrm{KTS}_{m,\ell}

\frac{1}{|\mathcal P_{\mathcal T}|} \sum_{(t,t')\in\mathcal P_{\mathcal T}} \mathrm{KTS}_{m,\ell}(t,t'). ]

不能按 pair 中 query 数或事实数加权，否则覆盖更大的 family 会支配结果。

11.2 跨层 KTS

[ \boxed{ \mathrm{KTS}_m

\frac{1}{|\mathcal W_m|} \sum_{\ell\in\mathcal W_m} \mathrm{KTS}_{m,\ell} } ]

建议主表同时展示：

• KTS-Geo；
• KTS-ID；
• KTS composite。

不要只报告 composite 而隐藏两个组成部分。

---

12. 四个指标的联合解释

BCS/BES	ISS	KTS	解释
高	高	高	输出、单事实状态和整体知识结构均稳定
高	低	低	表面答案一致，但内部状态和知识组织不稳定
高	高	低	单事实局部状态一致，但整体空间可能坍缩或重排
低	高	高	内部知识较稳定，失败更可能发生在后期选择或表达
低	低	高	不同条件引起统一坐标变化，但知识拓扑仍保持
低	低	低	外部行为、单事实状态和知识空间均不稳定

对于 Stable Wrong：

• BCS/BES 高；
• 主 cluster 被判为错误；
• ISS 和 KTS 高；

表示模型可能稳定形成并组织了一个错误事实关联。

这不应称为“正确知识稳定”，而应称为：

stable internal misalignment 或 stable wrong association。

---

13. 推荐主结果表

13.1 模型总体结果

Model	Anchor Acc.	BCS	BES	Stable Correct	Stable Wrong	Stable Abstention	ISS	KTS-Geo	KTS-ID	KTS
Model A
Model B

13.2 按行为类型分析内部稳定性

Behavior group	Facts	ISS	KTS-Geo	KTS-ID	KTS
Stable Correct
Stable Wrong
Stable Abstention
Unstable

13.3 按 condition pair 报告 KTS

Pair	Shared facts	KTS-Geo	KTS-ID	KTS
Anchor–Paraphrase
Anchor–Format
Anchor–Context
Anchor–Multilingual
Paraphrase–Format
...

---

14. 推荐统计协议

14.1 Relation-clustered bootstrap

由于 21 个 relation 的事实数量不均衡，不能只对所有事实进行普通独立 bootstrap。

推荐：

1. 有放回采样 relation；
2. 在每个采样 relation 内有放回采样事实；
3. 重复 1,000 次；
4. 报告 95% percentile confidence interval。

对 KTS-Geo 和 KTS-ID，应在每次 bootstrap 内重新计算关系宏平均。

14.2 模型间比较

比较模型 A 和 B 时使用 paired bootstrap：

• 每次使用相同的 relation 和 fact 重采样；
• 计算指标差： [ \Delta=\mathrm{Metric}_A-\mathrm{Metric}_B; ]
• 报告 (\Delta) 的 95% CI。

14.3 随机性控制

必须固定：

• 模型 revision；
• tokenizer revision；
• generation 参数；
• Judge 模型和 revision；
• Judge temperature；
• negative fact sampling；
• PCA 或 randomized SVD seed；
• bootstrap seed。

---

15. 评测流程

固定 2,592 条事实和 query bank
          |
          v
对每个模型运行全部 query 的贪婪生成
          |
          v
Reference-blind AI Judge 抽取与语义聚类
          |
          +--> Reference-aware Judge 标记正确性
          |
          +--> 计算 BCS、BES 和行为类别
          |
          v
提取主前向 query 的 query-end hidden states
          |
          v
计算 J-Lens Jacobian transport
          |
          v
relation/condition 残差化 + whitening
          |
          v
构造每个 fact-family 的 centroid
          |
          +--> 计算 ISS
          |
          +--> 构建 condition-specific knowledge spaces
                    |
                    +--> KTS-Geo
                    +--> KTS-ID
                    +--> KTS composite

---

16. Python 风格伪代码

16.1 BCS 和 BES

from collections import defaultdict
import math


def compute_bcs_bes(records, main_families):
    family_cluster_counts = defaultdict(lambda: defaultdict(int))
    family_totals = defaultdict(int)

    for item in records:
        family = item["condition_family"]
        if family not in main_families:
            continue
        cluster = item["cluster_id"]
        family_cluster_counts[family][cluster] += 1
        family_totals[family] += 1

    valid_families = sorted(family_totals)
    if not valid_families:
        raise ValueError("No valid main-family queries.")

    clusters = {
        cluster
        for family in valid_families
        for cluster in family_cluster_counts[family]
    }

    p = {}
    for cluster in clusters:
        p[cluster] = sum(
            family_cluster_counts[family].get(cluster, 0)
            / family_totals[family]
            for family in valid_families
        ) / len(valid_families)

    modal_cluster = max(p, key=p.get)
    bcs = p[modal_cluster]

    positive_probs = [value for value in p.values() if value > 0]
    if len(positive_probs) == 1:
        bes = 1.0
    else:
        entropy = -sum(value * math.log(value) for value in positive_probs)
        bes = 1.0 - entropy / math.log(len(positive_probs))

    return {
        "bcs": bcs,
        "bes": bes,
        "modal_cluster": modal_cluster,
        "cluster_distribution": p,
        "valid_families": valid_families,
    }

16.2 Family centroid

import numpy as np


def l2_normalize(x, eps=1e-12):
    return x / max(np.linalg.norm(x), eps)


def family_centroid(query_vectors):
    normalized = [l2_normalize(x) for x in query_vectors]
    return l2_normalize(np.mean(normalized, axis=0))

16.3 单层 ISS

def compute_iss_for_fact(
    family_vectors,
    same_relation_fact_vectors,
    eps=1e-12,
):
    families = sorted(family_vectors)
    positive = []
    negative = []

    for i, family_a in enumerate(families):
        for family_b in families[i + 1:]:
            va = family_vectors[family_a]
            vb = family_vectors[family_b]
            positive.append(float(np.dot(va, vb)))

            pair_negatives = []
            for other in same_relation_fact_vectors:
                if family_a not in other or family_b not in other:
                    continue
                pair_negatives.append(
                    0.5 * (
                        float(np.dot(va, other[family_b]))
                        + float(np.dot(vb, other[family_a]))
                    )
                )
            if pair_negatives:
                negative.append(float(np.mean(pair_negatives)))

    s_pos = float(np.mean(positive))
    s_neg = float(np.mean(negative))
    iss = (s_pos - s_neg) / (1.0 - s_neg + eps)

    return {
        "s_positive": s_pos,
        "s_background": s_neg,
        "iss": iss,
    }

16.4 KTS-ID

def cross_condition_top1(vectors_a, vectors_b, fact_ids):
    vectors_a = np.asarray([l2_normalize(x) for x in vectors_a])
    vectors_b = np.asarray([l2_normalize(x) for x in vectors_b])

    sim_ab = vectors_a @ vectors_b.T
    sim_ba = vectors_b @ vectors_a.T

    pred_ab = np.argmax(sim_ab, axis=1)
    pred_ba = np.argmax(sim_ba, axis=1)
    gold = np.arange(len(fact_ids))

    acc_ab = np.mean(pred_ab == gold)
    acc_ba = np.mean(pred_ba == gold)
    acc_sym = 0.5 * (acc_ab + acc_ba)

    chance = 1.0 / len(fact_ids)
    adjusted = (acc_sym - chance) / max(1.0 - chance, 1e-12)

    return {
        "top1_symmetric": acc_sym,
        "chance": chance,
        "chance_corrected": float(np.clip(adjusted, 0.0, 1.0)),
    }

---

17. 输出文件建议

metrics/
├── behavioral_per_query.jsonl
├── behavioral_per_fact.jsonl
├── behavioral_model_summary.json
├── hidden_family_centroids/
├── iss_per_fact_layer.jsonl
├── iss_per_fact.jsonl
├── iss_model_summary.json
├── kts_per_pair_layer.jsonl
├── kts_model_summary.json
├── bootstrap_intervals.json
└── evaluation_manifest.json

17.1 behavioral_per_fact.jsonl

{
  "model": "model_name",
  "fact_id": "fact_000001",
  "bcs": 0.95,
  "bes": 0.82,
  "modal_cluster": "ENTITY_Q90",
  "modal_correctness": "CORRECT",
  "behavior_group": "Stable Correct",
  "valid_families": [
    "anchor",
    "paraphrase",
    "format",
    "context",
    "multilingual"
  ]
}

17.2 iss_per_fact.jsonl

{
  "model": "model_name",
  "fact_id": "fact_000001",
  "relation": "capital",
  "iss": 0.61,
  "iss_peak": 0.79,
  "iss_late": 0.65,
  "layers_used": [12, 13, 14, 15, 16]
}

17.3 kts_model_summary.json

{
  "model": "model_name",
  "kts_geo": 0.54,
  "kts_id": 0.68,
  "kts": 0.60,
  "family_pairs": {
    "anchor__paraphrase": {
      "shared_facts": 2592,
      "kts_geo": 0.62,
      "kts_id": 0.76,
      "kts": 0.68
    }
  }
}

---

18. 必做 sanity checks

18.1 Query shuffle test

随机打乱 fact_id 与 hidden representation 的对应关系后：

• ISS 应明显下降；
• KTS-ID 应接近 chance；
• KTS-Geo 应接近 0。

18.2 Duplicate-query test

同一个 query 与自身比较时：

• hidden cosine 应接近 1；
• ISS 正样本部分应达到上界附近。

18.3 Condition-label shuffle

随机打乱 condition family 标签后，family residualization 和 family centroid 不应产生虚假的高稳定性。

18.4 Relation-matched negative test

使用同 relation negatives 得到的 ISS 应比随机跨 relation negatives 更严格。主结果必须使用同 relation negatives。

18.5 Raw versus transported ablation

报告：

• Raw-ISS；
• J-transported ISS。

如果两者完全相同，需要检查 Jacobian transport 是否实际生效。

18.6 Judge consistency

对至少 300–500 条回答进行人工校验，报告：

• answer extraction accuracy；
• cluster equivalence accuracy；
• correctness accuracy；
• Cohen's (\kappa) 或 Krippendorff's (\alpha)。

---

19. 推荐论文定义

可以在论文中将四个指标概括为：

Behavioral Consistency Score (BCS) measures the family-balanced mass assigned to a model's modal semantic answer across retrieval conditions. Behavioral Entropy Stability (BES) measures the concentration of the complete semantic answer distribution. Internal State Stability (ISS) measures whether the same fact forms a consistent and fact-discriminative Jacobian-transported representation across retrieval conditions. Knowledge Topology Stability (KTS) measures whether fact identity and the relative geometry of the overall knowledge representation space are preserved across conditions.

中文：

BCS 衡量不同检索条件下主语义答案所占的等条件权重；BES 衡量完整答案分布的集中程度；ISS 衡量同一事实是否跨条件形成一致且具有事实区分性的 Jacobian 运输表示；KTS 衡量不同条件下事实身份及整体知识空间相对几何是否保持。

---

20. 最终最小报告集合

每个模型至少报告：

Anchor Accuracy
BCS
BES
Stable Correct Rate
Stable Wrong Rate
Stable Abstention Rate
Unstable Rate
ISS
KTS-Geo
KTS-ID
KTS

同时提供：

• 按 relation 的 macro 结果；
• 按 behavior group 的 ISS/KTS；
• 按 condition pair 的 KTS；
• 95% relation-clustered bootstrap confidence intervals；
• complete-family 和 full-set 两种覆盖口径。