Datasets:
[备选 framing] Predictor-first 提案(PAC 作主贡献)
此为 predictor-first 备选;当前主选为 benchmark-first(见 PROPOSAL.md)。保留以备 PAC 增量显著时升级 framing。
All verified. The counterexample paper (2605.27958) actually concludes the inverse-scaling pattern is a training-distribution artifact, not genuine — which I can use to frame M2 carefully. I now have fully verified ground truth. Writing the complete proposal.
《Probe Stability Score》ACML 2026 主会投稿提案(完整版)
撰写前置说明(已完成 prior-art 核验):本提案撰写前已对定位文档第 4 节"必引清单"中全部 10 篇 high-threat 文献逐条在 arXiv 核实标题、作者与机制。核实结果直接改写了若干防守策略,关键修正如下(投稿前仍须复核 venue/接收状态):
- Dies et al. 2025(2511.19166) 真实标题为 Representational and Behavioral Stability of Truth in LLMs,框架名 P-StaT。核实确认:它是"主动扰动数据 + 度量 retraction(最高 32.7%)"的评测框架,既未把 rotation+dispersion 合成单一分数,也未做 a priori OOD 预测,且全程触碰 OOD 数据、仅限 truth 单概念。 这是 F1 生死线的关键有利事实。
- Xie 2023(2303.15488) 真实标题为 On the Importance of Feature Separability in Predicting OOD Error;其分数为 "feature dispersion",并未正式命名为 "Dispersion Score",且预测目标是整体 test accuracy 而非探针方向几何。F3 改名 + 机制切割成立。
- Truthfulness Spectrum(2602.20273) 确认其 R²=0.98 依赖 test-set covariance(即 OOD reference) 做 Mahalanobis 白化;PSS "免 OOD 数据"护城河有效。
- Probing the Probes(2511.04312) 真实副标题 Methods and Metrics for Concept Alignment,其 augmentation-robustness 面向 视觉 CAV / 空间概念(translation invariance),非文本 paraphrase。切割成立。
- Liang/Brittle(2510.11905) 第一作者实为 Patrick Haller et al.,范围 4 LLM 家族 × 5 数据集 × 3 探针方法,只做 truth。
- Pressure-Testing Deception(2605.27958) 结论是"inverse scaling 是 training-distribution artifact 而非真实 scale 现象"——M2 据此改为"不下普适 scaling 结论,并复现该 artifact 解释"。
- RAPTOR(2602.00158)、SIP(2511.16288)、Fragility(2606.11375)、Marks & Tegmark(2310.06824)均核实属实。
1. 标题与一句话卖点
中文标题: 《探针锚定一致性分数:一种完全免 OOD 标注、仅前向传播的双分量复合指标,用于训练前 a priori 预测线性探针方向在语义保真偏移下的几何稳定性》
英文标题: Probe Anchoring Consistency (PAC): A Label-free, Forward-pass Composite for A-priori Prediction of Linear-probe Directional Stability under Label-preserving Semantic Shift
重要改名(回应 F3): 弃用 "Probe Stability Score / Dispersion" 作主词根,改用 Probe Anchoring Consistency(PAC),避免与 Xie 2023 的 feature dispersion 第一眼撞名。"dispersion" 仅作内部分量技术名出现,绝不作总分数名。下文 PAC = 原 PSS。
一句话卖点: 我们不主张"首次发现探针不稳",而主张提供一个在严格 held-out、完全不触碰 OOD 数据的约束下,对 SIP / Fragility / Augmentation-robustness / Xie-dispersion / mass-mean 五个 baseline 取得可经 bootstrap 显著性检验之增量的 label-free 复合预测器,并闭环验证它能排序真实 OOD drop。
2. Abstract(中文,约 190 词)
线性探针(linear/concept probe)被广泛用于读取 LLM 内部表示,但其 in-distribution(ID)准确率系统性高估了它在语义保真偏移(paraphrase / domain / length)下的方向稳定性。已有工作或停留在"诊断不稳"(Dies et al. 2025 的 P-StaT、Haller et al. 2025),或需触碰 OOD 数据做白化(Truthfulness Spectrum 2026,R²=0.98),或仅给单分量几何判据(SIP、Fragility、RAPTOR directional stability、Probing-the-Probes augmentation-robustness)。我们提出 Probe Anchoring Consistency(PAC):一个仅用前向传播、完全免新标注与免 OOD 数据的双分量复合分数,分量一为方向重采样离散度(dispersion),分量二为文本增广一致性(augmentation-consistency),二者经 held-out 校准聚合为单一分数。我们的核心主张不是 framing 新颖性,而是:(i) 两分量合成相对各自单分量有统计显著增量(配对检验 + effect size);(ii) PAC 能在训练前 a priori 排序 一个 shift-type × model-size × concept 矩阵中的真实 OOD drop(Spearman ρ / Kendall τ,leave-one-concept/shift-out 交叉验证);(iii) 在零 OOD 数据约束下,对上述五个 baseline 取得 bootstrap 显著的预测增量。全部实验受限于单卡 4090 ≤200 GPU·h。
3. Introduction:研究缺口与贡献列表
3.1 研究缺口
线性探针正被当作"免标注评测器"用于真实性、欺骗、概念检测(Marks & Tegmark 2023;Pressure-Testing Deception 2026)。但探针在 clean benchmark 上 AUROC > 0.96,而在分布偏移下方向几何崩塌(Haller et al. 2025;2605.27958)。实践者需要一个部署前就能判断"这个探针方向能否迁移"的指标,且理想情况下不应需要 OOD 数据(否则与直接在 OOD 上评测无异)。
现有候选各缺一角:
- 诊断型(Dies/P-StaT、Fragility):度量不稳,但不预测特定 OOD drop,且 P-StaT 触碰 OOD 扰动数据。
- 需 OOD reference 型(Truthfulness Spectrum):R²=0.98 但需 test-set covariance 白化。
- 单分量 a priori 型(SIP eigengap、RAPTOR mean|cos|、Probing-the-Probes augmentation):各占一个分量或一个几何判据,无人合成两分量并验证互补增量。
- 通用免标注 OOD 预测(Xie 2023 feature dispersion、Deng 2023、Baek 2024):预测整体 accuracy / 流形几何,非探针方向几何。
缺口一句话: 无人在"双分量合成 + 完全免 OOD 数据 + a priori 预测 ↔ 验证闭环 + 针对探针方向几何"四约束同时成立下,给出经显著性检验、跑赢上述 baseline 的预测器。
3.2 贡献列表(formal,编号;已按红队收窄)
- (主贡献 G1) 提出 PAC——dispersion ⊕ augmentation-consistency 的 label-free、forward-pass、免 OOD 数据复合分数,并在**严格 held-out(leave-one-concept-out / leave-one-shift-type-out)**下证明其 a priori 排序真实 OOD directional drop 的能力(Spearman ρ / Kendall τ + bootstrap CI)。
- (主贡献 G2) 互补性消融:证明双分量合成相对 dispersion-only、augmentation-only 有配对显著增量(Wilcoxon + Cliff's δ),即 augmentation-consistency 在 dispersion 之外携带增量信息。
- (主贡献 G3) Head-to-head baseline 增量:在零 OOD 数据约束下,PAC 对 SIP / Fragility / RAPTOR-stability / Probing-the-Probes-augmentation / Xie-feature-dispersion 取得 bootstrap 显著的预测增量;并与需 OOD 的 Truthfulness-Spectrum 白化 cosine 做"放宽约束上界"对照。
- (支撑发现 S1=原 C1,降为被预测真值) 构建 shift-type × model-size × concept 的 accuracy-drop / cosine-rotation 解耦二维矩阵,作为 PAC 预测的 ground-truth,而非独立贡献。
- (外部效度 S2=原 C3+C4,降级) mass-mean / LogReg / MLP 三类 estimator 与 size ladder 仅作为"PAC 预测有效性是否跨 estimator、跨 size 成立"的外部效度检验,不并列。
- (Sanity check S3=原 C5,降级) 基于本地 NLI 的 label-fidelity 审计协议,定位为方法学 sanity check,主动引用 NLI-filter 文献。
4. Related Work(含逐 claim 定位表 + 逐篇切割)
4.1 主题归类(略写,完整见附录引用)
A. 探针准确率不可靠 / faithfulness;B. 真值几何 / 方向旋转 under shift;C. 探针方向稳定性度量;D. 训练前 a priori 判据;E. 免标注 OOD 性能预测;F. transferability estimation;G–I. estimator 比较 / size ladder / NLI 审计。
4.2 与每篇最接近工作的逐能力对照表(直接回应 F1/F2/F3)
| 能力维度 | Dies/P-StaT (2511.19166) | SIP (2511.16288) | Fragility (2606.11375) | RAPTOR (2602.00158) | Probing-Probes (2511.04312) | Xie (2303.15488) | Truth-Spectrum (2602.20273) | PAC(本文) |
|---|---|---|---|---|---|---|---|---|
| rotation 分量 | Y | N | N | N | N | N | Y(cos) | Y |
| dispersion 分量 | Y | 谱gap | 噪声崩点 | Y(mean|cos|) | N | feature流形 | N | Y |
| augmentation-consistency 分量 | N | N | N | N | Y(视觉CAV) | N | N | Y |
| 两分量合成单一分数 | N | N | N | N | N | N | N | Y |
| a priori 预测特定 OOD drop | N(只度量retraction) | N(只给ID判据) | N(只给崩点) | N(只诊断) | N | Y(整体acc) | Y(需OOD cov) | Y(探针方向drop) |
| 完全免 OOD 数据 | N | Y | Y | Y | Y | Y | N(需test cov) | Y |
| 预测目标=探针方向几何 | 部分 | ID可识别 | 崩点 | 诊断 | CAV对齐 | N(流形) | Y | Y |
| 跨多概念(≥10) | N(truth) | 合成 | N | concept | 视觉 | 视觉/分类 | 5 truth类型 | Y(目标≥12) |
| size ladder | N | N | Y | Y | N | N | N | Y |
| 预测↔验证闭环 | N | N | N | N | N | 部分 | 部分 | Y |
逐篇 one-paragraph 切割(论文正文必写):
- vs Dies/P-StaT: 经核实其为评测框架,度量 retraction 而不预测,主动触碰 OOD 扰动数据,且不合成单一分数、仅 truth。PAC 的"合成 + a priori 预测 + 免 OOD"三格对其为 N→Y。我们将 P-StaT 的 perturbation 集合作为 ground-truth drop 来源之一(被预测真值),并复现其作为 baseline。
- vs SIP / Fragility: 二者是单分量 a priori 判据(eigengap / 崩点),不预测特定 shift 下的 drop 排序。二者作为 baseline 跑数;PAC 主张是增量而非取代,删除一切 "first" 措辞。
- vs Xie 2023: 已核实非 "Dispersion Score" 命名、预测整体 acc。我们改名规避撞名,并实验证明"探针方向几何 ≠ feature 流形 dispersion"(见 §7.4 分离实验)。
- vs Truthfulness Spectrum: 其 R²=0.98 依赖 OOD test covariance。PAC 在更苛约束(零 OOD)下逼近;我们诚实将白化 cosine 列为"放宽约束的上界对照",而非声称跑赢。
5. Formal Claims & Hypotheses(可证伪 + 预注册阈值)
所有阈值在看到 held-out 测试结果前冻结,写入预注册文件随代码发布。
- H1(原 C1,被预测真值): 对每个 (concept, shift-type, size),探针 ID accuracy 与 OOD directional retention(1−rotation)弱相关。判定: 若跨配置 Spearman ρ(ID-acc, OOD-retention) 的 bootstrap 95% CI 上界 < 0.5,则 H1 成立(准确率确实高估稳定性)。
- H2(主,G1 闭环): PAC 在 held-out 配置上排序真实 OOD directional drop。判定: held-out Spearman ρ(PAC, −drop) ≥ 0.6 且 bootstrap 95% CI 下界 > 0.4。
- H3(主,G2 互补性): 合成 PAC 显著优于两个单分量。判定: 配对 Wilcoxon(合成 vs dispersion-only,以及 vs augmentation-only)p < 0.05(Holm 校正后),且 Cliff's δ ≥ 0.33(中等以上效应)。若不成立,坦诚降级为单分量方法(回应 M1)。
- H4(主,G3 baseline 增量): PAC 对每个 a priori baseline 的预测 ρ 有正增量。判定: Δρ(PAC − baseline) 的 bootstrap 95% CI 下界 > 0,对 SIP/Fragility/RAPTOR-stab/Aug-robust/Xie 五者分别检验,Holm 校正。
- H5(外部效度,S2): PAC 的预测有效性跨 estimator(mass-mean/LogReg/MLP)与跨 size 成立。判定: 各 estimator 子集与各 size 子集的 ρ 均 > 0.5;不下"越大越稳"普适结论,并显式测试 2605.27958 的 inverse-scaling 是否为 training-distribution artifact。
- H6(sanity,S3): 构造的 shift 确为 label-preserving。判定: NLI 审计通过率 ≥ 95%,且与人工抽检(每 shift-type 抽 50 条,作者内部标注,非新众包标注)一致率 ≥ 90%。
6. Method:PAC 的精确定义
6.1 记号
设隐状态层 ℓ、概念 c、估计子 e。在 ID 训练集 D 上得探针方向 w(单位向量)。语义保真增广算子集 𝒜 = {paraphrase, domain-reframe, length}(label-preserving)。
6.2 分量一:Dispersion(方向重采样离散度,免 OOD)
对 D 做 B 次 bootstrap 重采样,得方向 {w_b}。以 mean direction w̄ 为锚:
D_disp(c,ℓ,e) = 1 − (1/B) Σ_b |cos(w_b, w̄)|
值越小越稳。度量消融(回应 M3): 同时计算裸 cosine 与 Mahalanobis 白化 cosine(白化协方差仅用 ID covariance,绝不用 OOD,以守住免 OOD 约束),报告 PAC 对度量选择的稳健性。
6.3 分量二:Augmentation-consistency(文本增广一致性,免 OOD、免标注)
对 ID 样本施加 𝒜 中算子得增广版本(仍是 ID 语义、标签由构造保持,经 §6.4 审计),在增广前向激活上重训探针得 w_a:
D_aug(c,ℓ,e) = 1 − (1/|𝒜|) Σ_{a∈𝒜} |cos(w_a, w̄)|
关键:这里增广是对 ID 数据做 label-preserving 变换以探测方向脆性,不是 OOD 测试数据——这正是与 Truthfulness Spectrum 触碰 OOD 的区别。
6.4 合成(单一分数,held-out 校准)
PAC(c,ℓ,e) = σ( α·z(D_disp) + (1−α)·z(D_aug) ) 其中 z(·) 为基于 dev 配置 统计量的标准化,α∈[0,1] 为唯一聚合超参。
严格防泄漏(回应 F4,生死线):
- α 只在 dev 概念-shift 组合上用 grid {0,0.1,…,1} 选定,选定后冻结。
- 所有报告结果只在完全 held-out 的 concept × shift-type × size 组合上计算。
- 主结果用 leave-one-concept-out 与 leave-one-shift-type-out 双交叉验证,证明 PAC 跨概念、跨 shift-type 泛化而非记忆 S1 矩阵。
6.5 Shift 构造与 label-fidelity 协议(S3,sanity)
- 三类 label-preserving shift:paraphrase(LLM API 改写)、domain(改写为新领域措辞)、length(扩写/缩写)。逐字对齐 Haller et al. 2025 的三类定义以便 head-to-head。
- 生成-过滤管线(overgenerate-and-filter,主动引用 Falsesum 2022 / DISCO 2023): API 过量生成 → 本地 DeBERTa-v3-MNLI 双向 entailment 过滤(roundtrip consistency)→ 仅保留双向 entailment 的样本。
- 审计定位为 sanity check,报告通过率与作者内部抽检一致率(零新众包标注,遵守约束)。
7. Experiments
7.1 数据集与模型
- 概念(≥12,回应 M6 统计功效): truth(Cities/Counterfact 风格)、sentiment、formality、toxicity、language-ID、tense、negation、topic(≥5 类)等,涵盖 factual 与 stylistic,确保"跨多概念"卖点有功效;报告每个 ρ 的 bootstrap CI。
- 模型 / size ladder: Pythia 全 ladder(70M–2.8B,单卡可载)+ Gemma-2-2B(若显存允许),对齐 2505.21399 / 2605.27958 以复现/检验 scaling。
- 激活提取: 一次前向缓存隐状态,全部 baseline 共享缓存(省 GPU)。
7.2 Baselines(纳入 must-have,回应 M4)
- A 组 a priori(全跑): SIP(eigengap)、RAPTOR directional stability(K 次 ablation mean|cos|,= dispersion-only 对照)、Fragility(临界噪声崩点)、Probing-the-Probes augmentation-robustness(= augmentation-only 对照,适配为文本增广)。
- B 组通用免标注 OOD: Xie feature-dispersion(必跑,证明非换皮)、Deng 2023 Confidence&Dispersity 或 Baek 2024 Agreement-on-the-Line(至少一)、Geometry Markers(effective manifold dim)。
- C 组 estimator: mass-mean、LogReg、MLP。
- D 组方法学: Hewitt & Liang control-task/selectivity probe;裸 cosine vs Mahalanobis 白化 cosine(Truthfulness-Spectrum 风格,作为放宽 OOD 约束的上界对照)。
7.3 主实验
- 构建 S1 矩阵(真实 OOD accuracy-drop / cosine-rotation,解耦)。
- 计算所有 a priori 预测器(含 PAC)。
- 报告 held-out Spearman ρ / Kendall τ(PAC vs 真实 drop),双交叉验证。
7.4 关键消融与分离实验
- 互补性(H3): dispersion-only / augmentation-only / 合成 三档,配对 Wilcoxon + Cliff's δ + Holm 校正。
- 方向几何 ≠ 流形 dispersion(回应 F3): 在 paraphrase shift 上对比 PAC 与 Xie feature-dispersion 的预测相关性,预期 Xie 在 paraphrase 上失效(因流形整体不变但方向旋转),PAC 不失效——以图证明机制分离。
- 度量消融(M3): 裸 vs 白化 cosine。
- size 效应(M2): PAC 预测有效性随 size 是否单调;复现/检验 2605.27958 的 inverse-scaling-as-artifact。
7.5 统计方案
- 每配置 5 seeds;所有相关系数报 bootstrap(10k)95% CI;多重比较 Holm-Bonferroni;效应量报 Cliff's δ / Cohen's d;预注册阈值见 §5。
8. Expected Results 与可能的负结果叙事
预期正结果: H2(ρ≈0.6–0.75 held-out)、H3(合成显著优,δ≈0.4)、H4(对 SIP/Fragility/Xie 有正增量,对 RAPTOR-stab 因其=dispersion-only 故增量主要来自 augmentation 分量)。
可能负结果的诚实叙事(预先写入,回应 M1/M2):
- 若 H3 不成立(合成不优于 dispersion-only):坦诚降级为"单分量 dispersion 预测器 + 一项 augmentation 失败的负结果",仍贡献"augmentation 分量在文本探针上无增量"这一可发表 negative finding。
- 若对某 baseline 无显著增量:在 limitation 明确该 baseline 已足够,PAC 的价值退守到"统一框架 + 闭环验证"。
- 若 size 出现 inverse scaling:不下普适结论,引 2605.27958 解释为 training-distribution artifact 并复现其 style-augmented 恢复实验。
- 若白化 cosine(用 OOD cov)大幅超过 PAC:诚实陈述"免 OOD 的代价",将 PAC 定位为"约束受限场景下的最优",而非全局最优。
9. Reproducibility
- 发布:全部激活缓存、探针权重、PAC/baseline 实现、预注册阈值文件、shift 数据集 + NLI 审计通过率、seed 列表、leave-one-out split 清单、bootstrap 脚本。
- 一键复现脚本 + 固定 commit;所有 baseline 在共享缓存上运行以保证可比。
10. Budget 明细(单卡 4090 ≤200 GPU·h,API <$100)
| 项目 | 估算 | 说明 |
|---|---|---|
| 激活缓存(12 概念 × ladder 6 size × 缓存) | ~40 GPU·h | 一次性前向,全 baseline 复用 |
| 探针训练(3 estimator × bootstrap B=50 × 5 seed) | ~50 GPU·h | LogReg/mass-mean 极廉,MLP 主成本 |
| Augmentation 重训探针(3 shift × 上述) | ~45 GPU·h | label-preserving 增广激活 + 重训 |
| Baselines(SIP/Fragility/RAPTOR/Aug/Xie/Geometry) | ~35 GPU·h | Fragility 噪声扫描最贵 |
| Dies/P-StaT baseline 复现 | ~15 GPU·h | 用其公开 code/data |
| 缓冲 | ~15 GPU·h | 共计 ~200 GPU·h |
| API(paraphrase/domain/length 过量生成) | <$80 | 12 概念 × 3 shift × overgenerate 3x,GPT-class API;DeBERTa-MNLI 过滤本地零成本 |
11. Risk & 退路(逐条对应红队致命攻击)
| 攻击 | 缓解 / 退路 |
|---|---|
| F1(Dies 抹平) | 已核实 P-StaT 不预测、触碰 OOD、不合成、仅 truth → 逐能力对照表 3 格 N→Y(合成/预测/免OOD,均非边角);复现 P-StaT 作 baseline。退路: 若 P-StaT 修订版加入预测,立即二次检索并将 PAC 收窄至"免 OOD + 合成"双格。 |
| F2(首个被证伪) | 全文删除 first/novel framing,改 "empirically outperforms ... under zero-OOD constraint";SIP/Fragility/Truth-Spectrum 全跑;增量带 bootstrap CI。 |
| F3(Xie 换皮) | 改名 PAC;§7.4 分离实验证明方向几何 ≠ 流形 dispersion(paraphrase 上 Xie 失效)。 |
| F4(循环论证/泄漏) | α 仅 dev 选;结果仅 held-out;leave-one-concept/shift-out 双交叉验证;split 清单随码发布。 |
| F5(C3 复现) | C3 降为 S2 外部效度,仅在"PAC 能否预测三 estimator 谁更稳"从属问题下出现,绝不并列。 |
| M1 | H3 配对显著 + 效应量;不显著则降级 + negative finding。 |
| M2 | C4 仅交叉维度;主动复现/检验 2605.27958 artifact,不下普适 scaling 结论。 |
| M3 | 裸 vs 白化 cosine 消融(白化仅用 ID cov)。 |
| M4 | A 组四 baseline + Xie 全跑,B/C 各 ≥1;缺项写 limitation。 |
| M5 | C5 降 sanity;引 Falsesum/DISCO;报通过率 + 作者内部抽检一致率(零新众包)。 |
| M6 | ≥12 概念;ρ 报 bootstrap CI;概念不足则撤回"跨多概念"主张。 |
| M7 | 已逐条核实 10 篇 high-threat(本提案顶部);投稿前再复核 venue/接收状态,对所有篇目无论是否发表均切割。 |
三条生死线状态: F1(对照表 3 格 N→Y + 复现跑赢)✓ 设计就绪;F4(无泄漏 split + 双交叉验证)✓ 设计就绪;M1(互补性显著或诚实降级)✓ 含退路。三者同时成立,具备从 Reject 翻盘的最小充分条件。
关键风险提示(交付给通讯作者): 唯一未闭合的风险仍是 Dies/P-StaT 是否会在修订版加入预测闭环。本提案已核实其当前版本不预测,但投稿前须二次检索其最新版与是否被 NeurIPS/ICLR 接收;若其新增预测,PAC 须立即收窄至"合成 + 免 OOD 数据"双格护城河,并强化 §7.4 的方向几何 vs 流形分离实验作为差异化主轴。
已核实文献链接(供投稿前复核 venue): Dies/P-StaT 2511.19166 · SIP 2511.16288 · Fragility 2606.11375 · RAPTOR 2602.00158 · Probing-the-Probes 2511.04312 · Xie 2303.15488 · Truthfulness-Spectrum 2602.20273 · Haller/Brittle 2510.11905 · Factual-Self-Awareness 2505.21399 · Pressure-Testing-Deception 2605.27958