Datasets:

Beicicc
/

probeshift-activation-cache

定位决策(2026-06-22): 经深度 prior-art 核查 + 直连 arXiv 验证(见 PRIOR_ART.md), probe stability / truth direction 是 2025Q4–2026Q2 高热赛道,纯 novelty 竞争高风险。因此把基准(benchmark)作为第一贡献,所有竞品转化为在统一基准上评测的 baseline; PAC(我们的 label-free 复合分数)**降为"有竞争力的 IID-only 入选项,不宣称 SOTA"**。这样即使 PAC 不夺冠,"系统基准 + 统一评测"仍独立成立 —— 这是当前最稳的 accept 路线。 predictor-first 的备选 framing 仍保留在 git 历史 / PROPOSAL_predictor_framing.md。

1. 标题与一句话卖点

**中文标题:**《ProbeShift:线性探针方向在语义保真偏移下 OOD 稳定性的系统免标注基准,及对训练前预测信号的统一评测》

英文标题: ProbeShift: A Systematic, Label-free Benchmark for the OOD Directional Stability of Linear Probes under Label-preserving Semantic Shift, with a Unified Evaluation of A-priori Predictors

一句话卖点: 我们不主张"首次发现探针不稳",也不主张某个新预测器最强;我们提供该方向第一个系统、免新标注、跨多概念 × 多偏移类型 × 多模型规模 × 多探针类型的探针 OOD 方向稳定性基准,并在统一基准上对 5 个现有训练前 label-free 信号(SIP / RAPTOR-stability / Fragility / augmentation-robustness / Xie-dispersion)做首次 apples-to-apples 评测,诚实回答"到底什么信号能在训练前预测探针会不会迁移"。

2. Abstract(中文,约 190 词)

线性探针被广泛用作 LLM 内部表示的"免标注读出器",但其 in-distribution(ID)准确率系统性高估了它在语义保真偏移(paraphrase / domain / length)下的方向稳定性。近期涌现的诊断与预测工作各自为政、benchmark 与协议互不可比:有的只度量不稳(Dies et al. 2025 的 P-StaT、Haller et al. 2025),有的需触碰 OOD 数据做白化(Truthfulness Spectrum 2026),有的只给单一几何判据(SIP eigengap、Fragility、RAPTOR directional stability、Probing-the-Probes augmentation-robustness)。本文提供 ProbeShift:一个完全免新标注、随激活缓存一并发布、可在数分钟内复现的探针 OOD 方向稳定性基准,系统覆盖 concept × shift-type × model-size × estimator,并将 accuracy-drop 与 direction-rotation 解耦为两维 ground truth。在此基准上,我们首次对 5 个现有训练前 label-free 预测信号做统一 head-to-head 评测(Spearman ρ / Kendall τ,leave-one-concept/shift-out 交叉验证),给出"何种信号预测探针 OOD 稳定性"的可比结论。我们另提供一个简单的 IID-only 复合分数 PAC(dispersion ⊕ augmentation-consistency)作为入选项,诚实报告其在何处带来增量、何处现有单分量信号已足够。全部实验受限于单卡 4090 ≤200 GPU·h、API <$100、零新人工标注。

3. Introduction:研究缺口与贡献

3.1 缺口

探针被当作真实性/欺骗/概念检测的免标注评测器,但在分布偏移下方向几何崩塌。实践者需要部署前判断"这个探针方向能否迁移",理想情况下还不应需要 OOD 数据。问题在于:相关信号(SIP/Fragility/RAPTOR/aug-robustness/Xie/Truth-Spectrum/P-StaT)散落在不同概念、不同模型、不同偏移定义、不同评测口径下,无人在一个统一基准上比较它们,导致"到底什么能预测探针 OOD 稳定性"这一实践问题无答案。

3.2 贡献(formal,编号)

(G1,主)ProbeShift 基准。 concept(≥12)× shift-type(paraphrase/domain/length)× model-size(Pythia ladder + GPT-2 + Qwen)× estimator(LogReg/mass-mean/MLP)的网格,记录解耦的 accuracy-drop 与 direction cosine-rotation 作为 ground truth。完全免新标注;随激活缓存发布,reviewer 数分钟可复现。
(G2,主)统一 a-priori 预测信号评测。 首次在同一基准上 head-to-head 评测 SIP(eigengap)、RAPTOR directional stability、Fragility、augmentation-robustness、Xie feature-dispersion 五个现有 label-free 训练前信号对探针 OOD 方向 drop 的预测力(Spearman ρ / Kendall τ + held-out CV),并与"需 OOD 数据"的 Truth-Spectrum 白化 cosine 作上界对照。诚实结论而非夺冠。
(G3,次)PAC 入选项。 一个简单、IID-only、免 OOD 数据的双分量复合分数(dispersion ⊕ augmentation-consistency),作为基准上的一个 entry;做互补性消融,报告其增量边界。不宣称 SOTA。
(支撑) estimator × size 的外部效度;基于本地 NLI 的 label-fidelity sanity check(主动引用 overgenerate-and-filter 文献)。

关键 framing: G1+G2 即使 PAC(G3)毫无增量也独立成立 —— 这是把"赛道很挤"从威胁转成贡献("我们统一比较了所有相关工作")的核心。

4. Related Work(逐能力对照表 + 逐篇切割)

下表中所有 high-threat 文献均经直连 arXiv 核实(见 PRIOR_ART.md §四);ProbeShift 的定位是容纳它们为 baseline,而非取代。

能力维度	Dies/P-StaT	SIP	Fragility	RAPTOR	Probing-Probes	Xie	Truth-Spectrum	ProbeShift(本文)
统一可比基准	N	N	N	N	N	N	N	Y(G1)
多预测器 head-to-head	N	N	N	N	N	N	N	Y(G2)
accuracy-drop ⊥ rotation 解耦	部分	N	N	N	N	N	部分	Y
跨多概念(≥12)	N(truth)	合成	N	concept	视觉	视觉/分类	5 truth	Y
跨 size ladder	N	N	Y	Y	N	N	N	Y
完全免 OOD 数据	N	Y	Y	Y	Y	Y	N	Y
随激活缓存发布、分钟级复现	N	N	N	N	N	N	N	Y

逐篇切割(正文必写): P-StaT 触碰 OOD 扰动、仅 truth、不预测特定 drop → 我们将其 perturbation 纳入 ground truth 并复现为 baseline;SIP/Fragility/RAPTOR/aug-robustness 各为单一信号 → 我们统一评测之;Xie 预测整体 acc 而非探针方向几何 → §7.4 分离实验证明二者机制不同;Truth-Spectrum 需 OOD covariance → 列为"放宽约束上界"。全文删除一切 "first predictor / novel framing" 措辞,只保留 "first unified benchmark + evaluation"。

5. Formal Claims(可证伪 + 预注册阈值,看到 held-out 前冻结)

H1(基准有效性): ID accuracy 高估方向稳定性。判定:跨配置 Spearman ρ(ID-acc, OOD-retention) 的 bootstrap 95% CI 上界 < 0.5。
H2(G2 主结论): 存在至少一个现有 label-free 信号能 held-out 预测 OOD 方向 drop。判定:至少一个 baseline 的 held-out ρ 95% CI 下界 > 0.4;报告全部信号的排名表(这是 G2 的产出,无论谁赢)。
H3(G3 互补性): 若 PAC 入选,合成需显著优于其两单分量。判定:配对 Wilcoxon(Holm 后 p<0.05)+ Cliff's δ ≥ 0.33;否则诚实降级为单分量 entry。
H4(外部效度): 排名结论跨 estimator 与跨 size 稳健;不下"越大越稳"普适结论,显式检验 Pressure-Testing-Deception(2605.27958)的 inverse-scaling 是否为 training-distribution artifact。
H5(sanity): shift 确为 label-preserving。判定:NLI 审计通过率 ≥95%,作者内部抽检(每 shift-type 50 条,非新众包)一致率 ≥90%。

6. Method:基准构造 + PAC 定义

6.1 基准 ground truth(G1)

对每个 (concept c, shift s, size m, estimator e):在 ID 训练集得探针方向 w̄;在 OOD(shift)集得 w_s。记录两维:

accuracy-drop = ID_acc − OOD_acc(用 ID 探针在 OOD 集上预测)。
direction-rotation = 1 − |cos(w̄, w_s)|(在 OOD 集上重拟合方向,度量几何旋转)。解耦报告二者(回应"准确率与方向不是一回事")。

6.2 a-priori 预测信号(G2,全部 label-free、IID-only)

统一接口下实现并评测:

SIP:LDA 相关子空间的 eigengap / Fisher 误差(越大越稳)。
RAPTOR directional stability:K 次 bootstrap 方向 mean|cos|(= dispersion 分量)。
Fragility:对 ID 激活注入递增各向同性噪声,临界崩溃 σ(越大越稳)。
augmentation-robustness:label-preserving 文本增广后方向一致性(= aug 分量)。
Xie feature-dispersion:inter-class 特征离散度(预测整体 acc 的通用信号,作机制对照)。
(上界对照)Truth-Spectrum 白化 cosine:Mahalanobis 白化(注:需 OOD covariance,故列为放宽约束上界)。

6.3 PAC 入选项(G3)

PAC(c,ℓ,e) = σ( α·z(1−D_disp) + (1−α)·D_aug ),α 为唯一聚合超参,仅在 dev 概念-shift 组合上选,选定冻结。D_disp 为方向重采样离散度,D_aug 为增广一致性,白化仅用 ID covariance(守住免 OOD 约束)。

6.4 防泄漏(生死线)

所有 G2/G3 结果只在完全 held-out 的 concept × shift-type × size 组合上算;主结果用 leave-one-concept-out / leave-one-shift-type-out 双交叉验证;split 清单随码发布。

6.5 Shift 构造 + label-fidelity(sanity)

paraphrase(LLM API 改写)/ domain(领域措辞改写)/ length(扩缩写),逐字对齐 Haller et al. 2025 三类定义。overgenerate-and-filter:API 过量生成 → 本地 DeBERTa-v3-MNLI 双向 entailment(roundtrip)过滤。主动引用 Falsesum 2022 / DISCO 2023。

7. Experiments

7.1 数据/模型

概念 ≥12:truth、sentiment、formality、toxicity、language-ID、tense、negation、topic(≥5 类)等,覆盖 factual + stylistic,保证统计功效。
size ladder:Pythia 70M–2.8B + GPT-2 small/medium + Qwen2.5-0.5B(单卡可载)。
激活一次前向缓存,所有信号共享缓存。

7.2 主实验

构建 ProbeShift ground-truth 矩阵(G1)。
计算全部 a-priori 信号(含 PAC)。
报告每个信号 held-out Spearman ρ / Kendall τ + bootstrap CI + 排名表(G2)。

7.3 关键消融/分离

互补性(H3): dispersion-only / aug-only / PAC 合成,配对 Wilcoxon + Cliff's δ + Holm。
方向几何 ≠ 流形 dispersion: paraphrase shift 上对比 PAC 与 Xie,预期 Xie 失效、PAC 不失效。
度量消融: 裸 cosine vs ID-白化 cosine。
size 效应: 预测有效性随 size 是否单调;检验 2605.27958 artifact。

7.4 统计

每配置 5 seeds;相关系数报 bootstrap(10k)95% CI;多重比较 Holm-Bonferroni;效应量 Cliff's δ / Cohen's d;预注册阈值 §5。

8. Expected Results 与负结果叙事

预期产出(无论谁赢都成立): ProbeShift 排名表给出"现有信号谁能预测探针 OOD 方向 drop";很可能发现单一信号(如 SIP 或 aug-robustness)在某些 shift 类型上强、在另一些上弱,而没有单信号通吃 —— 这本身就是有价值的 G2 结论。

诚实负结果(预先写入):

若 PAC 无显著增量 → 降为"现有单分量已足够 + PAC 仅作统一框架下的参照",G1+G2 不受影响。
若所有信号 held-out ρ 都低 → 这是更强的 G2 结论:"探针 OOD 稳定性目前不可被现有 label-free 信号可靠预测",指明 open problem(对 benchmark 论文是加分而非减分)。
若 size 出现 inverse scaling → 不下普适结论,引 2605.27958 解释为 artifact。

9. Reproducibility

发布:激活缓存、探针权重、全部 baseline + PAC 实现、预注册阈值、shift 数据集 + NLI 通过率、seed 列表、leave-one-out split 清单、bootstrap 脚本、一键复现入口。

10. Budget(单卡 4090 ≤200 GPU·h,API <$100)

项目	估算	说明
激活缓存(12 概念 × 7 模型)	~40 GPU·h	一次前向,全 baseline 复用
探针训练(3 estimator × bootstrap × 5 seed)	~50 GPU·h	LogReg/mass-mean 极廉,MLP 主成本
Augmentation 重训(3 shift)	~45 GPU·h	增广激活 + 重训
Baselines(SIP/Fragility/RAPTOR/aug/Xie/Geometry)	~35 GPU·h	Fragility 噪声扫描最贵
P-StaT baseline 复现	~15 GPU·h	用其公开 code/data
缓冲	~15 GPU·h	合计 ~200 GPU·h
API(3 shift × 12 概念 × overgenerate 3×)	<$80	GPT-class API;NLI 过滤本地零成本

11. Risk & 退路

风险	缓解 / 退路
benchmark 被指"只是把已有数据拼一起"	强调三个新东西:解耦 drop⊥rotation、跨 ≥12 概念统一口径、首次多预测器 head-to-head;且随缓存发布、分钟级复现是实打实的社区价值。
数据泄漏/循环验证(F4)	held-out + 双交叉验证 + split 随码发布。
PAC 无增量(M1)	已 framing 为次要 entry,G1+G2 独立成立;诚实降级。
size inverse-scaling 反例(M2)	仅交叉维度,复现/检验 2605.27958 artifact,不下普适结论。
baseline 覆盖不足(M4)	A 组 4 信号 + Xie 全跑,B/C 各 ≥1;缺项写 limitation。
P-StaT 修订版加入预测闭环	不影响本 framing(我们是基准+评测,不与单篇争"首个预测器");投稿前二次复核其 venue/版本。

已核实文献(投稿前复核 venue): Dies/P-StaT 2511.19166 · SIP 2511.16288 · Fragility 2606.11375 · RAPTOR 2602.00158 · Probing-the-Probes 2511.04312 · Xie 2303.15488 · Truth-Spectrum 2602.20273 · Haller/Brittle 2510.11905 · Pressure-Testing-Deception 2605.27958