# ProbeShift —— ACML 2026 主会投稿提案(benchmark-first 定位)

> **定位决策(2026-06-22):** 经深度 prior-art 核查 + 直连 arXiv 验证(见 [PRIOR_ART.md](PRIOR_ART.md)),
> `probe stability / truth direction` 是 2025Q4–2026Q2 高热赛道,纯 novelty 竞争高风险。
> 因此**把基准(benchmark)作为第一贡献**,所有竞品转化为在统一基准上评测的 baseline;
> PAC(我们的 label-free 复合分数)**降为"有竞争力的 IID-only 入选项,不宣称 SOTA"**。
> 这样即使 PAC 不夺冠,"系统基准 + 统一评测"仍独立成立 —— 这是当前最稳的 accept 路线。
> predictor-first 的备选 framing 仍保留在 git 历史 / `PROPOSAL_predictor_framing.md`。

---

## 1. 标题与一句话卖点

**中文标题:**《ProbeShift:线性探针方向在语义保真偏移下 OOD 稳定性的系统免标注基准,及对训练前预测信号的统一评测》

**英文标题:** *ProbeShift: A Systematic, Label-free Benchmark for the OOD Directional Stability of Linear Probes under Label-preserving Semantic Shift, with a Unified Evaluation of A-priori Predictors*

**一句话卖点:** 我们**不**主张"首次发现探针不稳",也**不**主张某个新预测器最强;我们提供该方向**第一个系统、免新标注、跨多概念 × 多偏移类型 × 多模型规模 × 多探针类型**的探针 OOD 方向稳定性基准,并在统一基准上对 **5 个现有训练前 label-free 信号**(SIP / RAPTOR-stability / Fragility / augmentation-robustness / Xie-dispersion)做首次 apples-to-apples 评测,诚实回答"**到底什么信号能在训练前预测探针会不会迁移**"。

---

## 2. Abstract(中文,约 190 词)

线性探针被广泛用作 LLM 内部表示的"免标注读出器",但其 in-distribution(ID)准确率系统性高估了它在语义保真偏移(paraphrase / domain / length)下的方向稳定性。近期涌现的诊断与预测工作各自为政、benchmark 与协议互不可比:有的只度量不稳(Dies et al. 2025 的 P-StaT、Haller et al. 2025),有的需触碰 OOD 数据做白化(Truthfulness Spectrum 2026),有的只给单一几何判据(SIP eigengap、Fragility、RAPTOR directional stability、Probing-the-Probes augmentation-robustness)。本文提供 **ProbeShift**:一个完全免新标注、随激活缓存一并发布、可在数分钟内复现的探针 OOD 方向稳定性基准,系统覆盖 concept × shift-type × model-size × estimator,并将 accuracy-drop 与 direction-rotation **解耦**为两维 ground truth。在此基准上,我们首次对 5 个现有训练前 label-free 预测信号做统一 head-to-head 评测(Spearman ρ / Kendall τ,leave-one-concept/shift-out 交叉验证),给出"何种信号预测探针 OOD 稳定性"的可比结论。我们另提供一个简单的 IID-only 复合分数 **PAC**(dispersion ⊕ augmentation-consistency)作为入选项,诚实报告其在何处带来增量、何处现有单分量信号已足够。全部实验受限于单卡 4090 ≤200 GPU·h、API <$100、零新人工标注。

---

## 3. Introduction:研究缺口与贡献

### 3.1 缺口
探针被当作真实性/欺骗/概念检测的免标注评测器,但在分布偏移下方向几何崩塌。实践者需要**部署前**判断"这个探针方向能否迁移",理想情况下还**不应需要 OOD 数据**。问题在于:相关信号(SIP/Fragility/RAPTOR/aug-robustness/Xie/Truth-Spectrum/P-StaT)散落在**不同概念、不同模型、不同偏移定义、不同评测口径**下,**无人在一个统一基准上比较它们**,导致"到底什么能预测探针 OOD 稳定性"这一实践问题无答案。

### 3.2 贡献(formal,编号)
- **(G1,主)ProbeShift 基准。** concept(≥12)× shift-type(paraphrase/domain/length)× model-size(Pythia ladder + GPT-2 + Qwen)× estimator(LogReg/mass-mean/MLP)的网格,记录**解耦的** accuracy-drop 与 direction cosine-rotation 作为 ground truth。完全免新标注;随**激活缓存**发布,reviewer 数分钟可复现。
- **(G2,主)统一 a-priori 预测信号评测。** 首次在同一基准上 head-to-head 评测 SIP(eigengap)、RAPTOR directional stability、Fragility、augmentation-robustness、Xie feature-dispersion 五个现有 label-free 训练前信号对探针 OOD 方向 drop 的预测力(Spearman ρ / Kendall τ + held-out CV),并与"需 OOD 数据"的 Truth-Spectrum 白化 cosine 作上界对照。**诚实结论而非夺冠**。
- **(G3,次)PAC 入选项。** 一个简单、IID-only、免 OOD 数据的双分量复合分数(dispersion ⊕ augmentation-consistency),作为基准上的一个 entry;做互补性消融,报告其增量边界。**不宣称 SOTA。**
- **(支撑)** estimator × size 的外部效度;基于本地 NLI 的 label-fidelity sanity check(主动引用 overgenerate-and-filter 文献)。

> **关键 framing:** G1+G2 即使 PAC(G3)毫无增量也独立成立 —— 这是把"赛道很挤"从威胁转成贡献("我们统一比较了所有相关工作")的核心。

---

## 4. Related Work(逐能力对照表 + 逐篇切割)

下表中所有 high-threat 文献均经直连 arXiv 核实(见 PRIOR_ART.md §四);ProbeShift 的定位是**容纳**它们为 baseline,而非取代。

| 能力维度 | Dies/P-StaT | SIP | Fragility | RAPTOR | Probing-Probes | Xie | Truth-Spectrum | **ProbeShift(本文)** |
|---|---|---|---|---|---|---|---|---|
| 统一可比基准 | N | N | N | N | N | N | N | **Y(G1)** |
| 多预测器 head-to-head | N | N | N | N | N | N | N | **Y(G2)** |
| accuracy-drop ⊥ rotation 解耦 | 部分 | N | N | N | N | N | 部分 | **Y** |
| 跨多概念(≥12) | N(truth) | 合成 | N | concept | 视觉 | 视觉/分类 | 5 truth | **Y** |
| 跨 size ladder | N | N | Y | Y | N | N | N | **Y** |
| 完全免 OOD 数据 | N | Y | Y | Y | Y | Y | N | **Y** |
| 随激活缓存发布、分钟级复现 | N | N | N | N | N | N | N | **Y** |

**逐篇切割(正文必写):** P-StaT 触碰 OOD 扰动、仅 truth、不预测特定 drop → 我们将其 perturbation 纳入 ground truth 并复现为 baseline;SIP/Fragility/RAPTOR/aug-robustness 各为单一信号 → 我们统一评测之;Xie 预测整体 acc 而非探针方向几何 → §7.4 分离实验证明二者机制不同;Truth-Spectrum 需 OOD covariance → 列为"放宽约束上界"。**全文删除一切 "first predictor / novel framing" 措辞,只保留 "first unified benchmark + evaluation"。**

---

## 5. Formal Claims(可证伪 + 预注册阈值,看到 held-out 前冻结)

- **H1(基准有效性):** ID accuracy 高估方向稳定性。判定:跨配置 Spearman ρ(ID-acc, OOD-retention) 的 bootstrap 95% CI 上界 < 0.5。
- **H2(G2 主结论):** 存在至少一个现有 label-free 信号能 held-out 预测 OOD 方向 drop。判定:至少一个 baseline 的 held-out ρ 95% CI 下界 > 0.4;**报告全部信号的排名表**(这是 G2 的产出,无论谁赢)。
- **H3(G3 互补性):** 若 PAC 入选,合成需显著优于其两单分量。判定:配对 Wilcoxon(Holm 后 p<0.05)+ Cliff's δ ≥ 0.33;**否则诚实降级为单分量 entry**。
- **H4(外部效度):** 排名结论跨 estimator 与跨 size 稳健;不下"越大越稳"普适结论,显式检验 Pressure-Testing-Deception(2605.27958)的 inverse-scaling 是否为 training-distribution artifact。
- **H5(sanity):** shift 确为 label-preserving。判定:NLI 审计通过率 ≥95%,作者内部抽检(每 shift-type 50 条,**非新众包**)一致率 ≥90%。

---

## 6. Method:基准构造 + PAC 定义

### 6.1 基准 ground truth(G1)
对每个 (concept c, shift s, size m, estimator e):在 ID 训练集得探针方向 **w̄**;在 OOD(shift)集得 **w_s**。记录两维:
- **accuracy-drop** = ID_acc − OOD_acc(用 ID 探针在 OOD 集上预测)。
- **direction-rotation** = 1 − |cos(**w̄**, **w_s**)|(在 OOD 集上重拟合方向,度量几何旋转)。
解耦报告二者(回应"准确率与方向不是一回事")。

### 6.2 a-priori 预测信号(G2,全部 label-free、IID-only)
统一接口下实现并评测:
- **SIP**:LDA 相关子空间的 eigengap / Fisher 误差(越大越稳)。
- **RAPTOR directional stability**:K 次 bootstrap 方向 mean|cos|(= dispersion 分量)。
- **Fragility**:对 ID 激活注入递增各向同性噪声,临界崩溃 σ(越大越稳)。
- **augmentation-robustness**:label-preserving 文本增广后方向一致性(= aug 分量)。
- **Xie feature-dispersion**:inter-class 特征离散度(预测整体 acc 的通用信号,作机制对照)。
- **(上界对照)Truth-Spectrum 白化 cosine**:Mahalanobis 白化(注:需 OOD covariance,故列为放宽约束上界)。

### 6.3 PAC 入选项(G3)
PAC(c,ℓ,e) = σ( α·z(1−D_disp) + (1−α)·D_aug ),α 为唯一聚合超参,**仅在 dev 概念-shift 组合上选**,选定冻结。D_disp 为方向重采样离散度,D_aug 为增广一致性,白化仅用 **ID** covariance(守住免 OOD 约束)。

### 6.4 防泄漏(生死线)
所有 G2/G3 结果只在**完全 held-out 的 concept × shift-type × size 组合**上算;主结果用 **leave-one-concept-out / leave-one-shift-type-out** 双交叉验证;split 清单随码发布。

### 6.5 Shift 构造 + label-fidelity(sanity)
paraphrase(LLM API 改写)/ domain(领域措辞改写)/ length(扩缩写),逐字对齐 Haller et al. 2025 三类定义。overgenerate-and-filter:API 过量生成 → 本地 DeBERTa-v3-MNLI 双向 entailment(roundtrip)过滤。主动引用 Falsesum 2022 / DISCO 2023。

---

## 7. Experiments

### 7.1 数据/模型
- **概念 ≥12**:truth、sentiment、formality、toxicity、language-ID、tense、negation、topic(≥5 类)等,覆盖 factual + stylistic,保证统计功效。
- **size ladder**:Pythia 70M–2.8B + GPT-2 small/medium + Qwen2.5-0.5B(单卡可载)。
- 激活一次前向缓存,所有信号共享缓存。

### 7.2 主实验
1. 构建 ProbeShift ground-truth 矩阵(G1)。
2. 计算全部 a-priori 信号(含 PAC)。
3. 报告每个信号 held-out **Spearman ρ / Kendall τ** + bootstrap CI + 排名表(G2)。

### 7.3 关键消融/分离
- **互补性(H3):** dispersion-only / aug-only / PAC 合成,配对 Wilcoxon + Cliff's δ + Holm。
- **方向几何 ≠ 流形 dispersion:** paraphrase shift 上对比 PAC 与 Xie,预期 Xie 失效、PAC 不失效。
- **度量消融:** 裸 cosine vs ID-白化 cosine。
- **size 效应:** 预测有效性随 size 是否单调;检验 2605.27958 artifact。

### 7.4 统计
每配置 **5 seeds**;相关系数报 **bootstrap(10k)95% CI**;多重比较 **Holm-Bonferroni**;效应量 **Cliff's δ / Cohen's d**;预注册阈值 §5。

---

## 8. Expected Results 与负结果叙事

**预期产出(无论谁赢都成立):** ProbeShift 排名表给出"现有信号谁能预测探针 OOD 方向 drop";很可能发现单一信号(如 SIP 或 aug-robustness)在某些 shift 类型上强、在另一些上弱,而**没有单信号通吃** —— 这本身就是有价值的 G2 结论。

**诚实负结果(预先写入):**
- 若 PAC 无显著增量 → 降为"现有单分量已足够 + PAC 仅作统一框架下的参照",G1+G2 不受影响。
- 若所有信号 held-out ρ 都低 → 这是更强的 G2 结论:"探针 OOD 稳定性目前不可被现有 label-free 信号可靠预测",指明 open problem(对 benchmark 论文是加分而非减分)。
- 若 size 出现 inverse scaling → 不下普适结论,引 2605.27958 解释为 artifact。

---

## 9. Reproducibility
发布:激活缓存、探针权重、全部 baseline + PAC 实现、预注册阈值、shift 数据集 + NLI 通过率、seed 列表、leave-one-out split 清单、bootstrap 脚本、一键复现入口。

## 10. Budget(单卡 4090 ≤200 GPU·h,API <$100)

| 项目 | 估算 | 说明 |
|---|---|---|
| 激活缓存(12 概念 × 7 模型)| ~40 GPU·h | 一次前向,全 baseline 复用 |
| 探针训练(3 estimator × bootstrap × 5 seed)| ~50 GPU·h | LogReg/mass-mean 极廉,MLP 主成本 |
| Augmentation 重训(3 shift)| ~45 GPU·h | 增广激活 + 重训 |
| Baselines(SIP/Fragility/RAPTOR/aug/Xie/Geometry)| ~35 GPU·h | Fragility 噪声扫描最贵 |
| P-StaT baseline 复现 | ~15 GPU·h | 用其公开 code/data |
| 缓冲 | ~15 GPU·h | 合计 **~200 GPU·h** |
| **API(3 shift × 12 概念 × overgenerate 3×)** | **<$80** | GPT-class API;NLI 过滤本地零成本 |

## 11. Risk & 退路

| 风险 | 缓解 / 退路 |
|---|---|
| benchmark 被指"只是把已有数据拼一起" | 强调三个新东西:**解耦 drop⊥rotation**、**跨 ≥12 概念统一口径**、**首次多预测器 head-to-head**;且随缓存发布、分钟级复现是实打实的社区价值。 |
| 数据泄漏/循环验证(F4) | held-out + 双交叉验证 + split 随码发布。 |
| PAC 无增量(M1) | 已 framing 为次要 entry,G1+G2 独立成立;诚实降级。 |
| size inverse-scaling 反例(M2) | 仅交叉维度,复现/检验 2605.27958 artifact,不下普适结论。 |
| baseline 覆盖不足(M4) | A 组 4 信号 + Xie 全跑,B/C 各 ≥1;缺项写 limitation。 |
| P-StaT 修订版加入预测闭环 | 不影响本 framing(我们是基准+评测,不与单篇争"首个预测器");投稿前二次复核其 venue/版本。 |

**已核实文献(投稿前复核 venue):** Dies/P-StaT [2511.19166](https://arxiv.org/abs/2511.19166) · SIP [2511.16288](https://arxiv.org/abs/2511.16288) · Fragility [2606.11375](https://arxiv.org/abs/2606.11375) · RAPTOR [2602.00158](https://arxiv.org/abs/2602.00158) · Probing-the-Probes [2511.04312](https://arxiv.org/abs/2511.04312) · Xie [2303.15488](https://arxiv.org/abs/2303.15488) · Truth-Spectrum [2602.20273](https://arxiv.org/abs/2602.20273) · Haller/Brittle [2510.11905](https://arxiv.org/abs/2510.11905) · Pressure-Testing-Deception [2605.27958](https://arxiv.org/abs/2605.27958)