# ProbeShift —— 全量跑结果

## ⚠️ 关键诚实校正(对抗式评审驱动,2026-06-23)

评审指出 EXCESS=naive−placebo 的差值构造会**机械制造负相关**(dispersion 高度预测 placebo,从被减数减去它→残差对 dispersion 必然趋负)。用**偏相关**(无差值)复核:

| 预测器 | 偏相关 ρ(signal, para-rot \| placebo) | EXCESS ρ(差值) |
|---|---|---|
| pac | **+0.374** | −0.029 |
| augmentation_robustness | **+0.345** | +0.046 |
| raptor_stability | **+0.323** | −0.195(artifact) |
| whitened_cosine | −0.015 | −0.245 |

**结论修正:** (1) "dispersion 主动误导/anti-predict" 是**差值 artifact**——偏相关下 dispersion 正 +0.323;
(2) 戏剧"反转"大幅缩水——偏相关下 aug(0.345)≈raptor(0.323),PAC 最高(0.374);
(3) cluster bootstrap(按 12 概念,修正伪重复)Δρ[aug−raptor] on EXCESS 仍 +0.241 [+0.118,+0.363] SIGNIFICANT,
但 EXCESS 目标本身被质疑。**诚实 headline:循环性真实重要;但 shift 脆性不是"完全不可预测",dispersion/aug 都有适度残余预测力(~0.32–0.37,PAC 最好),原"open problem + 反转"被差值构造夸大。**

---

## ★★★ 原始结果:Option A,5 独立 seed,n=472(差值/EXCESS 口径,需配合上方校正解读)

12 概念 × 7 模型 × **5 个完全独立的 seed**(各自独立抽样 + 独立回译,gold-standard 复现)。
gpt2-medium/qwen 的少数 massive-activation 格子被容错跳过(每 seed ~4 个)。

### 四目标 + 配对显著性(n=472)
| 预测器 | acc-drop | naive-rot | **PLACEBO(IID-resample)** | **EXCESS(非循环)** |
|---|---|---|---|---|
| raptor_stability(纯dispersion) | -0.06 | 0.945 [.93,.95] | **0.966 [.96,.97]** | **-0.195 [-.29,-.12]** |
| pac | 0.12 | 0.839 | 0.799 | -0.029 [-.11,.06] |
| augmentation_robustness | 0.18 | 0.711 | 0.653 | **0.046 [-.04,.13]** |
| whitened_cosine_id | -0.08 | 0.769 | 0.814 | -0.245 [-.34,-.16] |
| fragility | 0.11 | 0.640 | 0.643 | -0.136 |
| xie_feature_dispersion | 0.06 | 0.458 | 0.464 | -0.117 |
| sip_eigengap | 0.00 | -0.072 | -0.057 | 0.020 |

**配对检验(bootstrap 95% CI,全 SIGNIFICANT):**
- Δρ[**aug − raptor**] on EXCESS = **+0.241 [+0.170,+0.309]** ✓
- Δρ[**pac − raptor**] on EXCESS = **+0.166 [+0.116,+0.215]** ✓
- Δρ[raptor − aug] on naive-rot = +0.234 [+0.189,+0.284] ✓(naive 上 dispersion 赢——但循环)

### 最终结论(5-seed,最严格、最诚实)
1. **naive rotation 的强预测是循环的**:raptor 对 naive 0.945,对**纯采样安慰剂 0.966(更高)** → 它预测的是采样噪声地板。红队 F4 循环性被自家对照坐实(多 seed,CI 极紧)。
2. **真·shift 脆性(EXCESS)无人能正向预测**:最佳 aug 仅 0.046(CI 跨 0);dispersion/whitened **显著负相关**(-0.195/-0.245)→ 它们在诚实目标上**主动误导**。→ 这是有价值的 **open problem**。
3. **反转显著(headline)**:在诚实的 EXCESS 上,**基于增广的信号显著优于基于离散度的**(Δρ aug−raptor=+0.241,5-seed 稳健),naive 上则相反。即"哪个信号有用"完全取决于是否扣掉采样噪声。
4. acc-drop:多 seed 下 aug 0.18 弱显著但 LOCO 0.06(跨概念不泛化)。

### Tier 1 重分析(纯缓存,2026-06-23)
- **Shift-type 拆分**:paraphrase(n=472,raptor 0.945 但循环)、domain(n=65,弱:raptor 0.59)、
  length(n=30,全高:aug 0.95/pac 0.95/raptor 0.92)。预测器行为强烈依赖 shift 类型。
- **Estimator 外部效度**:用 logreg 预测器去预测 **mass-mean 方向旋转** → 全部弱(xie 0.47 最高,
  其余 0.25-0.29)且 **LOCO≈0(跨概念不泛化)**。→ 可预测性是 estimator 特异的,非一般属性(重要 caveat)。
- **Label-fidelity(NLI 通过率)**:整体 80.6%;counterfact 96%/sst2 89% 高,**dbpedia 50% / imdb 64% 偏低**
  (实体/长文回译易翻车)→ 按 H7 标注,这两个数据集 rotation 解读需谨慎。
- **Layer 稳健性(refit)**:paraphrase rotation 按相对深度 0.68→0.71→0.79→0.78,**所有层都普遍(非挑层产物)**。
- **白化度量消融(M3,refit)**:用 ID-白化 cosine 作目标时,raptor 从裸 cosine 的 0.945 **掉到 0.698**
  (whitened_cosine_id 0.851 居首)→ dispersion 的循环优势**部分由度量造成**(裸 cosine 忽略协方差);
  换白化度量后优势缩小。诚实的"结果依赖度量"caveat,非度量取巧。

### Tier 2 多-pivot 增广(de/fr/ru,5 seed × 7 模型,n=472/490)
- aug 在 EXCESS 上从 1-aug 的 0.046 仅升到 **0.070(CI 仍跨 0)** → 多样化增广**没把它推到显著正**。
  → **强化 open-problem**:即使用 de/fr/ru 多样增广,shift 特异脆性仍不可正向预测(排除"增广太弱"解释)。
- 反转**对增广多样性稳健**:Δρ[aug−raptor] on EXCESS = **+0.247**(1-aug 是 +0.241),SIGNIFICANT。
- 结论:Tier 2 是干净的鲁棒性确认——核心发现不依赖增广质量。

### Tier 3 #11 7B 抽检(pythia-6.9b,seed 0,7 数据集,n=7)
- naive-rot:raptor **+0.93**(仍循环);excess:raptor **−0.39**(仍反预测)、aug **+0.68**(更强正)。
- → **循环性 + aug>dispersion 反转在 6.9B 仍成立且 aug 优势放大**(n=7 偏粗,方向一致)→ 堵死"仅小模型"质疑。
- size-ladder(70M→6.9B):raptor naive 全程 0.83–0.95、excess 全程 ≤0;**可预测性结构对规模不变,无 inverse-scaling**。

### 图(figures/)
- fig1_circularity:预测器 × {naive / 安慰剂 / excess} 分组柱(killer figure:naive≈安慰剂=循环,excess≤0)。
- fig2_sizeladder:raptor/aug/pac 的 ρ vs 规模(naive 与 excess 两面板)。
- fig3_mechanism:raptor vs excess(负)对比 aug vs excess(正)散点——为什么 aug 行 dispersion 不行。

---

## ★★ 中间版:12 概念 / 84 configs(n=78,单 seed)+ 循环性对照

**配置:** 6 模型 × 14 数据集 / **12 概念**(sentiment, topic, truth, emotion, hate, irony, offensive,
subjectivity, spam, grammaticality, stance, counterfactual)。stance 因推文经 NLI label-fidelity 过滤后
paraphrase 集为空,部分 config 缺 rotation(n=78)。

### 四目标对照(Spearman ρ,n=78)
| 预测器 | acc-drop | rotation(naive) | **IID-resample(安慰剂)** | **EXCESS(=para−IID, 非循环)** | EXCESS-LOCO |
|---|---|---|---|---|---|
| raptor_stability(纯 dispersion) | -0.07 | 0.951 | **0.975** | **-0.075** | -0.23 |
| pac(ours = disp ⊕ aug) | 0.09 | 0.895 | 0.859 | **0.124** | -0.03 |
| **augmentation_robustness** | 0.15 | 0.811 | 0.752 | **0.225** [0.00,0.41] | 0.09 |
| whitened_cosine_id | -0.13 | 0.741 | 0.790 | -0.186 | -0.14 |
| fragility | 0.09 | 0.685 | 0.685 | -0.015 | -0.04 |
| xie_feature_dispersion | -0.01 | 0.502 | 0.491 | -0.053 | -0.01 |
| sip_eigengap | 0.12 | -0.151 | -0.092 | -0.101 | 0.05 |

### 决定性结论(改写论文故事)
1. **naive rotation 预测大部分是循环的**:raptor_stability 对 naive rotation 0.951,但对**安慰剂(纯 IID
   采样旋转)同样 0.975** → 它主要在预测采样噪声地板,而非 shift 脆性。**红队 F4 循环性质疑被我们自己的
   对照证实。**
2. **真·shift 特异脆性(EXCESS rotation)几乎不可预测**:去掉采样噪声后,dispersion 彻底失效(-0.075),
   全场最高仅 augmentation_robustness 0.225(CI 下界贴 0)。→ 这是真正的 **open problem**(benchmark 论文加分)。
3. **关键反转,支持 augmentation 组件**:在诚实的 EXCESS 目标上,**基于增广的信号 > 基于离散度的**
   (aug 0.225 / pac 0.124 > raptor -0.075)。augmentation 直接探测 label-preserving 扰动下的方向变化,
   天然捕捉 shift 特异结构;纯 bootstrap dispersion 不能。**PAC 的 aug 分量恰在最该起作用处起作用。**
4. accuracy-drop 仍全场不可预测(≈0)。

> **论文主张应改为**:不是"我们提出最强预测器",而是"**我们用循环性对照揭示:现有探针稳定性信号对 OOD
> 方向旋转的强预测力大部分是采样噪声的循环假象;扣除后,shift 特异脆性基本不可预测,且只有基于
> label-preserving 增广的信号有微弱(非循环)预测力**"。这是更难被攻击、更有 insight 的 contribution。

数据:`results_full_run/`(eval 234 行、predictors 78、stats_ranking 4 张表、audit 84)。

---

## 附:9 概念 / 66 configs(中间版,无循环性对照)

**配置:** 6 模型(pythia-70m/160m/410m/1.4b + gpt2 + qwen2.5-0.5b)× 11 数据集 / **9 概念**:
sentiment(sst2,imdb)、topic(ag_news,dbpedia)、truth(counterfact)、emotion、hate、irony、
offensive、subjectivity(subj)、spam。N_train=1500 / N_eval=800 / n_aug=1,单卡 4090。
各数据集 IID 探针准确率均显著高于随机(dbpedia .96 / spam .99 / subj .93 / … / counterfact .55,
真值探针接近随机符合"小模型读真值难"的已知规律)。

### 目标①:预测 OOD accuracy-drop —— 全员 ρ≈0,CI 全跨 0、LOCO≈0 → **不可预测**
### 目标②:预测 OOD direction-rotation
| 预测器 | Spearman | 95% CI | LOCO(9概念留一) |
|---|---|---|---|
| **raptor_stability**(IID方向离散度) | **0.961** | [0.91, 0.98] | **0.879** |
| **pac(ours)** | **0.881** | [0.78, 0.93] | **0.810** |
| augmentation_robustness | 0.774 | [0.64, 0.86] | 0.691 |
| whitened_cosine_id | 0.764 | [0.60, 0.87] | **0.205** ⚠️不泛化 |
| fragility | 0.704 | [0.52, 0.84] | 0.388 |
| xie_feature_dispersion | 0.428 | [0.15, 0.64] | **0.030** ⚠️不泛化 |
| sip_eigengap | -0.135 | [-0.39, 0.14] | 0.192 |

**9 概念版关键结论(比 3 概念版更硬):**
1. **解耦 + 可预测性不对称**(headline,稳健):rotation 高度可预测(raptor ρ=0.96,LOCO 0.88 跨 9 概念),
   accuracy-drop 完全不可预测(全 ~0)。
2. **LOCO 列成为强区分器**:raptor(0.88)/pac(0.81)/aug(0.69)**跨概念泛化**;而 whitened_cosine(0.21)、
   xie(0.03)样本内不错但**跨概念崩盘** → "哪些信号 robust、哪些是概念过拟合"本身是 G2 的有价值产出。
3. **xie 跨概念失败**(LOCO 0.03)稳健复现 → feature 流形 dispersion ≠ probe 方向几何。
4. **PAC 诚实**:competitive(第2,LOCO 0.81 稳健)但未超过单分量 raptor → H3 互补性仍不成立,如实报告。

---

## 附:初版 3 概念 / 30 configs(已被上面的 9 概念版取代,留作记录)

**配置:** 6 模型 × 5 数据集(sentiment×2, topic×2, truth×1)= **30 configs**,3 概念。
N_train=1500 / N_eval=800 / n_aug=1。单卡 4090。

## G2 主结果:哪个 a-priori 信号能预测探针 OOD 不稳定性?

报告 `Spearman ρ(信号, −目标)`(越高=越能预测),bootstrap 95% CI,leave-one-concept-out(LOCO)。

### 目标一:OOD **accuracy-drop**(主要由 domain shift 驱动)
| 预测器 | Spearman | 95% CI | LOCO |
|---|---|---|---|
| augmentation_robustness | 0.109 | [-0.27, 0.43] | -0.47 |
| pac (ours) | -0.015 | [-0.35, 0.31] | -0.62 |
| xie_feature_dispersion | -0.029 | [-0.38, 0.33] | -0.05 |
| fragility | -0.082 | [-0.39, 0.24] | -0.26 |
| raptor_stability | -0.095 | [-0.37, 0.19] | -0.35 |
| whitened_cosine_id | -0.193 | [-0.48, 0.15] | -0.34 |
| sip_eigengap | -0.384 | [-0.60, -0.12] | +0.40 |

→ **结论:accuracy-drop 基本不可被任何现有 label-free 几何信号 a-priori 预测**(所有 CI 跨 0;
sip 弱负相关但 LOCO 翻号、不稳)。这是一个有价值的"open problem"型结论(对 benchmark 论文是加分)。

### 目标二:OOD **direction-rotation**(主要由 paraphrase 驱动)
| 预测器 | Spearman | 95% CI | LOCO |
|---|---|---|---|
| **raptor_stability** | **0.969** | [0.89, 0.99] | **0.937** |
| **pac (ours)** | **0.818** | [0.60, 0.92] | 0.662 |
| whitened_cosine_id | 0.750 | [0.46, 0.90] | 0.592 |
| fragility | 0.682 | [0.39, 0.86] | 0.271 |
| xie_feature_dispersion | 0.677 | [0.39, 0.85] | **-0.052** |
| augmentation_robustness | 0.677 | [0.43, 0.83] | 0.493 |
| sip_eigengap | -0.525 | [-0.78, -0.10] | -0.305 |

→ **结论:direction-rotation 高度可 a-priori 预测**;`raptor_stability`(= IID 方向 bootstrap 离散度)
近乎完美(ρ=0.969,LOCO 0.937)。

## 关键科学结论(支撑论文)

1. **解耦 + 可预测性不对称(headline)**:两个 OOD 目标彻底分离——**方向旋转高度可预测(ρ≈0.97),
   准确率下降几乎不可预测(ρ≈0)**。这把 "accuracy ⊥ direction" 从"现象"升级为"可预测性结构差异",
   是 G1+G2 的核心卖点。
2. **PAC 诚实结论**:PAC(双分量合成)排第二(0.818),但**未超过单分量 raptor_stability(0.969)**
   → 互补性假设 H3 在此**不成立**:对旋转预测,augmentation 分量未在 dispersion 之外带来增量。
   benchmark-first 定位正确——PAC 只是入选项之一,我们如实报告"现有单分量已足够"。
3. **xie 的跨概念失败**:xie 在样本内 0.677,但 **LOCO -0.05**(跨概念不泛化)→ 实证"feature 流形
   dispersion ≠ probe 方向几何",正好坐实 §7.4 的机制分离论点。
4. **sip_eigengap 反相关**:eigengap 在此不是好的旋转预测器(甚至反号),与其理论定位形成对比,值得讨论。

## 待处理 / 注意(投稿前)

- **循环性(对应红队 F4)**:dispersion(IID bootstrap 方向方差)预测 rotation(shift 引起的方向变化),
  二者都刻画"方向移动"。非平凡点在于 dispersion **完全不碰 OOD 数据**即可预测 shift 后旋转——论文须把
  这点讲清,并补一个"dispersion 与 rotation 测量相互独立"的对照(如不同随机源、白化对照)以防"换皮"质疑。
- n=30、仅 3 概念,LOCO 只有 3 组;论文版需扩到 ≥8-12 概念以增强 LOCO 统计功效。
- n_aug=1(单 pivot 回译);多 pivot 多样化增广留待论文版,可能改变 augmentation_robustness/PAC 的表现。
- accuracy-drop 的 domain shift 仅 sentiment 数据集有(topic/truth 无 domain 配对),其不可预测性结论需在
  更广 domain 覆盖下复核。

数据存档:`results_full_run/`(eval.jsonl 90 行、predictors.jsonl 30、stats_ranking.jsonl、audit.jsonl)。