repro_bundle/RESULTS.md

ProbeShift —— 全量跑结果

⚠️ 关键诚实校正(对抗式评审驱动,2026-06-23)

评审指出 EXCESS=naive−placebo 的差值构造会机械制造负相关(dispersion 高度预测 placebo,从被减数减去它→残差对 dispersion 必然趋负)。用偏相关(无差值)复核:

预测器	偏相关 ρ(signal, para-rot | placebo)	EXCESS ρ(差值)
pac	+0.374	−0.029
augmentation_robustness	+0.345	+0.046
raptor_stability	+0.323	−0.195(artifact)
whitened_cosine	−0.015	−0.245

结论修正: (1) "dispersion 主动误导/anti-predict" 是差值 artifact——偏相关下 dispersion 正 +0.323; (2) 戏剧"反转"大幅缩水——偏相关下 aug(0.345)≈raptor(0.323),PAC 最高(0.374); (3) cluster bootstrap(按 12 概念,修正伪重复)Δρ[aug−raptor] on EXCESS 仍 +0.241 [+0.118,+0.363] SIGNIFICANT, 但 EXCESS 目标本身被质疑。诚实 headline:循环性真实重要;但 shift 脆性不是"完全不可预测",dispersion/aug 都有适度残余预测力(~0.32–0.37,PAC 最好),原"open problem + 反转"被差值构造夸大。

---

★★★ 原始结果:Option A,5 独立 seed,n=472(差值/EXCESS 口径,需配合上方校正解读)

12 概念 × 7 模型 × 5 个完全独立的 seed(各自独立抽样 + 独立回译,gold-standard 复现)。 gpt2-medium/qwen 的少数 massive-activation 格子被容错跳过(每 seed ~4 个)。

四目标 + 配对显著性(n=472)

预测器	acc-drop	naive-rot	PLACEBO(IID-resample)	EXCESS(非循环)
raptor_stability(纯dispersion)	-0.06	0.945 [.93,.95]	0.966 [.96,.97]	-0.195 [-.29,-.12]
pac	0.12	0.839	0.799	-0.029 [-.11,.06]
augmentation_robustness	0.18	0.711	0.653	0.046 [-.04,.13]
whitened_cosine_id	-0.08	0.769	0.814	-0.245 [-.34,-.16]
fragility	0.11	0.640	0.643	-0.136
xie_feature_dispersion	0.06	0.458	0.464	-0.117
sip_eigengap	0.00	-0.072	-0.057	0.020

配对检验(bootstrap 95% CI,全 SIGNIFICANT):

• Δρ[aug − raptor] on EXCESS = +0.241 [+0.170,+0.309] ✓
• Δρ[pac − raptor] on EXCESS = +0.166 [+0.116,+0.215] ✓
• Δρ[raptor − aug] on naive-rot = +0.234 [+0.189,+0.284] ✓(naive 上 dispersion 赢——但循环)

最终结论(5-seed,最严格、最诚实)

1. naive rotation 的强预测是循环的:raptor 对 naive 0.945,对纯采样安慰剂 0.966(更高) → 它预测的是采样噪声地板。红队 F4 循环性被自家对照坐实(多 seed,CI 极紧)。
2. 真·shift 脆性(EXCESS)无人能正向预测:最佳 aug 仅 0.046(CI 跨 0);dispersion/whitened 显著负相关(-0.195/-0.245)→ 它们在诚实目标上主动误导。→ 这是有价值的 open problem。
3. 反转显著(headline):在诚实的 EXCESS 上,基于增广的信号显著优于基于离散度的(Δρ aug−raptor=+0.241,5-seed 稳健),naive 上则相反。即"哪个信号有用"完全取决于是否扣掉采样噪声。
4. acc-drop:多 seed 下 aug 0.18 弱显著但 LOCO 0.06(跨概念不泛化)。

Tier 1 重分析(纯缓存,2026-06-23)

• Shift-type 拆分:paraphrase(n=472,raptor 0.945 但循环)、domain(n=65,弱:raptor 0.59)、 length(n=30,全高:aug 0.95/pac 0.95/raptor 0.92)。预测器行为强烈依赖 shift 类型。
• Estimator 外部效度:用 logreg 预测器去预测 mass-mean 方向旋转 → 全部弱(xie 0.47 最高, 其余 0.25-0.29)且 **LOCO≈0(跨概念不泛化)**。→ 可预测性是 estimator 特异的,非一般属性(重要 caveat)。
• Label-fidelity(NLI 通过率):整体 80.6%;counterfact 96%/sst2 89% 高,dbpedia 50% / imdb 64% 偏低 (实体/长文回译易翻车)→ 按 H7 标注,这两个数据集 rotation 解读需谨慎。
• Layer 稳健性(refit):paraphrase rotation 按相对深度 0.68→0.71→0.79→0.78,**所有层都普遍(非挑层产物)**。
• 白化度量消融(M3,refit):用 ID-白化 cosine 作目标时,raptor 从裸 cosine 的 0.945 掉到 0.698 (whitened_cosine_id 0.851 居首)→ dispersion 的循环优势部分由度量造成(裸 cosine 忽略协方差); 换白化度量后优势缩小。诚实的"结果依赖度量"caveat,非度量取巧。

Tier 2 多-pivot 增广(de/fr/ru,5 seed × 7 模型,n=472/490)

• aug 在 EXCESS 上从 1-aug 的 0.046 仅升到 0.070(CI 仍跨 0) → 多样化增广没把它推到显著正。 → 强化 open-problem:即使用 de/fr/ru 多样增广,shift 特异脆性仍不可正向预测(排除"增广太弱"解释)。
• 反转对增广多样性稳健:Δρ[aug−raptor] on EXCESS = +0.247(1-aug 是 +0.241),SIGNIFICANT。
• 结论:Tier 2 是干净的鲁棒性确认——核心发现不依赖增广质量。

Tier 3 #11 7B 抽检(pythia-6.9b,seed 0,7 数据集,n=7)

• naive-rot:raptor +0.93(仍循环);excess:raptor −0.39(仍反预测)、aug +0.68(更强正)。
• → 循环性 + aug>dispersion 反转在 6.9B 仍成立且 aug 优势放大(n=7 偏粗,方向一致)→ 堵死"仅小模型"质疑。
• size-ladder(70M→6.9B):raptor naive 全程 0.83–0.95、excess 全程 ≤0;可预测性结构对规模不变,无 inverse-scaling。

图(figures/)

• fig1_circularity:预测器 × {naive / 安慰剂 / excess} 分组柱(killer figure:naive≈安慰剂=循环,excess≤0)。
• fig2_sizeladder:raptor/aug/pac 的 ρ vs 规模(naive 与 excess 两面板)。
• fig3_mechanism:raptor vs excess(负)对比 aug vs excess(正)散点——为什么 aug 行 dispersion 不行。

---

★★ 中间版:12 概念 / 84 configs(n=78,单 seed)+ 循环性对照

配置: 6 模型 × 14 数据集 / 12 概念(sentiment, topic, truth, emotion, hate, irony, offensive, subjectivity, spam, grammaticality, stance, counterfactual)。stance 因推文经 NLI label-fidelity 过滤后 paraphrase 集为空,部分 config 缺 rotation(n=78)。

四目标对照(Spearman ρ,n=78)

预测器	acc-drop	rotation(naive)	IID-resample(安慰剂)	EXCESS(=para−IID, 非循环)	EXCESS-LOCO
raptor_stability(纯 dispersion)	-0.07	0.951	0.975	-0.075	-0.23
pac(ours = disp ⊕ aug)	0.09	0.895	0.859	0.124	-0.03
augmentation_robustness	0.15	0.811	0.752	0.225 [0.00,0.41]	0.09
whitened_cosine_id	-0.13	0.741	0.790	-0.186	-0.14
fragility	0.09	0.685	0.685	-0.015	-0.04
xie_feature_dispersion	-0.01	0.502	0.491	-0.053	-0.01
sip_eigengap	0.12	-0.151	-0.092	-0.101	0.05

决定性结论(改写论文故事)

1. naive rotation 预测大部分是循环的:raptor_stability 对 naive rotation 0.951,但对安慰剂(纯 IID 采样旋转)同样 0.975 → 它主要在预测采样噪声地板,而非 shift 脆性。红队 F4 循环性质疑被我们自己的 对照证实。
2. 真·shift 特异脆性(EXCESS rotation)几乎不可预测:去掉采样噪声后,dispersion 彻底失效(-0.075), 全场最高仅 augmentation_robustness 0.225(CI 下界贴 0)。→ 这是真正的 open problem(benchmark 论文加分)。
3. 关键反转,支持 augmentation 组件:在诚实的 EXCESS 目标上,基于增广的信号 > 基于离散度的 (aug 0.225 / pac 0.124 > raptor -0.075)。augmentation 直接探测 label-preserving 扰动下的方向变化, 天然捕捉 shift 特异结构;纯 bootstrap dispersion 不能。PAC 的 aug 分量恰在最该起作用处起作用。
4. accuracy-drop 仍全场不可预测(≈0)。

论文主张应改为:不是"我们提出最强预测器",而是"我们用循环性对照揭示:现有探针稳定性信号对 OOD 方向旋转的强预测力大部分是采样噪声的循环假象;扣除后,shift 特异脆性基本不可预测,且只有基于 label-preserving 增广的信号有微弱(非循环)预测力"。这是更难被攻击、更有 insight 的 contribution。

数据:results_full_run/(eval 234 行、predictors 78、stats_ranking 4 张表、audit 84)。

---

附:9 概念 / 66 configs(中间版,无循环性对照)

配置: 6 模型(pythia-70m/160m/410m/1.4b + gpt2 + qwen2.5-0.5b)× 11 数据集 / 9 概念: sentiment(sst2,imdb)、topic(ag_news,dbpedia)、truth(counterfact)、emotion、hate、irony、 offensive、subjectivity(subj)、spam。N_train=1500 / N_eval=800 / n_aug=1,单卡 4090。 各数据集 IID 探针准确率均显著高于随机(dbpedia .96 / spam .99 / subj .93 / … / counterfact .55, 真值探针接近随机符合"小模型读真值难"的已知规律)。

目标①:预测 OOD accuracy-drop —— 全员 ρ≈0,CI 全跨 0、LOCO≈0 → 不可预测

目标②:预测 OOD direction-rotation

预测器	Spearman	95% CI	LOCO(9概念留一)
raptor_stability(IID方向离散度)	0.961	[0.91, 0.98]	0.879
pac(ours)	0.881	[0.78, 0.93]	0.810
augmentation_robustness	0.774	[0.64, 0.86]	0.691
whitened_cosine_id	0.764	[0.60, 0.87]	0.205 ⚠️不泛化
fragility	0.704	[0.52, 0.84]	0.388
xie_feature_dispersion	0.428	[0.15, 0.64]	0.030 ⚠️不泛化
sip_eigengap	-0.135	[-0.39, 0.14]	0.192

9 概念版关键结论(比 3 概念版更硬):

1. 解耦 + 可预测性不对称(headline,稳健):rotation 高度可预测(raptor ρ=0.96,LOCO 0.88 跨 9 概念), accuracy-drop 完全不可预测(全 ~0)。
2. LOCO 列成为强区分器:raptor(0.88)/pac(0.81)/aug(0.69)跨概念泛化;而 whitened_cosine(0.21)、 xie(0.03)样本内不错但跨概念崩盘 → "哪些信号 robust、哪些是概念过拟合"本身是 G2 的有价值产出。
3. xie 跨概念失败(LOCO 0.03)稳健复现 → feature 流形 dispersion ≠ probe 方向几何。
4. PAC 诚实:competitive(第2,LOCO 0.81 稳健)但未超过单分量 raptor → H3 互补性仍不成立,如实报告。

---

附:初版 3 概念 / 30 configs(已被上面的 9 概念版取代,留作记录)

配置: 6 模型 × 5 数据集(sentiment×2, topic×2, truth×1)= 30 configs,3 概念。 N_train=1500 / N_eval=800 / n_aug=1。单卡 4090。

G2 主结果:哪个 a-priori 信号能预测探针 OOD 不稳定性?

报告 Spearman ρ(信号, −目标)(越高=越能预测),bootstrap 95% CI,leave-one-concept-out(LOCO)。

目标一:OOD accuracy-drop(主要由 domain shift 驱动)

预测器	Spearman	95% CI	LOCO
augmentation_robustness	0.109	[-0.27, 0.43]	-0.47
pac (ours)	-0.015	[-0.35, 0.31]	-0.62
xie_feature_dispersion	-0.029	[-0.38, 0.33]	-0.05
fragility	-0.082	[-0.39, 0.24]	-0.26
raptor_stability	-0.095	[-0.37, 0.19]	-0.35
whitened_cosine_id	-0.193	[-0.48, 0.15]	-0.34
sip_eigengap	-0.384	[-0.60, -0.12]	+0.40

→ 结论:accuracy-drop 基本不可被任何现有 label-free 几何信号 a-priori 预测(所有 CI 跨 0; sip 弱负相关但 LOCO 翻号、不稳)。这是一个有价值的"open problem"型结论(对 benchmark 论文是加分)。

目标二:OOD direction-rotation(主要由 paraphrase 驱动)

预测器	Spearman	95% CI	LOCO
raptor_stability	0.969	[0.89, 0.99]	0.937
pac (ours)	0.818	[0.60, 0.92]	0.662
whitened_cosine_id	0.750	[0.46, 0.90]	0.592
fragility	0.682	[0.39, 0.86]	0.271
xie_feature_dispersion	0.677	[0.39, 0.85]	-0.052
augmentation_robustness	0.677	[0.43, 0.83]	0.493
sip_eigengap	-0.525	[-0.78, -0.10]	-0.305

→ 结论:direction-rotation 高度可 a-priori 预测;raptor_stability(= IID 方向 bootstrap 离散度) 近乎完美(ρ=0.969,LOCO 0.937)。

关键科学结论(支撑论文)

1. 解耦 + 可预测性不对称(headline):两个 OOD 目标彻底分离——**方向旋转高度可预测(ρ≈0.97), 准确率下降几乎不可预测(ρ≈0)**。这把 "accuracy ⊥ direction" 从"现象"升级为"可预测性结构差异", 是 G1+G2 的核心卖点。
2. PAC 诚实结论:PAC(双分量合成)排第二(0.818),但未超过单分量 raptor_stability(0.969) → 互补性假设 H3 在此不成立:对旋转预测,augmentation 分量未在 dispersion 之外带来增量。 benchmark-first 定位正确——PAC 只是入选项之一,我们如实报告"现有单分量已足够"。
3. xie 的跨概念失败:xie 在样本内 0.677,但 LOCO -0.05(跨概念不泛化)→ 实证"feature 流形 dispersion ≠ probe 方向几何",正好坐实 §7.4 的机制分离论点。
4. sip_eigengap 反相关:eigengap 在此不是好的旋转预测器(甚至反号),与其理论定位形成对比,值得讨论。

待处理 / 注意(投稿前)

• 循环性(对应红队 F4):dispersion(IID bootstrap 方向方差)预测 rotation(shift 引起的方向变化), 二者都刻画"方向移动"。非平凡点在于 dispersion 完全不碰 OOD 数据即可预测 shift 后旋转——论文须把 这点讲清,并补一个"dispersion 与 rotation 测量相互独立"的对照(如不同随机源、白化对照)以防"换皮"质疑。
• n=30、仅 3 概念,LOCO 只有 3 组;论文版需扩到 ≥8-12 概念以增强 LOCO 统计功效。
• n_aug=1(单 pivot 回译);多 pivot 多样化增广留待论文版,可能改变 augmentation_robustness/PAC 的表现。
• accuracy-drop 的 domain shift 仅 sentiment 数据集有(topic/truth 无 domain 配对),其不可预测性结论需在 更广 domain 覆盖下复核。

数据存档:results_full_run/(eval.jsonl 90 行、predictors.jsonl 30、stats_ranking.jsonl、audit.jsonl)。