Hugging Face's logo

Datasets:
Beicicc
/
probeshift-activation-cache

Tasks:
Feature Extraction
Modalities:
Tabular
Text
Size:
< 1K
Tags:
interpretability
linear-probes
llm
activations
ood
probe-stability
License:
Dataset card Data Studio Files
xet
 Community
1
probeshift-activation-cache / repro_bundle /PRIOR_ART.md
Beicicc's picture
Beicicc
ProbeShift reproducibility bundle: code + results + paper + figures
592942b verified
preview code
|
Raw
History Blame Contribute Delete
97.5 kB

Prior-Art 核查 + Novelty 定位 + 红队报告

一、定位文档(逐 claim 撞车判决 + 必引 + 必比 baseline)

Probe Stability Score(PSS)的 prior-art 定位文档如下。

1. Prior-art 地图(去重后按主题归类)

A. 探针准确率不可靠 / faithfulness(C1 的 motivation 基石)

  • Hewitt & Liang 2019(control task / selectivity, EMNLP)
  • Belinkov 2022(Probing Classifiers 综述, CL)
  • Pimentel et al. 2020(信息论探针, ACL);Voita & Titov 2020(MDL, EMNLP)
  • Ravichander, Belinkov & Hovy 2021(EACL);Kumar/Ravfogel et al. 2022(Probing Classifiers are Unreliable, NeurIPS)
  • Boxo et al. 2026(探针依赖文本证据泄漏)

B. 真值几何 / 概念方向旋转 under shift(C1 核心现象的直接竞品)

  • Marks & Tegmark 2023/24(Geometry of Truth, mass-mean)— 同时是 C3 的基石
  • Dies, Maynard, Savcisens & Eliassi-Rad 2025(Representational Stability of Truth, arXiv:2511.19166)— 与 C1+C2 机制最接近的单篇
  • Liang et al. 2025(LLM Knowledge is Brittle, 2510.11905, paraphrase/domain/length 三类偏移逐字一致)
  • Azizian et al. 2025(Geometries of Truth Are Orthogonal Across Tasks, 2506.08572)
  • Bürger/Levinstein 2024(truth directions context-sensitive, 2404.18865);Bao/Zhang 2025(2506.00823);2601.06599(context 旋转角 θ × size)
  • Park, Choe & Veitch 2024(Linear Representation Hypothesis, ICML)— cosine 度量理论依据

C. 探针方向稳定性度量(dispersion / augmentation-robustness)(C2 双分量分别被占)

  • Gao et al. 2026(RAPTOR, 2602.00158)— directional stability = K 次 ablation 后 mean |cos|,= C2 的 dispersion 分量,且含 size ladder
  • Lysnæs-Larsen, Eggen & Strümke 2025(Probing the Probes, 2511.04312)— augmentation robustness = C2 的 augmentation-consistency 分量
  • Méloux et al. 2025(Mech Interp as Statistical Estimation, 2510.00845)— 重采样方向离散度做可靠性
  • CKA 可靠性系列(Ding et al. 2021;Davari ICLR 2023)— 相似度度量陷阱

D. 训练前 a priori / 免标注预测探针可靠性或 OOD(C2 定位被多方占据)

  • Huang 2025(Spectral Identifiability / SIP, 2511.16288)— eigengap 几何,部署前 a priori 判据
  • Reblitz-Richardson 2026(Fragility, 2606.11375)— forward-pass 崩溃点度量
  • Chou et al. 2026(Geometry Markers, ICLR 2026 / 2603.01879)— ID-only 几何预测 OOD(视觉)
  • CCPS 2025(2505.21772)— 隐状态扰动做置信度校准

E. 免标注 OOD 性能预测(通用,非探针,C2 必比 baseline)

  • Xie et al. 2023(Dispersion Score, NeurIPS, 2303.15488)— 同名同质:label-free + forward-pass + feature dispersion 预测 OOD acc
  • Deng et al. 2023(Confidence & Dispersity, ICML)— 用了 "dispersity" 一词
  • Baek et al. 2024(Agreement-on-the-Line, NeurIPS)
  • Aithal et al. 2021(Robustness to Augmentations as Generalization Metric, NeurIPS comp)

F. Transferability estimation 范式(C2 自认类比来源)

  • LEEP(ICML 2020)、LogME(ICML 2021)、H-score(ICIP 2019)
  • Zhang et al. 2026(SAE as a Crystal Ball, 2603.02908)— LLM 版免训练事前预测跨域迁移
  • Truthfulness Spectrum 2026(2602.20273)— Mahalanobis-白化方向相似度预测 OOD AUROC, R²≈0.98

G. C3 专属(探针估计子比较)

  • Marks & Tegmark 2023(mass-mean vs LogReg vs CCS);SAE-vs-LogReg 系列(2502.16681)

H. C4 专属(size ladder 基建)

  • Biderman et al. 2023(Pythia, ICML);2505.21399(Factual Self-Awareness, Pythia 全 ladder × 扰动);2604.13386(探针 acc 随 size)

I. C5 专属(NLI label-fidelity 审计)

  • NLI overgenerate-and-filter / roundtrip consistency 范式(Falsesum 2022、DISCO 2023 等);counterfactual augmentation(Kaushik 2020 ICLR、Gardner contrast sets 2020)

2. 逐 claim 撞车判决表

Claim 最接近的已有工作 重叠程度 我们仍站得住的 defensible delta
C1 准确率高估稳定性 + accuracy-drop × cosine-rotation 矩阵 across shift×size Liang 2025《LLM Knowledge is Brittle》(paraphrase/domain/length 逐字一致);Dies 2025(方向旋转 under rephrase);2505.21399(Pythia ladder × 扰动) **高(crowded)**。"现象"已被占;Liang 2025 连三类 shift 都一致 不能作主贡献。唯一 delta:把 accuracy-drop 与 cosine-rotation 解耦 成 shift-type × model-size 双指标二维矩阵,且跨多概念(非仅 truth);Liang/Dies 都只做 truth 单概念、未做 size×shift 完整矩阵化、未把 rotation 与 drop 解耦量化
C2 免标注 forward-pass 双分量 PSS(dispersion ⊕ augmentation-consistency)训练前 a priori 预测 OOD 迁移 dispersion 分量→RAPTOR(2602.00158);aug-consistency 分量→Probing the Probes(2511.04312);a priori 定位→SIP(2511.16288)、Fragility(2606.11375);命名→Xie 2023 Dispersion Score;Dies 2025(rotation+dispersion 已合做) 高,但有缝。两分量各自被占,a priori 框架被多方占,但**"双分量合成单一分数 + 验证它能 a priori 预测 OOD drop/rotation 的预测-验证闭环"无人完整做** 论文命脉。delta:(a) 双分量合成并做互补性消融(证明 aug-consistency 在 dispersion 之外有增量);(b) 预测目标是 probe 方向几何稳定性(非 RAPTOR 的诊断、非 Xie 的整体 acc、非 SIP 的 ID 可识别性);(c) 完全免新标注/免触碰 OOD 数据(对比 Truthfulness Spectrum 2602.20273 需 OOD reference probe);(d) 建立预测↔验证闭环(用 PSS 排序 C1 矩阵里的真实 drop)
C3 mass-mean vs LogReg vs MLP 在 OOD 下相对可迁移性 Marks & Tegmark 2023(mass-mean vs LogReg vs CCS,结论 mass-mean 更稳) 高。核心结论已发表 单独看几乎是复现。delta 只剩:加入 MLP 第三方;用 label-preserving 输入偏移(非换数据集)做 OOD;跨 size ladder;并把比较结果绑定到 PSS 预测。建议降格为支撑性发现,不作并列主贡献
C4 model size ladder 对探针 OOD 稳定性影响 2505.21399(Pythia ladder × 扰动);2601.06599、2604.13386(方向一致性/acc 随 size);Pythia suite 本身 中-高。"越大越一致/越准"已被多篇占;甚至有"越大越脆"反例(Pressure-Testing Deception 2605.27958) 单独不足以成贡献。仅作 C1/C2 的交叉维度。可挖的 delta:size 对 PSS 预测有效性 的影响,及是否复现/反驳"越大越脆"
C5 本地 DeBERTa-MNLI 做 label-fidelity 审计保证 shift label-preserving NLI overgenerate-and-filter / roundtrip consistency(Falsesum 2022、DISCO 2023);Kaushik 2020;Gardner 2020 中。"用 NLI 核验增广 label 一致性"是 2022–24 成熟范式 放弃作为新颖性,定位为方法学 sanity check / 可信度保障。delta 仅在"应用到 probe-stability 评测的 shift 构造管线"这一工程实例化,需主动引用过滤文献以示知情

3. 整体 novelty 判决

判决:crowded,但存在一条可辩护的窄缝。

  • C1、C3、C4、C5 单独看均已被不同程度抢占(C1/C3 = high)。
  • C2 的两个分量、a priori 框架、甚至 "dispersion/dispersity" 命名都已分别被占;Dies 2025 已把 rotation + dispersion 合做——这是最危险的单篇。

安全的收窄组合(必须按此重写 contribution statement):

把论文重心从"发现探针不稳 + 比较探针类型"(已被占)收窄到: "一个针对 linear/concept probe 方向几何、完全免新标注、仅 forward-pass 的双分量(dispersion ⊕ augmentation-consistency)合成分数,首次在训练前 a priori 预测探针在 label-preserving 语义偏移(paraphrase/domain/length)下的 OOD 迁移性,并通过 shift-type × model-size 矩阵 + 与 SIP/Fragility/Dispersion-Score/mass-mean 的 head-to-head baseline 对比,证明该分数提供超越单分量与现有几何/谱预测器的增量。"

护城河三要素,缺一即被判 incremental:

  1. 双分量合成 + 互补性消融(无人合做两分量);
  2. a priori 预测 ↔ 验证闭环(用 PSS 预测 C1 矩阵真实 drop;Dies/RAPTOR/SIP 都停在诊断或 ID 判据);
  3. 完全免触碰 OOD 数据/新标注(对比 Truthfulness Spectrum 的 OOD reference probe 需求)。 将 C1 降为"被预测的真值",C3/C4 降为外部效度,C5 降为 sanity check。

4. 必引清单(must-cite,漏引会被直接攻击)

绝对必引(high-threat,逐篇做"我们 vs 他们"切割):

  1. Dies, Maynard, Savcisens & Eliassi-Rad 2025, Representational Stability of Truth in LLMs(2511.19166)——最近邻,rotation+dispersion 已合做。
  2. Gao et al. 2026, RAPTOR: Ridge-Adaptive Logistic Probes(2602.00158)——dispersion 分量 + size ladder。
  3. Lysnæs-Larsen, Eggen & Strümke 2025, Probing the Probes(2511.04312)——augmentation-robustness 分量。
  4. Huang 2025, Spectral Identifiability for Interpretable Probe Geometry(2511.16288)——a priori 探针稳定性判据。
  5. Reblitz-Richardson 2026, When Probing Accuracy Saturates, Fragility Resolves(2606.11375)——forward-pass 崩溃点。
  6. Marks & Tegmark 2023/24, The Geometry of Truth(2310.06824)——mass-mean vs LogReg(C3 基石)。
  7. Xie et al. 2023, Dispersion Score(NeurIPS, 2303.15488)——同名同质 OOD 预测器。
  8. Liang et al. 2025, LLM Knowledge is Brittle(2510.11905)——C1 三类 shift 逐字一致。
  9. Truthfulness Spectrum 2026(2602.20273)——白化方向相似度预测 OOD(C2 预测目标最近邻)。
  10. Chou et al. 2026, Diagnosing Generalization Failures from Geometry Markers(ICLR 2026 / 2603.01879)——ID-only 预测 OOD 范式。

必引背景(定位用): Hewitt & Liang 2019;Belinkov 2022;Kumar/Ravfogel et al. 2022(NeurIPS);Voita & Titov 2020;Azizian et al. 2025(2506.08572);Bürger 2024(2404.18865)/ Bao 2025(2506.00823);LEEP 2020 / LogME 2021;Deng et al. 2023(Confidence & Dispersity);Baek et al. 2024(Agreement-on-the-Line);Zhang 2026 SAE Crystal Ball;Biderman et al. 2023(Pythia)+ 2505.21399;NLI-filter 系列(C5)。

注:所有 2025–2026 编号(2511.x / 2602.x / 2603.x / 2606.x / 2602.20273 / 2605.27958 等)venue 与作者多为"待核实",投稿前必须在 arXiv/OpenReview 逐条复核标题、作者、是否已被 ACML/NeurIPS/ICLR/ACL 接收——prior-art 效力取决于此。

5. 必比 baseline 清单(must-have baselines,不比会被质疑)

A. a priori 探针稳定性 / 可靠性预测器(同定位,直接 head-to-head,核心)

  1. SIP / Spectral Identifiability(eigengap 几何判据)— 必比,否则"首个 a priori 预测器"主张崩塌。
  2. RAPTOR directional stability(K 次 ablation mean |cos|)— 即单独的 dispersion 分量,用作消融对照。
  3. Fragility(临界噪声崩溃点)— forward-pass 稳定性对照。
  4. Augmentation-robustness(Probing the Probes)— 即单独的 augmentation-consistency 分量,用作消融对照。

B. 通用免标注 OOD 性能预测器(证明探针方向几何 ≠ 输出/流形几何) 5. Dispersion Score(Xie 2023)— 同名,必跑作 baseline,否则被判换皮。 6. Confidence & Dispersity(Deng 2023)/ Agreement-on-the-Line(Baek 2024)— 至少跑其一。 7. Geometry Markers(effective manifold dim / utility)— ID-only 几何预测对照。

C. 探针估计子(C3 内部对照) 8. mass-mean / difference-of-means(Marks & Tegmark)— 必含。 9. LogReg 与 MLP 探针 — C3 三方比较的另两方。

D. 方法学对照(C1/C5) 10. control-task / selectivity probe(Hewitt & Liang)— 作为"已知探针诊断"的对照基线,证明 PSS 提供 selectivity 之外的信息。 11. 普通 cosine vs Mahalanobis-白化 cosine(Truthfulness Spectrum)— 方向相似度度量的对照,回应"普通 cosine 不够"的已知结论。

消融(内部 must-have): dispersion-only / augmentation-consistency-only / 双分量合成 三档,证明互补增量;以及"PSS 预测的 OOD drop vs 实际 OOD drop"的相关性/排序能力(Spearman ρ、Kendall τ)作为闭环验证主结果。

一句话结论: 现状是 crowded;唯一安全的护城河是把 C2 收窄成"双分量合成 + a priori 预测↔验证闭环 + 完全免 OOD 标注 + 针对 probe 方向几何",并以 SIP / Fragility / RAPTOR-stability / Dispersion-Score / Augmentation-robustness 五个 baseline 的 head-to-head 增量来支撑;C1 降为被预测真值,C3/C4 降为外部效度,C5 降为 sanity check。关键风险点:Dies 2025(2511.19166)必须拿到全文确认它是否已做"预测 OOD"闭环——若已做,C2 护城河将进一步收窄,需立即二次检索核实。

二、Novelty 红队(最强攻击 + 必需防守)

ACML 苛刻 Reviewer 意见:Reject(Probe Stability Score,PSS)

我已通读定位文档。下面分两档给出我作为对抗性 reviewer 准备的攻击,每条都点名撞车对象/设计漏洞,并配上作者"活下来"所需的最小防守动作。

一、致命级攻击(任一条不解决即建议 Reject)

F1. 与 Dies et al. 2025(2511.19166)的"组合新颖性"被整体抹平

攻击点: 作者的全部卖点是"rotation + dispersion 双视角"。Dies 2025 已经把 representational stability of truth 用 rotation + dispersion 合做了。作者文档自己承认"这是最危险的单篇"。如果 Dies 已经做了"用 ID 几何预测 OOD 行为"的闭环,那 C2 护城河的(1)(2)两要素同时塌掉,PSS 只剩"换了个加权求和的公式 + 多了几个概念",这是教科书级的 incremental。 这撞了什么: 直接撞 Dies 2025 的方法核心,且作者尚未确认对方是否已做预测闭环。 必需防守:

  • 拿到 Dies 2025 全文,做一张逐能力对照表(rotation? dispersion? 二者合成单一分数? a priori 预测 OOD? 免 OOD 数据? 跨多概念? size ladder?),逐格标 Y/N。
  • 必须证明至少一格是"他们 N、我们 Y"且该格是预测闭环或合成分数,而非边角(概念数量、模型数量这类不算)。
  • 在同一 benchmark 上复现 Dies 作为 baseline 并跑输/跑平——若跑不赢,论文死。

F2. "首个 a priori 预测器"主张直接被 SIP / Fragility / Truthfulness Spectrum 证伪

攻击点: 文档同时列了 SIP(2511.16288,部署前 a priori 几何判据)、Fragility(2606.11375,forward-pass 崩溃点)、Truthfulness Spectrum(2602.20273,白化方向相似度预测 OOD AUROC,R²≈0.98)。"训练前/免 OOD 预测探针稳定性"这一 framing 已被至少三方占据。任何"首次"措辞都可被一句话击穿。 这撞了什么: SIP + Fragility + Truthfulness Spectrum,三方夹击 framing 新颖性。 必需防守:

  • 删除一切"first / novel framing"措辞,改为"a label-free composite that empirically outperforms SIP / Fragility / Dispersion-Score on probe-direction OOD prediction"。
  • 三者全部作为 head-to-head baseline 跑数,主结果用 Spearman ρ / Kendall τ 报告 PSS 的增量,且增量需带置信区间/显著性检验(bootstrap)。
  • 特别针对 Truthfulness Spectrum 的 R²≈0.98:若对方已能 R²=0.98 预测 OOD,作者必须说明 PSS 在"完全不碰 OOD reference probe"约束下还能逼近此精度,否则"免 OOD 数据"这条护城河不值钱。

F3. 与 Xie 2023 Dispersion Score 同名同质,涉嫌"换皮"

攻击点: Xie 2023(NeurIPS)已有 label-free + forward-pass + feature dispersion 预测 OOD acc,名字都一样。reviewer 第一反应是"这就是把 Dispersion Score 套到 probe 方向上"。 这撞了什么: Xie 2023,命名与机制双重撞车。 必需防守:

  • 改名,避免 "Dispersion" 作主词根,杜绝第一眼误判。
  • 用实验证明"probe 方向几何 ≠ feature 流形 dispersion":在同一数据上跑 Xie 的 Dispersion Score,展示二者预测目标/相关性显著分离(例如 Dispersion Score 在 paraphrase shift 上失效而 PSS 不失效)。

F4. 预测目标循环论证 / 闭环自证(实验设计漏洞)

攻击点: "用 PSS 预测 C1 矩阵里的真实 drop"——但 C1 矩阵的 shift、概念、size 配置若与构造 PSS / 调权重所用的是同一批数据,则是在训练集上验证,Spearman ρ 没有意义。双分量"合成"必然涉及一个加权/聚合超参,若该超参在评测集上选,闭环就是过拟合。 这撞了什么: 实验设计的数据泄漏 / 无 held-out。 必需防守:

  • 严格 split:权重/聚合超参只在 dev 概念-shift 组合上选,报告结果只在完全 held-out 的概念 × shift-type × size 组合上算。
  • 提供 leave-one-concept-out / leave-one-shift-type-out 交叉验证,证明 PSS 跨概念、跨 shift-type 泛化,而非记忆 C1 矩阵。

F5. C3 几乎是 Marks & Tegmark 2023 的复现

攻击点: "mass-mean vs LogReg 在 OOD 下谁更稳"结论已发表。加一个 MLP、换 label-preserving shift,不足以构成独立贡献。若作者把 C3 列为并列主贡献,reviewer 直接判 partial reproduction。 这撞了什么: Marks & Tegmark 2023。 必需防守: 按文档自己的结论,C3 降格为支撑性发现/外部效度,且只在"PSS 能否预测三类 estimator 谁更稳"这一从属问题下出现,绝不并列。

二、重要级攻击(不致命但累加可压到 Reject)

M1. 互补性消融若不显著,双分量合成失去存在理由

攻击点: PSS 的核心增量主张是"aug-consistency 在 dispersion 之外有增量"。若 dispersion-only 与双分量合成的 ρ 无显著差异,则合成是噱头。 必需防守: 三档消融(dispersion-only / aug-only / 合成)必须报告配对显著性检验 + 效应量,且合成显著优于两个单分量。否则坦诚降级为单分量方法。

M2. C4(size ladder)无独立贡献,且有反例风险

攻击点: "越大越稳/越一致"已被多篇占;且存在"越大越脆"反例(Pressure-Testing Deception 2605.27958)。若作者下"越大越稳"结论而不处理反例,会被打成 cherry-picking。 必需防守: C4 仅作交叉维度;明确测试并讨论"PSS 预测有效性是否随 size 单调",主动引用并复现/反驳反例,不下普适性结论。

M3. 度量选择(普通 cosine)已被已知结论否定

攻击点: Park 2024 LRH 用 cosine 有前提;Truthfulness Spectrum 已表明需 Mahalanobis 白化。用裸 cosine 度量 rotation 会被质疑度量不当。 必需防守: 加入白化 cosine vs 裸 cosine 的消融,说明 PSS 的稳健性不依赖度量取巧。

M4. baseline 覆盖不足即被判"未与最近邻比较"

攻击点: 文档列出的 must-have baseline(SIP / RAPTOR-stability / Fragility / Aug-robustness / Dispersion-Score / mass-mean / Geometry Markers / control-task)若缺任一核心项,reviewer 可直接以"未与显然相关工作比较"拒稿。 必需防守: 至少 A 组四个 a priori 预测器(SIP / RAPTOR-stability / Fragility / Aug-robustness)+ Xie Dispersion Score 全跑;B/C 组至少各跑一个。缺项需在 limitation 明确说明理由。

M5. shift 的 label-preserving 保证仅靠单个 DeBERTa-MNLI,可信度不足

攻击点: C5 用本地 DeBERTa-MNLI 审计 label fidelity。单模型审计、未引 overgenerate-and-filter / roundtrip(Falsesum 2022、DISCO 2023)文献,会被质疑审计本身不可靠且不知情。 必需防守: C5 明确降为 sanity check;主动引用 NLI-filter 系列;报告 MNLI 审计的通过率与人工抽检一致性,证明 shift 确为 label-preserving。

M6. 跨概念泛化样本量与统计功效存疑

攻击点: 若"多概念"只有 3–5 个概念,Spearman ρ 的置信区间会很宽,"跨多概念优于 truth 单概念"的卖点站不住。 必需防守: 概念数足够大(建议 ≥10),报告 ρ 的 bootstrap CI;若概念少,撤回"跨多概念"作为新颖性主张。

M7. prior-art 编号未核实,存在 prior-art 效力风险(双刃)

攻击点: 大量 2025–2026 arXiv 编号"待核实"。reviewer 若发现作者未引用已正式接收的某篇最近邻(如 Dies/RAPTOR 若已中 NeurIPS/ICLR),漏引即攻击点;反之若作者拿"未发表 arXiv"当挡箭牌排除 prior art,也会被驳。 必需防守: 投稿前逐条核实标题/作者/venue/接收状态;对所有 high-threat 篇目无论是否正式发表均做切割讨论,不以"preprint"为由回避。

三、给作者的一句话总结(survival path)

当前状态 crowded,唯一活路: 删掉所有"first/novel framing"措辞,把贡献彻底收窄为"label-free 双分量合成分数 + 严格 held-out 的 a priori 预测↔验证闭环 + 完全免 OOD 数据约束下对 SIP/Fragility/Aug-robustness/Dispersion-Score 五个 baseline 的可显著性检验的增量",并以 F1(Dies 全文对照表跑赢)+ F4(无泄漏 split)+ M1(互补性显著) 三者同时成立为生死线。C1 降为被预测真值,C3/C4 降为外部效度,C5 降为 sanity check。三条生死线缺一,我维持 Reject。

三、原始检索明细(10 角度)

角度: 探针方法学与 control task(linear probing / diagnostic classifiers / selectivity / cont...

  • Hewitt & Liang, 2019 — Designing and Interpreting Probes with Control Tasks (EMNLP 2019) [威胁:medium]
    • 概念上撞 C1 的核心论点(探针准确率会高估表征中真正编码的信息)与 C2/C3 的探针选择哲学。但它用『随机标签控制 + selectivity』这一轴,而非『label-preserving 输入分布偏移 + 方向 cosine 旋转 + dispersion/augmentation-consistency』。是我们必须正面区分的奠基工作,但范式不同。
  • Belinkov, 2022 — Probing Classifiers: Promises, Shortcomings, and Advances (Computational Linguistics (MIT Press), 48(1)) [威胁:low]
    • 背景层面覆盖 C1/C2/C5 所处问题空间(探针可靠性诊断),但不提供我们提议的具体度量(分布偏移下的方向旋转矩阵、免标注稳定性分数)。是定位 novelty 的必引背景,本身不抢占。
  • Pimentel et al., 2020 — Information-Theoretic Probing for Linguistic Structure (ACL 2020) [威胁:low]
    • 与 C1『准确率作为表征质量代理不可靠』同源动机,但走信息论方向,不涉及分布偏移、方向稳定性或免标注预测。背景相关。
  • Marks & Tegmark, 2023/2024 — The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets (COLM 2024(arXiv 2310.06824)) [威胁:high]
    • 直接、强烈撞 C3:mass-mean vs LogReg 在 OOD 下相对可迁移性的系统比较正是该文核心结果之一。C3 若不显著扩展(如加入 MLP、跨 shift type × model size 的系统矩阵、把比较绑定到我们的稳定性分数上)将被认为已被做过。
  • Anonymous / 待核实, 2026 — Pressure-Testing Deception Probes in LLMs: Scaling, Robustness, and the Geometry of Deceptive Representations (arXiv 2605.27958(2026,预印本,待核实正式 venue)) [威胁:high]
    • 高度撞 C1(探针准确率在 label-preserving 风格偏移下崩溃,高估稳定性)与 C4(model size ladder 对探针 OOD 稳定性的影响,且给出反直觉结论)。也部分触及 C3(线性 vs MLP)。区别:它未度量概念方向的 cosine 旋转,未提免标注 a-priori 稳定性分数,且把 augmentation 当作『修复手段』而非我们 C2 中的『预测信号』。这是本角度对 C1+C4 威胁最大的近期工作。
  • 待核实, 2025 — Calibrating LLM Confidence by Probing Perturbed Representation Stability (CCPS) (arXiv 2505.21772(2025,预印本)) [威胁:medium]
    • 撞 C2 的『表征/方向稳定性作为可靠性信号』直觉,且同样是 forward-pass 轻量方案。但关键差异:扰动作用于隐状态(非 label-preserving 输入增广/paraphrase),目标是 per-answer 置信度校准而非『训练前预测探针 OOD 迁移性』,也无 dispersion(重采样方向离散度)分量。相关但目标错位。
  • 待核实, 2025 — Probing the Geometry of Truth: Consistency and Generalization of Truth Directions in LLMs Across Logical Transformations and QA Tasks (ACL Findings 2025(arXiv 2506.00823)) [威胁:medium]
    • 撞 C1 的方向一致性部分:它确实在『变换后概念方向是否保持』这一轴上做了实证。差异:变换是逻辑/任务层面而非 paraphrase/domain/length 的 label-preserving 表层偏移;未给出 accuracy drop × cosine 旋转 的跨 shift×scale 矩阵,也未提免标注稳定性分数。是 C1 方向旋转主张需正面区分的工作。
  • Ravichander et al. / 待核实, 2022 — Probing Classifiers are Unreliable for Concept Removal and Detection (NeurIPS 2022) [威胁:low]
    • 概念上支撑 C1 的批判性前提(探针准确率高估表征中概念的真实存在/稳定性),但聚焦因果性与 concept removal,不涉及分布偏移下的方向稳定性度量或免标注预测分数。背景相关。
  • 待核实, 2026 — Diagnosing Generalization Failures from Representational Geometry Markers (arXiv 2603.01879(2026,预印本)) [威胁:medium]
    • 强烈撞 C2 的方法论框架(免 OOD 标注、用 ID 侧量化指标 a-priori 预测 OOD 迁移性)。差异:用 manifold 几何指标而非探针方向 dispersion/augmentation-consistency,且为视觉模型、非语言探针、不比较探针类型。是 C2『免标注预测 OOD 迁移性』这一卖点的概念竞品,需说明我们的双分量方向指标与之正交。
  • 待核实, 2022 — Predicting Fine-Tuning Performance with Probing (EMNLP 2022(arXiv 2210.07352,待核实)) [威胁:low]
    • 与 C2『用探针侧信号预测下游/迁移表现』同向,但预测目标是 fine-tuning 性能而非探针自身 OOD 稳定性,且不涉及方向 dispersion/augmentation-consistency。弱相关。

评估: 已联网检索。本角度的结论:你们的五条贡献没有被任何单篇完整抢占,但每条都已被『部分前置』,且有两个高危撞车点。

最大撞车点(高危):

  1. C3(mass-mean vs LogReg 的 OOD 相对可迁移性比较)几乎被 Marks & Tegmark, The Geometry of Truth(COLM 2024)直接做过——他们正是提出 mass-mean 并系统对比其与 LogReg/CCS 在跨数据集 transfer 下更鲁棒。C3 单独看 novelty 很弱,必须靠『加入 MLP 第三方、跨 shift type × model size 的系统矩阵、并把比较结果绑定到你们的稳定性分数』来续命,否则会被审稿人直接判定重复。
  2. C1+C4 的核心实证(label-preserving 风格偏移下探针准确率崩塃、且随 model size 出现非单调/逆向 scaling、augmentation 可缓解)与 2026 的 Pressure-Testing Deception Probes 高度重叠。你们相对它的唯一硬区分是『概念方向 cosine 旋转矩阵』这一几何量(它只看 AUROC 崩塃,不看方向旋转)以及把 augmentation 当预测信号而非修复手段——这两点必须在论文里前置强调,否则 C1/C4 会被认为是该文的子集。

仍然空白(你们真正的护城河):

  • C2 的具体形式——『dispersion(同分布 K 次重采样方向离散度)+ augmentation-consistency(label-preserving 增广后方向一致性)』的双分量、免新标注、纯 forward-pass、用于训练前 a-priori 预测探针 OOD 迁移性——在本角度未找到完全对应工作。CCPS(隐状态扰动做置信度校准)与 Geometry Markers(ID 几何预测 OOD,视觉域)分别占了『稳定性信号』和『免标注 a-priori 预测』两个相邻 niche,但都不是『探针方向的重采样离散度 + 增广一致性』。这是你们最干净的 novelty,应作为主卖点突出,并显式与这两篇划界。
  • C5(用本地 DeBERTa-MNLI 做 label-fidelity 审计来保证 shift 是 label-preserving)在本角度未见任何探针文献采用;这是方法学增量(虽不足以单独成贡献),建议作为支撑 C1 严谨性的卖点而非独立 claim。

行动建议:把论文 framing 从『我们发现探针不稳定 + 我们比较探针类型』(已被占)转向『我们提出免标注、训练前可计算的方向级稳定性分数,并证明它能预测 OOD 迁移』(C2 为核心),把 C1/C3/C4 降格为支撑性诊断证据,并在 related work 中点名 Marks & Tegmark、Pressure-Testing Deception Probes、CCPS、Geometry Markers 做正面切割。注意:多篇 2026 预印本(2605.27958、2603.01879、ICLR 2026 kHVzEjThKE)venue 与作者仍待核实,投稿前请二次确认。

角度: 探针到底测了什么、探针可靠性争议(amnesic probing / information-theoretic probing / probe vs mode...

  • Elazar, Ravfogel, Jacovi & Goldberg, 2021 (arXiv 2020) — Amnesic Probing: Behavioral Explanation with Amnesic Counterfactuals (TACL 2021) [威胁:medium]
    • 与 C1 的动机层强重叠:都在质疑探针准确率高估了特征的真实地位。但 Amnesic Probing 质疑的是'被模型使用与否(causal usage)',而非'在 label-preserving 输入分布偏移下是否稳定(robustness/OOD)';它需要反事实擦除而非纯 forward-pass,也不给 a priori 预测分数。
  • Voita & Titov, 2020 — Information-Theoretic Probing with Minimum Description Length (EMNLP 2020) [威胁:medium]
    • 与 C1+C2 概念层重叠:同样主张'accuracy 不足以衡量特征被编码的可靠程度',并提出替代度量。但 MDL 衡量的是同分布下的编码努力/压缩,不涉及 paraphrase/domain/length 偏移,也不预测 OOD 迁移、不含方向稳定性或增广一致性。是你度量动机的最重要先验之一,需在 related work 明确区分。
  • Hewitt & Liang, 2019 — Designing and Interpreting Probes with Control Tasks (EMNLP 2019) [威胁:medium]
    • 与 C1 动机重叠(accuracy 会高估)且与 C3 间接相关(线性 vs 非线性探针的可信度差异,呼应你 mass-mean/LogReg/MLP 比较)。但 selectivity 衡量的是'探针自身容量混淆',不是输入分布偏移下的稳定性,也无方向旋转、无 OOD 预测分数。
  • Belinkov, 2022 — Probing Classifiers: Promises, Shortcomings, and Advances (Computational Linguistics (MIT Press) 2022) [威胁:medium]
    • 与 C1 高度重叠在'问题陈述'层面——你要量化的'accuracy 高估特征稳定性'正是该综述列出的核心缺陷之一。威胁不在于它做了你的实验,而在于审稿人会用它说'这个问题早已是共识'。需要你用具体的偏移矩阵+方向旋转把'已知缺陷'落成'可量化诊断'来体现增量。
  • Marks & Tegmark, 2023/2024 — The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets (COLM 2024 (arXiv 2310.06824)) [威胁:high]
    • 对 C3 是最直接威胁:'mass-mean vs LogReg 的相对(跨分布)可迁移性比较'核心结论它已给出,且方法上引入了 difference-of-means 探针的现代用法。你的 C3 若仅复述'mass-mean 更可迁移'会被判为已知。差异点:它聚焦 truth 这一概念、用跨数据集泛化而非系统化的 paraphrase/domain/length label-preserving 偏移矩阵,也无 MLP、无 model-size ladder、无 a priori 稳定性分数。
  • Gao, Zhu, Zeng, Zhao, Wang, Ruan & Ding, 2026 — RAPTOR: Ridge-Adaptive Logistic Probes (arXiv 2602.00158 (2026, venue 待核实)) [威胁:high]
    • 对 C2 的 dispersion 分量是最近、最危险的撞车:它已经把'对训练数据扰动下的方向 cosine 稳定性'作为正式评测指标。区别在于 RAPTOR 把方向稳定性当作改进探针训练的目标/评估,而非'训练前、免标注、用来预测 OOD 迁移的双分量预测分数',也不含 augmentation-consistency 分量、不做 paraphrase/domain 偏移迁移、不做 size ladder。务必引用并清楚切割:你是 a priori 预测器,它是 robustness 评估+方法改进。
  • Boxo, Neelappa & Raval, 2026 — Linear Probes Rely on Textual Evidence (leakage mitigation in LLM probes) (ICML 2026 (arXiv 2509.21344, venue 待核实)) [威胁:medium]
    • 与 C1 动机强重叠的'近作':直接给出'探针准确率虚高、表征不稳健'的量化证据,会被用来质疑你 C1 的新颖性。但它走的是 token-level 证据泄漏路径,不是 label-preserving 输入分布偏移,也无方向旋转、无 a priori 分数、无 mass-mean/size 比较。是必须 cite 并区分的同期工作。
  • Anonymous/待核实, 2025-2026 — No Answer Needed: Predicting LLM Answer Accuracy from Question-Only Linear Probes (OpenReview (待核实)) [威胁:low]
    • 与 C2 的'仅 forward-pass、事前预测'范式精神相近,可能被审稿人援引为'事前探针预测'已有先例。但它预测的是答案正确性,不是探针自身的 OOD 可迁移性,目标对象完全不同,无方向稳定性/增广一致性。
  • Ravichander, Belinkov & Hovy, 2021 — Probing the Probing Paradigm: Does Probing Accuracy Entail Task Relevance? (EACL 2021) [威胁:medium]
    • 与 C1 动机重叠:再次证明 accuracy 会高估特征的真实地位。但关注'任务相关性'而非分布偏移稳健性,无方向旋转、无预测分数、无 C3/C4。属背景到中等的反例支撑文献。

评估: 已联网检索(WebSearch/WebFetch 可用)。本角度结论如下。

最大撞车点(按风险排序):

  1. C3 撞 Marks & Tegmark《The Geometry of Truth》(COLM 2024, high)。'mass-mean(difference-of-means)vs LogReg 在跨分布下更可迁移'这一核心结论已被发表,且 mass-mean 探针的现代用法即源于此。C3 不能停在'mass-mean 更稳';必须靠'系统化 shift type × model size 矩阵 + 加入 MLP + label-fidelity 审计'来制造增量,否则会被直接判为已知。
  2. C2 的 dispersion 分量撞 RAPTOR(arXiv 2026, high)。'对训练数据扰动的方向 cosine 稳定性'已被它作为正式 directional-robustness 指标。你的护城河必须落在 RAPTOR 没有的三点:(a) 这是训练前、免新标注的 a priori 预测器,目标是预测 OOD 迁移性而非改进探针;(b) 双分量,额外含 augmentation-consistency;(c) 跨 paraphrase/domain/length 偏移与 size ladder 的预测有效性验证。强烈建议把'我们的分数能 a priori 预测 C1 矩阵里的 accuracy drop / 方向旋转'做成核心实验,这是与所有先验最干净的切割。
  3. C1 的'问题本身'被大量经典+近作占据(Belinkov 综述、Hewitt&Liang、Ravichander、Voita&Titov,以及 2026 的 leakage 论文)。'探针准确率高估特征可靠性'已是领域共识级命题,审稿人极可能说'not new'。C1 的新颖性只能来自'量化方式'——即把已知缺陷落成 accuracy drop + 概念方向 cosine 旋转 的双轴矩阵,且明确限定在 label-preserving 输入分布偏移(而非 token 泄漏、控制任务或因果擦除)。务必在 related work 用一句话各自切割上述四篇。

仍有空白(你的真实可辩护新颖性):

  • 没有任何一篇把'同分布重采样方向离散度 + label-preserving 增广方向一致性'组合成单一、免标注、训练前的探针稳定性预测分数,并验证其对 OOD 迁移的预测力。这是 C2 最干净的空白,应作为论文第一卖点。
  • 没有人用'概念方向 cosine 旋转'作为跨 paraphrase/domain/length 偏移的稳定性轴(现有方向-cosine 工作都在'数据扰动/seed'维度,如 RAPTOR;偏移维度是空白)。C1 的方向旋转矩阵因此有真增量。
  • C4(model-size ladder 对探针 OOD 稳定性的影响)在本角度文献里基本无人系统做(本角度多为单模型/单规模),是相对安全的贡献,但单独不足以撑论文。
  • C5(本地 NLI/DeBERTa-MNLI 做 label-fidelity 审计以保证 shift 是 label-preserving)在本角度未见对应工作,属方法学卫生措施而非独立新颖点,审稿人不会视为贡献但会因其缺失而质疑 C1 的有效性——保留但别当卖点。

行动建议:把叙事重心从 C1(易被判已知)转到 C2(a priori 免标注预测器)为主轴,用 C1 矩阵作为'被预测的真值'、C3/C4 作为外部效度验

角度: 线性表示假设 / 真值几何 / 概念方向(linear representation hypothesis, geometry of truth, concep...

  • Liang et al. (2025), 作者名待核实 — LLM Knowledge is Brittle: Truthfulness Representations Rely on Superficial Resemblance (arXiv:2510.11905(2025-10);会议归属待核实) [威胁:high]
    • C1 几乎完全重叠(accuracy drop + 概念方向 cosine 旋转 across shift type,且 shift 类型 paraphrase/domain/length 与我们逐字一致);很可能也涉及 C4(多模型/规模)。未见 C2(无 forward-pass 先验预测分数)、未明确 C5(NLI 审计)、C3 仅部分(用了多种探针但未见系统的 mass-mean/LogReg/MLP 可迁移性对比)。
  • Bao, Zhang et al. (2025) — Probing the Geometry of Truth: Consistency and Generalization of Truth Directions in LLMs Across Logical Transformations and Question Answering Tasks (Findings of ACL 2025(arXiv:2506.00823);有公开代码) [威胁:high]
    • C1 中等重叠(跨变换的方向一致性/泛化,但其变换是逻辑变换/QA,而非我们的 paraphrase/domain/length 分布偏移);C4 重叠(模型能力/规模越强方向越一致);C3 部分(讨论简单 vs 复杂探针是否必要)。未涉及 C2 的先验预测分数,未涉及 C5。
  • 作者待核实 (2026) — How Context Shapes Truth: Geometric Transformations of Statement-level Truth Representations in LLMs (arXiv:2601.06599(2026-01)) [威胁:high]
    • C1 中-高重叠(方向旋转角 θ 作为核心度量,与我们的概念方向 cosine 旋转同构,只是触发因素是上下文而非 paraphrase/domain/length);C4 高度重叠(明确给出 model size × 方向变化的结论)。未涉及 C2 的免标注先验稳定性分数,未涉及 C3、C5。
  • Marks & Tegmark (2023/2024) — The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets (arXiv:2310.06824;COLM 2024(待核实)) [威胁:high]
    • C3 高度重叠(正是 mass-mean vs LogReg vs CCS 的可迁移性/鲁棒性比较的来源,且已声称 mass-mean 对分布偏移更鲁棒——我们的 C3 很大程度是在复刻+扩展);C4 部分(规模才出现线性结构);C1 背景(transfer 实验)。未涉及 C2、C5。
  • Aithal, Kashyap et al. (2021) — Robustness to Augmentations as a Generalization Metric (arXiv:2101.06459(NeurIPS 2020 Predicting Generalization in Deep Learning 竞赛亚军方案)) [威胁:medium]
    • C2 中等重叠:augmentation-consistency 作为 label-free 泛化预测量的核心思想已被提出(但对象是分类网络整体泛化,而非探针方向在 OOD 的可迁移性,也无 dispersion 分量、无 LLM 概念方向语境)。是我们 C2「双分量分数」中 augmentation-consistency 一支的最直接先验思想。
  • 作者待核实 (2024) — Truth-value judgment in language models: 'truth directions' are context sensitive (arXiv:2404.18865(2024)) [威胁:medium]
    • C1 中等(为「探针/方向不稳定」提供早期证据,但未做 accuracy drop × 方向旋转的系统矩阵,也无 paraphrase/domain/length 三类偏移设计);C4 弱相关。未涉及 C2/C3/C5。
  • 作者待核实 (2025) — Are Sparse Autoencoders Useful? / SAE probes vs logistic regression baselines (arXiv:2502.16681(2025)) [威胁:medium]
    • C3 中等(探针方法系统比较的范式与基线选择,虽未含 mass-mean/MLP 的 OOD 专门对比);C1 弱相关。未涉及 C2、C4(规模)、C5。
  • 作者待核实 (2025) — The Impact of Off-Policy Training Data on Probe Generalisation (arXiv:2511.17408(2025)) [威胁:low]
    • C1 弱-中(探针泛化受分布影响,但聚焦训练数据 on/off-policy 而非输入端 label-preserving 偏移,也无方向旋转度量);未涉及 C2/C3/C4/C5。
  • Park, Choe & Veitch (2023/2024) — The Linear Representation Hypothesis and the Geometry of Large Language Models (ICML 2024(arXiv:2311.03658)) [威胁:low]
    • 全为背景(C1 方向 cosine 度量的理论依据);不直接做探针稳定性/OOD 实验。无 C2-C5 重叠。

评估: 已联网检索(WebSearch + WebFetch arXiv 全文)。诚实结论:本角度下我们的 novelty 处于高度拥挤区,C1、C3、C4 基本已被抢占,真正未被占领的护城河只剩 C2 的「双分量、免标注、训练前先验预测」整体打包,以及 C5 的方法学细节。

最大撞车点(逐条):

  • C1 = 最危险。arXiv:2510.11905「LLM Knowledge is Brittle」几乎逐字做了我们 C1 要做的事:in-distribution 探针准确率高估真值特征鲁棒性,且在 paraphrase/domain/length(与我们三类偏移完全一致)下度量 accuracy drop + 概念方向 cosine 漂移。再叠加 2601.06599 把「方向旋转角 θ × model size」这条结论也做了。我们不能再把 C1 当作主贡献,最多作为复现+扩展,且必须显式区分于这两篇(例如:我们是 shift-type × model-size 的完整矩阵化、并把方向旋转与 accuracy drop 解耦量化)。务必注意 2510.11905 的「superficial resemblance」叙事会被审稿人直接拿来质疑 C1 的新颖性。
  • C3 = 已被 Marks & Tegmark(2310.06824)定调:mass-mean vs LogReg vs CCS、且已声称 mass-mean「对分布偏移更鲁棒、更因果」。我们的 C3 若只比 mass-mean/LogReg/MLP 的 OOD 可迁移性,基本是复刻;增量必须落在 MLP(非线性)这一未被充分比较的轴上,或与 C2 分数的相关性验证上,否则审稿人会判为已知结论。
  • C4 = 2506.00823 与 2601.06599 都已给出「模型越大/越强→方向越一致/靠方向变化区分」的规模结论;C4 单独不构成贡献,只能作为辅助维度。
  • C5(NLI label-fidelity 审计)= 检索未见同角度有人明确用本地 NLI(DeBERTa-MNLI)审计 shift 的 label-preserving 性;但这是方法学卫生措施,难以单独支撑 novelty。

仍留白(可主打的差异化):

  1. C2 的整体打包是目前唯一未见先例的核心。检索到的最接近先验是 2101.06459(augmentation-robustness 作为 label-free 泛化度量),但那是「分类网络整体泛化」非「探针方向 OOD 可迁移性」,且没有 dispersion(同分布 K 次重采样方向离散度)这一分量、没有 LLM 概念方向语境。建议把论文重心明确转向 C2:强调它是 a priori、forward-pass-only、双分量、专门预测探针方向 OOD 迁移的分数,并实证它与 C1 观测到的 accuracy drop / 方向旋转高度相关(把 C1/C3/C4 降级为支撑 C2 的证据,而非并列贡献)。
  2. 必须补充与 2101.06459 的区分与(若可能)对照实验,否则 C2 的 augmentation-consistency 分量会被指为已知思想的迁移。
  3. dispersion 分量(重采样方向离散度作为稳定性预测量)在本角度检索中未见直接对应,是 C2 内最干净的新点,建议作为卖点之一并单独消融。

未能确认的点(建议进一步精读全文):2510.11905 是否做了 mass-mean/LogReg/MLP 系统对比(WebFetch 显示

角度: 概念擦除与方向估计:INLP / RLACE / LEACE / mass-mean(difference-of-means)/ steering vector...

  • Marks & Tegmark, 2023 — The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets (COLM 2024 (arXiv:2310.06824)) [威胁:high]
    • C3 直接重叠(mass-mean vs LogReg 的相对可迁移性正是它的核心卖点之一);C1 部分重叠(展示了探针跨数据集迁移 accuracy 的变化)。但它把 mass-mean 当作'更好'来推销,没有把跨分布 accuracy 高估当成系统性诊断问题,也无方向旋转矩阵、无 a priori 预测分数、无 NLI 审计。
  • Anonymous/Hazratian & Zia (待核实作者), 2026 — The Truthfulness Spectrum Hypothesis (arXiv:2602.20273(2026-02,预印本,待核实正式 venue)) [威胁:high]
    • C2 最强威胁:它正面解决了'预测探针 OOD 迁移性',且明确指出普通 cosine 不够、需白化——这会侵蚀你 C2 中'方向一致性/旋转'分量的新意。C4 也重叠(model size ladder)。关键差异(你的护城河):它的预测器需要在 OOD 数据上训练一个 reference probe 才能算 MCS,不是 forward-pass-only / a priori / 免新标注;它评估的是真值这一单一概念域、用 LogReg、无 paraphrase/length/domain 的 label-preserving shift 框架、无 NLI 审计、无 dispersion(K 次同分布重采样)分量。
  • Ravfogel, Goldberg et al. (待核实完整作者), 2022 — Probing Classifiers are Unreliable for Concept Removal and Detection (NeurIPS 2022 (arXiv:2207.04153)) [威胁:medium]
    • C1 的基石性背景:它确立了'探针准确率可被虚假相关误导、高估概念存在'这一核心命题。你 C1 的增量在于把它具体化为 label-preserving 分布偏移(paraphrase/domain/length)下的 accuracy drop × cosine 旋转矩阵 × model size,而该文不做分布偏移矩阵、不做方向旋转量化、不做预测分数。属于必须正面区分并引用的 prior art。
  • Tan, Chanin et al. (待核实完整作者), 2024 — Analysing the Generalisation and Reliability of Steering Vectors (NeurIPS 2024 (arXiv:2407.12404)) [威胁:medium]
    • C1/C3 中等重叠:steering vector = mass-mean 方向,该文已展示这类方向对输入改动的脆性(与你'稳定性被高估'同源),并触及可控性可被某些信号预测。差异:它面向 steering 干预效果(behavioural)而非探针分类 accuracy/方向旋转矩阵;无 a priori forward-pass 双分量分数;无 NLI label-fidelity 框架;模型规模非主轴。
  • (待核实作者), 2025 — Understanding (Un)Reliability of Steering Vectors in Language Models (arXiv:2505.22637(2025,预印本,待核实 venue)) [威胁:medium]
    • C2 中高威胁:它的'cosine 一致性预测有效性'+ d' 可分性指标,在思想上非常接近你 C2 的两个分量(方向一致性 + 离散度/可分性),且都是从激活几何 a priori 推断。差异:它针对 steering 有效性而非探针 OOD accuracy;无 dispersion(K 次同分布重采样)正式定义;无 paraphrase/domain/length 的 label-preserving shift 协议;无 NLI 审计;无 mass-mean/LogReg/MLP 三者系统比较;无 model size ladder。
  • Méloux, Portet & Peyrard, 2025 — Mechanistic Interpretability as Statistical Estimation: A Variance Analysis (arXiv:2510.00845(2025,预印本,待核实 venue)) [威胁:medium]
    • C2 dispersion 分量的概念前身:'用 K 次重采样的方向离散度衡量探针稳定性'这一核心机制与你高度同构。差异(待全文确认):它把 dispersion 当作'可信度/可复现性'诊断,未必把它接到'a priori 预测 OOD 迁移 accuracy'这一具体目标上,且未必含 augmentation-consistency 第二分量、label-preserving shift 协议与 NLI 审计。建议优先精读全文判定是否需降为护城河外或升为 high。
  • Azizian, Kirchhof, Ndiaye, Bethune, Klein, Ablin, Cuturi, 2025 — The Geometries of Truth Are Orthogonal Across Tasks (arXiv:2506.08572(2025,预印本,待核实 venue)) [威胁:medium]
    • C1/C3 重叠:它正是'方向旋转/正交 ↔ accuracy 掉落'的量化,与你 C1 矩阵中'cosine 旋转'一列同源,并涉及多探针类型。差异:它跨任务(task)而非你强调的 label-preserving 同任务输入分布偏移(paraphrase/domain/length);无 forward-pass a priori 预测分数;无 NLI 审计;无 model size ladder 为主轴。
  • Ravfogel, Twiton, Goldberg, Cotterell (待核实), 2022 — Linear Adversarial Concept Erasure (RLACE) (ICML 2022 (arXiv:2201.12091)) [威胁:low]
    • 背景相关:为你'方向估计本身不稳定'提供方法学锚点(RLACE 优化不稳),但它不研究 label-preserving 分布偏移下探针 accuracy 高估,不提预测分数,不做 paraphrase/NLI。属应引用的方向估计可靠性脉络,但不构成 novelty 撞车。
  • Belrose, Schneider-Joseph, Ravfogel, Cotterell, Raff, Biderman, 2023 — LEACE: Perfect Linear Concept Erasure in Closed Form (NeurIPS 2023 (arXiv:2306.03819)) [威胁:low]
    • 背景相关:concept erasure 角度的 SOTA 锚点,但聚焦'擦除得多干净'而非'探针方向在 label-preserving 偏移下是否稳定/可迁移',与 C1–C5 无直接方法撞车。
  • Ravfogel, Elazar, Goldberg, Cotterell (待核实), 2020 — Null It Out: Guarding Protected Attributes by Iterative Nullspace Projection (INLP) (ACL 2020 (arXiv:2004.07667)) [威胁:low]
    • 背景相关:与 RLACE 一道支撑'线性方向估计本身脆弱'的论点,但不涉及分布偏移下的探针 accuracy 高估、预测分数、paraphrase/NLI。

评估: 已联网检索(WebSearch/WebFetch)。重要可靠性提示:WebFetch 的小模型摘要出现过明显的"附和我的检查清单全中"幻觉——我已对每篇下载 PDF 抽样核验,确认 arXiv:2602.03951(TorRicc)其实是 CIFAR 视觉模型 + 谱复杂度/Ricci 曲率做无监督 checkpoint 选择,与本角度几乎无关(故未列入,顶多算 label-free OOD 预测哲学的远亲);2510.00845 与 2602.20273 的"全中"部分也按怀疑态度下调或标注待核实。

最大撞车点(按威胁排序):

  1. C2(a priori 预测探针 OOD 迁移性)是你被抢占风险最高的贡献。arXiv:2602.20273(Truthfulness Spectrum, 2026-02)已用 Mahalanobis-白化后的方向相似度近完美预测 OOD AUROC(R²≈0.98),并明确说普通 cosine 不够——这几乎正面命中你"用方向一致性预测迁移"的卖点,且跨 model size。你唯一且关键的护城河是:它的预测器需要在 OOD 数据上额外训练 reference probe(需 OOD 标注),而你主张 forward-pass-only / 免新标注 / 训练前 a priori,且含 dispersion(同分布 K 次重采样)这一不需要任何 shift 数据的分量。务必在论文里把"是否需要触碰目标分布/新标注"作为核心区分轴写死,并直接对比 MCS。
  2. C3(mass-mean vs LogReg vs MLP 的 OOD 相对可迁移性)已被 Marks & Tegmark(2023)实质性占据 mass-mean vs LogReg 这一半;你的增量只剩"加入 MLP + 在系统化 label-preserving shift 矩阵下比较"。建议把 C3 从"比较"重新定位为"在你的 shift × size 矩阵框架内的受控复现+扩展",否则单独作为贡献偏弱。
  3. C1(accuracy 高估 + 方向旋转矩阵)在'探针不可靠/会高估'(NeurIPS'22)与'方向跨任务正交 ↔ 迁移失败'(2506.08572)之间被两头夹。但没有一篇把它组织成 shift type(paraphrase/domain/length)× model size 的 accuracy-drop × cosine-rotation 双矩阵,这个具体形态仍可主张为新颖呈现。
  4. C2 的 dispersion 分量思想已有前身(2510.00845 把方向重采样离散度当可靠性指标;2505.22637 用激活差 cosine 一致性 + d' 预测 steering 有效性)。"双分量(dispersion + augmentation-consistency)合成一个分数、专门用于训练前预测探针 OOD"这个组合目前未见完全重合者,是你最干净的立足点。

仍存的空白(= 你可主张的真正 novelty):

  • forward-pass-only / 免任何 OOD 数据与新标注 的 a priori 预测(vs 2602.20273 需 OOD reference probe);
  • dispersion + augmentation-consistency 双分量的显式合成与互补性消融;
  • label-preserving 的 paraphrase/domain/length shift 受控协议,尤其 C5

角度: 探针在分布偏移/OOD 下的泛化与失效(probing under distribution shift; robustness of probing clas...

  • Xie, Wei, Feng, Cao, An (2023) — On the Importance of Feature Separability in Predicting Out-Of-Distribution Error (Dispersion Score) (NeurIPS 2023(arXiv:2303.15488,待核实最终录用会议)) [威胁:high]
    • 对 C2 威胁最大:与我们 PSS 的第一个分量(dispersion/方向离散度)在名称、机制(feature dispersion)、目标(免标注+仅前向预测 OOD 性能)上几乎正面撞车。差异:他们用于一般图像分类器的整体精度估计,不是 concept-direction/线性探针,不含 augmentation-consistency 第二分量,也不做 a priori(他们是在给定 OOD 测试集上估精度,我们是训练前预测探针迁移性)。
  • Levinstein & Herrmann / Bürger 等 (2024)（'truth directions are context sensitive'） — Truth-value judgment in language models: 'truth directions' are context sensitive (arXiv:2404.18865(待核实正式 venue)) [威胁:high]
    • 对 C1 威胁高:正是'探针准确率高估了概念方向稳定性、在 label-preserving 上下文/改述偏移下方向漂移'这一核心观察。差异:聚焦真值方向单一概念、未给出 accuracy-drop × direction-rotation 跨 shift×模型规模 的系统矩阵,也未提出预测性 score(不碰 C2)。
  • Azizian, Kirchhof, Ndiaye, Bethune, Klein, Ablin, Cuturi (2025) — The Geometries of Truth Are Orthogonal Across Tasks (arXiv:2506.08572(待核实)) [威胁:high]
    • 对 C1/C3 中等偏高:用方向几何(正交=cosine 旋转)量化探针跨分布不可迁移,与 C1 的'方向旋转'指标同源。差异:跨任务而非 label-preserving 输入偏移(paraphrase/domain/length),且无免标注预测 score、无 mass-mean/LogReg/MLP 比较、无规模阶梯。
  • Marks & Tegmark (2023) — The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets (arXiv:2310.06824(后续 COLM/会议版本待核实)) [威胁:high]
    • 对 C3 威胁高:已直接做了 mass-mean vs LogReg 的跨数据集(可视为 OOD)相对迁移性比较,且结论是 difference-of-means 更稳。我们的 C3 若只停在'mass-mean vs LogReg vs MLP 谁更稳'会被认为增量;需靠 MLP 纳入 + 系统化 shift 类型 + 与 PSS 预测对齐来区分。差异:无 MLP,无 paraphrase/length 偏移设计,无预测 score。
  • 多篇 (2025-2026)：'generalization of LLM truth directions on conversational formats'(2505.09807)、'Probing the Geometry of Truth: Consistency and Generalization across Logical Transformations'(2506.00823)、'Testing the Limits of Truth Directions'(2604.03754) — Truth-direction generalization across formats / logical transformations 系列 (arXiv(2025-2026,均待核实)) [威胁:medium]
    • 对 C1/C4 中等:覆盖了 length/format 这类 label-preserving 偏移并量化泛化,与 C1 的 length shift、与 C4 的'结构变化下稳定性'有重叠。差异:仍局限于真值任务,无统一的 accuracy-drop×rotation 矩阵,无免标注 a priori score,规模阶梯不是主轴。
  • Müller 等 / 待核实 (2025) — Intermediate Layer Classifiers for OOD Generalization (ICLR 2025) (ICLR 2025(proceedings.iclr.cc,待核实作者)) [威胁:medium]
    • 对 C1/C4 中等:直接研究线性探针 OOD 泛化、层与规模因素,且量化 accuracy 在 shift 下的保持率。差异:视觉/表征学习设定为主,概念方向旋转、免标注预测 score、NLI label-fidelity 审计均不涉及。
  • Hewitt & Liang (2019) — Designing and Interpreting Probes with Control Tasks (selectivity) (EMNLP 2019) [威胁:low]
    • 对 C1/C2 低-中:是'探针准确率会误导、需要额外诊断量'这一论点的奠基性背景,与我们 PSS 作为'诊断量'同属一脉,但 selectivity 针对记忆/复杂度而非分布偏移稳定性,且非免标注预测 OOD 迁移。
  • Belinkov (2022) — Probing Classifiers: Promises, Shortcomings, and Advances (Computational Linguistics 48(1)) [威胁:low]
    • 对 C1 低:为我们的动机(探针指标不可尽信)提供权威背景,但不提供任何偏移矩阵、score 或方法比较,属定位/引用价值。
  • Ravichander, Belinkov, Hovy (2021) — Probing the Probing Paradigm: Does Probing Accuracy Entail Task Relevance? (EACL 2021) [威胁:low]
    • 对 C1 低:支撑'准确率高估特征有用性/稳定性'的总论点,但聚焦任务相关性而非分布偏移下的方向稳定性,无 score 提案。

评估: 已联网检索。本角度下你们最大的撞车点有两处,均需在论文中正面处理:

  1. C2(免标注、仅前向的双分量 PSS)与 Xie et al. 2023 的 "Dispersion score" 高度同名同质——同样是 label-free、forward-pass、用 feature dispersion 预测分布偏移下性能。区分点必须明确且可被审稿人一眼看到:(a) 我们是对'线性/概念探针的方向稳定性'而非'整体分类精度'打分;(b) 我们是训练前 a priori 预测探针迁移性,而非在给定 OOD 测试集上估精度;(c) 我们加了第二个正交分量 augmentation-consistency,且需用消融证明它在 dispersion 之外提供增量。否则 C2 会被定性为 Dispersion score 的换皮迁移。建议直接把 Dispersion score 作为 baseline 跑对比。

  2. C1(准确率高估方向稳定性 + accuracy-drop×cosine-rotation 矩阵)的核心现象已被 "truth directions" 系列(Levinstein/Bürger 2024、Azizian et al. 2025 正交性、conversational-format/logical-transformation 系列 2025-2026)在真值方向这一特例上反复证明,包括用方向旋转/正交性量化。你们的真正新意只能落在'系统性矩阵'(shift type × model size × probe type)+ 跨多概念(不止真值)+ 与可预测 score 挂钩,而非'发现方向会漂移'这一已知事实。C3(mass-mean vs LogReg)也已被 Marks & Tegmark 2023 部分做掉,纯比较是增量;靠纳入 MLP、统一 shift 设计、并把比较结果用 PSS 预测出来才有区分度。

仍存在的空白(你们可主打的护城河):没有任何一篇把(i)免标注 a priori 探针稳定性 score、(ii)dispersion+augmentation-consistency 双分量、(iii)label-preserving 偏移的 accuracy-drop×direction-rotation 系统矩阵、(iv)mass-mean/LogReg/MLP 三探针×规模阶梯、(v)本地 NLI(DeBERTa-MNLI)做 shift 的 label-fidelity 审计——五者整合在统一框架里。尤其 C5(NLI 审计保证 shift label-preserving)在本角度文献中几乎无人配套使用,是相对干净的方法学贡献点,但单独 novelty 不足以支撑论文,应作为严谨性卖点而非核心 claim。

诚实结论:C1、C2、C3 单独看都已被相邻工作不同程度抢占(C2 最危险,直接撞 Dispersion score 之名与机制),论文的可辩护新颖性集中在'a priori 预测 + 双分量 + 系统矩阵 + NLI 审计'的整体打包与'方向稳定性视角的 score 化'上,务必在 related work 显式区分上述四篇 high-threat 工作并用实验(Dispersion score、mass-mean 作 baseline)证明增量。

角度: 表示/方向的稳定性与旋转:线性探针方向在 seed/重采样/扰动/分布偏移下的不稳定性与旋转(cosine 漂移)、direction consistency、...

  • Gao, Zhu, Zeng, Zhao, Wang, Ruan, Ding — 2026 — RAPTOR: Ridge-Adaptive Logistic Probes (arXiv:2602.00158 (preprint;投稿目标未知,待核实)) [威胁:high]
    • 与 C2 的 dispersion 分量高度重叠(其 eq.9 几乎就是我们的'同分布重采样方向离散度',只是用 1−|cos| 还是 |cos| 的符号约定差异);与 C4(model size ladder 影响方向稳定性)直接重叠;与 C3 部分重叠(比较不同探针估计子的方向稳定性,但不是 mass-mean/LogReg/MLP 这条具体轴线);与 C1 在动机表述上重叠(accuracy 高估稳定性)。缺口:没有 augmentation-consistency 分量、不做 label-preserving 输入偏移(paraphrase/length/domain)、不构建 accuracy-drop×cosine-rotation 矩阵、不把分数当作训练前 a priori 的 OOD 迁移预测器(它的稳定性是诊断而非预测 OOD)。
  • Lysnæs-Larsen, Eggen, Strümke (NTNU) — 2025 — Probing the Probes: Methods and Metrics for Concept Alignment (arXiv:2511.04312 (待核实是否已被会议接收)) [威胁:high]
    • 与 C2 的 augmentation-consistency 分量高度重叠:同样是'label-preserving 增广后方向一致性、forward-pass-only、归一化到 0–1'的探针质量分数。区别:这是视觉/ResNet50/CAV 场景,增广是图像变换而非文本 paraphrase/length/domain;不含同分布重采样 dispersion 分量;不把两分量合成单一 Probe Stability Score;不预测 OOD 迁移;不比较 mass-mean/LogReg/MLP;不变 model size。
  • Huang (William Hao-Cheng) — 2025 — Spectral Identifiability for Interpretable Probe Geometry (arXiv:2511.16288 (preprint,待核实)) [威胁:high]
    • 与 C2 的核心动机/定位撞车最危险的一篇:同样是'在训练/部署前 a priori 预测探针方向可靠性'的免标注判据。但机制不同——它用 spectral/eigengap 几何而非 dispersion+augmentation 双分量;聚焦 in-distribution 可识别性而非显式预测 OOD/label-preserving shift 迁移;不构建 accuracy-drop×rotation 矩阵;不比较探针族;model size 未系统化。属'同一空白被另一种方法占住',对 C2 的'首个 a priori 探针稳定性预测器'新颖性主张构成实质威胁。
  • Marks & Tegmark — 2023/2024 — The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets (COLM 2024(待核实);arXiv:2310.06824) [威胁:high]
    • 与 C3 直接、强重叠:正是'mass-mean vs LogReg(+CCS)在跨数据集/OOD 下相对可迁移性'的系统比较,且给出 mass-mean 更可迁移的结论——这会削弱 C3 的新颖性,需明确我们相对它的增量(加入 MLP、label-preserving 输入偏移、规模 ladder、以及把可迁移性与稳定性分数挂钩)。与 C4 部分相关(它有 scale 讨论)。不覆盖 C2 的稳定性分数,也不做 paraphrase/length 偏移。
  • Bürger / Levinstein 等(Truth-value judgment)— 2024,及 Probing the Geometry of Truth — 2025 — Truth-value judgment in language models: 'truth directions' are context sensitive (2404.18865);Probing the Geometry of Truth: Consistency and Generalization of Truth Directions across Logical Transformations and QA (2506.00823) (arXiv:2404.18865 / arXiv:2506.00823(会议状态待核实)) [威胁:high]
    • 与 C1 核心现象强重叠:同时记录了'准确率下降'与'方向旋转/近正交'这两件事,正是我们 C1 想系统化的 accuracy-drop + direction-rotation。区别:它们的偏移是逻辑/上下文/否定与跨域,而非我们刻意构造的 label-preserving paraphrase/length/domain 矩阵,也未把它组织成 shift-type × model-size 的二维矩阵,且未提出稳定性分数。仍显著压缩 C1 '系统量化高估'的新颖空间。
  • Kramár, Engels, Wang, Chughtai, Shah, Nanda, Conmy (Google DeepMind)— 2026 — Building Production-Ready Probes for Gemini (arXiv:2601.11516 (cs.LG, preprint)) [威胁:medium]
    • 与 C1 在'准确率高估稳定性 / 输入长度偏移下崩溃'上重叠,且是 length-shift 的高质量证据点。但偏工程/安全部署视角,不量化方向 cosine 旋转、不做 paraphrase/domain 矩阵、不提稳定性分数、不比较探针族、不做规模 ladder。主要威胁 C1 的'长度偏移导致高估'这一子论点的首发性。
  • Ding & Koehn 等(On Model Stability as a Function of Random Seed)— 2019 — On Model Stability as a Function of Random Seed (CoNLL 2019 (aclanthology K19-1087)) [威胁:low]
    • 背景层面支撑 C2 的 dispersion 动机(同条件多次训练方向/性能会漂移),但针对的是任务模型而非线性探针方向、不涉及 cosine 旋转、不预测 OOD、不提稳定性分数。仅作 related work 引用。
  • Ding, Denain & Steinhardt(Grounding Representation Similarity with Statistical Testing);Davari 等(Reliability of CKA, ICLR 2023);Deconfounded CKA — 2021–2023 — Grounding Representation Similarity with Statistical Testing / Reliability of CKA as a Similarity Measure / Deconfounded Representation Similarity (NeurIPS 2021 / ICLR 2023 / 2022(arXiv:2108.01661, 2202.00095 等)) [威胁:low]
    • 方法论背景:为'用相似度/方向一致性衡量表示稳定性'提供工具与告诫,与 C2 用 cosine 度量方向一致性的思路同源。但研究对象是整层表示相似度而非单个探针概念方向、不针对 OOD 探针迁移预测、不涉及 label-preserving 文本偏移。低威胁,但建议引用以表明我们知道相似度度量的可靠性陷阱。
  • Ravichander, Belinkov, Hovy 等(probing 方法论批评线)— 2021–2022 — Probing-Classifier 方法论批评(Probing the Probing / Belinkov 2022 survey 等),及 Probing Classifiers are Unreliable for Concept Removal and Detection (NeurIPS 2022) (NeurIPS 2022 / CL 2022 等(待核实具体条目)) [威胁:medium]
    • 与 C1 的'准确率高估特征稳定性/存在性'动机重叠(高估的是 presence/causal,我们强调的是 across-shift stability),并被 RAPTOR 直接引用为'accuracy≠可靠方向'的依据。属强背景:压缩 C1 '高估'论点的概念新颖性,但未做 shift×size 矩阵、无旋转量化、无稳定性分数。

评估: 已联网检索(WebSearch/WebFetch + 本地读取 RAPTOR PDF),结论可信。

最大撞车点(按威胁排序):

  1. C2 的两个分量已被分别占住,且各自都强。RAPTOR(2602.00158)的 directional-stability 度量(eq.9,K 次 ablation 后方向 mean |cos|)几乎就是我们的 dispersion 分量;"Probing the Probes"(2511.04312)的 Augmentation Robustness(label-preserving 变换、forward-pass-only、0–1)几乎就是我们的 augmentation-consistency 分量。也就是说 C2 的"双分量"里每一个分量单独看都已有人做过,真正可主张的新颖性只剩:(a) 把两者合成单一 Probe Stability Score、(b) 把它定位为训练前 a priori 的 OOD 迁移预测器(而非事后诊断)、(c) 用在文本 LLM 的 paraphrase/length/domain label-preserving 偏移上。

  2. C2 的"a priori 预测探针可靠性"定位本身也已被 Spectral Identifiability(2511.16288)抢占——它同样是免标注、部署前可验证的判据,只是用 eigengap 几何而非我们的双分量。这对"首个 a priori 探针稳定性预测器"的措辞最危险,必须改写主张、并做正面 baseline 对比(我们的分数 vs SIP vs RAPTOR-stability 谁更能预测真实 OOD drop)。

  3. C1 的核心现象(准确率下降 + 方向旋转)在 truth-direction 文献(2404.18865、2506.00823)里已被同时记录(约 25% OOD drop、跨域方向近正交),length 偏移崩溃在 Gemini probes(2601.11516)里也有强证据。C1 仍可主张的是"系统化的 shift-type × model-size 二维矩阵 + 同一概念跨多种 label-preserving 偏移的受控量化",而非"首次发现高估"。

  4. C3 与 Marks & Tegmark(Geometry of Truth)直接撞:mass-mean vs LR(+CCS)的跨数据集可迁移性比较已有,且结论是 mass-mean 更可迁移。我们的增量必须明确为:加入 MLP 探针、用受控 label-preserving 输入偏移而非换数据集、跨规模 ladder、并把可迁移性与我们的稳定性分数关联。

仍存的空白(可成为真正卖点):

  • 没有任何一篇把 dispersion + augmentation-consistency 合成单一分数,并实证证明该分数能在训练前预测 label-preserving OOD 下的 accuracy-drop 与 cosine-rotation(即把稳定性分数当 OOD 迁移的预测器并报告相关性/排序能力)。这是 C2 最干净的立足点。
  • 没有一篇把 (accuracy drop × concept-direction cosine rotation) 组织成 shift-type(paraphrase/domain/length)× model-size 的完整矩阵(C1 的呈现形式仍是空白)。
  • mass-mean vs LogReg vs

角度: 可迁移性的免训练事前预测(transferability estimation: LEEP/LogME/H-score/GBC 及其在 probe 方向上的类比...

  • Nguyen, Hassner, Seeger, Archambeau (2020) — LEEP: A New Measure to Evaluate Transferability of Learned Representations (ICML 2020) [威胁:medium]
    • 与 C2 的方法论范式(免训练 + 仅 forward-pass 预测可迁移性)直接对齐,是 C2 明确自认的类比来源。但目标完全不同:LEEP 预测的是【整模型迁移/微调后准确率】,需要源标签头/伪标签,且不涉及探针方向(direction)的稳定性,更不涉及 label-preserving 分布偏移下的方向旋转。C2 的新意正是把这一范式迁移到 probe 方向几何上并提出 dispersion+augmentation-consistency 两个新分量。
  • You, Liu, Wang, Long (2021) — LogME: Practical Assessment of Pre-trained Models for Transfer Learning (ICML 2021) [威胁:medium]
    • 与 C2 范式同源(免训练打分预测下游可用性),且 LogME 本质就是在特征上做线性证据评估,与 probe 场景天然接近,因此是范式撞车点。差异:LogME 用【目标任务标签】拟合,属于事后/需要目标标注的估计,预测对象是 in-distribution 下游准确率,而非 OOD 下方向稳定性;不做重采样离散度,也不做增广一致性。C2 的『完全免新标注 + 专测 OOD 方向稳定』是区分点。
  • Bao, Li, Huang, et al. (2019) — An Information-Theoretic Approach to Transferability in Task Transfer Learning (H-score) (ICIP 2019) [威胁:low]
    • 与 C2 共享『用特征几何/统计量免训练预测迁移』的思路。但 H-score 仍是任务级、需目标标签的可迁移性度量,与 probe 方向稳定性、label-preserving 输入偏移无关。属于范式背景而非具体抢占。
  • Zhang, Wang, Wang, Chai, Yin, Lin, Wang (2026) — SAE as a Crystal Ball: Interpretable Features Predict Cross-domain Transferability of LLMs without Training (arXiv 2603.02908(预印本,待核实最终去向)) [威胁:high]
    • 这是本角度下时间最近、立意最接近 C2 的工作:同样主张【免训练 + 仅 forward-pass + 训练/微调前 a priori 预测 LLM 跨域(OOD)迁移性】。撞车点在于『事前可迁移性预测』这一核心卖点的 LLM 表征版本已被占。但机制不同——它用 SAE 可解释特征维度的偏移,而非 C2 的『同分布重采样方向离散度 + label-preserving 增广方向一致性』;预测对象是 SFT 后整体迁移,而非线性探针方向几何的 OOD 稳定性。C2 仍有方法差异,但 novelty 表述需明显避让此文。
  • (作者待核实) (2025) — Feature Space Perturbation: A Panacea to Enhanced Transferability Estimation (arXiv 2502.16471(待核实)) [威胁:medium]
    • 与 C2 的第二分量(augmentation-consistency:扰动/增广后方向一致性)在直觉上最接近——都把『对扰动的鲁棒性』当作可迁移性信号。但它扰动的是特征空间用于模型选择评分,不是 label-preserving 输入增广,也不针对 probe 方向的旋转或 OOD 稳定性。是 augmentation-consistency 思想的近邻先例,需在 related work 中正面区分。
  • Kirch, Dower, Skapars, Yannakoudakis, Lubana, Krasheninnikov (2025) — The Impact of Off-Policy Training Data on Probe Generalisation (arXiv 2511.17408(待核实)) [威胁:medium]
    • 与 C1(探针在分布偏移下泛化失败)主题高度相关,也触及『探针 OOD 迁移性』这一对象。但它是【诊断性/因果研究】(探究什么影响泛化),而非提出免训练的 a priori 预测分数,因此不抢 C2 的预测器贡献;对 C1 构成部分主题重叠(探针 OOD 不稳定的现象记录),但没有 C1 的 shift type × model size 矩阵 + 方向 cosine 旋转量化。
  • Lee, Lee, Shin, et al. (2021) — Improving Transferability of Representations via Augmentation-Aware Self-Supervision (AugSelf) (NeurIPS 2021) [威胁:low]
    • 与 C2 augmentation-consistency 分量共享『增广与可迁移性挂钩』的底层假设,提供了『增广不变性≠总是好』的重要注意点(对 C2 增广一致性作为稳定性代理的有效性边界有警示意义)。但它是表征学习方法,不预测 probe 方向稳定性。属背景与潜在 limitation 讨论来源。

评估: 已联网检索(WebSearch/WebFetch 可用)。

【本角度最大撞车点】两层:

  1. 范式层(medium):LEEP/LogME/H-score/GBC 早已确立『免训练、仅前向、用特征统计量事前预测可迁移性』这一完整范式。C2 不能宣称『免标注/免训练事前预测可迁移性』本身为新——必须把 C2 明确定位为『该范式在 linear probe 方向几何 + label-preserving 输入偏移下的 OOD 专用类比』,并强调新的预测量(方向离散度、增广方向一致性)和新的预测目标(方向稳定性而非微调准确率)。

  2. 最近的具体抢占(high):Zhang et al. 2026《SAE as a Crystal Ball》是威胁最大的一篇——它已经在 LLM 表征上主张『免训练、仅 forward-pass、训练前 a priori 预测跨域(OOD)迁移性』,并给出强相关性证据。C2 与它的核心卖点高度撞句。差异点(C2 用 probe 方向的重采样离散度+增广一致性,目标是 probe 方向几何稳定性;该文用 SAE 特征维度偏移,目标是 SFT 整体迁移)是可辩护的,但论文 novelty 句必须显式引用并区分此文,否则审稿人极可能据此判定 incremental。建议把 C2 的卖点收窄为『首个针对 linear probe 方向(direction)在 label-preserving 偏移下 OOD 稳定性的免标注前向预测分数,且双分量分别捕捉 epistemic(重采样离散度)与 invariance(增广一致性)两类不稳定来源』。

【留白/可主张的空白】(a) 现有 transferability estimators 全部预测『迁移后准确率/性能』,无一预测『概念方向的几何稳定性(cosine 旋转)』——C2 的预测目标是真空地带;(b) 没有工作把『同分布 K 次重采样方向离散度』作为 probe 稳定性的事前信号——dispersion 分量看起来确属新;(c) 没有工作把 label-preserving 增广方向一致性 + NLI 标签保真审计(C5)接到 transferability 预测上;(d) 把 mass-mean/LogReg/MLP 探针类型(C3)与 model size(C4)纳入同一可迁移性预测框架,在本角度文献中未见。

【行动建议】Related Work 必须正面引用并区分:LEEP、LogME、H-score(范式),Zhang 2026 SAE Crystal Ball(最近 LLM-OOD 事前预测,重点避让),Feature Space Perturbation 2502.16471(扰动一致性的近邻),Kirch 2025 off-policy probe generalisation(探针 OOD 现象,支撑 C1 但需声明其非预测器)。最大风险是 C2 与 SAE Crystal Ball 的卖点表述撞车,务必收窄措辞。注:部分 arXiv 编号(2603.x/2602.x/2601.x)和作者列表为检索片段所得,投稿前需逐条人工核实标题/作者/venue。

角度: label-preserving 文本增广(back-translation / EDA / contrast sets / counterfactual au...

  • Lysnæs-Larsen, Eggen & Strümke, 2025 — Probing the Probes: Methods and Metrics for Concept Alignment (arXiv preprint (cs.AI), 待核实是否已投会议) [威胁:high]
    • 对 C1 与 C2 构成最直接的概念性撞车:C1 的核心论点'准确率高估特征稳定性'与该文'准确率不可靠'几乎同义;C2 的 augmentation-consistency 分量与其'augmentation robustness'度量同源。差异:该文偏视觉/spatial 概念定位,未做文本 paraphrase/domain/length 的 shift 矩阵,未提出免标注的 a priori OOD 迁移性'预测分数',也未含 dispersion 分量。
  • Kaushik, Hovy & Lipton, 2020 (arXiv 2019) — Learning the Difference that Makes a Difference with Counterfactually-Augmented Data (ICLR 2020) [威胁:medium]
    • 为 C1 提供核心思想基础:分类器对 label-preserving 编辑敏感、依赖虚假特征。但其对象是端到端分类器而非探针的概念方向,且不量化 cosine 旋转、不提稳定性分数,也无 NLI 审计。属强背景威胁而非方法抢占。
  • Gardner et al., 2020 — Evaluating Models Local Decision Boundaries via Contrast Sets (Findings of EMNLP 2020) [威胁:medium]
    • 与 C1 的'准确率高估'叙事高度同构(标准评测 vs 扰动评测的 gap)。差异:面向端到端模型而非探针/概念方向,扰动多为改标签的对比而非纯 label-preserving 分布偏移,无 forward-pass 稳定性分数、无概念旋转度量。
  • Wei & Zou, 2019 — EDA: Easy Data Augmentation Techniques for Boosting Performance on Text Classification Tasks (EMNLP-IJCNLP 2019) [威胁:low]
    • 提供 C2 增广分量与 C5 审计动机的工具与'增广未必真 label-preserving'的证据。本身不涉及探针稳定性或 NLI 审计,属背景。
  • 多篇 (e.g. Falsesum 2022; On-the-fly Denoising 2022; DISCO 2023; A Synthetic Data Approach for NLI 2024) — NLI/entailment 作为增广质量过滤器(overgenerate-and-filter / roundtrip consistency) (ACL/EMNLP/NAACL 系列, 各篇待核实) [威胁:high]
    • 对 C5 构成方法层面的强威胁——'用 NLI 核验 label 是否被保留'已是公认做法,DeBERTa-MNLI 做 fidelity 审计难算新方法,只能算工程实例化。C5 应降级为方法学保障而非核心新颖性主张。
  • 待核实 (检索命中, OOD probing transferability) — 关于 probing 在 distribution shift 下迁移性的研究(binary vs multiclass probe OOD F1 显著下降) (待核实) [威胁:medium]
    • 直接触及 C1 的实证核心(探针 OOD 掉点)并部分触及 C3(探针类型对比)。需进一步核实该文是否已给出按 shift type × model size 的矩阵;若有则 C1/C3 威胁升至 high。当前证据为 medium。
  • Sen et al. / Huang et al. 等, 2023 (待核实) — Counterfactually-Augmented SNLI Training Data Does Not Yield Better Generalization (openreview / EMNLP 系列, 待核实) [威胁:low]
    • 与 C1/C5 相关:佐证'增广的 label 质量与稳定性需被审计'的动机,但不提出探针稳定性分数,属支持性背景。

评估: 未联网核验全部 venue 的部分以"待核实"标注;以下基于本轮真实检索(WebSearch)结果与既有知识。

最大撞车点(按威胁排序):

  1. C5 基本已被抢占。"用 NLI/entailment 模型核验增广/paraphrase 是否 label-preserving、不一致就过滤"是 2022–2024 的成熟范式(overgenerate-and-filter、roundtrip consistency、DeBERTa-MNLI 判同义)。把它作为核心新颖性会被审稿人直接驳回。建议把 C5 明确定位为"方法学保障/sanity check",而非贡献点,并主动引用这些过滤工作以示知情。

  2. C1+C2 的概念框架面临 "Probing the Probes" (2025) 的正面威胁。该文已独立提出:探针准确率不可靠、需用 "augmentation robustness" 度量概念对齐。这与你们"准确率高估稳定性"(C1)和"augmentation-consistency 分量"(C2)在叙事和度量上同源。务必把它作为最近邻工作正面对比,凸显差异:(a) 你们在文本 NLP 上系统化 paraphrase/domain/length × model size 的偏移矩阵 + 概念方向 cosine 旋转;(b) 你们的 dispersion 分量(同分布 K 次重采样离散度)它没有;(c) 关键差异化——你们做的是 a priori、免新标注、训练前预测探针 OOD 迁移性的分数,而它停留在事后诊断度量。这条"预测性 + 双分量(dispersion ⊕ augmentation-consistency)"是目前看最可能站得住的真新颖点。

  3. C1 的"准确率高估真实能力"叙事不是新发现:contrast sets (Gardner 2020)、counterfactually-augmented data (Kaushik 2020) 早已确立同构论点,且检索到的 OOD probing transferability 工作已实证探针 OOD 掉点。你们的增量必须落在"专门针对线性探针的概念方向、用 cosine 旋转量化、并跨 shift type × scale 成矩阵",而非"发现了掉点"本身。

仍存的空白(可主打的真新颖性):

  • 双分量、forward-pass-only、免新标注、训练前 a priori 预测探针 OOD 迁移性的"分数"——未见同形态工作;dispersion(同分布重采样方向离散度)作为稳定性信号在文本探针语境下尚属空白。
  • "accuracy drop 与概念方向 cosine 旋转解耦"的矩阵化呈现(同一 shift 下准确率稳但方向已旋转)——未见直接对应工作,是较强卖点。
  • C3(mass-mean vs LogReg vs MLP 在 OOD 下相对可迁移性的系统比较)与 C4(model size ladder 对探针 OOD 稳定性影响)在本角度检索中未见被系统覆盖,威胁较低,可作为扎实的实证贡献,但需另行核查"OOD probing transferability"系列是否已部分触及 C3/C4。

诚实结论:C5 应放弃作为新颖性、改为方法保障;C1 需从"现象发现"转为"探针概念方向的量化方式";C2 是核心命脉,但必须在 "Probing the Probes" 之上明确切出"预测性 + dispersion 分量"的差异,否则有被判为增量的风险。

角度: 小语言模型/Pythia/GPT-2 上的可解释性与探针 size-ladder 研究(scaling of representations、Pythia in...

  • Reblitz-Richardson, 2026 — When Probing Accuracy Saturates, Fragility Resolves: A Complementary Metric for LLM Pre-Training Analysis (arXiv 2606.11375 (cs.CL),待核实是否已投会议) [威胁:high]
    • 对 C2 与 C1 威胁最大。C2:它同样是 forward-pass、免新标注、对‘准确率会高估稳定性’做补救的探针稳定性度量,与你的 dispersion 分量(对扰动的离散度/崩溃点)精神高度重合,只是它用激活噪声而非 label-preserving 增广/重采样。C1:与你‘准确率高估特征稳定性’的核心动机几乎同款表述。差异:它是噪声注入而非分布偏移(paraphrase/domain/length),不做方向 cosine 旋转矩阵,也不做训练前 a priori 预测 OOD 迁移。
  • Huang, 2025 — Spectral Identifiability for Interpretable Probe Geometry (arXiv 2511.16288 (stat.ML),待核实) [威胁:high]
    • 对 C2 威胁高。这正是‘训练前/无需新标注、用内在几何量 a priori 预测探针会不会失稳’的同类工作,与你 Probe Stability Score 的预测性目标直接撞车。差异:用 eigengap/Fisher 谱判据而非 dispersion+augmentation-consistency 双分量;主要在合成数据上验证,未明确做 Pythia/GPT-2 size-ladder、未做 label-preserving NLP 偏移、未给 shift×size 准确率+方向旋转矩阵。
  • Anonymous/待核实, 2025 — Factual Self-Awareness in Language Models: Representation, Robustness, and Scaling (arXiv 2505.21399,待核实) [威胁:high]
    • 对 C1+C4 威胁高。它已经做了‘Pythia size-ladder × 输入扰动 → 探针准确率下降’的矩阵式分析,且强调‘对表层噪声稳健、对语义偏移敏感’,与你 C1 的 accuracy-drop across shift×size 直接重叠,并覆盖 C4 的规模阶梯。差异:只测扰动下的准确率,不测概念方向 cosine 旋转;不提出预测性 stability score(C2);扰动非严格 NLI 审计的 label-preserving 集合(C5);单一任务(事实自知)。
  • 待核实, 2026 — Linear Probe Accuracy Scales with Model Size and Benefits from Multi-Layer Ensembling (arXiv 2604.13386,待核实) [威胁:medium]
    • 对 C4 中度、C1/C3 低度。它直接做了‘探针准确率随 model size 提升’的 scaling 结论(C4 核心),并触及方向跨层旋转(与你的 cosine 旋转测量相邻但你的是跨 shift 旋转、它是跨层旋转)。差异:模型族非 Pythia/GPT-2;不做 label-preserving 分布偏移、不做免标注预测性 stability score、不比较 mass-mean/LogReg/MLP。
  • Chou, Kirsanov, Yang & Chung, 2026 — Diagnosing Generalization Failures from Representational Geometry Markers (ICLR 2026) [威胁:medium]
    • 对 C2 中度。这是‘用内在几何标记、免 OOD 标注、事先预测泛化失败’的同范式工作,与你 stability score 的预测性主张方法论撞车。差异:领域是视觉而非 LLM/Pythia,不用 augmentation-consistency/dispersion 双分量,不涉及 NLP label-preserving 偏移、方向旋转或 size-ladder。可作为‘几何预测泛化’这一思路的强先例,削弱 C2 的范式新颖性。
  • Marks & Tegmark, 2023 — The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets (arXiv 2310.06824(后续亦见会议版,待核实)) [威胁:high]
    • 对 C3 威胁高、C4 低。它已经做了 mass-mean vs LogReg(vs CCS)在‘跨数据集/分布’下相对可迁移性的系统比较,结论是 mass-mean 更稳——这正是你 C3 的核心命题之一(只是它没纳入 MLP 探针,且‘OOD’指跨数据集而非 paraphrase/domain/length label-preserving 偏移)。差异:不做 size-ladder 矩阵、不做方向旋转量化、不提出预测性 stability score。你的 C3 若不强调与 MLP 的三方比较 + label-preserving shift 设定,很容易被认为是其复现。
  • 待核实(EmergentMind/相关综述指向), 2023 — Gaussian Process Probes (GPP) for Uncertainty-Aware Probing (arXiv 2305.18213,待核实) [威胁:low]
    • 对 C2 低度背景相关。同样关注‘探针给出的判断有多可信/稳定’,但走贝叶斯不确定性路线,不预测 OOD 迁移、不用增广一致性/重采样离散度、不涉及 size-ladder 或方向旋转。可作为‘探针可靠性度量’的相关背景引用。
  • Biderman et al., 2023 — Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling (ICML 2023) [威胁:low]
    • 背景相关(C4 的实验底座)。本身不主张探针 OOD 稳定性结论,但你的 C4 实验若用 Pythia 则必须引用;它界定了‘size-ladder’这一研究范式,使单纯‘随规模变化’的发现难称新颖。

评估: 联网完成。本角度下你们面临的撞车风险偏高,且分散在 C1/C2/C3/C4 四条主张上,需要重新收紧定位。

最大的三个撞车点:

  1. C1(准确率高估稳定性 + Pythia size-ladder × 输入扰动)已被 "Factual Self-Awareness"(2505.21399, 2025)在 Pythia 全 size-ladder 上基本做掉:它已给出‘扰动 × 规模 → 探针准确率下降’的矩阵,并明确‘对表层稳健、对语义偏移敏感’。你们若仅停留在 accuracy-drop,几乎是复现。你们尚存的差异——概念方向 cosine 旋转(direction rotation)、严格用本地 NLI 审计的 label-preserving shift 集合(C5)、覆盖 paraphrase/domain/length 三类偏移而非零散扰动——必须被抬成 C1 的主卖点,否则 C1 会被审稿人判为已有。

  2. C2(免标注、forward-pass-only、训练前预测 OOD 迁移的探针稳定性 score)是你们最值钱也最危险的主张:同一‘事前预测探针可靠性/泛化失败’的范式已有至少三篇——Spectral Identifiability(2511.16288, eigengap/Fisher 判据)、Diagnosing Generalization Failures from Geometry Markers(ICLR 2026,几何量预测 OOD,免标签)、以及 Fragility(2606.11375,forward-pass 的崩溃点度量)。范式新颖性已被占。你们真正未被占的是具体机制:dispersion(同分布 K 次重采样方向离散度)+ augmentation-consistency(label-preserving 增广后方向一致性)这个‘双分量、基于方向而非准确率/谱/流形维度’的组合,且明确用于 NLP 探针的 a priori OOD 预测。建议把 C2 的 novelty 严格锚定在‘双分量方向一致性度量’及其相对上述谱/几何/噪声度量的预测增益对比(强烈建议做 head-to-head baseline:SIP、Fragility、manifold dimensionality 都要作为对照)。

  3. C3(mass-mean vs LogReg vs MLP 的 OOD 相对可迁移性)中,mass-mean vs LogReg(vs CCS)的跨分布比较已由 Geometry of Truth(Marks & Tegmark 2023)做过,结论 mass-mean 更稳。你们的增量只剩:加入 MLP 探针构成三方比较 + 在 label-preserving paraphrase/domain/length 偏移(而非跨数据集)下重做 + 与 size-ladder 交叉。务必如此措辞,否则 C3 易被视为复现。

留有的空白(可作为你们真正的差异化护城河):

  • 没有任何一篇把‘概念方向 cosine 旋转矩阵’作为 shift×size 的系统量化主轴——这是 C1 的真空白,应重点强化。
  • 没有人用‘重采样离散度 + 增广方向一致性’这个双分量、纯方向几何的免标注 score 来预测 NLP 探针 OOD 迁移,且没人把它和谱/流形/噪声类预测器做过对比——这是 C2 的真空白,但必须靠 baseline 对比来证明增益。
  • C4 单独看价值最低:‘探针随规模更稳/更准’已被多篇(2

角度: Probe reliability / calibration / trustworthiness — "when not to trust probes" a...

  • Dies, Maynard, Savcisens & Eliassi-Rad, 2025 — Representational Stability of Truth in Large Language Models (arXiv:2511.19166 (preprint; venue待核实)) [威胁:high]
    • Directly overlaps C1 (concept-direction rotation under paraphrase/perturbation) and C2 (dispersion-across-resamples as a stability signal). This is the single closest paper to our core mechanism — it already operationalizes 'direction rotation under rephrasing' + 'dispersion across resamples'. Differs in that it targets one concept (truth), does not frame the metric as an a-priori label-free OOD-transfer predictor, and lacks C3/C4/C5.
  • Kumar, Tan et al., 2022 — Probing Classifiers are Unreliable for Concept Removal and Detection (NeurIPS 2022 (arXiv:2207.04153)) [威胁:high]
    • Overlaps C1 (probe accuracy overstates feature quality/stability) and the spirit of C2 (a label-free quality metric for probes). Establishes the 'do not trust probe accuracy' premise our paper depends on, and pre-empts the framing novelty of 'a metric to gauge probe quality.' Differs: focuses on concept removal/spurious correlation, not label-preserving distribution shift, not direction rotation, no OOD-transfer prediction, no estimator/scale ladder.
  • Lysnæs-Larsen, Eggen & Strümke, 2025 — Probing the Probes: Methods and Metrics for Concept Alignment (arXiv:2511.04312 (preprint; cs.AI)) [威胁:high]
    • Overlaps C2's augmentation-consistency component directly (they call it 'augmentation robustness' as a probe-quality metric) and C1 (accuracy overstates faithfulness). Strong threat to our 'augmentation-consistency as a probe-reliability signal' framing. Differs: vision/CAV-centric, no dispersion-across-resamples component, no a-priori OOD-transfer prediction, no NLP paraphrase/domain shift, no scale ladder.
  • Liu, Chen, Cheng & He, 2024 — On the Universal Truthfulness Hyperplane Inside LLMs (EMNLP 2024 (arXiv:2407.08582)) [威胁:medium]
    • Overlaps C1 (documents probe accuracy dropping OOD / cross-domain) and partially C3 (compares probing setups across datasets). Establishes the empirical 'probes don't transfer OOD' result we want to extend. Differs: requires labeled OOD datasets to measure transfer (no label-free a-priori predictor), no direction-rotation metric, no dispersion/augmentation score, no scale ladder.
  • Marks & Tegmark, 2023 — The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets (arXiv:2310.06824 (later COLM/workshop线; venue待核实)) [威胁:high]
    • Directly overlaps C3 — it is the canonical mass-mean vs LogReg generalization comparison. Our C3 must position as an extension (adding MLP, label-preserving shift types, a stability-score lens) rather than a first comparison. Differs: no MLP, no paraphrase/length/domain shift taxonomy, no a-priori stability score, no scale ladder.
  • Baek, Raghunathan et al., 2024 — Predicting the Performance of Foundation Models via Agreement-on-the-Line (arXiv:2404.01542 (NeurIPS 2024线; venue待核实)) [威胁:medium]
    • Overlaps C2's goal (label-free, forward-pass-only prediction of OOD performance) — establishes a strong prior-art baseline for 'predict OOD reliability without OOD labels.' Reviewers will demand comparison. Differs: uses inter-model agreement rather than direction dispersion/augmentation consistency; not probe/concept-direction specific; no rotation metric, no estimator/scale study.
  • Deng, Zheng et al., 2023 — Confidence and Dispersity Speak: Characterising Prediction Matrix for Unsupervised Accuracy Estimation (arXiv:2302.01094 (ICML 2023线; venue待核实)) [威胁:medium]
    • Overlaps C2 conceptually — a label-free, dispersion-flavored predictor of OOD accuracy. Notably it uses the word 'dispersity,' close to our 'dispersion' component, which weakens the terminology/concept novelty of that sub-claim. Differs: operates on output prediction matrices, not on probe-direction geometry; no concept-direction rotation, no augmentation-consistency, not probe-faithfulness framed.
  • Belrose et al. / SAE-probe baseline studies, 2025 — SAE probes underperform the baseline of logistic regression (SAE Features for Classifications and Transferability line) (arXiv:2502.16681 / 2502.11367 (preprints)) [威胁:low]
    • Background-to-medium overlap with C3 (probe-estimator transferability comparison under shift). Adds to the crowded space of 'which probe estimator transfers best' that our C3 sits in. Differs: SAE-vs-LogReg focus, no mass-mean/MLP triad, no a-priori stability score, no rotation metric.
  • Chou, Kirsanov, Yang & Chung, 2026 — Diagnosing Generalization Failures from Representational Geometry Markers (ICLR 2026 (arXiv:2603.01879)) [威胁:medium]
    • Overlaps C2's high-level claim (predict OOD reliability from ID-only signal, no OOD labels). A conceptual competitor for the 'a-priori predictor' framing. Differs: vision/ImageNet, manifold-geometry not probe-direction dispersion/augmentation, no NLP paraphrase shift, no estimator/scale ladder. Adjacent companion: 'Representation Geometry as a Diagnostic for OOD Robustness' (arXiv:2602.03951) makes the same ID-only-predicts-OOD claim.
  • Belinkov, 2022 — Probing Classifiers: Promises, Shortcomings, and Advances (Computational Linguistics (MIT Press) 48(1)) [威胁:low]
    • Background for C1/C5 — frames the 'probes can mislead' problem and the need for controls (relevant to our NLI label-fidelity audit in C5). Differs: survey, no quantitative shift matrix, no stability score, no OOD predictor.

评估: 已联网检索(WebSearch/WebFetch可用)。结论:本角度对我们novelty构成实质威胁,但没有任何一篇把我们的完整组合(C2双分量 a-priori 免标注 forward-pass 探针稳定性分数 = dispersion + augmentation-consistency,用于训练前预测探针OOD迁移性)做完整。

最大撞车点(按优先级):

  1. Representational Stability of Truth in LLMs (Dies et al., 2025-11) 是头号威胁——它已经把"概念方向在改写/扰动下的旋转"与"跨重采样的dispersion"两件事合在一起做了。这几乎覆盖了我们C1的旋转矩阵和C2的dispersion分量。我们必须把它当作最近的prior art正面引用并明确切割:它(a)只针对truth单一概念、(b)没有把这个量当成"训练前、免新标注的OOD迁移性预测器"来validate、(c)没有augmentation-consistency第二分量、(d)没有C3/C4/C5。建议把C2的卖点从"测量稳定性"上移到"用稳定性分数a-priori预测下游OOD迁移,并做预测-验证闭环",这是它没做的。

  2. 关于C2的"免标注预测OOD"框架,存在一整条成熟的unsupervised-OOD-accuracy-prediction文献(Agreement-on-the-Line 2024;Confidence-and-Dispersity 2023——后者甚至用了"dispersity"一词,直接削弱我们"dispersion"术语新颖性;Representation-Geometry-as-Diagnostic 2026;Geometry Markers ICLR 2026)。这些不是探针专用,但reviewer几乎一定会要求对比/区分。我们的护城河必须是:作用在探针方向几何(不是输出预测矩阵或流形几何)、专为label-preserving语义shift设计、且做probe-faithfulness而非泛OOD acc。

  3. C2的augmentation-consistency分量已被 "Probing the Probes" (2025-11) 以"augmentation robustness"之名作为探针质量度量提出(视觉/CAV域)。需引用并以"NLP label-preserving paraphrase + 与dispersion组合 + 作为预测器"区分。

  4. C3(mass-mean vs LogReg)已被 Geometry of Truth (Marks & Tegmark 2023) 做过,是canonical对比,不能宣称首次;加MLP和label-preserving shift分类法是我们的增量,但增量较薄,建议把C3降格为支撑性发现而非主贡献。

  5. C1的"探针accuracy高估特征稳定性/faithfulness"premise已被 Kumar et al. NeurIPS 2022 与 Belinkov 2022 survey 牢固确立,不可作为novelty主张,只能作为motivation。

留有的空白(我们仍可主张的真正新意):

  • 把 dispersion + augmentation-consistency 显式组合成单一双分量分数,并在 shift-type × model-size 二维上验证它能a-priori排序探

四、独立验证记录(2026-06-22,直接抓取 arXiv abstract 复核)

由 Claude 主回路用 WebFetch 逐条核对工作流给出的高危引用,确认其真实存在(并非 agent 幻觉)。

arXiv ID 实际标题 / 作者 核实结论 对我们的影响
2511.19166 Representational and Behavioral Stability of Truth in LLMs(Dies, Maynard, Savcisens, Eliassi-Rad)— P-StaT 框架 ✅ 真实 测 truth 信念在语义重述下的稳定性(fictional vs synthetic),未见双分量免标注 a-priori 预测闭环。最近邻,但 C2 仍有缝。
2602.00158 RAPTOR: Ridge-Adaptive Logistic Probes(Gao 等) ✅ 真实 ridge 自适应 logistic 探针 + 概念向量 + stability;偏方法,非直接 OOD 预测。须作 baseline。
2510.11905 LLM Knowledge is Brittle: Truthfulness Representations Rely on Superficial Resemblance(Haller, Ibrahim, Kirichenko, Sagun, Bell @ Meta) ✅ 真实 仅覆盖 paraphrase/reformulation + 仅 truthfulness;工作流高估——未明确做 domain/length/多概念。C1 的"paraphrase×domain×length×多概念×drop⊥rotation 解耦矩阵"仍可区分。
2303.15488 On the Importance of Feature Separability in Predicting OOD Error(Xie, Wei, Feng, Cao, An, NeurIPS 2023) ✅ 真实 label-free + feature dispersion 预测 OOD acc。标题非"Dispersion Score"但机制重叠 → 避免用 "Dispersion" 作主名 + 必跑对照。
2602.20273 The Truthfulness Spectrum Hypothesis(Ying, Ravfogel, Kriegeskorte, Hase) ✅ 真实 Mahalanobis cosine 预测跨域泛化 R²=0.98 —— C2 最强竞品。但它需"探针间"相似度(隐含 OOD 侧 reference probe);我们 PSS 是 IID-only,这是唯一硬区分。
2511.16288 Spectral Identifiability for Interpretable Probe Geometry (SIP)(W. Huang) ✅ 真实 eigengap a-priori 探针稳定性判据;偏理论+合成实验。必作 baseline。

结论:该子领域(probe stability / truth directions)是 2025Q4–2026Q2 的高热赛道,多为 Meta/Northeastern 等强组工作。纯 novelty 竞争高风险。但所有竞品都可转化为 baseline —— 这为"benchmark-first"重定位提供了基础。