| # Prior-Art 核查 + Novelty 定位 + 红队报告 |
|
|
| ## 一、定位文档(逐 claim 撞车判决 + 必引 + 必比 baseline) |
|
|
| Probe Stability Score(PSS)的 prior-art 定位文档如下。 |
|
|
| --- |
|
|
| ## 1. Prior-art 地图(去重后按主题归类) |
|
|
| **A. 探针准确率不可靠 / faithfulness(C1 的 motivation 基石)** |
| - Hewitt & Liang 2019(control task / selectivity, EMNLP) |
| - Belinkov 2022(Probing Classifiers 综述, CL) |
| - Pimentel et al. 2020(信息论探针, ACL);Voita & Titov 2020(MDL, EMNLP) |
| - Ravichander, Belinkov & Hovy 2021(EACL);Kumar/Ravfogel et al. 2022(Probing Classifiers are Unreliable, NeurIPS) |
| - Boxo et al. 2026(探针依赖文本证据泄漏) |
|
|
| **B. 真值几何 / 概念方向旋转 under shift(C1 核心现象的直接竞品)** |
| - Marks & Tegmark 2023/24(Geometry of Truth, mass-mean)— 同时是 C3 的基石 |
| - **Dies, Maynard, Savcisens & Eliassi-Rad 2025(Representational Stability of Truth, arXiv:2511.19166)— 与 C1+C2 机制最接近的单篇** |
| - Liang et al. 2025(LLM Knowledge is Brittle, 2510.11905, paraphrase/domain/length 三类偏移逐字一致) |
| - Azizian et al. 2025(Geometries of Truth Are Orthogonal Across Tasks, 2506.08572) |
| - Bürger/Levinstein 2024(truth directions context-sensitive, 2404.18865);Bao/Zhang 2025(2506.00823);2601.06599(context 旋转角 θ × size) |
| - Park, Choe & Veitch 2024(Linear Representation Hypothesis, ICML)— cosine 度量理论依据 |
|
|
| **C. 探针方向稳定性度量(dispersion / augmentation-robustness)(C2 双分量分别被占)** |
| - **Gao et al. 2026(RAPTOR, 2602.00158)— directional stability = K 次 ablation 后 mean |cos|,= C2 的 dispersion 分量,且含 size ladder** |
| - **Lysnæs-Larsen, Eggen & Strümke 2025(Probing the Probes, 2511.04312)— augmentation robustness = C2 的 augmentation-consistency 分量** |
| - Méloux et al. 2025(Mech Interp as Statistical Estimation, 2510.00845)— 重采样方向离散度做可靠性 |
| - CKA 可靠性系列(Ding et al. 2021;Davari ICLR 2023)— 相似度度量陷阱 |
|
|
| **D. 训练前 a priori / 免标注预测探针可靠性或 OOD(C2 定位被多方占据)** |
| - **Huang 2025(Spectral Identifiability / SIP, 2511.16288)— eigengap 几何,部署前 a priori 判据** |
| - **Reblitz-Richardson 2026(Fragility, 2606.11375)— forward-pass 崩溃点度量** |
| - Chou et al. 2026(Geometry Markers, ICLR 2026 / 2603.01879)— ID-only 几何预测 OOD(视觉) |
| - CCPS 2025(2505.21772)— 隐状态扰动做置信度校准 |
|
|
| **E. 免标注 OOD 性能预测(通用,非探针,C2 必比 baseline)** |
| - **Xie et al. 2023(Dispersion Score, NeurIPS, 2303.15488)— 同名同质:label-free + forward-pass + feature dispersion 预测 OOD acc** |
| - Deng et al. 2023(Confidence & Dispersity, ICML)— 用了 "dispersity" 一词 |
| - Baek et al. 2024(Agreement-on-the-Line, NeurIPS) |
| - Aithal et al. 2021(Robustness to Augmentations as Generalization Metric, NeurIPS comp) |
|
|
| **F. Transferability estimation 范式(C2 自认类比来源)** |
| - LEEP(ICML 2020)、LogME(ICML 2021)、H-score(ICIP 2019) |
| - Zhang et al. 2026(SAE as a Crystal Ball, 2603.02908)— LLM 版免训练事前预测跨域迁移 |
| - **Truthfulness Spectrum 2026(2602.20273)— Mahalanobis-白化方向相似度预测 OOD AUROC, R²≈0.98** |
|
|
| **G. C3 专属(探针估计子比较)** |
| - Marks & Tegmark 2023(mass-mean vs LogReg vs CCS);SAE-vs-LogReg 系列(2502.16681) |
|
|
| **H. C4 专属(size ladder 基建)** |
| - Biderman et al. 2023(Pythia, ICML);2505.21399(Factual Self-Awareness, Pythia 全 ladder × 扰动);2604.13386(探针 acc 随 size) |
|
|
| **I. C5 专属(NLI label-fidelity 审计)** |
| - NLI overgenerate-and-filter / roundtrip consistency 范式(Falsesum 2022、DISCO 2023 等);counterfactual augmentation(Kaushik 2020 ICLR、Gardner contrast sets 2020) |
|
|
| --- |
|
|
| ## 2. 逐 claim 撞车判决表 |
|
|
| | Claim | 最接近的已有工作 | 重叠程度 | 我们仍站得住的 defensible delta | |
| |---|---|---|---| |
| | **C1** 准确率高估稳定性 + accuracy-drop × cosine-rotation 矩阵 across shift×size | Liang 2025《LLM Knowledge is Brittle》(paraphrase/domain/length 逐字一致);Dies 2025(方向旋转 under rephrase);2505.21399(Pythia ladder × 扰动) | **高(crowded)**。"现象"已被占;Liang 2025 连三类 shift 都一致 | 不能作主贡献。唯一 delta:把 accuracy-drop 与 cosine-rotation **解耦** 成 shift-type × model-size **双指标二维矩阵**,且跨多概念(非仅 truth);Liang/Dies 都只做 truth 单概念、未做 size×shift 完整矩阵化、未把 rotation 与 drop 解耦量化 | |
| | **C2** 免标注 forward-pass 双分量 PSS(dispersion ⊕ augmentation-consistency)训练前 a priori 预测 OOD 迁移 | dispersion 分量→RAPTOR(2602.00158);aug-consistency 分量→Probing the Probes(2511.04312);a priori 定位→SIP(2511.16288)、Fragility(2606.11375);命名→Xie 2023 Dispersion Score;Dies 2025(rotation+dispersion 已合做) | **高,但有缝**。两分量各自被占,a priori 框架被多方占,但**"双分量合成单一分数 + 验证它能 a priori 预测 OOD drop/rotation 的预测-验证闭环"无人完整做** | **论文命脉**。delta:(a) 双分量**合成**并做互补性消融(证明 aug-consistency 在 dispersion 之外有增量);(b) 预测目标是 **probe 方向几何稳定性**(非 RAPTOR 的诊断、非 Xie 的整体 acc、非 SIP 的 ID 可识别性);(c) **完全免新标注/免触碰 OOD 数据**(对比 Truthfulness Spectrum 2602.20273 需 OOD reference probe);(d) 建立**预测↔验证闭环**(用 PSS 排序 C1 矩阵里的真实 drop) | |
| | **C3** mass-mean vs LogReg vs MLP 在 OOD 下相对可迁移性 | Marks & Tegmark 2023(mass-mean vs LogReg vs CCS,结论 mass-mean 更稳) | **高**。核心结论已发表 | 单独看几乎是复现。delta 只剩:加入 **MLP** 第三方;用 **label-preserving 输入偏移**(非换数据集)做 OOD;跨 **size ladder**;并把比较结果**绑定到 PSS 预测**。建议**降格为支撑性发现**,不作并列主贡献 | |
| | **C4** model size ladder 对探针 OOD 稳定性影响 | 2505.21399(Pythia ladder × 扰动);2601.06599、2604.13386(方向一致性/acc 随 size);Pythia suite 本身 | **中-高**。"越大越一致/越准"已被多篇占;甚至有"越大越脆"反例(Pressure-Testing Deception 2605.27958) | 单独**不足以成贡献**。仅作 C1/C2 的交叉维度。可挖的 delta:size 对 **PSS 预测有效性** 的影响,及是否复现/反驳"越大越脆" | |
| | **C5** 本地 DeBERTa-MNLI 做 label-fidelity 审计保证 shift label-preserving | NLI overgenerate-and-filter / roundtrip consistency(Falsesum 2022、DISCO 2023);Kaushik 2020;Gardner 2020 | **中**。"用 NLI 核验增广 label 一致性"是 2022–24 成熟范式 | **放弃作为新颖性**,定位为方法学 sanity check / 可信度保障。delta 仅在"应用到 probe-stability 评测的 shift 构造管线"这一工程实例化,需主动引用过滤文献以示知情 | |
|
|
| --- |
|
|
| ## 3. 整体 novelty 判决 |
|
|
| **判决:crowded,但存在一条可辩护的窄缝。** |
|
|
| - C1、C3、C4、C5 单独看**均已被不同程度抢占**(C1/C3 = high)。 |
| - C2 的两个分量、a priori 框架、甚至 "dispersion/dispersity" 命名都已分别被占;Dies 2025 已把 rotation + dispersion 合做——这是最危险的单篇。 |
|
|
| **安全的收窄组合(必须按此重写 contribution statement):** |
|
|
| > 把论文重心从"发现探针不稳 + 比较探针类型"(已被占)收窄到: |
| > **"一个针对 linear/concept probe 方向几何、完全免新标注、仅 forward-pass 的双分量(dispersion ⊕ augmentation-consistency)合成分数,首次在训练前 a priori 预测探针在 label-preserving 语义偏移(paraphrase/domain/length)下的 OOD 迁移性,并通过 shift-type × model-size 矩阵 + 与 SIP/Fragility/Dispersion-Score/mass-mean 的 head-to-head baseline 对比,证明该分数提供超越单分量与现有几何/谱预测器的增量。"** |
|
|
| 护城河三要素,缺一即被判 incremental: |
| 1. **双分量合成 + 互补性消融**(无人合做两分量); |
| 2. **a priori 预测 ↔ 验证闭环**(用 PSS 预测 C1 矩阵真实 drop;Dies/RAPTOR/SIP 都停在诊断或 ID 判据); |
| 3. **完全免触碰 OOD 数据/新标注**(对比 Truthfulness Spectrum 的 OOD reference probe 需求)。 |
| 将 C1 降为"被预测的真值",C3/C4 降为外部效度,C5 降为 sanity check。 |
|
|
| --- |
|
|
| ## 4. 必引清单(must-cite,漏引会被直接攻击) |
|
|
| **绝对必引(high-threat,逐篇做"我们 vs 他们"切割):** |
| 1. Dies, Maynard, Savcisens & Eliassi-Rad 2025, *Representational Stability of Truth in LLMs*(2511.19166)——最近邻,rotation+dispersion 已合做。 |
| 2. Gao et al. 2026, *RAPTOR: Ridge-Adaptive Logistic Probes*(2602.00158)——dispersion 分量 + size ladder。 |
| 3. Lysnæs-Larsen, Eggen & Strümke 2025, *Probing the Probes*(2511.04312)——augmentation-robustness 分量。 |
| 4. Huang 2025, *Spectral Identifiability for Interpretable Probe Geometry*(2511.16288)——a priori 探针稳定性判据。 |
| 5. Reblitz-Richardson 2026, *When Probing Accuracy Saturates, Fragility Resolves*(2606.11375)——forward-pass 崩溃点。 |
| 6. Marks & Tegmark 2023/24, *The Geometry of Truth*(2310.06824)——mass-mean vs LogReg(C3 基石)。 |
| 7. Xie et al. 2023, *Dispersion Score*(NeurIPS, 2303.15488)——同名同质 OOD 预测器。 |
| 8. Liang et al. 2025, *LLM Knowledge is Brittle*(2510.11905)——C1 三类 shift 逐字一致。 |
| 9. Truthfulness Spectrum 2026(2602.20273)——白化方向相似度预测 OOD(C2 预测目标最近邻)。 |
| 10. Chou et al. 2026, *Diagnosing Generalization Failures from Geometry Markers*(ICLR 2026 / 2603.01879)——ID-only 预测 OOD 范式。 |
|
|
| **必引背景(定位用):** Hewitt & Liang 2019;Belinkov 2022;Kumar/Ravfogel et al. 2022(NeurIPS);Voita & Titov 2020;Azizian et al. 2025(2506.08572);Bürger 2024(2404.18865)/ Bao 2025(2506.00823);LEEP 2020 / LogME 2021;Deng et al. 2023(Confidence & Dispersity);Baek et al. 2024(Agreement-on-the-Line);Zhang 2026 SAE Crystal Ball;Biderman et al. 2023(Pythia)+ 2505.21399;NLI-filter 系列(C5)。 |
|
|
| > 注:所有 2025–2026 编号(2511.x / 2602.x / 2603.x / 2606.x / 2602.20273 / 2605.27958 等)venue 与作者多为"待核实",投稿前必须在 arXiv/OpenReview 逐条复核标题、作者、是否已被 ACML/NeurIPS/ICLR/ACL 接收——prior-art 效力取决于此。 |
|
|
| --- |
|
|
| ## 5. 必比 baseline 清单(must-have baselines,不比会被质疑) |
|
|
| **A. a priori 探针稳定性 / 可靠性预测器(同定位,直接 head-to-head,核心)** |
| 1. **SIP / Spectral Identifiability**(eigengap 几何判据)— 必比,否则"首个 a priori 预测器"主张崩塌。 |
| 2. **RAPTOR directional stability**(K 次 ablation mean |cos|)— 即单独的 dispersion 分量,用作消融对照。 |
| 3. **Fragility**(临界噪声崩溃点)— forward-pass 稳定性对照。 |
| 4. **Augmentation-robustness**(Probing the Probes)— 即单独的 augmentation-consistency 分量,用作消融对照。 |
|
|
| **B. 通用免标注 OOD 性能预测器(证明探针方向几何 ≠ 输出/流形几何)** |
| 5. **Dispersion Score**(Xie 2023)— 同名,必跑作 baseline,否则被判换皮。 |
| 6. **Confidence & Dispersity**(Deng 2023)/ **Agreement-on-the-Line**(Baek 2024)— 至少跑其一。 |
| 7. **Geometry Markers**(effective manifold dim / utility)— ID-only 几何预测对照。 |
|
|
| **C. 探针估计子(C3 内部对照)** |
| 8. **mass-mean / difference-of-means**(Marks & Tegmark)— 必含。 |
| 9. **LogReg** 与 **MLP** 探针 — C3 三方比较的另两方。 |
|
|
| **D. 方法学对照(C1/C5)** |
| 10. **control-task / selectivity probe**(Hewitt & Liang)— 作为"已知探针诊断"的对照基线,证明 PSS 提供 selectivity 之外的信息。 |
| 11. **普通 cosine vs Mahalanobis-白化 cosine**(Truthfulness Spectrum)— 方向相似度度量的对照,回应"普通 cosine 不够"的已知结论。 |
|
|
| **消融(内部 must-have):** dispersion-only / augmentation-consistency-only / 双分量合成 三档,证明互补增量;以及"PSS 预测的 OOD drop vs 实际 OOD drop"的相关性/排序能力(Spearman ρ、Kendall τ)作为闭环验证主结果。 |
|
|
| --- |
|
|
| **一句话结论:** 现状是 crowded;唯一安全的护城河是把 C2 收窄成"双分量合成 + a priori 预测↔验证闭环 + 完全免 OOD 标注 + 针对 probe 方向几何",并以 SIP / Fragility / RAPTOR-stability / Dispersion-Score / Augmentation-robustness 五个 baseline 的 head-to-head 增量来支撑;C1 降为被预测真值,C3/C4 降为外部效度,C5 降为 sanity check。**关键风险点:Dies 2025(2511.19166)必须拿到全文确认它是否已做"预测 OOD"闭环——若已做,C2 护城河将进一步收窄,需立即二次检索核实。** |
|
|
|
|
| ## 二、Novelty 红队(最强攻击 + 必需防守) |
|
|
| # ACML 苛刻 Reviewer 意见:Reject(Probe Stability Score,PSS) |
|
|
| 我已通读定位文档。下面分两档给出我作为对抗性 reviewer 准备的攻击,每条都点名撞车对象/设计漏洞,并配上作者"活下来"所需的最小防守动作。 |
|
|
| --- |
|
|
| ## 一、致命级攻击(任一条不解决即建议 Reject) |
|
|
| ### F1. 与 Dies et al. 2025(2511.19166)的"组合新颖性"被整体抹平 |
| **攻击点:** 作者的全部卖点是"rotation + dispersion 双视角"。Dies 2025 已经把 representational stability of truth 用 rotation + dispersion 合做了。作者文档自己承认"这是最危险的单篇"。如果 Dies 已经做了"用 ID 几何预测 OOD 行为"的闭环,那 C2 护城河的(1)(2)两要素同时塌掉,PSS 只剩"换了个加权求和的公式 + 多了几个概念",这是教科书级的 incremental。 |
| **这撞了什么:** 直接撞 Dies 2025 的方法核心,且作者尚未确认对方是否已做预测闭环。 |
| **必需防守:** |
| - 拿到 Dies 2025 全文,做一张**逐能力对照表**(rotation? dispersion? 二者合成单一分数? a priori 预测 OOD? 免 OOD 数据? 跨多概念? size ladder?),逐格标 Y/N。 |
| - 必须证明至少一格是"他们 N、我们 Y"且该格是**预测闭环或合成分数**,而非边角(概念数量、模型数量这类不算)。 |
| - 在同一 benchmark 上**复现 Dies 作为 baseline 并跑输/跑平**——若跑不赢,论文死。 |
|
|
| ### F2. "首个 a priori 预测器"主张直接被 SIP / Fragility / Truthfulness Spectrum 证伪 |
| **攻击点:** 文档同时列了 SIP(2511.16288,部署前 a priori 几何判据)、Fragility(2606.11375,forward-pass 崩溃点)、Truthfulness Spectrum(2602.20273,白化方向相似度预测 OOD AUROC,R²≈0.98)。"训练前/免 OOD 预测探针稳定性"这一 framing 已被至少三方占据。任何"首次"措辞都可被一句话击穿。 |
| **这撞了什么:** SIP + Fragility + Truthfulness Spectrum,三方夹击 framing 新颖性。 |
| **必需防守:** |
| - **删除一切"first / novel framing"措辞**,改为"a label-free composite that empirically outperforms SIP / Fragility / Dispersion-Score on probe-direction OOD prediction"。 |
| - 三者**全部作为 head-to-head baseline 跑数**,主结果用 Spearman ρ / Kendall τ 报告 PSS 的增量,且增量需带置信区间/显著性检验(bootstrap)。 |
| - 特别针对 Truthfulness Spectrum 的 R²≈0.98:若对方已能 R²=0.98 预测 OOD,作者必须说明 PSS 在"完全不碰 OOD reference probe"约束下还能逼近此精度,否则"免 OOD 数据"这条护城河不值钱。 |
|
|
| ### F3. 与 Xie 2023 Dispersion Score 同名同质,涉嫌"换皮" |
| **攻击点:** Xie 2023(NeurIPS)已有 label-free + forward-pass + feature dispersion 预测 OOD acc,名字都一样。reviewer 第一反应是"这就是把 Dispersion Score 套到 probe 方向上"。 |
| **这撞了什么:** Xie 2023,命名与机制双重撞车。 |
| **必需防守:** |
| - **改名**,避免 "Dispersion" 作主词根,杜绝第一眼误判。 |
| - 用实验证明"probe 方向几何 ≠ feature 流形 dispersion":在同一数据上跑 Xie 的 Dispersion Score,展示二者预测目标/相关性显著分离(例如 Dispersion Score 在 paraphrase shift 上失效而 PSS 不失效)。 |
|
|
| ### F4. 预测目标循环论证 / 闭环自证(实验设计漏洞) |
| **攻击点:** "用 PSS 预测 C1 矩阵里的真实 drop"——但 C1 矩阵的 shift、概念、size 配置若与构造 PSS / 调权重所用的是同一批数据,则是在**训练集上验证**,Spearman ρ 没有意义。双分量"合成"必然涉及一个加权/聚合超参,若该超参在评测集上选,闭环就是过拟合。 |
| **这撞了什么:** 实验设计的数据泄漏 / 无 held-out。 |
| **必需防守:** |
| - 严格 **split**:权重/聚合超参只在 dev 概念-shift 组合上选,报告结果只在**完全 held-out 的概念 × shift-type × size 组合**上算。 |
| - 提供 **leave-one-concept-out / leave-one-shift-type-out** 交叉验证,证明 PSS 跨概念、跨 shift-type 泛化,而非记忆 C1 矩阵。 |
|
|
| ### F5. C3 几乎是 Marks & Tegmark 2023 的复现 |
| **攻击点:** "mass-mean vs LogReg 在 OOD 下谁更稳"结论已发表。加一个 MLP、换 label-preserving shift,不足以构成独立贡献。若作者把 C3 列为并列主贡献,reviewer 直接判 partial reproduction。 |
| **这撞了什么:** Marks & Tegmark 2023。 |
| **必需防守:** 按文档自己的结论,**C3 降格为支撑性发现/外部效度**,且只在"PSS 能否预测三类 estimator 谁更稳"这一从属问题下出现,绝不并列。 |
|
|
| --- |
|
|
| ## 二、重要级攻击(不致命但累加可压到 Reject) |
|
|
| ### M1. 互补性消融若不显著,双分量合成失去存在理由 |
| **攻击点:** PSS 的核心增量主张是"aug-consistency 在 dispersion 之外有增量"。若 dispersion-only 与双分量合成的 ρ 无显著差异,则合成是噱头。 |
| **必需防守:** 三档消融(dispersion-only / aug-only / 合成)必须报告**配对显著性检验 + 效应量**,且合成显著优于两个单分量。否则坦诚降级为单分量方法。 |
|
|
| ### M2. C4(size ladder)无独立贡献,且有反例风险 |
| **攻击点:** "越大越稳/越一致"已被多篇占;且存在"越大越脆"反例(Pressure-Testing Deception 2605.27958)。若作者下"越大越稳"结论而不处理反例,会被打成 cherry-picking。 |
| **必需防守:** C4 仅作交叉维度;明确测试并讨论"PSS 预测有效性是否随 size 单调",主动引用并复现/反驳反例,不下普适性结论。 |
|
|
| ### M3. 度量选择(普通 cosine)已被已知结论否定 |
| **攻击点:** Park 2024 LRH 用 cosine 有前提;Truthfulness Spectrum 已表明需 Mahalanobis 白化。用裸 cosine 度量 rotation 会被质疑度量不当。 |
| **必需防守:** 加入**白化 cosine vs 裸 cosine** 的消融,说明 PSS 的稳健性不依赖度量取巧。 |
|
|
| ### M4. baseline 覆盖不足即被判"未与最近邻比较" |
| **攻击点:** 文档列出的 must-have baseline(SIP / RAPTOR-stability / Fragility / Aug-robustness / Dispersion-Score / mass-mean / Geometry Markers / control-task)若缺任一核心项,reviewer 可直接以"未与显然相关工作比较"拒稿。 |
| **必需防守:** 至少 A 组四个 a priori 预测器(SIP / RAPTOR-stability / Fragility / Aug-robustness)+ Xie Dispersion Score **全跑**;B/C 组至少各跑一个。缺项需在 limitation 明确说明理由。 |
|
|
| ### M5. shift 的 label-preserving 保证仅靠单个 DeBERTa-MNLI,可信度不足 |
| **攻击点:** C5 用本地 DeBERTa-MNLI 审计 label fidelity。单模型审计、未引 overgenerate-and-filter / roundtrip(Falsesum 2022、DISCO 2023)文献,会被质疑审计本身不可靠且不知情。 |
| **必需防守:** C5 明确降为 sanity check;主动引用 NLI-filter 系列;报告 MNLI 审计的**通过率与人工抽检一致性**,证明 shift 确为 label-preserving。 |
|
|
| ### M6. 跨概念泛化样本量与统计功效存疑 |
| **攻击点:** 若"多概念"只有 3–5 个概念,Spearman ρ 的置信区间会很宽,"跨多概念优于 truth 单概念"的卖点站不住。 |
| **必需防守:** 概念数足够大(建议 ≥10),报告 ρ 的 bootstrap CI;若概念少,撤回"跨多概念"作为新颖性主张。 |
|
|
| ### M7. prior-art 编号未核实,存在 prior-art 效力风险(双刃) |
| **攻击点:** 大量 2025–2026 arXiv 编号"待核实"。reviewer 若发现作者**未引用**已正式接收的某篇最近邻(如 Dies/RAPTOR 若已中 NeurIPS/ICLR),漏引即攻击点;反之若作者拿"未发表 arXiv"当挡箭牌排除 prior art,也会被驳。 |
| **必需防守:** 投稿前逐条核实标题/作者/venue/接收状态;对所有 high-threat 篇目无论是否正式发表均做切割讨论,不以"preprint"为由回避。 |
|
|
| --- |
|
|
| ## 三、给作者的一句话总结(survival path) |
|
|
| **当前状态 crowded,唯一活路:** 删掉所有"first/novel framing"措辞,把贡献彻底收窄为"label-free 双分量合成分数 + 严格 held-out 的 a priori 预测↔验证闭环 + 完全免 OOD 数据约束下对 SIP/Fragility/Aug-robustness/Dispersion-Score 五个 baseline 的可显著性检验的增量",并以 **F1(Dies 全文对照表跑赢)+ F4(无泄漏 split)+ M1(互补性显著)** 三者同时成立为生死线。C1 降为被预测真值,C3/C4 降为外部效度,C5 降为 sanity check。三条生死线缺一,我维持 Reject。 |
|
|
|
|
| ## 三、原始检索明细(10 角度) |
|
|
|
|
| ### 角度: 探针方法学与 control task(linear probing / diagnostic classifiers / selectivity / cont... |
|
|
| - **Hewitt & Liang, 2019** — *Designing and Interpreting Probes with Control Tasks* (EMNLP 2019) [威胁:medium] |
| - 概念上撞 C1 的核心论点(探针准确率会高估表征中真正编码的信息)与 C2/C3 的探针选择哲学。但它用『随机标签控制 + selectivity』这一轴,而非『label-preserving 输入分布偏移 + 方向 cosine 旋转 + dispersion/augmentation-consistency』。是我们必须正面区分的奠基工作,但范式不同。 |
| - **Belinkov, 2022** — *Probing Classifiers: Promises, Shortcomings, and Advances* (Computational Linguistics (MIT Press), 48(1)) [威胁:low] |
| - 背景层面覆盖 C1/C2/C5 所处问题空间(探针可靠性诊断),但不提供我们提议的具体度量(分布偏移下的方向旋转矩阵、免标注稳定性分数)。是定位 novelty 的必引背景,本身不抢占。 |
| - **Pimentel et al., 2020** — *Information-Theoretic Probing for Linguistic Structure* (ACL 2020) [威胁:low] |
| - 与 C1『准确率作为表征质量代理不可靠』同源动机,但走信息论方向,不涉及分布偏移、方向稳定性或免标注预测。背景相关。 |
| - **Marks & Tegmark, 2023/2024** — *The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets* (COLM 2024(arXiv 2310.06824)) [威胁:high] |
| - 直接、强烈撞 C3:mass-mean vs LogReg 在 OOD 下相对可迁移性的系统比较正是该文核心结果之一。C3 若不显著扩展(如加入 MLP、跨 shift type × model size 的系统矩阵、把比较绑定到我们的稳定性分数上)将被认为已被做过。 |
| - **Anonymous / 待核实, 2026** — *Pressure-Testing Deception Probes in LLMs: Scaling, Robustness, and the Geometry of Deceptive Representations* (arXiv 2605.27958(2026,预印本,待核实正式 venue)) [威胁:high] |
| - 高度撞 C1(探针准确率在 label-preserving 风格偏移下崩溃,高估稳定性)与 C4(model size ladder 对探针 OOD 稳定性的影响,且给出反直觉结论)。也部分触及 C3(线性 vs MLP)。区别:它未度量概念方向的 cosine 旋转,未提免标注 a-priori 稳定性分数,且把 augmentation 当作『修复手段』而非我们 C2 中的『预测信号』。这是本角度对 C1+C4 威胁最大的近期工作。 |
| - **待核实, 2025** — *Calibrating LLM Confidence by Probing Perturbed Representation Stability (CCPS)* (arXiv 2505.21772(2025,预印本)) [威胁:medium] |
| - 撞 C2 的『表征/方向稳定性作为可靠性信号』直觉,且同样是 forward-pass 轻量方案。但关键差异:扰动作用于隐状态(非 label-preserving 输入增广/paraphrase),目标是 per-answer 置信度校准而非『训练前预测探针 OOD 迁移性』,也无 dispersion(重采样方向离散度)分量。相关但目标错位。 |
| - **待核实, 2025** — *Probing the Geometry of Truth: Consistency and Generalization of Truth Directions in LLMs Across Logical Transformations and QA Tasks* (ACL Findings 2025(arXiv 2506.00823)) [威胁:medium] |
| - 撞 C1 的方向一致性部分:它确实在『变换后概念方向是否保持』这一轴上做了实证。差异:变换是逻辑/任务层面而非 paraphrase/domain/length 的 label-preserving 表层偏移;未给出 accuracy drop × cosine 旋转 的跨 shift×scale 矩阵,也未提免标注稳定性分数。是 C1 方向旋转主张需正面区分的工作。 |
| - **Ravichander et al. / 待核实, 2022** — *Probing Classifiers are Unreliable for Concept Removal and Detection* (NeurIPS 2022) [威胁:low] |
| - 概念上支撑 C1 的批判性前提(探针准确率高估表征中概念的真实存在/稳定性),但聚焦因果性与 concept removal,不涉及分布偏移下的方向稳定性度量或免标注预测分数。背景相关。 |
| - **待核实, 2026** — *Diagnosing Generalization Failures from Representational Geometry Markers* (arXiv 2603.01879(2026,预印本)) [威胁:medium] |
| - 强烈撞 C2 的方法论框架(免 OOD 标注、用 ID 侧量化指标 a-priori 预测 OOD 迁移性)。差异:用 manifold 几何指标而非探针方向 dispersion/augmentation-consistency,且为视觉模型、非语言探针、不比较探针类型。是 C2『免标注预测 OOD 迁移性』这一卖点的概念竞品,需说明我们的双分量方向指标与之正交。 |
| - **待核实, 2022** — *Predicting Fine-Tuning Performance with Probing* (EMNLP 2022(arXiv 2210.07352,待核实)) [威胁:low] |
| - 与 C2『用探针侧信号预测下游/迁移表现』同向,但预测目标是 fine-tuning 性能而非探针自身 OOD 稳定性,且不涉及方向 dispersion/augmentation-consistency。弱相关。 |
|
|
| > 评估: 已联网检索。本角度的结论:你们的五条贡献没有被任何单篇完整抢占,但每条都已被『部分前置』,且有两个高危撞车点。 |
|
|
| 最大撞车点(高危): |
| 1) C3(mass-mean vs LogReg 的 OOD 相对可迁移性比较)几乎被 Marks & Tegmark, The Geometry of Truth(COLM 2024)直接做过——他们正是提出 mass-mean 并系统对比其与 LogReg/CCS 在跨数据集 transfer 下更鲁棒。C3 单独看 novelty 很弱,必须靠『加入 MLP 第三方、跨 shift type × model size 的系统矩阵、并把比较结果绑定到你们的稳定性分数』来续命,否则会被审稿人直接判定重复。 |
| 2) C1+C4 的核心实证(label-preserving 风格偏移下探针准确率崩塃、且随 model size 出现非单调/逆向 scaling、augmentation 可缓解)与 2026 的 Pressure-Testing Deception Probes 高度重叠。你们相对它的唯一硬区分是『概念方向 cosine 旋转矩阵』这一几何量(它只看 AUROC 崩塃,不看方向旋转)以及把 augmentation 当预测信号而非修复手段——这两点必须在论文里前置强调,否则 C1/C4 会被认为是该文的子集。 |
|
|
| 仍然空白(你们真正的护城河): |
| - C2 的具体形式——『dispersion(同分布 K 次重采样方向离散度)+ augmentation-consistency(label-preserving 增广后方向一致性)』的双分量、免新标注、纯 forward-pass、用于训练前 a-priori 预测探针 OOD 迁移性——在本角度未找到完全对应工作。CCPS(隐状态扰动做置信度校准)与 Geometry Markers(ID 几何预测 OOD,视觉域)分别占了『稳定性信号』和『免标注 a-priori 预测』两个相邻 niche,但都不是『探针方向的重采样离散度 + 增广一致性』。这是你们最干净的 novelty,应作为主卖点突出,并显式与这两篇划界。 |
| - C5(用本地 DeBERTa-MNLI 做 label-fidelity 审计来保证 shift 是 label-preserving)在本角度未见任何探针文献采用;这是方法学增量(虽不足以单独成贡献),建议作为支撑 C1 严谨性的卖点而非独立 claim。 |
|
|
| 行动建议:把论文 framing 从『我们发现探针不稳定 + 我们比较探针类型』(已被占)转向『我们提出免标注、训练前可计算的方向级稳定性分数,并证明它能预测 OOD 迁移』(C2 为核心),把 C1/C3/C4 降格为支撑性诊断证据,并在 related work 中点名 Marks & Tegmark、Pressure-Testing Deception Probes、CCPS、Geometry Markers 做正面切割。注意:多篇 2026 预印本(2605.27958、2603.01879、ICLR 2026 kHVzEjThKE)venue 与作者仍待核实,投稿前请二次确认。 |
|
|
| ### 角度: 探针到底测了什么、探针可靠性争议(amnesic probing / information-theoretic probing / probe vs mode... |
|
|
| - **Elazar, Ravfogel, Jacovi & Goldberg, 2021 (arXiv 2020)** — *Amnesic Probing: Behavioral Explanation with Amnesic Counterfactuals* (TACL 2021) [威胁:medium] |
| - 与 C1 的动机层强重叠:都在质疑探针准确率高估了特征的真实地位。但 Amnesic Probing 质疑的是'被模型使用与否(causal usage)',而非'在 label-preserving 输入分布偏移下是否稳定(robustness/OOD)';它需要反事实擦除而非纯 forward-pass,也不给 a priori 预测分数。 |
| - **Voita & Titov, 2020** — *Information-Theoretic Probing with Minimum Description Length* (EMNLP 2020) [威胁:medium] |
| - 与 C1+C2 概念层重叠:同样主张'accuracy 不足以衡量特征被编码的可靠程度',并提出替代度量。但 MDL 衡量的是同分布下的编码努力/压缩,不涉及 paraphrase/domain/length 偏移,也不预测 OOD 迁移、不含方向稳定性或增广一致性。是你度量动机的最重要先验之一,需在 related work 明确区分。 |
| - **Hewitt & Liang, 2019** — *Designing and Interpreting Probes with Control Tasks* (EMNLP 2019) [威胁:medium] |
| - 与 C1 动机重叠(accuracy 会高估)且与 C3 间接相关(线性 vs 非线性探针的可信度差异,呼应你 mass-mean/LogReg/MLP 比较)。但 selectivity 衡量的是'探针自身容量混淆',不是输入分布偏移下的稳定性,也无方向旋转、无 OOD 预测分数。 |
| - **Belinkov, 2022** — *Probing Classifiers: Promises, Shortcomings, and Advances* (Computational Linguistics (MIT Press) 2022) [威胁:medium] |
| - 与 C1 高度重叠在'问题陈述'层面——你要量化的'accuracy 高估特征稳定性'正是该综述列出的核心缺陷之一。威胁不在于它做了你的实验,而在于审稿人会用它说'这个问题早已是共识'。需要你用具体的偏移矩阵+方向旋转把'已知缺陷'落成'可量化诊断'来体现增量。 |
| - **Marks & Tegmark, 2023/2024** — *The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets* (COLM 2024 (arXiv 2310.06824)) [威胁:high] |
| - 对 C3 是最直接威胁:'mass-mean vs LogReg 的相对(跨分布)可迁移性比较'核心结论它已给出,且方法上引入了 difference-of-means 探针的现代用法。你的 C3 若仅复述'mass-mean 更可迁移'会被判为已知。差异点:它聚焦 truth 这一概念、用跨数据集泛化而非系统化的 paraphrase/domain/length label-preserving 偏移矩阵,也无 MLP、无 model-size ladder、无 a priori 稳定性分数。 |
| - **Gao, Zhu, Zeng, Zhao, Wang, Ruan & Ding, 2026** — *RAPTOR: Ridge-Adaptive Logistic Probes* (arXiv 2602.00158 (2026, venue 待核实)) [威胁:high] |
| - 对 C2 的 dispersion 分量是最近、最危险的撞车:它已经把'对训练数据扰动下的方向 cosine 稳定性'作为正式评测指标。区别在于 RAPTOR 把方向稳定性当作改进探针训练的目标/评估,而非'训练前、免标注、用来预测 OOD 迁移的双分量预测分数',也不含 augmentation-consistency 分量、不做 paraphrase/domain 偏移迁移、不做 size ladder。务必引用并清楚切割:你是 a priori 预测器,它是 robustness 评估+方法改进。 |
| - **Boxo, Neelappa & Raval, 2026** — *Linear Probes Rely on Textual Evidence (leakage mitigation in LLM probes)* (ICML 2026 (arXiv 2509.21344, venue 待核实)) [威胁:medium] |
| - 与 C1 动机强重叠的'近作':直接给出'探针准确率虚高、表征不稳健'的量化证据,会被用来质疑你 C1 的新颖性。但它走的是 token-level 证据泄漏路径,不是 label-preserving 输入分布偏移,也无方向旋转、无 a priori 分数、无 mass-mean/size 比较。是必须 cite 并区分的同期工作。 |
| - **Anonymous/待核实, 2025-2026** — *No Answer Needed: Predicting LLM Answer Accuracy from Question-Only Linear Probes* (OpenReview (待核实)) [威胁:low] |
| - 与 C2 的'仅 forward-pass、事前预测'范式精神相近,可能被审稿人援引为'事前探针预测'已有先例。但它预测的是答案正确性,不是探针自身的 OOD 可迁移性,目标对象完全不同,无方向稳定性/增广一致性。 |
| - **Ravichander, Belinkov & Hovy, 2021** — *Probing the Probing Paradigm: Does Probing Accuracy Entail Task Relevance?* (EACL 2021) [威胁:medium] |
| - 与 C1 动机重叠:再次证明 accuracy 会高估特征的真实地位。但关注'任务相关性'而非分布偏移稳健性,无方向旋转、无预测分数、无 C3/C4。属背景到中等的反例支撑文献。 |
|
|
| > 评估: 已联网检索(WebSearch/WebFetch 可用)。本角度结论如下。 |
|
|
| 最大撞车点(按风险排序): |
| 1) C3 撞 Marks & Tegmark《The Geometry of Truth》(COLM 2024, high)。'mass-mean(difference-of-means)vs LogReg 在跨分布下更可迁移'这一核心结论已被发表,且 mass-mean 探针的现代用法即源于此。C3 不能停在'mass-mean 更稳';必须靠'系统化 shift type × model size 矩阵 + 加入 MLP + label-fidelity 审计'来制造增量,否则会被直接判为已知。 |
| 2) C2 的 dispersion 分量撞 RAPTOR(arXiv 2026, high)。'对训练数据扰动的方向 cosine 稳定性'已被它作为正式 directional-robustness 指标。你的护城河必须落在 RAPTOR 没有的三点:(a) 这是训练前、免新标注的 a priori 预测器,目标是预测 OOD 迁移性而非改进探针;(b) 双分量,额外含 augmentation-consistency;(c) 跨 paraphrase/domain/length 偏移与 size ladder 的预测有效性验证。强烈建议把'我们的分数能 a priori 预测 C1 矩阵里的 accuracy drop / 方向旋转'做成核心实验,这是与所有先验最干净的切割。 |
| 3) C1 的'问题本身'被大量经典+近作占据(Belinkov 综述、Hewitt&Liang、Ravichander、Voita&Titov,以及 2026 的 leakage 论文)。'探针准确率高估特征可靠性'已是领域共识级命题,审稿人极可能说'not new'。C1 的新颖性只能来自'量化方式'——即把已知缺陷落成 accuracy drop + 概念方向 cosine 旋转 的双轴矩阵,且明确限定在 label-preserving 输入分布偏移(而非 token 泄漏、控制任务或因果擦除)。务必在 related work 用一句话各自切割上述四篇。 |
|
|
| 仍有空白(你的真实可辩护新颖性): |
| - 没有任何一篇把'同分布重采样方向离散度 + label-preserving 增广方向一致性'组合成单一、免标注、训练前的探针稳定性预测分数,并验证其对 OOD 迁移的预测力。这是 C2 最干净的空白,应作为论文第一卖点。 |
| - 没有人用'概念方向 cosine 旋转'作为跨 paraphrase/domain/length 偏移的稳定性轴(现有方向-cosine 工作都在'数据扰动/seed'维度,如 RAPTOR;偏移维度是空白)。C1 的方向旋转矩阵因此有真增量。 |
| - C4(model-size ladder 对探针 OOD 稳定性的影响)在本角度文献里基本无人系统做(本角度多为单模型/单规模),是相对安全的贡献,但单独不足以撑论文。 |
| - C5(本地 NLI/DeBERTa-MNLI 做 label-fidelity 审计以保证 shift 是 label-preserving)在本角度未见对应工作,属方法学卫生措施而非独立新颖点,审稿人不会视为贡献但会因其缺失而质疑 C1 的有效性——保留但别当卖点。 |
|
|
| 行动建议:把叙事重心从 C1(易被判已知)转到 C2(a priori 免标注预测器)为主轴,用 C1 矩阵作为'被预测的真值'、C3/C4 作为外部效度验 |
|
|
| ### 角度: 线性表示假设 / 真值几何 / 概念方向(linear representation hypothesis, geometry of truth, concep... |
|
|
| - **Liang et al. (2025), 作者名待核实** — *LLM Knowledge is Brittle: Truthfulness Representations Rely on Superficial Resemblance* (arXiv:2510.11905(2025-10);会议归属待核实) [威胁:high] |
| - C1 几乎完全重叠(accuracy drop + 概念方向 cosine 旋转 across shift type,且 shift 类型 paraphrase/domain/length 与我们逐字一致);很可能也涉及 C4(多模型/规模)。未见 C2(无 forward-pass 先验预测分数)、未明确 C5(NLI 审计)、C3 仅部分(用了多种探针但未见系统的 mass-mean/LogReg/MLP 可迁移性对比)。 |
| - **Bao, Zhang et al. (2025)** — *Probing the Geometry of Truth: Consistency and Generalization of Truth Directions in LLMs Across Logical Transformations and Question Answering Tasks* (Findings of ACL 2025(arXiv:2506.00823);有公开代码) [威胁:high] |
| - C1 中等重叠(跨变换的方向一致性/泛化,但其变换是逻辑变换/QA,而非我们的 paraphrase/domain/length 分布偏移);C4 重叠(模型能力/规模越强方向越一致);C3 部分(讨论简单 vs 复杂探针是否必要)。未涉及 C2 的先验预测分数,未涉及 C5。 |
| - **作者待核实 (2026)** — *How Context Shapes Truth: Geometric Transformations of Statement-level Truth Representations in LLMs* (arXiv:2601.06599(2026-01)) [威胁:high] |
| - C1 中-高重叠(方向旋转角 θ 作为核心度量,与我们的概念方向 cosine 旋转同构,只是触发因素是上下文而非 paraphrase/domain/length);C4 高度重叠(明确给出 model size × 方向变化的结论)。未涉及 C2 的免标注先验稳定性分数,未涉及 C3、C5。 |
| - **Marks & Tegmark (2023/2024)** — *The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets* (arXiv:2310.06824;COLM 2024(待核实)) [威胁:high] |
| - C3 高度重叠(正是 mass-mean vs LogReg vs CCS 的可迁移性/鲁棒性比较的来源,且已声称 mass-mean 对分布偏移更鲁棒——我们的 C3 很大程度是在复刻+扩展);C4 部分(规模才出现线性结构);C1 背景(transfer 实验)。未涉及 C2、C5。 |
| - **Aithal, Kashyap et al. (2021)** — *Robustness to Augmentations as a Generalization Metric* (arXiv:2101.06459(NeurIPS 2020 Predicting Generalization in Deep Learning 竞赛亚军方案)) [威胁:medium] |
| - C2 中等重叠:augmentation-consistency 作为 label-free 泛化预测量的核心思想已被提出(但对象是分类网络整体泛化,而非探针方向在 OOD 的可迁移性,也无 dispersion 分量、无 LLM 概念方向语境)。是我们 C2「双分量分数」中 augmentation-consistency 一支的最直接先验思想。 |
| - **作者待核实 (2024)** — *Truth-value judgment in language models: 'truth directions' are context sensitive* (arXiv:2404.18865(2024)) [威胁:medium] |
| - C1 中等(为「探针/方向不稳定」提供早期证据,但未做 accuracy drop × 方向旋转的系统矩阵,也无 paraphrase/domain/length 三类偏移设计);C4 弱相关。未涉及 C2/C3/C5。 |
| - **作者待核实 (2025)** — *Are Sparse Autoencoders Useful? / SAE probes vs logistic regression baselines* (arXiv:2502.16681(2025)) [威胁:medium] |
| - C3 中等(探针方法系统比较的范式与基线选择,虽未含 mass-mean/MLP 的 OOD 专门对比);C1 弱相关。未涉及 C2、C4(规模)、C5。 |
| - **作者待核实 (2025)** — *The Impact of Off-Policy Training Data on Probe Generalisation* (arXiv:2511.17408(2025)) [威胁:low] |
| - C1 弱-中(探针泛化受分布影响,但聚焦训练数据 on/off-policy 而非输入端 label-preserving 偏移,也无方向旋转度量);未涉及 C2/C3/C4/C5。 |
| - **Park, Choe & Veitch (2023/2024)** — *The Linear Representation Hypothesis and the Geometry of Large Language Models* (ICML 2024(arXiv:2311.03658)) [威胁:low] |
| - 全为背景(C1 方向 cosine 度量的理论依据);不直接做探针稳定性/OOD 实验。无 C2-C5 重叠。 |
|
|
| > 评估: 已联网检索(WebSearch + WebFetch arXiv 全文)。诚实结论:本角度下我们的 novelty 处于高度拥挤区,C1、C3、C4 基本已被抢占,真正未被占领的护城河只剩 C2 的「双分量、免标注、训练前先验预测」整体打包,以及 C5 的方法学细节。 |
|
|
| 最大撞车点(逐条): |
| - C1 = 最危险。arXiv:2510.11905「LLM Knowledge is Brittle」几乎逐字做了我们 C1 要做的事:in-distribution 探针准确率高估真值特征鲁棒性,且在 paraphrase/domain/length(与我们三类偏移完全一致)下度量 accuracy drop + 概念方向 cosine 漂移。再叠加 2601.06599 把「方向旋转角 θ × model size」这条结论也做了。我们不能再把 C1 当作主贡献,最多作为复现+扩展,且必须显式区分于这两篇(例如:我们是 shift-type × model-size 的完整矩阵化、并把方向旋转与 accuracy drop 解耦量化)。务必注意 2510.11905 的「superficial resemblance」叙事会被审稿人直接拿来质疑 C1 的新颖性。 |
| - C3 = 已被 Marks & Tegmark(2310.06824)定调:mass-mean vs LogReg vs CCS、且已声称 mass-mean「对分布偏移更鲁棒、更因果」。我们的 C3 若只比 mass-mean/LogReg/MLP 的 OOD 可迁移性,基本是复刻;增量必须落在 MLP(非线性)这一未被充分比较的轴上,或与 C2 分数的相关性验证上,否则审稿人会判为已知结论。 |
| - C4 = 2506.00823 与 2601.06599 都已给出「模型越大/越强→方向越一致/靠方向变化区分」的规模结论;C4 单独不构成贡献,只能作为辅助维度。 |
| - C5(NLI label-fidelity 审计)= 检索未见同角度有人明确用本地 NLI(DeBERTa-MNLI)审计 shift 的 label-preserving 性;但这是方法学卫生措施,难以单独支撑 novelty。 |
|
|
| 仍留白(可主打的差异化): |
| 1) C2 的整体打包是目前唯一未见先例的核心。检索到的最接近先验是 2101.06459(augmentation-robustness 作为 label-free 泛化度量),但那是「分类网络整体泛化」非「探针方向 OOD 可迁移性」,且没有 dispersion(同分布 K 次重采样方向离散度)这一分量、没有 LLM 概念方向语境。建议把论文重心明确转向 C2:强调它是 a priori、forward-pass-only、双分量、专门预测探针方向 OOD 迁移的分数,并实证它与 C1 观测到的 accuracy drop / 方向旋转高度相关(把 C1/C3/C4 降级为支撑 C2 的证据,而非并列贡献)。 |
| 2) 必须补充与 2101.06459 的区分与(若可能)对照实验,否则 C2 的 augmentation-consistency 分量会被指为已知思想的迁移。 |
| 3) dispersion 分量(重采样方向离散度作为稳定性预测量)在本角度检索中未见直接对应,是 C2 内最干净的新点,建议作为卖点之一并单独消融。 |
|
|
| 未能确认的点(建议进一步精读全文):2510.11905 是否做了 mass-mean/LogReg/MLP 系统对比(WebFetch 显示 |
|
|
| ### 角度: 概念擦除与方向估计:INLP / RLACE / LEACE / mass-mean(difference-of-means)/ steering vector... |
|
|
| - **Marks & Tegmark, 2023** — *The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets* (COLM 2024 (arXiv:2310.06824)) [威胁:high] |
| - C3 直接重叠(mass-mean vs LogReg 的相对可迁移性正是它的核心卖点之一);C1 部分重叠(展示了探针跨数据集迁移 accuracy 的变化)。但它把 mass-mean 当作'更好'来推销,没有把跨分布 accuracy 高估当成系统性诊断问题,也无方向旋转矩阵、无 a priori 预测分数、无 NLI 审计。 |
| - **Anonymous/Hazratian & Zia (待核实作者), 2026** — *The Truthfulness Spectrum Hypothesis* (arXiv:2602.20273(2026-02,预印本,待核实正式 venue)) [威胁:high] |
| - C2 最强威胁:它正面解决了'预测探针 OOD 迁移性',且明确指出普通 cosine 不够、需白化——这会侵蚀你 C2 中'方向一致性/旋转'分量的新意。C4 也重叠(model size ladder)。关键差异(你的护城河):它的预测器需要在 OOD 数据上训练一个 reference probe 才能算 MCS,不是 forward-pass-only / a priori / 免新标注;它评估的是真值这一单一概念域、用 LogReg、无 paraphrase/length/domain 的 label-preserving shift 框架、无 NLI 审计、无 dispersion(K 次同分布重采样)分量。 |
| - **Ravfogel, Goldberg et al. (待核实完整作者), 2022** — *Probing Classifiers are Unreliable for Concept Removal and Detection* (NeurIPS 2022 (arXiv:2207.04153)) [威胁:medium] |
| - C1 的基石性背景:它确立了'探针准确率可被虚假相关误导、高估概念存在'这一核心命题。你 C1 的增量在于把它具体化为 label-preserving 分布偏移(paraphrase/domain/length)下的 accuracy drop × cosine 旋转矩阵 × model size,而该文不做分布偏移矩阵、不做方向旋转量化、不做预测分数。属于必须正面区分并引用的 prior art。 |
| - **Tan, Chanin et al. (待核实完整作者), 2024** — *Analysing the Generalisation and Reliability of Steering Vectors* (NeurIPS 2024 (arXiv:2407.12404)) [威胁:medium] |
| - C1/C3 中等重叠:steering vector = mass-mean 方向,该文已展示这类方向对输入改动的脆性(与你'稳定性被高估'同源),并触及可控性可被某些信号预测。差异:它面向 steering 干预效果(behavioural)而非探针分类 accuracy/方向旋转矩阵;无 a priori forward-pass 双分量分数;无 NLI label-fidelity 框架;模型规模非主轴。 |
| - **(待核实作者), 2025** — *Understanding (Un)Reliability of Steering Vectors in Language Models* (arXiv:2505.22637(2025,预印本,待核实 venue)) [威胁:medium] |
| - C2 中高威胁:它的'cosine 一致性预测有效性'+ d' 可分性指标,在思想上非常接近你 C2 的两个分量(方向一致性 + 离散度/可分性),且都是从激活几何 a priori 推断。差异:它针对 steering 有效性而非探针 OOD accuracy;无 dispersion(K 次同分布重采样)正式定义;无 paraphrase/domain/length 的 label-preserving shift 协议;无 NLI 审计;无 mass-mean/LogReg/MLP 三者系统比较;无 model size ladder。 |
| - **Méloux, Portet & Peyrard, 2025** — *Mechanistic Interpretability as Statistical Estimation: A Variance Analysis* (arXiv:2510.00845(2025,预印本,待核实 venue)) [威胁:medium] |
| - C2 dispersion 分量的概念前身:'用 K 次重采样的方向离散度衡量探针稳定性'这一核心机制与你高度同构。差异(待全文确认):它把 dispersion 当作'可信度/可复现性'诊断,未必把它接到'a priori 预测 OOD 迁移 accuracy'这一具体目标上,且未必含 augmentation-consistency 第二分量、label-preserving shift 协议与 NLI 审计。建议优先精读全文判定是否需降为护城河外或升为 high。 |
| - **Azizian, Kirchhof, Ndiaye, Bethune, Klein, Ablin, Cuturi, 2025** — *The Geometries of Truth Are Orthogonal Across Tasks* (arXiv:2506.08572(2025,预印本,待核实 venue)) [威胁:medium] |
| - C1/C3 重叠:它正是'方向旋转/正交 ↔ accuracy 掉落'的量化,与你 C1 矩阵中'cosine 旋转'一列同源,并涉及多探针类型。差异:它跨任务(task)而非你强调的 label-preserving 同任务输入分布偏移(paraphrase/domain/length);无 forward-pass a priori 预测分数;无 NLI 审计;无 model size ladder 为主轴。 |
| - **Ravfogel, Twiton, Goldberg, Cotterell (待核实), 2022** — *Linear Adversarial Concept Erasure (RLACE)* (ICML 2022 (arXiv:2201.12091)) [威胁:low] |
| - 背景相关:为你'方向估计本身不稳定'提供方法学锚点(RLACE 优化不稳),但它不研究 label-preserving 分布偏移下探针 accuracy 高估,不提预测分数,不做 paraphrase/NLI。属应引用的方向估计可靠性脉络,但不构成 novelty 撞车。 |
| - **Belrose, Schneider-Joseph, Ravfogel, Cotterell, Raff, Biderman, 2023** — *LEACE: Perfect Linear Concept Erasure in Closed Form* (NeurIPS 2023 (arXiv:2306.03819)) [威胁:low] |
| - 背景相关:concept erasure 角度的 SOTA 锚点,但聚焦'擦除得多干净'而非'探针方向在 label-preserving 偏移下是否稳定/可迁移',与 C1–C5 无直接方法撞车。 |
| - **Ravfogel, Elazar, Goldberg, Cotterell (待核实), 2020** — *Null It Out: Guarding Protected Attributes by Iterative Nullspace Projection (INLP)* (ACL 2020 (arXiv:2004.07667)) [威胁:low] |
| - 背景相关:与 RLACE 一道支撑'线性方向估计本身脆弱'的论点,但不涉及分布偏移下的探针 accuracy 高估、预测分数、paraphrase/NLI。 |
|
|
| > 评估: 已联网检索(WebSearch/WebFetch)。重要可靠性提示:WebFetch 的小模型摘要出现过明显的"附和我的检查清单全中"幻觉——我已对每篇下载 PDF 抽样核验,确认 arXiv:2602.03951(TorRicc)其实是 CIFAR 视觉模型 + 谱复杂度/Ricci 曲率做无监督 checkpoint 选择,与本角度几乎无关(故未列入,顶多算 label-free OOD 预测哲学的远亲);2510.00845 与 2602.20273 的"全中"部分也按怀疑态度下调或标注待核实。 |
|
|
| 最大撞车点(按威胁排序): |
| 1) C2(a priori 预测探针 OOD 迁移性)是你被抢占风险最高的贡献。arXiv:2602.20273(Truthfulness Spectrum, 2026-02)已用 Mahalanobis-白化后的方向相似度近完美预测 OOD AUROC(R²≈0.98),并明确说普通 cosine 不够——这几乎正面命中你"用方向一致性预测迁移"的卖点,且跨 model size。你唯一且关键的护城河是:它的预测器需要在 OOD 数据上额外训练 reference probe(需 OOD 标注),而你主张 forward-pass-only / 免新标注 / 训练前 a priori,且含 dispersion(同分布 K 次重采样)这一不需要任何 shift 数据的分量。务必在论文里把"是否需要触碰目标分布/新标注"作为核心区分轴写死,并直接对比 MCS。 |
| 2) C3(mass-mean vs LogReg vs MLP 的 OOD 相对可迁移性)已被 Marks & Tegmark(2023)实质性占据 mass-mean vs LogReg 这一半;你的增量只剩"加入 MLP + 在系统化 label-preserving shift 矩阵下比较"。建议把 C3 从"比较"重新定位为"在你的 shift × size 矩阵框架内的受控复现+扩展",否则单独作为贡献偏弱。 |
| 3) C1(accuracy 高估 + 方向旋转矩阵)在'探针不可靠/会高估'(NeurIPS'22)与'方向跨任务正交 ↔ 迁移失败'(2506.08572)之间被两头夹。但没有一篇把它组织成 shift type(paraphrase/domain/length)× model size 的 accuracy-drop × cosine-rotation 双矩阵,这个具体形态仍可主张为新颖呈现。 |
| 4) C2 的 dispersion 分量思想已有前身(2510.00845 把方向重采样离散度当可靠性指标;2505.22637 用激活差 cosine 一致性 + d' 预测 steering 有效性)。"双分量(dispersion + augmentation-consistency)合成一个分数、专门用于训练前预测探针 OOD"这个组合目前未见完全重合者,是你最干净的立足点。 |
|
|
| 仍存的空白(= 你可主张的真正 novelty): |
| - forward-pass-only / 免任何 OOD 数据与新标注 的 a priori 预测(vs 2602.20273 需 OOD reference probe); |
| - dispersion + augmentation-consistency 双分量的显式合成与互补性消融; |
| - label-preserving 的 paraphrase/domain/length shift 受控协议,尤其 C5 |
|
|
| ### 角度: 探针在分布偏移/OOD 下的泛化与失效(probing under distribution shift; robustness of probing clas... |
|
|
| - **Xie, Wei, Feng, Cao, An (2023)** — *On the Importance of Feature Separability in Predicting Out-Of-Distribution Error (Dispersion Score)* (NeurIPS 2023(arXiv:2303.15488,待核实最终录用会议)) [威胁:high] |
| - 对 C2 威胁最大:与我们 PSS 的第一个分量(dispersion/方向离散度)在名称、机制(feature dispersion)、目标(免标注+仅前向预测 OOD 性能)上几乎正面撞车。差异:他们用于一般图像分类器的整体精度估计,不是 concept-direction/线性探针,不含 augmentation-consistency 第二分量,也不做 a priori(他们是在给定 OOD 测试集上估精度,我们是训练前预测探针迁移性)。 |
| - **Levinstein & Herrmann / Bürger 等 (2024)（'truth directions are context sensitive'）** — *Truth-value judgment in language models: 'truth directions' are context sensitive* (arXiv:2404.18865(待核实正式 venue)) [威胁:high] |
| - 对 C1 威胁高:正是'探针准确率高估了概念方向稳定性、在 label-preserving 上下文/改述偏移下方向漂移'这一核心观察。差异:聚焦真值方向单一概念、未给出 accuracy-drop × direction-rotation 跨 shift×模型规模 的系统矩阵,也未提出预测性 score(不碰 C2)。 |
| - **Azizian, Kirchhof, Ndiaye, Bethune, Klein, Ablin, Cuturi (2025)** — *The Geometries of Truth Are Orthogonal Across Tasks* (arXiv:2506.08572(待核实)) [威胁:high] |
| - 对 C1/C3 中等偏高:用方向几何(正交=cosine 旋转)量化探针跨分布不可迁移,与 C1 的'方向旋转'指标同源。差异:跨任务而非 label-preserving 输入偏移(paraphrase/domain/length),且无免标注预测 score、无 mass-mean/LogReg/MLP 比较、无规模阶梯。 |
| - **Marks & Tegmark (2023)** — *The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets* (arXiv:2310.06824(后续 COLM/会议版本待核实)) [威胁:high] |
| - 对 C3 威胁高:已直接做了 mass-mean vs LogReg 的跨数据集(可视为 OOD)相对迁移性比较,且结论是 difference-of-means 更稳。我们的 C3 若只停在'mass-mean vs LogReg vs MLP 谁更稳'会被认为增量;需靠 MLP 纳入 + 系统化 shift 类型 + 与 PSS 预测对齐来区分。差异:无 MLP,无 paraphrase/length 偏移设计,无预测 score。 |
| - **多篇 (2025-2026)：'generalization of LLM truth directions on conversational formats'(2505.09807)、'Probing the Geometry of Truth: Consistency and Generalization across Logical Transformations'(2506.00823)、'Testing the Limits of Truth Directions'(2604.03754)** — *Truth-direction generalization across formats / logical transformations 系列* (arXiv(2025-2026,均待核实)) [威胁:medium] |
| - 对 C1/C4 中等:覆盖了 length/format 这类 label-preserving 偏移并量化泛化,与 C1 的 length shift、与 C4 的'结构变化下稳定性'有重叠。差异:仍局限于真值任务,无统一的 accuracy-drop×rotation 矩阵,无免标注 a priori score,规模阶梯不是主轴。 |
| - **Müller 等 / 待核实 (2025)** — *Intermediate Layer Classifiers for OOD Generalization (ICLR 2025)* (ICLR 2025(proceedings.iclr.cc,待核实作者)) [威胁:medium] |
| - 对 C1/C4 中等:直接研究线性探针 OOD 泛化、层与规模因素,且量化 accuracy 在 shift 下的保持率。差异:视觉/表征学习设定为主,概念方向旋转、免标注预测 score、NLI label-fidelity 审计均不涉及。 |
| - **Hewitt & Liang (2019)** — *Designing and Interpreting Probes with Control Tasks (selectivity)* (EMNLP 2019) [威胁:low] |
| - 对 C1/C2 低-中:是'探针准确率会误导、需要额外诊断量'这一论点的奠基性背景,与我们 PSS 作为'诊断量'同属一脉,但 selectivity 针对记忆/复杂度而非分布偏移稳定性,且非免标注预测 OOD 迁移。 |
| - **Belinkov (2022)** — *Probing Classifiers: Promises, Shortcomings, and Advances* (Computational Linguistics 48(1)) [威胁:low] |
| - 对 C1 低:为我们的动机(探针指标不可尽信)提供权威背景,但不提供任何偏移矩阵、score 或方法比较,属定位/引用价值。 |
| - **Ravichander, Belinkov, Hovy (2021)** — *Probing the Probing Paradigm: Does Probing Accuracy Entail Task Relevance?* (EACL 2021) [威胁:low] |
| - 对 C1 低:支撑'准确率高估特征有用性/稳定性'的总论点,但聚焦任务相关性而非分布偏移下的方向稳定性,无 score 提案。 |
|
|
| > 评估: 已联网检索。本角度下你们最大的撞车点有两处,均需在论文中正面处理: |
|
|
| 1) C2(免标注、仅前向的双分量 PSS)与 Xie et al. 2023 的 "Dispersion score" 高度同名同质——同样是 label-free、forward-pass、用 feature dispersion 预测分布偏移下性能。区分点必须明确且可被审稿人一眼看到:(a) 我们是对'线性/概念探针的方向稳定性'而非'整体分类精度'打分;(b) 我们是训练前 a priori 预测探针迁移性,而非在给定 OOD 测试集上估精度;(c) 我们加了第二个正交分量 augmentation-consistency,且需用消融证明它在 dispersion 之外提供增量。否则 C2 会被定性为 Dispersion score 的换皮迁移。建议直接把 Dispersion score 作为 baseline 跑对比。 |
|
|
| 2) C1(准确率高估方向稳定性 + accuracy-drop×cosine-rotation 矩阵)的核心现象已被 "truth directions" 系列(Levinstein/Bürger 2024、Azizian et al. 2025 正交性、conversational-format/logical-transformation 系列 2025-2026)在真值方向这一特例上反复证明,包括用方向旋转/正交性量化。你们的真正新意只能落在'系统性矩阵'(shift type × model size × probe type)+ 跨多概念(不止真值)+ 与可预测 score 挂钩,而非'发现方向会漂移'这一已知事实。C3(mass-mean vs LogReg)也已被 Marks & Tegmark 2023 部分做掉,纯比较是增量;靠纳入 MLP、统一 shift 设计、并把比较结果用 PSS 预测出来才有区分度。 |
|
|
| 仍存在的空白(你们可主打的护城河):没有任何一篇把(i)免标注 a priori 探针稳定性 score、(ii)dispersion+augmentation-consistency 双分量、(iii)label-preserving 偏移的 accuracy-drop×direction-rotation 系统矩阵、(iv)mass-mean/LogReg/MLP 三探针×规模阶梯、(v)本地 NLI(DeBERTa-MNLI)做 shift 的 label-fidelity 审计——五者整合在统一框架里。尤其 C5(NLI 审计保证 shift label-preserving)在本角度文献中几乎无人配套使用,是相对干净的方法学贡献点,但单独 novelty 不足以支撑论文,应作为严谨性卖点而非核心 claim。 |
|
|
| 诚实结论:C1、C2、C3 单独看都已被相邻工作不同程度抢占(C2 最危险,直接撞 Dispersion score 之名与机制),论文的可辩护新颖性集中在'a priori 预测 + 双分量 + 系统矩阵 + NLI 审计'的整体打包与'方向稳定性视角的 score 化'上,务必在 related work 显式区分上述四篇 high-threat 工作并用实验(Dispersion score、mass-mean 作 baseline)证明增量。 |
|
|
| ### 角度: 表示/方向的稳定性与旋转:线性探针方向在 seed/重采样/扰动/分布偏移下的不稳定性与旋转(cosine 漂移)、direction consistency、... |
|
|
| - **Gao, Zhu, Zeng, Zhao, Wang, Ruan, Ding — 2026** — *RAPTOR: Ridge-Adaptive Logistic Probes* (arXiv:2602.00158 (preprint;投稿目标未知,待核实)) [威胁:high] |
| - 与 C2 的 dispersion 分量高度重叠(其 eq.9 几乎就是我们的'同分布重采样方向离散度',只是用 1−|cos| 还是 |cos| 的符号约定差异);与 C4(model size ladder 影响方向稳定性)直接重叠;与 C3 部分重叠(比较不同探针估计子的方向稳定性,但不是 mass-mean/LogReg/MLP 这条具体轴线);与 C1 在动机表述上重叠(accuracy 高估稳定性)。缺口:没有 augmentation-consistency 分量、不做 label-preserving 输入偏移(paraphrase/length/domain)、不构建 accuracy-drop×cosine-rotation 矩阵、不把分数当作训练前 a priori 的 OOD 迁移预测器(它的稳定性是诊断而非预测 OOD)。 |
| - **Lysnæs-Larsen, Eggen, Strümke (NTNU) — 2025** — *Probing the Probes: Methods and Metrics for Concept Alignment* (arXiv:2511.04312 (待核实是否已被会议接收)) [威胁:high] |
| - 与 C2 的 augmentation-consistency 分量高度重叠:同样是'label-preserving 增广后方向一致性、forward-pass-only、归一化到 0–1'的探针质量分数。区别:这是视觉/ResNet50/CAV 场景,增广是图像变换而非文本 paraphrase/length/domain;不含同分布重采样 dispersion 分量;不把两分量合成单一 Probe Stability Score;不预测 OOD 迁移;不比较 mass-mean/LogReg/MLP;不变 model size。 |
| - **Huang (William Hao-Cheng) — 2025** — *Spectral Identifiability for Interpretable Probe Geometry* (arXiv:2511.16288 (preprint,待核实)) [威胁:high] |
| - 与 C2 的核心动机/定位撞车最危险的一篇:同样是'在训练/部署前 a priori 预测探针方向可靠性'的免标注判据。但机制不同——它用 spectral/eigengap 几何而非 dispersion+augmentation 双分量;聚焦 in-distribution 可识别性而非显式预测 OOD/label-preserving shift 迁移;不构建 accuracy-drop×rotation 矩阵;不比较探针族;model size 未系统化。属'同一空白被另一种方法占住',对 C2 的'首个 a priori 探针稳定性预测器'新颖性主张构成实质威胁。 |
| - **Marks & Tegmark — 2023/2024** — *The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets* (COLM 2024(待核实);arXiv:2310.06824) [威胁:high] |
| - 与 C3 直接、强重叠:正是'mass-mean vs LogReg(+CCS)在跨数据集/OOD 下相对可迁移性'的系统比较,且给出 mass-mean 更可迁移的结论——这会削弱 C3 的新颖性,需明确我们相对它的增量(加入 MLP、label-preserving 输入偏移、规模 ladder、以及把可迁移性与稳定性分数挂钩)。与 C4 部分相关(它有 scale 讨论)。不覆盖 C2 的稳定性分数,也不做 paraphrase/length 偏移。 |
| - **Bürger / Levinstein 等(Truth-value judgment)— 2024,及 Probing the Geometry of Truth — 2025** — *Truth-value judgment in language models: 'truth directions' are context sensitive (2404.18865);Probing the Geometry of Truth: Consistency and Generalization of Truth Directions across Logical Transformations and QA (2506.00823)* (arXiv:2404.18865 / arXiv:2506.00823(会议状态待核实)) [威胁:high] |
| - 与 C1 核心现象强重叠:同时记录了'准确率下降'与'方向旋转/近正交'这两件事,正是我们 C1 想系统化的 accuracy-drop + direction-rotation。区别:它们的偏移是逻辑/上下文/否定与跨域,而非我们刻意构造的 label-preserving paraphrase/length/domain 矩阵,也未把它组织成 shift-type × model-size 的二维矩阵,且未提出稳定性分数。仍显著压缩 C1 '系统量化高估'的新颖空间。 |
| - **Kramár, Engels, Wang, Chughtai, Shah, Nanda, Conmy (Google DeepMind)— 2026** — *Building Production-Ready Probes for Gemini* (arXiv:2601.11516 (cs.LG, preprint)) [威胁:medium] |
| - 与 C1 在'准确率高估稳定性 / 输入长度偏移下崩溃'上重叠,且是 length-shift 的高质量证据点。但偏工程/安全部署视角,不量化方向 cosine 旋转、不做 paraphrase/domain 矩阵、不提稳定性分数、不比较探针族、不做规模 ladder。主要威胁 C1 的'长度偏移导致高估'这一子论点的首发性。 |
| - **Ding & Koehn 等(On Model Stability as a Function of Random Seed)— 2019** — *On Model Stability as a Function of Random Seed* (CoNLL 2019 (aclanthology K19-1087)) [威胁:low] |
| - 背景层面支撑 C2 的 dispersion 动机(同条件多次训练方向/性能会漂移),但针对的是任务模型而非线性探针方向、不涉及 cosine 旋转、不预测 OOD、不提稳定性分数。仅作 related work 引用。 |
| - **Ding, Denain & Steinhardt(Grounding Representation Similarity with Statistical Testing);Davari 等(Reliability of CKA, ICLR 2023);Deconfounded CKA — 2021–2023** — *Grounding Representation Similarity with Statistical Testing / Reliability of CKA as a Similarity Measure / Deconfounded Representation Similarity* (NeurIPS 2021 / ICLR 2023 / 2022(arXiv:2108.01661, 2202.00095 等)) [威胁:low] |
| - 方法论背景:为'用相似度/方向一致性衡量表示稳定性'提供工具与告诫,与 C2 用 cosine 度量方向一致性的思路同源。但研究对象是整层表示相似度而非单个探针概念方向、不针对 OOD 探针迁移预测、不涉及 label-preserving 文本偏移。低威胁,但建议引用以表明我们知道相似度度量的可靠性陷阱。 |
| - **Ravichander, Belinkov, Hovy 等(probing 方法论批评线)— 2021–2022** — *Probing-Classifier 方法论批评(Probing the Probing / Belinkov 2022 survey 等),及 Probing Classifiers are Unreliable for Concept Removal and Detection (NeurIPS 2022)* (NeurIPS 2022 / CL 2022 等(待核实具体条目)) [威胁:medium] |
| - 与 C1 的'准确率高估特征稳定性/存在性'动机重叠(高估的是 presence/causal,我们强调的是 across-shift stability),并被 RAPTOR 直接引用为'accuracy≠可靠方向'的依据。属强背景:压缩 C1 '高估'论点的概念新颖性,但未做 shift×size 矩阵、无旋转量化、无稳定性分数。 |
|
|
| > 评估: 已联网检索(WebSearch/WebFetch + 本地读取 RAPTOR PDF),结论可信。 |
|
|
| 最大撞车点(按威胁排序): |
| 1) C2 的两个分量已被分别占住,且各自都强。RAPTOR(2602.00158)的 directional-stability 度量(eq.9,K 次 ablation 后方向 mean |cos|)几乎就是我们的 dispersion 分量;"Probing the Probes"(2511.04312)的 Augmentation Robustness(label-preserving 变换、forward-pass-only、0–1)几乎就是我们的 augmentation-consistency 分量。也就是说 C2 的"双分量"里每一个分量单独看都已有人做过,真正可主张的新颖性只剩:(a) 把两者合成单一 Probe Stability Score、(b) 把它定位为训练前 a priori 的 OOD 迁移预测器(而非事后诊断)、(c) 用在文本 LLM 的 paraphrase/length/domain label-preserving 偏移上。 |
|
|
| 2) C2 的"a priori 预测探针可靠性"定位本身也已被 Spectral Identifiability(2511.16288)抢占——它同样是免标注、部署前可验证的判据,只是用 eigengap 几何而非我们的双分量。这对"首个 a priori 探针稳定性预测器"的措辞最危险,必须改写主张、并做正面 baseline 对比(我们的分数 vs SIP vs RAPTOR-stability 谁更能预测真实 OOD drop)。 |
|
|
| 3) C1 的核心现象(准确率下降 + 方向旋转)在 truth-direction 文献(2404.18865、2506.00823)里已被同时记录(约 25% OOD drop、跨域方向近正交),length 偏移崩溃在 Gemini probes(2601.11516)里也有强证据。C1 仍可主张的是"系统化的 shift-type × model-size 二维矩阵 + 同一概念跨多种 label-preserving 偏移的受控量化",而非"首次发现高估"。 |
|
|
| 4) C3 与 Marks & Tegmark(Geometry of Truth)直接撞:mass-mean vs LR(+CCS)的跨数据集可迁移性比较已有,且结论是 mass-mean 更可迁移。我们的增量必须明确为:加入 MLP 探针、用受控 label-preserving 输入偏移而非换数据集、跨规模 ladder、并把可迁移性与我们的稳定性分数关联。 |
|
|
| 仍存的空白(可成为真正卖点): |
| - 没有任何一篇把 dispersion + augmentation-consistency 合成单一分数,并实证证明该分数能在训练前预测 label-preserving OOD 下的 accuracy-drop 与 cosine-rotation(即把稳定性分数当 OOD 迁移的预测器并报告相关性/排序能力)。这是 C2 最干净的立足点。 |
| - 没有一篇把 (accuracy drop × concept-direction cosine rotation) 组织成 shift-type(paraphrase/domain/length)× model-size 的完整矩阵(C1 的呈现形式仍是空白)。 |
| - mass-mean vs LogReg vs |
|
|
| ### 角度: 可迁移性的免训练事前预测(transferability estimation: LEEP/LogME/H-score/GBC 及其在 probe 方向上的类比... |
|
|
| - **Nguyen, Hassner, Seeger, Archambeau (2020)** — *LEEP: A New Measure to Evaluate Transferability of Learned Representations* (ICML 2020) [威胁:medium] |
| - 与 C2 的方法论范式(免训练 + 仅 forward-pass 预测可迁移性)直接对齐,是 C2 明确自认的类比来源。但目标完全不同:LEEP 预测的是【整模型迁移/微调后准确率】,需要源标签头/伪标签,且不涉及探针方向(direction)的稳定性,更不涉及 label-preserving 分布偏移下的方向旋转。C2 的新意正是把这一范式迁移到 probe 方向几何上并提出 dispersion+augmentation-consistency 两个新分量。 |
| - **You, Liu, Wang, Long (2021)** — *LogME: Practical Assessment of Pre-trained Models for Transfer Learning* (ICML 2021) [威胁:medium] |
| - 与 C2 范式同源(免训练打分预测下游可用性),且 LogME 本质就是在特征上做线性证据评估,与 probe 场景天然接近,因此是范式撞车点。差异:LogME 用【目标任务标签】拟合,属于事后/需要目标标注的估计,预测对象是 in-distribution 下游准确率,而非 OOD 下方向稳定性;不做重采样离散度,也不做增广一致性。C2 的『完全免新标注 + 专测 OOD 方向稳定』是区分点。 |
| - **Bao, Li, Huang, et al. (2019)** — *An Information-Theoretic Approach to Transferability in Task Transfer Learning (H-score)* (ICIP 2019) [威胁:low] |
| - 与 C2 共享『用特征几何/统计量免训练预测迁移』的思路。但 H-score 仍是任务级、需目标标签的可迁移性度量,与 probe 方向稳定性、label-preserving 输入偏移无关。属于范式背景而非具体抢占。 |
| - **Zhang, Wang, Wang, Chai, Yin, Lin, Wang (2026)** — *SAE as a Crystal Ball: Interpretable Features Predict Cross-domain Transferability of LLMs without Training* (arXiv 2603.02908(预印本,待核实最终去向)) [威胁:high] |
| - 这是本角度下时间最近、立意最接近 C2 的工作:同样主张【免训练 + 仅 forward-pass + 训练/微调前 a priori 预测 LLM 跨域(OOD)迁移性】。撞车点在于『事前可迁移性预测』这一核心卖点的 LLM 表征版本已被占。但机制不同——它用 SAE 可解释特征维度的偏移,而非 C2 的『同分布重采样方向离散度 + label-preserving 增广方向一致性』;预测对象是 SFT 后整体迁移,而非线性探针方向几何的 OOD 稳定性。C2 仍有方法差异,但 novelty 表述需明显避让此文。 |
| - **(作者待核实) (2025)** — *Feature Space Perturbation: A Panacea to Enhanced Transferability Estimation* (arXiv 2502.16471(待核实)) [威胁:medium] |
| - 与 C2 的第二分量(augmentation-consistency:扰动/增广后方向一致性)在直觉上最接近——都把『对扰动的鲁棒性』当作可迁移性信号。但它扰动的是特征空间用于模型选择评分,不是 label-preserving 输入增广,也不针对 probe 方向的旋转或 OOD 稳定性。是 augmentation-consistency 思想的近邻先例,需在 related work 中正面区分。 |
| - **Kirch, Dower, Skapars, Yannakoudakis, Lubana, Krasheninnikov (2025)** — *The Impact of Off-Policy Training Data on Probe Generalisation* (arXiv 2511.17408(待核实)) [威胁:medium] |
| - 与 C1(探针在分布偏移下泛化失败)主题高度相关,也触及『探针 OOD 迁移性』这一对象。但它是【诊断性/因果研究】(探究什么影响泛化),而非提出免训练的 a priori 预测分数,因此不抢 C2 的预测器贡献;对 C1 构成部分主题重叠(探针 OOD 不稳定的现象记录),但没有 C1 的 shift type × model size 矩阵 + 方向 cosine 旋转量化。 |
| - **Lee, Lee, Shin, et al. (2021)** — *Improving Transferability of Representations via Augmentation-Aware Self-Supervision (AugSelf)* (NeurIPS 2021) [威胁:low] |
| - 与 C2 augmentation-consistency 分量共享『增广与可迁移性挂钩』的底层假设,提供了『增广不变性≠总是好』的重要注意点(对 C2 增广一致性作为稳定性代理的有效性边界有警示意义)。但它是表征学习方法,不预测 probe 方向稳定性。属背景与潜在 limitation 讨论来源。 |
|
|
| > 评估: 已联网检索(WebSearch/WebFetch 可用)。 |
|
|
| 【本角度最大撞车点】两层: |
| 1) 范式层(medium):LEEP/LogME/H-score/GBC 早已确立『免训练、仅前向、用特征统计量事前预测可迁移性』这一完整范式。C2 不能宣称『免标注/免训练事前预测可迁移性』本身为新——必须把 C2 明确定位为『该范式在 linear probe 方向几何 + label-preserving 输入偏移下的 OOD 专用类比』,并强调新的预测量(方向离散度、增广方向一致性)和新的预测目标(方向稳定性而非微调准确率)。 |
|
|
| 2) 最近的具体抢占(high):Zhang et al. 2026《SAE as a Crystal Ball》是威胁最大的一篇——它已经在 LLM 表征上主张『免训练、仅 forward-pass、训练前 a priori 预测跨域(OOD)迁移性』,并给出强相关性证据。C2 与它的核心卖点高度撞句。差异点(C2 用 probe 方向的重采样离散度+增广一致性,目标是 probe 方向几何稳定性;该文用 SAE 特征维度偏移,目标是 SFT 整体迁移)是可辩护的,但论文 novelty 句必须显式引用并区分此文,否则审稿人极可能据此判定 incremental。建议把 C2 的卖点收窄为『首个针对 linear probe 方向(direction)在 label-preserving 偏移下 OOD 稳定性的免标注前向预测分数,且双分量分别捕捉 epistemic(重采样离散度)与 invariance(增广一致性)两类不稳定来源』。 |
|
|
| 【留白/可主张的空白】(a) 现有 transferability estimators 全部预测『迁移后准确率/性能』,无一预测『概念方向的几何稳定性(cosine 旋转)』——C2 的预测目标是真空地带;(b) 没有工作把『同分布 K 次重采样方向离散度』作为 probe 稳定性的事前信号——dispersion 分量看起来确属新;(c) 没有工作把 label-preserving 增广方向一致性 + NLI 标签保真审计(C5)接到 transferability 预测上;(d) 把 mass-mean/LogReg/MLP 探针类型(C3)与 model size(C4)纳入同一可迁移性预测框架,在本角度文献中未见。 |
|
|
| 【行动建议】Related Work 必须正面引用并区分:LEEP、LogME、H-score(范式),Zhang 2026 SAE Crystal Ball(最近 LLM-OOD 事前预测,重点避让),Feature Space Perturbation 2502.16471(扰动一致性的近邻),Kirch 2025 off-policy probe generalisation(探针 OOD 现象,支撑 C1 但需声明其非预测器)。最大风险是 C2 与 SAE Crystal Ball 的卖点表述撞车,务必收窄措辞。注:部分 arXiv 编号(2603.x/2602.x/2601.x)和作者列表为检索片段所得,投稿前需逐条人工核实标题/作者/venue。 |
|
|
| ### 角度: label-preserving 文本增广(back-translation / EDA / contrast sets / counterfactual au... |
|
|
| - **Lysnæs-Larsen, Eggen & Strümke, 2025** — *Probing the Probes: Methods and Metrics for Concept Alignment* (arXiv preprint (cs.AI), 待核实是否已投会议) [威胁:high] |
| - 对 C1 与 C2 构成最直接的概念性撞车:C1 的核心论点'准确率高估特征稳定性'与该文'准确率不可靠'几乎同义;C2 的 augmentation-consistency 分量与其'augmentation robustness'度量同源。差异:该文偏视觉/spatial 概念定位,未做文本 paraphrase/domain/length 的 shift 矩阵,未提出免标注的 a priori OOD 迁移性'预测分数',也未含 dispersion 分量。 |
| - **Kaushik, Hovy & Lipton, 2020 (arXiv 2019)** — *Learning the Difference that Makes a Difference with Counterfactually-Augmented Data* (ICLR 2020) [威胁:medium] |
| - 为 C1 提供核心思想基础:分类器对 label-preserving 编辑敏感、依赖虚假特征。但其对象是端到端分类器而非探针的概念方向,且不量化 cosine 旋转、不提稳定性分数,也无 NLI 审计。属强背景威胁而非方法抢占。 |
| - **Gardner et al., 2020** — *Evaluating Models Local Decision Boundaries via Contrast Sets* (Findings of EMNLP 2020) [威胁:medium] |
| - 与 C1 的'准确率高估'叙事高度同构(标准评测 vs 扰动评测的 gap)。差异:面向端到端模型而非探针/概念方向,扰动多为改标签的对比而非纯 label-preserving 分布偏移,无 forward-pass 稳定性分数、无概念旋转度量。 |
| - **Wei & Zou, 2019** — *EDA: Easy Data Augmentation Techniques for Boosting Performance on Text Classification Tasks* (EMNLP-IJCNLP 2019) [威胁:low] |
| - 提供 C2 增广分量与 C5 审计动机的工具与'增广未必真 label-preserving'的证据。本身不涉及探针稳定性或 NLI 审计,属背景。 |
| - **多篇 (e.g. Falsesum 2022; On-the-fly Denoising 2022; DISCO 2023; A Synthetic Data Approach for NLI 2024)** — *NLI/entailment 作为增广质量过滤器(overgenerate-and-filter / roundtrip consistency)* (ACL/EMNLP/NAACL 系列, 各篇待核实) [威胁:high] |
| - 对 C5 构成方法层面的强威胁——'用 NLI 核验 label 是否被保留'已是公认做法,DeBERTa-MNLI 做 fidelity 审计难算新方法,只能算工程实例化。C5 应降级为方法学保障而非核心新颖性主张。 |
| - **待核实 (检索命中, OOD probing transferability)** — *关于 probing 在 distribution shift 下迁移性的研究(binary vs multiclass probe OOD F1 显著下降)* (待核实) [威胁:medium] |
| - 直接触及 C1 的实证核心(探针 OOD 掉点)并部分触及 C3(探针类型对比)。需进一步核实该文是否已给出按 shift type × model size 的矩阵;若有则 C1/C3 威胁升至 high。当前证据为 medium。 |
| - **Sen et al. / Huang et al. 等, 2023 (待核实)** — *Counterfactually-Augmented SNLI Training Data Does Not Yield Better Generalization* (openreview / EMNLP 系列, 待核实) [威胁:low] |
| - 与 C1/C5 相关:佐证'增广的 label 质量与稳定性需被审计'的动机,但不提出探针稳定性分数,属支持性背景。 |
|
|
| > 评估: 未联网核验全部 venue 的部分以"待核实"标注;以下基于本轮真实检索(WebSearch)结果与既有知识。 |
|
|
| 最大撞车点(按威胁排序): |
| 1) C5 基本已被抢占。"用 NLI/entailment 模型核验增广/paraphrase 是否 label-preserving、不一致就过滤"是 2022–2024 的成熟范式(overgenerate-and-filter、roundtrip consistency、DeBERTa-MNLI 判同义)。把它作为核心新颖性会被审稿人直接驳回。建议把 C5 明确定位为"方法学保障/sanity check",而非贡献点,并主动引用这些过滤工作以示知情。 |
|
|
| 2) C1+C2 的概念框架面临 "Probing the Probes" (2025) 的正面威胁。该文已独立提出:探针准确率不可靠、需用 "augmentation robustness" 度量概念对齐。这与你们"准确率高估稳定性"(C1)和"augmentation-consistency 分量"(C2)在叙事和度量上同源。务必把它作为最近邻工作正面对比,凸显差异:(a) 你们在文本 NLP 上系统化 paraphrase/domain/length × model size 的偏移矩阵 + 概念方向 cosine 旋转;(b) 你们的 dispersion 分量(同分布 K 次重采样离散度)它没有;(c) 关键差异化——你们做的是 a priori、免新标注、训练前预测探针 OOD 迁移性的分数,而它停留在事后诊断度量。这条"预测性 + 双分量(dispersion ⊕ augmentation-consistency)"是目前看最可能站得住的真新颖点。 |
|
|
| 3) C1 的"准确率高估真实能力"叙事不是新发现:contrast sets (Gardner 2020)、counterfactually-augmented data (Kaushik 2020) 早已确立同构论点,且检索到的 OOD probing transferability 工作已实证探针 OOD 掉点。你们的增量必须落在"专门针对线性探针的概念方向、用 cosine 旋转量化、并跨 shift type × scale 成矩阵",而非"发现了掉点"本身。 |
|
|
| 仍存的空白(可主打的真新颖性): |
| - 双分量、forward-pass-only、免新标注、训练前 a priori 预测探针 OOD 迁移性的"分数"——未见同形态工作;dispersion(同分布重采样方向离散度)作为稳定性信号在文本探针语境下尚属空白。 |
| - "accuracy drop 与概念方向 cosine 旋转解耦"的矩阵化呈现(同一 shift 下准确率稳但方向已旋转)——未见直接对应工作,是较强卖点。 |
| - C3(mass-mean vs LogReg vs MLP 在 OOD 下相对可迁移性的系统比较)与 C4(model size ladder 对探针 OOD 稳定性影响)在本角度检索中未见被系统覆盖,威胁较低,可作为扎实的实证贡献,但需另行核查"OOD probing transferability"系列是否已部分触及 C3/C4。 |
|
|
| 诚实结论:C5 应放弃作为新颖性、改为方法保障;C1 需从"现象发现"转为"探针概念方向的量化方式";C2 是核心命脉,但必须在 "Probing the Probes" 之上明确切出"预测性 + dispersion 分量"的差异,否则有被判为增量的风险。 |
|
|
| ### 角度: 小语言模型/Pythia/GPT-2 上的可解释性与探针 size-ladder 研究(scaling of representations、Pythia in... |
|
|
| - **Reblitz-Richardson, 2026** — *When Probing Accuracy Saturates, Fragility Resolves: A Complementary Metric for LLM Pre-Training Analysis* (arXiv 2606.11375 (cs.CL),待核实是否已投会议) [威胁:high] |
| - 对 C2 与 C1 威胁最大。C2:它同样是 forward-pass、免新标注、对‘准确率会高估稳定性’做补救的探针稳定性度量,与你的 dispersion 分量(对扰动的离散度/崩溃点)精神高度重合,只是它用激活噪声而非 label-preserving 增广/重采样。C1:与你‘准确率高估特征稳定性’的核心动机几乎同款表述。差异:它是噪声注入而非分布偏移(paraphrase/domain/length),不做方向 cosine 旋转矩阵,也不做训练前 a priori 预测 OOD 迁移。 |
| - **Huang, 2025** — *Spectral Identifiability for Interpretable Probe Geometry* (arXiv 2511.16288 (stat.ML),待核实) [威胁:high] |
| - 对 C2 威胁高。这正是‘训练前/无需新标注、用内在几何量 a priori 预测探针会不会失稳’的同类工作,与你 Probe Stability Score 的预测性目标直接撞车。差异:用 eigengap/Fisher 谱判据而非 dispersion+augmentation-consistency 双分量;主要在合成数据上验证,未明确做 Pythia/GPT-2 size-ladder、未做 label-preserving NLP 偏移、未给 shift×size 准确率+方向旋转矩阵。 |
| - **Anonymous/待核实, 2025** — *Factual Self-Awareness in Language Models: Representation, Robustness, and Scaling* (arXiv 2505.21399,待核实) [威胁:high] |
| - 对 C1+C4 威胁高。它已经做了‘Pythia size-ladder × 输入扰动 → 探针准确率下降’的矩阵式分析,且强调‘对表层噪声稳健、对语义偏移敏感’,与你 C1 的 accuracy-drop across shift×size 直接重叠,并覆盖 C4 的规模阶梯。差异:只测扰动下的准确率,不测概念方向 cosine 旋转;不提出预测性 stability score(C2);扰动非严格 NLI 审计的 label-preserving 集合(C5);单一任务(事实自知)。 |
| - **待核实, 2026** — *Linear Probe Accuracy Scales with Model Size and Benefits from Multi-Layer Ensembling* (arXiv 2604.13386,待核实) [威胁:medium] |
| - 对 C4 中度、C1/C3 低度。它直接做了‘探针准确率随 model size 提升’的 scaling 结论(C4 核心),并触及方向跨层旋转(与你的 cosine 旋转测量相邻但你的是跨 shift 旋转、它是跨层旋转)。差异:模型族非 Pythia/GPT-2;不做 label-preserving 分布偏移、不做免标注预测性 stability score、不比较 mass-mean/LogReg/MLP。 |
| - **Chou, Kirsanov, Yang & Chung, 2026** — *Diagnosing Generalization Failures from Representational Geometry Markers* (ICLR 2026) [威胁:medium] |
| - 对 C2 中度。这是‘用内在几何标记、免 OOD 标注、事先预测泛化失败’的同范式工作,与你 stability score 的预测性主张方法论撞车。差异:领域是视觉而非 LLM/Pythia,不用 augmentation-consistency/dispersion 双分量,不涉及 NLP label-preserving 偏移、方向旋转或 size-ladder。可作为‘几何预测泛化’这一思路的强先例,削弱 C2 的范式新颖性。 |
| - **Marks & Tegmark, 2023** — *The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets* (arXiv 2310.06824(后续亦见会议版,待核实)) [威胁:high] |
| - 对 C3 威胁高、C4 低。它已经做了 mass-mean vs LogReg(vs CCS)在‘跨数据集/分布’下相对可迁移性的系统比较,结论是 mass-mean 更稳——这正是你 C3 的核心命题之一(只是它没纳入 MLP 探针,且‘OOD’指跨数据集而非 paraphrase/domain/length label-preserving 偏移)。差异:不做 size-ladder 矩阵、不做方向旋转量化、不提出预测性 stability score。你的 C3 若不强调与 MLP 的三方比较 + label-preserving shift 设定,很容易被认为是其复现。 |
| - **待核实(EmergentMind/相关综述指向), 2023** — *Gaussian Process Probes (GPP) for Uncertainty-Aware Probing* (arXiv 2305.18213,待核实) [威胁:low] |
| - 对 C2 低度背景相关。同样关注‘探针给出的判断有多可信/稳定’,但走贝叶斯不确定性路线,不预测 OOD 迁移、不用增广一致性/重采样离散度、不涉及 size-ladder 或方向旋转。可作为‘探针可靠性度量’的相关背景引用。 |
| - **Biderman et al., 2023** — *Pythia: A Suite for Analyzing Large Language Models Across Training and Scaling* (ICML 2023) [威胁:low] |
| - 背景相关(C4 的实验底座)。本身不主张探针 OOD 稳定性结论,但你的 C4 实验若用 Pythia 则必须引用;它界定了‘size-ladder’这一研究范式,使单纯‘随规模变化’的发现难称新颖。 |
|
|
| > 评估: 联网完成。本角度下你们面临的撞车风险偏高,且分散在 C1/C2/C3/C4 四条主张上,需要重新收紧定位。 |
|
|
| 最大的三个撞车点: |
| 1) C1(准确率高估稳定性 + Pythia size-ladder × 输入扰动)已被 "Factual Self-Awareness"(2505.21399, 2025)在 Pythia 全 size-ladder 上基本做掉:它已给出‘扰动 × 规模 → 探针准确率下降’的矩阵,并明确‘对表层稳健、对语义偏移敏感’。你们若仅停留在 accuracy-drop,几乎是复现。你们尚存的差异——概念方向 cosine 旋转(direction rotation)、严格用本地 NLI 审计的 label-preserving shift 集合(C5)、覆盖 paraphrase/domain/length 三类偏移而非零散扰动——必须被抬成 C1 的主卖点,否则 C1 会被审稿人判为已有。 |
|
|
| 2) C2(免标注、forward-pass-only、训练前预测 OOD 迁移的探针稳定性 score)是你们最值钱也最危险的主张:同一‘事前预测探针可靠性/泛化失败’的范式已有至少三篇——Spectral Identifiability(2511.16288, eigengap/Fisher 判据)、Diagnosing Generalization Failures from Geometry Markers(ICLR 2026,几何量预测 OOD,免标签)、以及 Fragility(2606.11375,forward-pass 的崩溃点度量)。范式新颖性已被占。你们真正未被占的是具体机制:dispersion(同分布 K 次重采样方向离散度)+ augmentation-consistency(label-preserving 增广后方向一致性)这个‘双分量、基于方向而非准确率/谱/流形维度’的组合,且明确用于 NLP 探针的 a priori OOD 预测。建议把 C2 的 novelty 严格锚定在‘双分量方向一致性度量’及其相对上述谱/几何/噪声度量的预测增益对比(强烈建议做 head-to-head baseline:SIP、Fragility、manifold dimensionality 都要作为对照)。 |
|
|
| 3) C3(mass-mean vs LogReg vs MLP 的 OOD 相对可迁移性)中,mass-mean vs LogReg(vs CCS)的跨分布比较已由 Geometry of Truth(Marks & Tegmark 2023)做过,结论 mass-mean 更稳。你们的增量只剩:加入 MLP 探针构成三方比较 + 在 label-preserving paraphrase/domain/length 偏移(而非跨数据集)下重做 + 与 size-ladder 交叉。务必如此措辞,否则 C3 易被视为复现。 |
|
|
| 留有的空白(可作为你们真正的差异化护城河): |
| - 没有任何一篇把‘概念方向 cosine 旋转矩阵’作为 shift×size 的系统量化主轴——这是 C1 的真空白,应重点强化。 |
| - 没有人用‘重采样离散度 + 增广方向一致性’这个双分量、纯方向几何的免标注 score 来预测 NLP 探针 OOD 迁移,且没人把它和谱/流形/噪声类预测器做过对比——这是 C2 的真空白,但必须靠 baseline 对比来证明增益。 |
| - C4 单独看价值最低:‘探针随规模更稳/更准’已被多篇(2 |
|
|
| ### 角度: Probe reliability / calibration / trustworthiness — "when not to trust probes" a... |
|
|
| - **Dies, Maynard, Savcisens & Eliassi-Rad, 2025** — *Representational Stability of Truth in Large Language Models* (arXiv:2511.19166 (preprint; venue待核实)) [威胁:high] |
| - Directly overlaps C1 (concept-direction rotation under paraphrase/perturbation) and C2 (dispersion-across-resamples as a stability signal). This is the single closest paper to our core mechanism — it already operationalizes 'direction rotation under rephrasing' + 'dispersion across resamples'. Differs in that it targets one concept (truth), does not frame the metric as an a-priori label-free OOD-transfer predictor, and lacks C3/C4/C5. |
| - **Kumar, Tan et al., 2022** — *Probing Classifiers are Unreliable for Concept Removal and Detection* (NeurIPS 2022 (arXiv:2207.04153)) [威胁:high] |
| - Overlaps C1 (probe accuracy overstates feature quality/stability) and the spirit of C2 (a label-free quality metric for probes). Establishes the 'do not trust probe accuracy' premise our paper depends on, and pre-empts the framing novelty of 'a metric to gauge probe quality.' Differs: focuses on concept removal/spurious correlation, not label-preserving distribution shift, not direction rotation, no OOD-transfer prediction, no estimator/scale ladder. |
| - **Lysnæs-Larsen, Eggen & Strümke, 2025** — *Probing the Probes: Methods and Metrics for Concept Alignment* (arXiv:2511.04312 (preprint; cs.AI)) [威胁:high] |
| - Overlaps C2's augmentation-consistency component directly (they call it 'augmentation robustness' as a probe-quality metric) and C1 (accuracy overstates faithfulness). Strong threat to our 'augmentation-consistency as a probe-reliability signal' framing. Differs: vision/CAV-centric, no dispersion-across-resamples component, no a-priori OOD-transfer prediction, no NLP paraphrase/domain shift, no scale ladder. |
| - **Liu, Chen, Cheng & He, 2024** — *On the Universal Truthfulness Hyperplane Inside LLMs* (EMNLP 2024 (arXiv:2407.08582)) [威胁:medium] |
| - Overlaps C1 (documents probe accuracy dropping OOD / cross-domain) and partially C3 (compares probing setups across datasets). Establishes the empirical 'probes don't transfer OOD' result we want to extend. Differs: requires labeled OOD datasets to measure transfer (no label-free a-priori predictor), no direction-rotation metric, no dispersion/augmentation score, no scale ladder. |
| - **Marks & Tegmark, 2023** — *The Geometry of Truth: Emergent Linear Structure in LLM Representations of True/False Datasets* (arXiv:2310.06824 (later COLM/workshop线; venue待核实)) [威胁:high] |
| - Directly overlaps C3 — it is the canonical mass-mean vs LogReg generalization comparison. Our C3 must position as an extension (adding MLP, label-preserving shift types, a stability-score lens) rather than a first comparison. Differs: no MLP, no paraphrase/length/domain shift taxonomy, no a-priori stability score, no scale ladder. |
| - **Baek, Raghunathan et al., 2024** — *Predicting the Performance of Foundation Models via Agreement-on-the-Line* (arXiv:2404.01542 (NeurIPS 2024线; venue待核实)) [威胁:medium] |
| - Overlaps C2's goal (label-free, forward-pass-only prediction of OOD performance) — establishes a strong prior-art baseline for 'predict OOD reliability without OOD labels.' Reviewers will demand comparison. Differs: uses inter-model agreement rather than direction dispersion/augmentation consistency; not probe/concept-direction specific; no rotation metric, no estimator/scale study. |
| - **Deng, Zheng et al., 2023** — *Confidence and Dispersity Speak: Characterising Prediction Matrix for Unsupervised Accuracy Estimation* (arXiv:2302.01094 (ICML 2023线; venue待核实)) [威胁:medium] |
| - Overlaps C2 conceptually — a label-free, dispersion-flavored predictor of OOD accuracy. Notably it uses the word 'dispersity,' close to our 'dispersion' component, which weakens the terminology/concept novelty of that sub-claim. Differs: operates on output prediction matrices, not on probe-direction geometry; no concept-direction rotation, no augmentation-consistency, not probe-faithfulness framed. |
| - **Belrose et al. / SAE-probe baseline studies, 2025** — *SAE probes underperform the baseline of logistic regression (SAE Features for Classifications and Transferability line)* (arXiv:2502.16681 / 2502.11367 (preprints)) [威胁:low] |
| - Background-to-medium overlap with C3 (probe-estimator transferability comparison under shift). Adds to the crowded space of 'which probe estimator transfers best' that our C3 sits in. Differs: SAE-vs-LogReg focus, no mass-mean/MLP triad, no a-priori stability score, no rotation metric. |
| - **Chou, Kirsanov, Yang & Chung, 2026** — *Diagnosing Generalization Failures from Representational Geometry Markers* (ICLR 2026 (arXiv:2603.01879)) [威胁:medium] |
| - Overlaps C2's high-level claim (predict OOD reliability from ID-only signal, no OOD labels). A conceptual competitor for the 'a-priori predictor' framing. Differs: vision/ImageNet, manifold-geometry not probe-direction dispersion/augmentation, no NLP paraphrase shift, no estimator/scale ladder. Adjacent companion: 'Representation Geometry as a Diagnostic for OOD Robustness' (arXiv:2602.03951) makes the same ID-only-predicts-OOD claim. |
| - **Belinkov, 2022** — *Probing Classifiers: Promises, Shortcomings, and Advances* (Computational Linguistics (MIT Press) 48(1)) [威胁:low] |
| - Background for C1/C5 — frames the 'probes can mislead' problem and the need for controls (relevant to our NLI label-fidelity audit in C5). Differs: survey, no quantitative shift matrix, no stability score, no OOD predictor. |
|
|
| > 评估: 已联网检索(WebSearch/WebFetch可用)。结论:本角度对我们novelty构成实质威胁,但没有任何一篇把我们的完整组合(C2双分量 a-priori 免标注 forward-pass 探针稳定性分数 = dispersion + augmentation-consistency,用于训练前预测探针OOD迁移性)做完整。 |
|
|
| 最大撞车点(按优先级): |
| 1) Representational Stability of Truth in LLMs (Dies et al., 2025-11) 是头号威胁——它已经把"概念方向在改写/扰动下的旋转"与"跨重采样的dispersion"两件事合在一起做了。这几乎覆盖了我们C1的旋转矩阵和C2的dispersion分量。我们必须把它当作最近的prior art正面引用并明确切割:它(a)只针对truth单一概念、(b)没有把这个量当成"训练前、免新标注的OOD迁移性预测器"来validate、(c)没有augmentation-consistency第二分量、(d)没有C3/C4/C5。建议把C2的卖点从"测量稳定性"上移到"用稳定性分数a-priori预测下游OOD迁移,并做预测-验证闭环",这是它没做的。 |
|
|
| 2) 关于C2的"免标注预测OOD"框架,存在一整条成熟的unsupervised-OOD-accuracy-prediction文献(Agreement-on-the-Line 2024;Confidence-and-Dispersity 2023——后者甚至用了"dispersity"一词,直接削弱我们"dispersion"术语新颖性;Representation-Geometry-as-Diagnostic 2026;Geometry Markers ICLR 2026)。这些不是探针专用,但reviewer几乎一定会要求对比/区分。我们的护城河必须是:作用在探针方向几何(不是输出预测矩阵或流形几何)、专为label-preserving语义shift设计、且做probe-faithfulness而非泛OOD acc。 |
|
|
| 3) C2的augmentation-consistency分量已被 "Probing the Probes" (2025-11) 以"augmentation robustness"之名作为探针质量度量提出(视觉/CAV域)。需引用并以"NLP label-preserving paraphrase + 与dispersion组合 + 作为预测器"区分。 |
|
|
| 4) C3(mass-mean vs LogReg)已被 Geometry of Truth (Marks & Tegmark 2023) 做过,是canonical对比,不能宣称首次;加MLP和label-preserving shift分类法是我们的增量,但增量较薄,建议把C3降格为支撑性发现而非主贡献。 |
|
|
| 5) C1的"探针accuracy高估特征稳定性/faithfulness"premise已被 Kumar et al. NeurIPS 2022 与 Belinkov 2022 survey 牢固确立,不可作为novelty主张,只能作为motivation。 |
|
|
| 留有的空白(我们仍可主张的真正新意): |
| - 把 dispersion + augmentation-consistency 显式组合成单一双分量分数,并在 shift-type × model-size 二维上验证它能a-priori排序探 |
|
|
| --- |
|
|
| ## 四、独立验证记录(2026-06-22,直接抓取 arXiv abstract 复核) |
|
|
| > 由 Claude 主回路用 WebFetch 逐条核对工作流给出的高危引用,确认其**真实存在**(并非 agent 幻觉)。 |
|
|
| | arXiv ID | 实际标题 / 作者 | 核实结论 | 对我们的影响 | |
| |---|---|---|---| |
| | 2511.19166 | *Representational and Behavioral Stability of Truth in LLMs*(Dies, Maynard, Savcisens, Eliassi-Rad)— P-StaT 框架 | ✅ 真实 | 测 truth 信念在语义重述下的稳定性(fictional vs synthetic),**未见**双分量免标注 a-priori 预测闭环。最近邻,但 C2 仍有缝。 | |
| | 2602.00158 | *RAPTOR: Ridge-Adaptive Logistic Probes*(Gao 等) | ✅ 真实 | ridge 自适应 logistic 探针 + 概念向量 + stability;偏方法,非直接 OOD 预测。须作 baseline。 | |
| | 2510.11905 | *LLM Knowledge is Brittle: Truthfulness Representations Rely on Superficial Resemblance*(Haller, Ibrahim, Kirichenko, Sagun, Bell @ Meta) | ✅ 真实 | 仅覆盖 **paraphrase/reformulation + 仅 truthfulness**;**工作流高估**——未明确做 domain/length/多概念。C1 的"paraphrase×domain×length×多概念×drop⊥rotation 解耦矩阵"仍可区分。 | |
| | 2303.15488 | *On the Importance of Feature Separability in Predicting OOD Error*(Xie, Wei, Feng, Cao, An, NeurIPS 2023) | ✅ 真实 | label-free + feature dispersion 预测 OOD acc。标题非"Dispersion Score"但机制重叠 → **避免用 "Dispersion" 作主名 + 必跑对照**。 | |
| | 2602.20273 | *The Truthfulness Spectrum Hypothesis*(Ying, Ravfogel, Kriegeskorte, Hase) | ✅ 真实 | **Mahalanobis cosine 预测跨域泛化 R²=0.98** —— C2 最强竞品。但它需"探针间"相似度(隐含 OOD 侧 reference probe);我们 PSS 是 **IID-only**,这是唯一硬区分。 | |
| | 2511.16288 | *Spectral Identifiability for Interpretable Probe Geometry (SIP)*(W. Huang) | ✅ 真实 | eigengap a-priori 探针稳定性判据;偏理论+合成实验。必作 baseline。 | |
|
|
| **结论**:该子领域(probe stability / truth directions)是 2025Q4–2026Q2 的高热赛道,多为 Meta/Northeastern 等强组工作。纯 novelty 竞争**高风险**。但所有竞品都可转化为 baseline —— 这为"benchmark-first"重定位提供了基础。 |
|
|
