Datasets:

Beicicc
/

probeshift-activation-cache

ProbeShift: A Systematic, Label-free Benchmark for the OOD Directional Stability of Linear Probes under Label-preserving Semantic Shift, with a Unified Evaluation of A-priori Predictors.

投稿目标:ACML 2026 主会。定位:benchmark-first(见 PROPOSAL.md)。预算锚:单卡 4090 ≤ 200 GPU·h、LLM API <$100、零新人工标注。

核心贡献(benchmark-first,见 PROPOSAL.md)

G1(主)ProbeShift 基准:concept(≥12)× shift(paraphrase/domain/length)× size(Pythia ladder
- GPT-2 + Qwen)× estimator(LogReg/mass-mean/MLP)的网格,记录 解耦的 accuracy-drop 与 direction cosine-rotation 作为 ground truth。完全免新标注;随激活缓存发布,分钟级复现。
G2(主)统一 a-priori 预测信号评测:在同一基准上 head-to-head 评测现有 label-free 训练前信号 —— SIP(eigengap)、RAPTOR-stability、Fragility、augmentation-robustness、Xie feature-dispersion —— 对探针 OOD 方向 drop 的预测力(Spearman/Kendall + leave-one-concept-out CV)。
G3(次)PAC 入选项:简单、IID-only、免 OOD 数据的双分量复合分数(dispersion ⊕ augmentation- consistency),作为基准上的一个 entry,做互补性消融。不宣称 SOTA。
支撑:estimator × size 外部效度;本地 NLI 的 label-fidelity sanity check。

关键 framing:G1+G2 即使 PAC 毫无增量也独立成立 —— 把"赛道很挤"从威胁转成贡献。所有竞品均经直连 arXiv 核实为真(见 PRIOR_ART.md §四),并已转化为 baseline。

Pipeline

extract   一次性抽取 residual-stream 激活,float16 分片缓存          (唯一大头 GPU)
eval      训练 LogReg/mass-mean/MLP 探针,IID/OOD accuracy + 方向旋转  (读缓存) -> G1 ground truth
predict   对每个 config 计算全部 a-priori 预测器(SIP/Fragility/.../PAC)(读缓存) -> G2 信号
score     PAC 双分量明细 + 互补性消融                                (读缓存) -> G3
stats     每个预测器 vs 真实 OOD drop 的 Spearman/Kendall + LOCO 排名表 (读缓存) -> G2 主结果

关键设计:激活只抽一次、落盘、之后全部读缓存 —— 这是整个项目守住算力预算 + 可复现的命门。缓存可直接随论文发布,reviewer 几分钟即可复现探针实验。

安装

cd probe_stability
python -m venv .venv && source .venv/bin/activate     # 或用 conda
pip install -r requirements.txt

最小可行实验(M2 go/no-go,Day 3)

一条命令在单模型单数据集上验证"探针脆性"是否存在(OOD drop + 方向旋转):

python run_pipeline.py smoke --model EleutherAI/pythia-410m --dataset sst2

若代表性概念上 OOD drop < 5pt 或方向 cosine > 0.9(探针根本不脆)→ 触发退路:切提案② (Demonstration Order Illusion),M0/M1 基础设施可复用。

全量运行

python run_pipeline.py extract --all     # 抽取所有 (model,dataset,distribution) 激活
python run_pipeline.py eval    --all      # 训练探针 + IID/OOD + 旋转矩阵 (G1 ground truth)
python run_pipeline.py predict --all      # 计算全部 a-priori 预测器 (G2 信号)
python run_pipeline.py score   --all      # PAC 双分量明细 + 互补性消融 (G3)
python run_pipeline.py stats              # 多预测器 vs OOD drop 排名表 (G2 主结果;读全部结果)

目录结构

probe_stability/
├── README.md
├── requirements.txt
├── config.py                # 模型/数据/shift 注册表 + 路径 + 超参
├── cache.py                 # 激活分片的命名/保存/mmap 读取 + manifest
├── metrics.py               # accuracy / 方向旋转 / Spearman / bootstrap CI / Cliff's delta / Holm-BH
├── probes.py                # LogReg / mass-mean / MLP / control-task 探针
├── stability_score.py       # dispersion + augmentation-consistency
├── extract_activations.py   # HF 模型 hooks,residual-stream 抽取 + float16 分片落盘
├── run_pipeline.py          # CLI 编排 M1–M5
└── data/
    ├── __init__.py
    ├── datasets.py          # 统一加载 HF 数据集 -> (text, label, concept)
    ├── shifts.py            # label-preserving shift 构造(back-translation / domain / length)
    └── label_fidelity.py    # DeBERTa-MNLI 过滤 label-flip

状态

骨架代码:核心数据流、缓存、探针、Stability Score、指标已实现;以下处标注 TODO 待在 4090 上迭代: back-translation 模型选型与显存调参、各数据集 domain-shift 配对、MLP 探针方向旋转的处理。 PROPOSAL.md / PRIOR_ART.md 由研究工作流产出后补入。