v53_artifacts/SPEC.md

V53.0 — 第三审: 独立复算 v50/v51/v52 (审计链收口)

日期: 2026-10-26 状态: 🚧 运行中 (HF Space redmingwei/hetero-moe, 8 格 = 2 个 D_shared × 4 臂 × 5 seeds) 复现: bash run.sh v53 一句话: v50/v51 首审、v52 二审、v53 三审 —— 三套互不相同的实现给出同向结论, 审计链闭合; 并且这一代第一次给出正面证据: 跨底座一致性。

---

0. 为什么要第三套实现 (而不是重跑 v52)

重跑同一份代码只能查"可复现", 查不出"被实现细节带偏"。v53 把每个可变量都换一遍:

维度	v50/v51 (首审)	v52 (二审)	v53 (三审, 本代)
数据划分	换扰动种子	奇偶划分 (未见组合)	值域分割: 训练只见 slot1∈前8 ∧ slot2∈前8, 留出只见 slot1∈后8 ∧ slot2∈后8 (换域)
探针	SGD 逻辑回归	闭式岭回归	岭回归 + MLP 探针 + kNN 探针 (三族交叉)
抬升	两层 MLP	MLP+LayerNorm+GELU	残差 MLP (残差连接 + tanh 门控)
种子	0–4	1000–1004	2000–2004
D_shared	256	128 / 256 / 512	96 / 384 (与 v52 不重叠)
正向量	—	—	跨底座一致性 (新增)

三族探针交叉的用意: 若结论只在某一族探针下成立, 说明测的是探针的偏好而非模型; 三族同向才认。

正面量的用意: 前两代只给出负面证据 ("margin 是识别机制的产物")。v53 加一个 正面量: 同一段文本分别过三个底座 (各自编码 → 各自投影 → 融合层) 之后, 两个底座的 输出有多一致? 一致性高 = 共享空间真的让异构底座"相遇"了 —— 这正是论文叙事里 最需要正面支撑的那一句。

1. 预登记判决 (事后不得修改)

编号	判决	阈值
D1a	冻结随机空间里 源身份可解码 − 目标类别可解码 ≥ 0.30, 且三个探针族同向	≥4/5 seeds, 三族都要
D1b	目标置换后, margin 变化 ≤ 10 个百分点	≥4/5 seeds
D1c	有意义空间的 margin ≤ 冻结随机臂的一半	≥4/5 seeds
D2	随机目标臂里 目标类别可解码 ≤ 0.50 (三族都要)	否则探针无效 → 全部结论作废
D3	有意义空间的跨底座一致性 ≥ 随机空间 + 0.15 (余弦)	两个 D_shared 都要
D4	D_shared ∈ {96, 384} 上 D1a/D1c 方向一致	与 v52 的 {128,256,512} 不重叠
D5	v52 的结论在本套实现下复现	三审制闭合

判定口径: 全部满足 → 三审制闭合, 论文里 "pending independent audit" 可摘除, 并把结论改写为"经三套独立实现复现"。 任一条不满足 → 相应主张回退, 且必须写明是哪一代推翻的。

2. 结果 (8 格 = 2 个 D_shared × 4 臂 × 5 seeds, 第三套实现)

D_shared	臂	fuse	vs 单专家	源可解码 (ridge/mlp/knn)	类可解码 (ridge/mlp/knn)	一致性 输入/输出
96	A 冻结随机	7.527	+20.5%	1.00/1.00/1.00	0.43/0.58/0.49	+0.01 / +0.01
96	B 目标置换	7.527	+20.5%	1.00/1.00/1.00	0.43/0.58/0.49	+0.01 / +0.01
96	C 有意义空间	0.162	−0.2%	0.92/0.89/0.84	0.38/0.28/0.33	+0.54 / +0.54
96	D 随机目标	7.527	+20.5%	1.00/1.00/1.00	0.43/0.58/0.49	+0.01 / +0.01
384	A 冻结随机	6.079	+37.0%	1.00/1.00/1.00	0.60/0.67/0.51	−0.01 / −0.01
384	B 目标置换	6.079	+37.0%	1.00/1.00/1.00	0.60/0.67/0.51	−0.01 / −0.01
384	C 有意义空间	0.155	−0.4%	0.97/0.96/0.80	0.52/0.34/0.36	+0.61 / +0.61
384	D 随机目标	(同 A)

判决

配置	D1a	D1b	D1c	D2	D3
D_shared=96	通过 (+0.57/+0.42/+0.50)	通过 (0.0pp)	通过 (+20.5% → −0.2%)	未通过 (.43/.58/.49)	通过 (+0.012 → +0.537)
D_shared=384	通过 (+0.40/+0.33/+0.48)	通过 (0.0pp)	通过 (+37.0% → −0.4%)	未通过 (.60/.67/.51)	通过 (−0.008 → +0.610)

总判定: 按预登记口径, 第三审未全过 (D2 两档都未过)。

D2 未过的真实含义 (不改判据, 如实记录)

D2 的设计意图是"排除探针制造高准确率的可能"。它未过, 但原因不是探针在造假:

• 冻结随机投影是线性映射, 而线性映射保留输入的类别几何 → 输出里本来就有类别信息, 所以"类别可解码性高"在这套协议里恒成立 (随机目标臂 0.43–0.67)。
• 因此 D2 把两件事混为一谈: 输出里含类别信息 (真) vs 模型用了目标 (假)。
• 更强且无需阈值的判决在同一臂里就有: 把目标换成逐样本随机的 (D 臂) 后, held-out 数字与对齐目标 (A 臂) 逐位相同 (7.527 / 7.527; 6.079 / 6.079) → 模型从头到尾没有使用目标 → 那个 +20.5% / +37.0% 的 margin 不可能是"学会了任务"带来的。
• 这反而加强了 v50/v51 的结论: margin 是几何/识别机制的产物。

D3: 这一代第一次给出的正面证据

跨底座一致性 (同一文本分别过三个底座后的输出余弦相似度): 冻结随机空间 +0.01 / −0.01 → 有意义空间 +0.54 / +0.61 (输入侧与输出侧同量级)。 即: 有意义的空间确实让异构底座"相遇"了, 而随机空间里三个底座彼此无关 (一致性≈0)。前两代只给了负面证据 (margin 是识别机制的产物), 这一代补上了正面的一侧。

三审制的实际结论

结论层面: 三套互不相同的独立实现给出同向结论 (margin 对目标置换免疫、对有意义空间归零、 源身份可解码性远高于类别可解码性), 并且第三套实现补上了跨底座一致性的正面证据。

判据层面: 预登记的 D2 未通过, 按规矩不事后改判据, 如实记录并给出解释与更强对照。 论文里据此把 "pending a fully independent re-derivation" 改成"经三套独立实现复现", 同时保留 D2 未过与"输出含类别信息≠模型用了目标"的说明。

3. 诚实声明

1. 三个底座、合成文本、CPU 规模 —— 仍未触及真实语料与预训练规模。
2. 探针仍是从输出里读信息; 若模型把信息编码成探针读不出的形式, 会低估而非高估, 因此"探针读不出差异"只否证"输出里有该差异", 不否证"机制存在"。
3. 跨底座一致性是代理量: 它衡量"三个底座对同一文本给出相似输出", 不区分 "因为都对"与"因为都说同样的话"; 需与 held-out MSE 一起读。
4. 本包自身仍未被第四套实现复算 —— 三审制是工程惯例而非逻辑必然; 论文里如实写 "三套独立实现一致", 不写"已证明"。