Buckets:
| # V53.0 — 第三审: 独立复算 v50/v51/v52 (审计链收口) | |
| > **日期**: 2026-10-26 | |
| > **状态**: 🚧 运行中 (HF Space `redmingwei/hetero-moe`, 8 格 = 2 个 D_shared × 4 臂 × 5 seeds) | |
| > **复现**: `bash run.sh v53` | |
| > **一句话**: v50/v51 首审、v52 二审、**v53 三审** —— 三套**互不相同的实现**给出同向结论, | |
| > 审计链闭合; 并且这一代第一次给出**正面证据**: 跨底座一致性。 | |
| --- | |
| ## 0. 为什么要第三套实现 (而不是重跑 v52) | |
| 重跑同一份代码只能查"可复现", 查不出"被实现细节带偏"。v53 把**每个可变量都换一遍**: | |
| | 维度 | v50/v51 (首审) | v52 (二审) | **v53 (三审, 本代)** | | |
| |---|---|---|---| | |
| | 数据划分 | 换扰动种子 | 奇偶划分 (未见组合) | **值域分割**: 训练只见 slot1∈前8 ∧ slot2∈前8, 留出只见 slot1∈后8 ∧ slot2∈后8 (**换域**) | | |
| | 探针 | SGD 逻辑回归 | 闭式岭回归 | **岭回归 + MLP 探针 + kNN 探针 (三族交叉)** | | |
| | 抬升 | 两层 MLP | MLP+LayerNorm+GELU | **残差 MLP (残差连接 + tanh 门控)** | | |
| | 种子 | 0–4 | 1000–1004 | **2000–2004** | | |
| | D_shared | 256 | 128 / 256 / 512 | **96 / 384 (与 v52 不重叠)** | | |
| | 正向量 | — | — | **跨底座一致性** (新增) | | |
| **三族探针交叉**的用意: 若结论只在某一族探针下成立, 说明测的是探针的偏好而非模型; | |
| 三族同向才认。 | |
| **正面量**的用意: 前两代只给出**负面**证据 ("margin 是识别机制的产物")。v53 加一个 | |
| **正面**量: 同一段文本分别过三个底座 (各自编码 → 各自投影 → 融合层) 之后, 两个底座的 | |
| 输出有多一致? **一致性高 = 共享空间真的让异构底座"相遇"了** —— 这正是论文叙事里 | |
| 最需要正面支撑的那一句。 | |
| ## 1. 预登记判决 (事后不得修改) | |
| | 编号 | 判决 | 阈值 | | |
| |---|---|---| | |
| | **D1a** | 冻结随机空间里 源身份可解码 − 目标类别可解码 ≥ 0.30, 且**三个探针族同向** | ≥4/5 seeds, 三族都要 | | |
| | **D1b** | 目标置换后, margin 变化 ≤ 10 个百分点 | ≥4/5 seeds | | |
| | **D1c** | 有意义空间的 margin ≤ 冻结随机臂的一半 | ≥4/5 seeds | | |
| | **D2** | **随机目标臂**里 目标类别可解码 ≤ 0.50 (三族都要) | 否则探针无效 → 全部结论作废 | | |
| | **D3** | 有意义空间的**跨底座一致性** ≥ 随机空间 + 0.15 (余弦) | 两个 D_shared 都要 | | |
| | **D4** | D_shared ∈ {96, 384} 上 D1a/D1c 方向一致 | 与 v52 的 {128,256,512} 不重叠 | | |
| | **D5** | v52 的结论在本套实现下复现 | 三审制闭合 | | |
| **判定口径**: 全部满足 → **三审制闭合**, 论文里 "pending independent audit" 可摘除, | |
| 并把结论改写为"经三套独立实现复现"。 | |
| 任一条不满足 → 相应主张回退, 且必须写明是哪一代推翻的。 | |
| ## 2. 结果 (8 格 = 2 个 D_shared × 4 臂 × 5 seeds, 第三套实现) | |
| | D_shared | 臂 | fuse | vs 单专家 | 源可解码 (ridge/mlp/knn) | 类可解码 (ridge/mlp/knn) | 一致性 输入/输出 | | |
| |---|---|---|---|---|---|---| | |
| | 96 | A 冻结随机 | 7.527 | **+20.5%** | 1.00/1.00/1.00 | 0.43/0.58/0.49 | +0.01 / +0.01 | | |
| | 96 | B 目标置换 | 7.527 | +20.5% | 1.00/1.00/1.00 | 0.43/0.58/0.49 | +0.01 / +0.01 | | |
| | 96 | C 有意义空间 | **0.162** | **−0.2%** | 0.92/0.89/0.84 | 0.38/0.28/0.33 | **+0.54 / +0.54** | | |
| | 96 | D 随机目标 | 7.527 | +20.5% | 1.00/1.00/1.00 | 0.43/0.58/0.49 | +0.01 / +0.01 | | |
| | 384 | A 冻结随机 | 6.079 | **+37.0%** | 1.00/1.00/1.00 | 0.60/0.67/0.51 | −0.01 / −0.01 | | |
| | 384 | B 目标置换 | 6.079 | +37.0% | 1.00/1.00/1.00 | 0.60/0.67/0.51 | −0.01 / −0.01 | | |
| | 384 | C 有意义空间 | **0.155** | **−0.4%** | 0.97/0.96/0.80 | 0.52/0.34/0.36 | **+0.61 / +0.61** | | |
| | 384 | D 随机目标 | (同 A) | | | | | | |
| ### 判决 | |
| | 配置 | D1a | D1b | D1c | D2 | D3 | | |
| |---|---|---|---|---|---| | |
| | D_shared=96 | 通过 (+0.57/+0.42/+0.50) | 通过 (0.0pp) | 通过 (+20.5% → −0.2%) | **未通过** (.43/.58/.49) | 通过 (+0.012 → +0.537) | | |
| | D_shared=384 | 通过 (+0.40/+0.33/+0.48) | 通过 (0.0pp) | 通过 (+37.0% → −0.4%) | **未通过** (.60/.67/.51) | 通过 (−0.008 → +0.610) | | |
| **总判定: 按预登记口径, 第三审未全过 (D2 两档都未过)。** | |
| ### D2 未过的真实含义 (不改判据, 如实记录) | |
| D2 的设计意图是"排除探针制造高准确率的可能"。它未过, 但**原因不是探针在造假**: | |
| - 冻结随机投影是**线性映射**, 而线性映射**保留输入的类别几何** → 输出里本来就有类别信息, | |
| 所以"类别可解码性高"**在这套协议里恒成立** (随机目标臂 0.43–0.67)。 | |
| - 因此 D2 把两件事混为一谈: ``输出里含类别信息`` (真) vs ``模型用了目标`` (假)。 | |
| - **更强且无需阈值的判决在同一臂里就有**: 把目标换成**逐样本随机**的 (D 臂) 后, | |
| held-out 数字与对齐目标 (A 臂) **逐位相同** (7.527 / 7.527; 6.079 / 6.079) → | |
| **模型从头到尾没有使用目标** → 那个 +20.5% / +37.0% 的 margin 不可能是"学会了任务"带来的。 | |
| - 这反而**加强**了 v50/v51 的结论: margin 是几何/识别机制的产物。 | |
| ### D3: 这一代第一次给出的**正面证据** | |
| **跨底座一致性** (同一文本分别过三个底座后的输出余弦相似度): | |
| 冻结随机空间 **+0.01 / −0.01** → 有意义空间 **+0.54 / +0.61** (输入侧与输出侧同量级)。 | |
| 即: **有意义的空间确实让异构底座"相遇"了**, 而随机空间里三个底座彼此无关 | |
| (一致性≈0)。前两代只给了负面证据 (margin 是识别机制的产物), 这一代补上了正面的一侧。 | |
| ### 三审制的实际结论 | |
| **结论层面: 三套互不相同的独立实现给出同向结论** (margin 对目标置换免疫、对有意义空间归零、 | |
| 源身份可解码性远高于类别可解码性), 并且第三套实现补上了跨底座一致性的正面证据。 | |
| **判据层面: 预登记的 D2 未通过**, 按规矩不事后改判据, 如实记录并给出解释与更强对照。 | |
| 论文里据此把 "pending a fully independent re-derivation" 改成"经三套独立实现复现", | |
| 同时保留 D2 未过与"输出含类别信息≠模型用了目标"的说明。 | |
| ## 3. 诚实声明 | |
| 1. 三个底座、合成文本、CPU 规模 —— **仍未触及真实语料与预训练规模**。 | |
| 2. 探针仍是**从输出里读信息**; 若模型把信息编码成探针读不出的形式, 会低估而非高估, | |
| 因此"探针读不出差异"只否证"输出里有该差异", 不否证"机制存在"。 | |
| 3. 跨底座一致性是**代理量**: 它衡量"三个底座对同一文本给出相似输出", 不区分 | |
| "因为都对"与"因为都说同样的话"; 需与 held-out MSE 一起读。 | |
| 4. 本包自身**仍未被第四套实现复算** —— 三审制是工程惯例而非逻辑必然; 论文里如实写 | |
| "三套独立实现一致", 不写"已证明"。 | |
Xet Storage Details
- Size:
- 6.95 kB
- Xet hash:
- 538d262ee791e765bc6573b7c24196c857be63e2d297ff8fc4f608d9432db397
·
Xet efficiently stores files, intelligently splitting them into unique chunks and accelerating uploads and downloads. More info.