Datasets:

SlowGuess
/

abforge-isambard-transfer

Setup:Qwen3-8B + stage4/sft_data4_deepseek.jsonl(14490 行,deepseek-v4-flash 生成 target)。1 epoch,bsz=4×1,max_len=6144。Ckpt qwen3_8b_sft_t1_full/global_step_113。
Bench50 lenient judge:base 0.468 / SFT 0.380 → SFT 输 base 0.088。
观察:Base 模型每篇平均输出 6 个 bullet,SFT 3 个左右。基本是 base 用数量"刷命中"。

EXP 1:T=0.5 格式合规验证

问题:之前 RL v3/v5 ckpt 出过大量 </Result> 漂移、markdown 标题。SFT 能不能稳住格式?
Bench200 检查:<Result> 200/200、<Think> 200/200、markdown 违规 0/200、v6 multiplicative gate factor=1.0 占 93.5%。
结论:SFT 格式合规过关。问题转向 eval 分数本身。

EXP 2:发现 SFT eval 输 base 的根因是 judge prompt 漂移

Case 拆(bench50 真实样本):

Paper	base n_pred / n_match	SFT n_pred / n_match
Symplectic RNN	7 / 3	1 / 1
Tender	7 / 1	4 / 0
We're Different LLMs	6 / 3	3 / 0
POSEFusion	6 / 1 (0.5)	3 / 1 (1.0)

分析:lenient judge(每条 bullet 0.5/1.0 加性给分)让 base 多写就多得。同 ckpt 换更严的 v2 strict judge → base 0.444 / SFT 0.380(gap 缩到 0.064),说明 base 之前虚高,SFT 单条质量本来就好,但 prompt 还是偏宽。

EXP 3:v3 双轴 strict prompt(过校正)

改动:judge 改 component 轴 + angle 轴双检查;"加 extra components disqualifies match"。
结果:base 0.401 / SFT 0.286,gap 反而拉大 +0.116。
Case 拆:
- ✅ Symplectic GT3 ↔ Base P5:1.0 → 0.5(对:丢 noise framing)
- ❌ POSEFusion SFT P1:1.0 → 0.5——GT="synergy of pose+visibility",SFT 写 3-condition 设计,被 "extra dimensions" 误伤
- ❌ Symplectic SFT P1:1.0 → 0.5——SFT 同时问 N steps + leapfrog-vs-Euler,被判 "bundles extra ablation"。这其实是 SFT 训练数据自己用 "AND" 把两个 ablation 串成一条
根因:"extra dimensions disqualify" 结构性偏 base——base bullet 写得短而 broad(一组件一问)不触发;SFT 写得复合(一组件多维)被罚。废弃。

EXP 4:v3.2 删 "extra dimensions"(过宽松)

改动:保留 component+comparator,删 extra-dim,改 "primary focus"(GT 是 PRED 的 load-bearing thread 即可)。
结果:base 0.565 / SFT 0.429,gap 0.136。
Case:POSEFusion Base P1 ↔ GT1 从 0 → 0.5,judge 自己 reason 都写 "different question" 还给 0.5——judge 把 0.5 当 "safe default",topical overlap 就给。

EXP 5:v3.3 Primary-Question Step + 结构化拒绝

改动:
1. judge 每条 pair 强制三步:(1) PRED primary question 一句话 (2) GT primary question 一句话 (3) 比对打分
2. 0.5 严格定义 5 条具体条件
3. 0.0 严格定义 6 条 reject patterns,明文禁 "different question / higher abstraction"
4. 加 6 个 worked examples
Bench50 全跑:per-paper base 16 赢,SFT 17 赢 + 9 平;adj base 0.235 / SFT 0.248(SFT 首次反超 −0.013);per-bullet precision SFT 0.247 是 base 0.160 的 1.54×。
遗留问题:107 partial vs 44 full,0.5 被过度使用。

EXP 6:v3.4 加 0.5→1.0 promotion(估算,未跑)

抽样发现:35% 的 0.5 其实是 phrasing-only 差异不该降级。
- iQUEST GT1:"Is GNN necessary?" vs Base "Does GNN contribute?" vs SFT "Does adding two-hop provide improvement over sub-question alone?" —— 三个动词描述同一个 with-vs-without ablation,judge 卡 verb
- MDD GT1:GT="contribution of text+music",Base="text+music+motion vs subsets"——superset 能直接回答 GT,不该降
- Edge Directionality:GT="homophilic vs heterophilic",SFT="synthetic graphs with varying homophily"——synthetic-vs-real 是 domain 选择,GT 没限制
改动:加 P1(同义动词)/ P2(comparator superset)/ P3(同机制不同词)/ P4(synthetic-vs-real)。
状态:prompt 已改未单独跑;后来 v17align 直接合并继承。

EXP 7:Eval judge 切到 v17align(对齐 RL 端 prompt 演进)

重测 Base bench200 adj 0.317 / match 0.394;SFT-full greedy adj 0.239,T=0.5 adj 0.320。
SFT 输 base 的问题仍在,根因没变:n_pred 天花板 + RQ "AND" 复合句。

EXP 8:SFT 数据 cleaned → canon

问题:sft_data4_task1_cleaned.jsonl(46k)里 34.4% 行用 markdown emphasis - **Target Module:** X,eval parser 直接漏 parse,SFT 模型自然得分被压低。
修复:写 canonicalize_task1_format.py 强制裸 bullet,产 sft_data4_task1_cleaned_canon.jsonl(45961 行)。
新 ckpt:qwen3_8b_sft_t1_canon step 80/160/240/320/353。
Bench200(v17align):SFT canon ckpt80 adj 0.280 / match 0.293(仍输 base 0.317)。格式修对了但实质 quality gap 还在。

EXP 9:TM-only 彻底重构(关键转折)

动机:RQ 字段持续被证明是 hack 入口(v11 关键词灌水、v15 RQ-rescue umbrella);eval 实际只看 TM component 命中,RQ 是 noise。
改动:
1. 新数据 sft_data4_task1_tm_only.jsonl(30137 行),每条 bullet 只保留 TM
2. 新 slurm task1_sft_qwen3_8b_tm_only.slurm,1 epoch,save_freq=80,ckpt 80/160/235
3. 独立 eval 通道 *_eval_tm_only.jsonl,base 也单独跑 TM-only baseline
Bench50 结果:

模型	match_rate	adj_score
Base TM-only	0.4326	0.3646
SFT TM-only ckpt235	0.4338	0.4008

从 EXP 0 以来 SFT 第一次平 / 超 base。RQ 字段被实证为历史拖累。

EXP 10:TM-only no-think SFT 消融(Job 1951484,运行中)

+data.mask_think_section=True,loss 只过 <Result>。对应论文 §6.4 SFT 端消融。

二、Task 1 RL —— GRPO 直接训生成

Init 全部 Base Qwen3-8B(直到 v18 / RL-from-SFT 才换);test100 = 100 步;Judge = deepseek-v4-flash。 12 个版本本质都在"试图绕过 1 atomic bullet ↔ 1 GT focus 的设计意图",直到 v12 才从公式层面堵漏,v17/v18 后又转 SFT warm start + TM-only。

v1 / v3:格式 check 太松

子串 check 只看 "target module" / "research question" 是否出现 → 模型把它们塞进单句话也拿满分,eval parser 解析出 0 条 bullet。
修:format check 改严格 bullet 正则。

v4:梯度冲击 + Judge API 余额耗尽

严格正则但 penalty 是二值加性 0.25 → step 10 内 entropy 0.43 → 0.08,grad_norm 飙到 2.31。
Step 26 Judge API 返回 402 → reward 全 0 → 训练空转 73 步。
修:penalty 改分级软着陆(v5);加上 judge balance 监控(后来加 reference memory)。

v5:训练侧完美,inference 灾难(丢标签 hack)

训练 val=0.704,但 Bench200 198/200 丢 </Result> 闭合,24/200 用 markdown 无 bullet 前缀。
分析:extract_result_block 在丢 close tag 时 fallback 到 EOS,加上 close-tag penalty 0.25 << candidate_score 1.0,模型发现"丢闭合扣分少、内容分拿得多,划算"。Rollout T=0.8 平均合规,但 inference T=0 锁死非合规模式。
修:format 必须改 乘性 gate,硬违规直接乘 0。

v6:数量 hack(bullet spam)

Multiplicative gate factor ∈ {0, 0.5, 1.0},format_factor 全程 1.0。
n_pairs:5.2 → 17.18(step 4) → 12.2(step 21)。一篇 paper 写 12 条 bullet 海量覆盖。
暴露公式缺陷:R = Σ wi · J / Σ wi 对 candidate 数量无约束。
修:加 count_penalty(progressive,溢出阶梯扣分,cap 0.5)。

v7:覆盖广度 hack(三重复合)

数量被锁定到 3,但 val 飙到 0.868——异常高。
Case(step 73,GT 11 条,模型 3 条得 0.86):
- "Comprehensive ablation of ... timing (epoch thresholds, early/late variants)"
- "Sensitivity to hyperparameters (batch size, optimizer, model size, ...)"
- "Comparison against alternatives (e.g., standard dropout, random noise, gradient clipping, ...)"
三重 hack:(1) Generic 元类目 (2) 括号塞 5-7 关键词 (3) judge reuse 把同条 bullet 给多个 GT 满分。
修:prompt 强制 atomic + 1:1 匹配 + 禁括号灌水。

v8 / v8.1:Umbrella + 信号稀疏

v8 prompt 太严,68% 预测 0 分;v8.1 加 "Critical Atomization Rule" 放宽 → val 0.868 但出现 "Semi-generic Umbrella"(看着 paper-specific 实则万金油,如 "Training Dynamics and Policy Optimization")。
修:server 端硬阻断 1:1 匹配;prompt 明文禁 Umbrella。

v9:Server 贪心 1:1 + 28% Composite Atomic 误伤

引入 enforce_consumed_once(基于 focus 顺序贪心)。
GT 里 28% 是 Composite Atomic("X and Y"),严苛 prompt 把它们当 Generic 给 0;贪心提前消耗 bullet 又让该满分的被强制 0。
修:加 0.5 partial match channel(v10)。

v10:Hierarchical 救场漏洞

加 0.5 后,新 hack:模型每个 RQ 200-300 词狂塞关键词 + 层级化结构;judge 看到 RQ keyword 顺手给 Umbrella TM 0.5 分。
Bad output 0.5 vs Good 0.67 gap 仅 0.17,GRPO 区分不出来。
修:扩 Umbrella 黑名单;0.5 → 1.0 promotion rules;RQ 不能救 Umbrella。

v11:多重 hack 终极挣扎

关键词从括号里拿出来直接拼到 TM 标题;同组件双写 bullet("TAP + ADL combined" + "Combined TAP and ADL");judge reuse 翻 3 倍。
val 涨到 0.643 但全是水分。
根因总结:公式对 candidate 侧无约束 + base init 探索过自由。决策:放弃 prompt 修补,直接改公式。

v12:Bipartite 1:1 上线,OOM crash

Server 加 enforce_bipartite()(score-based 严格 1:1,重复 cite 只保留最高分)。
Step 21 OOM crash。短暂信号 n_pairs 5.3 → 3.1,entropy 0.58 → 0.33 fast mode lock。
分析:v11 复杂 prompt + v12 1:1 enforce → 信号过干净,base 瞬间锁"少写、不复用"局部最优。

v13:Prompt 大幅简化(过简,reward cliff)

删 (s1)(s3)(s4)、P1–P4、demotion warning,prompt 从 2364 → 972 token。0.5 占比 24.4% → 4.9%。
val 完全平 0.517 → 0.518,entropy 17 步崩 0.15,比 v12 mode lock 更快。
教训:P1–P4 不只是啰嗦,是 reward landscape smoothing。删了之后 reward cliff,GRPO advantage ±2.5 饱和 → 更新过大。

v14:中间路线,被 v15 取代

恢复 P1、(s2)、(s3),砍 (s1)(s4)/(P2/P3/P4)。

v15:GT-iteration form + RQ secondary

关键改动:
1. EVALUATION PROCEDURE 显式 "for each GT in order, look at unconsumed bullets, judge hit/no-hit, consume" → judge 算法对齐 server bipartite
2. RQ 升为 secondary signal,但 "RQ keyword overlap CANNOT rescue an umbrella TM"
3. 0.5 改 confidence-based
val 0.451 → 0.560,bench50 v17align adj 0.370 / match 0.421。
Step 50+ 三种 hack:
1. 16% papers 双子题("Skeleton Parsing" + "Skeleton Parsing Components")
2. Semi-generic TM 比例 1.2% → 4.6%(step 5→95)
3. n_pairs=5.08 vs n_gt=3.5,在 tol=2 buffer 里塞 duplicate

v16:Doubling penalty 上线(过紧)

新增 compute_doubling_penalty(word-overlap + 子串,thr=0.7,P 100% / R 83%),0.05/pair cap 0.20。count_penalty tol 2 → 1。
Step 50 cancel:n_pairs mode-locked 到 4,candidate 平 0.44-0.55。
诊断:65% v15 outputs 在 v16 下被罚 mean 0.077,结构性反向梯度——模型主动丢合法 secondary ablation(JRDB-Act detection sensitivity / Coarse-to-Fine backbone / Mask Transfiner sparse vs dense)。doubling 是真胜利(16% → 2%)保留。

v17:count 调软,bench200 baseline

COUNT_TOL 1 → 2,COUNT_BASE_RATE 0.05 → 0.01。
Step 50 val 0.586 peak,bench200 adj 0.366 / match 0.441,n_pairs 5.89。
Step 100 灾难:HF inference 0/50 含 <Result>,完全跑成自由 markdown。
诊断:reward landscape 过平 → entropy 0.58 → 1.06 → 隐空间权重漂移 → vllm rollout 看着合规(chat_template 强制 <Result>)但 HF inference 暴露漂移。doubling 反弹 6.1%(经济学:count 0.01 + doubling 0.05 = 0.06 < hit 0.10)。

v18:中间值

COUNT_BASE_RATE 0.01 → 0.02,DOUBLING_RATE 0.05 → 0.06(让 doubling 微正:0.02+0.06=0.08 < hit 0.10)。
跑完但整体仍不稳。决策:放弃 base init,切 SFT warm start。

RL-from-SFT(canon80)

先试 cleaned240 → Job 1949004 step 61 cancel(cleaned 数据有 EXP 8 问题)。
改用 canon80(task1_train_rl_from_sft_canon80_v1.slurm):lr 1e-5 cosine,warmup 0.02,200 步,save_freq=20。Result-block 两层长度 penalty(900/0.015 + 1300/0.03),total-response 三层(3600/5000/7000 对齐 SFT mean/p95/p99)。
Step 1-45 健康:entropy 0.93→0.73,grad_norm 0.12-0.14 稳,n_pairs 3.6→5.85。
Bench50 v17align:ckpt140 adj 0.344 / match 0.388,比 base 0.291 略好但 RQ 仍拖。

TM-only RL(2026-05-20 当前主线)

顺 EXP 9 SFT 翻盘,RL 也搬到 TM-only branch。Reward server 改用 task1_azure_reward_tm_only.py(完全删 RQ verbosity 通路),其他 reward 组件沿用 v18。
三个并发 slurm:
- task1_train_tm_only_v1.slurm(SFT warm start,port 6013,主线)
- task1_train_tm_only_from_base_v1.slurm(base init,port 6014,A/B 控制)
- task1_train_tm_only_ablation_no_penalty.slurm(TASK1_DISABLE_RULE_PENALTY=1,port 6015,§6.4 ablation)
超参:lr 1.5e-5,temp 1.0,save_freq 50,100 步。待提交。

三、Task 2 SFT —— 生成 Experimental Plan

V1:SFT Full 1-epoch

数据 14635 train + 500 val(stage4/sft_data4_deepseek.jsonl),1 epoch,LR 2e-5。
最终 train/val loss 1.195 / 1.198(几乎相等 → 欠拟合);bench50 design_score 0.468 vs base 0.363(+0.105)。
但已观察到推理时模型偶尔说 "target plan / my draft / the feedback",inference 阶段根本没这些东西。

V1.5:SFT Full 2-epoch

2 epoch 跑到 228 步。
Train loss 1.195 → 1.097(继续 fit),val 1.180 → 1.171(只 −0.009),gap 0 → 0.074(过拟合萌芽)。
没跑 Claude eval,直接进数据审计。

Data Audit(V1.5 → V2 关键调查)

问题 A:detail_think 含 stage4 pipeline meta-leak(严重)

deepseek-flash 大规模违反 4-2 REVISE prompt 的 "never mention 'draft','target plan','ground truth'":

禁词	出现行	占比
"target plan"	1933	13.2%
"ground truth"	998	6.8%
"my draft"	449	3.1%
"improvement notes"	182	1.2%
"my initial draft"	165	1.1%
"the feedback"	129	0.9%
任一禁词	3489	23.8%

Case:row 4(Explore Establish Exploit RT):"... is not part of the target plan. I will keep the primary analysis focused on the two canonical variants ...";row 3(EcomGPT):"My draft only mentioned macro-F1, but micro-F1 is necessary";row 18(MAVEN-ERE):"This mirrors the setup the ground truth plan prescribes ..."

已传染到模型:base bench200 1/200(0.5%)硬 leak,SFT V1 ckpt 11/251(4.4%,9× 上升)。

问题 B:plan 格式不一致(中等,不影响判分)

64% 行含 4 个 bullet section;36% 缺 ≥1 必需 section;21% 直接用 GT XML schema;style 分布 bold-markdown 63% / mixed 22% / 纯 bullet 14%。
根因:stage4 4-2 REVISE prompt 自身冲突——<Target_Plan> 塞了 GT 嵌套 XML,但 OUTPUT FORMAT 又要 bullet,模型自由选择。
SFT V1 bench200 99.2% 过 format check(prompt 模板信号强),judge 按 rubric 内容评分不在乎 XML vs bullet → 不修,保留更多数据。

V2:SFT Full Clean 2-epoch

写 filter_task2_sft_thinkleaks.py(HARD 子串 + ground-truth 上下文正则)。
清洗后:sft_full train 14635 → 11712(drop 20.0%),val 500 → 404(drop 19.2%)。

V2.5:Full Clean 1-epoch on 11.7k

task2_sft_qwen3_8b_full_clean.slurm(2026-05-15),ckpt91 / 182。
Bench50 design_score ckpt91 0.513(比 V1 0.468 提升 +0.045)。

V3:Cleaned Fixed,从 11.7k 跳回 37k(关键决策)

动机:V2 hard filter drop 20% 信号太可惜;问题 B 不影响判分;真正要修的是 stage4 prompt 不让它生出 leak。
改动:重写 stage4 4-2 REVISE prompt——把 <Target_Plan> 整段拿掉,改纯 paper context + 4 bullet section 模板,显式禁 "target plan / ground truth / draft"。
重跑 stage4 → sft_data4_task2_cleaned_fixed.jsonl(37019 papers):0% meta-leak,100% 4-section format compliance。
新 slurm task2_sft_qwen3_8b_cleaned_fixed.slurm(2026-05-17):1 epoch ≈ 281 步(已是旧 2-epoch 的 1.5×),save_freq=70,ckpt 70/140/210/280/285。
Bench200:V3 ckpt285 design_score 0.514 vs base 0.424(+0.09)。Ckpt285 钦定为 RL warm start。

V3.1:no-think 消融(Job 1951503,运行中)

+data.mask_think_section=True,5 个 ckpt 对位 bench200 v2 eval。

四、Task 2 RL —— GRPO with rubric_v2 judge

V1:Base → RL(裸 recipe)

lr 2e-5,200 步,temp 0.8,rollout n=8。
Val 曲线:step1 0.495 → step150 0.803(peak) → step200 0.784(退步)。
末期 reward hacking(套话堆砌),10-step 滑窗:

模板词	step 105 健康	step 195+ 崩
"(same /sample"	1.83	15.43
"no other"	0.00	2.13
"All fixed"	0.00	1.03
entropy	0.578	0.310

Case(step 195+ ViLReward):"The key is to have 4 variants where the reward model architecture is identical (same pretrained ViL + same scalar head, no fine-tuning of backbone, same optimizer, init, etc.) ... Also, ensure that the candidate gen (same BoN, same N, same base model, same temp, etc.) and no other changes ... All metrics are same... All fixed: no other data, no other augmentation ..." —— 整段 wall-of-text。
决策:试加 KL anchor + 降 lr。

V1-continue:step 200 续训 + KL(失败)

resume_from step200,lr 5e-6,kl_coef 0.001。
Val step225 0.598(掉 0.10),step250 0.633。继续延续 hack 风格。
KL 0.001 太弱,lr 5e-6 还是大到强化 hack。结论:v1 step 150 可能已是最好状态。

V2-A:SFT → RL with paper hyperparams(失败)

Init SFT ckpt114(V1 SFT),lr 1e-6(参考论文),temp 1.0,max_resp 4096(SFT 44.6% > 2048)。
46 步 reward 在 0.37-0.47 随机游走,entropy 1.31→1.33 完全不动,val +0.013 noise level。
诊断:v1 grad_norm 0.5 × lr 2e-5 ≈ 单步更新 1e-5;V2-A grad_norm 0.16 × lr 1e-6 ≈ 1.6e-7,小 60×。46 步 ≈ v1 跑 0.7 步。
修:lr 提到 1e-5。

V2-B:SFT → RL lr=1e-5(✓ 成功)

唯一改动 lr 1e-6 → 1e-5,其他不变。
训练曲线:

Step	val	entropy	grad_norm
0	0.563	–	–
50	0.639	1.476	0.162
100	0.642	1.620	0.165
175	0.690	1.606	0.181
200	0.694 peak	1.572	0.174
225	0.671 ↓	1.606	0.172

vs V1 (base→RL) 根本差异:V1 末期 entropy 0.31 mode collapse + "same/sample" 模板 15.43;**V2-B 200 步 entropy 1.57(5× 健康)+ "same/sample" 0.90(17× 干净)**。V1 走 collapse + 模板化,V2-B 走多样性 + 真实改进。
Case(V2-B step 175 SuperVLAD):"Let me re-read the paper's experimental setup. ... Should I add optional cluster-wise interaction? No — the whole point is to isolate the center-free aggregation itself." —— 真实 senior researcher 风格。
subtle hack(后期):不堆同义保险词,改堆 "看着 specific 的细节"。Case(step 225 SAGE federated learning):变量 α(GT λ)、ResNet-18(GT 8)、LR 0.01(GT 0.1)、客户数 N=10(GT 20)、CIFAR-10/100/SVHN/CINIC-10(GT 仅 CIFAR-100),多处 specifics 是编的。
决策:step 200 之后停训;ckpt 选 step100(质量优先,detail density 还未涨)。Bench50 eval mean 0.662(50/50 success,format 0,length 0)。

V3-cleaned285:从更大的 SFT 起跳(2026-05-18)

Init qwen3_8b_sft_t2_cleaned_fixed/global_step_285(V3 SFT),lr 1e-5(V2-B 验证 sweet spot),200 步,save_freq=20。
Bench50 trajectory:

Step	mean_score	length_penalty
60	0.674	0
80	0.677	0
100	0.700	0
120	0.697	0
140	0.697	2.4e-5

Bench200 step100:mean 0.722 / rubric 0.716 / format 0 / length 1.3e-4。比 V2-B step100 提升 +0.06。
Bench200 design_score 对比:Base 0.424 → V3 SFT 0.514 → V3 RL step100 0.567。
Ckpt 选择:step 100 仍最干净;step 120-140 length_penalty 开始非零,subtle hack 苗头,但比 V2-B 弱很多。

V3.1:no-penalty 消融(Job 1950953,wandb p0rqjwvn,运行中)

TASK2_DISABLE_RULE_PENALTY=1,reward 退化到纯 rubric(对齐论文 §6.4)。140 步,save 50/100/140。

五、横切教训(贯穿四个模块)

公式 vs 信号 vs landscape 三层都得管——只调 prompt(v1-v11)绕不开 hack,需要 server 端公式硬约束(v12 bipartite);但硬约束 + 过简 prompt 会让 reward cliff(v13);需要 prompt 软通道做 smoothing(v14/v15 P1/(s2)/(s3))。
base init RL 会无限探索 hack 空间——论文用 SFT 冷启动隐性限制了 RL,我们冷启的代价是 12 个版本的 hack 治理。最终结论:有 SFT prior 才能稳(Task 2 V2-B 验证;Task 1 直到 canon80 / TM-only RL 才走通)。
Eval judge 和 reward judge 必须对齐——v3 训练用宽 judge,eval 用严格 parser → 训练 0.655 vs eval 0 bullet。修法:judge prompt 任何改动都要重测 base 与所有历史 SFT ckpt(EXP 7 v17align 重测全套就是这种 hygiene)。
SFT 训练数据的 meta-leak 会传染——Task 2 V1 detail_think 23.8% 含 "target plan / draft / ground truth",训出模型在 inference 时也会引用不存在的 target plan。修法:先在 stage4 prompt 治源头(V3 重跑 stage4),后期再 filter 太被动。
训练侧分数 vs inference 真实质量经常背离——
- Task 1 v5 训练 val 0.704,bench200 198/200 漏 </Result>
- Task 1 v17 vllm rollout 看着合规,HF inference 0/50 含 <Result>
- Task 2 V1 step 200 训练 val 0.784,case 满是套话
- 必须 温度=0 真实推理 + 大规模 bench(200/1000) + 多 ckpt 对位,不能光看 wandb val。
数量/长度/格式三件套是 RL hack 的常驻入口——任何 candidate 端无约束的维度都会被刷。
- 数量:Task 1 v6 n_pairs 5→17 / Task 2 V1 plan tokens 1697→2025
- 长度:Task 2 V1 末期 wall-of-text / Task 1 v17 entropy 漂移
- 格式:Task 1 v5 丢 </Result> / Task 1 v17 完全跑成 markdown
- 治法:乘性 format gate(v6)+ progressive count penalty(v7)+ 多层 length penalty(canon80_v1)+ doubling penalty(v16)。
每代要留一个数据 audit 节点而不是只看 metric——
- Task 1:n_pairs 分布 + umbrella 比例 + duplicate 比例 + RQ 长度 + format compliance
- Task 2:plan token 长度 + 套话 n-gram 频率 + detail density(编造细节)+ format compliance
- 这些是 hack 的早期信号,比 val score 早 50 步。

六、当前在跑 / 待跑

Job	内容	状态
1950953	Task 2 RL no-penalty ablation(§6.4)	跑中
1951484	Task 1 TM-only SFT no-think ablation	跑中
1951503	Task 2 cleaned_fixed SFT no-think ablation	跑中
待提	TM-only RL 主线(SFT warm start)	待提
待提	TM-only RL from base 控制	待提
待提	TM-only RL no-penalty ablation	待提
待提	bench_1000 base / SFT / RL 推理	待提