docs/ — 读这里开始
本项目在研究一个问题:自动化研究 agent(autoresearch)在"实现阶段"到底能做到什么程度, 以及如果我们要训练一个小模型做同样的事,需要哪些能力。
载体是 PostTrainBench:给 agent 一张 H100、10 小时、一个小基座模型和一个 benchmark,
让它自己做 post-training,交付 final_model,由 harness 打分。
规格是 7 benchmark × 4 base model = 28 个 cell。
只想看一份? → 总报告 / REPORT —— 中英双语对照、叙述式,面向不了解本项目的读者,术语都在首次出现时解释,含表格与图。
已经做了什么
| # | 实验 | 时间 | 状态 | 记录在 |
|---|---|---|---|---|
| 0 | 文献综述:实现阶段的 benchmark 与方法 | 2026-09 | 完成 | benchmark 篇 · method 篇 |
| 1 | Direct inference baseline(zero-shot,不训练) | 2026-10-06 / 10-21 补齐 | 28/28 | sweep 文档 §2 |
| 2 | Claude Code sweep(claude-opus-5,10h/cell) |
2026-09-29 ~ 10-05 | 28/28 | sweep 文档 §1 |
| 3 | Codex SDK sweep(gpt-5.6-sol high,10h/cell) |
2026-10-06 | 28/28 | sweep 文档 |
| 4 | Trace 行为分析(Claude 71 份 + Codex 28 份) | 2026-10-06/07 | 完成 | Claude 篇 · Codex 篇 · 对比篇 |
| 5 | gsm8k / humaneval 泄漏审计(24 个 run、约 46 GB 候选产物) | 2026-10-07 / 10-22 收尾 | 完成,并查出上游 decon 工具的结构性盲区 | 泄漏审计 |
| 6 | 离线能力探针(从 trace 构造,424 题) | 2026-10-19/20 | 完成:P2 成立并通过稳健性复核;P1 判定为造不出来 | 能力探针 |
| 7 | run2 第二个种子(28 cell,Claude Opus 5) | 2026-10-20 ~ 10-22 | 28/28 完成 | 种子噪声 |
代码:sweep 的提交脚本在 scripts/,harness 封装在 src/posttrainbench/,
trace 分析管线在 analysis/(见其 README)。
先确认自己在哪台机器上。 本项目在 aws(大量 H100 + Claude Code/Codex SDK + 模型网关, 但登录节点不通外网)和 babel(能联网、小 GPU 调试,没有任何 agent SDK)两台机器上运行。 跑
bash scripts/whichserver.sh判定,能力矩阵见docs/setup/servers_aws_vs_babel.md。 agent sweep 只能在 aws 跑。
高层要点 / Takeaways —— 三个层次的结论,按这个顺序读
第一层:harness 是可信的,分数也不是污染来的
Direct baseline 的 6-task 均值 0.0771 vs 论文的 0.0770,逐项差距都在 1 个百分点以内。
→ 评测管线复现了论文设定,后面所有比较的差异不来自 harness。
详见 ptb_claude_sweep_and_baseline_2026-10.md §2。
泄漏审计(24 个 run 的真实训练文件)结论:gsm8k 12/12 个 run 训练数据零命中; humaneval 有 7 例、集中在 4 道题,但上报矩阵里只有 1 个 cell 受影响,上界 0.61 pp。 → 我们远高于论文的 gsm8k / humaneval 分数不是污染造成的。 污染确实存在,但在上游公开数据集里(自称 "decontaminated" 的 Magicoder 系列), 而且官方去污染工具在三个被标记的 run 上都报了 "0 matches"。 详见 泄漏审计。
第二层:两个 agent 的分数
| 6-task 均值(24 个公共 cell) | |
|---|---|
| Direct(zero-shot) | 0.077 |
| Claude Code | 0.538 |
| Codex SDK | 0.484 |
逐 cell、逐 base model 的三方表在
ptb_direct_claude_codex_comparison_2026-10.md。
这个总体差距是稳的,但逐格的胜负大多不是。 run2 跑完后(2026-10-22)噪声拆成了两层: 同一 sweep 内重跑的单次运行标准差 0.0304,跨 sweep 则是 0.0456(F=2.19,p=0.029)。 Claude 与 Codex 跑在不同的周,所以适用的是后者 —— 逐格 95% 门槛 0.125 (用 Claude 两个种子的均值时降到 0.108):
- 28 格均值差 +0.0501 ± 0.0104(SE),z = 4.8 —— 聚合结论成立;
- 但 Claude 分数更高的 24 格里,只有 5 格的差距超过门槛(且 0 格偏向 Codex), 其余 23 格换个种子就可能翻过来。
所以正确说法是:5 格 Claude 决定性更好,0 格 Codex 决定性更好,23 格分不出来。 详见种子噪声。
第三层:agent 到底是怎么做研究的(这一层才是项目的目的)
从 99 份 trace 里抽出行为特征。三条最硬的结论:
- 收益递减是任务属性,不是 scaffold 属性。 两个完全不同的循环形态(Claude 4.6 个模型版本 vs Codex 15.0 个),进度曲线重合到 1 个百分点以内:90% 的增益分别用掉 44% / 43% 的预算。 后半程的几个小时是"高占用率的无效迭代"。
- 过程质量与最终分数几乎不相关。 行为特征对任务内 z-score 的 Spearman,Claude 侧最大 |ρ| 只有 0.28, Codex 侧最大 0.41("越早量出 baseline 越好",n=28)。用最终准确率做奖励来监督过程,信号极弱 —— 需要拆成可分别验证的 process reward。
- 两边都在噪声上做选择。 99 份 trace 里只有 1 份做了多 seed 平均; 自测分系统性高于 harness 实测(Claude +1.9 点,Codex +3.9 点)。 受控消融的迹象 Claude 侧只有 2%,Codex 侧 32%(主要形态是同一次训练的 checkpoint 扫描)。
两个 agent 的互补性(Claude 会异步调度但推理加密;Codex 推理明文但完全串行)决定了 做蒸馏时两份 trace 都要用 —— 见 对比篇 §5。
哪份文档负责什么(避免重复查找)
| 文档 | 唯一负责的内容 | 不在这里找 |
|---|---|---|
REPORT_agent_study |
面向外部读者的总报告(中英双语、叙述式、含图):设定、结果、四条主要发现、下一步 | 逐 run 细节与方法学 |
ptb_claude_sweep_and_baseline |
Claude 分数矩阵、direct baseline 矩阵、与论文的对照和可比性警告 | Codex 的数字、行为分析 |
ptb_codex_sdk_..._sweep |
Codex 的运行台账:版本、job ID、preflight、恢复记录 | 跨 agent 比较 |
ptb_direct_claude_codex_comparison |
逐 base model 的三方分数表(direct / Claude / Codex) | 行为、trace |
claude_code_agent_trace_analysis |
Claude 的行为深入:时间去向、迭代结构、风险行为、对训练小模型的启示 | 分数细节 |
codex_sdk_agent_trace_analysis |
Codex 的同上 | 分数细节 |
agent_trace_comparison |
两者行为的 head-to-head、scaffold 无关的共性、process reward 设计 | 逐 cell 分数 |
*_trace_tables_*.md |
逐 run / 逐特征的全量数据表(脚本生成,勿手改) | 解读 |
leakage_audit |
训练数据污染核查:方法、逐 run 结果、分数影响上界、官方 decon 工具的结构性缺陷(§2.1) | 行为分析 |
seed_variance_run1_run2 |
种子噪声:单格噪声底线、run1↔run2 逐格差、把底线套回 Claude↔Codex 比较 | 分数矩阵本身 |
capability_probes |
离线能力探针:题目构造、金标来源、基线、已知局限 | 模型跑分(还没做) |
literature_reviews/ |
外部工作:实现阶段的 benchmark 与方法综述 | 我们自己的结果 |
setup/servers_aws_vs_babel |
两台机器各自能做什么、如何自动识别、怎么配合 | 实验结果 |
分数矩阵在 sweep 文档(按 agent 的权威记录)和 comparison 文档(并排对比视角)各出现一次, 这是有意的:一个是台账,一个是比较。其余内容不跨文档重复,只交叉引用。
还没做的
run2— 已完成 28/28(2026-10-22)。run3 不打算跑: 现有 28 对跨 sweep + 23 对同 sweep 重复已经把噪声结构量清楚(还拆出了两层), 再来一整轮 7×4 的边际信息不大。若要补种子,只补 aime2025 这类小题量 benchmark。 见种子噪声。 同一份文档还提出一条待决:bfcl 与 healthbench 是否该退出主指标 —— 两者噪声极小但区分度也极小,却占了 2/7 的权重。gsm8k / humaneval 的泄漏核查— 已完成且已完全关闭(遗留项于 2026-10-22 解决)。 cl100k 词表已从计算节点取回并固化进scripts/tiktoken_cache/,官方工具原样复核的结论是: 它按构造就查不出"只抄题干"的污染(question 权重 0.75 < 阈值 0.8, 164 道题干逐字喂回 0/164 被标记),与 tokenizer 无关。 见泄漏审计 §2.1。现在可以向上游提 issue 了(三条,文档里列好了)。- judge 替换的影响量化 — healthbench 这一半已完成(2026-10-21):
zero-shot 下本地 judge 给 0.034,论文的 gpt-5-mini 给 0.095(约 1/3),
而同一批次里没换 judge 的 6 个 benchmark 吻合到 0.1 个百分点 ——
差异来源被锁死在 judge 上。见 sweep 文档 §2.1。
arenahardwriting 仍未量化(它是成对偏好胜率,换 judge 等于换指标),
且"本地 judge 是否响应曲线更陡"需要同一批
final_model过两个 judge 才能验证,而 OpenAI 端不可达。 healthbench 的 direct baseline 4 格— 已完成(2026-10-21),direct 矩阵现在是 28/28。 失败真因是评分吞吐(每条约 3 分钟 × 245 条,撞 4 小时上限),不是 judge 不可用; 关掉 Qwen3.6 的 thinking 后整格 20–29 分钟跑完。