| # `docs/` — 读这里开始 |
|
|
| 本项目在研究一个问题:**自动化研究 agent(autoresearch)在"实现阶段"到底能做到什么程度, |
| 以及如果我们要训练一个小模型做同样的事,需要哪些能力。** |
|
|
| 载体是 **PostTrainBench**:给 agent 一张 H100、10 小时、一个小基座模型和一个 benchmark, |
| 让它自己做 post-training,交付 `final_model`,由 harness 打分。 |
| 规格是 7 benchmark × 4 base model = **28 个 cell**。 |
|
|
| > **只想看一份?** → [**总报告 / REPORT**](results/REPORT_agent_study_2026-10.md) |
| > —— 中英双语对照、叙述式,面向不了解本项目的读者,术语都在首次出现时解释,含表格与图。 |
|
|
| --- |
|
|
| ## 已经做了什么 |
|
|
| | # | 实验 | 时间 | 状态 | 记录在 | |
| |---|---|---|---|---| |
| | 0 | 文献综述:实现阶段的 benchmark 与方法 | 2026-09 | 完成 | [benchmark 篇](literature_reviews/autoresearch_implementation_benchmark.md) · [method 篇](literature_reviews/autoresearch_implementation_method.md) | |
| | 1 | **Direct inference baseline**(zero-shot,不训练) | 2026-10-06 / 10-21 补齐 | **28/28** | [sweep 文档 §2](results/ptb_claude_sweep_and_baseline_2026-10.md) | |
| | 2 | **Claude Code sweep**(`claude-opus-5`,10h/cell) | 2026-09-29 ~ 10-05 | 28/28 | [sweep 文档 §1](results/ptb_claude_sweep_and_baseline_2026-10.md) | |
| | 3 | **Codex SDK sweep**(`gpt-5.6-sol` high,10h/cell) | 2026-10-06 | 28/28 | [sweep 文档](results/ptb_codex_sdk_gpt-5.6-sol_sweep_2026-10.md) | |
| | 4 | **Trace 行为分析**(Claude 71 份 + Codex 28 份) | 2026-10-06/07 | 完成 | [Claude 篇](results/claude_code_agent_trace_analysis_2026-10.md) · [Codex 篇](results/codex_sdk_agent_trace_analysis_2026-10.md) · [对比篇](results/agent_trace_comparison_2026-10.md) | |
| | 5 | **gsm8k / humaneval 泄漏审计**(24 个 run、约 46 GB 候选产物) | 2026-10-07 / 10-22 收尾 | 完成,并查出上游 decon 工具的结构性盲区 | [泄漏审计](results/leakage_audit_2026-10.md) | |
| | 6 | **离线能力探针**(从 trace 构造,424 题) | 2026-10-19/20 | 完成:P2 成立并通过稳健性复核;P1 判定为造不出来 | [能力探针](results/capability_probes_2026-10.md) | |
| | 7 | **run2 第二个种子**(28 cell,Claude Opus 5) | 2026-10-20 ~ 10-22 | **28/28 完成** | [种子噪声](results/seed_variance_run1_run2_2026-10.md) | |
|
|
| 代码:sweep 的提交脚本在 [`scripts/`](../scripts/),harness 封装在 [`src/posttrainbench/`](../src/posttrainbench/), |
| trace 分析管线在 [`analysis/`](../analysis/)(见其 [README](../analysis/README.md))。 |
|
|
| > **先确认自己在哪台机器上。** 本项目在 **aws**(大量 H100 + Claude Code/Codex SDK + 模型网关, |
| > 但登录节点不通外网)和 **babel**(能联网、小 GPU 调试,**没有任何 agent SDK**)两台机器上运行。 |
| > 跑 `bash scripts/whichserver.sh` 判定,能力矩阵见 |
| > [`docs/setup/servers_aws_vs_babel.md`](setup/servers_aws_vs_babel.md)。 |
| > **agent sweep 只能在 aws 跑。** |
|
|
| --- |
|
|
| ## 高层要点 / Takeaways —— 三个层次的结论,按这个顺序读 |
|
|
| ### 第一层:harness 是可信的,分数也不是污染来的 |
|
|
| Direct baseline 的 6-task 均值 **0.0771 vs 论文的 0.0770**,逐项差距都在 1 个百分点以内。 |
| → 评测管线复现了论文设定,后面所有比较的差异不来自 harness。 |
| 详见 [`ptb_claude_sweep_and_baseline_2026-10.md`](results/ptb_claude_sweep_and_baseline_2026-10.md) §2。 |
|
|
| 泄漏审计(24 个 run 的真实训练文件)结论:**gsm8k 12/12 个 run 训练数据零命中**; |
| humaneval 有 7 例、集中在 4 道题,但**上报矩阵里只有 1 个 cell 受影响,上界 0.61 pp**。 |
| → 我们远高于论文的 gsm8k / humaneval 分数**不是污染造成的**。 |
| 污染确实存在,但在**上游公开数据集**里(自称 "decontaminated" 的 Magicoder 系列), |
| 而且官方去污染工具在三个被标记的 run 上都报了 "0 matches"。 |
| 详见 [泄漏审计](results/leakage_audit_2026-10.md)。 |
|
|
| ### 第二层:两个 agent 的分数 |
|
|
| | | 6-task 均值(24 个公共 cell) | |
| |---|---| |
| | Direct(zero-shot) | 0.077 | |
| | **Claude Code** | **0.538** | |
| | Codex SDK | 0.484 | |
|
|
| 逐 cell、逐 base model 的三方表在 |
| [`ptb_direct_claude_codex_comparison_2026-10.md`](results/ptb_direct_claude_codex_comparison_2026-10.md)。 |
|
|
| **这个总体差距是稳的,但逐格的胜负大多不是。** run2 跑完后(2026-10-22)噪声拆成了两层: |
| 同一 sweep 内重跑的单次运行标准差 **0.0304**,**跨 sweep 则是 0.0456**(F=2.19,p=0.029)。 |
| Claude 与 Codex 跑在不同的周,所以适用的是后者 —— 逐格 95% 门槛 **0.125** |
| (用 Claude 两个种子的均值时降到 0.108): |
|
|
| - 28 格均值差 **+0.0501 ± 0.0104**(SE),z = 4.8 —— 聚合结论成立; |
| - 但 Claude 分数更高的 24 格里,**只有 5 格的差距超过门槛**(且 0 格偏向 Codex), |
| 其余 23 格换个种子就可能翻过来。 |
|
|
| 所以正确说法是:**5 格 Claude 决定性更好,0 格 Codex 决定性更好,23 格分不出来。** |
| 详见[种子噪声](results/seed_variance_run1_run2_2026-10.md)。 |
|
|
| ### 第三层:agent 到底是怎么做研究的(这一层才是项目的目的) |
|
|
| 从 99 份 trace 里抽出行为特征。三条最硬的结论: |
|
|
| 1. **收益递减是任务属性,不是 scaffold 属性。** 两个完全不同的循环形态(Claude 4.6 个模型版本 vs |
| Codex 15.0 个),进度曲线重合到 1 个百分点以内:90% 的增益分别用掉 44% / 43% 的预算。 |
| 后半程的几个小时是"高占用率的无效迭代"。 |
| 2. **过程质量与最终分数几乎不相关。** 行为特征对任务内 z-score 的 Spearman,Claude 侧最大 |ρ| 只有 0.28, |
| Codex 侧最大 0.41("越早量出 baseline 越好",n=28)。用最终准确率做奖励来监督过程,信号极弱 —— |
| 需要拆成可分别验证的 process reward。 |
| 3. **两边都在噪声上做选择。** 99 份 trace 里**只有 1 份做了多 seed 平均**; |
| 自测分系统性高于 harness 实测(Claude +1.9 点,Codex +3.9 点)。 |
| 受控消融的迹象 Claude 侧只有 2%,Codex 侧 32%(主要形态是同一次训练的 checkpoint 扫描)。 |
|
|
| 两个 agent 的互补性(Claude 会异步调度但推理加密;Codex 推理明文但完全串行)决定了 |
| 做蒸馏时两份 trace 都要用 —— 见 [对比篇](results/agent_trace_comparison_2026-10.md) §5。 |
|
|
| --- |
|
|
| ## 哪份文档负责什么(避免重复查找) |
|
|
| | 文档 | 唯一负责的内容 | 不在这里找 | |
| |---|---|---| |
| | [**`REPORT_agent_study`**](results/REPORT_agent_study_2026-10.md) | **面向外部读者的总报告**(中英双语、叙述式、含图):设定、结果、四条主要发现、下一步 | 逐 run 细节与方法学 | |
| | [`ptb_claude_sweep_and_baseline`](results/ptb_claude_sweep_and_baseline_2026-10.md) | Claude 分数矩阵、direct baseline 矩阵、**与论文的对照和可比性警告** | Codex 的数字、行为分析 | |
| | [`ptb_codex_sdk_..._sweep`](results/ptb_codex_sdk_gpt-5.6-sol_sweep_2026-10.md) | Codex 的**运行台账**:版本、job ID、preflight、恢复记录 | 跨 agent 比较 | |
| | [`ptb_direct_claude_codex_comparison`](results/ptb_direct_claude_codex_comparison_2026-10.md) | **逐 base model 的三方分数表**(direct / Claude / Codex) | 行为、trace | |
| | [`claude_code_agent_trace_analysis`](results/claude_code_agent_trace_analysis_2026-10.md) | Claude 的**行为**深入:时间去向、迭代结构、风险行为、对训练小模型的启示 | 分数细节 | |
| | [`codex_sdk_agent_trace_analysis`](results/codex_sdk_agent_trace_analysis_2026-10.md) | Codex 的同上 | 分数细节 | |
| | [`agent_trace_comparison`](results/agent_trace_comparison_2026-10.md) | 两者**行为**的 head-to-head、scaffold 无关的共性、process reward 设计 | 逐 cell 分数 | |
| | `*_trace_tables_*.md` | 逐 run / 逐特征的全量数据表(脚本生成,勿手改) | 解读 | |
| | [`leakage_audit`](results/leakage_audit_2026-10.md) | **训练数据污染核查**:方法、逐 run 结果、分数影响上界、**官方 decon 工具的结构性缺陷(§2.1)** | 行为分析 | |
| | [`seed_variance_run1_run2`](results/seed_variance_run1_run2_2026-10.md) | **种子噪声**:单格噪声底线、run1↔run2 逐格差、把底线套回 Claude↔Codex 比较 | 分数矩阵本身 | |
| | [`capability_probes`](results/capability_probes_2026-10.md) | **离线能力探针**:题目构造、金标来源、基线、已知局限 | 模型跑分(还没做) | |
| | [`literature_reviews/`](literature_reviews/) | 外部工作:实现阶段的 benchmark 与方法综述 | 我们自己的结果 | |
| | [`setup/servers_aws_vs_babel`](setup/servers_aws_vs_babel.md) | **两台机器各自能做什么、如何自动识别、怎么配合** | 实验结果 | |
|
|
| 分数矩阵在 sweep 文档(按 agent 的权威记录)和 comparison 文档(并排对比视角)各出现一次, |
| 这是有意的:一个是台账,一个是比较。其余内容不跨文档重复,只交叉引用。 |
|
|
| --- |
|
|
| ## 还没做的 |
|
|
| 1. ~~run2~~ — **已完成 28/28**(2026-10-22)。**run3 不打算跑**: |
| 现有 28 对跨 sweep + 23 对同 sweep 重复已经把噪声结构量清楚(还拆出了两层), |
| 再来一整轮 7×4 的边际信息不大。若要补种子,只补 aime2025 这类小题量 benchmark。 |
| 见[种子噪声](results/seed_variance_run1_run2_2026-10.md)。 |
| 同一份文档还提出一条待决:**bfcl 与 healthbench 是否该退出主指标** —— |
| 两者噪声极小但区分度也极小,却占了 2/7 的权重。 |
| 2. ~~gsm8k / humaneval 的泄漏核查~~ — **已完成且已完全关闭**(遗留项于 2026-10-22 解决)。 |
| cl100k 词表已从计算节点取回并固化进 `scripts/tiktoken_cache/`,官方工具原样复核的结论是: |
| **它按构造就查不出"只抄题干"的污染**(question 权重 0.75 < 阈值 0.8, |
| 164 道题干逐字喂回 0/164 被标记),与 tokenizer 无关。 |
| 见[泄漏审计 §2.1](results/leakage_audit_2026-10.md)。**现在可以向上游提 issue 了**(三条,文档里列好了)。 |
| 3. **judge 替换的影响量化** — **healthbench 这一半已完成**(2026-10-21): |
| zero-shot 下本地 judge 给 **0.034**,论文的 gpt-5-mini 给 **0.095**(约 1/3), |
| 而同一批次里没换 judge 的 6 个 benchmark 吻合到 0.1 个百分点 —— |
| 差异来源被锁死在 judge 上。见 [sweep 文档 §2.1](results/ptb_claude_sweep_and_baseline_2026-10.md)。 |
| **arenahardwriting 仍未量化**(它是成对偏好胜率,换 judge 等于换指标), |
| 且"本地 judge 是否响应曲线更陡"需要同一批 `final_model` 过两个 judge 才能验证,而 OpenAI 端不可达。 |
| 4. ~~healthbench 的 direct baseline 4 格~~ — **已完成**(2026-10-21),direct 矩阵现在是 28/28。 |
| 失败真因是评分吞吐(每条约 3 分钟 × 245 条,撞 4 小时上限),不是 judge 不可用; |
| 关掉 Qwen3.6 的 thinking 后整格 20–29 分钟跑完。 |
|
|
