Blame for auto-impl/docs/README.md

# `docs/` — 读这里开始

本项目在研究一个问题:**自动化研究 agent(autoresearch)在"实现阶段"到底能做到什么程度,
以及如果我们要训练一个小模型做同样的事,需要哪些能力。**

载体是 **PostTrainBench**:给 agent 一张 H100、10 小时、一个小基座模型和一个 benchmark,
让它自己做 post-training,交付 `final_model`,由 harness 打分。
规格是 7 benchmark × 4 base model = **28 个 cell**。

> **只想看一份?** → [**总报告 / REPORT**](results/REPORT_agent_study_2026-10.md)
> —— 中英双语对照、叙述式,面向不了解本项目的读者,术语都在首次出现时解释,含表格与图。

---

## 已经做了什么

| # | 实验 | 时间 | 状态 | 记录在 |
|---|---|---|---|---|
| 0 | 文献综述:实现阶段的 benchmark 与方法 | 2026-09 | 完成 | [benchmark 篇](literature_reviews/autoresearch_implementation_benchmark.md) · [method 篇](literature_reviews/autoresearch_implementation_method.md) |
| 1 | **Direct inference baseline**(zero-shot,不训练) | 2026-10-06 / 10-21 补齐 | **28/28** | [sweep 文档 §2](results/ptb_claude_sweep_and_baseline_2026-10.md) |
| 2 | **Claude Code sweep**(`claude-opus-5`,10h/cell) | 2026-09-29 ~ 10-05 | 28/28 | [sweep 文档 §1](results/ptb_claude_sweep_and_baseline_2026-10.md) |
| 3 | **Codex SDK sweep**(`gpt-5.6-sol` high,10h/cell) | 2026-10-06 | 28/28 | [sweep 文档](results/ptb_codex_sdk_gpt-5.6-sol_sweep_2026-10.md) |
| 4 | **Trace 行为分析**(Claude 71 份 + Codex 28 份) | 2026-10-06/07 | 完成 | [Claude 篇](results/claude_code_agent_trace_analysis_2026-10.md) · [Codex 篇](results/codex_sdk_agent_trace_analysis_2026-10.md) · [对比篇](results/agent_trace_comparison_2026-10.md) |
| 5 | **gsm8k / humaneval 泄漏审计**(24 个 run、约 46 GB 候选产物) | 2026-10-07 / 10-22 收尾 | 完成,并查出上游 decon 工具的结构性盲区 | [泄漏审计](results/leakage_audit_2026-10.md) |
| 6 | **离线能力探针**(从 trace 构造,424 题) | 2026-10-19/20 | 完成:P2 成立并通过稳健性复核;P1 判定为造不出来 | [能力探针](results/capability_probes_2026-10.md) |
| 7 | **run2 第二个种子**(28 cell,Claude Opus 5) | 2026-10-20 ~ 10-22 | **28/28 完成** | [种子噪声](results/seed_variance_run1_run2_2026-10.md) |

代码:sweep 的提交脚本在 [`scripts/`](../scripts/),harness 封装在 [`src/posttrainbench/`](../src/posttrainbench/),
trace 分析管线在 [`analysis/`](../analysis/)(见其 [README](../analysis/README.md))。

> **先确认自己在哪台机器上。** 本项目在 **aws**(大量 H100 + Claude Code/Codex SDK + 模型网关,
> 但登录节点不通外网)和 **babel**(能联网、小 GPU 调试,**没有任何 agent SDK**)两台机器上运行。
> 跑 `bash scripts/whichserver.sh` 判定,能力矩阵见
> [`docs/setup/servers_aws_vs_babel.md`](setup/servers_aws_vs_babel.md)。
> **agent sweep 只能在 aws 跑。**

---

## 高层要点 / Takeaways —— 三个层次的结论,按这个顺序读

### 第一层:harness 是可信的,分数也不是污染来的

Direct baseline 的 6-task 均值 **0.0771 vs 论文的 0.0770**,逐项差距都在 1 个百分点以内。
→ 评测管线复现了论文设定,后面所有比较的差异不来自 harness。
详见 [`ptb_claude_sweep_and_baseline_2026-10.md`](results/ptb_claude_sweep_and_baseline_2026-10.md) §2。

泄漏审计(24 个 run 的真实训练文件)结论:**gsm8k 12/12 个 run 训练数据零命中**;
humaneval 有 7 例、集中在 4 道题,但**上报矩阵里只有 1 个 cell 受影响,上界 0.61 pp**。
→ 我们远高于论文的 gsm8k / humaneval 分数**不是污染造成的**。
污染确实存在,但在**上游公开数据集**里(自称 "decontaminated" 的 Magicoder 系列),
而且官方去污染工具在三个被标记的 run 上都报了 "0 matches"。
详见 [泄漏审计](results/leakage_audit_2026-10.md)。

### 第二层:两个 agent 的分数

| | 6-task 均值(24 个公共 cell) |
|---|---|
| Direct(zero-shot) | 0.077 |
| **Claude Code** | **0.538** |
| Codex SDK | 0.484 |

逐 cell、逐 base model 的三方表在
[`ptb_direct_claude_codex_comparison_2026-10.md`](results/ptb_direct_claude_codex_comparison_2026-10.md)。

**这个总体差距是稳的,但逐格的胜负大多不是。** run2 跑完后(2026-10-22)噪声拆成了两层:
同一 sweep 内重跑的单次运行标准差 **0.0304**,**跨 sweep 则是 0.0456**(F=2.19,p=0.029)。
Claude 与 Codex 跑在不同的周,所以适用的是后者 —— 逐格 95% 门槛 **0.125**
(用 Claude 两个种子的均值时降到 0.108):

- 28 格均值差 **+0.0501 ± 0.0104**(SE),z = 4.8 —— 聚合结论成立;
- 但 Claude 分数更高的 24 格里,**只有 5 格的差距超过门槛**(且 0 格偏向 Codex),
  其余 23 格换个种子就可能翻过来。

所以正确说法是:**5 格 Claude 决定性更好,0 格 Codex 决定性更好,23 格分不出来。**
详见[种子噪声](results/seed_variance_run1_run2_2026-10.md)。

### 第三层:agent 到底是怎么做研究的(这一层才是项目的目的)

从 99 份 trace 里抽出行为特征。三条最硬的结论:

1. **收益递减是任务属性,不是 scaffold 属性。** 两个完全不同的循环形态(Claude 4.6 个模型版本 vs
   Codex 15.0 个),进度曲线重合到 1 个百分点以内:90% 的增益分别用掉 44% / 43% 的预算。
   后半程的几个小时是"高占用率的无效迭代"。
2. **过程质量与最终分数几乎不相关。** 行为特征对任务内 z-score 的 Spearman,Claude 侧最大 |ρ| 只有 0.28,
   Codex 侧最大 0.41("越早量出 baseline 越好",n=28)。用最终准确率做奖励来监督过程,信号极弱 ——
   需要拆成可分别验证的 process reward。
3. **两边都在噪声上做选择。** 99 份 trace 里**只有 1 份做了多 seed 平均**;
   自测分系统性高于 harness 实测(Claude +1.9 点,Codex +3.9 点)。
   受控消融的迹象 Claude 侧只有 2%,Codex 侧 32%(主要形态是同一次训练的 checkpoint 扫描)。

两个 agent 的互补性(Claude 会异步调度但推理加密;Codex 推理明文但完全串行)决定了
做蒸馏时两份 trace 都要用 —— 见 [对比篇](results/agent_trace_comparison_2026-10.md) §5。

---

## 哪份文档负责什么(避免重复查找)

| 文档 | 唯一负责的内容 | 不在这里找 |
|---|---|---|
| [**`REPORT_agent_study`**](results/REPORT_agent_study_2026-10.md) | **面向外部读者的总报告**(中英双语、叙述式、含图):设定、结果、四条主要发现、下一步 | 逐 run 细节与方法学 |
| [`ptb_claude_sweep_and_baseline`](results/ptb_claude_sweep_and_baseline_2026-10.md) | Claude 分数矩阵、direct baseline 矩阵、**与论文的对照和可比性警告** | Codex 的数字、行为分析 |
| [`ptb_codex_sdk_..._sweep`](results/ptb_codex_sdk_gpt-5.6-sol_sweep_2026-10.md) | Codex 的**运行台账**:版本、job ID、preflight、恢复记录 | 跨 agent 比较 |
| [`ptb_direct_claude_codex_comparison`](results/ptb_direct_claude_codex_comparison_2026-10.md) | **逐 base model 的三方分数表**(direct / Claude / Codex) | 行为、trace |
| [`claude_code_agent_trace_analysis`](results/claude_code_agent_trace_analysis_2026-10.md) | Claude 的**行为**深入:时间去向、迭代结构、风险行为、对训练小模型的启示 | 分数细节 |
| [`codex_sdk_agent_trace_analysis`](results/codex_sdk_agent_trace_analysis_2026-10.md) | Codex 的同上 | 分数细节 |
| [`agent_trace_comparison`](results/agent_trace_comparison_2026-10.md) | 两者**行为**的 head-to-head、scaffold 无关的共性、process reward 设计 | 逐 cell 分数 |
| `*_trace_tables_*.md` | 逐 run / 逐特征的全量数据表(脚本生成,勿手改) | 解读 |
| [`leakage_audit`](results/leakage_audit_2026-10.md) | **训练数据污染核查**:方法、逐 run 结果、分数影响上界、**官方 decon 工具的结构性缺陷(§2.1)** | 行为分析 |
| [`seed_variance_run1_run2`](results/seed_variance_run1_run2_2026-10.md) | **种子噪声**:单格噪声底线、run1↔run2 逐格差、把底线套回 Claude↔Codex 比较 | 分数矩阵本身 |
| [`capability_probes`](results/capability_probes_2026-10.md) | **离线能力探针**:题目构造、金标来源、基线、已知局限 | 模型跑分(还没做) |
| [`literature_reviews/`](literature_reviews/) | 外部工作:实现阶段的 benchmark 与方法综述 | 我们自己的结果 |
| [`setup/servers_aws_vs_babel`](setup/servers_aws_vs_babel.md) | **两台机器各自能做什么、如何自动识别、怎么配合** | 实验结果 |

分数矩阵在 sweep 文档(按 agent 的权威记录)和 comparison 文档(并排对比视角)各出现一次,
这是有意的:一个是台账,一个是比较。其余内容不跨文档重复,只交叉引用。

---

## 还没做的

1. ~~run2~~ — **已完成 28/28**(2026-10-22)。**run3 不打算跑**:
   现有 28 对跨 sweep + 23 对同 sweep 重复已经把噪声结构量清楚(还拆出了两层),
   再来一整轮 7×4 的边际信息不大。若要补种子,只补 aime2025 这类小题量 benchmark。
   见[种子噪声](results/seed_variance_run1_run2_2026-10.md)。
   同一份文档还提出一条待决:**bfcl 与 healthbench 是否该退出主指标** ——
   两者噪声极小但区分度也极小,却占了 2/7 的权重。
2. ~~gsm8k / humaneval 的泄漏核查~~ — **已完成且已完全关闭**(遗留项于 2026-10-22 解决)。
   cl100k 词表已从计算节点取回并固化进 `scripts/tiktoken_cache/`,官方工具原样复核的结论是:
   **它按构造就查不出"只抄题干"的污染**(question 权重 0.75 < 阈值 0.8,
   164 道题干逐字喂回 0/164 被标记),与 tokenizer 无关。
   见[泄漏审计 §2.1](results/leakage_audit_2026-10.md)。**现在可以向上游提 issue 了**(三条,文档里列好了)。
3. **judge 替换的影响量化** — **healthbench 这一半已完成**(2026-10-21):
   zero-shot 下本地 judge 给 **0.034**,论文的 gpt-5-mini 给 **0.095**(约 1/3),
   而同一批次里没换 judge 的 6 个 benchmark 吻合到 0.1 个百分点 ——
   差异来源被锁死在 judge 上。见 [sweep 文档 §2.1](results/ptb_claude_sweep_and_baseline_2026-10.md)。
   **arenahardwriting 仍未量化**(它是成对偏好胜率,换 judge 等于换指标),
   且"本地 judge 是否响应曲线更陡"需要同一批 `final_model` 过两个 judge 才能验证,而 OpenAI 端不可达。
4. ~~healthbench 的 direct baseline 4 格~~ — **已完成**(2026-10-21),direct 矩阵现在是 28/28。
   失败真因是评分吞吐(每条约 3 分钟 × 245 条,撞 4 小时上限),不是 judge 不可用;
   关掉 Qwen3.6 的 thinking 后整格 20–29 分钟跑完。