# `analysis/` — PostTrainBench agent trace 分析

把 `solve_out.txt`(Claude Code SDK 的 `stream-json`,或 Codex SDK 的事件流)变成可比较的数字、
可读的流水账和图表。格式自动识别,两套 trace 走同一套下游分析。不需要重跑 agent,只读 lustre 上已有的结果目录。

## 跑

```bash
python analysis/run_analysis.py --agent all --figures   # 两个 agent:特征 + 统计 + 图 + 流水账
python analysis/make_tables.py                          # 每个 agent 的 markdown 附录表
python analysis/compare.py --figures                    # 两者的 head-to-head 对比
```

`--agent` 取 `claude` / `codex` / `all`。产物:

| 路径 | 内容 |
|---|---|
| `analysis/out/<agent>/runs.csv` / `runs.json` | 每条 trace 一行的全部特征(含被排除的) |
| `analysis/out/<agent>/summary.json` | 队列级聚合:均值、相关性、技术分布、风险、文本习惯 |
| `analysis/out/<agent>/tables.md` | 渲染好的 markdown 表 |
| `analysis/out/<agent>/narratives/<run_id>.md` | 单个 run 的可读流水账:计划、里程碑、报错→下一步、最终报告 |
| `analysis/out/compare.json` / `compare_tables.md` | 配对对比 |
| `docs/results/figures/<agent>/*.png`、`figures/compare/*.png` | 报告插图 |
| `docs/results/*_trace_tables_2026-10.md` | 附录表(由 `make_tables.py` 直接写出) |

结论文档:
[Claude 篇](../docs/results/claude_code_agent_trace_analysis_2026-10.md) ·
[Codex 篇](../docs/results/codex_sdk_agent_trace_analysis_2026-10.md) ·
[对比篇](../docs/results/agent_trace_comparison_2026-10.md)。

换一批结果目录:`--agent <label> --results-root /path/to/<agent>_<model>_<hours>_<exp>`。
目录名需符合 `<task>_<org>_<model>_<YYYYmmdd-HHMMSS>`,否则会被跳过。

## 模块

| 模块 | 职责 |
|---|---|
| `trace_analysis/parse.py` | 事件流 → `Run`:事件、配对好的 `ToolCall`(tool_use ↔ tool_result)、终止事件、harness 分数。按格式自动分派 |
| `trace_analysis/codex.py` | Codex SDK 事件流的适配器,映射到同一套 `Run` / `ToolCall` |
| `trace_analysis/taxonomy.py` | 分类器:单次调用在做什么、后台任务在做什么、用了哪些 ML 技术、踩了哪些风险、用了哪些数据集 |
| `trace_analysis/features.py` | 每个 run 的数值特征,以及 cohort 判定 |
| `trace_analysis/stats.py` | 跨 run 统计:任务内 z-score、相关性、技术效应、重跑离散度、自验收率 |
| `trace_analysis/probes.py` | 文本探针:只有在散文里才看得出的习惯(有没有报 baseline、有没有承认负面结果) |
| `trace_analysis/narrative.py` | 单 run 的人类可读摘要 |
| `trace_analysis/figures.py` | 图表 |

## 三个必须知道的口径

**1. cohort 判定(`features._cohort`)。** 这一轮 sweep 里所有出错的 run 都错在**我们这边**:
集群统一 kill 了 09-29 那批、judge pool 被抢占、证书过期、本地推理网关 502。
把这些当成"agent 放弃了"会把我们的基础设施当成 agent 行为来测。所以:

- `primary` — agent 自己跑到 `end_turn` 且 harness 打了分。
- `recovered` — 跑满 7h+、`final_model` 已落盘并被打分,只是收尾消息被网关掐断。研究循环完整。
- `excluded` — 其余,按原因分类报出,不进任何统计。

**2. 时间归属。** Claude 的训练是用 `run_in_background` 起的,前台那条命令只是几秒钟的 `wait`。
只按前台命令统计会得出"几乎没在训练"的荒谬结论。所以耗时按**后台任务**归属
(`taxonomy.classify_bg` 读 agent 自己给任务写的 description),
"机器占用率"取所有运行区间的**并集**,重叠的后台任务不重复计数。
Codex 完全同步阻塞(3,946 条命令里只有 14 条走后台),它的时间天然就在前台命令上。

**3. 跨 agent 比较的两个陷阱。**
(a) **技术检测对 Codex 偏低**:它通过 `file_change` 事件改文件,该事件只有路径没有内容,
所以 ML 技术分布**不可跨 agent 比较**(行为、时间、分数类指标不受影响)。
(b) **文本探针有三个口径**:只看最终报告会严重低估 Codex(它的报告只有 340 字符);
把 Codex 的明文 reasoning 也算进去又会高估它(Claude 的 thinking 是加密的)。
跨 agent 请只看 `said_` 前缀的行 —— 报告 + 旁白,两边都暴露。

## 加一个新指标

1. 在 `features.RunFeatures` 上加字段,在 `extract()` 里填。
2. 想进相关性分析就把字段名加到 `stats.NUMERIC_FEATURES`。
3. 想进报告表就在 `make_tables.py` 的对应 `table(...)` 里加一列。

分类器全部是保守正则:宁可漏判也不误判。它们能证明某行为**存在**,不能证明**不存在**。