| # `analysis/` — PostTrainBench agent trace 分析 |
|
|
| 把 `solve_out.txt`(Claude Code SDK 的 `stream-json`,或 Codex SDK 的事件流)变成可比较的数字、 |
| 可读的流水账和图表。格式自动识别,两套 trace 走同一套下游分析。不需要重跑 agent,只读 lustre 上已有的结果目录。 |
|
|
| ## 跑 |
|
|
| ```bash |
| python analysis/run_analysis.py --agent all --figures # 两个 agent:特征 + 统计 + 图 + 流水账 |
| python analysis/make_tables.py # 每个 agent 的 markdown 附录表 |
| python analysis/compare.py --figures # 两者的 head-to-head 对比 |
| ``` |
|
|
| `--agent` 取 `claude` / `codex` / `all`。产物: |
|
|
| | 路径 | 内容 | |
| |---|---| |
| | `analysis/out/<agent>/runs.csv` / `runs.json` | 每条 trace 一行的全部特征(含被排除的) | |
| | `analysis/out/<agent>/summary.json` | 队列级聚合:均值、相关性、技术分布、风险、文本习惯 | |
| | `analysis/out/<agent>/tables.md` | 渲染好的 markdown 表 | |
| | `analysis/out/<agent>/narratives/<run_id>.md` | 单个 run 的可读流水账:计划、里程碑、报错→下一步、最终报告 | |
| | `analysis/out/compare.json` / `compare_tables.md` | 配对对比 | |
| | `docs/results/figures/<agent>/*.png`、`figures/compare/*.png` | 报告插图 | |
| | `docs/results/*_trace_tables_2026-10.md` | 附录表(由 `make_tables.py` 直接写出) | |
|
|
| 结论文档: |
| [Claude 篇](../docs/results/claude_code_agent_trace_analysis_2026-10.md) · |
| [Codex 篇](../docs/results/codex_sdk_agent_trace_analysis_2026-10.md) · |
| [对比篇](../docs/results/agent_trace_comparison_2026-10.md)。 |
|
|
| 换一批结果目录:`--agent <label> --results-root /path/to/<agent>_<model>_<hours>_<exp>`。 |
| 目录名需符合 `<task>_<org>_<model>_<YYYYmmdd-HHMMSS>`,否则会被跳过。 |
|
|
| ## 模块 |
|
|
| | 模块 | 职责 | |
| |---|---| |
| | `trace_analysis/parse.py` | 事件流 → `Run`:事件、配对好的 `ToolCall`(tool_use ↔ tool_result)、终止事件、harness 分数。按格式自动分派 | |
| | `trace_analysis/codex.py` | Codex SDK 事件流的适配器,映射到同一套 `Run` / `ToolCall` | |
| | `trace_analysis/taxonomy.py` | 分类器:单次调用在做什么、后台任务在做什么、用了哪些 ML 技术、踩了哪些风险、用了哪些数据集 | |
| | `trace_analysis/features.py` | 每个 run 的数值特征,以及 cohort 判定 | |
| | `trace_analysis/stats.py` | 跨 run 统计:任务内 z-score、相关性、技术效应、重跑离散度、自验收率 | |
| | `trace_analysis/probes.py` | 文本探针:只有在散文里才看得出的习惯(有没有报 baseline、有没有承认负面结果) | |
| | `trace_analysis/narrative.py` | 单 run 的人类可读摘要 | |
| | `trace_analysis/figures.py` | 图表 | |
|
|
| ## 三个必须知道的口径 |
|
|
| **1. cohort 判定(`features._cohort`)。** 这一轮 sweep 里所有出错的 run 都错在**我们这边**: |
| 集群统一 kill 了 09-29 那批、judge pool 被抢占、证书过期、本地推理网关 502。 |
| 把这些当成"agent 放弃了"会把我们的基础设施当成 agent 行为来测。所以: |
| |
| - `primary` — agent 自己跑到 `end_turn` 且 harness 打了分。 |
| - `recovered` — 跑满 7h+、`final_model` 已落盘并被打分,只是收尾消息被网关掐断。研究循环完整。 |
| - `excluded` — 其余,按原因分类报出,不进任何统计。 |
| |
| **2. 时间归属。** Claude 的训练是用 `run_in_background` 起的,前台那条命令只是几秒钟的 `wait`。 |
| 只按前台命令统计会得出"几乎没在训练"的荒谬结论。所以耗时按**后台任务**归属 |
| (`taxonomy.classify_bg` 读 agent 自己给任务写的 description), |
| "机器占用率"取所有运行区间的**并集**,重叠的后台任务不重复计数。 |
| Codex 完全同步阻塞(3,946 条命令里只有 14 条走后台),它的时间天然就在前台命令上。 |
| |
| **3. 跨 agent 比较的两个陷阱。** |
| (a) **技术检测对 Codex 偏低**:它通过 `file_change` 事件改文件,该事件只有路径没有内容, |
| 所以 ML 技术分布**不可跨 agent 比较**(行为、时间、分数类指标不受影响)。 |
| (b) **文本探针有三个口径**:只看最终报告会严重低估 Codex(它的报告只有 340 字符); |
| 把 Codex 的明文 reasoning 也算进去又会高估它(Claude 的 thinking 是加密的)。 |
| 跨 agent 请只看 `said_` 前缀的行 —— 报告 + 旁白,两边都暴露。 |
|
|
| ## 加一个新指标 |
|
|
| 1. 在 `features.RunFeatures` 上加字段,在 `extract()` 里填。 |
| 2. 想进相关性分析就把字段名加到 `stats.NUMERIC_FEATURES`。 |
| 3. 想进报告表就在 `make_tables.py` 的对应 `table(...)` 里加一列。 |
|
|
| 分类器全部是保守正则:宁可漏判也不误判。它们能证明某行为**存在**,不能证明**不存在**。 |
|
|
