Hugging Face's logo

Datasets:
Jerry999
/
RSIChallenge

Dataset card Files
xet
 Community
RSIChallenge / auto-impl /analysis /README.md
Jerry999's picture
Jerry999
Add files using upload-large-folder tool
158258b verified
preview code
|
Raw History Blame Contribute Delete
4.73 kB

analysis/ — PostTrainBench agent trace 分析

把 solve_out.txt(Claude Code SDK 的 stream-json,或 Codex SDK 的事件流)变成可比较的数字、 可读的流水账和图表。格式自动识别,两套 trace 走同一套下游分析。不需要重跑 agent,只读 lustre 上已有的结果目录。

跑 

python analysis/run_analysis.py --agent all --figures   # 两个 agent:特征 + 统计 + 图 + 流水账
python analysis/make_tables.py                          # 每个 agent 的 markdown 附录表
python analysis/compare.py --figures                    # 两者的 head-to-head 对比

--agent 取 claude / codex / all。产物:

路径 内容
analysis/out/<agent>/runs.csv / runs.json 每条 trace 一行的全部特征(含被排除的)
analysis/out/<agent>/summary.json 队列级聚合:均值、相关性、技术分布、风险、文本习惯
analysis/out/<agent>/tables.md 渲染好的 markdown 表
analysis/out/<agent>/narratives/<run_id>.md 单个 run 的可读流水账:计划、里程碑、报错→下一步、最终报告
analysis/out/compare.json / compare_tables.md 配对对比
docs/results/figures/<agent>/*.png、figures/compare/*.png 报告插图
docs/results/*_trace_tables_2026-10.md 附录表(由 make_tables.py 直接写出)

结论文档: Claude 篇 · Codex 篇 · 对比篇。

换一批结果目录:--agent <label> --results-root /path/to/<agent>_<model>_<hours>_<exp>。 目录名需符合 <task>_<org>_<model>_<YYYYmmdd-HHMMSS>,否则会被跳过。

模块

模块 职责
trace_analysis/parse.py 事件流 → Run:事件、配对好的 ToolCall(tool_use ↔ tool_result)、终止事件、harness 分数。按格式自动分派
trace_analysis/codex.py Codex SDK 事件流的适配器,映射到同一套 Run / ToolCall
trace_analysis/taxonomy.py 分类器:单次调用在做什么、后台任务在做什么、用了哪些 ML 技术、踩了哪些风险、用了哪些数据集
trace_analysis/features.py 每个 run 的数值特征,以及 cohort 判定
trace_analysis/stats.py 跨 run 统计:任务内 z-score、相关性、技术效应、重跑离散度、自验收率
trace_analysis/probes.py 文本探针:只有在散文里才看得出的习惯(有没有报 baseline、有没有承认负面结果)
trace_analysis/narrative.py 单 run 的人类可读摘要
trace_analysis/figures.py 图表

三个必须知道的口径

1. cohort 判定(features._cohort)。 这一轮 sweep 里所有出错的 run 都错在我们这边: 集群统一 kill 了 09-29 那批、judge pool 被抢占、证书过期、本地推理网关 502。 把这些当成"agent 放弃了"会把我们的基础设施当成 agent 行为来测。所以:

  • primary — agent 自己跑到 end_turn 且 harness 打了分。
  • recovered — 跑满 7h+、final_model 已落盘并被打分,只是收尾消息被网关掐断。研究循环完整。
  • excluded — 其余,按原因分类报出,不进任何统计。

2. 时间归属。 Claude 的训练是用 run_in_background 起的,前台那条命令只是几秒钟的 wait。 只按前台命令统计会得出"几乎没在训练"的荒谬结论。所以耗时按后台任务归属 (taxonomy.classify_bg 读 agent 自己给任务写的 description), "机器占用率"取所有运行区间的并集,重叠的后台任务不重复计数。 Codex 完全同步阻塞(3,946 条命令里只有 14 条走后台),它的时间天然就在前台命令上。

3. 跨 agent 比较的两个陷阱。 (a) 技术检测对 Codex 偏低:它通过 file_change 事件改文件,该事件只有路径没有内容, 所以 ML 技术分布不可跨 agent 比较(行为、时间、分数类指标不受影响)。 (b) 文本探针有三个口径:只看最终报告会严重低估 Codex(它的报告只有 340 字符); 把 Codex 的明文 reasoning 也算进去又会高估它(Claude 的 thinking 是加密的)。 跨 agent 请只看 said_ 前缀的行 —— 报告 + 旁白,两边都暴露。

加一个新指标

  1. 在 features.RunFeatures 上加字段,在 extract() 里填。
  2. 想进相关性分析就把字段名加到 stats.NUMERIC_FEATURES。
  3. 想进报告表就在 make_tables.py 的对应 table(...) 里加一列。

分类器全部是保守正则:宁可漏判也不误判。它们能证明某行为存在,不能证明不存在。