| # v2 任务转换注意事项 |
|
|
| 把一个任务转换成 v2 格式时,逐个组成成分要注意的事、以及实际踩过的坑。 |
| 配合 `README.md`(v2 规范)使用——README 讲"规范是什么",本文讲"转换时 |
| 怎么不出错"。 |
|
|
| 任务的组成成分: |
|
|
| ``` |
| data_raw/ 原始数据 + 下载/解析脚本 |
| prep_data.py 原始数据 → data/ |
| data/ train / test 切分(SR 系统和 harness 实际消费的) |
| formulas/ reference baseline 公式 + reference_metrics.json |
| metadata.yaml 任务定义(context / target / inputs / priors / references / caps / scoring) |
| reference/ 论文 PDF + .txt + summary_*.md |
| ``` |
|
|
| 下面逐部分讲。 |
|
|
| --- |
|
|
| ## 1. data_raw/ —— 原始数据 |
| |
| ### 职责 |
| 存放**未经处理的原始数据** + `download.sh`(幂等下载)+ 解析脚本。 |
| `prep_data.py` 从这里读,产出 `data/`。 |
|
|
| ### 做对的方法 |
| - 数据源必须和 `reference/` 里引用的论文**一致**。例:核结合能任务的 |
| `data_raw` 用 AME2020,而 `reference/summary_dataset_wang_2021.md` 引用的 |
| 正是 AME2020(Wang 2021)——对得上。 |
| - `download.sh` 要幂等、有 size/row 校验、双镜像 fallback。 |
| - License 必须声明(SPDX);不能为空。redistribution 受限的数据(NDA / 付费墙) |
| 不进 benchmark。 |
|
|
| ### 踩过的坑 |
|
|
| **符号链接断裂**。pareto 任务的 `data_raw/` 用 symlink 复用 sister 任务的 WID |
| 数据,但 symlink 指向 `../../top_income_share.../` —— 在 v2 目录下这个 sister |
| 不存在,链接断了。**转换时检查所有 symlink 是否真的指向存在的文件**,跨目录搬 |
| 任务后尤其要重新指。 |
|
|
| **非实验值混入**。AME2020 原始表里有 `#`-flagged(外推/估计值)和 `*`-flagged |
| (不可算)的条目。`ame2020_parse.py` 显式过滤掉它们,**只留实验测量核素**。 |
| 转换时要确认解析脚本**没有把外推值、估计值当真实数据**——这是 anti-fabrication |
| 红线。 |
|
|
| --- |
|
|
| ## 2. prep_data.py + data/ —— train / test 切分 |
| |
| ### 职责 |
| `prep_data.py` 把 `data_raw/` 的原始数据切成 `data/`。这是 SR 系统和 harness |
| 实际消费的数据。 |
| |
| ### 文件布局(取决于 Type) |
| |
| | Type | 文件 | 说明 | |
| |---|---|---| |
| | Type I | `train.csv` + `test.csv` | 无 cluster | |
| | Type II | `train.csv` + `test_fit.csv` + `test_test.csv` | test_fit/test_test 带 group_id | |
|
|
| **切分必须物化在磁盘**,不能让 evaluation 代码临时算。早期版本只有一个 |
| `test.csv`、由 eval 脚本现切——这违反"切分是数据的属性"。改成 prep_data 直接 |
| 产出三个文件。 |
| |
| ### 切分原则 |
| |
| **Type I**:feature-axis OOD 切分。例:核结合能按质子数 Z≤82 / Z≥83 |
| (铅/铋边界)切,考察从 well-measured 区外推到超重区。 |
| |
| **Type II**:**cluster holdout**(按 cluster 整体留出)。 |
| - 错误做法——"温度切"(按时间切):同一个 cluster 在 train 和 test 都出现, |
| SR 开发时已见过这个 cluster,form 可能过拟合到这批特定 cluster。 |
| - 正确做法:整个 cluster 留出。pareto 改成"177 个训练国家 / 40 个测试国家 |
| 完全不重叠",外加测试 cluster 内部再切时间(fit 1980-2009 / test 2010-2023) |
| —— 同时考察跨 cluster 和跨时间泛化。 |
| - holdout 选择要确定性(region 分层、每 N 个取一个,无随机种子)。 |
| |
| ### 踩过的坑 |
| |
| **OOD 切到 reference 公式不适用的区间**。asteroid spin barrier 任务把 test |
| 切到 D<0.15 km(单体)和 D>100 km(巨体)——这些区间**没有一个 paper 公式 |
| 适用**。结果:所有 reference 公式在 test 上 RMSE 比"预测均值"还差,skill 的 |
| 分母变负、无定义。 |
| → **切分前必须确认:reference 公式在 test 区间仍然适用。** 核结合能的 SEMF |
| 是普适公式(外推到超重区合理),所以 Z 切分 OK;asteroid 的公式只覆盖单个 |
| regime,全范围切分就不行。 |
| |
| **target 是 input 的派生量 → R²=1 tautology**。pareto 旧版把 `pareto_alpha` |
| 当 target,而 α 是 prep_data 用 `α = ln(10)/(log_S_p90 − log_S_p99)` 从两个 |
| input 列**算出来**的。SR 一旦发现这个公式就 R²=1——任务退化成"反推 |
| prep_data"。 |
| → **target 必须是真实测量值,不能是 input 的闭式函数。** 改成预测真实测量的 |
| `log_top_share`。 |
|
|
| **数据维度被压掉**。WID 每个 (country, year) 原本有 5 个 percentile,旧版 |
| prep_data 只保留 2 个(刚够算 Atkinson 两点公式)——信息压到最低,任务变 |
| trivial。保留全部 5 个 percentile 后才是真正的 SR 任务(发现 Lorenz 曲线形式)。 |
| → **不要为了"刚好够某个公式"而丢掉数据维度。** |
| |
| **LOCF(last-observation-carried-forward)**。WID 不是每年更新每个国家,某些 |
| country-year 是上一次更新的值原样前推。pareto test 集约 41% 的行是 LOCF。 |
| → 不一定致命(逐行 stateless 的 predict 没法"识别+复制"LOCF),但要**知道 |
| effective sample size 比标称小**,并在 metadata 注释里写明。 |
| |
| ### 重新生成数据 |
| |
| ```bash |
| cd <task>/ |
| bash data_raw/download.sh # 幂等;产出 data_raw/ 的原始文件 |
| python prep_data.py # data_raw/ → data/{train,test[_fit/_test]}.csv |
| python ../../harness/evaluation/evaluate.py reference <task> # 重新算 reference_metrics |
| ``` |
| |
| 注意: |
| - `prep_data.py` 必须**确定性**(无随机,或固定种子)——重跑结果逐位一致。 |
| - 重新生成数据后,`metadata.yaml` 里 `references[].measured` 和 `best_baseline` |
| 会过时,必须重跑 `evaluate.py reference` 后手动更新这几行。 |
| - 切分后核对:`train + test 行数 == 原始总行数`,无丢失/重复/重叠。 |
| |
| --- |
| |
| ## 3. formulas/ —— reference baseline 公式 |
| |
| ### 职责 |
| 每个 reference 论文一个 `.py` 文件,实现 v2 `formula.py` 合约。 |
| `__init__.py` 暴露 `REGISTRY`。`reference_metrics.json` 是 harness 产出。 |
| |
| ### 旧合约 → 新合约迁移 |
| |
| | 旧 | 新 | |
| |---|---| |
| | `GLOBAL_FITTABLE = [...]` + `INIT = {...}` | `LAW_CONSTANTS = {name: value}`(paper 值,frozen) | |
| | (无) | `OTHER_CONSTANTS = {...}`(通用/结构常数) | |
| | `LOCAL_FITTABLE = []` | `LOCAL_FITTABLE = {}`(Type I) 或 `{name: {init: ...}}`(Type II) | |
| | `predict(X, group_id=None, ...)` | `predict(X, **params)` —— **无 group_id** | |
| |
| ### 做对的方法 |
| |
| - **LAW vs OTHER 区分**: |
| - `LAW_CONSTANTS` = 公式的**科学论断**(paper 明确主张的值,如 ρ=2700、 |
| δ=1/30)。LLM judge 的 constant 通道只打分这个。 |
| - `OTHER_CONSTANTS` = 公式消耗的**其它每一个常数**(通用物理常数、单位换算、 |
| 固定算子系数)。不打分,但**必须声明**——好让 audit 数清。 |
| - **不许 `_FOO` 私有常数**。早期 duflo/wang 把算子系数写成 `_VC_COEF = 0.76` |
| 这种模块私有变量——等于承认是常数却不声明。每个常数都要进 LAW 或 OTHER。 |
| 纯结构指数(2/3、4/3)是公式形式的一部分,不算常数,可 inline。 |
| - **init 三态**:标量=单点起拟合 / 数组=multi-start 种子 / None=闭式解。 |
| 声明要和 `fit()` 行为**一致**——gabaix/reed 曾把单点 init 写成 `[0.0]` |
| (1 元数组,按合约=multi-start),但 fit() 只读 `[0]` 做单点——声明和行为 |
| 不符,改成标量 `0.0`。 |
| |
| ### 踩过的坑(最重要) |
| |
| **paper 原始常数可能不能直接用**。v2 合约要求 `LAW_CONSTANTS` 是 frozen |
| paper 值。但: |
| - weizsacker 1935 的 Methode-II 常数(α=2.6 等)是 1935 年的粗糙标定,frozen |
| 用 RMSE 4.9,比 naive(0.52)还差 10 倍。 |
| - moller FRDM 的 9 个系数是和 microscopic shell correction **联合拟合**的, |
| 剥掉 shell 只留 macroscopic 部分、frozen 用,RMSE 1.36,也比 naive 差。 |
| - 同款问题在 asteroid 任务也出现过。 |
| |
| → **不是所有 paper 公式都能当 frozen-value reference。** v1 合约靠"在 train |
| 上重新拟合"掩盖了这点;v2 冻结 paper 值后暴露真相。转换时:跑一遍 |
| `evaluate.py reference`,看哪些公式实际 work。`reference_baseline_id`(评分 |
| 锚点)要选**实测最强**的那个(核结合能选 wang_2014,不是 duflo)。 |
| |
| **常数必须逐位核对论文(anti-fabrication)**。每个 LAW/OTHER 常数都要能在 |
| 引用论文里定位: |
| - wang 的 9 个系数 → wang_2014.txt 行 403-467 逐个 verbatim ✓ |
| - duflo 的 6 个 → duflo_1995.txt Table III 6p 列 ✓ |
| - weizsacker 的 5 个 → bethe_1935.txt Tabelle 3 Methode II ✓ |
| - moller 的 9 个 → moller_1995.txt 带标签常数表 ✓ |
| 我一度怀疑 moller 的 W=30 错了(常数表里有个 60),核对后发现 60 是另一个 |
| 常数(compressibility C),W=30 是对的。**不要凭印象,要 grep 论文核对。** |
| |
| --- |
| |
| ## 4. metadata.yaml —— 任务定义 |
| |
| ### 字段(详见 README §3) |
| `context` / `target` / `inputs` / `priors` / `references` / `caps` / |
| `metric` / `best_baseline`。 |
| |
| ### 做对的方法 |
| |
| - **`context`**:只放背景知识(物理/科学框架)。**不要**放任务指令、不要 |
| 列名清单、不要 priors。这些分别属于全局 `task_description`、`inputs` 结构块、 |
| `priors` 字段。 |
| - **`task_description` 不进 metadata**——它是全局 prompt(所有任务相同的合约 |
| 指令)。 |
| - **`data_description` 不写**——prompt 组装时从 `target` + `inputs` 结构块 |
| 渲染出来。 |
| - **`references`** 每个条目:`n_law_constants` / `n_other_constants` / |
| `n_local_params`(参数数量)+ `measured`(实测 metric)+ 正确的 |
| `reference_pdf` 路径。 |
| - **`caps`** 和 reference bank 一致(harness 会自动派生,metadata 的值镜像它)。 |
| - **`metric`** 是任务声明,但选择要有依据——核结合能选 rmse 是因为核质量模型 |
| 文献统一用 rms。 |
| - **`best_baseline`** 是数值(最强 reference 的 metric 值),即评分 0.5 锚点。 |
| |
| ### 踩过的坑 |
| |
| **死字段**。`reference_baseline_id`、`naive_predictor` 是 harness 改版前的 |
| 字段,新 harness 不用了(改成经验挑最强 reference、取消 naive baseline)。 |
| 转换时**删掉死字段**,别让它们和 harness 行为矛盾。 |
| |
| **`reference_pdf` 路径错**。weizsacker 论文实际存在 `reference/bethe_1935.pdf` |
| (论文存在旧 refkey 下),metadata 一度写成不存在的 `weizsacker_1935.pdf`。 |
| → 每个 `reference_pdf` 路径要确认文件真存在。 |
| |
| **references 漏项**。加了公式文件却忘了更新 metadata 的 `references` 块 |
| (只列了 1 个,实际 4 个)。→ 公式和 references 块要同步。 |
| |
| **不要写统一规则的注释**。metadata 是**每个任务自己的事实**,不要把"submission |
| 不能比最复杂 reference 更复杂"、"harness 自动 re-derive caps"这类**通用规则** |
| 重复写进每个 task 的注释——通用规则属于 README。 |
| |
| --- |
| |
| ## 5. priors —— 候选常数 |
| |
| ### 职责 |
| `prompt` 的一个 slot:给 SR 系统的候选常数,真有用的混入 distractor,SR 要 |
| 自己**选**。 |
| |
| ### 做对的方法 |
| |
| - **candidate** 必须是 reference 公式**真用到 / 真相关**的常数,且能在 |
| reference 材料里定位。 |
| - **不放要发现的 LAW 系数**。SEMF 的 a_V≈16、a_S≈17 这些是**要 SR 发现的 |
| LAW_CONSTANTS**——放进 priors = 直接喂答案。 |
| - **distractor 也要 grounded**。最好是**核物理论文里真实出现、但 reference |
| 公式不用**的量——in-domain、看着像、其实不需要,真正考验 SR 的选择能力。 |
| |
| ### 踩过的坑 |
| |
| **凭空编 candidate**。我一度给核结合能任务加了 `nucleon_mass`、`mass_diff_np`、 |
| `nuclear_saturation_density` 并标成 candidate——但它们**不在 task 的 reference |
| 里、4 个 baseline 也没一个用**。"candidate" 的定义是"参考公式真会用到的常数", |
| 凭"物理上相关"就标 candidate 是 fabrication。 |
| → 砍到只剩真有据的:`e2_coulomb`(weizsacker/moller 的 Coulomb 项用、CODATA) |
| 和 `r0_nuclear_radius`(Möller 论文明确值 1.16 fm)。 |
| |
| **distractor 凭空挑**。一度用 `fine_structure_constant` / `bohr_radius` / |
| `rydberg_energy`(原子物理常数)当 distractor——既不 grounded,又"明显无关、 |
| 一眼排除",没有测试价值。 |
| → 改成从 reference 找:`magic_number_N126`(shell closure,liquid-drop 不用)、 |
| `compressibility_const`(Möller 常数表里有、macroscopic 极限丢掉了)、 |
| `spin_orbit_strength`(WS4 的 shell correction 参数,不属 liquid-drop)。 |
| |
| **纯拟合型任务可能根本不需要 priors**。核结合能 / pareto 都是 SR 自己在 train |
| 上拟合所有系数的任务,没有"不给某常数就无解"的情况。priors.json 的设计初衷是 |
| 针对"必须有 paper 常数才能解"的任务。硬塞 priors 只会制造 fabrication 风险—— |
| 要么砍到极小的有据集合,要么承认这个任务不需要 priors。 |
| |
| --- |
| |
| ## 6. reference/ —— 论文 |
| |
| ### 做对的方法 |
| - 每篇 reference PDF 必须**物理存在**(>50 KB、可打开、标题/作者/arXiv 和 .bib |
| 对得上)。 |
| - `summary_*.md` 区分类型:formula paper(提出公式)/ dataset paper(数据源)/ |
| supporting paper(背景)。 |
| |
| ### 踩过的坑 |
| |
| **论文存在旧 refkey 下**。weizsacker 1935 的 PDF 文件名是 `bethe_1935.pdf` |
| (.bib 里 refkey 是 `bethe_1935`,但作者其实是 von Weizsäcker、note 说明是 |
| 向后兼容)。→ 文件名不一定等于公式名,要看 .bib 确认。 |
| |
| **"公式"不一定是闭式**。`goriely_2013` 有 `summary_formula_*.md`,但 summary |
| 明说它是 HFB mean-field 泛函(自洽迭代算 β₂),**不是单个解析表达式**——不能 |
| 当 SR baseline。→ 区分"有论文" 和 "有闭式公式可做 baseline"。 |
| |
| --- |
| |
| ## 7. 评估验证 —— 转换完成后必做 |
| |
| - 跑 `evaluate.py reference <task>`,看 reference 公式的实测 metric。 |
| - **reference 要明显优于"预测均值"**;若打不过,说明任务设计或公式有问题 |
| (回看 §2 的 OOD 坑、§3 的 frozen-常数坑)。 |
| - **不要只信 harness 自报**——独立重写一遍核心算法核对数字(例:独立重算 |
| atkinson 的 RMSE = 0.4360,和 harness 逐位一致)。 |
| - **数值要能解释**。pareto 的 reference RMSE 0.436 不是拍脑袋接受的——分解过: |
| 完美单 snapshot Pareto 拟合给 0.062(不可约的非-Pareto 曲率),剩下的是 α |
| 跨 40 年的时间漂移。误差随极端 percentile 单调增长——结构合理,不是 bug。 |
| |
| --- |
| |
| ## 转换流程速查 |
| |
| ``` |
| 1. data_raw/ 确认数据源 == reference 论文;download.sh 幂等;过滤非实验值;声明 license |
| 2. prep_data.py 决定 Type;切分(Type II 用 cluster holdout);确认 reference 公式在 test 区间适用 |
| 3. data/ 重新生成;核对行数守恒;确定性可复现 |
| 4. formulas/ 旧→新合约;LAW/OTHER 区分;常数逐位核对论文;跑 evaluate 看哪些公式真 work |
| 5. metadata context 只放背景;priors 砍到有据集合;references 带参数数量+measured;删死字段 |
| 6. 验证 evaluate.py reference;独立重算;数值能解释 |
| ``` |
| |
