Hugging Face's logo

Datasets:
RealSR
/
benchmark_v2

Dataset card Files
xet
 Community
benchmark_v2 / CONVERSION_NOTES.md
ymh233's picture
ymh233
Add CONVERSION_NOTES.md
57628aa verified
preview code
|
Raw
History Blame Contribute Delete
14.8 kB

v2 任务转换注意事项

把一个任务转换成 v2 格式时,逐个组成成分要注意的事、以及实际踩过的坑。 配合 README.md(v2 规范)使用——README 讲"规范是什么",本文讲"转换时 怎么不出错"。

任务的组成成分:

data_raw/    原始数据 + 下载/解析脚本
prep_data.py 原始数据 → data/
data/        train / test 切分(SR 系统和 harness 实际消费的)
formulas/    reference baseline 公式 + reference_metrics.json
metadata.yaml 任务定义(context / target / inputs / priors / references / caps / scoring)
reference/   论文 PDF + .txt + summary_*.md

下面逐部分讲。

1. data_raw/ —— 原始数据

职责

存放未经处理的原始数据 + download.sh(幂等下载)+ 解析脚本。 prep_data.py 从这里读,产出 data/。

做对的方法

  • 数据源必须和 reference/ 里引用的论文一致。例:核结合能任务的 data_raw 用 AME2020,而 reference/summary_dataset_wang_2021.md 引用的 正是 AME2020(Wang 2021)——对得上。
  • download.sh 要幂等、有 size/row 校验、双镜像 fallback。
  • License 必须声明(SPDX);不能为空。redistribution 受限的数据(NDA / 付费墙) 不进 benchmark。

踩过的坑

符号链接断裂。pareto 任务的 data_raw/ 用 symlink 复用 sister 任务的 WID 数据,但 symlink 指向 ../../top_income_share.../ —— 在 v2 目录下这个 sister 不存在,链接断了。转换时检查所有 symlink 是否真的指向存在的文件,跨目录搬 任务后尤其要重新指。

非实验值混入。AME2020 原始表里有 #-flagged(外推/估计值)和 *-flagged (不可算)的条目。ame2020_parse.py 显式过滤掉它们,只留实验测量核素。 转换时要确认解析脚本没有把外推值、估计值当真实数据——这是 anti-fabrication 红线。

2. prep_data.py + data/ —— train / test 切分

职责

prep_data.py 把 data_raw/ 的原始数据切成 data/。这是 SR 系统和 harness 实际消费的数据。

文件布局(取决于 Type)

Type 文件 说明
Type I train.csv + test.csv 无 cluster
Type II train.csv + test_fit.csv + test_test.csv test_fit/test_test 带 group_id

切分必须物化在磁盘,不能让 evaluation 代码临时算。早期版本只有一个 test.csv、由 eval 脚本现切——这违反"切分是数据的属性"。改成 prep_data 直接 产出三个文件。

切分原则

Type I:feature-axis OOD 切分。例:核结合能按质子数 Z≤82 / Z≥83 (铅/铋边界)切,考察从 well-measured 区外推到超重区。

Type II:cluster holdout(按 cluster 整体留出)。

  • 错误做法——"温度切"(按时间切):同一个 cluster 在 train 和 test 都出现, SR 开发时已见过这个 cluster,form 可能过拟合到这批特定 cluster。
  • 正确做法:整个 cluster 留出。pareto 改成"177 个训练国家 / 40 个测试国家 完全不重叠",外加测试 cluster 内部再切时间(fit 1980-2009 / test 2010-2023) —— 同时考察跨 cluster 和跨时间泛化。
  • holdout 选择要确定性(region 分层、每 N 个取一个,无随机种子)。

踩过的坑

OOD 切到 reference 公式不适用的区间。asteroid spin barrier 任务把 test 切到 D<0.15 km(单体)和 D>100 km(巨体)——这些区间没有一个 paper 公式 适用。结果:所有 reference 公式在 test 上 RMSE 比"预测均值"还差,skill 的 分母变负、无定义。 → 切分前必须确认:reference 公式在 test 区间仍然适用。 核结合能的 SEMF 是普适公式(外推到超重区合理),所以 Z 切分 OK;asteroid 的公式只覆盖单个 regime,全范围切分就不行。

target 是 input 的派生量 → R²=1 tautology。pareto 旧版把 pareto_alpha 当 target,而 α 是 prep_data 用 α = ln(10)/(log_S_p90 − log_S_p99) 从两个 input 列算出来的。SR 一旦发现这个公式就 R²=1——任务退化成"反推 prep_data"。 → target 必须是真实测量值,不能是 input 的闭式函数。 改成预测真实测量的 log_top_share。

数据维度被压掉。WID 每个 (country, year) 原本有 5 个 percentile,旧版 prep_data 只保留 2 个(刚够算 Atkinson 两点公式)——信息压到最低,任务变 trivial。保留全部 5 个 percentile 后才是真正的 SR 任务(发现 Lorenz 曲线形式)。 → 不要为了"刚好够某个公式"而丢掉数据维度。

LOCF(last-observation-carried-forward)。WID 不是每年更新每个国家,某些 country-year 是上一次更新的值原样前推。pareto test 集约 41% 的行是 LOCF。 → 不一定致命(逐行 stateless 的 predict 没法"识别+复制"LOCF),但要知道 effective sample size 比标称小,并在 metadata 注释里写明。

重新生成数据 

cd <task>/
bash data_raw/download.sh        # 幂等;产出 data_raw/ 的原始文件
python prep_data.py              # data_raw/ → data/{train,test[_fit/_test]}.csv
python ../../harness/evaluation/evaluate.py reference <task>   # 重新算 reference_metrics

注意:

  • prep_data.py 必须确定性(无随机,或固定种子)——重跑结果逐位一致。
  • 重新生成数据后,metadata.yaml 里 references[].measured 和 best_baseline 会过时,必须重跑 evaluate.py reference 后手动更新这几行。
  • 切分后核对:train + test 行数 == 原始总行数,无丢失/重复/重叠。

3. formulas/ —— reference baseline 公式

职责

每个 reference 论文一个 .py 文件,实现 v2 formula.py 合约。 __init__.py 暴露 REGISTRY。reference_metrics.json 是 harness 产出。

旧合约 → 新合约迁移

旧 新
GLOBAL_FITTABLE = [...] + INIT = {...} LAW_CONSTANTS = {name: value}(paper 值,frozen)
(无) OTHER_CONSTANTS = {...}(通用/结构常数)
LOCAL_FITTABLE = [] LOCAL_FITTABLE = {}(Type I) 或 {name: {init: ...}}(Type II)
predict(X, group_id=None, ...) predict(X, **params) —— 无 group_id

做对的方法

  • LAW vs OTHER 区分:
    • LAW_CONSTANTS = 公式的科学论断(paper 明确主张的值,如 ρ=2700、 δ=1/30)。LLM judge 的 constant 通道只打分这个。
    • OTHER_CONSTANTS = 公式消耗的其它每一个常数(通用物理常数、单位换算、 固定算子系数)。不打分,但必须声明——好让 audit 数清。
  • 不许 _FOO 私有常数。早期 duflo/wang 把算子系数写成 _VC_COEF = 0.76 这种模块私有变量——等于承认是常数却不声明。每个常数都要进 LAW 或 OTHER。 纯结构指数(2/3、4/3)是公式形式的一部分,不算常数,可 inline。
  • init 三态:标量=单点起拟合 / 数组=multi-start 种子 / None=闭式解。 声明要和 fit() 行为一致——gabaix/reed 曾把单点 init 写成 [0.0] (1 元数组,按合约=multi-start),但 fit() 只读 [0] 做单点——声明和行为 不符,改成标量 0.0。

踩过的坑(最重要)

paper 原始常数可能不能直接用。v2 合约要求 LAW_CONSTANTS 是 frozen paper 值。但:

  • weizsacker 1935 的 Methode-II 常数(α=2.6 等)是 1935 年的粗糙标定,frozen 用 RMSE 4.9,比 naive(0.52)还差 10 倍。
  • moller FRDM 的 9 个系数是和 microscopic shell correction 联合拟合的, 剥掉 shell 只留 macroscopic 部分、frozen 用,RMSE 1.36,也比 naive 差。
  • 同款问题在 asteroid 任务也出现过。

→ 不是所有 paper 公式都能当 frozen-value reference。 v1 合约靠"在 train 上重新拟合"掩盖了这点;v2 冻结 paper 值后暴露真相。转换时:跑一遍 evaluate.py reference,看哪些公式实际 work。reference_baseline_id(评分 锚点)要选实测最强的那个(核结合能选 wang_2014,不是 duflo)。

**常数必须逐位核对论文(anti-fabrication)**。每个 LAW/OTHER 常数都要能在 引用论文里定位:

  • wang 的 9 个系数 → wang_2014.txt 行 403-467 逐个 verbatim ✓
  • duflo 的 6 个 → duflo_1995.txt Table III 6p 列 ✓
  • weizsacker 的 5 个 → bethe_1935.txt Tabelle 3 Methode II ✓
  • moller 的 9 个 → moller_1995.txt 带标签常数表 ✓ 我一度怀疑 moller 的 W=30 错了(常数表里有个 60),核对后发现 60 是另一个 常数(compressibility C),W=30 是对的。不要凭印象,要 grep 论文核对。

4. metadata.yaml —— 任务定义

字段(详见 README §3)

context / target / inputs / priors / references / caps / metric / best_baseline。

做对的方法

  • context:只放背景知识(物理/科学框架)。不要放任务指令、不要 列名清单、不要 priors。这些分别属于全局 task_description、inputs 结构块、 priors 字段。
  • task_description 不进 metadata——它是全局 prompt(所有任务相同的合约 指令)。
  • data_description 不写——prompt 组装时从 target + inputs 结构块 渲染出来。
  • references 每个条目:n_law_constants / n_other_constants / n_local_params(参数数量)+ measured(实测 metric)+ 正确的 reference_pdf 路径。
  • caps 和 reference bank 一致(harness 会自动派生,metadata 的值镜像它)。
  • metric 是任务声明,但选择要有依据——核结合能选 rmse 是因为核质量模型 文献统一用 rms。
  • best_baseline 是数值(最强 reference 的 metric 值),即评分 0.5 锚点。

踩过的坑

死字段。reference_baseline_id、naive_predictor 是 harness 改版前的 字段,新 harness 不用了(改成经验挑最强 reference、取消 naive baseline)。 转换时删掉死字段,别让它们和 harness 行为矛盾。

reference_pdf 路径错。weizsacker 论文实际存在 reference/bethe_1935.pdf (论文存在旧 refkey 下),metadata 一度写成不存在的 weizsacker_1935.pdf。 → 每个 reference_pdf 路径要确认文件真存在。

references 漏项。加了公式文件却忘了更新 metadata 的 references 块 (只列了 1 个,实际 4 个)。→ 公式和 references 块要同步。

不要写统一规则的注释。metadata 是每个任务自己的事实,不要把"submission 不能比最复杂 reference 更复杂"、"harness 自动 re-derive caps"这类通用规则 重复写进每个 task 的注释——通用规则属于 README。

5. priors —— 候选常数

职责

prompt 的一个 slot:给 SR 系统的候选常数,真有用的混入 distractor,SR 要 自己选。

做对的方法

  • candidate 必须是 reference 公式真用到 / 真相关的常数,且能在 reference 材料里定位。
  • 不放要发现的 LAW 系数。SEMF 的 a_V≈16、a_S≈17 这些是要 SR 发现的 LAW_CONSTANTS——放进 priors = 直接喂答案。
  • distractor 也要 grounded。最好是核物理论文里真实出现、但 reference 公式不用的量——in-domain、看着像、其实不需要,真正考验 SR 的选择能力。

踩过的坑

凭空编 candidate。我一度给核结合能任务加了 nucleon_mass、mass_diff_np、 nuclear_saturation_density 并标成 candidate——但它们不在 task 的 reference 里、4 个 baseline 也没一个用。"candidate" 的定义是"参考公式真会用到的常数", 凭"物理上相关"就标 candidate 是 fabrication。 → 砍到只剩真有据的:e2_coulomb(weizsacker/moller 的 Coulomb 项用、CODATA) 和 r0_nuclear_radius(Möller 论文明确值 1.16 fm)。

distractor 凭空挑。一度用 fine_structure_constant / bohr_radius / rydberg_energy(原子物理常数)当 distractor——既不 grounded,又"明显无关、 一眼排除",没有测试价值。 → 改成从 reference 找:magic_number_N126(shell closure,liquid-drop 不用)、 compressibility_const(Möller 常数表里有、macroscopic 极限丢掉了)、 spin_orbit_strength(WS4 的 shell correction 参数,不属 liquid-drop)。

纯拟合型任务可能根本不需要 priors。核结合能 / pareto 都是 SR 自己在 train 上拟合所有系数的任务,没有"不给某常数就无解"的情况。priors.json 的设计初衷是 针对"必须有 paper 常数才能解"的任务。硬塞 priors 只会制造 fabrication 风险—— 要么砍到极小的有据集合,要么承认这个任务不需要 priors。

6. reference/ —— 论文

做对的方法

  • 每篇 reference PDF 必须物理存在(>50 KB、可打开、标题/作者/arXiv 和 .bib 对得上)。
  • summary_*.md 区分类型:formula paper(提出公式)/ dataset paper(数据源)/ supporting paper(背景)。

踩过的坑

论文存在旧 refkey 下。weizsacker 1935 的 PDF 文件名是 bethe_1935.pdf (.bib 里 refkey 是 bethe_1935,但作者其实是 von Weizsäcker、note 说明是 向后兼容)。→ 文件名不一定等于公式名,要看 .bib 确认。

"公式"不一定是闭式。goriely_2013 有 summary_formula_*.md,但 summary 明说它是 HFB mean-field 泛函(自洽迭代算 β₂),不是单个解析表达式——不能 当 SR baseline。→ 区分"有论文" 和 "有闭式公式可做 baseline"。

7. 评估验证 —— 转换完成后必做

  • 跑 evaluate.py reference <task>,看 reference 公式的实测 metric。
  • reference 要明显优于"预测均值";若打不过,说明任务设计或公式有问题 (回看 §2 的 OOD 坑、§3 的 frozen-常数坑)。
  • 不要只信 harness 自报——独立重写一遍核心算法核对数字(例:独立重算 atkinson 的 RMSE = 0.4360,和 harness 逐位一致)。
  • 数值要能解释。pareto 的 reference RMSE 0.436 不是拍脑袋接受的——分解过: 完美单 snapshot Pareto 拟合给 0.062(不可约的非-Pareto 曲率),剩下的是 α 跨 40 年的时间漂移。误差随极端 percentile 单调增长——结构合理,不是 bug。

转换流程速查 

1. data_raw/   确认数据源 == reference 论文;download.sh 幂等;过滤非实验值;声明 license
2. prep_data.py 决定 Type;切分(Type II 用 cluster holdout);确认 reference 公式在 test 区间适用
3. data/       重新生成;核对行数守恒;确定性可复现
4. formulas/   旧→新合约;LAW/OTHER 区分;常数逐位核对论文;跑 evaluate 看哪些公式真 work
5. metadata    context 只放背景;priors 砍到有据集合;references 带参数数量+measured;删死字段
6. 验证        evaluate.py reference;独立重算;数值能解释