# v2 任务转换注意事项

把一个任务转换成 v2 格式时,逐个组成成分要注意的事、以及实际踩过的坑。
配合 `README.md`(v2 规范)使用——README 讲"规范是什么",本文讲"转换时
怎么不出错"。

任务的组成成分:

```
data_raw/    原始数据 + 下载/解析脚本
prep_data.py 原始数据 → data/
data/        train / test 切分(SR 系统和 harness 实际消费的)
formulas/    reference baseline 公式 + reference_metrics.json
metadata.yaml 任务定义(context / target / inputs / priors / references / caps / scoring)
reference/   论文 PDF + .txt + summary_*.md
```

下面逐部分讲。

---

## 1. data_raw/ —— 原始数据

### 职责
存放**未经处理的原始数据** + `download.sh`(幂等下载)+ 解析脚本。
`prep_data.py` 从这里读,产出 `data/`。

### 做对的方法
- 数据源必须和 `reference/` 里引用的论文**一致**。例:核结合能任务的
  `data_raw` 用 AME2020,而 `reference/summary_dataset_wang_2021.md` 引用的
  正是 AME2020(Wang 2021)——对得上。
- `download.sh` 要幂等、有 size/row 校验、双镜像 fallback。
- License 必须声明(SPDX);不能为空。redistribution 受限的数据(NDA / 付费墙)
  不进 benchmark。

### 踩过的坑

**符号链接断裂**。pareto 任务的 `data_raw/` 用 symlink 复用 sister 任务的 WID
数据,但 symlink 指向 `../../top_income_share.../` —— 在 v2 目录下这个 sister
不存在,链接断了。**转换时检查所有 symlink 是否真的指向存在的文件**,跨目录搬
任务后尤其要重新指。

**非实验值混入**。AME2020 原始表里有 `#`-flagged(外推/估计值)和 `*`-flagged
(不可算)的条目。`ame2020_parse.py` 显式过滤掉它们,**只留实验测量核素**。
转换时要确认解析脚本**没有把外推值、估计值当真实数据**——这是 anti-fabrication
红线。

---

## 2. prep_data.py + data/ —— train / test 切分

### 职责
`prep_data.py` 把 `data_raw/` 的原始数据切成 `data/`。这是 SR 系统和 harness
实际消费的数据。

### 文件布局(取决于 Type)

| Type | 文件 | 说明 |
|---|---|---|
| Type I | `train.csv` + `test.csv` | 无 cluster |
| Type II | `train.csv` + `test_fit.csv` + `test_test.csv` | test_fit/test_test 带 group_id |

**切分必须物化在磁盘**,不能让 evaluation 代码临时算。早期版本只有一个
`test.csv`、由 eval 脚本现切——这违反"切分是数据的属性"。改成 prep_data 直接
产出三个文件。

### 切分原则

**Type I**:feature-axis OOD 切分。例:核结合能按质子数 Z≤82 / Z≥83
(铅/铋边界)切,考察从 well-measured 区外推到超重区。

**Type II**:**cluster holdout**(按 cluster 整体留出)。
- 错误做法——"温度切"(按时间切):同一个 cluster 在 train 和 test 都出现,
  SR 开发时已见过这个 cluster,form 可能过拟合到这批特定 cluster。
- 正确做法:整个 cluster 留出。pareto 改成"177 个训练国家 / 40 个测试国家
  完全不重叠",外加测试 cluster 内部再切时间(fit 1980-2009 / test 2010-2023)
  —— 同时考察跨 cluster 和跨时间泛化。
- holdout 选择要确定性(region 分层、每 N 个取一个,无随机种子)。

### 踩过的坑

**OOD 切到 reference 公式不适用的区间**。asteroid spin barrier 任务把 test
切到 D<0.15 km(单体)和 D>100 km(巨体)——这些区间**没有一个 paper 公式
适用**。结果:所有 reference 公式在 test 上 RMSE 比"预测均值"还差,skill 的
分母变负、无定义。
→ **切分前必须确认:reference 公式在 test 区间仍然适用。** 核结合能的 SEMF
是普适公式(外推到超重区合理),所以 Z 切分 OK;asteroid 的公式只覆盖单个
regime,全范围切分就不行。

**target 是 input 的派生量 → R²=1 tautology**。pareto 旧版把 `pareto_alpha`
当 target,而 α 是 prep_data 用 `α = ln(10)/(log_S_p90 − log_S_p99)` 从两个
input 列**算出来**的。SR 一旦发现这个公式就 R²=1——任务退化成"反推
prep_data"。
→ **target 必须是真实测量值,不能是 input 的闭式函数。** 改成预测真实测量的
`log_top_share`。

**数据维度被压掉**。WID 每个 (country, year) 原本有 5 个 percentile,旧版
prep_data 只保留 2 个(刚够算 Atkinson 两点公式)——信息压到最低,任务变
trivial。保留全部 5 个 percentile 后才是真正的 SR 任务(发现 Lorenz 曲线形式)。
→ **不要为了"刚好够某个公式"而丢掉数据维度。**

**LOCF(last-observation-carried-forward)**。WID 不是每年更新每个国家,某些
country-year 是上一次更新的值原样前推。pareto test 集约 41% 的行是 LOCF。
→ 不一定致命(逐行 stateless 的 predict 没法"识别+复制"LOCF),但要**知道
effective sample size 比标称小**,并在 metadata 注释里写明。

### 重新生成数据

```bash
cd <task>/
bash data_raw/download.sh        # 幂等;产出 data_raw/ 的原始文件
python prep_data.py              # data_raw/ → data/{train,test[_fit/_test]}.csv
python ../../harness/evaluation/evaluate.py reference <task>   # 重新算 reference_metrics
```

注意:
- `prep_data.py` 必须**确定性**(无随机,或固定种子)——重跑结果逐位一致。
- 重新生成数据后,`metadata.yaml` 里 `references[].measured` 和 `best_baseline`
  会过时,必须重跑 `evaluate.py reference` 后手动更新这几行。
- 切分后核对:`train + test 行数 == 原始总行数`,无丢失/重复/重叠。

---

## 3. formulas/ —— reference baseline 公式

### 职责
每个 reference 论文一个 `.py` 文件,实现 v2 `formula.py` 合约。
`__init__.py` 暴露 `REGISTRY`。`reference_metrics.json` 是 harness 产出。

### 旧合约 → 新合约迁移

| 旧 | 新 |
|---|---|
| `GLOBAL_FITTABLE = [...]` + `INIT = {...}` | `LAW_CONSTANTS = {name: value}`(paper 值,frozen) |
| (无) | `OTHER_CONSTANTS = {...}`(通用/结构常数) |
| `LOCAL_FITTABLE = []` | `LOCAL_FITTABLE = {}`(Type I) 或 `{name: {init: ...}}`(Type II) |
| `predict(X, group_id=None, ...)` | `predict(X, **params)` —— **无 group_id** |

### 做对的方法

- **LAW vs OTHER 区分**:
  - `LAW_CONSTANTS` = 公式的**科学论断**(paper 明确主张的值,如 ρ=2700、
    δ=1/30)。LLM judge 的 constant 通道只打分这个。
  - `OTHER_CONSTANTS` = 公式消耗的**其它每一个常数**(通用物理常数、单位换算、
    固定算子系数)。不打分,但**必须声明**——好让 audit 数清。
- **不许 `_FOO` 私有常数**。早期 duflo/wang 把算子系数写成 `_VC_COEF = 0.76`
  这种模块私有变量——等于承认是常数却不声明。每个常数都要进 LAW 或 OTHER。
  纯结构指数(2/3、4/3)是公式形式的一部分,不算常数,可 inline。
- **init 三态**:标量=单点起拟合 / 数组=multi-start 种子 / None=闭式解。
  声明要和 `fit()` 行为**一致**——gabaix/reed 曾把单点 init 写成 `[0.0]`
  (1 元数组,按合约=multi-start),但 fit() 只读 `[0]` 做单点——声明和行为
  不符,改成标量 `0.0`。

### 踩过的坑(最重要)

**paper 原始常数可能不能直接用**。v2 合约要求 `LAW_CONSTANTS` 是 frozen
paper 值。但:
- weizsacker 1935 的 Methode-II 常数(α=2.6 等)是 1935 年的粗糙标定,frozen
  用 RMSE 4.9,比 naive(0.52)还差 10 倍。
- moller FRDM 的 9 个系数是和 microscopic shell correction **联合拟合**的,
  剥掉 shell 只留 macroscopic 部分、frozen 用,RMSE 1.36,也比 naive 差。
- 同款问题在 asteroid 任务也出现过。

→ **不是所有 paper 公式都能当 frozen-value reference。** v1 合约靠"在 train
上重新拟合"掩盖了这点;v2 冻结 paper 值后暴露真相。转换时:跑一遍
`evaluate.py reference`,看哪些公式实际 work。`reference_baseline_id`(评分
锚点)要选**实测最强**的那个(核结合能选 wang_2014,不是 duflo)。

**常数必须逐位核对论文(anti-fabrication)**。每个 LAW/OTHER 常数都要能在
引用论文里定位:
- wang 的 9 个系数 → wang_2014.txt 行 403-467 逐个 verbatim ✓
- duflo 的 6 个 → duflo_1995.txt Table III 6p 列 ✓
- weizsacker 的 5 个 → bethe_1935.txt Tabelle 3 Methode II ✓
- moller 的 9 个 → moller_1995.txt 带标签常数表 ✓
我一度怀疑 moller 的 W=30 错了(常数表里有个 60),核对后发现 60 是另一个
常数(compressibility C),W=30 是对的。**不要凭印象,要 grep 论文核对。**

---

## 4. metadata.yaml —— 任务定义

### 字段(详见 README §3)
`context` / `target` / `inputs` / `priors` / `references` / `caps` /
`metric` / `best_baseline`。

### 做对的方法

- **`context`**:只放背景知识(物理/科学框架)。**不要**放任务指令、不要
  列名清单、不要 priors。这些分别属于全局 `task_description`、`inputs` 结构块、
  `priors` 字段。
- **`task_description` 不进 metadata**——它是全局 prompt(所有任务相同的合约
  指令)。
- **`data_description` 不写**——prompt 组装时从 `target` + `inputs` 结构块
  渲染出来。
- **`references`** 每个条目:`n_law_constants` / `n_other_constants` /
  `n_local_params`(参数数量)+ `measured`(实测 metric)+ 正确的
  `reference_pdf` 路径。
- **`caps`** 和 reference bank 一致(harness 会自动派生,metadata 的值镜像它)。
- **`metric`** 是任务声明,但选择要有依据——核结合能选 rmse 是因为核质量模型
  文献统一用 rms。
- **`best_baseline`** 是数值(最强 reference 的 metric 值),即评分 0.5 锚点。

### 踩过的坑

**死字段**。`reference_baseline_id`、`naive_predictor` 是 harness 改版前的
字段,新 harness 不用了(改成经验挑最强 reference、取消 naive baseline)。
转换时**删掉死字段**,别让它们和 harness 行为矛盾。

**`reference_pdf` 路径错**。weizsacker 论文实际存在 `reference/bethe_1935.pdf`
(论文存在旧 refkey 下),metadata 一度写成不存在的 `weizsacker_1935.pdf`。
→ 每个 `reference_pdf` 路径要确认文件真存在。

**references 漏项**。加了公式文件却忘了更新 metadata 的 `references` 块
(只列了 1 个,实际 4 个)。→ 公式和 references 块要同步。

**不要写统一规则的注释**。metadata 是**每个任务自己的事实**,不要把"submission
不能比最复杂 reference 更复杂"、"harness 自动 re-derive caps"这类**通用规则**
重复写进每个 task 的注释——通用规则属于 README。

---

## 5. priors —— 候选常数

### 职责
`prompt` 的一个 slot:给 SR 系统的候选常数,真有用的混入 distractor,SR 要
自己**选**。

### 做对的方法

- **candidate** 必须是 reference 公式**真用到 / 真相关**的常数,且能在
  reference 材料里定位。
- **不放要发现的 LAW 系数**。SEMF 的 a_V≈16、a_S≈17 这些是**要 SR 发现的
  LAW_CONSTANTS**——放进 priors = 直接喂答案。
- **distractor 也要 grounded**。最好是**核物理论文里真实出现、但 reference
  公式不用**的量——in-domain、看着像、其实不需要,真正考验 SR 的选择能力。

### 踩过的坑

**凭空编 candidate**。我一度给核结合能任务加了 `nucleon_mass`、`mass_diff_np`、
`nuclear_saturation_density` 并标成 candidate——但它们**不在 task 的 reference
里、4 个 baseline 也没一个用**。"candidate" 的定义是"参考公式真会用到的常数",
凭"物理上相关"就标 candidate 是 fabrication。
→ 砍到只剩真有据的:`e2_coulomb`(weizsacker/moller 的 Coulomb 项用、CODATA)
和 `r0_nuclear_radius`(Möller 论文明确值 1.16 fm)。

**distractor 凭空挑**。一度用 `fine_structure_constant` / `bohr_radius` /
`rydberg_energy`(原子物理常数)当 distractor——既不 grounded,又"明显无关、
一眼排除",没有测试价值。
→ 改成从 reference 找:`magic_number_N126`(shell closure,liquid-drop 不用)、
`compressibility_const`(Möller 常数表里有、macroscopic 极限丢掉了)、
`spin_orbit_strength`(WS4 的 shell correction 参数,不属 liquid-drop)。

**纯拟合型任务可能根本不需要 priors**。核结合能 / pareto 都是 SR 自己在 train
上拟合所有系数的任务,没有"不给某常数就无解"的情况。priors.json 的设计初衷是
针对"必须有 paper 常数才能解"的任务。硬塞 priors 只会制造 fabrication 风险——
要么砍到极小的有据集合,要么承认这个任务不需要 priors。

---

## 6. reference/ —— 论文

### 做对的方法
- 每篇 reference PDF 必须**物理存在**(>50 KB、可打开、标题/作者/arXiv 和 .bib
  对得上)。
- `summary_*.md` 区分类型:formula paper(提出公式)/ dataset paper(数据源)/
  supporting paper(背景)。

### 踩过的坑

**论文存在旧 refkey 下**。weizsacker 1935 的 PDF 文件名是 `bethe_1935.pdf`
(.bib 里 refkey 是 `bethe_1935`,但作者其实是 von Weizsäcker、note 说明是
向后兼容)。→ 文件名不一定等于公式名,要看 .bib 确认。

**"公式"不一定是闭式**。`goriely_2013` 有 `summary_formula_*.md`,但 summary
明说它是 HFB mean-field 泛函(自洽迭代算 β₂),**不是单个解析表达式**——不能
当 SR baseline。→ 区分"有论文" 和 "有闭式公式可做 baseline"。

---

## 7. 评估验证 —— 转换完成后必做

- 跑 `evaluate.py reference <task>`,看 reference 公式的实测 metric。
- **reference 要明显优于"预测均值"**;若打不过,说明任务设计或公式有问题
  (回看 §2 的 OOD 坑、§3 的 frozen-常数坑)。
- **不要只信 harness 自报**——独立重写一遍核心算法核对数字(例:独立重算
  atkinson 的 RMSE = 0.4360,和 harness 逐位一致)。
- **数值要能解释**。pareto 的 reference RMSE 0.436 不是拍脑袋接受的——分解过:
  完美单 snapshot Pareto 拟合给 0.062(不可约的非-Pareto 曲率),剩下的是 α
  跨 40 年的时间漂移。误差随极端 percentile 单调增长——结构合理,不是 bug。

---

## 转换流程速查

```
1. data_raw/   确认数据源 == reference 论文;download.sh 幂等;过滤非实验值;声明 license
2. prep_data.py 决定 Type;切分(Type II 用 cluster holdout);确认 reference 公式在 test 区间适用
3. data/       重新生成;核对行数守恒;确定性可复现
4. formulas/   旧→新合约;LAW/OTHER 区分;常数逐位核对论文;跑 evaluate 看哪些公式真 work
5. metadata    context 只放背景;priors 砍到有据集合;references 带参数数量+measured;删死字段
6. 验证        evaluate.py reference;独立重算;数值能解释
```