| # 下载并处理数据集格式 | |
| OpenMathReasoning + OpenScienceReasoning-2 + OpenCodeReasoning | |
| 1. 下载这三个数据集到当前目录 | |
| 2. 去掉其中所有的模型输出内容，比如output/generation等，删除原始数据【太大了】 | |
| 3. 每个数据集随机采样100k条，混合，然后最后的格式和mini-opd/local/data/am_mix_opd_2_1_1类似 | |
| ## 已处理（seed=42） | |
| - `mix_300k/`：Hugging Face `DatasetDict`，train 共 300,000 条；math、science、code 各 100,000 条。 | |
| - `mix_300k.jsonl`：同一批数据的 JSONL 版本。 | |
| - `mix_300k_summary.json`：源数据 revision、可抽样行数、各 split 抽样数和最终字段统计。 | |
| - 字段与 `am_mix_opd_2_1_1` 一致：`messages`、`domain`、`source`、`source_path`、`source_id`、`source_label`、`prompt_sha1`。 | |
| 处理时远程读取 Parquet 的必要列，未落盘原始数据或模型生成列。数学删除 | |
| `generated_solution`/`generation_model`，科学删除 `output`，代码删除 | |
| `output`/`solution`。数学和科学仅保留独立的 `expected_answer` 作为简短 | |
| assistant 标签；代码解答均为模型生成，因此代码的 `messages` 只包含 user。 | |
| OpenCodeReasoning 的 `split_1` 中 `input` 固定为 `-`，需要额外下载 APPS/TACO | |
| 才能还原题面；本次从自带完整题面的 `split_0`（567,850 条）均匀抽样。 | |
| 复现命令： | |
| ```bash | |
| cd mini-opd | |
| python scripts/dataset/prepare_openreasoning.py --overwrite | |
| ``` | |