readme.md

# 下载并处理数据集格式
OpenMathReasoning + OpenScienceReasoning-2 + OpenCodeReasoning
1. 下载这三个数据集到当前目录
2. 去掉其中所有的模型输出内容，比如output/generation等，删除原始数据【太大了】
3. 每个数据集随机采样100k条，混合，然后最后的格式和mini-opd/local/data/am_mix_opd_2_1_1类似

## 已处理（seed=42）

- `mix_300k/`：Hugging Face `DatasetDict`，train 共 300,000 条；math、science、code 各 100,000 条。
- `mix_300k.jsonl`：同一批数据的 JSONL 版本。
- `mix_300k_summary.json`：源数据 revision、可抽样行数、各 split 抽样数和最终字段统计。
- 字段与 `am_mix_opd_2_1_1` 一致：`messages`、`domain`、`source`、`source_path`、`source_id`、`source_label`、`prompt_sha1`。

处理时远程读取 Parquet 的必要列，未落盘原始数据或模型生成列。数学删除
`generated_solution`/`generation_model`，科学删除 `output`，代码删除
`output`/`solution`。数学和科学仅保留独立的 `expected_answer` 作为简短
assistant 标签；代码解答均为模型生成，因此代码的 `messages` 只包含 user。

OpenCodeReasoning 的 `split_1` 中 `input` 固定为 `-`，需要额外下载 APPS/TACO
才能还原题面；本次从自带完整题面的 `split_0`（567,850 条）均匀抽样。

复现命令：

```bash
cd mini-opd
python scripts/dataset/prepare_openreasoning.py --overwrite
```