readme.md

下载并处理数据集格式

OpenMathReasoning + OpenScienceReasoning-2 + OpenCodeReasoning

1. 下载这三个数据集到当前目录
2. 去掉其中所有的模型输出内容，比如output/generation等，删除原始数据【太大了】
3. 每个数据集随机采样100k条，混合，然后最后的格式和mini-opd/local/data/am_mix_opd_2_1_1类似

已处理（seed=42）

• mix_300k/：Hugging Face DatasetDict，train 共 300,000 条；math、science、code 各 100,000 条。
• mix_300k.jsonl：同一批数据的 JSONL 版本。
• mix_300k_summary.json：源数据 revision、可抽样行数、各 split 抽样数和最终字段统计。
• 字段与 am_mix_opd_2_1_1 一致：messages、domain、source、source_path、source_id、source_label、prompt_sha1。

处理时远程读取 Parquet 的必要列，未落盘原始数据或模型生成列。数学删除 generated_solution/generation_model，科学删除 output，代码删除 output/solution。数学和科学仅保留独立的 expected_answer 作为简短 assistant 标签；代码解答均为模型生成，因此代码的 messages 只包含 user。

OpenCodeReasoning 的 split_1 中 input 固定为 -，需要额外下载 APPS/TACO 才能还原题面；本次从自带完整题面的 split_0（567,850 条）均匀抽样。

复现命令：

cd mini-opd
python scripts/dataset/prepare_openreasoning.py --overwrite