File size: 28,218 Bytes
67496e4 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 266 267 268 269 270 271 272 273 274 275 276 277 278 279 280 281 282 283 284 285 286 287 288 289 290 291 292 293 294 295 296 297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318 319 320 321 322 323 324 325 326 327 328 329 330 331 332 333 334 335 336 337 338 339 340 341 342 343 344 345 346 347 348 349 350 351 352 353 354 355 356 357 358 359 360 361 362 363 364 365 366 367 368 369 370 371 372 373 374 375 376 377 378 379 380 381 382 383 384 385 386 387 388 389 390 391 392 393 394 395 396 397 398 399 400 401 402 403 404 405 406 407 408 409 410 411 412 413 414 415 416 417 418 | ---
license: cc-by-4.0
pretty_name: nvidia/OpenMathReasoning (mirror)
source_datasets:
- nvidia/OpenMathReasoning
tags:
- laya
- laya-finetune
- mirror
- domain-math
- use-permissive
- genre-instruction
- label-text
- annot-llm
- lang-en
language:
- en
task_categories:
- question-answering
- text-generation
size_categories:
- 1M<n<10M
configs:
- config_name: default
data_files:
- split: cot
path: data/cot-*
- split: tir
path: data/tir-*
- split: genselect
path: data/genselect-*
- split: additional_problems
path: data/additional_problems-*
dataset_info:
features:
- name: expected_answer
dtype: string
- name: problem_type
dtype: string
- name: problem_source
dtype: string
- name: generation_model
dtype: string
- name: pass_rate_72b_tir
dtype: string
- name: problem
dtype: string
- name: generated_solution
dtype: string
- name: inference_mode
dtype: string
- name: used_in_kaggle
dtype: bool
splits:
- name: cot
num_bytes: 71639174648
num_examples: 3201061
- name: tir
num_bytes: 35746562996
num_examples: 1718466
- name: genselect
num_bytes: 6981124435
num_examples: 565620
- name: additional_problems
num_bytes: 66328865
num_examples: 193170
download_size: 49585391985
dataset_size: 114433190944
---
# nvidia/OpenMathReasoning(複製)
## データの内容
AoPS フォーラムの数学の問題に、DeepSeek-R1 や QwQ-32B が生成した解答を付けた、大規模な数学推論のデータ。1 行が 1 件の解答で、問題文は `problem`、生成された解答は `generated_solution`、正解は `expected_answer` に入る。解答は長い chain-of-thought、ツール統合推論(TIR)、多数の候補から選ぶ GenSelect の 3 種類で、問題の整形には Qwen2.5-32B-Instruct を使った。
## データの概要
| 項目 | 値 |
|---|---|
| 行数 | 5,678,317(1 構成・4 分割の合計) |
| 列数 | 9 |
| 容量 | 49.53 GB(ファイル 234 本) |
| ファイルの形式 | parquet 198 |
| 言語 | en |
| 公開 | public |
### 構成と分割
| 構成(config) | 分割(split)ごとの行数 | 列数 |
|---|---|---:|
| `default` | `cot` 3,201,061、`tir` 1,718,466、`genselect` 565,620、`additional_problems` 193,170 | 9 |
### 列(構成 `default`・分割 `cot`)
| 列 | 型 | 先頭の行の値 |
|---|---|---|
| `expected_answer` | `string` | `\(\frac{C_{n_1}^{a_1} \cdot C_{n_2}^{a_2} \cdot …` |
| `problem_type` | `string` | `has_answer_extracted` |
| `problem_source` | `string` | `aops_c6_high_school_olympiads` |
| `generation_model` | `string` | `DeepSeek-R1` |
| `pass_rate_72b_tir` | `string` | `0.65625` |
| `problem` | `string` | `Given a group of \( N \) balls consisting of \( …` |
| `generated_solution` | `string` | `<think> Okay, so I need to find the probability …` |
| `inference_mode` | `string` | `cot` |
| `used_in_kaggle` | `bool` | `True` |
行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。
## 複製について
[`nvidia/OpenMathReasoning`](https://huggingface.co/datasets/nvidia/OpenMathReasoning) をリビジョン `d3d08664755704f422af97d43a7ff0ded4bd95df` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。
## 出典
- 元のデータセット: https://huggingface.co/datasets/nvidia/OpenMathReasoning
- 複製したリビジョン: `d3d08664755704f422af97d43a7ff0ded4bd95df`(2025-05-27 18:43:44+00:00)
- 元のライセンス表記: `cc-by-4.0`
## 論文
- https://arxiv.org/abs/2504.16891
## アノテーションの方法
(元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した)
- **problem**: [AoPS フォーラム](https://artofproblemsolving.com/community) から抽出し、[Qwen2.5-32B-Instruct](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct) で整形した問題文。
- **generated_solution**: [DeepSeek-R1](https://huggingface.co/deepseek-ai/DeepSeek-R1) または [QwQ-32B](https://huggingface.co/Qwen/QwQ-32B) を使って合成により生成された解答。
- **generation_model**: 生成に使用したモデル。DeepSeek-R1 または QwQ-32B。
- **problem_type**: "has_answer_extracted"、"no_answer_extracted"、"converted_proof" のいずれか。答えを抽出できたか、証明問題を答え付きの問題に変換したものかによって決まる。
- **expected_answer**: "problem_type" が "has_answer_extracted" の場合は抽出された答え。それ以外の場合は、この問題について生成されたすべての解答の多数決による答え。
- **problem_source**: 対応する AoPS フォーラム(例: "aops_c6_high_school_olympiads")または "MATH_training_set" を示す。後者は、[MATH](https://github.com/hendrycks/math) からの生成物も少数含むためである。
- **inference_mode**: 推論モード。"cot"、"tir"、"genselect" のいずれか。
- **pass_rate_72b_tir**: TIR モードで実行した [Qwen2.5-Math-72B-Instruct](https://huggingface.co/Qwen/Qwen2.5-Math-72B-Instruct) の、32 回の生成のうちの合格率。この属性は "problem_type" が "has_answer_extracted" の場合にのみ利用でき、それ以外の場合は "n/a" となる。
- **used_in_kaggle**: そのインスタンスが [AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard) の優勝モデルの学習に使われたかどうか。[OpenMath-Nemotron-14B-Kaggle](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) モデルの学習には、2.2M 件の CoT 解答と 15K 件の TIR 解答を使用した。なお、OpenMath-Nemotron モデルの学習には、Kaggle で使用した TIR のサブセットを除くすべての CoT、TIR、GenSelect のデータを使用した。
## 微調整に使うときの注意
- 調査メモの台帳での区分: A(許諾型のライセンスだけで、疑義の注記が無い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
## 調査メモの記述
| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
| `nvidia_nemotron.md` | 付録. 取得した nvidia 組織のデータセット全件の簡易一覧 (L367) | cc-by-4.0 | 確認済 | 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: × 数学・コード・科学・計測 |
## 元のカード(日本語訳)
以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。
---
# OpenMathReasoning
OpenMathReasoning は、大規模言語モデル(LLM)を学習させるための大規模な数学推論データセットである。
このデータセットには次が含まれる。
* [AoPS フォーラム](https://artofproblemsolving.com/community) から得た 306K 件の一意な数学の問題(次を含む):
* 3.2M 件の長い chain-of-thought(CoT)解答
* 1.7M 件の長いツール統合推論(TIR)解答
* 566K 件の、多数の候補から最も有望な解答を選ぶサンプル(GenSelect)
* AoPS フォーラムから得た追加の 193K 問(問題のみで解答はなし)
問題の前処理に [Qwen2.5-32B-Instruct](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct) を、解答の生成に [DeepSeek-R1](https://huggingface.co/deepseek-ai/DeepSeek-R1) と [QwQ-32B](https://huggingface.co/Qwen/QwQ-32B) を使用した。
このデータセットは、[AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard) での我々の優勝提出の基盤となった。
詳細は [論文](https://arxiv.org/abs/2504.16891) を参照のこと。
**_注記:_** 当初、データセットには 540K の一意な問題が含まれると報告していたが、この数字はパイプラインの開始時点の問題数を表していた。公開されたデータセットに含まれる実際の CoT と TIR の解答は 306K 問に対応する。OpenMath-Nemotron モデルはこの縮小したサブセットで学習されているため、公開されたすべての結果は現在のリリースで再現可能である。誤っていたのは当初の問題数のみである。
問題数のこの食い違いは、2 つの要因で説明される。
- フィルタリングの過程で、形式の制約(yes/no 問題、多肢選択問題など)、ベンチマークの汚染除去、既存の LLM が特定の問題に対して有効な解答を生成できないこと、により多くの問題を除いた。
- パイプラインのバグにより、証明問題 137K 問を失った。復旧したこの追加データを学習に含めたところ、SFT の性能が低下した。復旧した問題を取り込む方法を現在検証しており、明確な性能向上が確認できた場合にのみ、その解答を公開する。
**_注記:_** このデータの初期版は、[Llama-Nemotron-Post-Training-Dataset](https://huggingface.co/datasets/nvidia/Llama-Nemotron-Post-Training-Dataset) で別途公開された。
## データセットのフィールド
OpenMathReasoning データセットには、次のフィールドが含まれる:
- **problem**: [AoPS フォーラム](https://artofproblemsolving.com/community) から抽出し、[Qwen2.5-32B-Instruct](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct) で整形した問題文。
- **generated_solution**: [DeepSeek-R1](https://huggingface.co/deepseek-ai/DeepSeek-R1) または [QwQ-32B](https://huggingface.co/Qwen/QwQ-32B) を使って合成により生成された解答。
- **generation_model**: 生成に使用したモデル。DeepSeek-R1 または QwQ-32B。
- **problem_type**: "has_answer_extracted"、"no_answer_extracted"、"converted_proof" のいずれか。答えを抽出できたか、証明問題を答え付きの問題に変換したものかによって決まる。
- **expected_answer**: "problem_type" が "has_answer_extracted" の場合は抽出された答え。それ以外の場合は、この問題について生成されたすべての解答の多数決による答え。
- **problem_source**: 対応する AoPS フォーラム(例: "aops_c6_high_school_olympiads")または "MATH_training_set" を示す。後者は、[MATH](https://github.com/hendrycks/math) からの生成物も少数含むためである。
- **inference_mode**: 推論モード。"cot"、"tir"、"genselect" のいずれか。
- **pass_rate_72b_tir**: TIR モードで実行した [Qwen2.5-Math-72B-Instruct](https://huggingface.co/Qwen/Qwen2.5-Math-72B-Instruct) の、32 回の生成のうちの合格率。この属性は "problem_type" が "has_answer_extracted" の場合にのみ利用でき、それ以外の場合は "n/a" となる。
- **used_in_kaggle**: そのインスタンスが [AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard) の優勝モデルの学習に使われたかどうか。[OpenMath-Nemotron-14B-Kaggle](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) モデルの学習には、2.2M 件の CoT 解答と 15K 件の TIR 解答を使用した。なお、OpenMath-Nemotron モデルの学習には、Kaggle で使用した TIR のサブセットを除くすべての CoT、TIR、GenSelect のデータを使用した。
## OpenMath-Nemotron モデル
このデータセットの品質を示すため、このデータで学習させた一連の OpenMath-Nemotron モデルを公開する。
* [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B)
* [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B)
* [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B)
* [OpenMath-Nemotron-14B-Kaggle](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle)([AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard) で使用されたモデル)
* [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B)

これらのモデルは、代表的な数学ベンチマークで最先端の結果を達成している。指標は pass@1 (maj@64) で示す。ここで pass@1 は 64 回の生成の平均精度、maj@64 は多数決の結果である。評価の設定の詳細は [論文](https://arxiv.org/abs/2504.16891) を参照のこと。
| Model | AIME24 | AIME25 | HMMT-24-25 | HLE-Math |
|-------------------------------|-----------------|-------|-------|-------------|
| DeepSeek-R1-Distill-Qwen-1.5B | 26.8 (60.0) | 21.4 (36.7) | 14.2 (26.5) | 2.9 (5.0) |
| [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B) CoT | 61.6 (80.0) | 49.5 (66.7) | 39.9 (53.6) | 5.4 (5.4) |
| [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B) TIR | 52.0 (83.3) | 39.7 (70.0) | 37.2 (60.7) | 2.5 (6.2) |
| + 自己 GenSelect | 83.3 | 70.0 | 62.2 | 7.9 |
| + 32B GenSelect | 83.3 | 70.0 | 62.8 | 8.3 |
| DeepSeek-R1-Distill-Qwen-7B | 54.4 (80.0) | 38.6 (53.3) | 30.6 (42.9) | 3.3 (5.2) |
| [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B) CoT | 74.8 (80.0) | 61.2 (76.7) | 49.7 (57.7) | 6.6 (6.6) |
| [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B) TIR | 72.9 (83.3) | 57.5 (76.7) | 54.6 (66.3) | 7.8 (10.8) |
| + 自己 GenSelect | 86.7 | 76.7 | 68.4 | 11.5 |
| + 32B GenSelect | 86.7 | 76.7 | 69.9 | 11.9 |
| DeepSeek-R1-Distill-Qwen-14B | 65.8 (80.0) | 48.4 (60.0) | 40.1 (52.0) | 4.2 (4.8) |
| [OpenMath-Nemotron-14B-MIX (kaggle)](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) | 73.7 (86.7) | 57.9 (73.3) | 50.5 (64.8) | 5.7 (6.5) |
| [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B) CoT | 76.3 (83.3) | 63.0 (76.7) | 52.1 (60.7) | 7.5 (7.6) |
| [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B) TIR | 76.3 (86.7) | 61.3 (76.7) | 58.6 (70.9) | 9.5 (11.5) |
| + 自己 GenSelect | 86.7 | 76.7 | 72.4 | 14.1 |
| + 32B GenSelect | 90.0 | 76.7 | 71.9 | 13.7 |
| QwQ-32B | 78.1 (86.7) | 66.5 (76.7) | 55.9 (63.3) | 9.0 (9.5) |
| DeepSeek-R1-Distill-Qwen-32B | 66.9 (83.3) | 51.8 (73.3) | 39.9 (51.0) | 4.8 (6.0) |
| [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B) CoT | 76.5 (86.7) | 62.5 (73.3) | 53.0 (59.2) | 8.3 (8.3) |
| [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B) TIR | 78.4 (93.3) | 64.2 (76.7) | 59.7 (70.9) | 9.2 (12.5) |
| + 自己 GenSelect | 93.3 | 80.0 | 73.5 | 15.7 |
| DeepSeek-R1 | 79.1 (86.7) | 64.3 (73.3) | 53.0 (59.2) | 10.5 (11.4) |
## 結果の再現
データとモデルの作成に使ったパイプラインは、完全にオープンソースで公開されている。
- [コード](https://github.com/NVIDIA/NeMo-Skills)
- [モデル](https://huggingface.co/collections/nvidia/openmathreasoning-68072c0154a5099573d2e730)
- [データセット](https://huggingface.co/datasets/nvidia/OpenMathReasoning)
- [論文](https://arxiv.org/abs/2504.16891)
データ生成を含め、結果を完全に再現するための [すべての手順](https://nvidia.github.io/NeMo-Skills/openmathreasoning1/) を提供する。
## 引用
本研究が役立った場合は、引用を検討すること。
```bibtex
@article{moshkov2025aimo2,
title = {AIMO-2 Winning Solution: Building State-of-the-Art Mathematical Reasoning Models with OpenMathReasoning dataset},
author = {Ivan Moshkov and Darragh Hanley and Ivan Sorokin and Shubham Toshniwal and Christof Henkel and Benedikt Schifferer and Wei Du and Igor Gitman},
year = {2025},
journal = {arXiv preprint arXiv:2504.16891}
}
```
## データセットの所有者:
NVIDIA Corporation
## 公開日:
04/23/2025
## データのバージョン
1.0 (04/23/2025)
## ライセンス/利用規約:
cc-by-4.0
## 想定される用途:
このデータセットは、コミュニティがモデルを改善し続けるために使われることを想定している。このデータは学習と評価に自由に使ってよい。
## 倫理的配慮:
NVIDIA は、信頼できる AI は共有の責任であると考えており、幅広い AI アプリケーションの開発を可能にするための方針と慣行を定めている。利用規約に従ってダウンロード・利用する場合、開発者は社内のモデルチームと協力し、関連する業界と用途の要件を満たしていることを確認し、想定外の製品の誤用に対処すること。
セキュリティの脆弱性や NVIDIA AI に関する懸念は、[こちら](https://www.nvidia.com/en-us/support/submit-security-vulnerability/) から報告すること。
<details>
<summary>原文(英語)</summary>
# OpenMathReasoning
OpenMathReasoning is a large-scale math reasoning dataset for training large language models (LLMs).
This dataset contains
* 306K unique mathematical problems sourced from [AoPS forums](https://artofproblemsolving.com/community) with:
* 3.2M long chain-of-thought (CoT) solutions
* 1.7M long tool-integrated reasoning (TIR) solutions
* 566K samples that select the most promising solution out of many candidates (GenSelect)
* Additional 193K problems sourced from AoPS forums (problems only, no solutions)
We used [Qwen2.5-32B-Instruct](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct) to preprocess problems, and
[DeepSeek-R1](https://huggingface.co/deepseek-ai/DeepSeek-R1) and [QwQ-32B](https://huggingface.co/Qwen/QwQ-32B) to generate solutions.
This dataset was a foundation of our winning submission to the
[AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard).
See our [paper](https://arxiv.org/abs/2504.16891) to learn more details!
**_NOTE:_** We initially reported 540K unique problems in our dataset, but this figure represented the question count at the pipeline's beginning. But the actual CoT and TIR solutions in the released dataset correspond to 306K problems. Since our OpenMath-Nemotron models were trained on this reduced subset, all published results remain reproducible with the current release—only our initial problem count was overstated.
Two factors explain this discrepancy in question numbers.
- Our filtering process removed many questions due to format restrictions (yes/no questions, multiple choice questions, etc.), benchmark decontamination, and the inability of existing LLMs to generate valid solutions for certain problems.
- A pipeline bug caused us to lose 137K proof-based questions. When we recovered and included this additional data in training, the SFT performance regressed. We are currently testing different approaches for incorporating these recovered questions and will release their solutions only if we identify clear performance improvements.
**_NOTE:_** An early version of this data was released separately in [Llama-Nemotron-Post-Training-Dataset](https://huggingface.co/datasets/nvidia/Llama-Nemotron-Post-Training-Dataset).
## Dataset fields
OpenMathReasoning dataset contains the following fields:
- **problem**: Problem statement extracted from [AoPS forums](https://artofproblemsolving.com/community) and refined with [Qwen2.5-32B-Instruct](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct)
- **generated_solution**: Synthetically generated solution using either [DeepSeek-R1](https://huggingface.co/deepseek-ai/DeepSeek-R1) or [QwQ-32B](https://huggingface.co/Qwen/QwQ-32B)
- **generation_model**: DeepSeek-R1 or QwQ-32B
- **problem_type**: Can be one of "has_answer_extracted", "no_answer_extracted" and "converted_proof" dependening on whether we were able to extract the answer or if this is a proof question converted to answer question.
- **expected_answer**: Extracted answer if "problem_type" is "has_answer_extracted". Otherwise this is the majority-voting answer across all generated solutions for this problem.
- **problem_source**: States the corresponding AoPS forum (e.g. "aops_c6_high_school_olympiads") or "MATH_training_set" as we also include a small set of generations from [MATH](https://github.com/hendrycks/math).
- **inference_mode**: "cot", "tir" or "genselect"
- **pass_rate_72b_tir**: Pass rate out of 32 generations for [Qwen2.5-Math-72B-Instruct](https://huggingface.co/Qwen/Qwen2.5-Math-72B-Instruct) run in TIR mode. This attribute is only available when "problem_type" is "has_answer_extracted" and is set to "n/a" for other cases.
- **used_in_kaggle**: Whether the instance was used in training the winning model for [AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard) or not. We had used 2.2M CoT and 15K TIR solutions for training the [OpenMath-Nemotron-14B-Kaggle](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) model. Note that for training the OpenMath-Nemotron models, we used all the CoT, TIR, and GenSelect data, except for the TIR subset used in Kaggle.
## OpenMath-Nemotron models
To demonstrate the quality of this dataset, we release a series of OpenMath-Nemotron models trained on this data.
* [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B)
* [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B)
* [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B)
* [OpenMath-Nemotron-14B-Kaggle](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) (this is the model used in [AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard))
* [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B)

The models achieve state-of-the-art results on popular mathematical benchmarks. We present metrics as pass@1 (maj@64) where pass@1
is an average accuracy across 64 generations and maj@64 is the result of majority voting.
Please see our [paper](https://arxiv.org/abs/2504.16891) for more details on the evaluation setup.
| Model | AIME24 | AIME25 | HMMT-24-25 | HLE-Math |
|-------------------------------|-----------------|-------|-------|-------------|
| DeepSeek-R1-Distill-Qwen-1.5B | 26.8 (60.0) | 21.4 (36.7) | 14.2 (26.5) | 2.9 (5.0) |
| [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B) CoT | 61.6 (80.0) | 49.5 (66.7) | 39.9 (53.6) | 5.4 (5.4) |
| [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B) TIR | 52.0 (83.3) | 39.7 (70.0) | 37.2 (60.7) | 2.5 (6.2) |
| + Self GenSelect | 83.3 | 70.0 | 62.2 | 7.9 |
| + 32B GenSelect | 83.3 | 70.0 | 62.8 | 8.3 |
| DeepSeek-R1-Distill-Qwen-7B | 54.4 (80.0) | 38.6 (53.3) | 30.6 (42.9) | 3.3 (5.2) |
| [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B) CoT | 74.8 (80.0) | 61.2 (76.7) | 49.7 (57.7) | 6.6 (6.6) |
| [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B) TIR | 72.9 (83.3) | 57.5 (76.7) | 54.6 (66.3) | 7.8 (10.8) |
| + Self GenSelect | 86.7 | 76.7 | 68.4 | 11.5 |
| + 32B GenSelect | 86.7 | 76.7 | 69.9 | 11.9 |
| DeepSeek-R1-Distill-Qwen-14B | 65.8 (80.0) | 48.4 (60.0) | 40.1 (52.0) | 4.2 (4.8) |
| [OpenMath-Nemotron-14B-MIX (kaggle)](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) | 73.7 (86.7) | 57.9 (73.3) | 50.5 (64.8) | 5.7 (6.5) |
| [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B) CoT | 76.3 (83.3) | 63.0 (76.7) | 52.1 (60.7) | 7.5 (7.6) |
| [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B) TIR | 76.3 (86.7) | 61.3 (76.7) | 58.6 (70.9) | 9.5 (11.5) |
| + Self GenSelect | 86.7 | 76.7 | 72.4 | 14.1 |
| + 32B GenSelect | 90.0 | 76.7 | 71.9 | 13.7 |
| QwQ-32B | 78.1 (86.7) | 66.5 (76.7) | 55.9 (63.3) | 9.0 (9.5) |
| DeepSeek-R1-Distill-Qwen-32B | 66.9 (83.3) | 51.8 (73.3) | 39.9 (51.0) | 4.8 (6.0) |
| [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B) CoT | 76.5 (86.7) | 62.5 (73.3) | 53.0 (59.2) | 8.3 (8.3) |
| [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B) TIR | 78.4 (93.3) | 64.2 (76.7) | 59.7 (70.9) | 9.2 (12.5) |
| + Self GenSelect | 93.3 | 80.0 | 73.5 | 15.7 |
| DeepSeek-R1 | 79.1 (86.7) | 64.3 (73.3) | 53.0 (59.2) | 10.5 (11.4) |
## Reproducing our results
The pipeline we used to produce the data and models is fully open-sourced!
- [Code](https://github.com/NVIDIA/NeMo-Skills)
- [Models](https://huggingface.co/collections/nvidia/openmathreasoning-68072c0154a5099573d2e730)
- [Dataset](https://huggingface.co/datasets/nvidia/OpenMathReasoning)
- [Paper](https://arxiv.org/abs/2504.16891)
We provide [all instructions](https://nvidia.github.io/NeMo-Skills/openmathreasoning1/)
to fully reproduce our results, including data generation.
## Citation
If you find our work useful, please consider citing us!
```bibtex
@article{moshkov2025aimo2,
title = {AIMO-2 Winning Solution: Building State-of-the-Art Mathematical Reasoning Models with OpenMathReasoning dataset},
author = {Ivan Moshkov and Darragh Hanley and Ivan Sorokin and Shubham Toshniwal and Christof Henkel and Benedikt Schifferer and Wei Du and Igor Gitman},
year = {2025},
journal = {arXiv preprint arXiv:2504.16891}
}
```
## Dataset Owner(s):
NVIDIA Corporation
## Release Date:
04/23/2025
## Data Version
1.0 (04/23/2025)
## License/Terms of Use:
cc-by-4.0
## Intended Usage:
This dataset is intended to be used by the community to continue to improve models. The data may be freely used to train and evaluate.
## Ethical Considerations:
NVIDIA believes Trustworthy AI is a shared responsibility and we have established policies and practices to enable development for a wide array of AI applications. When downloaded or used in accordance with our terms of service, developers should work with their internal model team to ensure this model meets requirements for the relevant industry and use case and addresses unforeseen product misuse.
Please report security vulnerabilities or NVIDIA AI Concerns [here](https://www.nvidia.com/en-us/support/submit-security-vulnerability/).
</details>
|