File size: 28,218 Bytes
67496e4
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
---
license: cc-by-4.0
pretty_name: nvidia/OpenMathReasoning (mirror)
source_datasets:
- nvidia/OpenMathReasoning
tags:
- laya
- laya-finetune
- mirror
- domain-math
- use-permissive
- genre-instruction
- label-text
- annot-llm
- lang-en
language:
- en
task_categories:
- question-answering
- text-generation
size_categories:
- 1M<n<10M
configs:
- config_name: default
  data_files:
  - split: cot
    path: data/cot-*
  - split: tir
    path: data/tir-*
  - split: genselect
    path: data/genselect-*
  - split: additional_problems
    path: data/additional_problems-*
dataset_info:
  features:
  - name: expected_answer
    dtype: string
  - name: problem_type
    dtype: string
  - name: problem_source
    dtype: string
  - name: generation_model
    dtype: string
  - name: pass_rate_72b_tir
    dtype: string
  - name: problem
    dtype: string
  - name: generated_solution
    dtype: string
  - name: inference_mode
    dtype: string
  - name: used_in_kaggle
    dtype: bool
  splits:
  - name: cot
    num_bytes: 71639174648
    num_examples: 3201061
  - name: tir
    num_bytes: 35746562996
    num_examples: 1718466
  - name: genselect
    num_bytes: 6981124435
    num_examples: 565620
  - name: additional_problems
    num_bytes: 66328865
    num_examples: 193170
  download_size: 49585391985
  dataset_size: 114433190944
---

# nvidia/OpenMathReasoning(複製)

## データの内容

AoPS フォーラムの数学の問題に、DeepSeek-R1 や QwQ-32B が生成した解答を付けた、大規模な数学推論のデータ。1 行が 1 件の解答で、問題文は `problem`、生成された解答は `generated_solution`、正解は `expected_answer` に入る。解答は長い chain-of-thought、ツール統合推論(TIR)、多数の候補から選ぶ GenSelect の 3 種類で、問題の整形には Qwen2.5-32B-Instruct を使った。

## データの概要

| 項目 | 値 |
|---|---|
| 行数 | 5,678,317(1 構成・4 分割の合計) |
| 列数 | 9 |
| 容量 | 49.53 GB(ファイル 234 本) |
| ファイルの形式 | parquet 198 |
| 言語 | en |
| 公開 | public |

### 構成と分割

| 構成(config) | 分割(split)ごとの行数 | 列数 |
|---|---|---:|
| `default` | `cot` 3,201,061、`tir` 1,718,466、`genselect` 565,620、`additional_problems` 193,170 | 9 |

### 列(構成 `default`・分割 `cot`)

| 列 | 型 | 先頭の行の値 |
|---|---|---|
| `expected_answer` | `string` | `\(\frac{C_{n_1}^{a_1} \cdot C_{n_2}^{a_2} \cdot …` |
| `problem_type` | `string` | `has_answer_extracted` |
| `problem_source` | `string` | `aops_c6_high_school_olympiads` |
| `generation_model` | `string` | `DeepSeek-R1` |
| `pass_rate_72b_tir` | `string` | `0.65625` |
| `problem` | `string` | `Given a group of \( N \) balls consisting of \( …` |
| `generated_solution` | `string` | `<think> Okay, so I need to find the probability …` |
| `inference_mode` | `string` | `cot` |
| `used_in_kaggle` | `bool` | `True` |

行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。

## 複製について

[`nvidia/OpenMathReasoning`](https://huggingface.co/datasets/nvidia/OpenMathReasoning) をリビジョン `d3d08664755704f422af97d43a7ff0ded4bd95df` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。

## 出典

- 元のデータセット: https://huggingface.co/datasets/nvidia/OpenMathReasoning
- 複製したリビジョン: `d3d08664755704f422af97d43a7ff0ded4bd95df`(2025-05-27 18:43:44+00:00)
- 元のライセンス表記: `cc-by-4.0`

## 論文

- https://arxiv.org/abs/2504.16891

## アノテーションの方法

(元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した)

- **problem**: [AoPS フォーラム](https://artofproblemsolving.com/community) から抽出し、[Qwen2.5-32B-Instruct](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct) で整形した問題文。
- **generated_solution**: [DeepSeek-R1](https://huggingface.co/deepseek-ai/DeepSeek-R1) または [QwQ-32B](https://huggingface.co/Qwen/QwQ-32B) を使って合成により生成された解答。
- **generation_model**: 生成に使用したモデル。DeepSeek-R1 または QwQ-32B。
- **problem_type**: "has_answer_extracted"、"no_answer_extracted"、"converted_proof" のいずれか。答えを抽出できたか、証明問題を答え付きの問題に変換したものかによって決まる。
- **expected_answer**: "problem_type" が "has_answer_extracted" の場合は抽出された答え。それ以外の場合は、この問題について生成されたすべての解答の多数決による答え。
- **problem_source**: 対応する AoPS フォーラム(例: "aops_c6_high_school_olympiads")または "MATH_training_set" を示す。後者は、[MATH](https://github.com/hendrycks/math) からの生成物も少数含むためである。
- **inference_mode**: 推論モード。"cot"、"tir"、"genselect" のいずれか。
- **pass_rate_72b_tir**: TIR モードで実行した [Qwen2.5-Math-72B-Instruct](https://huggingface.co/Qwen/Qwen2.5-Math-72B-Instruct) の、32 回の生成のうちの合格率。この属性は "problem_type" が "has_answer_extracted" の場合にのみ利用でき、それ以外の場合は "n/a" となる。
- **used_in_kaggle**: そのインスタンスが [AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard) の優勝モデルの学習に使われたかどうか。[OpenMath-Nemotron-14B-Kaggle](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) モデルの学習には、2.2M 件の CoT 解答と 15K 件の TIR 解答を使用した。なお、OpenMath-Nemotron モデルの学習には、Kaggle で使用した TIR のサブセットを除くすべての CoT、TIR、GenSelect のデータを使用した。

## 微調整に使うときの注意

- 調査メモの台帳での区分: A(許諾型のライセンスだけで、疑義の注記が無い)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

## 調査メモの記述

| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
| `nvidia_nemotron.md` | 付録. 取得した nvidia 組織のデータセット全件の簡易一覧 (L367) | cc-by-4.0 | 確認済 | 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: × 数学・コード・科学・計測 |

## 元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。

---

# OpenMathReasoning

 
OpenMathReasoning は、大規模言語モデル(LLM)を学習させるための大規模な数学推論データセットである。
このデータセットには次が含まれる。

* [AoPS フォーラム](https://artofproblemsolving.com/community) から得た 306K 件の一意な数学の問題(次を含む):
    * 3.2M 件の長い chain-of-thought(CoT)解答
    * 1.7M 件の長いツール統合推論(TIR)解答
    * 566K 件の、多数の候補から最も有望な解答を選ぶサンプル(GenSelect)
* AoPS フォーラムから得た追加の 193K 問(問題のみで解答はなし)

問題の前処理に [Qwen2.5-32B-Instruct](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct) を、解答の生成に [DeepSeek-R1](https://huggingface.co/deepseek-ai/DeepSeek-R1) と [QwQ-32B](https://huggingface.co/Qwen/QwQ-32B) を使用した。

このデータセットは、[AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard) での我々の優勝提出の基盤となった。

詳細は [論文](https://arxiv.org/abs/2504.16891) を参照のこと。

**_注記:_** 当初、データセットには 540K の一意な問題が含まれると報告していたが、この数字はパイプラインの開始時点の問題数を表していた。公開されたデータセットに含まれる実際の CoT と TIR の解答は 306K 問に対応する。OpenMath-Nemotron モデルはこの縮小したサブセットで学習されているため、公開されたすべての結果は現在のリリースで再現可能である。誤っていたのは当初の問題数のみである。

問題数のこの食い違いは、2 つの要因で説明される。
- フィルタリングの過程で、形式の制約(yes/no 問題、多肢選択問題など)、ベンチマークの汚染除去、既存の LLM が特定の問題に対して有効な解答を生成できないこと、により多くの問題を除いた。
- パイプラインのバグにより、証明問題 137K 問を失った。復旧したこの追加データを学習に含めたところ、SFT の性能が低下した。復旧した問題を取り込む方法を現在検証しており、明確な性能向上が確認できた場合にのみ、その解答を公開する。

 
**_注記:_** このデータの初期版は、[Llama-Nemotron-Post-Training-Dataset](https://huggingface.co/datasets/nvidia/Llama-Nemotron-Post-Training-Dataset) で別途公開された。

## データセットのフィールド

OpenMathReasoning データセットには、次のフィールドが含まれる:

- **problem**: [AoPS フォーラム](https://artofproblemsolving.com/community) から抽出し、[Qwen2.5-32B-Instruct](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct) で整形した問題文。
- **generated_solution**: [DeepSeek-R1](https://huggingface.co/deepseek-ai/DeepSeek-R1) または [QwQ-32B](https://huggingface.co/Qwen/QwQ-32B) を使って合成により生成された解答。
- **generation_model**: 生成に使用したモデル。DeepSeek-R1 または QwQ-32B。
- **problem_type**: "has_answer_extracted"、"no_answer_extracted"、"converted_proof" のいずれか。答えを抽出できたか、証明問題を答え付きの問題に変換したものかによって決まる。
- **expected_answer**: "problem_type" が "has_answer_extracted" の場合は抽出された答え。それ以外の場合は、この問題について生成されたすべての解答の多数決による答え。
- **problem_source**: 対応する AoPS フォーラム(例: "aops_c6_high_school_olympiads")または "MATH_training_set" を示す。後者は、[MATH](https://github.com/hendrycks/math) からの生成物も少数含むためである。
- **inference_mode**: 推論モード。"cot"、"tir"、"genselect" のいずれか。
- **pass_rate_72b_tir**: TIR モードで実行した [Qwen2.5-Math-72B-Instruct](https://huggingface.co/Qwen/Qwen2.5-Math-72B-Instruct) の、32 回の生成のうちの合格率。この属性は "problem_type" が "has_answer_extracted" の場合にのみ利用でき、それ以外の場合は "n/a" となる。
- **used_in_kaggle**: そのインスタンスが [AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard) の優勝モデルの学習に使われたかどうか。[OpenMath-Nemotron-14B-Kaggle](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) モデルの学習には、2.2M 件の CoT 解答と 15K 件の TIR 解答を使用した。なお、OpenMath-Nemotron モデルの学習には、Kaggle で使用した TIR のサブセットを除くすべての CoT、TIR、GenSelect のデータを使用した。

## OpenMath-Nemotron モデル

このデータセットの品質を示すため、このデータで学習させた一連の OpenMath-Nemotron モデルを公開する。

* [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B)
* [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B)
* [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B)
* [OpenMath-Nemotron-14B-Kaggle](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle)([AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard) で使用されたモデル)
* [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B)

![Evaluation Results](./results.png)

これらのモデルは、代表的な数学ベンチマークで最先端の結果を達成している。指標は pass@1 (maj@64) で示す。ここで pass@1 は 64 回の生成の平均精度、maj@64 は多数決の結果である。評価の設定の詳細は [論文](https://arxiv.org/abs/2504.16891) を参照のこと。

| Model                         | AIME24 |  AIME25     |  HMMT-24-25     | HLE-Math    |
|-------------------------------|-----------------|-------|-------|-------------|
| DeepSeek-R1-Distill-Qwen-1.5B | 26.8 (60.0)     | 21.4 (36.7) | 14.2 (26.5) | 2.9 (5.0)   |
| [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B) CoT   | 61.6 (80.0)     | 49.5 (66.7) | 39.9 (53.6) | 5.4 (5.4)   |
| [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B) TIR   | 52.0 (83.3)     | 39.7 (70.0) | 37.2 (60.7) | 2.5 (6.2)   |
| + 自己 GenSelect              | 83.3            | 70.0  | 62.2  | 7.9         |
| + 32B GenSelect               | 83.3            | 70.0  | 62.8  | 8.3         |
| DeepSeek-R1-Distill-Qwen-7B  | 54.4 (80.0)     | 38.6 (53.3) | 30.6 (42.9) | 3.3 (5.2)   |
| [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B) CoT    | 74.8 (80.0)     | 61.2 (76.7) | 49.7 (57.7) | 6.6 (6.6)   |
| [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B) TIR    | 72.9 (83.3)     | 57.5 (76.7) | 54.6 (66.3) | 7.8 (10.8)  |
| + 自己 GenSelect              | 86.7            | 76.7  | 68.4  | 11.5        |
| + 32B GenSelect               | 86.7            | 76.7  | 69.9  | 11.9        |
| DeepSeek-R1-Distill-Qwen-14B | 65.8 (80.0)     | 48.4 (60.0) | 40.1 (52.0) | 4.2 (4.8)   |
| [OpenMath-Nemotron-14B-MIX (kaggle)](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) | 73.7 (86.7) | 57.9 (73.3) | 50.5 (64.8) | 5.7 (6.5)   |
| [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B) CoT   | 76.3 (83.3)     | 63.0 (76.7) | 52.1 (60.7) | 7.5 (7.6)   |
| [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B) TIR   | 76.3 (86.7)     | 61.3 (76.7) | 58.6 (70.9) | 9.5 (11.5)  |
| + 自己 GenSelect              | 86.7            | 76.7  | 72.4  | 14.1        |
| + 32B GenSelect               | 90.0            | 76.7  | 71.9  | 13.7        |
| QwQ-32B                       | 78.1 (86.7)     | 66.5 (76.7) | 55.9 (63.3) | 9.0 (9.5)   |
| DeepSeek-R1-Distill-Qwen-32B | 66.9 (83.3)     | 51.8 (73.3) | 39.9 (51.0) | 4.8 (6.0)   |
| [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B) CoT   | 76.5 (86.7)     | 62.5 (73.3) | 53.0 (59.2) | 8.3 (8.3)   |
| [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B) TIR   | 78.4 (93.3)     | 64.2 (76.7) | 59.7 (70.9) | 9.2 (12.5)  |
| + 自己 GenSelect              | 93.3            | 80.0  | 73.5  | 15.7        |
| DeepSeek-R1                   | 79.1 (86.7)     | 64.3 (73.3) | 53.0 (59.2) | 10.5 (11.4) |

## 結果の再現

データとモデルの作成に使ったパイプラインは、完全にオープンソースで公開されている。

- [コード](https://github.com/NVIDIA/NeMo-Skills)
- [モデル](https://huggingface.co/collections/nvidia/openmathreasoning-68072c0154a5099573d2e730)
- [データセット](https://huggingface.co/datasets/nvidia/OpenMathReasoning)
- [論文](https://arxiv.org/abs/2504.16891)

データ生成を含め、結果を完全に再現するための [すべての手順](https://nvidia.github.io/NeMo-Skills/openmathreasoning1/) を提供する。

## 引用

本研究が役立った場合は、引用を検討すること。

```bibtex
@article{moshkov2025aimo2,
  title   = {AIMO-2 Winning Solution: Building State-of-the-Art Mathematical Reasoning Models with OpenMathReasoning dataset},
  author  = {Ivan Moshkov and Darragh Hanley and Ivan Sorokin and Shubham Toshniwal and Christof Henkel and Benedikt Schifferer and Wei Du and Igor Gitman},
  year    = {2025},
  journal = {arXiv preprint arXiv:2504.16891}
}
```


## データセットの所有者:
NVIDIA Corporation

## 公開日:
04/23/2025

## データのバージョン
1.0 (04/23/2025)

## ライセンス/利用規約:
cc-by-4.0

## 想定される用途:
このデータセットは、コミュニティがモデルを改善し続けるために使われることを想定している。このデータは学習と評価に自由に使ってよい。


## 倫理的配慮:
NVIDIA は、信頼できる AI は共有の責任であると考えており、幅広い AI アプリケーションの開発を可能にするための方針と慣行を定めている。利用規約に従ってダウンロード・利用する場合、開発者は社内のモデルチームと協力し、関連する業界と用途の要件を満たしていることを確認し、想定外の製品の誤用に対処すること。

セキュリティの脆弱性や NVIDIA AI に関する懸念は、[こちら](https://www.nvidia.com/en-us/support/submit-security-vulnerability/) から報告すること。

<details>
<summary>原文(英語)</summary>

# OpenMathReasoning

 
OpenMathReasoning is a large-scale math reasoning dataset for training large language models (LLMs). 
This dataset contains 

* 306K unique mathematical problems sourced from [AoPS forums](https://artofproblemsolving.com/community) with: 
    * 3.2M long chain-of-thought (CoT) solutions
    * 1.7M long tool-integrated reasoning (TIR) solutions
    * 566K samples that select the most promising solution out of many candidates (GenSelect)
* Additional 193K problems sourced from AoPS forums (problems only, no solutions)

We used [Qwen2.5-32B-Instruct](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct) to preprocess problems, and 
[DeepSeek-R1](https://huggingface.co/deepseek-ai/DeepSeek-R1) and [QwQ-32B](https://huggingface.co/Qwen/QwQ-32B) to generate solutions. 

This dataset was a foundation of our winning submission to the 
[AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard).

See our [paper](https://arxiv.org/abs/2504.16891) to learn more details!

**_NOTE:_** We initially reported 540K unique problems in our dataset, but this figure represented the question count at the pipeline's beginning. But the actual CoT and TIR solutions in the released dataset correspond to 306K problems. Since our OpenMath-Nemotron models were trained on this reduced subset, all published results remain reproducible with the current release—only our initial problem count was overstated.

Two factors explain this discrepancy in question numbers. 
- Our filtering process removed many questions due to format restrictions (yes/no questions, multiple choice questions, etc.), benchmark decontamination, and the inability of existing LLMs to generate valid solutions for certain problems. 
- A pipeline bug caused us to lose 137K proof-based questions. When we recovered and included this additional data in training, the SFT performance regressed. We are currently testing different approaches for incorporating these recovered questions and will release their solutions only if we identify clear performance improvements.


 
**_NOTE:_** An early version of this data was released separately in [Llama-Nemotron-Post-Training-Dataset](https://huggingface.co/datasets/nvidia/Llama-Nemotron-Post-Training-Dataset).

## Dataset fields

OpenMathReasoning dataset contains the following fields:

- **problem**: Problem statement extracted from [AoPS forums](https://artofproblemsolving.com/community) and refined with [Qwen2.5-32B-Instruct](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct)
- **generated_solution**: Synthetically generated solution using either [DeepSeek-R1](https://huggingface.co/deepseek-ai/DeepSeek-R1) or [QwQ-32B](https://huggingface.co/Qwen/QwQ-32B)
- **generation_model**: DeepSeek-R1 or QwQ-32B
- **problem_type**: Can be one of "has_answer_extracted", "no_answer_extracted" and "converted_proof" dependening on whether we were able to extract the answer or if this is a proof question converted to answer question.
- **expected_answer**: Extracted answer if "problem_type" is "has_answer_extracted". Otherwise this is the majority-voting answer across all generated solutions for this problem.
- **problem_source**: States the corresponding AoPS forum (e.g. "aops_c6_high_school_olympiads") or "MATH_training_set" as we also include a small set of generations from [MATH](https://github.com/hendrycks/math).
- **inference_mode**: "cot", "tir" or "genselect"
- **pass_rate_72b_tir**: Pass rate out of 32 generations for [Qwen2.5-Math-72B-Instruct](https://huggingface.co/Qwen/Qwen2.5-Math-72B-Instruct) run in TIR mode. This attribute is only available when "problem_type" is "has_answer_extracted" and is set to "n/a" for other cases. 
- **used_in_kaggle**: Whether the instance was used in training the winning model for [AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard) or not. We had used 2.2M CoT and 15K TIR solutions for training the [OpenMath-Nemotron-14B-Kaggle](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) model. Note that for training the OpenMath-Nemotron models, we used all the CoT, TIR, and GenSelect data, except for the TIR subset used in Kaggle.  

## OpenMath-Nemotron models

To demonstrate the quality of this dataset, we release a series of OpenMath-Nemotron models trained on this data.

* [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B)
* [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B)
* [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B)
* [OpenMath-Nemotron-14B-Kaggle](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) (this is the model used in [AIMO-2 Kaggle competition](https://www.kaggle.com/competitions/ai-mathematical-olympiad-progress-prize-2/leaderboard))
* [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B)

![Evaluation Results](./results.png)

The models achieve state-of-the-art results on popular mathematical benchmarks. We present metrics as pass@1 (maj@64) where pass@1
is an average accuracy across 64 generations and maj@64 is the result of majority voting. 
Please see our [paper](https://arxiv.org/abs/2504.16891) for more details on the evaluation setup.

| Model                         | AIME24 |  AIME25     |  HMMT-24-25     | HLE-Math    |
|-------------------------------|-----------------|-------|-------|-------------|
| DeepSeek-R1-Distill-Qwen-1.5B | 26.8 (60.0)     | 21.4 (36.7) | 14.2 (26.5) | 2.9 (5.0)   |
| [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B) CoT   | 61.6 (80.0)     | 49.5 (66.7) | 39.9 (53.6) | 5.4 (5.4)   |
| [OpenMath-Nemotron-1.5B](https://huggingface.co/nvidia/OpenMath-Nemotron-1.5B) TIR   | 52.0 (83.3)     | 39.7 (70.0) | 37.2 (60.7) | 2.5 (6.2)   |
| + Self GenSelect              | 83.3            | 70.0  | 62.2  | 7.9         |
| + 32B GenSelect               | 83.3            | 70.0  | 62.8  | 8.3         |
| DeepSeek-R1-Distill-Qwen-7B  | 54.4 (80.0)     | 38.6 (53.3) | 30.6 (42.9) | 3.3 (5.2)   |
| [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B) CoT    | 74.8 (80.0)     | 61.2 (76.7) | 49.7 (57.7) | 6.6 (6.6)   |
| [OpenMath-Nemotron-7B](https://huggingface.co/nvidia/OpenMath-Nemotron-7B) TIR    | 72.9 (83.3)     | 57.5 (76.7) | 54.6 (66.3) | 7.8 (10.8)  |
| + Self GenSelect              | 86.7            | 76.7  | 68.4  | 11.5        |
| + 32B GenSelect               | 86.7            | 76.7  | 69.9  | 11.9        |
| DeepSeek-R1-Distill-Qwen-14B | 65.8 (80.0)     | 48.4 (60.0) | 40.1 (52.0) | 4.2 (4.8)   |
| [OpenMath-Nemotron-14B-MIX (kaggle)](https://huggingface.co/nvidia/OpenMath-Nemotron-14B-Kaggle) | 73.7 (86.7) | 57.9 (73.3) | 50.5 (64.8) | 5.7 (6.5)   |
| [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B) CoT   | 76.3 (83.3)     | 63.0 (76.7) | 52.1 (60.7) | 7.5 (7.6)   |
| [OpenMath-Nemotron-14B](https://huggingface.co/nvidia/OpenMath-Nemotron-14B) TIR   | 76.3 (86.7)     | 61.3 (76.7) | 58.6 (70.9) | 9.5 (11.5)  |
| + Self GenSelect              | 86.7            | 76.7  | 72.4  | 14.1        |
| + 32B GenSelect               | 90.0            | 76.7  | 71.9  | 13.7        |
| QwQ-32B                       | 78.1 (86.7)     | 66.5 (76.7) | 55.9 (63.3) | 9.0 (9.5)   |
| DeepSeek-R1-Distill-Qwen-32B | 66.9 (83.3)     | 51.8 (73.3) | 39.9 (51.0) | 4.8 (6.0)   |
| [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B) CoT   | 76.5 (86.7)     | 62.5 (73.3) | 53.0 (59.2) | 8.3 (8.3)   |
| [OpenMath-Nemotron-32B](https://huggingface.co/nvidia/OpenMath-Nemotron-32B) TIR   | 78.4 (93.3)     | 64.2 (76.7) | 59.7 (70.9) | 9.2 (12.5)  |
| + Self GenSelect              | 93.3            | 80.0  | 73.5  | 15.7        |
| DeepSeek-R1                   | 79.1 (86.7)     | 64.3 (73.3) | 53.0 (59.2) | 10.5 (11.4) |

## Reproducing our results

The pipeline we used to produce the data and models is fully open-sourced!

- [Code](https://github.com/NVIDIA/NeMo-Skills)
- [Models](https://huggingface.co/collections/nvidia/openmathreasoning-68072c0154a5099573d2e730)
- [Dataset](https://huggingface.co/datasets/nvidia/OpenMathReasoning)
- [Paper](https://arxiv.org/abs/2504.16891)

We provide [all instructions](https://nvidia.github.io/NeMo-Skills/openmathreasoning1/)
to fully reproduce our results, including data generation.

## Citation

If you find our work useful, please consider citing us!

```bibtex
@article{moshkov2025aimo2,
  title   = {AIMO-2 Winning Solution: Building State-of-the-Art Mathematical Reasoning Models with OpenMathReasoning dataset},
  author  = {Ivan Moshkov and Darragh Hanley and Ivan Sorokin and Shubham Toshniwal and Christof Henkel and Benedikt Schifferer and Wei Du and Igor Gitman},
  year    = {2025},
  journal = {arXiv preprint arXiv:2504.16891}
}
```


## Dataset Owner(s):
NVIDIA Corporation

## Release Date:
04/23/2025

## Data Version
1.0 (04/23/2025)

## License/Terms of Use:
cc-by-4.0

## Intended Usage:
This dataset is intended to be used by the community to continue to improve models. The data may be freely used to train and evaluate.


## Ethical Considerations:
NVIDIA believes Trustworthy AI is a shared responsibility and we have established policies and practices to enable development for a wide array of AI applications.  When downloaded or used in accordance with our terms of service, developers should work with their internal model team to ensure this model meets requirements for the relevant industry and use case and addresses unforeseen product misuse.   

Please report security vulnerabilities or NVIDIA AI Concerns [here](https://www.nvidia.com/en-us/support/submit-security-vulnerability/).

</details>