HYUKI5's picture
nvidia/AceMath-Instruct-Training-Data@24e49e73a3ab を複製し、カードを日本語で書く
26da209 verified
|
Raw History Blame Contribute Delete
14.6 kB
---
license: cc-by-nc-4.0
pretty_name: nvidia/AceMath-Instruct-Training-Data (mirror)
source_datasets:
- nvidia/AceMath-Instruct-Training-Data
tags:
- laya
- laya-finetune
- mirror
- domain-math
- domain-code
- use-noncommercial
- genre-instruction
- label-text
- annot-llm
- lang-en
language:
- en
configs:
- config_name: default
data_files:
- split: general_sft_stage1
path: data/general_sft_stage1.parquet
- split: general_sft_stage2
path: data/general_sft_stage2.parquet
- split: math_sft
path: data/math_sft.parquet
dataset_info:
features:
- name: messages
list:
- name: role
dtype: string
- name: content
dtype: string
- name: answer
dtype: string
splits:
- name: general_sft_stage1
- name: general_sft_stage2
- name: math_sft
---
# nvidia/AceMath-Instruct-Training-Data(複製)
## データの内容
AceMath-Instruct モデルの学習に使った、数学・コード・一般領域の指示チューニング用のデータ。1 行が 1 件の会話で、発話の並び `messages` と正解 `answer` を持ち、汎用の SFT 2 段階(general_sft_stage1・stage2)と数学の SFT(math_sft)の 3 つに分かれる。数学のプロンプトへの応答は Qwen2.5-Math-72B-Instruct、それ以外は GPT-4o-mini で生成した。
## データの概要
| 項目 | 値 |
|---|---|
| 行数 | 5,557,354(1 構成・3 分割の合計) |
| 列数 | 2 |
| 容量 | 5.86 GB(ファイル 6 本) |
| ファイルの形式 | parquet 3、png 1 |
| 言語 | en |
| 公開 | public |
### 構成と分割
| 構成(config) | 分割(split)ごとの行数 | 列数 |
|---|---|---:|
| `default` | `general_sft_stage1` 2,261,687、`general_sft_stage2` 1,634,573、`math_sft` 1,661,094 | 2 |
### 列(構成 `default`・分割 `general_sft_stage1`)
| 列 | 型 | 先頭の行の値 |
|---|---|---|
| `messages` | `list<struct{role: string, content: string}>` | `[1 件]` |
| `answer` | `string` | `To determine the area of triangle \( DAB \) give…` |
行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。
## 複製について
[`nvidia/AceMath-Instruct-Training-Data`](https://huggingface.co/datasets/nvidia/AceMath-Instruct-Training-Data) をリビジョン `24e49e73a3ab3aa373e904516838c32a972ba75e` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。
## 出典
- 元のデータセット: https://huggingface.co/datasets/nvidia/AceMath-Instruct-Training-Data
- 複製したリビジョン: `24e49e73a3ab3aa373e904516838c32a972ba75e`(2025-01-17 12:41:19+00:00)
- 元のライセンス表記: `cc-by-nc-4.0`
## 論文
- https://arxiv.org/abs/2412.15084
## アノテーションの方法
(元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した)
AceMath-Instruct の学習データセットは <b>Built with Qwen</b> である。数学のプロンプトの出力は Qwen2.5-Math-72B-Instruct で生成した。それ以外の種類のプロンプトの出力は GPT-4o-mini で生成した。
**ライセンス**
AceMath-Instruct の学習データセットは非商用利用に限られ、OpenAI が生成したデータの [利用規約](https://openai.com/policies/row-terms-of-use/) に従う。このデータセットは、[Creative Commons Attribution: Non-Commercial 4.0 International](https://spdx.org/licenses/CC-BY-NC-4.0) のライセンスの下で提供する。
## 微調整に使うときの注意
- 調査メモの台帳での区分: C(NC・ND・研究専用・評価専用など、商用の利用を妨げうる記載がある)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
- Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
- 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。
## 調査メモの記述
| メモ | 節 | ライセンス(記載) | 確認 | 注記 |
|---|---|---|---|---|
| `nvidia_nemotron.md` | 付録. 取得した nvidia 組織のデータセット全件の簡易一覧 (L387) | cc-by-nc-4.0 | 確認済 | 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: × 数学・コード・科学・計測 |
## 元のカード(日本語訳)
以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。
---
[ウェブサイト](https://research.nvidia.com/labs/adlr/acemath/) | [論文](https://arxiv.org/abs/2412.15084)
## AceMath-Instruct 学習データのカード
AceMath-1.5B/7B/72B-Instruct モデルを学習させるためのデータセットをすべて公開する。これらのモデルは、多段階の教師あり微調整(SFT)の過程を経て、Qwen2.5-Math-Base モデルを基に作られている。微調整は汎用の SFT データ(general_sft_stage1.parquet と general_sft_stage2.parquet)から始まり、数学に特化した SFT データ(math_sft.parquet)が続く。私たちの実験では、数学に特化した SFT データだけで Qwen2.5-Math-Base モデルを微調整しても、競争力のある数学の推論性能が得られた。
AceMath-Instruct の学習データセットは <b>Built with Qwen</b> である。数学のプロンプトの出力は Qwen2.5-Math-72B-Instruct で生成した。それ以外の種類のプロンプトの出力は GPT-4o-mini で生成した。
データの統計は次のとおり:
- general_sft_stage1: 2,261,687 件のサンプル(コードと数学の SFT サンプルからなる)
- general_sft_stage2: 1,634,573 件のサンプル(コードと数学と一般領域の SFT サンプルからなる)
- math_sft: 1,661,094 件(数学の SFT サンプルのみ)
## ベンチマーク結果(AceMath-Instruct + AceMath-72B-RM)
<p align="center">
<img src="./acemath-pic.png" alt="AceMath ベンチマーク結果" width="800">
</p>
上の表で、AceMath を主要な独自モデルと公開モデルの数学モデルと比較している。AceMath-7B-Instruct は、さまざまな数学の推論ベンチマークで、従来の最良の Qwen2.5-Math-7B-Instruct を大きく上回る(平均 pass@1: 67.2 対 62.9)。一方で、10 倍の規模の Qwen2.5-Math-72B-Instruct の性能に近づいている(67.2 対 68.2)。特筆すべきは、AceMath-72B-Instruct が、最先端の Qwen2.5-Math-72B-Instruct(71.8 対 68.2)、GPT-4o(67.4)、Claude 3.5 Sonnet(65.6)を大きな差で上回ったことである。また、報酬モデル AceMath-72B-RM が達成した rm@8 の正解率(8 つのうち最良)も報告する。これは、これらの推論ベンチマークで新しい記録を打ち立てている。ただし、スケールされた推論計算に頼る OpenAI の o1 モデルは含めていない。
## 使い方
```python
from datasets import load_dataset
data_files = {
"general_sft_stage1": "data/general_sft_stage1.parquet",
"general_sft_stage2": "data/general_sft_stage2.parquet",
"math_sft": "data/math_sft.parquet",
}
# load the datasets
dataset = load_dataset(
"nvidia/AceMath-Instruct-Training-Data",
data_files=data_files,
cache_dir="CACHE_DIR_TO_STORE_THE_DATASET"
)
# print example
print(dataset['math_sft'][0])
# example format
"""
{
"messages": [
{
"role": "user",
"content": "...",
}
],
"answer": "..."
}
"""
```
## すべてのリソース
### AceMath の指示調整モデル
- [AceMath-1.5B-Instruct](https://huggingface.co/nvidia/AceMath-1.5B-Instruct), [AceMath-7B-Instruct](https://huggingface.co/nvidia/AceMath-7B-Instruct), [AceMath-72B-Instruct](https://huggingface.co/nvidia/AceMath-72B-Instruct)
### AceMath の報酬モデル
- [AceMath-7B-RM](https://huggingface.co/nvidia/AceMath-7B-RM), [AceMath-72B-RM](https://huggingface.co/nvidia/AceMath-72B-RM)
### 評価と学習のデータ
- [AceMath-RewardBench](https://huggingface.co/datasets/nvidia/AceMath-RewardBench), [AceMath-Instruct Training Data](https://huggingface.co/datasets/nvidia/AceMath-Instruct-Training-Data), [AceMath-RM Training Data](https://huggingface.co/datasets/nvidia/AceMath-RM-Training-Data)
### 汎用の指示調整モデル
- [AceInstruct-1.5B](https://huggingface.co/nvidia/AceInstruct-1.5B), [AceInstruct-7B](https://huggingface.co/nvidia/AceInstruct-7B), [AceInstruct-72B](https://huggingface.co/nvidia/AceInstruct-72B)
## 連絡先
Zihan Liu (zihanl@nvidia.com), Yang Chen (yachen@nvidia.com), Wei Ping (wping@nvidia.com)
## 引用
本研究が役に立った場合は、引用していただけるとありがたい。
<pre>
@article{acemath2024,
title={AceMath: Advancing Frontier Math Reasoning with Post-Training and Reward Modeling},
author={Liu, Zihan and Chen, Yang and Shoeybi, Mohammad and Catanzaro, Bryan and Ping, Wei},
journal={arXiv preprint},
year={2024}
}
</pre>
## ライセンス
AceMath-Instruct の学習データセットは非商用利用に限られ、OpenAI が生成したデータの [利用規約](https://openai.com/policies/row-terms-of-use/) に従う。このデータセットは、[Creative Commons Attribution: Non-Commercial 4.0 International](https://spdx.org/licenses/CC-BY-NC-4.0) のライセンスの下で提供する。
<details>
<summary>原文(英語)</summary>
[website](https://research.nvidia.com/labs/adlr/acemath/) | [paper](https://arxiv.org/abs/2412.15084)
## AceMath-Instruct Training Data Card
We release all the datasets to train AceMath-1.5B/7B/72B-Instruct models. These models are built upon the Qwen2.5-Math-Base models through a multi-stage supervised fine-tuning (SFT) process. The fine-tuning begins with general-purpose SFT data (general_sft_stage1.parquet and general_sft_stage2.parquet) and is followed by math-specific SFT data (math_sft.parquet). In our experiments, fine-tuning the Qwen2.5-Math-Base models using only the math-specific SFT data also delivers competitive math reasoning performance.
AceMath-Instruct training datasets are <b>Built with Qwen</b> with math prompt outputs generated by Qwen2.5-Math-72B-Instruct. Outputs for other types of prompts are generated using GPT-4o-mini.
Here are the data statistics:
- general_sft_stage1: 2,261,687 samples (consisting of code & math SFT samples)
- general_sft_stage2: 1,634,573 samples (consisting of code & math & general-domain SFT samples)
- math_sft: 1,661,094 (only math SFT samples)
## Benchmark Results (AceMath-Instruct + AceMath-72B-RM)
<p align="center">
<img src="./acemath-pic.png" alt="AceMath Benchmark Results" width="800">
</p>
We compare AceMath to leading proprietary and open-access math models in above Table. Our AceMath-7B-Instruct, largely outperforms the previous best-in-class Qwen2.5-Math-7B-Instruct (Average pass@1: 67.2 vs. 62.9) on a variety of math reasoning benchmarks, while coming close to the performance of 10× larger Qwen2.5-Math-72B-Instruct (67.2 vs. 68.2). Notably, our AceMath-72B-Instruct outperforms the state-of-the-art Qwen2.5-Math-72B-Instruct (71.8 vs. 68.2), GPT-4o (67.4) and Claude 3.5 Sonnet (65.6) by a margin. We also report the rm@8 accuracy (best of 8) achieved by our reward model, AceMath-72B-RM, which sets a new record on these reasoning benchmarks. This excludes OpenAI’s o1 model, which relies on scaled inference computation.
## How to use
```python
from datasets import load_dataset
data_files = {
"general_sft_stage1": "data/general_sft_stage1.parquet",
"general_sft_stage2": "data/general_sft_stage2.parquet",
"math_sft": "data/math_sft.parquet",
}
# load the datasets
dataset = load_dataset(
"nvidia/AceMath-Instruct-Training-Data",
data_files=data_files,
cache_dir="CACHE_DIR_TO_STORE_THE_DATASET"
)
# print example
print(dataset['math_sft'][0])
# example format
"""
{
"messages": [
{
"role": "user",
"content": "...",
}
],
"answer": "..."
}
"""
```
## All Resources
### AceMath Instruction Models
- [AceMath-1.5B-Instruct](https://huggingface.co/nvidia/AceMath-1.5B-Instruct), [AceMath-7B-Instruct](https://huggingface.co/nvidia/AceMath-7B-Instruct), [AceMath-72B-Instruct](https://huggingface.co/nvidia/AceMath-72B-Instruct)
### AceMath Reward Models
- [AceMath-7B-RM](https://huggingface.co/nvidia/AceMath-7B-RM), [AceMath-72B-RM](https://huggingface.co/nvidia/AceMath-72B-RM)
### Evaluation & Training Data
- [AceMath-RewardBench](https://huggingface.co/datasets/nvidia/AceMath-RewardBench), [AceMath-Instruct Training Data](https://huggingface.co/datasets/nvidia/AceMath-Instruct-Training-Data), [AceMath-RM Training Data](https://huggingface.co/datasets/nvidia/AceMath-RM-Training-Data)
### General Instruction Models
- [AceInstruct-1.5B](https://huggingface.co/nvidia/AceInstruct-1.5B), [AceInstruct-7B](https://huggingface.co/nvidia/AceInstruct-7B), [AceInstruct-72B](https://huggingface.co/nvidia/AceInstruct-72B)
## Correspondence to
Zihan Liu (zihanl@nvidia.com), Yang Chen (yachen@nvidia.com), Wei Ping (wping@nvidia.com)
## Citation
If you find our work helpful, we’d appreciate it if you could cite us.
<pre>
@article{acemath2024,
title={AceMath: Advancing Frontier Math Reasoning with Post-Training and Reward Modeling},
author={Liu, Zihan and Chen, Yang and Shoeybi, Mohammad and Catanzaro, Bryan and Ping, Wei},
journal={arXiv preprint},
year={2024}
}
</pre>
## License
AceMath-Instruct training dataets are for non-commercial use only, subject to [Terms of Use](https://openai.com/policies/row-terms-of-use/) of the data generated by OpenAI. We put this dataset under the license of [Creative Commons Attribution: Non-Commercial 4.0 International](https://spdx.org/licenses/CC-BY-NC-4.0).
</details>