|
Download README.md from HYUKI5/nvidia__AceMath-Instruct-Training-Data: direct link, hf CLI and curl.
- Browser
- Download file 14.6 kB
-
https://huggingface.co/datasets/HYUKI5/nvidia__AceMath-Instruct-Training-Data/resolve/main/README.md
- Command line
-
hf download hf://datasets/HYUKI5/nvidia__AceMath-Instruct-Training-Data/README.md
-
curl -L -o README.md https://huggingface.co/datasets/HYUKI5/nvidia__AceMath-Instruct-Training-Data/resolve/main/README.md
14.6 kB
| license: cc-by-nc-4.0 | |
| pretty_name: nvidia/AceMath-Instruct-Training-Data (mirror) | |
| source_datasets: | |
| - nvidia/AceMath-Instruct-Training-Data | |
| tags: | |
| - laya | |
| - laya-finetune | |
| - mirror | |
| - domain-math | |
| - domain-code | |
| - use-noncommercial | |
| - genre-instruction | |
| - label-text | |
| - annot-llm | |
| - lang-en | |
| language: | |
| - en | |
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: general_sft_stage1 | |
| path: data/general_sft_stage1.parquet | |
| - split: general_sft_stage2 | |
| path: data/general_sft_stage2.parquet | |
| - split: math_sft | |
| path: data/math_sft.parquet | |
| dataset_info: | |
| features: | |
| - name: messages | |
| list: | |
| - name: role | |
| dtype: string | |
| - name: content | |
| dtype: string | |
| - name: answer | |
| dtype: string | |
| splits: | |
| - name: general_sft_stage1 | |
| - name: general_sft_stage2 | |
| - name: math_sft | |
| # nvidia/AceMath-Instruct-Training-Data(複製) | |
| ## データの内容 | |
| AceMath-Instruct モデルの学習に使った、数学・コード・一般領域の指示チューニング用のデータ。1 行が 1 件の会話で、発話の並び `messages` と正解 `answer` を持ち、汎用の SFT 2 段階(general_sft_stage1・stage2)と数学の SFT(math_sft)の 3 つに分かれる。数学のプロンプトへの応答は Qwen2.5-Math-72B-Instruct、それ以外は GPT-4o-mini で生成した。 | |
| ## データの概要 | |
| | 項目 | 値 | | |
| |---|---| | |
| | 行数 | 5,557,354(1 構成・3 分割の合計) | | |
| | 列数 | 2 | | |
| | 容量 | 5.86 GB(ファイル 6 本) | | |
| | ファイルの形式 | parquet 3、png 1 | | |
| | 言語 | en | | |
| | 公開 | public | | |
| ### 構成と分割 | |
| | 構成(config) | 分割(split)ごとの行数 | 列数 | | |
| |---|---|---:| | |
| | `default` | `general_sft_stage1` 2,261,687、`general_sft_stage2` 1,634,573、`math_sft` 1,661,094 | 2 | | |
| ### 列(構成 `default`・分割 `general_sft_stage1`) | |
| | 列 | 型 | 先頭の行の値 | | |
| |---|---|---| | |
| | `messages` | `list<struct{role: string, content: string}>` | `[1 件]` | | |
| | `answer` | `string` | `To determine the area of triangle \( DAB \) give…` | | |
| 行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は [HYUKI5/dataset-catalog](https://huggingface.co/datasets/HYUKI5/dataset-catalog) にある。 | |
| ## 複製について | |
| [`nvidia/AceMath-Instruct-Training-Data`](https://huggingface.co/datasets/nvidia/AceMath-Instruct-Training-Data) をリビジョン `24e49e73a3ab3aa373e904516838c32a972ba75e` の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(`convaiinnovations/laya`)の微調整に使う候補として、調査メモ(`Laya 学習用データセット調査`)に載せたデータを集めている。 | |
| ## 出典 | |
| - 元のデータセット: https://huggingface.co/datasets/nvidia/AceMath-Instruct-Training-Data | |
| - 複製したリビジョン: `24e49e73a3ab3aa373e904516838c32a972ba75e`(2025-01-17 12:41:19+00:00) | |
| - 元のライセンス表記: `cc-by-nc-4.0` | |
| ## 論文 | |
| - https://arxiv.org/abs/2412.15084 | |
| ## アノテーションの方法 | |
| (元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した) | |
| AceMath-Instruct の学習データセットは <b>Built with Qwen</b> である。数学のプロンプトの出力は Qwen2.5-Math-72B-Instruct で生成した。それ以外の種類のプロンプトの出力は GPT-4o-mini で生成した。 | |
| **ライセンス** | |
| AceMath-Instruct の学習データセットは非商用利用に限られ、OpenAI が生成したデータの [利用規約](https://openai.com/policies/row-terms-of-use/) に従う。このデータセットは、[Creative Commons Attribution: Non-Commercial 4.0 International](https://spdx.org/licenses/CC-BY-NC-4.0) のライセンスの下で提供する。 | |
| ## 微調整に使うときの注意 | |
| - 調査メモの台帳での区分: C(NC・ND・研究専用・評価専用など、商用の利用を妨げうる記載がある)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。 | |
| - Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。 | |
| - 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。 | |
| ## 調査メモの記述 | |
| | メモ | 節 | ライセンス(記載) | 確認 | 注記 | | |
| |---|---|---|---|---| | |
| | `nvidia_nemotron.md` | 付録. 取得した nvidia 組織のデータセット全件の簡易一覧 (L387) | cc-by-nc-4.0 | 確認済 | 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: × 数学・コード・科学・計測 | | |
| ## 元のカード(日本語訳) | |
| 以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。 | |
| --- | |
| [ウェブサイト](https://research.nvidia.com/labs/adlr/acemath/) | [論文](https://arxiv.org/abs/2412.15084) | |
| ## AceMath-Instruct 学習データのカード | |
| AceMath-1.5B/7B/72B-Instruct モデルを学習させるためのデータセットをすべて公開する。これらのモデルは、多段階の教師あり微調整(SFT)の過程を経て、Qwen2.5-Math-Base モデルを基に作られている。微調整は汎用の SFT データ(general_sft_stage1.parquet と general_sft_stage2.parquet)から始まり、数学に特化した SFT データ(math_sft.parquet)が続く。私たちの実験では、数学に特化した SFT データだけで Qwen2.5-Math-Base モデルを微調整しても、競争力のある数学の推論性能が得られた。 | |
| AceMath-Instruct の学習データセットは <b>Built with Qwen</b> である。数学のプロンプトの出力は Qwen2.5-Math-72B-Instruct で生成した。それ以外の種類のプロンプトの出力は GPT-4o-mini で生成した。 | |
| データの統計は次のとおり: | |
| - general_sft_stage1: 2,261,687 件のサンプル(コードと数学の SFT サンプルからなる) | |
| - general_sft_stage2: 1,634,573 件のサンプル(コードと数学と一般領域の SFT サンプルからなる) | |
| - math_sft: 1,661,094 件(数学の SFT サンプルのみ) | |
| ## ベンチマーク結果(AceMath-Instruct + AceMath-72B-RM) | |
| <p align="center"> | |
| <img src="./acemath-pic.png" alt="AceMath ベンチマーク結果" width="800"> | |
| </p> | |
| 上の表で、AceMath を主要な独自モデルと公開モデルの数学モデルと比較している。AceMath-7B-Instruct は、さまざまな数学の推論ベンチマークで、従来の最良の Qwen2.5-Math-7B-Instruct を大きく上回る(平均 pass@1: 67.2 対 62.9)。一方で、10 倍の規模の Qwen2.5-Math-72B-Instruct の性能に近づいている(67.2 対 68.2)。特筆すべきは、AceMath-72B-Instruct が、最先端の Qwen2.5-Math-72B-Instruct(71.8 対 68.2)、GPT-4o(67.4)、Claude 3.5 Sonnet(65.6)を大きな差で上回ったことである。また、報酬モデル AceMath-72B-RM が達成した rm@8 の正解率(8 つのうち最良)も報告する。これは、これらの推論ベンチマークで新しい記録を打ち立てている。ただし、スケールされた推論計算に頼る OpenAI の o1 モデルは含めていない。 | |
| ## 使い方 | |
| ```python | |
| from datasets import load_dataset | |
| data_files = { | |
| "general_sft_stage1": "data/general_sft_stage1.parquet", | |
| "general_sft_stage2": "data/general_sft_stage2.parquet", | |
| "math_sft": "data/math_sft.parquet", | |
| } | |
| # load the datasets | |
| dataset = load_dataset( | |
| "nvidia/AceMath-Instruct-Training-Data", | |
| data_files=data_files, | |
| cache_dir="CACHE_DIR_TO_STORE_THE_DATASET" | |
| ) | |
| # print example | |
| print(dataset['math_sft'][0]) | |
| # example format | |
| """ | |
| { | |
| "messages": [ | |
| { | |
| "role": "user", | |
| "content": "...", | |
| } | |
| ], | |
| "answer": "..." | |
| } | |
| """ | |
| ``` | |
| ## すべてのリソース | |
| ### AceMath の指示調整モデル | |
| - [AceMath-1.5B-Instruct](https://huggingface.co/nvidia/AceMath-1.5B-Instruct), [AceMath-7B-Instruct](https://huggingface.co/nvidia/AceMath-7B-Instruct), [AceMath-72B-Instruct](https://huggingface.co/nvidia/AceMath-72B-Instruct) | |
| ### AceMath の報酬モデル | |
| - [AceMath-7B-RM](https://huggingface.co/nvidia/AceMath-7B-RM), [AceMath-72B-RM](https://huggingface.co/nvidia/AceMath-72B-RM) | |
| ### 評価と学習のデータ | |
| - [AceMath-RewardBench](https://huggingface.co/datasets/nvidia/AceMath-RewardBench), [AceMath-Instruct Training Data](https://huggingface.co/datasets/nvidia/AceMath-Instruct-Training-Data), [AceMath-RM Training Data](https://huggingface.co/datasets/nvidia/AceMath-RM-Training-Data) | |
| ### 汎用の指示調整モデル | |
| - [AceInstruct-1.5B](https://huggingface.co/nvidia/AceInstruct-1.5B), [AceInstruct-7B](https://huggingface.co/nvidia/AceInstruct-7B), [AceInstruct-72B](https://huggingface.co/nvidia/AceInstruct-72B) | |
| ## 連絡先 | |
| Zihan Liu (zihanl@nvidia.com), Yang Chen (yachen@nvidia.com), Wei Ping (wping@nvidia.com) | |
| ## 引用 | |
| 本研究が役に立った場合は、引用していただけるとありがたい。 | |
| <pre> | |
| @article{acemath2024, | |
| title={AceMath: Advancing Frontier Math Reasoning with Post-Training and Reward Modeling}, | |
| author={Liu, Zihan and Chen, Yang and Shoeybi, Mohammad and Catanzaro, Bryan and Ping, Wei}, | |
| journal={arXiv preprint}, | |
| year={2024} | |
| } | |
| </pre> | |
| ## ライセンス | |
| AceMath-Instruct の学習データセットは非商用利用に限られ、OpenAI が生成したデータの [利用規約](https://openai.com/policies/row-terms-of-use/) に従う。このデータセットは、[Creative Commons Attribution: Non-Commercial 4.0 International](https://spdx.org/licenses/CC-BY-NC-4.0) のライセンスの下で提供する。 | |
| <details> | |
| <summary>原文(英語)</summary> | |
| [website](https://research.nvidia.com/labs/adlr/acemath/) | [paper](https://arxiv.org/abs/2412.15084) | |
| ## AceMath-Instruct Training Data Card | |
| We release all the datasets to train AceMath-1.5B/7B/72B-Instruct models. These models are built upon the Qwen2.5-Math-Base models through a multi-stage supervised fine-tuning (SFT) process. The fine-tuning begins with general-purpose SFT data (general_sft_stage1.parquet and general_sft_stage2.parquet) and is followed by math-specific SFT data (math_sft.parquet). In our experiments, fine-tuning the Qwen2.5-Math-Base models using only the math-specific SFT data also delivers competitive math reasoning performance. | |
| AceMath-Instruct training datasets are <b>Built with Qwen</b> with math prompt outputs generated by Qwen2.5-Math-72B-Instruct. Outputs for other types of prompts are generated using GPT-4o-mini. | |
| Here are the data statistics: | |
| - general_sft_stage1: 2,261,687 samples (consisting of code & math SFT samples) | |
| - general_sft_stage2: 1,634,573 samples (consisting of code & math & general-domain SFT samples) | |
| - math_sft: 1,661,094 (only math SFT samples) | |
| ## Benchmark Results (AceMath-Instruct + AceMath-72B-RM) | |
| <p align="center"> | |
| <img src="./acemath-pic.png" alt="AceMath Benchmark Results" width="800"> | |
| </p> | |
| We compare AceMath to leading proprietary and open-access math models in above Table. Our AceMath-7B-Instruct, largely outperforms the previous best-in-class Qwen2.5-Math-7B-Instruct (Average pass@1: 67.2 vs. 62.9) on a variety of math reasoning benchmarks, while coming close to the performance of 10× larger Qwen2.5-Math-72B-Instruct (67.2 vs. 68.2). Notably, our AceMath-72B-Instruct outperforms the state-of-the-art Qwen2.5-Math-72B-Instruct (71.8 vs. 68.2), GPT-4o (67.4) and Claude 3.5 Sonnet (65.6) by a margin. We also report the rm@8 accuracy (best of 8) achieved by our reward model, AceMath-72B-RM, which sets a new record on these reasoning benchmarks. This excludes OpenAI’s o1 model, which relies on scaled inference computation. | |
| ## How to use | |
| ```python | |
| from datasets import load_dataset | |
| data_files = { | |
| "general_sft_stage1": "data/general_sft_stage1.parquet", | |
| "general_sft_stage2": "data/general_sft_stage2.parquet", | |
| "math_sft": "data/math_sft.parquet", | |
| } | |
| # load the datasets | |
| dataset = load_dataset( | |
| "nvidia/AceMath-Instruct-Training-Data", | |
| data_files=data_files, | |
| cache_dir="CACHE_DIR_TO_STORE_THE_DATASET" | |
| ) | |
| # print example | |
| print(dataset['math_sft'][0]) | |
| # example format | |
| """ | |
| { | |
| "messages": [ | |
| { | |
| "role": "user", | |
| "content": "...", | |
| } | |
| ], | |
| "answer": "..." | |
| } | |
| """ | |
| ``` | |
| ## All Resources | |
| ### AceMath Instruction Models | |
| - [AceMath-1.5B-Instruct](https://huggingface.co/nvidia/AceMath-1.5B-Instruct), [AceMath-7B-Instruct](https://huggingface.co/nvidia/AceMath-7B-Instruct), [AceMath-72B-Instruct](https://huggingface.co/nvidia/AceMath-72B-Instruct) | |
| ### AceMath Reward Models | |
| - [AceMath-7B-RM](https://huggingface.co/nvidia/AceMath-7B-RM), [AceMath-72B-RM](https://huggingface.co/nvidia/AceMath-72B-RM) | |
| ### Evaluation & Training Data | |
| - [AceMath-RewardBench](https://huggingface.co/datasets/nvidia/AceMath-RewardBench), [AceMath-Instruct Training Data](https://huggingface.co/datasets/nvidia/AceMath-Instruct-Training-Data), [AceMath-RM Training Data](https://huggingface.co/datasets/nvidia/AceMath-RM-Training-Data) | |
| ### General Instruction Models | |
| - [AceInstruct-1.5B](https://huggingface.co/nvidia/AceInstruct-1.5B), [AceInstruct-7B](https://huggingface.co/nvidia/AceInstruct-7B), [AceInstruct-72B](https://huggingface.co/nvidia/AceInstruct-72B) | |
| ## Correspondence to | |
| Zihan Liu (zihanl@nvidia.com), Yang Chen (yachen@nvidia.com), Wei Ping (wping@nvidia.com) | |
| ## Citation | |
| If you find our work helpful, we’d appreciate it if you could cite us. | |
| <pre> | |
| @article{acemath2024, | |
| title={AceMath: Advancing Frontier Math Reasoning with Post-Training and Reward Modeling}, | |
| author={Liu, Zihan and Chen, Yang and Shoeybi, Mohammad and Catanzaro, Bryan and Ping, Wei}, | |
| journal={arXiv preprint}, | |
| year={2024} | |
| } | |
| </pre> | |
| ## License | |
| AceMath-Instruct training dataets are for non-commercial use only, subject to [Terms of Use](https://openai.com/policies/row-terms-of-use/) of the data generated by OpenAI. We put this dataset under the license of [Creative Commons Attribution: Non-Commercial 4.0 International](https://spdx.org/licenses/CC-BY-NC-4.0). | |
| </details> | |