Dataset Viewer
Auto-converted to Parquet Duplicate
The dataset viewer is not available for this split.
Parquet error: Scan size limit exceeded: attempted to read 1039015381 bytes, limit is 300000000 bytes Make sure that 1. the Parquet files contain a page index to enable random access without loading entire row groups2. otherwise use smaller row-group sizes when serializing the Parquet files
Error code:   TooBigContentError

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

nvidia/AceMath-Instruct-Training-Data(複製)

データの内容

AceMath-Instruct モデルの学習に使った、数学・コード・一般領域の指示チューニング用のデータ。1 行が 1 件の会話で、発話の並び messages と正解 answer を持ち、汎用の SFT 2 段階(general_sft_stage1・stage2)と数学の SFT(math_sft)の 3 つに分かれる。数学のプロンプトへの応答は Qwen2.5-Math-72B-Instruct、それ以外は GPT-4o-mini で生成した。

データの概要

項目 値
行数 5,557,354(1 構成・3 分割の合計)
列数 2
容量 5.86 GB(ファイル 6 本)
ファイルの形式 parquet 3、png 1
言語 en
公開 public

構成と分割

構成(config) 分割(split)ごとの行数 列数
default general_sft_stage1 2,261,687、general_sft_stage2 1,634,573、math_sft 1,661,094 2

列(構成 default・分割 general_sft_stage1)

列 型 先頭の行の値
messages list<struct{role: string, content: string}> [1 件]
answer string To determine the area of triangle \( DAB \) give…

行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

nvidia/AceMath-Instruct-Training-Data をリビジョン 24e49e73a3ab3aa373e904516838c32a972ba75e の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。

出典

論文

アノテーションの方法

(元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した)

AceMath-Instruct の学習データセットは Built with Qwen である。数学のプロンプトの出力は Qwen2.5-Math-72B-Instruct で生成した。それ以外の種類のプロンプトの出力は GPT-4o-mini で生成した。

ライセンス AceMath-Instruct の学習データセットは非商用利用に限られ、OpenAI が生成したデータの 利用規約 に従う。このデータセットは、Creative Commons Attribution: Non-Commercial 4.0 International のライセンスの下で提供する。

微調整に使うときの注意

  • 調査メモの台帳での区分: C(NC・ND・研究専用・評価専用など、商用の利用を妨げうる記載がある)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス(記載) 確認 注記
nvidia_nemotron.md 付録. 取得した nvidia 組織のデータセット全件の簡易一覧 (L387) cc-by-nc-4.0 確認済 確認印なし(各ファイルの凡例により確認済扱い) / 原文注記: × 数学・コード・科学・計測

元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。


ウェブサイト | 論文

AceMath-Instruct 学習データのカード

AceMath-1.5B/7B/72B-Instruct モデルを学習させるためのデータセットをすべて公開する。これらのモデルは、多段階の教師あり微調整(SFT)の過程を経て、Qwen2.5-Math-Base モデルを基に作られている。微調整は汎用の SFT データ(general_sft_stage1.parquet と general_sft_stage2.parquet)から始まり、数学に特化した SFT データ(math_sft.parquet)が続く。私たちの実験では、数学に特化した SFT データだけで Qwen2.5-Math-Base モデルを微調整しても、競争力のある数学の推論性能が得られた。

AceMath-Instruct の学習データセットは Built with Qwen である。数学のプロンプトの出力は Qwen2.5-Math-72B-Instruct で生成した。それ以外の種類のプロンプトの出力は GPT-4o-mini で生成した。

データの統計は次のとおり:

  • general_sft_stage1: 2,261,687 件のサンプル(コードと数学の SFT サンプルからなる)
  • general_sft_stage2: 1,634,573 件のサンプル(コードと数学と一般領域の SFT サンプルからなる)
  • math_sft: 1,661,094 件(数学の SFT サンプルのみ)

ベンチマーク結果(AceMath-Instruct + AceMath-72B-RM)

AceMath ベンチマーク結果

上の表で、AceMath を主要な独自モデルと公開モデルの数学モデルと比較している。AceMath-7B-Instruct は、さまざまな数学の推論ベンチマークで、従来の最良の Qwen2.5-Math-7B-Instruct を大きく上回る(平均 pass@1: 67.2 対 62.9)。一方で、10 倍の規模の Qwen2.5-Math-72B-Instruct の性能に近づいている(67.2 対 68.2)。特筆すべきは、AceMath-72B-Instruct が、最先端の Qwen2.5-Math-72B-Instruct(71.8 対 68.2)、GPT-4o(67.4)、Claude 3.5 Sonnet(65.6)を大きな差で上回ったことである。また、報酬モデル AceMath-72B-RM が達成した rm@8 の正解率(8 つのうち最良)も報告する。これは、これらの推論ベンチマークで新しい記録を打ち立てている。ただし、スケールされた推論計算に頼る OpenAI の o1 モデルは含めていない。

使い方

from datasets import load_dataset

data_files = {
    "general_sft_stage1": "data/general_sft_stage1.parquet",
    "general_sft_stage2": "data/general_sft_stage2.parquet",
    "math_sft": "data/math_sft.parquet",
}

# load the datasets
dataset = load_dataset(
    "nvidia/AceMath-Instruct-Training-Data",
    data_files=data_files,
    cache_dir="CACHE_DIR_TO_STORE_THE_DATASET"
)

# print example
print(dataset['math_sft'][0])

# example format
"""
{
    "messages": [
        {
            "role": "user",
            "content": "...",
        }
    ],
    "answer": "..."
}
"""

すべてのリソース

AceMath の指示調整モデル

AceMath の報酬モデル

評価と学習のデータ

汎用の指示調整モデル

連絡先

Zihan Liu (zihanl@nvidia.com), Yang Chen (yachen@nvidia.com), Wei Ping (wping@nvidia.com)

引用

本研究が役に立った場合は、引用していただけるとありがたい。

@article{acemath2024,
  title={AceMath: Advancing Frontier Math Reasoning with Post-Training and Reward Modeling},
  author={Liu, Zihan and Chen, Yang and Shoeybi, Mohammad and Catanzaro, Bryan and Ping, Wei},
  journal={arXiv preprint},
  year={2024}
}

ライセンス

AceMath-Instruct の学習データセットは非商用利用に限られ、OpenAI が生成したデータの 利用規約 に従う。このデータセットは、Creative Commons Attribution: Non-Commercial 4.0 International のライセンスの下で提供する。

原文(英語)

website | paper

AceMath-Instruct Training Data Card

We release all the datasets to train AceMath-1.5B/7B/72B-Instruct models. These models are built upon the Qwen2.5-Math-Base models through a multi-stage supervised fine-tuning (SFT) process. The fine-tuning begins with general-purpose SFT data (general_sft_stage1.parquet and general_sft_stage2.parquet) and is followed by math-specific SFT data (math_sft.parquet). In our experiments, fine-tuning the Qwen2.5-Math-Base models using only the math-specific SFT data also delivers competitive math reasoning performance.

AceMath-Instruct training datasets are Built with Qwen with math prompt outputs generated by Qwen2.5-Math-72B-Instruct. Outputs for other types of prompts are generated using GPT-4o-mini.

Here are the data statistics:

  • general_sft_stage1: 2,261,687 samples (consisting of code & math SFT samples)
  • general_sft_stage2: 1,634,573 samples (consisting of code & math & general-domain SFT samples)
  • math_sft: 1,661,094 (only math SFT samples)

Benchmark Results (AceMath-Instruct + AceMath-72B-RM)

AceMath Benchmark Results

We compare AceMath to leading proprietary and open-access math models in above Table. Our AceMath-7B-Instruct, largely outperforms the previous best-in-class Qwen2.5-Math-7B-Instruct (Average pass@1: 67.2 vs. 62.9) on a variety of math reasoning benchmarks, while coming close to the performance of 10× larger Qwen2.5-Math-72B-Instruct (67.2 vs. 68.2). Notably, our AceMath-72B-Instruct outperforms the state-of-the-art Qwen2.5-Math-72B-Instruct (71.8 vs. 68.2), GPT-4o (67.4) and Claude 3.5 Sonnet (65.6) by a margin. We also report the rm@8 accuracy (best of 8) achieved by our reward model, AceMath-72B-RM, which sets a new record on these reasoning benchmarks. This excludes OpenAI’s o1 model, which relies on scaled inference computation.

How to use

from datasets import load_dataset

data_files = {
    "general_sft_stage1": "data/general_sft_stage1.parquet",
    "general_sft_stage2": "data/general_sft_stage2.parquet",
    "math_sft": "data/math_sft.parquet",
}

# load the datasets
dataset = load_dataset(
    "nvidia/AceMath-Instruct-Training-Data",
    data_files=data_files,
    cache_dir="CACHE_DIR_TO_STORE_THE_DATASET"
)

# print example
print(dataset['math_sft'][0])

# example format
"""
{
    "messages": [
        {
            "role": "user",
            "content": "...",
        }
    ],
    "answer": "..."
}
"""

All Resources

AceMath Instruction Models

AceMath Reward Models

Evaluation & Training Data

General Instruction Models

Correspondence to

Zihan Liu (zihanl@nvidia.com), Yang Chen (yachen@nvidia.com), Wei Ping (wping@nvidia.com)

Citation

If you find our work helpful, we’d appreciate it if you could cite us.

@article{acemath2024,
  title={AceMath: Advancing Frontier Math Reasoning with Post-Training and Reward Modeling},
  author={Liu, Zihan and Chen, Yang and Shoeybi, Mohammad and Catanzaro, Bryan and Ping, Wei},
  journal={arXiv preprint},
  year={2024}
}

License

AceMath-Instruct training dataets are for non-commercial use only, subject to Terms of Use of the data generated by OpenAI. We put this dataset under the license of Creative Commons Attribution: Non-Commercial 4.0 International.

Downloads last month
81

Paper for HYUKI5/nvidia__AceMath-Instruct-Training-Data