Dataset Viewer
Auto-converted to Parquet Duplicate
The dataset viewer is not available for this split.
Parquet error: Scan size limit exceeded: attempted to read 337884799 bytes, limit is 300000000 bytes Make sure that 1. the Parquet files contain a page index to enable random access without loading entire row groups2. otherwise use smaller row-group sizes when serializing the Parquet files
Error code:   TooBigContentError

Need help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.

PrimeIntellect/SYNTHETIC-2(複製)

データの内容

数学・コード・一般の推論の問題に、複数のモデルが答えた推論の軌跡を付けたデータ。1 行が 1 問で、prompt に問題、verification_info に検証の情報、モデルごとの *_responses(応答の列)と *_avg_reward(平均の報酬)が並ぶ。DeepSeek-R1-0528 の応答は SFT に向き、Qwen3-32B などの小さなモデルの応答は難易度の推定に向けて集められており、列によっては null の行がある。

データの概要

項目 値
行数 約 51,602(1 構成・1 分割の合計)
列数 11
容量 24.47 GB(ファイル 68 本)
ファイルの形式 parquet 66
公開 public

構成と分割

構成(config) 分割(split)ごとの行数 列数
default train 約 51,602 11

列(構成 default・分割 train)

列 型 先頭の行の値
problem_id string prime_rl_code_1
prompt string "One tradition of ACM-ICPC contests is that a te…
verification_info string "{\"test_cases\": \"{\\\"inputs\\\": [\\\"8\\\\n…
Qwen/Qwen3-32B_responses list<string> null
Qwen/Qwen3-4B_responses list<string> null
deepseek-ai/DeepSeek-R1-0528-Qwen3-8B_responses list<string> ["<think>\n Okay, we are given n teams, each wit…
Qwen/Qwen3-32B_avg_reward float64 null
Qwen/Qwen3-4B_avg_reward float64 null
deepseek-ai/DeepSeek-R1-0528-Qwen3-8B_avg_reward float64 0.5
deepseek-ai/DeepSeek-R1-0528_responses list<string> null
deepseek-ai/DeepSeek-R1-0528_avg_reward float64 null

行数と列は HF のデータセットビューアの集計(元のデータセットの現在の版で数えたもの)。全データセットの一覧は HYUKI5/dataset-catalog にある。

複製について

PrimeIntellect/SYNTHETIC-2 をリビジョン ce08df53d3da888aeb6cb4b8354f370576339949 の時点でそのまま複製したもの。中身は変えていない。判断モデル Laya(convaiinnovations/laya)の微調整に使う候補として、調査メモ(Laya 学習用データセット調査)に載せたデータを集めている。

出典

論文

  • 元のカードに論文へのリンクは見つからなかった

アノテーションの方法

(元のカードに該当の見出しが無いので、ラベルの付け方に触れた段落を抜き出した)

SYNTHETIC-2 は、数学、コーディング、一般的な推論のさまざまなタスクにまたがるオープンな推論データセットであり、共同で生成された推論の軌跡を含む。このデータセットには、SFT に理想的な、Deepseek-R1-0528 による高品質の推論の軌跡と、難易度の推定に使える小さなモデルによる複数の推論の軌跡の両方が含まれる。

  • SYNTHETIC-2: すべてのプロンプトと応答を報酬とともに含む、SYNTHETIC-2 の全体
  • SYNTHETIC-2-SFT-verified: SYNTHETIC-2 の SFT split のうち、Deepseek-R1-0528 の応答が正解と検証されたもの(二値の報酬は 1、非二値の報酬は 0.7 を超えるもの)
  • SYNTHETIC-2-SFT-unverified: SYNTHETIC-2 の SFT split のうち、正解と検証されていないものを含むすべての応答
  • SYNTHETIC-2-RL: SYNTHETIC-2 の RL 用の部分集合。Qwen3-32B、Qwen3-4B、DeepSeek-R1-0528-Qwen3-8B による難易度のアノテーションが付いている

微調整に使うときの注意

  • 調査メモの台帳での区分: B(継承条件・gated・モデル由来の条件・上流の規約などが付く)。区分は記載の文言で機械的に付けたもので、法的な判定ではない。学習に入れる前に元のカードとライセンスの原文で確かめる。
  • Laya の入力は 2,048 token まで(ModernBERT-large / mmBERT)。長い本文は先頭から黙って切られるので、切れる行は事前に除くか、要約・切り出しをしてから入れる。
  • 分割は記事・文書単位で行い、同じ本文から作った別の問いを学習側と較正側に分けない。温度と閾値は学習に使っていない分割で別々に当てる。

調査メモの記述

メモ 節 ライセンス(記載) 確認 注記
open_weight_reasoning_logs.md Q2. 同じ問題への複数サンプル・正誤の検証列・pass rate を持つ推論ログは何があるか (L54) apache-2.0(本体)。-RL・-SFT-verified は HF の license 欄が空 確認済 上流/条件注記 / 原文注記: 先頭行は prime_rl_code_1(コード)で、問題の種類は数学・コード・一般推論とカードにあるが、種類別の件数は未取得。avg_reward の分母(ロールアウト数)は未確認。一部の教師の列は null(先頭行で

元のカード(日本語訳)

以下は元のデータセットのカードの本文を日本語に訳したもの(機械翻訳)。訳に疑問があるときは、末尾の原文を確かめる。


SYNTHETIC-2

SYNTHETIC-2 は、数学、コーディング、一般的な推論のさまざまなタスクにまたがるオープンな推論データセットであり、共同で生成された推論の軌跡を含む。このデータセットには、SFT に理想的な、Deepseek-R1-0528 による高品質の推論の軌跡と、難易度の推定に使える小さなモデルによる複数の推論の軌跡の両方が含まれる。

データの収集方法の詳細は、ブログ記事 を参照。

image/png

Hugging Face で次の最終的なデータセットの split を公開している:

  • SYNTHETIC-2: すべてのプロンプトと応答を報酬とともに含む、SYNTHETIC-2 の全体
  • SYNTHETIC-2-SFT-verified: SYNTHETIC-2 の SFT split のうち、Deepseek-R1-0528 の応答が正解と検証されたもの(二値の報酬は 1、非二値の報酬は 0.7 を超えるもの)
  • SYNTHETIC-2-SFT-unverified: SYNTHETIC-2 の SFT split のうち、正解と検証されていないものを含むすべての応答
  • SYNTHETIC-2-RL: SYNTHETIC-2 の RL 用の部分集合。Qwen3-32B、Qwen3-4B、DeepSeek-R1-0528-Qwen3-8B による難易度のアノテーションが付いている
原文(英語)

SYNTHETIC-2

SYNTHETIC-2 is an open reasoning dataset spanning a variety of math, coding and general reasoning tasks along with reasoning traces generated in a collaborative manner. The dataset contains both high quality reasoning traces from Deepseek-R1-0528 ideally suited for SFT, as well as multiple reasoning traces from smaller models which can be used for difficulty estimation.

To read more about our data collection approach, check out our blog post.

image/png

We release the following final dataset splits on Huggingface:

  • SYNTHETIC-2: The full SYNTHETIC-2 dataset consisting of all prompts and completions along with rewards
  • SYNTHETIC-2-SFT-verified: The SFT split of SYNTHETIC-2 with responses from Deepseek-R1-0528 verified as correct (rewards of 1 for binary rewards and over 0.7 for non-binary rewards)
  • SYNTHETIC-2-SFT-unverified: The SFT split of SYNTHETIC-2 with all responses, including those not verified as correct
  • SYNTHETIC-2-RL: The RL subset of SYNTHETIC-2 with difficulty annotations from Qwen3-32B, Qwen3-4B and DeepSeek-R1-0528-Qwen3-8B
Downloads last month
44