Datasets:
current_file stringclasses 5
values | processed_rows int64 7.63k 18.2M | file_index int64 26 281 |
|---|---|---|
code_5b/0002.jsonl.gz | 1,000,000 | 73 |
en_wiki/0000.jsonl.gz | 6,681,920 | 46 |
null | 13,319,414 | 281 |
null | 18,208,000 | 168 |
ja_kaken/0004.jsonl.gz | 83,855 | 26 |
ja_patent/0009.jsonl.gz | 7,625 | 34 |
ja_wiki/0005.jsonl.gz | 76,404 | 27 |
利用者の皆様がシャッフル・結合を行う際のために、本リポジトリ内の各フォルダ名と、対応する元のデータセットの内訳を以下にまとめます。
| フォルダ名 (Folder Name) | 対応する元のデータセット (Original Dataset) | ドメイン |
|---|---|---|
code_5b_tokens |
llm-jp-corpus-v4 (code_olmo-starcoder) | コード |
en_wiki_tokens |
llm-jp-corpus-v4 (en_wiki) | 百科事典（英語） |
fineweb_japanese |
Fineweb-edu-japanese | 一般Web（日本語） |
fineweb-en |
Fineweb-edu | 一般Web（英語） |
ja_kaken_tokens |
llm-jp-corpus-v4 (ja_kaken) | 学術・論文（日本語） |
ja_patent_tokens |
llm-jp-corpus-v4 (ja_patent) | 特許（日本語） |
ja_wiki_tokens |
llm-jp-corpus-v4 (ja_wiki) | 百科事典（日本語） |
AIkenGPT Pre-tokenized Dataset
本リポジトリは、2.5Bパラメータの言語モデルをゼロから構築するための事前学習用データセット（トークン化済みの中間データ）です。 各テキストデータはGPT-2形式でトークナイズされており、利用者はこれらをダウンロードしてシャッフル・結合処理を行うことで、データ準備における膨大な前処理を省略し、即座に事前学習を開始できます。
利用データセットの権利表記およびライセンス
本データの構築にあたり、以下のオープンデータセットを利用し、トークナイズの改変を行って再配布しています。元データの著作者および提供元の皆様に深く感謝いたします。
- Fineweb-edu / Fineweb-edu-japanese
- 提供元: HuggingFaceFW, hotchpotch
- ライセンス: ODC-BY 1.0
- llm-jp-corpus-v4 (en_wiki, ja_wiki, ja_kaken, ja_patent, code_olmo-starcoder)
- 提供元: LLM-jp (Japan LLM Consortium)
- ライセンス: 各サブセットに準拠（CC BY-SA 3.0, CC BY 4.0, ODC-BY 1.0）
- ※CC BY-SA 3.0の継承（ShareAlike）条項に従い、Wikipedia由来の改変データは同ライセンス下で提供されます。
- Downloads last month
- 912