ranunculus-pt

ranunculus-ptは、Ranunculus-v1-1B-PTの事前学習に使った、英語と日本語のWikipediaの記事です。学習に使っていない validation の記事も含みます。

データセットの詳細

項目	値
言語	英語・日本語
元データ	wikimedia/wikipedia（2023-11-01 のダンプ。20231101.en・20231101.ja）
形式	parquet（記事単位のテキスト）

件数

言語	train	validation
英語	6,357,814	50,000
日本語	1,375,572	13,895

列

列	内容
id	記事の ID（wikimedia/wikipedia と同じ）
url	記事の URL
title	記事のタイトル
text	記事の本文

作り方

1. wikimedia/wikipedia の 20231101.en と 20231101.ja を読み込みました。
2. 言語ごとに、記事を shuffle(seed=42) で並べ替えました。
3. train_test_split(test_size=min(0.01, 10,000,000 / (記事数 × 200)), seed=42) で validation を分けました。

記事の除去や本文の書き換えはしていません。

使い方

from datasets import load_dataset

ds = load_dataset("yasutoshi-lab/ranunculus-pt", "ja", split="train")  # 英語は "en"

制約とリスク

• 2023-11-01 時点の記事です。その後の更新や削除は反映されていません。
• 存命の人物の記事など、個人に関する記述を含みます。
• Wikipedia の記事の話題・地域・視点のバイアスを、そのまま引き継いでいます。

ライセンス

CC BY-SA 3.0 および GFDL（元データの wikimedia/wikipedia のライセンスを引き継いでいます。元データのカードのとおり、一部の文章は Creative Commons のライセンスだけで提供されています）

利用や再配布の際は、各記事の著作者への帰属を表示してください（url 列に元記事の URL があります）。なお、Wikipedia の現在の利用規約では、テキストは CC BY-SA 4.0 および GFDL で提供されています。最新の条件は Wikimedia 財団の利用規約を参照してください。

引用

@misc{ranunculus_pt,
  title  = {ranunculus-pt},
  author = {yasutoshi-lab},
  year   = {2026},
  url    = {https://huggingface.co/datasets/yasutoshi-lab/ranunculus-pt}
}