Datasets:

raj2708
/

wikipedia-ja

id string	source string	type string	language string	text string	metadata dict
e079089a-b601-4957-915d-73bcbd39d04c	wikipedia_ja	text	ja	thumb\|100px\|Trebuchet MS フォントアンパサンド（&, ）は、並立助詞「…と…」を意味する記号である。ラテン語で「…と…」を表す接続詞 "et" の合字を起源とする。現代のフォントでも、Trebuchet MS など一部のフォントでは、"et" の合字であることが容易にわかる字形を使用している。語源英語で教育を行う学校でアルファベットを復唱する場合、その文字自体が単語となる文字（"A", "I", かつては "O" も）については、伝統的にラテン語の per se（それ自体）を用いて "A per se A" のように唱えられていた。また、アルファベットの最後に、27番目の文字のように "&" を...	{ "url": "https://ja.wikipedia.org/wiki/アンパサンド", "title": "アンパサンド", "license": "CC-BY-SA-4.0", "scraped_at": "2026-05-29T09:57:47.449159+00:00", "quality_score": 0.9439, "token_count": 324, "word_count": 243 }
d6847603-c654-43b6-9321-075c91f6e0a1	wikipedia_ja	text	ja	thumb\|メキシコ、テオティワカンの壁画（2世紀頃）。口からスピーチを象徴するを発する人物が描かれている。は、狭義には「声による記号の体系」を指す。広義にはverbalな（言葉に表す）ものとnon-verbalな（言葉として表されない）もの（各種記号、アイコン、図形、ボディーランゲージ等）の両方が含まれる。日常のコミュニケーションでは、狭義の言語表現に身振り、手振り、図示、擬音等も加えて表現されることも多い。概説言語は人間が用いる情報伝達手段である（⇒ #定義）。言語は社会集団内で形成習得され、意志の相互伝達や抽象的な思考を可能にし、結果として人間の社会的活動や文化的活動を支えているブリタニカ百科事典「言語」...	{ "url": "https://ja.wikipedia.org/wiki/言語", "title": "言語", "license": "CC-BY-SA-4.0", "scraped_at": "2026-05-29T09:57:47.449159+00:00", "quality_score": 0.9858, "token_count": 357, "word_count": 268 }
d6441b92-fbe0-4856-8b88-b7a3cbbc5cbf	wikipedia_ja	text	ja	"日本語（にほんご、にっぽんご）は、日本国内や、かつての日本領だった(...TRUNCATED)	{"url":"https://ja.wikipedia.org/wiki/日本語","title":"日本語","license":"CC-BY-SA-4.0","scrap(...TRUNCATED)
2714c442-54bf-404c-99b3-d8d9576ef9d0	wikipedia_ja	text	ja	"は、地球表面の自然・人文事象の状態と、それらの相互関係を研究する学(...TRUNCATED)	{"url":"https://ja.wikipedia.org/wiki/地理学","title":"地理学","license":"CC-BY-SA-4.0","scrap(...TRUNCATED)
eed2eb0d-5662-4b84-a390-90a3ea44a776	wikipedia_ja	text	ja	"EU\n\n EU \n 地理\n 欧州連合の英語やドイツ語などの略語\n ユローパ島 () の (...TRUNCATED)	{"url":"https://ja.wikipedia.org/wiki/EU_(曖昧さ回避)","title":"EU (曖昧さ回避)","license"(...TRUNCATED)
11040d77-4aa4-4152-a249-ba596b0ef447	wikipedia_ja	text	ja	"国の一覧（くにのいちらん）は、世界の独立国の一覧。\n\n 対象 \n\n国際(...TRUNCATED)	{"url":"https://ja.wikipedia.org/wiki/国の一覧","title":"国の一覧","license":"CC-BY-SA-4.0",(...TRUNCATED)
71bda336-d78d-470c-9bc0-2c3f2a57c870	wikipedia_ja	text	ja	"パリ市（パリし、）、通称パリ（、巴里）は、フランスの首都。イル＝ド(...TRUNCATED)	{"url":"https://ja.wikipedia.org/wiki/パリ","title":"パリ","license":"CC-BY-SA-4.0","scraped_at"(...TRUNCATED)
1ab4df7a-bb01-4c92-a839-b528402857a8	wikipedia_ja	text	ja	"ヨーロッパ（欧羅巴、ポルトガル語・、）は六大州の一つ。漢字表記の(...TRUNCATED)	{"url":"https://ja.wikipedia.org/wiki/ヨーロッパ","title":"ヨーロッパ","license":"CC-BY-SA(...TRUNCATED)
f43c74c0-3000-4de0-89e5-1938e8f98257	wikipedia_ja	text	ja	"は、生命を持つものであり、より具体的には「エネルギー転換を行い、自(...TRUNCATED)	{"url":"https://ja.wikipedia.org/wiki/生物","title":"生物","license":"CC-BY-SA-4.0","scraped_at"(...TRUNCATED)
8491a78f-d37d-4d86-b203-f0146d7cfcfc	wikipedia_ja	text	ja	"コケ植物（コケしょくぶつ、）とは、維管束を持たず、胞子散布を行う、(...TRUNCATED)	{"url":"https://ja.wikipedia.org/wiki/コケ植物","title":"コケ植物","license":"CC-BY-SA-4.0",(...TRUNCATED)

End of preview. Expand in Data Studio

Wikipedia Japanese — Preprocessed

A clean, preprocessed version of the Japanese Wikipedia dump, ready for LLM pretraining.

Stats

Field	Value
Language	Japanese (ja)
Total size	9.3 GB
License	CC-BY-SA 4.0
Source	ja.wikipedia.org
Dump date	May 2026

Processing Steps

Downloaded full Japanese Wikipedia XML BZ2 dump
Parsed articles using mwparserfromhell — wikitext → plain text
Filtered redirects and short articles
Cleaned — removed templates, file/image links, excessive whitespace
Quality scored based on punctuation ratio

Format

{
  "id": "uuid-v4",
  "source": "wikipedia_ja",
  "type": "text",
  "language": "ja",
  "text": "Article text...",
  "metadata": {
    "url": "https://ja.wikipedia.org/wiki/Title",
    "title": "Article Title",
    "license": "CC-BY-SA-4.0",
    "scraped_at": "2026-05-29T00:00:00+00:00",
    "quality_score": 0.95,
    "token_count": 512,
    "word_count": 384
  }
}

Usage

from datasets import load_dataset

ds = load_dataset("raj2708/wikipedia-ja", split="train", streaming=True)
for row in ds:
    print(row["metadata"]["title"])
    print(row["text"][:300])
    break

Downloads last month: 243

Number of rows:

562,456

Estimated number of rows:

682,397

Total file size:

9.29 GB