J-TTS-Eval20K: Japanese Multi-Domain Corpus for TTS/ASR Evaluation & Duration Modeling

---

📊 データセット統計

項目	統計値
総文数 (Total Sentences)	20,070 件
カテゴリ数 (Categories)	134 種類
収録ドメイン群 (Major Domains)	8大ドメイン
総文字数 (Text Characters)	649,388 文字 (平均 32.4文字 / 文)
総発音文字数 (Pronunciation Chars)	882,306 文字 (平均 44.0文字 / 文)
文長レンジ (Length Range)	最小 2 文字 〜 最大 133 文字 (IQR: 21 〜 42文字)
欠損値・NULL (Missing Values)	0 件 (100% 完全性)
ID 重複 (ID Duplication)	0 件 (全件ユニーク)

分割内訳 (Split Distribution)

Split	件数	割合	説明
train	16,056	80.0%	音声合成モデル・時間予測モデル・GRPO学習用
validation	2,007	10.0%	チェックポイント選定・ハイパーパラメータ調整用
test	2,007	10.0%	最終評価・公開ベンチマーク用
sample_100	100	-	CI/CD・高速動作確認用軽量サブセット (Testより層化抽出)
dataset_full	20,070	100.0%	全量アーカイブ

---

🌳 収録カテゴリの体系的ツリー (134カテゴリ / 8大ドメイン)

本コーパスは、日常的な会話から極限の難読語、専門的な学術・法令文書まで、音声合成・認識が直面するあらゆる課題を網羅しています。

J-TTS-Eval20K (20,070件 / 134カテゴリ)
│
├── 1. 法令・公用文 (Law & Governance) [1,181件]
│   ├── LAW_CONSTITUTION (憲法)
│   ├── LAW_CIVIL (民法)
│   ├── LAW_PENAL (刑法)
│   ├── LAW_COMMERCIAL (商法)
│   ├── LAW_JUDICIAL (裁判・手続法)
│   └── 法律・行政用語 / 公式発表 / 社内通知
│
├── 2. 教科書・学術・専門 (Education & Academia) [4,212件]
│   ├── 教科書12科目: 日本史 (EDU_JAPAN_HIST), 世界史 (EDU_WORLD_HIST), 地理 (EDU_GEOGRAPHY),
│   │                 公民 (EDU_CIVICS), 情報 (EDU_INFORMATICS), 地学 (EDU_GEOLOGY),
│   │                 生物 (EDU_BIOLOGY), 化学 (EDU_CHEMISTRY), 物理 (EDU_PHYSICS),
│   │                 数学 (EDU_MATH), 古典 (EDU_CLASSICAL_JP), 漢文 (EDU_KANBUN)
│   └── 学術・論文: PAPER_ACADEMIC (学術論文), PHILOSOPHY (哲学思想), MANUAL_TECH (技術仕様),
│                   FINANCE_ECON (経済金融), 科学解説, 歴史解説, 教育・学術用語
│
├── 3. AIエージェント・対話・通知 (AI Agent & Dialog) [3,648件]
│   ├── AGENT_ASSISTANT (AI対話エージェント・音声案内)
│   ├── GENERAL_CONV / PRACTICAL_TALK (実用日常対話)
│   ├── CHAT / DAILY / DAILY_CASUAL (口語チャット・カジュアル対話)
│   └── 短文・状態通知: SHORT_REACTION (リアクション), AI応答, TECH_SUPPORT,
│                       システム通知, 案内, エラー報告, 謝罪
│
├── 4. 四字熟語・ことわざ・古典文学 (Proverbs & Classics) [1,503件]
│   ├── YOJI_PROVERB (四字熟語)
│   ├── PROVERB / 慣用句・ことわざ
│   ├── LIT_CLASSIC (古典名作) / 古典・漢文調 / 歴史・古典用語
│   └── 文学朗読: 文学・小説用語, 文学朗読, 朗読, 児童文学, ドキュメンタリー, 紀行文
│
├── 5. SNS・実況・現代口語 (Social Media & Streams) [2,130件]
│   ├── SNS_POST (短文投稿・ネットスラング・ハッシュタグ混じり)
│   ├── GAME_STREAM / STREAM_COMMENT / ライブ配信 (ゲーム実況・生放送コメント)
│   └── キャラクター台詞: キャラクター, CHARA, 感情表現
│
├── 6. 報道・ビジネス・アナウンス (News, Business & Public) [874件]
│   ├── 報道ニュース: ニュース, ニュース・社会, ニュース・ビジネス
│   ├── ビジネス・敬語: BIZ_FORMAL, 敬語・ビジネス, ビジネス敬語, ビジネス敬語難読
│   └── 公共アナウンス: NAV_ANNOUNCE (交通ナビ), 施設アナウンス, アナウンス, 挨拶・礼儀
│
├── 7. 難読漢字・音素ストレステスト (Phonetics & Orthography) [5,230件]
│   ├── 固有名詞難読: 難読人名, 難読地名, 難読地名駅名, 難読作品名店名企業名, 施設・建物・住所
│   ├── 同音異義語・文脈読み: HOMO, 同音異義語・名詞, 同音異義語・動詞形容詞,
│   │                         文脈読み（人数数量、動詞地名、時間日付、文脈読み変わり）
│   ├── 難度最高峰漢字: 難読漢字, 難読漢字・熟語, 難読漢字・日常, KANJI_DIFF, 難読・その他分野横断
│   ├── 特殊音素・発音変化: 長音・促音・拗音, 鼻濁音・無声化・連濁, 方言, 早口言葉 (TONGUE), LONG_STRESS
│   ├── 助数詞・数字・記号: 数字・助数詞の難読, 日付時刻年齢の読み, NUM_SYMBOL, 外来語・記号数字
│   └── 分野別専門用語難読: 医学・医療用語, 科学・技術用語, IT・コンピュータ用語,
│                           金融・経済用語, 料理・食品用語, 自然・動植物用語, 防災・災害用語,
│                           植物・花難読, 動物・生物難読, 音楽用語, スポーツ用語, 宗教・儀式用語
│
└── 8. その他・実用日常 (Other / General Scenarios) [1,292件]
    ├── COOKING_RECIPE (料理レシピ)
    ├── WEATHER / 天気・季節 / 気象・季節難読
    ├── TRAVEL (旅行・観光) / SHOP (店舗・買い物)
    └── 物語・描写 / 説明文

---

📋 カラム定義 (Schema & Design Intent)

各レコードは以下の8つのフィールドで構成されています。

カラム名	型	設計意図・用途	記述例
id	string	各サンプルを一意に識別するキー。サブセットや分野ごとのプレフィックスを保持。	EXT_DAILY_0001
category	string	134種類の詳細カテゴリ名。ドメイン別の評価や層化サンプリングのキー。	日常会話
text	string	実際のTTS/ASR運用の入力となる漢字仮名交じり表記。句読点や数字・アルファベットを含む。	今日は朝から雨が降っているね。
ruby_text	string	漢字ごとに丸括弧で読みを付与したルビ付き表記。形態素解析やG2Pのグラウンドトゥルース。	今日(きょう)は朝(あさ)から雨(あめ)が降(ふ)っているね。
hiragana	string	全文ひらがな表記。現代仮名遣いに基づく読み。	きょうはあさからあめがふっているね。
katakana	string	表層カタカナ表記。音節数のカウントやモーラ境界の同定に有用。	キョウハアサカラアメガフッテイルネ。
pronunciation	string	音響モデル・発音辞書用の完全発音カタカナ。助詞「は」→「ワ」、「へ」→「エ」、長音化「きょう」→「キョー」を完全反映。	キョーワアサカラアメガフッテイルネ。
notes	string	発話スタイル、音響的特徴、難読ポイント、アクセント注意点などのメタデータ。	普通体、天気の雑談、きょうの長音

---

🎯 主なベンチマーク・研究用途

1. TTS（音声合成）の音響・時間予測評価:
   • 生成音声の文字認識（ASR）による CER (Character Error Rate) / WER (Word Error Rate) 測定。
   • text からの推定と、pronunciation（発音表記）との乖離をドメイン別に解析。
2. DiT / 潜在時間予測器（Duration Predictor）の蒸留 & GRPO 強化学習:
   • 音声DiffusionモデルやARモデルにおける「発話長予測」「無音区間制御」の強化学習（GRPO）用プロンプトコーパス。
   • 2文字の超短文から133文字の長文まで、幅広い文長での継続長アラインメント評価。
3. ASR（自動音声認識）の堅牢性・ドメイン適応検証:
   • 法律・学術の難解語、早口言葉、SNSスラング、助数詞（「一日」「一本」「一匹」「一人」）に対する認識限界の測定。
4. G2P（Grapheme-to-Phoneme）辞書・言語モデルの評価:
   • 同音異義語（「市立」と「私立」、「橋」と「端」）や文脈による読み分け（「1日」＝「ついたち」or「いちにち」）の正答率測定。

---

💻 使い方・コードスニペット

同梱の j_tts_eval_utils.py を用いることで、Hugging Face datasets または pandas として1行で読み込めます。

1. Hugging Face datasets による読み込み

from j_tts_eval_utils import load_j_tts_eval

# train / validation / test を DatasetDict として一括読み込み
dataset_dict = load_j_tts_eval()
print(dataset_dict)
# DatasetDict({
#     train: Dataset({ features: ['id', 'category', 'text', 'ruby_text', 'hiragana', 'katakana', 'pronunciation', 'notes'], num_rows: 16056 }),
#     validation: Dataset({ features: [...], num_rows: 2007 }),
#     test: Dataset({ features: [...], num_rows: 2007 })
# })

# test スプリットのみをロード
test_ds = load_j_tts_eval(split="test")
print(test_ds[0])

2. Pandas DataFrame による読み込み (高速 Parquet 推奨)

from j_tts_eval_utils import load_j_tts_eval

# Pandas DataFrame として読み込み
test_df = load_j_tts_eval(split="test", fmt="parquet", as_hf=False)
print(test_df.info())

# 軽量サンプルの読み込み
sample_df = load_j_tts_eval(split="sample_100", as_hf=False)
print(sample_df.head())

3. CER（文字誤り率）評価ヘルパーの使用例

from j_tts_eval_utils import compute_cer, evaluate_cer_batch

# 単一サンプルの評価
ref = "今日は朝から雨が降っているね。"
hyp = "きょうは朝から雨が降っているね。"
result = compute_cer(ref, hyp)
print(f"CER: {result['cer']:.4f}, Edits: {result['distance']}")

# バッチ評価（カテゴリ別集計付き）
test_refs = ["今日は晴れです。", "憲法第9条を遵守する。"]
test_hyps = ["きょうは晴れです。", "憲法第9条を遵守する。"]
categories = ["日常会話", "LAW_CONSTITUTION"]

batch_eval = evaluate_cer_batch(test_refs, test_hyps, categories=categories)
print("Micro CER:", batch_eval["micro_cer"])
print("Category Breakdown:", batch_eval["by_category"])

---

📦 ファイル一覧 (Available Formats)

本リポジトリ配下に以下の形式が全て格納されています。

• Parquet (推奨・高速):
  • train.parquet (6.2 MB), validation.parquet (863 KB), test.parquet (861 KB)
  • sample_100.parquet (57 KB), dataset_full.parquet (7.7 MB)
• TSV / CSV:
  • train.tsv / train.csv, validation.tsv / validation.csv, test.tsv / test.csv
  • sample_100.tsv / sample_100.csv, dataset_full.tsv / dataset_full.csv
• JSONL:
  • train.jsonl, validation.jsonl, test.jsonl, sample_100.jsonl, dataset_full.jsonl
• コード & メタデータ:
  • j_tts_eval_utils.py: HF/Pandas ローダー & CER 評価モジュール
  • split_statistics.json: カテゴリ別・スプリット別詳細統計
  • README.md: データセットカード（ドキュメント）

---

📜 ライセンス (License)

本コーパスは Creative Commons Attribution 4.0 International (CC-BY 4.0) の下で公開されています。 学術研究、商用利用、改変、再配布が自由に認められています。クレジット表記を行っていただければ商用TTSエンジンの学習・評価にも無償でご活用いただけます。

---

---

📖 引用情報 (Citation)

本データセットを研究や開発、ベンチマーク等でご利用の際は、以下の BibTeX 形式で引用いただけます。

@dataset{j_tts_eval_20k_2026,
  author       = {rose3},
  title        = {J-TTS-Eval20K: Japanese Multi-Domain Corpus for TTS/ASR Evaluation & Duration Modeling},
  year         = {2026},
  publisher    = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/rose3/J-TTS-Eval20K}}
}