Hugging Face's logo

Datasets:
maxzt
/
OpenJA

Tasks:
Text Generation
Fill-Mask
Text Classification
Modalities:
Tabular
Text
Formats:
parquet
Languages:
Japanese
Size:
1M - 10M
Tags:
japan
pre-training
continued-pretraining
text-generation
parquet
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community
OpenJA / README.md
maxzt's picture
maxzt
Update README.md
985c2df verified
preview code
|
Raw
History Blame Contribute Delete
7.39 kB
metadata 
license: cc-by-4.0
language:
  - ja
tags:
  - japan
  - pre-training
  - continued-pretraining
  - text-generation
  - parquet
task_categories:
  - text-generation
  - fill-mask
  - text-classification
pretty_name: OpenJA
size_categories:
  - 100M<n<1B

OpenJA

image

🇬🇧 English Description

OpenJA is a dataset of clean, officially published parliamentary transcripts of the Japanese language. It is characterized by high-quality text (without web noise, HTML, advertising) and reliable metadata, but it represents one narrow language register (official/parliamentary speech) and is better suited as an addition to more diverse corpora than as the only source for a general-purpose pretrain.

📊 Dataset Statistics

  • Total Records: 3,244,877.
  • Total Size: ~679,496,535 tokens (tokenized with Qwen/Qwen3.5-9B).
  • Format: Parquet.
  • Years of publication of records: 2000-2026.

🏗️ Dataset Structure

Field Type Description
id string Unique speech ID (speechID from the Kokkai API)
issueID string ID of the meeting this speech belongs to
year int Year of the meeting — primary field for filtering the dataset by period
date string Meeting date in YYYY-MM-DD format
session string Diet session number
nameOfHouse string Chamber: 衆議院 (House of Representatives) or 参議院 (House of Councillors)
nameOfMeeting string Name of the committee/meeting
issue string Transcript issue number
closing string Meeting-closing indicator
speaker string Speaker's name
speakerYomi string Speaker's name in furigana (reading)
speakerGroup string Speaker's party/faction
speakerPosition string Speaker's official position
speakerRole string Speaker's role in the meeting (e.g., chairperson)
speechOrder int Sequential order of the speech within the meeting
text string Cleaned speech text (no HTML, stenographer remarks, or boilerplate phrases)
speechURL string Link to the original record on the Kokkai website

🛠️ Creation and Curation

  1. Source: Texts were programmatically harvested from Kokkai Kaigiroku (国会会議録).
  2. Cleaning: Automated removal of HTML tags, footnotes, editorial tables, and navigation templates.

⚖️ License and Copyright

  • The Compilation/Curation: Licensed under CC BY 4.0. You are free to use, modify, and distribute this dataset commercially or non-commercially, provided you give appropriate credit.

💻 Usage Example 

from datasets import load_dataset

# Load Parquet file
dataset = load_dataset("maxzt/OpenJA", split="train")

🗺️ Roadmap & Future Expansions

This dataset is a living project. OpenJA-Max with an extended range of years (1947-2026) will be released soon.

🇷🇺 Описание на русском языке

OpenJA — датасет чистых, официально изданных парламентских стенограмм японского языка. Отличается высоким качеством текста (без веб-шума, HTML, рекламы) и надёжной метадатой, но представляет собой один узкий языковой регистр (официальная/парламентская речь) и лучше подходит как дополнение к более разнообразным корпусам, чем как единственный источник для претрейна общего назначения.

📊 Статистика датасета

  • Всего записей: 3,244,877.
  • Общий объем: ~679,496,535 токенов (токенизированно с помощью Qwen/Qwen3.5-9B).
  • Формат: Parquet.
  • Годы публикации записей: 2000-2026.

🏗️ Структура данных

Поле Тип Описание
id string Уникальный ID реплики (speechID из API Kokkai)
issueID string ID заседания, к которому относится реплика
year int Год заседания — основное поле для фильтрации датасета по периоду
date string Дата заседания в формате YYYY-MM-DD
session string Номер сессии парламента
nameOfHouse string Палата: 衆議院 (нижняя) или 参議院 (верхняя)
nameOfMeeting string Название комитета/заседания
issue string Номер выпуска стенограммы
closing string Признак закрытия заседания
speaker string Имя выступавшего
speakerYomi string Имя выступавшего в фуригане (чтение)
speakerGroup string Партийная фракция выступавшего
speakerPosition string Должность выступавшего
speakerRole string Роль в заседании (например, председатель)
speechOrder int Порядковый номер реплики внутри заседания
text string Очищенный текст реплики (без HTML, служебных ремарок, шаблонных фраз)
speechURL string Ссылка на оригинал на сайте Kokkai

🛠️ Процесс создания и очистки

  1. Источник: Тексты были собраны программным путем из Kokkai Kaigiroku (国会会議録).
  2. Очистка: Автоматическое удаление HTML-тегов, сносок, редакционных таблиц и навигационных шаблонов.

⚖️ Лицензия и авторские права

  • Сборка и курирование датасета: Лицензия CC BY 4.0. Вы можете свободно использовать, модифицировать и распространять этот датасет в коммерческих и некоммерческих целях при условии указания авторства коллекции.

💻 Пример использования 

from datasets import load_dataset

# Загрузка Parquet файла
dataset = load_dataset("maxzt/OpenJA", split="train")

🗺️ Планы на будущее и расширение датасета

Этот набор данных - действующий проект. Скоро будет выпущен OpenJA-Max с расширенным диапазоном лет (1947-2026).

🙏 Благодарности

Источником данных выступает Kokkai Kaigiroku (国会会議録).