Datasets:

maxzt
/

OpenJA

	---
	license: cc-by-4.0
	language:
	- ja
	tags:
	- japan
	- pre-training
	- continued-pretraining
	- text-generation
	- parquet
	task_categories:
	- text-generation
	- fill-mask
	- text-classification
	pretty_name: OpenJA
	size_categories:
	- 100M<n<1B
	---

	# OpenJA

	![image](https://cdn-uploads.huggingface.co/production/uploads/6a535822f7c1c2b44a684b39/QUvtJx_4Z_dq275lr13OG.png)

	## 🇬🇧 English Description

	OpenJA is a dataset of clean, officially published parliamentary transcripts of the Japanese language. It is characterized by high-quality text (without web noise, HTML, advertising) and reliable metadata, but it represents one narrow language register (official/parliamentary speech) and is better suited as an addition to more diverse corpora than as the only source for a general-purpose pretrain.

	### 📊 Dataset Statistics
	- Total Records: 3,244,877.
	- Total Size: ~679,496,535 tokens (tokenized with `Qwen/Qwen3.5-9B`).
	- Format: Parquet.
	- Years of publication of records: 2000-2026.

	### 🏗️ Dataset Structure

	\| Field \| Type \| Description \|
	\|---\|---\|---\|
	\| `id` \| `string` \| Unique speech ID (`speechID` from the Kokkai API) \|
	\| `issueID` \| `string` \| ID of the meeting this speech belongs to \|
	\| `year` \| `int` \| Year of the meeting — primary field for filtering the dataset by period \|
	\| `date` \| `string` \| Meeting date in `YYYY-MM-DD` format \|
	\| `session` \| `string` \| Diet session number \|
	\| `nameOfHouse` \| `string` \| Chamber: `衆議院` (House of Representatives) or `参議院` (House of Councillors) \|
	\| `nameOfMeeting` \| `string` \| Name of the committee/meeting \|
	\| `issue` \| `string` \| Transcript issue number \|
	\| `closing` \| `string` \| Meeting-closing indicator \|
	\| `speaker` \| `string` \| Speaker's name \|
	\| `speakerYomi` \| `string` \| Speaker's name in furigana (reading) \|
	\| `speakerGroup` \| `string` \| Speaker's party/faction \|
	\| `speakerPosition` \| `string` \| Speaker's official position \|
	\| `speakerRole` \| `string` \| Speaker's role in the meeting (e.g., chairperson) \|
	\| `speechOrder` \| `int` \| Sequential order of the speech within the meeting \|
	\| `text` \| `string` \| Cleaned speech text (no HTML, stenographer remarks, or boilerplate phrases) \|
	\| `speechURL` \| `string` \| Link to the original record on the Kokkai website \|

	### 🛠️ Creation and Curation
	1. Source: Texts were programmatically harvested from Kokkai Kaigiroku (国会会議録).
	2. Cleaning: Automated removal of HTML tags, footnotes, editorial tables, and navigation templates.

	### ⚖️ License and Copyright
	- The Compilation/Curation: Licensed under [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/). You are free to use, modify, and distribute this dataset commercially or non-commercially, provided you give appropriate credit.

	### 💻 Usage Example
	```python
	from datasets import load_dataset

	# Load Parquet file
	dataset = load_dataset("maxzt/OpenJA", split="train")
	```

	### 🗺️ Roadmap & Future Expansions

	This dataset is a living project. OpenJA-Max with an extended range of years (1947-2026) will be released soon.

	---

	## 🇷🇺 Описание на русском языке

	OpenJA — датасет чистых, официально изданных парламентских стенограмм японского языка. Отличается высоким качеством текста (без веб-шума, HTML, рекламы) и надёжной метадатой, но представляет собой один узкий языковой регистр (официальная/парламентская речь) и лучше подходит как дополнение к более разнообразным корпусам, чем как единственный источник для претрейна общего назначения.

	### 📊 Статистика датасета
	- Всего записей: 3,244,877.
	- Общий объем: ~679,496,535 токенов (токенизированно с помощью `Qwen/Qwen3.5-9B`).
	- Формат: Parquet.
	- Годы публикации записей: 2000-2026.

	### 🏗️ Структура данных

	\| Поле \| Тип \| Описание \|
	\|---\|---\|---\|
	\| `id` \| `string` \| Уникальный ID реплики (`speechID` из API Kokkai) \|
	\| `issueID` \| `string` \| ID заседания, к которому относится реплика \|
	\| `year` \| `int` \| Год заседания — основное поле для фильтрации датасета по периоду \|
	\| `date` \| `string` \| Дата заседания в формате `YYYY-MM-DD` \|
	\| `session` \| `string` \| Номер сессии парламента \|
	\| `nameOfHouse` \| `string` \| Палата: `衆議院` (нижняя) или `参議院` (верхняя) \|
	\| `nameOfMeeting` \| `string` \| Название комитета/заседания \|
	\| `issue` \| `string` \| Номер выпуска стенограммы \|
	\| `closing` \| `string` \| Признак закрытия заседания \|
	\| `speaker` \| `string` \| Имя выступавшего \|
	\| `speakerYomi` \| `string` \| Имя выступавшего в фуригане (чтение) \|
	\| `speakerGroup` \| `string` \| Партийная фракция выступавшего \|
	\| `speakerPosition` \| `string` \| Должность выступавшего \|
	\| `speakerRole` \| `string` \| Роль в заседании (например, председатель) \|
	\| `speechOrder` \| `int` \| Порядковый номер реплики внутри заседания \|
	\| `text` \| `string` \| Очищенный текст реплики (без HTML, служебных ремарок, шаблонных фраз) \|
	\| `speechURL` \| `string` \| Ссылка на оригинал на сайте Kokkai \|

	### 🛠️ Процесс создания и очистки
	1. Источник: Тексты были собраны программным путем из Kokkai Kaigiroku (国会会議録).
	2. Очистка: Автоматическое удаление HTML-тегов, сносок, редакционных таблиц и навигационных шаблонов.

	### ⚖️ Лицензия и авторские права
	- Сборка и курирование датасета: Лицензия [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/). Вы можете свободно использовать, модифицировать и распространять этот датасет в коммерческих и некоммерческих целях при условии указания авторства коллекции.

	### 💻 Пример использования
	```python
	from datasets import load_dataset

	# Загрузка Parquet файла
	dataset = load_dataset("maxzt/OpenJA", split="train")
	```

	### 🗺️ Планы на будущее и расширение датасета

	Этот набор данных - действующий проект. Скоро будет выпущен OpenJA-Max с расширенным диапазоном лет (1947-2026).

	### 🙏 Благодарности
	Источником данных выступает Kokkai Kaigiroku (国会会議録).

	---

	---
	license: cc-by-4.0
	language:
	- ja
	tags:
	- japan
	- pre-training
	- continued-pretraining
	- text-generation
	- parquet
	task_categories:
	- text-generation
	- fill-mask
	- text-classification
	pretty_name: OpenJA
	size_categories:
	- 100M<n<1B
	---

	# OpenJA

	![image](https://cdn-uploads.huggingface.co/production/uploads/6a535822f7c1c2b44a684b39/QUvtJx_4Z_dq275lr13OG.png)

	## 🇬🇧 English Description

	OpenJA is a dataset of clean, officially published parliamentary transcripts of the Japanese language. It is characterized by high-quality text (without web noise, HTML, advertising) and reliable metadata, but it represents one narrow language register (official/parliamentary speech) and is better suited as an addition to more diverse corpora than as the only source for a general-purpose pretrain.

	### 📊 Dataset Statistics
	- Total Records: 3,244,877.
	- Total Size: ~679,496,535 tokens (tokenized with `Qwen/Qwen3.5-9B`).
	- Format: Parquet.
	- Years of publication of records: 2000-2026.

	### 🏗️ Dataset Structure

	\| Field \| Type \| Description \|
	\|---\|---\|---\|
	\| `id` \| `string` \| Unique speech ID (`speechID` from the Kokkai API) \|
	\| `issueID` \| `string` \| ID of the meeting this speech belongs to \|
	\| `year` \| `int` \| Year of the meeting — primary field for filtering the dataset by period \|
	\| `date` \| `string` \| Meeting date in `YYYY-MM-DD` format \|
	\| `session` \| `string` \| Diet session number \|
	\| `nameOfHouse` \| `string` \| Chamber: `衆議院` (House of Representatives) or `参議院` (House of Councillors) \|
	\| `nameOfMeeting` \| `string` \| Name of the committee/meeting \|
	\| `issue` \| `string` \| Transcript issue number \|
	\| `closing` \| `string` \| Meeting-closing indicator \|
	\| `speaker` \| `string` \| Speaker's name \|
	\| `speakerYomi` \| `string` \| Speaker's name in furigana (reading) \|
	\| `speakerGroup` \| `string` \| Speaker's party/faction \|
	\| `speakerPosition` \| `string` \| Speaker's official position \|
	\| `speakerRole` \| `string` \| Speaker's role in the meeting (e.g., chairperson) \|
	\| `speechOrder` \| `int` \| Sequential order of the speech within the meeting \|
	\| `text` \| `string` \| Cleaned speech text (no HTML, stenographer remarks, or boilerplate phrases) \|
	\| `speechURL` \| `string` \| Link to the original record on the Kokkai website \|

	### 🛠️ Creation and Curation
	1. Source: Texts were programmatically harvested from Kokkai Kaigiroku (国会会議録).
	2. Cleaning: Automated removal of HTML tags, footnotes, editorial tables, and navigation templates.

	### ⚖️ License and Copyright
	- The Compilation/Curation: Licensed under [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/). You are free to use, modify, and distribute this dataset commercially or non-commercially, provided you give appropriate credit.

	### 💻 Usage Example
	```python
	from datasets import load_dataset

	# Load Parquet file
	dataset = load_dataset("maxzt/OpenJA", split="train")
	```

	### 🗺️ Roadmap & Future Expansions

	This dataset is a living project. OpenJA-Max with an extended range of years (1947-2026) will be released soon.

	---

	## 🇷🇺 Описание на русском языке

	OpenJA — датасет чистых, официально изданных парламентских стенограмм японского языка. Отличается высоким качеством текста (без веб-шума, HTML, рекламы) и надёжной метадатой, но представляет собой один узкий языковой регистр (официальная/парламентская речь) и лучше подходит как дополнение к более разнообразным корпусам, чем как единственный источник для претрейна общего назначения.

	### 📊 Статистика датасета
	- Всего записей: 3,244,877.
	- Общий объем: ~679,496,535 токенов (токенизированно с помощью `Qwen/Qwen3.5-9B`).
	- Формат: Parquet.
	- Годы публикации записей: 2000-2026.

	### 🏗️ Структура данных

	\| Поле \| Тип \| Описание \|
	\|---\|---\|---\|
	\| `id` \| `string` \| Уникальный ID реплики (`speechID` из API Kokkai) \|
	\| `issueID` \| `string` \| ID заседания, к которому относится реплика \|
	\| `year` \| `int` \| Год заседания — основное поле для фильтрации датасета по периоду \|
	\| `date` \| `string` \| Дата заседания в формате `YYYY-MM-DD` \|
	\| `session` \| `string` \| Номер сессии парламента \|
	\| `nameOfHouse` \| `string` \| Палата: `衆議院` (нижняя) или `参議院` (верхняя) \|
	\| `nameOfMeeting` \| `string` \| Название комитета/заседания \|
	\| `issue` \| `string` \| Номер выпуска стенограммы \|
	\| `closing` \| `string` \| Признак закрытия заседания \|
	\| `speaker` \| `string` \| Имя выступавшего \|
	\| `speakerYomi` \| `string` \| Имя выступавшего в фуригане (чтение) \|
	\| `speakerGroup` \| `string` \| Партийная фракция выступавшего \|
	\| `speakerPosition` \| `string` \| Должность выступавшего \|
	\| `speakerRole` \| `string` \| Роль в заседании (например, председатель) \|
	\| `speechOrder` \| `int` \| Порядковый номер реплики внутри заседания \|
	\| `text` \| `string` \| Очищенный текст реплики (без HTML, служебных ремарок, шаблонных фраз) \|
	\| `speechURL` \| `string` \| Ссылка на оригинал на сайте Kokkai \|

	### 🛠️ Процесс создания и очистки
	1. Источник: Тексты были собраны программным путем из Kokkai Kaigiroku (国会会議録).
	2. Очистка: Автоматическое удаление HTML-тегов, сносок, редакционных таблиц и навигационных шаблонов.

	### ⚖️ Лицензия и авторские права
	- Сборка и курирование датасета: Лицензия [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/). Вы можете свободно использовать, модифицировать и распространять этот датасет в коммерческих и некоммерческих целях при условии указания авторства коллекции.

	### 💻 Пример использования
	```python
	from datasets import load_dataset

	# Загрузка Parquet файла
	dataset = load_dataset("maxzt/OpenJA", split="train")
	```

	### 🗺️ Планы на будущее и расширение датасета

	Этот набор данных - действующий проект. Скоро будет выпущен OpenJA-Max с расширенным диапазоном лет (1947-2026).

	### 🙏 Благодарности
	Источником данных выступает Kokkai Kaigiroku (国会会議録).

	---