author stringclasses 181
values | title stringlengths 1 133 | text stringlengths 101 1.16M | source_url stringlengths 37 755 | word_count int64 13 191k | __index_level_0__ int64 0 9.29k |
|---|---|---|---|---|---|
Михаил Ломоносов | Полидор (Ломоносов) | Михаил Ломоносов Полидор Идиллия М. В. Ломоносов. Избранные произведения. Библиотека поэта. Большая серия. Л. 1986. С. 250-254, 519 Подготовка текста и примечания А. А. Морозова и М. П. Лепехина. «Im Werden Verlag". Некоммерческое электронное издание. Мюнхен. 2004 http://imwerden.de ИДИЛЛИЯ Ее императорского величества... | https://ru.wikisource.org/wiki/%D0%9F%D0%BE%D0%BB%D0%B8%D0%B4%D0%BE%D1%80%20%28%D0%9B%D0%BE%D0%BC%D0%BE%D0%BD%D0%BE%D1%81%D0%BE%D0%B2%29 | 905 | 0 |
Михаил Ломоносов | На поэмы Петру Великому (Батюшков) | Википроекты Данные Примечания Эпиграмма метит не только в кн. Шихматова, как толкует ее Л. Н. Майков, но, как показывает самое ее заглавие, и во всех современных Батюшкову авторов многочисленных «Петриад», о которых поэт с такой иронией упоминает в письмах (т. III, стр. 85—86) и в своем сатирическом отрывке в прозе «По... | https://ru.wikisource.org/wiki/%D0%9D%D0%B0%20%D0%BF%D0%BE%D1%8D%D0%BC%D1%8B%20%D0%9F%D0%B5%D1%82%D1%80%D1%83%20%D0%92%D0%B5%D0%BB%D0%B8%D0%BA%D0%BE%D0%BC%D1%83%20%28%D0%91%D0%B0%D1%82%D1%8E%D1%88%D0%BA%D0%BE%D0%B2%29 | 120 | 1 |
Михаил Ломоносов | Стихотворения (Глинка)/Версия 3 | Другие редакции В дореформенной орфографии Стихотворения В. А. Жуковский в воспоминаниях современников. М.: Наука, Школа «Языки русской культуры», 1999. 26. В. А. ЖУКОВСКОМУ С прелестною душой, Поэт у нас известный! Ты в храм бессмертия поставил целый ряд Красами чудными блистающих баллад: Т Твои стихи легки и полновес... | https://ru.wikisource.org/wiki/%D0%A1%D1%82%D0%B8%D1%85%D0%BE%D1%82%D0%B2%D0%BE%D1%80%D0%B5%D0%BD%D0%B8%D1%8F%20%28%D0%93%D0%BB%D0%B8%D0%BD%D0%BA%D0%B0%29/%D0%92%D0%B5%D1%80%D1%81%D0%B8%D1%8F%203 | 1,611 | 2 |
Михаил Ломоносов | Письмо к Л. Эйлеру 5 июля 1748 года (Ломоносов) | Знаменитейшему и ученейшему мужу Леонарду Эйлеру , заслуженнейшему профессору и члену славной Берлинской Академии наук, а также императорской Петербургской Академии наук и Лондонского королевского общества, нижайший привет шлет Михаил Ломоносов. Каждый, кто занимается наукой и встречает одобрение трудам своим со сторон... | https://ru.wikisource.org/wiki/%D0%9F%D0%B8%D1%81%D1%8C%D0%BC%D0%BE%20%D0%BA%20%D0%9B.%20%D0%AD%D0%B9%D0%BB%D0%B5%D1%80%D1%83%205%20%D0%B8%D1%8E%D0%BB%D1%8F%201748%20%D0%B3%D0%BE%D0%B4%D0%B0%20%28%D0%9B%D0%BE%D0%BC%D0%BE%D0%BD%D0%BE%D1%81%D0%BE%D0%B2%29 | 2,775 | 3 |
Михаил Ломоносов | Предисловие к "Ренэ" Шатобриана и "Адольфу" Б.Констана (Горький) | М. Горький. [ править ] Предисловие к «Ренэ» Шатобриана и «Адольфу» Б.Констана. [ править ] Источник: Р.Шатобриан. Ренэ. Б.Констан. Адольф. «История молодого человека XIX века» — Серия романов под редакцией М.Горького. М.: Журнально-газетное об’единение, 1932, Стр. 3-14. МАКСИМ ГОРЬКИЙ ПРЕДИСЛОВИЕ К КНИГЕ «Р.ШАТОБРИАН ... | https://ru.wikisource.org/wiki/%D0%9F%D1%80%D0%B5%D0%B4%D0%B8%D1%81%D0%BB%D0%BE%D0%B2%D0%B8%D0%B5%20%D0%BA%20%22%D0%A0%D0%B5%D0%BD%D1%8D%22%20%D0%A8%D0%B0%D1%82%D0%BE%D0%B1%D1%80%D0%B8%D0%B0%D0%BD%D0%B0%20%D0%B8%20%22%D0%90%D0%B4%D0%BE%D0%BB%D1%8C%D1%84%D1%83%22%20%D0%91.%D0%9A%D0%BE%D0%BD%D1%81%D1%82%D0%B0%D0%BD%D0%B0... | 3,838 | 4 |
Михаил Ломоносов | Избранные стихотворения (Ломоносов) | "Михаил Ломоносов Стихотворения ОДА блаженныя памяти (...TRUNCATED) | https://ru.wikisource.org/wiki/%D0%98%D0%B7%D0%B1%D1%80%D0%B0%D0%BD%D0%BD%D1%8B%D0%B5%20%D1%81%D1%82%D0%B8%D1%85%D0%BE%D1%82%D0%B2%D0%BE%D1%80%D0%B5%D0%BD%D0%B8%D1%8F%20%28%D0%9B%D0%BE%D0%BC%D0%BE%D0%BD%D0%BE%D1%81%D0%BE%D0%B2%29 | 7,884 | 5 |
Михаил Ломоносов | Сын рыбака, Михаил Васильевич Ломоносов (Фурман) | "Википроекты Данные I. Дом родительский [ править ] Из со(...TRUNCATED) | https://ru.wikisource.org/wiki/%D0%A1%D1%8B%D0%BD%20%D1%80%D1%8B%D0%B1%D0%B0%D0%BA%D0%B0%2C%20%D0%9C%D0%B8%D1%85%D0%B0%D0%B8%D0%BB%20%D0%92%D0%B0%D1%81%D0%B8%D0%BB%D1%8C%D0%B5%D0%B2%D0%B8%D1%87%20%D0%9B%D0%BE%D0%BC%D0%BE%D0%BD%D0%BE%D1%81%D0%BE%D0%B2%20%28%D0%A4%D1%83%D1%80%D0%BC%D0%B0%D0%BD%29 | 11,899 | 6 |
Михаил Ломоносов | Тамира и Селим (Ломоносов) | "Википроекты Википедия Данные Михаил Ломоносов Тамира(...TRUNCATED) | https://ru.wikisource.org/wiki/%D0%A2%D0%B0%D0%BC%D0%B8%D1%80%D0%B0%20%D0%B8%20%D0%A1%D0%B5%D0%BB%D0%B8%D0%BC%20%28%D0%9B%D0%BE%D0%BC%D0%BE%D0%BD%D0%BE%D1%81%D0%BE%D0%B2%29 | 10,986 | 7 |
Михаил Ломоносов | Демофонт (Ломоносов) | "Википроекты Википедия Данные Михаил Ломоносов Демофо(...TRUNCATED) | https://ru.wikisource.org/wiki/%D0%94%D0%B5%D0%BC%D0%BE%D1%84%D0%BE%D0%BD%D1%82%20%28%D0%9B%D0%BE%D0%BC%D0%BE%D0%BD%D0%BE%D1%81%D0%BE%D0%B2%29 | 10,798 | 8 |
Михаил Ломоносов | Похвальные надписи и послания (Ломоносов) | "МИХАИЛ ЛОМОНОСОВ ПОХВАЛЬНЫЕ НАДПИСИ И ПОСЛАНИЯ М. В. Л(...TRUNCATED) | https://ru.wikisource.org/wiki/%D0%9F%D0%BE%D1%85%D0%B2%D0%B0%D0%BB%D1%8C%D0%BD%D1%8B%D0%B5%20%D0%BD%D0%B0%D0%B4%D0%BF%D0%B8%D1%81%D0%B8%20%D0%B8%20%D0%BF%D0%BE%D1%81%D0%BB%D0%B0%D0%BD%D0%B8%D1%8F%20%28%D0%9B%D0%BE%D0%BC%D0%BE%D0%BD%D0%BE%D1%81%D0%BE%D0%B2%29 | 13,304 | 9 |
RuHeritage-Corpus
🇬🇧 English Description
RuHeritage-Corpus is a high-quality, curated dataset of Russian classical literature, specifically designed for the pre-training and continued pre-training (CPT) of Large Language Models (LLMs).
The corpus focuses on the Golden and Silver Ages of Russian literature, providing models with exposure to rich vocabulary, complex syntactic structures, and stylistically flawless Russian text, acting as a "quality anchor" against the noise typically found in web-scraped data.
📊 Dataset Statistics
- Total Records: ~9,292 literary works, chapters, or poems.
- Total Size: ~297.7 million tokens (tokenized with
Qwen/Qwen3.5-9B). - Format: Optimized Parquet chunks (~30M tokens each) for efficient streaming, plus a raw JSONL backup.
📚 Authors Included
The dataset is built upon a foundational list of 181 classical authors, including:
- Early Classics & Romanticism: A. Radishchev, D. Fonvizin, G. Derzhavin, N. Karamzin, I. Krylov, V. Zhukovsky, A. Griboyedov, A. Pushkin, K. Ryleev, E. Baratynsky, A. Delvig, M. Lermontov.
- 19th Century Realism: N. Gogol, V. Odoevsky, A. Herzen, I. Goncharov, T. Shevchenko, A. Fet, I. Turgenev, N. Nekrasov, F. Dostoevsky, M. Saltykov-Shchedrin, L. Tolstoy, N. Leskov, A. K. Tolstoy, A. Ostrovsky, A. Chekhov.
- Criticism & Philosophy: V. Belinsky, N. Chernyshevsky, N. Dobrolyubov, A. Grigoryev.
- Late 19th / Early 20th Century: V. Garshin, G. Uspensky, D. Mamin-Sibiryak, V. Korolenko, I. Annensky, and many others from the Silver Age.
🏗️ Dataset Structure
The dataset is organized into the following columns:
| Column | Type | Description |
|---|---|---|
author |
string | Full name of the author (e.g., "Александр Пушкин"). |
title |
string | Title of the work or chapter. |
text |
string | Cleaned, plain-text content of the literary work. |
source_url |
string | Direct link to the original page on ru.wikisource.org. |
word_count |
int | Approximate number of words in the text chunk. |
🛠️ Creation and Curation
- Source: Texts were programmatically harvested from Russian Wikisource via the official MediaWiki API.
- Cleaning: Automated removal of HTML tags, footnotes, editorial tables, and navigation templates using
BeautifulSoup. - Filtering: Texts shorter than 100 characters were discarded to eliminate metadata stubs. Exact duplicates were minimized.
- Chunking: The final dataset is split into ~30M token Parquet chunks to ensure optimal GPU memory usage during distributed training.
⚖️ License and Copyright
- The Compilation/Curation: Licensed under CC BY 4.0. You are free to use, modify, and distribute this dataset commercially or non-commercially, provided you give appropriate credit.
- The Underlying Texts: The literary works themselves are in the Public Domain (published before 1928 or authors deceased before 1942, compliant with US Public Domain laws applicable to Hugging Face).
💻 Usage Example
from datasets import load_dataset
# Load the optimized Parquet chunks for training
dataset = load_dataset("maxzt/RuHeritage-Corpus", data_dir="data", split="train")
# Or load the raw JSONL from the root
# dataset = load_dataset("json", data_files="https://huggingface.co/datasets/maxzt/RuHeritage-Corpus/resolve/main/russian_classics_dataset.jsonl")
🗺️ Roadmap & Future Expansions
This dataset is a living project. The current release covers the foundational texts of the Golden and Silver Ages, but the plan is to continuously expand the corpus to create the most comprehensive open-source dataset of Russian classical literature for LLM training.
Contributions, suggestions for new authors, and pull requests are highly welcome! Let's build the ultimate Russian literary corpus together.
🇷🇺 Описание на русском языке
RuHeritage-Corpus — это высококачественный, курируемый корпус текстов русской классической литературы, созданный специально для предобучения (Pre-training) и продолженного предобучения (Continued Pre-Training, CPT) больших языковых моделей (LLM).
Датасет фокусируется на Золотом и Серебряном веках русской литературы, предоставляя моделям доступ к богатой лексике, сложным синтаксическим конструкциям и стилистически безупречному русскому языку. Это служит "якорем качества", компенсируя шум и ошибки, типичные для данных, собранных с обычного веба.
📊 Статистика датасета
- Всего записей: ~9 292 (произведения, крупные главы или стихотворные циклы).
- Общий объем: ~297.7 миллионов токенов (при токенизации через
Qwen/Qwen3.5-9B). - Формат: Оптимизированные Parquet-чанки (по ~30 млн токенов каждый) для эффективного стриминга при обучении, а также резервная копия в формате JSONL в корне репозитория.
📚 Авторы в датасете
В основу датасета лег список из 181 ключевых авторов, включая:
- Ранняя классика и романтизм: А. Радищев, Д. Фонвизин, Г. Державин, Н. Карамзин, И. Крылов, В. Жуковский, А. Грибоедов, А. Пушкин, К. Рылеев, Е. Баратынский, А. Дельвиг, М. Лермонтов.
- Реализм XIX века: Н. Гоголь, В. Одоевский, А. Герцен, И. Гончаров, Т. Шевченко, А. Фет, И. Тургенев, Н. Некрасов, Ф. Достоевский, М. Салтыков-Щедрин, Л. Толстой, Н. Лесков, А. К. Толстой, А. Островский, А. Чехов.
- Критика и публицистика: В. Белинский, Н. Чернышевский, Н. Добролюбов, А. Григорьев.
- Рубеж XIX–XX веков: В. Гаршин, Г. Успенский, Д. Мамин-Сибиряк, В. Короленко, И. Анненский и многие другие представители Серебряного века.
🏗️ Структура данных
Датасет содержит следующие колонки:
| Колонка | Тип | Описание |
|---|---|---|
author |
string | Полное имя автора (например, "Александр Пушкин"). |
title |
string | Название произведения или главы. |
text |
string | Очищенный, plain-text контент литературного произведения. |
source_url |
string | Прямая ссылка на оригинальную страницу в Русской Викитеке. |
word_count |
int | Приблизительное количество слов в данном фрагменте. |
🛠️ Процесс создания и очистки
- Источник: Тексты были программно собраны с Русской Викитеки через официальный MediaWiki API.
- Очистка: Автоматическое удаление HTML-тегов, сносок, редакторских таблиц и навигационных шаблонов с помощью библиотеки
BeautifulSoup. - Фильтрация: Тексты короче 100 символов были отброшены для исключения технических заглушек и метаданных.
- Чанкинг: Итоговый датасет разбит на Parquet-файлы по ~30 млн токенов для обеспечения оптимального использования памяти GPU при распределенном обучении.
⚖️ Лицензия и авторские права
- Сборка и курирование датасета: Лицензия CC BY 4.0. Вы можете свободно использовать, модифицировать и распространять этот датасет в коммерческих и некоммерческих целях при условии указания авторства коллекции.
- Сами литературные произведения: Находятся в Общественном достоянии (Public Domain), так как были опубликованы до 1928 года (в соответствии с законодательством США, применимым к платформе Hugging Face).
💻 Пример использования
from datasets import load_dataset
# Загрузка оптимизированных Parquet-чанков для обучения
dataset = load_dataset("maxzt/RuHeritage-Corpus", data_dir="data", split="train")
# Или загрузка сырого JSONL из корня репозитория
# dataset = load_dataset("json", data_files="https://huggingface.co/datasets/maxzt/RuHeritage-Corpus/resolve/main/russian_classics_dataset.jsonl")
🗺️ Планы на будущее и расширение датасета
Этот датасет — живой проект. Текущий релиз покрывает фундаментальные тексты Золотого и Серебряного веков, но в планах стоит непрерывное расширение корпуса, чтобы создать максимально полный open-source датасет русской классики для обучения LLM.
Буду рад сотрудничеству, предложениям по добавлению новых авторов и pull request'ам! Давайте вместе создадим главный русский литературный корпус для нейросетей.
🙏 Благодарности
Источником данных выступает Русская Викитека — свободная библиотека, создаваемая сообществом волонтеров. Спасибо всем участникам за их неоценимый труд по оцифровке культурного наследия.
Сортировка писателей по числу строк/Sorting writers by number of rows:
- Downloads last month
- 80
