README.md

---
license: cc0-1.0
language:
- ru
size_categories:
- 100M<n<1B
task_categories:
- text-generation
- fill-mask
pretty_name: Русская классическая литература (XIX — начало XX вв.)
tags:
- russian
- literature
- classics
- 19th-century
- silver-age
- nanoGPT
- pretraining
configs:
- config_name: default
  data_files:
  - split: train
    path: corpus_clean.txt
---


# Russian Classical Literature — Corpus for Language Models (English and Russian)

# English 
A clean text corpus of Russian classical literature from the 19th to the early 20th centuries, collected from lib.ru and subjected to several iterations of cleaning. Suitable for pre-training language models on the style of the Russian prose "Golden Age."

## Contents

**866 MB of clean text.**

61 authors:

### Classical Prose of the 19th Century (37 authors)
Chekhov, Tolstoy, Dostoevsky, Turgenev, Gogol, Leskov, Bunin, Kuprin,
Andreev, Goncharov, Saltykov-Shchedrin, Korolenko, Garshin, Lermontov, Griboedov,
Ostrovsky, Aksakov S. T., Pomyalovsky, Reshetnikov, Sleptsov, Mamin-Sibiryak,
Gleb Uspensky, Grigorovich, Zagoskin, Boborykin, Veresaev, Ertel,
Marko Vovchok, Danilevsky, Krestovsky, Potapenko.

### The Silver Age (17 authors)
Andrei Bely, Bryusov, Remizov, Merezhkovsky, Gippius, Rozanov, Shmelyov,
Zaitsev, Sologub, Artsybashev, Balmont, Blok, Annensky, Amfiteatrov,
Averchenko, Teffi.

### Literary Criticism and Publicism
Belinsky, Dobrolyubov, Pisarev, Herzen, Chernyshevsky.

### 19th-Century Poet-Translators
Zhukovsky, Maykov, Fet, Tyutchev, Vyazemsky, Polonsky, Apukhtin, Pleshcheev,
Nadson, Nikitin.

## Volume Distribution (Top 5 Authors)

| Author | Size (MB) |
|---|---|
| Rozanov | 51 |
| Dostoevsky | 49 |
| Chernyshevsky | 43 |
| Tolstoy | 38 |
| Gogol | 35 |

## Preprocessing

Raw corpus 1.22 GB → clean 866 MB (26% noise removed).

**Cleaning steps:**

1. **Parsing lib.ru** — crawling author pages, extracting the main HTML text.
2. **Removing editorial apparatus** of academic editions: textual commentary, variant readings, manuscript descriptions, archive references (TsGALI, RGALI, GPB, IRLI), bibliographic footnotes.
3. **Removing header correspondence** in formats like "AUTHOR — ADDRESSEE" and "TO A. N. IVANOV" (ALL CAPS).
4. **Transliteration of pre-reform orthography**: Ѣ→Е, Ѳ→Ф, І→И, final Ъ after consonants removed. Saves corpora of Mamin-Sibiryak, Vyazemsky, Potapenko, whose editions are entirely in old orthography.
5. **Removing foreign-language lines** (addresses, Latin-script signatures).
6. **Collapsing dotted lines** of Andrei Bely / Sologub into a single ellipsis.
7. **Removing lib.ru navigation** (section menus, recommendations).
8. **Removing translation footnotes** like "* by preference (Fr.)."

**Normalization before tokenization:**

- ё → е, Ё → Е (case preserved)
- Quote unification: " " „ → « »
- Dash unification: – , -- → —
- Ellipsis ... → …

## Files

- **`corpus_clean.txt`** — main file, everything in one (866 MB, UTF-8)
- **`corpus_clean.norm.txt`** — normalized version (after ё→е, quote/dash unification) — recommended for BPE training
- **`per_author/`** — separate file for each author, for subset filtering
- **`spm_16k.model`** — trained SentencePiece BPE tokenizer (vocab=16000)
- **`spm_16k.vocab`** — token list with scores

## Usage

### Loading via `datasets`

```python
from datasets import load_dataset

ds = load_dataset("USERNAME/russian-classics", split="train")
print(ds[0]["text"][:500])
```

### Loading a single author

```python
from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="USERNAME/russian-classics",
    filename="per_author/chekhov.txt",
    repo_type="dataset",
)
text = open(path, encoding="utf-8").read()
```

### Training a tokenizer (if you want your own)

```python
import sentencepiece as spm

spm.SentencePieceTrainer.train(
    input="corpus_clean.norm.txt",
    model_prefix="my_spm",
    vocab_size=16000,
    model_type="bpe",
    character_coverage=1.0,
    byte_fallback=True,
    user_defined_symbols=["—", "«", "»", "…"],
)
```

## What is NOT in the Corpus

- Poetic texts by Pushkin and standalone translation files — only prose and mixed corpora of poet-translators.
- Modern literature after 1930.
- Texts originally written in other languages (even if the author is Russian — e.g., early French letters by Turgenev are excluded).
- Academic edition apparatus: notes, variant readings, manuscript descriptions removed.
- Duplicate editions of the same works — one version from lib.ru was taken.

## Stylistic Features

- **Prose predominates**, although poet-translators (Zhukovsky, Fet) contain verse forms. Models trained on this corpus may switch between prose and poetic mode triggered by short lines.
- **Strong influence of several voices**: Rozanov (51 MB of aphoristic essayism), Chernyshevsky (43 MB of journalism), Dostoevsky (49 MB of novels and letters). The model will "sound" like a mixture of these voices.
- **Natural foreign inclusions** in Russian texts (French in noble prose, Latin epigraphs) are preserved — this is part of the era's stylistics.
- **Genre diversity** includes prose, plays, correspondence, literary criticism, diaries, philosophical essays. This is reflected in the mixed typography of the corpus (character names in blocks in plays, address forms in letters, etc.).

## Limitations and Caveats

- **Not intended for modern tasks** (question-answering systems, factual queries): models trained on it learn style, not facts.
- **Rare OCR artifacts** may remain after lib.ru scanning. For the vast majority of texts, cleanliness is high, but perfection is unattainable.
- **License status**: original texts are in the public domain (PD) under Russian and international law (authors died more than 70 years ago). The corpus as a compilation is distributed under CC0.

## Source

All texts are collected from **az.lib.ru** (lib.ru/Классика) — the largest open library of Russian classics.

## Usage

Unrestricted, but you may cite the original if you use it in your projects, if you wish.

## Version History

- **v1.0** (2026-05) — initial release. 61 authors, 866 MB of clean text, 16k BPE vocabulary.

# Russian

Чистый текстовый корпус русской классической литературы XIX — начала XX веков, собранный с lib.ru и прошедший несколько итераций очистки. Подходит для предобучения языковых моделей на стилистике «золотого века» русской прозы.

## Состав

**866 МБ чистого текста.**

61 автор:

### Классическая проза XIX века (37 авторов)
Чехов, Толстой, Достоевский, Тургенев, Гоголь, Лесков, Бунин, Куприн,
Андреев, Гончаров, Салтыков-Щедрин, Короленко, Гаршин, Лермонтов, Грибоедов,
Островский, Аксаков С. Т., Помяловский, Решетников, Слепцов, Мамин-Сибиряк,
Глеб Успенский, Григорович, Загоскин, Боборыкин, Вересаев, Эртель,
Марко Вовчок, Данилевский, Крестовский, Потапенко.

### Серебряный век (17 авторов)
Андрей Белый, Брюсов, Ремизов, Мережковский, Гиппиус, Розанов, Шмелёв,
Зайцев, Сологуб, Арцыбашев, Бальмонт, Блок, Анненский, Амфитеатров,
Аверченко, Тэффи.

### Литературная критика и публицистика
Белинский, Добролюбов, Писарев, Герцен, Чернышевский.

### Поэты-переводчики XIX века
Жуковский, Майков, Фет, Тютчев, Вяземский, Полонский, Апухтин, Плещеев,
Надсон, Никитин.

## Распределение объёма по топ-5 авторам

| Автор | Размер (МБ) |
|---|---|
| Розанов | 51 |
| Достоевский | 49|
| Чернышевский | 43 |
| Толстой | 38 |
| Гоголь | 35 |


## Препроцессинг

Сырой корпус 1.22 ГБ → чистый 866 МБ (после удаления шума на 26%).

**Шаги очистки:**

1. **Парсинг lib.ru** — обход страниц авторов, извлечение HTML основного текста.
2. **Удаление редакторского аппарата** академических изданий: текстологические комментарии, варианты разночтений, описания рукописей, ссылки на архивы (ЦГАЛИ, РГАЛИ, ГПБ, ИРЛИ), библиографические сноски.
3. **Удаление переписки шапок** в форматах «АВТОР — АДРЕСАТ» и «А. Н. ИВАНОВУ» (КАПС).
4. **Транслитерация дореформенной орфографии**: Ѣ→Е, Ѳ→Ф, І→И, конечный Ъ после согласных снят. Спасает корпуса Мамина-Сибиряка, Вяземского, Потапенко, у которых издание целиком в старой орфографии.
5. **Удаление иностранных строк** (адреса, подписи на латинице).
6. **Схлопывание точечных строк** Андрея Белого / Сологуба в одно многоточие.
7. **Удаление навигации lib.ru** (меню разделов, рекомендации).
8. **Удаление сносок-переводов** вида «* по преимуществу (франц.)».

**Нормализация перед токенизацией:**

- ё → е, Ё → Е (регистр сохраняется)
- Унификация кавычек: " " „ → « »
- Унификация тире: – , -- → —
- Многоточие ... → …

## Файлы

- **`corpus_clean.txt`** — основной файл, всё в одном (866 МБ, UTF-8)
- **`corpus_clean.norm.txt`** — нормализованная версия (после ё→е, унификации кавычек/тире) — рекомендуется для обучения BPE
- **`per_author/`** — отдельный файл на каждого автора, для возможности фильтрации по подмножеству
- **`spm_16k.model`** — обученный sentencepiece BPE токенизатор (vocab=16000)
- **`spm_16k.vocab`** — список токенов с scores

## Использование

### Загрузка через `datasets`

```python
from datasets import load_dataset

ds = load_dataset("USERNAME/russian-classics", split="train")
print(ds[0]["text"][:500])
```

### Загрузка одного автора

```python
from huggingface_hub import hf_hub_download

path = hf_hub_download(
    repo_id="USERNAME/russian-classics",
    filename="per_author/chekhov.txt",
    repo_type="dataset",
)
text = open(path, encoding="utf-8").read()
```

### Обучение токенизатора (если хочется свой)

```python
import sentencepiece as spm

spm.SentencePieceTrainer.train(
    input="corpus_clean.norm.txt",
    model_prefix="my_spm",
    vocab_size=16000,
    model_type="bpe",
    character_coverage=1.0,
    byte_fallback=True,
    user_defined_symbols=["—", "«", "»", "…"],
)
```

## Что в корпусе НЕТ

- Поэтические тексты Пушкина и переводов отдельным файлом — только проза и смешанный корпус поэтов-переводчиков.
- Современная литература после 1930 года.
- Тексты, оригинально написанные на других языках (даже если автор русский — например, ранние французские письма Тургенева исключены).
- Аппарат академических изданий: примечания, разночтения, описания рукописей удалены.
- Дублирующиеся редакции одних произведений — взята одна версия с lib.ru.

## Стилистические особенности

- **Преобладает проза**, хотя у поэтов-переводчиков (Жуковский, Фет) присутствуют стихотворные формы. Модели, обученные на корпусе, могут переключаться между прозаическим и поэтическим режимом по сигналу коротких строк.
- **Сильное влияние нескольких голосов**: Розанов (51 МБ эссеистики афоризмами), Чернышевский (43 МБ публицистики), Достоевский (49 МБ романов и писем). Модель будет «звучать» как смесь этих голосов.
- **Естественные иностранные вкрапления** в русских текстах (французский в дворянской прозе, латинские эпиграфы) сохранены — это часть стилистики эпохи.
- **Жанровое разнообразие** включает прозу, пьесы, переписку, литературную критику, дневники, философские эссе. Это отражено в смешанной типографике корпуса (имена персонажей блоком в пьесах, обращения в письмах, и т. д.).

## Ограничения и предостережения

- **Не предназначен для современных задач** (вопросно-ответные системы, фактологические запросы): модели на нём учат стилю, а не фактам.
- **Возможны редкие OCR-артефакты**, оставшиеся после lib.ru-сканирования. Для подавляющего большинства текстов чистота высокая, но идеала нет.
- **Лицензионный статус**: исходные тексты находятся в общественном достоянии (PD) по российскому и международному праву (авторы умерли более 70 лет назад). Корпус как сборка распространяется под CC0.

## Источник

Все тексты собраны с **az.lib.ru** (lib.ru/Классика) — крупнейшей открытой библиотеки русской классики.

## Использование

Неограниченное, но можно указать оригинал, если используете в своих проектах, если есть желание.

## История версий

- **v1.0** (2026-05) — первичная публикация. 61 автор, 866 МБ чистого текста, 16k BPE-словарь.