Upload folder using huggingface_hub

.gitattributes

@@ -58,3 +58,39 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 # Video files - compressed
 *.mp4 filter=lfs diff=lfs merge=lfs -text
 *.webm filter=lfs diff=lfs merge=lfs -text
+corpus_clean.norm.txt filter=lfs diff=lfs merge=lfs -text
+corpus_clean.txt filter=lfs diff=lfs merge=lfs -text
+per_author/amphiteatrov.txt filter=lfs diff=lfs merge=lfs -text
+per_author/andreev.txt filter=lfs diff=lfs merge=lfs -text
+per_author/andrey_bely.txt filter=lfs diff=lfs merge=lfs -text
+per_author/belinsky.txt filter=lfs diff=lfs merge=lfs -text
+per_author/boborykin.txt filter=lfs diff=lfs merge=lfs -text
+per_author/bryusov.txt filter=lfs diff=lfs merge=lfs -text
+per_author/bunin.txt filter=lfs diff=lfs merge=lfs -text
+per_author/chekhov.txt filter=lfs diff=lfs merge=lfs -text
+per_author/chernyshevsky.txt filter=lfs diff=lfs merge=lfs -text
+per_author/dobrolyubov.txt filter=lfs diff=lfs merge=lfs -text
+per_author/dostoevsky.txt filter=lfs diff=lfs merge=lfs -text
+per_author/fet.txt filter=lfs diff=lfs merge=lfs -text
+per_author/gippius.txt filter=lfs diff=lfs merge=lfs -text
+per_author/gogol.txt filter=lfs diff=lfs merge=lfs -text
+per_author/goncharov.txt filter=lfs diff=lfs merge=lfs -text
+per_author/herzen.txt filter=lfs diff=lfs merge=lfs -text
+per_author/korolenko.txt filter=lfs diff=lfs merge=lfs -text
+per_author/krestovsky.txt filter=lfs diff=lfs merge=lfs -text
+per_author/kuprin.txt filter=lfs diff=lfs merge=lfs -text
+per_author/leskov.txt filter=lfs diff=lfs merge=lfs -text
+per_author/mamin_sibiryak.txt filter=lfs diff=lfs merge=lfs -text
+per_author/merezhkovsky.txt filter=lfs diff=lfs merge=lfs -text
+per_author/ostrovsky.txt filter=lfs diff=lfs merge=lfs -text
+per_author/pisarev.txt filter=lfs diff=lfs merge=lfs -text
+per_author/potapenko.txt filter=lfs diff=lfs merge=lfs -text
+per_author/rozanov.txt filter=lfs diff=lfs merge=lfs -text
+per_author/saltykov.txt filter=lfs diff=lfs merge=lfs -text
+per_author/sologub.txt filter=lfs diff=lfs merge=lfs -text
+per_author/tolstoy.txt filter=lfs diff=lfs merge=lfs -text
+per_author/turgenev.txt filter=lfs diff=lfs merge=lfs -text
+per_author/veresaev.txt filter=lfs diff=lfs merge=lfs -text
+per_author/vyazemsky.txt filter=lfs diff=lfs merge=lfs -text
+per_author/zaitsev.txt filter=lfs diff=lfs merge=lfs -text
+per_author/zhukovsky.txt filter=lfs diff=lfs merge=lfs -text

README.md

@@ -1,3 +1,190 @@
----
-license: apache-2.0
----
+---
+license: cc0-1.0
+language:
+- ru
+size_categories:
+- 100M<n<1B
+task_categories:
+- text-generation
+- fill-mask
+pretty_name: Русская классическая литература (XIX — начало XX вв.)
+tags:
+- russian
+- literature
+- classics
+- 19th-century
+- silver-age
+- nanoGPT
+- pretraining
+configs:
+- config_name: default
+  data_files:
+  - split: train
+    path: corpus_clean.txt
+---
+
+# Русская классическая литература — корпус для языковых моделей
+
+Чистый текстовый корпус русской классической литературы XIX — начала XX веков, собранный с lib.ru и прошедший несколько итераций очистки. Подходит для предобучения языковых моделей на стилистике «золотого века» русской прозы.
+
+## Состав
+
+**508 МБ чистого текста, ~472 миллиона символов, ~75 миллионов токенов BPE-16k.**
+
+61 автор:
+
+### Классическая проза XIX века (37 авторов)
+Чехов, Толстой, Достоевский, Тургенев, Гоголь, Лесков, Бунин, Куприн,
+Андреев, Гончаров, Салтыков-Щедрин, Короленко, Гаршин, Лермонтов, Грибоедов,
+Островский, Аксаков С. Т., Помяловский, Решетников, Слепцов, Мамин-Сибиряк,
+Глеб Успенский, Григорович, Загоскин, Боборыкин, Вересаев, Эртель,
+Марко Вовчок, Данилевский, Крестовский, Потапенко.
+
+### Серебряный век (17 авторов)
+Андрей Белый, Брюсов, Ремизов, Мережковский, Гиппиус, Розанов, Шмелёв,
+Зайцев, Сологуб, Арцыбашев, Бальмонт, Блок, Анненский, Амфитеатров,
+Аверченко, Тэффи.
+
+### Литературная критика и публицистика
+Белинский, Добролюбов, Писарев, Герцен, Чернышевский.
+
+### Поэты-переводчики XIX века
+Жуковский, Майков, Фет, Тютчев, Вяземский, Полонский, Апухтин, Плещеев,
+Надсон, Никитин.
+
+## Распределение объёма по топ-10 авторам
+
+| Автор | Размер (МБ) |
+|---|---|
+| Розанов | 29.1 |
+| Достоевский | 28.4 |
+| Чернышевский | 24.5 |
+| Толстой | 21.7 |
+| Гоголь | 20.0 |
+| Тургенев | 19.1 |
+| Амфитеатров | 19.1 |
+| Чехов | 16.0 |
+| Лесков | 16.2 |
+| Белинский | 15.3 |
+
+## Препроцессинг
+
+Сырой корпус 1.22 ГБ → чистый 508 МБ (после удаления шума на 26%).
+
+**Шаги очистки:**
+
+1. **Парсинг lib.ru** — обход страниц авторов, извлечение HTML основного текста.
+2. **Удаление редакторского аппарата** академических изданий: текстологические комментарии, варианты разночтений, описания рукописей, ссылки на архивы (ЦГАЛИ, РГАЛИ, ГПБ, ИРЛИ), библиографические сноски.
+3. **Удаление переписки шапок** в форматах «АВТОР — АДРЕСАТ» и «А. Н. ИВАНОВУ» (КАПС).
+4. **Транслитерация дореформенной орфографии**: Ѣ→Е, Ѳ→Ф, І→И, конечный Ъ после согласных снят. Спасает корпуса Мамина-Сибиряка, Вяземского, Потапенко, у которых издание целиком в старой орфографии.
+5. **Удаление иностранных строк** (адреса, подписи на латинице).
+6. **Схлопывание точечных строк** Андрея Белого / Сологуба в одно многоточие.
+7. **Удаление навигации lib.ru** (меню разделов, рекомендации).
+8. **Удаление сносок-переводов** вида «* по преимуществу (франц.)».
+
+**Нормализация перед токенизацией:**
+
+- ё → е, Ё → Е (регистр сохраняется)
+- Унификация кавычек: " " „ → « »
+- Унификация тире: – , -- → —
+- Многоточие ... → …
+
+## Файлы
+
+- **`corpus_clean.txt`** — основной файл, всё в одном (508 МБ, UTF-8)
+- **`corpus_clean.norm.txt`** — нормализованная версия (после ё→е, унификации кавычек/тире) — рекомендуется для обучения BPE
+- **`per_author/`** — отдельный файл на каждого автора, для возможности фильтрации по подмножеству
+- **`spm_16k.model`** — обученный sentencepiece BPE токенизатор (vocab=16000)
+- **`spm_16k.vocab`** — список токенов с scores
+
+## Использование
+
+### Загрузка через `datasets`
+
+```python
+from datasets import load_dataset
+
+ds = load_dataset("USERNAME/russian-classics", split="train")
+print(ds[0]["text"][:500])
+```
+
+### Загрузка одного автора
+
+```python
+from huggingface_hub import hf_hub_download
+
+path = hf_hub_download(
+    repo_id="USERNAME/russian-classics",
+    filename="per_author/chekhov.txt",
+    repo_type="dataset",
+)
+text = open(path, encoding="utf-8").read()
+```
+
+### Обучение токенизатора (если хочется свой)
+
+```python
+import sentencepiece as spm
+
+spm.SentencePieceTrainer.train(
+    input="corpus_clean.norm.txt",
+    model_prefix="my_spm",
+    vocab_size=16000,
+    model_type="bpe",
+    character_coverage=1.0,
+    byte_fallback=True,
+    user_defined_symbols=["—", "«", "»", "…"],
+)
+```
+
+## Что в корпусе НЕТ
+
+- Поэтические тексты Пушкина и переводов отдельным файлом — только проза и смешанный корпус поэтов-переводчиков.
+- Современная литература после 1930 года.
+- Тексты, оригинально написанные на других языках (даже если автор русский — например, ранние французские письма Тургенева исключены).
+- Аппарат академических изданий: примечания, разночтения, описания рукописей удалены.
+- Дублирующиеся редакции одних произведений — взята одна версия с lib.ru.
+
+## Стилистические особенности
+
+- **Преобладает проза**, хотя у поэтов-переводчиков (Жуковский, Фет) присутствуют стихотворные формы. Модели, обученные на корпусе, могут переключаться между прозаическим и поэтическим режимом по сигналу коротких строк.
+- **Сильное влияние нескольких голосов**: Розанов (29 МБ эссеистики афоризмами), Чернышевский (24 МБ публицистики), Достоевский (28 МБ романов и писем). Модель будет «звучать» как смесь этих голосов.
+- **Естественные иностранные вкрапления** в русских текстах (французский в дворянской прозе, латинские эпиграфы) сохранены — это часть стилистики эпохи.
+- **Жанровое разнообразие** включает прозу, пьесы, переписку, литературную критику, дневники, философские эссе. Это отражено в смешанной типографике корпуса (имена персонажей блоком в пьесах, обращения в письмах, и т. д.).
+
+## Ограничения и предостережения
+
+- **Не предназначен для современных задач** (вопросно-ответные системы, фактологические запросы): модели на нём учат стилю, а не фактам.
+- **Идеологические и социальные взгляды** XIX века **отражены без правок**. В частности, тексты содержат архаичные представления о социальных классах, гендерных ролях, межнациональных отношениях, и религиозных вопросах. Корпус — исторический материал, не образец современных норм.
+- **Возможны редкие OCR-артефакты**, оставшиеся после lib.ru-сканирования. Для подавляющего большинства текстов чистота высокая, но идеала нет.
+- **Лицензионный статус**: исходные тексты находятся в общественном достоянии (PD) по российскому и международному праву (авторы умерли более 70 лет назад). Корпус как сборка распространяется под CC0.
+
+## Источник
+
+Все тексты собраны с **az.lib.ru** (lib.ru/Классика) — крупнейшей открытой библиотеки русской классики.
+
+## Цитирование
+
+Если используешь этот корпус в исследованиях, можешь указать:
+
+```bibtex
+@misc{russian_classics_corpus_2026,
+  author       = {USERNAME},
+  title        = {Russian Classical Literature Corpus (XIX — early XX century)},
+  year         = {2026},
+  publisher    = {Hugging Face},
+  howpublished = {\url{https://huggingface.co/datasets/USERNAME/russian-classics}},
+}
+```
+
+## История версий
+
+- **v1.0** (2026-05) — первичная публикация. 61 автор, 508 МБ чистого текста, 16k BPE-словарь.
+
+## Связанные репозитории
+
+- **Модели, обученные на корпусе** (если планируешь публиковать):
+  - `USERNAME/nanogpt-classics-50m` — 46M параметров, BPE
+  - `USERNAME/nanogpt-classics-100m` — 100M параметров, BPE
+  - `USERNAME/nanogpt-chekhov-10m-char` — 10M параметров, char-level (только Чехов)
+- **Код для парсинга и очистки**: см. ссылку на статью / GitHub.

corpus_clean.norm.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:7358ec5b441950359dcb34f916e5822df0e07d25dce4f008597d931e9d9bb1db
+size 910421439

corpus_clean.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5718878edb1a6cbad50b6fd9fe725ba6d3aba9fdd525b7bec46b6e280a939a79
+size 908778710

per_author/amphiteatrov.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b1ccd6570554cfecc942ddb6288a1f09078e30e8afaea68a0907177624f1cc63
+size 34330470

per_author/andreev.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cff4d54da59eef9a27218cc7f92f90d4b79ba472be6cdd33168a2e42daaa1753
+size 14975647

per_author/andrey_bely.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:12ec39da7edde1e605839994d862aec8366170dfd3c9342a2ff02da3501a942a
+size 23962611

per_author/belinsky.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2df5546c869aece60c1aa0045294c0f37c33d7d75e2e89df5b6d5ba76425b32b
+size 27683124

per_author/boborykin.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:fdde0b0f747973e15ca42e5d698d7bdad11df5292f32ba253d355bfd5c09ed9d
+size 19203187

per_author/bryusov.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:73de356ddf08f5cf1da7c4b4b0742a014886b3666a12dbc03cab96945450b722
+size 11725366

per_author/bunin.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cb62da116188adccc959778ed3ccc90ecd9126aff9ff52b2374118d8224b119d
+size 11082083

per_author/chekhov.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5dda473b7b204076a0b7991aecc23eff38dac43a47dd9f4b9c072344c1907b89
+size 28509655

per_author/chernyshevsky.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:59689d1c4f3f2397d38afe1e62d1bbfb43186174974139bb3054b7f61efe6638
+size 44277839

per_author/dobrolyubov.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6fd0b2fc54797c18682176a16c82a5abc5b97f5ce3aaee306586c0e2d208fd29
+size 19844523

per_author/dostoevsky.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e79341378e2a0557e31531b1dc6ea9c30de5ff8d27773fac001f7bcbe52cfee6
+size 50538243

per_author/fet.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:17c57832a7a799a5028872e6fa3e776317e44be4cc7ee6d1b84f6f35efeee44b
+size 11168373

per_author/gippius.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:45a1d3ccb50b6d298e4169af04cdf50af67dcf0ba13d00111f402264c4336796
+size 14316758

per_author/gogol.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:4fde5607467748a291a3ddf066f86c157156960954aa3dc863296e0ac961bc38
+size 36175512

per_author/goncharov.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f49c66a4973bbf19df02609f9cc917f2127737fd51370491bec484e91ab0cfd7
+size 13828965

per_author/herzen.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:bb50eaa1e227216def297be186c73439ce89eefbbdb8c69c44290ab048c318bf
+size 18924190

per_author/korolenko.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:0ac2076498f1f47ebb7eadb3444a44c36aceb0fcc1af3135fac2299fbdba5523
+size 20626615

per_author/krestovsky.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:49e60f4615d3ac07d9f1e1b82e730065e40b751b4aebce9109cca7c3523225a5
+size 15172044

per_author/kuprin.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c33375b698a8af91697a5df185712d593db922baf0abc94e52f974e20779fba8
+size 14755201

per_author/leskov.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a41288fc6501565cd69678b6e6f9cb9a7091c9adcf9ef3e445e83e1c2153565d
+size 28957415

per_author/mamin_sibiryak.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:64a1a5bbd5da1a79578b05184286140405b4f32b95e4c897deb4ad6086d729be
+size 13461952

per_author/merezhkovsky.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e8df2ebc6a0cd93785e8ed390d997794b74bc37ba495487a649389a2006df915
+size 17374011

per_author/ostrovsky.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cbe8681227195ca93db1370e84c665b8af4606c36ac791a061466fb3545e4f7b
+size 15835912

per_author/pisarev.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3f120d25e293620e4fc71c3813d31dacbc9838cdf4efc4b31f08840629b447cf
+size 18433385

per_author/potapenko.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3363a09000060c6358ac238aebcf9364911c54de6ef8d80e22bb10b28160f3aa
+size 12069002