Update README.md
Browse files
README.md
CHANGED
|
@@ -69,7 +69,7 @@ configs:
|
|
| 69 |
|
| 70 |
## Препроцессинг
|
| 71 |
|
| 72 |
-
Сырой корпус 1.22 ГБ → чистый
|
| 73 |
|
| 74 |
**Шаги очистки:**
|
| 75 |
|
|
@@ -91,7 +91,7 @@ configs:
|
|
| 91 |
|
| 92 |
## Файлы
|
| 93 |
|
| 94 |
-
- **`corpus_clean.txt`** — основной файл, всё в одном (
|
| 95 |
- **`corpus_clean.norm.txt`** — нормализованная версия (после ё→е, унификации кавычек/тире) — рекомендуется для обучения BPE
|
| 96 |
- **`per_author/`** — отдельный файл на каждого автора, для возможности фильтрации по подмножеству
|
| 97 |
- **`spm_16k.model`** — обученный sentencepiece BPE токенизатор (vocab=16000)
|
|
@@ -148,7 +148,7 @@ spm.SentencePieceTrainer.train(
|
|
| 148 |
## Стилистические особенности
|
| 149 |
|
| 150 |
- **Преобладает проза**, хотя у поэтов-переводчиков (Жуковский, Фет) присутствуют стихотворные формы. Модели, обученные на корпусе, могут переключаться между прозаическим и поэтическим режимом по сигналу коротких строк.
|
| 151 |
-
- **Сильное влияние нескольких голосов**: Розанов (
|
| 152 |
- **Естественные иностранные вкрапления** в русских текстах (французский в дворянской прозе, латинские эпиграфы) сохранены — это часть стилистики эпохи.
|
| 153 |
- **Жанровое разнообразие** включает прозу, пьесы, переписку, литературную критику, дневники, философские эссе. Это отражено в смешанной типографике корпуса (имена персонажей блоком в пьесах, обращения в письмах, и т. д.).
|
| 154 |
|
|
@@ -179,7 +179,7 @@ spm.SentencePieceTrainer.train(
|
|
| 179 |
|
| 180 |
## История версий
|
| 181 |
|
| 182 |
-
- **v1.0** (2026-05) — первичная публикация. 61 автор,
|
| 183 |
|
| 184 |
## Связанные репозитории
|
| 185 |
|
|
|
|
| 69 |
|
| 70 |
## Препроцессинг
|
| 71 |
|
| 72 |
+
Сырой корпус 1.22 ГБ → чистый 866 МБ (после удаления шума на 26%).
|
| 73 |
|
| 74 |
**Шаги очистки:**
|
| 75 |
|
|
|
|
| 91 |
|
| 92 |
## Файлы
|
| 93 |
|
| 94 |
+
- **`corpus_clean.txt`** — основной файл, всё в одном (866 МБ, UTF-8)
|
| 95 |
- **`corpus_clean.norm.txt`** — нормализованная версия (после ё→е, унификации кавычек/тире) — рекомендуется для обучения BPE
|
| 96 |
- **`per_author/`** — отдельный файл на каждого автора, для возможности фильтрации по подмножеству
|
| 97 |
- **`spm_16k.model`** — обученный sentencepiece BPE токенизатор (vocab=16000)
|
|
|
|
| 148 |
## Стилистические особенности
|
| 149 |
|
| 150 |
- **Преобладает проза**, хотя у поэтов-переводчиков (Жуковский, Фет) присутствуют стихотворные формы. Модели, обученные на корпусе, могут переключаться между прозаическим и поэтическим режимом по сигналу коротких строк.
|
| 151 |
+
- **Сильное влияние нескольких голосов**: Розанов (51 МБ эссеистики афоризмами), Чернышевский (43 МБ публицистики), Достоевский (49 МБ романов и писем). Модель будет «звучать» как смесь этих голосов.
|
| 152 |
- **Естественные иностранные вкрапления** в русских текстах (французский в дворянской прозе, латинские эпиграфы) сохранены — это часть стилистики эпохи.
|
| 153 |
- **Жанровое разнообразие** включает прозу, пьесы, переписку, литературную критику, дневники, философские эссе. Это отражено в смешанной типографике корпуса (имена персонажей блоком в пьесах, обращения в письмах, и т. д.).
|
| 154 |
|
|
|
|
| 179 |
|
| 180 |
## История версий
|
| 181 |
|
| 182 |
+
- **v1.0** (2026-05) — первичная публикация. 61 автор, 866 МБ чистого текста, 16k BPE-словарь.
|
| 183 |
|
| 184 |
## Связанные репозитории
|
| 185 |
|