Imperius commited on
Commit
b7d8c11
·
verified ·
1 Parent(s): 1447a55

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +4 -4
README.md CHANGED
@@ -69,7 +69,7 @@ configs:
69
 
70
  ## Препроцессинг
71
 
72
- Сырой корпус 1.22 ГБ → чистый 508 МБ (после удаления шума на 26%).
73
 
74
  **Шаги очистки:**
75
 
@@ -91,7 +91,7 @@ configs:
91
 
92
  ## Файлы
93
 
94
- - **`corpus_clean.txt`** — основной файл, всё в одном (508 МБ, UTF-8)
95
  - **`corpus_clean.norm.txt`** — нормализованная версия (после ё→е, унификации кавычек/тире) — рекомендуется для обучения BPE
96
  - **`per_author/`** — отдельный файл на каждого автора, для возможности фильтрации по подмножеству
97
  - **`spm_16k.model`** — обученный sentencepiece BPE токенизатор (vocab=16000)
@@ -148,7 +148,7 @@ spm.SentencePieceTrainer.train(
148
  ## Стилистические особенности
149
 
150
  - **Преобладает проза**, хотя у поэтов-переводчиков (Жуковский, Фет) присутствуют стихотворные формы. Модели, обученные на корпусе, могут переключаться между прозаическим и поэтическим режимом по сигналу коротких строк.
151
- - **Сильное влияние нескольких голосов**: Розанов (29 МБ эссеистики афоризмами), Чернышевский (24 МБ публицистики), Достоевский (28 МБ романов и писем). Модель будет «звучать» как смесь этих голосов.
152
  - **Естественные иностранные вкрапления** в русских текстах (французский в дворянской прозе, латинские эпиграфы) сохранены — это часть стилистики эпохи.
153
  - **Жанровое разнообразие** включает прозу, пьесы, переписку, литературную критику, дневники, философские эссе. Это отражено в смешанной типографике корпуса (имена персонажей блоком в пьесах, обращения в письмах, и т. д.).
154
 
@@ -179,7 +179,7 @@ spm.SentencePieceTrainer.train(
179
 
180
  ## История версий
181
 
182
- - **v1.0** (2026-05) — первичная публикация. 61 автор, 508 МБ чистого текста, 16k BPE-словарь.
183
 
184
  ## Связанные репозитории
185
 
 
69
 
70
  ## Препроцессинг
71
 
72
+ Сырой корпус 1.22 ГБ → чистый 866 МБ (после удаления шума на 26%).
73
 
74
  **Шаги очистки:**
75
 
 
91
 
92
  ## Файлы
93
 
94
+ - **`corpus_clean.txt`** — основной файл, всё в одном (866 МБ, UTF-8)
95
  - **`corpus_clean.norm.txt`** — нормализованная версия (после ё→е, унификации кавычек/тире) — рекомендуется для обучения BPE
96
  - **`per_author/`** — отдельный файл на каждого автора, для возможности фильтрации по подмножеству
97
  - **`spm_16k.model`** — обученный sentencepiece BPE токенизатор (vocab=16000)
 
148
  ## Стилистические особенности
149
 
150
  - **Преобладает проза**, хотя у поэтов-переводчиков (Жуковский, Фет) присутствуют стихотворные формы. Модели, обученные на корпусе, могут переключаться между прозаическим и поэтическим режимом по сигналу коротких строк.
151
+ - **Сильное влияние нескольких голосов**: Розанов (51 МБ эссеистики афоризмами), Чернышевский (43 МБ публицистики), Достоевский (49 МБ романов и писем). Модель будет «звучать» как смесь этих голосов.
152
  - **Естественные иностранные вкрапления** в русских текстах (французский в дворянской прозе, латинские эпиграфы) сохранены — это часть стилистики эпохи.
153
  - **Жанровое разнообразие** включает прозу, пьесы, переписку, литературную критику, дневники, философские эссе. Это отражено в смешанной типографике корпуса (имена персонажей блоком в пьесах, обращения в письмах, и т. д.).
154
 
 
179
 
180
  ## История версий
181
 
182
+ - **v1.0** (2026-05) — первичная публикация. 61 автор, 866 МБ чистого текста, 16k BPE-словарь.
183
 
184
  ## Связанные репозитории
185