Update README.md
Browse files
README.md
CHANGED
|
@@ -29,7 +29,7 @@ configs:
|
|
| 29 |
|
| 30 |
## Состав
|
| 31 |
|
| 32 |
-
**
|
| 33 |
|
| 34 |
61 автор:
|
| 35 |
|
|
@@ -52,20 +52,16 @@ configs:
|
|
| 52 |
Жуковский, Майков, Фет, Тютчев, Вяземский, Полонский, Апухтин, Плещеев,
|
| 53 |
Надсон, Никитин.
|
| 54 |
|
| 55 |
-
## Распределение объёма по топ-
|
| 56 |
|
| 57 |
| Автор | Размер (МБ) |
|
| 58 |
|---|---|
|
| 59 |
-
| Розанов |
|
| 60 |
-
| Достоевский |
|
| 61 |
-
| Чернышевский |
|
| 62 |
-
| Толстой |
|
| 63 |
-
| Гоголь |
|
| 64 |
-
|
| 65 |
-
| Амфитеатров | 19.1 |
|
| 66 |
-
| Чехов | 16.0 |
|
| 67 |
-
| Лесков | 16.2 |
|
| 68 |
-
| Белинский | 15.3 |
|
| 69 |
|
| 70 |
## Препроцессинг
|
| 71 |
|
|
@@ -155,7 +151,6 @@ spm.SentencePieceTrainer.train(
|
|
| 155 |
## Ограничения и предостережения
|
| 156 |
|
| 157 |
- **Не предназначен для современных задач** (вопросно-ответные системы, фактологические запросы): модели на нём учат стилю, а не фактам.
|
| 158 |
-
- **Идеологические и социальные взгляды** XIX века **отражены без правок**. В частности, тексты содержат архаичные представления о социальных классах, гендерных ролях, межнациональных отношениях, и религиозных вопросах. Корпус — исторический материал, не образец современных норм.
|
| 159 |
- **Возможны редкие OCR-артефакты**, оставшиеся после lib.ru-сканирования. Для подавляющего большинства текстов чистота высокая, но идеала нет.
|
| 160 |
- **Лицензионный статус**: исходные тексты находятся в общественном достоянии (PD) по российскому и международному праву (авторы умерли более 70 лет назад). Корпус как сборка распространяется под CC0.
|
| 161 |
|
|
@@ -181,10 +176,3 @@ spm.SentencePieceTrainer.train(
|
|
| 181 |
|
| 182 |
- **v1.0** (2026-05) — первичная публикация. 61 автор, 866 МБ чистого текста, 16k BPE-словарь.
|
| 183 |
|
| 184 |
-
## Связанные репозитории
|
| 185 |
-
|
| 186 |
-
- **Модели, обученные на корпусе** (если планируешь публиковать):
|
| 187 |
-
- `USERNAME/nanogpt-classics-50m` — 46M параметров, BPE
|
| 188 |
-
- `USERNAME/nanogpt-classics-100m` — 100M параметров, BPE
|
| 189 |
-
- `USERNAME/nanogpt-chekhov-10m-char` — 10M параметров, char-level (только Чехов)
|
| 190 |
-
- **Код для парсинга и очистки**: см. ссылку на статью / GitHub.
|
|
|
|
| 29 |
|
| 30 |
## Состав
|
| 31 |
|
| 32 |
+
**866 МБ чистого текста.**
|
| 33 |
|
| 34 |
61 автор:
|
| 35 |
|
|
|
|
| 52 |
Жуковский, Майков, Фет, Тютчев, Вяземский, Полонский, Апухтин, Плещеев,
|
| 53 |
Надсон, Никитин.
|
| 54 |
|
| 55 |
+
## Распределение объёма по топ-5 авторам
|
| 56 |
|
| 57 |
| Автор | Размер (МБ) |
|
| 58 |
|---|---|
|
| 59 |
+
| Розанов | 51 |
|
| 60 |
+
| Достоевский | 49|
|
| 61 |
+
| Чернышевский | 43 |
|
| 62 |
+
| Толстой | 38 |
|
| 63 |
+
| Гоголь | 35 |
|
| 64 |
+
|
|
|
|
|
|
|
|
|
|
|
|
|
| 65 |
|
| 66 |
## Препроцессинг
|
| 67 |
|
|
|
|
| 151 |
## Ограничения и предостережения
|
| 152 |
|
| 153 |
- **Не предназначен для современных задач** (вопросно-ответные системы, фактологические запросы): модели на нём учат стилю, а не фактам.
|
|
|
|
| 154 |
- **Возможны редкие OCR-артефакты**, оставшиеся после lib.ru-сканирования. Для подавляющего большинства текстов чистота высокая, но идеала нет.
|
| 155 |
- **Лицензионный статус**: исходные тексты находятся в общественном достоянии (PD) по российскому и международному праву (авторы умерли более 70 лет назад). Корпус как сборка распространяется под CC0.
|
| 156 |
|
|
|
|
| 176 |
|
| 177 |
- **v1.0** (2026-05) — первичная публикация. 61 автор, 866 МБ чистого текста, 16k BPE-словарь.
|
| 178 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|