Update README.md
Browse files
README.md
CHANGED
|
@@ -19,3 +19,32 @@ configs:
|
|
| 19 |
- split: train
|
| 20 |
path: data/train-*
|
| 21 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 19 |
- split: train
|
| 20 |
path: data/train-*
|
| 21 |
---
|
| 22 |
+
|
| 23 |
+
# Датасет с сегментированным текстом
|
| 24 |
+
|
| 25 |
+
Датасет содержит текст, сегментированный по предложениям, словам и биграммам.
|
| 26 |
+
|
| 27 |
+
## Описание датасета
|
| 28 |
+
|
| 29 |
+
### Статистический анализ
|
| 30 |
+
|
| 31 |
+
Проведено 4 типа статистического анализа:
|
| 32 |
+
|
| 33 |
+
- Анализ лексического разнообразия (метрики TTR, HLR)
|
| 34 |
+
- Анализ частоты POS-тегов
|
| 35 |
+
- Анализ длин предложений, слов и биграмм
|
| 36 |
+
- Анализ совместной встречаемости
|
| 37 |
+
|
| 38 |
+
### Результаты
|
| 39 |
+
|
| 40 |
+
- Текст характеризуется низким уровнем лексического разнообразия (TTR = 0.00300578364055956, HLR = 0)
|
| 41 |
+
- Наблюдается высокий коэффициент статичности, выраженный в преобладании именных форм над глагольными
|
| 42 |
+
- Длины предложений распределены неравномерно
|
| 43 |
+
|
| 44 |
+
|
| 45 |
+
|
| 46 |
+
|
| 47 |
+
|
| 48 |
+
|
| 49 |
+
|
| 50 |
+
|