File size: 2,410 Bytes
a2a6c65 a9e1e52 a2a6c65 25d1727 6ec979e a9e1e52 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 |
---
dataset_info:
features:
- name: sentences
dtype: string
- name: tokens
dtype: string
- name: bigrams
dtype: string
splits:
- name: train
num_bytes: 2027746
num_examples: 5206
download_size: 93846
dataset_size: 2027746
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
license: mit
language:
- en
pretty_name: segmented dataset
---
# Датасет с сегментированным текстом
Датасет содержит текст, сегментированный по предложениям, словам и биграммам.
## Описание датасета
### Статистический анализ
Проведено 4 типа статистического анализа:
- Анализ лексического разнообразия (метрики TTR, HLR)
- Анализ частоты POS-тегов
- Анализ длин предложений, слов и биграмм
- Анализ совместной встречаемости
### Результаты
- Текст характеризуется низким уровнем лексического разнообразия (TTR = 0.00300578364055956, HLR = 0)
- Наблюдается высокий коэффициент статичности, выраженный в преобладании именных форм над глагольными
- Длины предложений распределены неравномерно
 |