|
|
--- |
|
|
dataset_info: |
|
|
features: |
|
|
- name: sentences |
|
|
dtype: string |
|
|
- name: tokens |
|
|
dtype: string |
|
|
- name: bigrams |
|
|
dtype: string |
|
|
splits: |
|
|
- name: train |
|
|
num_bytes: 2027746 |
|
|
num_examples: 5206 |
|
|
download_size: 93846 |
|
|
dataset_size: 2027746 |
|
|
configs: |
|
|
- config_name: default |
|
|
data_files: |
|
|
- split: train |
|
|
path: data/train-* |
|
|
license: mit |
|
|
language: |
|
|
- en |
|
|
pretty_name: segmented dataset |
|
|
--- |
|
|
|
|
|
# Датасет с сегментированным текстом |
|
|
|
|
|
Датасет содержит текст, сегментированный по предложениям, словам и биграммам. |
|
|
|
|
|
## Описание датасета |
|
|
|
|
|
### Статистический анализ |
|
|
|
|
|
Проведено 4 типа статистического анализа: |
|
|
|
|
|
- Анализ лексического разнообразия (метрики TTR, HLR) |
|
|
- Анализ частоты POS-тегов |
|
|
- Анализ длин предложений, слов и биграмм |
|
|
- Анализ совместной встречаемости |
|
|
|
|
|
### Результаты |
|
|
|
|
|
- Текст характеризуется низким уровнем лексического разнообразия (TTR = 0.00300578364055956, HLR = 0) |
|
|
- Наблюдается высокий коэффициент статичности, выраженный в преобладании именных форм над глагольными |
|
|
- Длины предложений распределены неравномерно |
|
|
|
|
|
 |
|
|
 |
|
|
 |
|
|
 |
|
|
 |
|
|
 |
|
|
 |
