---
dataset_info:
  features:
  - name: sentences
    dtype: string
  - name: tokens
    dtype: string
  - name: bigrams
    dtype: string
  splits:
  - name: train
    num_bytes: 2027746
    num_examples: 5206
  download_size: 93846
  dataset_size: 2027746
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
license: mit
language:
- en
pretty_name: segmented dataset
---

# Датасет с сегментированным текстом

Датасет содержит текст, сегментированный по предложениям, словам и биграммам.

## Описание датасета

### Статистический анализ

Проведено 4 типа статистического анализа:

- Анализ лексического разнообразия (метрики TTR, HLR)
- Анализ частоты POS-тегов
- Анализ длин предложений, слов и биграмм
- Анализ совместной встречаемости

### Результаты

- Текст характеризуется низким уровнем лексического разнообразия (TTR = 0.00300578364055956, HLR = 0)
- Наблюдается высокий коэффициент статичности, выраженный в преобладании именных форм над глагольными
- Длины предложений распределены неравномерно

![sentence_len.png](https://cdn-uploads.huggingface.co/production/uploads/670f90f51ea94e2281cda248/GsGFuQNLdNTldfBiHYkaX.png)
![word_len.png](https://cdn-uploads.huggingface.co/production/uploads/670f90f51ea94e2281cda248/WJ9MJ5kU1J1im1f-yyGYb.png)
![ngram_len.png](https://cdn-uploads.huggingface.co/production/uploads/670f90f51ea94e2281cda248/9us2G0KcnM4SYP3DRfET2.png)
![word_cloud.png](https://cdn-uploads.huggingface.co/production/uploads/670f90f51ea94e2281cda248/zQlKdRNOTIkJbcwwD3oH2.png)
![word_frequency_plot.png](https://cdn-uploads.huggingface.co/production/uploads/670f90f51ea94e2281cda248/ce7mhylFWXRc8F73OWk30.png)
![pos_distribution.png](https://cdn-uploads.huggingface.co/production/uploads/670f90f51ea94e2281cda248/KIoQv-xNtv2ETOglZv2yn.png)
![coocurence_matrix.png](https://cdn-uploads.huggingface.co/production/uploads/670f90f51ea94e2281cda248/Kqqz8jYmJdtOaIxSg4RGR.png)