README.md

metadata

dataset_info:
  features:
    - name: sentences
      dtype: string
    - name: tokens
      dtype: string
    - name: bigrams
      dtype: string
  splits:
    - name: train
      num_bytes: 2027746
      num_examples: 5206
  download_size: 93846
  dataset_size: 2027746
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
license: mit
language:
  - en
pretty_name: segmented dataset

Датасет с сегментированным текстом

Датасет содержит текст, сегментированный по предложениям, словам и биграммам.

Описание датасета

Статистический анализ

Проведено 4 типа статистического анализа:

• Анализ лексического разнообразия (метрики TTR, HLR)
• Анализ частоты POS-тегов
• Анализ длин предложений, слов и биграмм
• Анализ совместной встречаемости

Результаты

• Текст характеризуется низким уровнем лексического разнообразия (TTR = 0.00300578364055956, HLR = 0)
• Наблюдается высокий коэффициент статичности, выраженный в преобладании именных форм над глагольными
• Длины предложений распределены неравномерно