---
license: mit
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
dataset_info:
  features:
  - name: sentence
    dtype: string
  - name: word
    dtype: string
  - name: bigram
    dtype: string
  splits:
  - name: train
    num_bytes: 586050
    num_examples: 6394
  download_size: 380897
  dataset_size: 586050
task_categories:
- text-generation
language:
- en
tags:
- linguistics
- text_processing
pretty_name: harry potter dataset
size_categories:
- 10K<n<100K
---
# Статистический анализ и визуализация

## Описание

Данный датасет представляет результат статистического анализа текста книги *"Harry Potter and the Philosopher's Stone"*, выполненного с использованием различных методов обработки естественного языка. В процессе анализа были проведены три ключевых типа анализа:

1. **Анализ уникальности данных**: Оценка доли уникальных слов в корпусе текста и вычисление коэффициента лексического разнообразия.
2. **Анализ частоты POS-тегов**: Изучение частоты встречаемости грамматических категорий (частей речи) в тексте.
3. **TF-IDF анализ**: Определение ключевых слов в тексте с помощью метрики TF-IDF, что помогает выделить наиболее значимые термины.

## 1. Анализ уникальности данных
Этот анализ позволил изучить, насколько разнообразен текст с точки зрения лексики, с фокусом на:
- **Долю уникальных слов**: Какую часть от общего количества слов составляют уникальные слова.
- **Коэффициент лексического разнообразия (TTR)**: Это отношение числа уникальных слов к общему количеству слов в тексте, что дает представление о разнообразии используемой лексики.

**Выводы**: Анализ показал, что текст имеет тносительно низкий показатель для большинства текстов. Он может свидетельствовать о том, что текст содержит много повторяющихся слов, и возможно, включает в себя большое количество стоп-слов или слов, используемых часто в повторяющихся контекстах.

## 2. Анализ частоты POS-тегов
Этот анализ был проведен с использованием библиотеки Spacy для извлечения грамматических категорий (частей речи) текста, что позволяет понять, как часто используются различные части речи (например, существительные, глаголы, прилагательные и т. д.).

**Выводы**: Частотный анализ POS-тегов помог выявить наиболее часто встречающиеся части речи, что может дать представление о структуре текста. Например, доминирование существительных и глаголов может указывать на более фактический или описательный характер текста.
- **Пунктуация (PUNCT)** на первом месте — это обычное явление, если текст сложный или включает длинные предложения с множеством зависимых элементов.
- **Глаголы (VERB)** и **существительные (NOUN)** занимают высокие позиции, что говорит о динамичности текста и активном описании событий или объектов.
- **Местоимения (PRON)** также в топе, что может говорить о высоком уровне повторяемости понятий и объектов, о которых уже говорилось в тексте.
- **Предлоги (ADP)** свидетельствуют о наличии сложных отношений между словами в предложении.


## 3. TF-IDF анализ
Используя метрику **TF-IDF (Term Frequency-Inverse Document Frequency)**, был проведен анализ ключевых слов в тексте. Этот метод помогает выделить наиболее важные и значимые слова, игнорируя часто встречающиеся, но не информативные термины (например, стоп-слова).

**Выводы**: TF-IDF анализ помог определить топовые ключевые слова в тексте, что может быть полезно для дальнейшей классификации или извлечения информации из текста. Тренды, выявленные с помощью TF-IDF, отражают важнейшие термины, которые характеризуют содержание текста.

## Визуализация
1. **Гистограмма частоты слов**: Гистограмма, отображающая 20 самых частых слов в тексте (без учета стоп-слов). Это позволяет увидеть, какие слова доминируют в тексте и имеют наибольшее значение.

![image/png](https://cdn-uploads.huggingface.co/production/uploads/670f90e7850f3e26579bd981/vC75S457TDKQpqPqLmyV2.png)

Для более репрезентативной визуализации данных анализа также были построены графики с удаленными стоп-словами:

![image/png](https://cdn-uploads.huggingface.co/production/uploads/670f90e7850f3e26579bd981/1R19RDJALyoAymdQSm7UY.png)

2. **Облако слов**

![image/png](https://cdn-uploads.huggingface.co/production/uploads/670f90e7850f3e26579bd981/6H2_YBjRTMtfItVmiNIYf.png)

Без учета стоп-слов:

![image/png](https://cdn-uploads.huggingface.co/production/uploads/670f90e7850f3e26579bd981/rBsS5EgnAOJvYnka8R_I3.png)

3. **Облако ключевых слов**: Облако слов, созданное на основе анализа TF-IDF, помогает визуализировать наиболее важные слова, выделенные в тексте, что дает наглядное представление о ключевых терминах.

![image/png](https://cdn-uploads.huggingface.co/production/uploads/670f90e7850f3e26579bd981/smN5gVkTFHD6TvNDDSP5p.png)

Без учета стоп-слов:

![image/png](https://cdn-uploads.huggingface.co/production/uploads/670f90e7850f3e26579bd981/FASHsfBIk-c01Yq6XaTKJ.png)