|
|
--- |
|
|
license: mit |
|
|
configs: |
|
|
- config_name: default |
|
|
data_files: |
|
|
- split: train |
|
|
path: data/train-* |
|
|
dataset_info: |
|
|
features: |
|
|
- name: sentence |
|
|
dtype: string |
|
|
- name: word |
|
|
dtype: string |
|
|
- name: bigram |
|
|
dtype: string |
|
|
splits: |
|
|
- name: train |
|
|
num_bytes: 586050 |
|
|
num_examples: 6394 |
|
|
download_size: 380897 |
|
|
dataset_size: 586050 |
|
|
task_categories: |
|
|
- text-generation |
|
|
language: |
|
|
- en |
|
|
tags: |
|
|
- linguistics |
|
|
- text_processing |
|
|
pretty_name: harry potter dataset |
|
|
size_categories: |
|
|
- 10K<n<100K |
|
|
--- |
|
|
# Статистический анализ и визуализация |
|
|
|
|
|
## Описание |
|
|
|
|
|
Данный датасет представляет результат статистического анализа текста книги *"Harry Potter and the Philosopher's Stone"*, выполненного с использованием различных методов обработки естественного языка. В процессе анализа были проведены три ключевых типа анализа: |
|
|
|
|
|
1. **Анализ уникальности данных**: Оценка доли уникальных слов в корпусе текста и вычисление коэффициента лексического разнообразия. |
|
|
2. **Анализ частоты POS-тегов**: Изучение частоты встречаемости грамматических категорий (частей речи) в тексте. |
|
|
3. **TF-IDF анализ**: Определение ключевых слов в тексте с помощью метрики TF-IDF, что помогает выделить наиболее значимые термины. |
|
|
|
|
|
## 1. Анализ уникальности данных |
|
|
Этот анализ позволил изучить, насколько разнообразен текст с точки зрения лексики, с фокусом на: |
|
|
- **Долю уникальных слов**: Какую часть от общего количества слов составляют уникальные слова. |
|
|
- **Коэффициент лексического разнообразия (TTR)**: Это отношение числа уникальных слов к общему количеству слов в тексте, что дает представление о разнообразии используемой лексики. |
|
|
|
|
|
**Выводы**: Анализ показал, что текст имеет тносительно низкий показатель для большинства текстов. Он может свидетельствовать о том, что текст содержит много повторяющихся слов, и возможно, включает в себя большое количество стоп-слов или слов, используемых часто в повторяющихся контекстах. |
|
|
|
|
|
## 2. Анализ частоты POS-тегов |
|
|
Этот анализ был проведен с использованием библиотеки Spacy для извлечения грамматических категорий (частей речи) текста, что позволяет понять, как часто используются различные части речи (например, существительные, глаголы, прилагательные и т. д.). |
|
|
|
|
|
**Выводы**: Частотный анализ POS-тегов помог выявить наиболее часто встречающиеся части речи, что может дать представление о структуре текста. Например, доминирование существительных и глаголов может указывать на более фактический или описательный характер текста. |
|
|
- **Пунктуация (PUNCT)** на первом месте — это обычное явление, если текст сложный или включает длинные предложения с множеством зависимых элементов. |
|
|
- **Глаголы (VERB)** и **существительные (NOUN)** занимают высокие позиции, что говорит о динамичности текста и активном описании событий или объектов. |
|
|
- **Местоимения (PRON)** также в топе, что может говорить о высоком уровне повторяемости понятий и объектов, о которых уже говорилось в тексте. |
|
|
- **Предлоги (ADP)** свидетельствуют о наличии сложных отношений между словами в предложении. |
|
|
|
|
|
|
|
|
## 3. TF-IDF анализ |
|
|
Используя метрику **TF-IDF (Term Frequency-Inverse Document Frequency)**, был проведен анализ ключевых слов в тексте. Этот метод помогает выделить наиболее важные и значимые слова, игнорируя часто встречающиеся, но не информативные термины (например, стоп-слова). |
|
|
|
|
|
**Выводы**: TF-IDF анализ помог определить топовые ключевые слова в тексте, что может быть полезно для дальнейшей классификации или извлечения информации из текста. Тренды, выявленные с помощью TF-IDF, отражают важнейшие термины, которые характеризуют содержание текста. |
|
|
|
|
|
## Визуализация |
|
|
1. **Гистограмма частоты слов**: Гистограмма, отображающая 20 самых частых слов в тексте (без учета стоп-слов). Это позволяет увидеть, какие слова доминируют в тексте и имеют наибольшее значение. |
|
|
|
|
|
 |
|
|
|
|
|
Для более репрезентативной визуализации данных анализа также были построены графики с удаленными стоп-словами: |
|
|
|
|
|
 |
|
|
|
|
|
2. **Облако слов** |
|
|
|
|
|
 |
|
|
|
|
|
Без учета стоп-слов: |
|
|
|
|
|
 |
|
|
|
|
|
3. **Облако ключевых слов**: Облако слов, созданное на основе анализа TF-IDF, помогает визуализировать наиболее важные слова, выделенные в тексте, что дает наглядное представление о ключевых терминах. |
|
|
|
|
|
 |
|
|
|
|
|
Без учета стоп-слов: |
|
|
|
|
|
 |
