File size: 7,636 Bytes
883b79c bd8596c |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 |
---
license: mit
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
dataset_info:
features:
- name: sentence
dtype: string
- name: word
dtype: string
- name: bigram
dtype: string
splits:
- name: train
num_bytes: 586050
num_examples: 6394
download_size: 380897
dataset_size: 586050
task_categories:
- text-generation
language:
- en
tags:
- linguistics
- text_processing
pretty_name: harry potter dataset
size_categories:
- 10K<n<100K
---
# Статистический анализ и визуализация
## Описание
Данный датасет представляет результат статистического анализа текста книги *"Harry Potter and the Philosopher's Stone"*, выполненного с использованием различных методов обработки естественного языка. В процессе анализа были проведены три ключевых типа анализа:
1. **Анализ уникальности данных**: Оценка доли уникальных слов в корпусе текста и вычисление коэффициента лексического разнообразия.
2. **Анализ частоты POS-тегов**: Изучение частоты встречаемости грамматических категорий (частей речи) в тексте.
3. **TF-IDF анализ**: Определение ключевых слов в тексте с помощью метрики TF-IDF, что помогает выделить наиболее значимые термины.
## 1. Анализ уникальности данных
Этот анализ позволил изучить, насколько разнообразен текст с точки зрения лексики, с фокусом на:
- **Долю уникальных слов**: Какую часть от общего количества слов составляют уникальные слова.
- **Коэффициент лексического разнообразия (TTR)**: Это отношение числа уникальных слов к общему количеству слов в тексте, что дает представление о разнообразии используемой лексики.
**Выводы**: Анализ показал, что текст имеет тносительно низкий показатель для большинства текстов. Он может свидетельствовать о том, что текст содержит много повторяющихся слов, и возможно, включает в себя большое количество стоп-слов или слов, используемых часто в повторяющихся контекстах.
## 2. Анализ частоты POS-тегов
Этот анализ был проведен с использованием библиотеки Spacy для извлечения грамматических категорий (частей речи) текста, что позволяет понять, как часто используются различные части речи (например, существительные, глаголы, прилагательные и т. д.).
**Выводы**: Частотный анализ POS-тегов помог выявить наиболее часто встречающиеся части речи, что может дать представление о структуре текста. Например, доминирование существительных и глаголов может указывать на более фактический или описательный характер текста.
- **Пунктуация (PUNCT)** на первом месте — это обычное явление, если текст сложный или включает длинные предложения с множеством зависимых элементов.
- **Глаголы (VERB)** и **существительные (NOUN)** занимают высокие позиции, что говорит о динамичности текста и активном описании событий или объектов.
- **Местоимения (PRON)** также в топе, что может говорить о высоком уровне повторяемости понятий и объектов, о которых уже говорилось в тексте.
- **Предлоги (ADP)** свидетельствуют о наличии сложных отношений между словами в предложении.
## 3. TF-IDF анализ
Используя метрику **TF-IDF (Term Frequency-Inverse Document Frequency)**, был проведен анализ ключевых слов в тексте. Этот метод помогает выделить наиболее важные и значимые слова, игнорируя часто встречающиеся, но не информативные термины (например, стоп-слова).
**Выводы**: TF-IDF анализ помог определить топовые ключевые слова в тексте, что может быть полезно для дальнейшей классификации или извлечения информации из текста. Тренды, выявленные с помощью TF-IDF, отражают важнейшие термины, которые характеризуют содержание текста.
## Визуализация
1. **Гистограмма частоты слов**: Гистограмма, отображающая 20 самых частых слов в тексте (без учета стоп-слов). Это позволяет увидеть, какие слова доминируют в тексте и имеют наибольшее значение.
Для более репрезентативной визуализации данных анализа также были построены графики с удаленными стоп-словами:
2. **Облако слов**
Без учета стоп-слов:
3. **Облако ключевых слов**: Облако слов, созданное на основе анализа TF-IDF, помогает визуализировать наиболее важные слова, выделенные в тексте, что дает наглядное представление о ключевых терминах.
Без учета стоп-слов:
 |