Update README.md
Browse files
README.md
CHANGED
|
@@ -29,4 +29,60 @@ tags:
|
|
| 29 |
pretty_name: harry potter dataset
|
| 30 |
size_categories:
|
| 31 |
- 10K<n<100K
|
| 32 |
-
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 29 |
pretty_name: harry potter dataset
|
| 30 |
size_categories:
|
| 31 |
- 10K<n<100K
|
| 32 |
+
---
|
| 33 |
+
# Статистический анализ и визуализация
|
| 34 |
+
|
| 35 |
+
## Описание
|
| 36 |
+
|
| 37 |
+
Данный датасет представляет результат статистического анализа текста книги *"Harry Potter and the Philosopher's Stone"*, выполненного с использованием различных методов обработки естественного языка. В процессе анализа были проведены три ключевых типа анализа:
|
| 38 |
+
|
| 39 |
+
1. **Анализ уникальности данных**: Оценка доли уникальных слов в корпусе текста и вычисление коэффициента лексического разнообразия.
|
| 40 |
+
2. **Анализ частоты POS-тегов**: Изучение частоты встречаемости грамматических категорий (частей речи) в тексте.
|
| 41 |
+
3. **TF-IDF анализ**: Определение ключевых слов в тексте с помощью метрики TF-IDF, что помогает выделить наиболее значимые термины.
|
| 42 |
+
|
| 43 |
+
## 1. Анализ уникальности данных
|
| 44 |
+
Этот анализ позволил изучить, насколько разнообразен текст с точки зрения лексики, с фокусом на:
|
| 45 |
+
- **Долю уникальных слов**: Какую часть от общего количества слов составляют уникальные слова.
|
| 46 |
+
- **Коэффициент лексического разнообразия (TTR)**: Это отношение числа уникальных слов к общему количеству слов в тексте, что дает представление о разнообразии используемой лексики.
|
| 47 |
+
|
| 48 |
+
**Выводы**: Анализ показал, что текст имеет тносительно низкий показатель для большинства текстов. Он может свидетельствовать о том, что текст содержит много повторяющихся слов, и возможно, включает в себя большое количество стоп-слов или слов, используемых часто в повторяющихся контекстах.
|
| 49 |
+
|
| 50 |
+
## 2. Анализ частоты POS-тегов
|
| 51 |
+
Этот анализ был проведен с использованием библиотеки Spacy для извлечения грамматических категорий (частей речи) текста, что позволяет понять, как часто используются различные части речи (например, существительные, глаголы, прилагательные и т. д.).
|
| 52 |
+
|
| 53 |
+
**Выводы**: Частотный анализ POS-тегов помог выявить наиболее часто встречающиеся части речи, что может дать представление о структуре текста. Например, доминирование существительных и глаголов может указывать на более фактический или описательный характер текста.
|
| 54 |
+
- **Пунктуация (PUNCT)** на первом месте — это обычное явление, если текст сложный или включает длинные предложения с множеством зависимых элементов.
|
| 55 |
+
- **Глаголы (VERB)** и **существительные (NOUN)** занимают высокие позиции, что говорит о динамичности текста и активном описании событий или объектов.
|
| 56 |
+
- **Местоимения (PRON)** также в топе, что может говорить о высоком уровне повторяемости понятий и объектов, о которых уже говорилось в тексте.
|
| 57 |
+
- **Предлоги (ADP)** свидетельствуют о наличии сложных отношений между словами в предложении.
|
| 58 |
+
|
| 59 |
+
|
| 60 |
+
## 3. TF-IDF анализ
|
| 61 |
+
Используя метрику **TF-IDF (Term Frequency-Inverse Document Frequency)**, был проведен анализ ключевых слов в тексте. Этот метод помогает выделить наиболее важные и значимые слова, игнорируя часто встречающиеся, но не информативные термины (например, стоп-слова).
|
| 62 |
+
|
| 63 |
+
**Выводы**: TF-IDF анализ помог определить топовые ��лючевые слова в тексте, что может быть полезно для дальнейшей классификации или извлечения информации из текста. Тренды, выявленные с помощью TF-IDF, отражают важнейшие термины, которые характеризуют содержание текста.
|
| 64 |
+
|
| 65 |
+
## Визуализация
|
| 66 |
+
1. **Гистограмма частоты слов**: Гистограмма, отображающая 20 самых частых слов в тексте (без учета стоп-слов). Это позволяет увидеть, какие слова доминируют в тексте и имеют наибольшее значение.
|
| 67 |
+
|
| 68 |
+
|
| 69 |
+
|
| 70 |
+
Для более репрезентативной визуализации данных анализа также были построены графики с удаленными стоп-словами:
|
| 71 |
+
|
| 72 |
+
|
| 73 |
+
|
| 74 |
+
2. **Облако слов**
|
| 75 |
+
|
| 76 |
+
|
| 77 |
+
|
| 78 |
+
Без учета стоп-слов:
|
| 79 |
+
|
| 80 |
+
|
| 81 |
+
|
| 82 |
+
3. **Облако ключевых слов**: Облако слов, созданное на основе анализа TF-IDF, помогает визуализировать наиболее важные слова, выделенные в тексте, что дает наглядное представление о ключевых терминах.
|
| 83 |
+
|
| 84 |
+
|
| 85 |
+
|
| 86 |
+
Без учета стоп-слов:
|
| 87 |
+
|
| 88 |
+
|