Update README.md

README.md

@@ -1,22 +1,78 @@
----
-license: apache-2.0
-dataset_info:
-  features:
-  - name: sentences
-    dtype: string
-  - name: words
-    dtype: string
-  - name: bigrams
-    sequence: string
-  splits:
-  - name: train
-    num_bytes: 3213752
-    num_examples: 82338
-  download_size: 489637
-  dataset_size: 3213752
-configs:
-- config_name: default
-  data_files:
-  - split: train
-    path: data/train-*
----
+---
+license: apache-2.0
+dataset_info:
+  features:
+  - name: sentences
+    dtype: string
+  - name: words
+    dtype: string
+  - name: bigrams
+    sequence: string
+  splits:
+  - name: train
+    num_bytes: 3213752
+    num_examples: 82338
+  download_size: 489637
+  dataset_size: 3213752
+configs:
+- config_name: default
+  data_files:
+  - split: train
+    path: data/train-*
+task_categories:
+- text-generation
+language:
+- en
+tags:
+- code
+size_categories:
+- 10K<n<100K
+---
+# Задача 2: Разметка датасета с HF Datasets: статистический анализ и визуализация
+
+<!-- Разметка представленного датасета выполнена в рамказ курса по компьютерной лингвистике НИУ ВШЭ (СПб). -->
+
+## ПРОВЕДЕННЫЙ АНАЛИЗ
+
+** Был пороведен статистический анализ текста, включающий:**
+** 1. Анализ уникальности данных **
+   Доля уникальных слов: 0.0032
+2. Частотный анализ биграмм и триграмм
+   Топ 10 биграмм:
+('Title', ':'): 1000
+('If', 'you'): 687
+(',', 'we'): 681
+('in', 'your'): 615
+('!', 'Title'): 601
+('.', 'We'): 576
+('.', 'If'): 547
+('how', 'to'): 502
+('we', "'ll"): 490
+('We', "'ll"): 416
+
+Топ 10 триграмм:
+('!', 'Title', ':'): 601
+('.', 'If', 'you'): 547
+(',', 'we', "'ll"): 490
+('.', 'We', "'ll"): 416
+('in', 'your', 'projects'): 412
+('at', 'first', ','): 409
+('the', 'additional', 'resources'): 406
+('additional', 'resources', 'we'): 406
+('resources', 'we', "'ve"): 406
+('.', 'Do', "n't"): 406
+
+** 3. Анализ распределений: Длины предложений, слов и n-грамм **
+Средняя длина предложения: 15.82
+Стандартное отклонение длины предложений: 6.70
+Медиана длины предложений: 15.00
+Квартиль 25%, 50%, 75% длины предложений: [12. 15. 22.]
+
+С частотным анализом слов можно ознакомиться в виде графика:
+
+![image/png](https://cdn-uploads.huggingface.co/production/uploads/66e83461db4a5f07d52c28b6/_RUNs2ojhrwvKcw4fnGA_.png)
+
+Помимо этого был выгружен частотный анализ слов в виде облака:
+
+![image/png](https://cdn-uploads.huggingface.co/production/uploads/66e83461db4a5f07d52c28b6/wtMV-mgB8QwXIphKjeoum.png)
+