Update README.md

README.md

@@ -1,53 +1,28 @@
 ---
-license: mit
-task_categories:
-- text-generation
-- fill-mask
 language:
 - en
+license: mit
+pretty_name: Wiki-Simple-Cleaned
 tags:
 - wikipedia
 - cleaned
 - pretraining
 - simple-english
-- nlp
-- wiki
-- simple
-- clear
+task_categories:
+- text-generation
 ---
 
 # Wiki-Simple-Cleaned
 
-Этот датасет представляет собой глубоко очищенную версию **Simple English Wikipedia** (основано на `legacy-datasets/wikipedia`). Данные подготовлены специально для **претрейна (pre-training)** микро-моделей языковых архитектур.
-
-## 🎯 Основная цель
-Удаление "шума", специфичного для Wiki-дампов (служебные разделы, битая разметка, списки источников), чтобы модель фокусировалась на чистом языке и фактах, а не на изучении структуры веб-страниц.
-
-## 🛠 Что было сделано (Pipeline очистки):
-* **Удаление "хвостов":** Полностью отсечены разделы `References`, `See also`, `External links`, `Further reading` и `Sources`.
-* **Заголовки:** Вики-заголовки (например, `== History ==`) преобразованы в обычные текстовые предложения с точкой для сохранения логики повествования.
-* **Форматирование:** * Все переносы строк заменены на пробелы.
-    * Удалены множественные пробелы и пустые строки.
-    * Каждая статья упакована в одну строку.
-* **Специальные токены:** Каждый документ обернут в токены начала и конца последовательности:
-  `<|bos|>{Title}. {Cleaned Text}<|eos|>`
-
-## 📊 Статистика и структура
-* **Формат:** Обычный текстовый файл (`.txt`), где одна строка — один документ.
-* **Язык:** English (Simple), что идеально подходит для обучения моделей с небольшим количеством параметров (до 500M).
-* **Распределение:**
-    * ~70% — короткие статьи (справки).
-    * ~27% — средние статьи.
-    * ~3% — объемные лонгриды.
-
-## 🚀 Как использовать
-Для эффективного обучения рекомендуется использовать **Sequence Packing** (склейку нескольких статей в одно контекстное окно), чтобы максимально загрузить VRAM вашей видеокарты.
+A cleaned version of Simple English Wikipedia.
 
-```python
-# Пример загрузки в PyTorch Dataset
-with open("train.txt", "r", encoding="utf-8") as f:
-    data = f.readlines()
-```
+### Dataset Curation
+* **Source:** Based on legacy-datasets/wikipedia.
+* **Noise Removal:** Stripped References, See also, External links, and Sources.
+* **Formatting:** Headers converted to sentences; newlines and multiple spaces removed.
+* **Special Tokens:** Documents wrapped in `<|bos|>{Title}. {Content}<|eos|>`.
 
-**Author:** [lumasik](https://huggingface.co/lumasik)  
-**Base Dataset:** [legacy-datasets/wikipedia](https://huggingface.co/datasets/legacy-datasets/wikipedia)
+### Dataset Structure
+* **Format:** Plain text (.txt) where each line is a single document.
+* **Content:** Simple English, optimized for models under 500M parameters.
+* **Distribution:** ~70% short, ~27% medium, and ~3% long-form articles.