|
|
--- |
|
|
language: |
|
|
- ru |
|
|
license: |
|
|
- cc-by-sa-3.0 |
|
|
- gfdl |
|
|
size_categories: |
|
|
- 1M<n<10M |
|
|
task_categories: |
|
|
- text-generation |
|
|
task_ids: |
|
|
- language-modeling |
|
|
- masked-language-modeling |
|
|
--- |
|
|
|
|
|
# RuDataset - Русскоязычный датасет для обучения языковых моделей |
|
|
# Wikipedia RuDataset |
|
|
|
|
|
Это подготовленная версия обширного русского датасета для тренировки LLM, предоставленного [Wikimedia/Wikipedia](https://huggingface.co/datasets/wikimedia/wikipedia). |
|
|
Специально для обучения языковых моделей, в формате чата. Содержит статьи, очищенные от служебной информации и отформатированные для тренировки LLM. |
|
|
|
|
|
## Описание структуры данных |
|
|
|
|
|
Датасет хранится в формате Parquet и имеет следующую структуру: |
|
|
|
|
|
| Поле | Тип | Описание | |
|
|
|------|-----|----------| |
|
|
| num | int64 | Уникальный номер записи | |
|
|
| system | string | Системный промпт для модели | |
|
|
| user | string | Запрос пользователя (вопрос/заголовок) | |
|
|
| assistant | string | Ответ ассистента (текст/содержание) | |
|
|
| u_tokens | int64 | Количество токенов в запросе пользователя | |
|
|
| a_tokens | int64 | Количество токенов в ответе ассистента | |
|
|
| u_lang | string | Язык запроса пользователя (ru) | |
|
|
| a_lang | string | Язык ответа ассистента (ru) | |
|
|
| cluster | int64 | Номер кластера для группировки похожих записей | |
|
|
|
|
|
## Обработка текста |
|
|
- Удаление метаданных |
|
|
- Форматирование текста "в человеческий вид" |
|
|
- Очистка от BOM и спецсимволов |
|
|
- Удаление секции "См. также" и всего после неё |
|
|
- Обрезка до последнего полного предложения |
|
|
- Нормализация кириллицы (ё -> е) |
|
|
- Очистка от дублей пробелов/пунктуации |
|
|
|
|
|
## Технические детали |
|
|
- Формат: Parquet |
|
|
- Сжатие: Snappy |
|
|
- Кодировка: UTF-8 |
|
|
- Язык: Русский |
|
|
|
|
|
## Использование |
|
|
- Для обучения LLM |
|
|
- Для fine-tuning |
|
|
- Для создания embeddings |
|
|
- Для тестирования моделей |
|
|
|
|
|
------------------------------------- |
|
|
[Николай Веселов](https://nickveselov.ru/) |
