Datasets:
Improve AI Platforms dataset card
Browse files
README.md
CHANGED
|
@@ -5,42 +5,55 @@ language:
|
|
| 5 |
tags:
|
| 6 |
- aiplatforms
|
| 7 |
- russian
|
| 8 |
-
-
|
| 9 |
-
-
|
|
|
|
|
|
|
| 10 |
- text-generation
|
| 11 |
- local-ai
|
| 12 |
task_categories:
|
| 13 |
- text-generation
|
|
|
|
|
|
|
| 14 |
---
|
| 15 |
|
| 16 |
# AI Platforms Pikabushnik RU Dataset
|
| 17 |
|
| 18 |
-
|
| 19 |
|
| 20 |
-
|
| 21 |
|
| 22 |
-
|
| 23 |
|
| 24 |
-
|
| 25 |
|
| 26 |
-
-
|
| 27 |
-
- обучения коротким и средним ответам на русском языке;
|
| 28 |
-
- подготовки локальных LLM под RAG и on-premise сценарии;
|
| 29 |
-
- экспериментов с малым inference footprint.
|
| 30 |
|
| 31 |
-
|
| 32 |
|
| 33 |
-
|
| 34 |
-
- смешивание с tool-use/RAG датасетами;
|
| 35 |
-
- тестирование качества ответов перед доменным дообучением;
|
| 36 |
-
- подготовка baseline-моделей для локального inference.
|
| 37 |
|
| 38 |
-
|
|
|
|
|
|
|
|
|
|
| 39 |
|
| 40 |
-
|
| 41 |
-
|
| 42 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 43 |
|
| 44 |
## AI Platforms
|
| 45 |
|
| 46 |
-
[AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-с
|
|
|
|
| 5 |
tags:
|
| 6 |
- aiplatforms
|
| 7 |
- russian
|
| 8 |
+
- community-text
|
| 9 |
+
- forum
|
| 10 |
+
- conversational-style
|
| 11 |
+
- slang
|
| 12 |
- text-generation
|
| 13 |
- local-ai
|
| 14 |
task_categories:
|
| 15 |
- text-generation
|
| 16 |
+
size_categories:
|
| 17 |
+
- 1M<n<10M
|
| 18 |
---
|
| 19 |
|
| 20 |
# AI Platforms Pikabushnik RU Dataset
|
| 21 |
|
| 22 |
+
Большой русскоязычный пользовательский корпус с разговорной, форумной и неформальной лексикой.
|
| 23 |
|
| 24 |
+
Датасет полезен для экспериментов с моделями, которым нужно лучше понимать живой русский язык: разговорные формулировки, сленг, короткие реплики, бытовые темы и неоднородный пользовательский стиль.
|
| 25 |
|
| 26 |
+
## Состав
|
| 27 |
|
| 28 |
+
Репозиторий содержит:
|
| 29 |
|
| 30 |
+
- `pikabu_rudataset.parquet` — крупный корпус пользовательских русскоязычных текстов в Parquet.
|
|
|
|
|
|
|
|
|
|
| 31 |
|
| 32 |
+
Ориентировочный размер: миллионы записей (`1M<n<10M`).
|
| 33 |
|
| 34 |
+
## Назначение
|
|
|
|
|
|
|
|
|
|
| 35 |
|
| 36 |
+
- адаптация моделей к живому русскому пользовательскому стилю;
|
| 37 |
+
- continued pretraining или смешивание с SFT-корпусами;
|
| 38 |
+
- подготовка моделей к обработке сленга, ошибок, коротких запросов и форумного языка;
|
| 39 |
+
- эксперименты с локальными чат-моделями и companion/roleplay моделями.
|
| 40 |
|
| 41 |
+
## Рекомендации по подготовке
|
| 42 |
+
|
| 43 |
+
Перед обучением рекомендуется:
|
| 44 |
+
|
| 45 |
+
- фильтровать токсичные, персональные и нежелательные фрагменты под ваш сценарий;
|
| 46 |
+
- удалять дубли и слишком короткие записи;
|
| 47 |
+
- нормализовать разметку, ссылки и технический мусор;
|
| 48 |
+
- смешивать с более чистыми instruction/chat данными, если нужна модель-ассистент.
|
| 49 |
+
|
| 50 |
+
## Ограничения
|
| 51 |
+
|
| 52 |
+
- Корпус может содержать шум, грубую лексику, спорные утверждения и устаревшие сведения.
|
| 53 |
+
- Это не готовый безопасный assistant dataset.
|
| 54 |
+
- Для публичных моделей необходимы фильтрация, safety-eval и пост-модерация.
|
| 55 |
+
- Лицензия указана как `other`; перед коммерческим использованием проверьте применимость данных к вашему сценарию.
|
| 56 |
|
| 57 |
## AI Platforms
|
| 58 |
|
| 59 |
+
[AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-��нфраструктуру.
|