| ---
|
| license: other
|
| language:
|
| - ru
|
| tags:
|
| - aiplatforms
|
| - russian
|
| - community-text
|
| - forum
|
| - conversational-style
|
| - slang
|
| - text-generation
|
| - local-ai
|
| task_categories:
|
| - text-generation
|
| size_categories:
|
| - 1M<n<10M
|
| ---
|
|
|
| # AI Platforms Pikabushnik RU Dataset
|
|
|
| Большой русскоязычный пользовательский корпус с разговорной, форумной и неформальной лексикой.
|
|
|
| Датасет полезен для экспериментов с моделями, которым нужно лучше понимать живой русский язык: разговорные формулировки, сленг, короткие реплики, бытовые темы и неоднородный пользовательский стиль.
|
|
|
| ## Состав
|
|
|
| Репозиторий содержит:
|
|
|
| - `pikabu_rudataset.parquet` — крупный корпус пользовательских русскоязычных текстов в Parquet.
|
|
|
| Ориентировочный размер: миллионы записей (`1M<n<10M`).
|
|
|
| ## Назначение
|
|
|
| - адаптация моделей к живому русскому пользовательскому стилю;
|
| - continued pretraining или смешивание с SFT-корпусами;
|
| - подготовка моделей к обработке сленга, ошибок, коротких запросов и форумного языка;
|
| - эксперименты с локальными чат-моделями и companion/roleplay моделями.
|
|
|
| ## Рекомендации по подготовке
|
|
|
| Перед обучением рекомендуется:
|
|
|
| - фильтровать токсичные, персональные и нежелательные фрагменты под ваш сценарий;
|
| - удалять дубли и слишком короткие записи;
|
| - нормализовать разметку, ссылки и технический мусор;
|
| - смешивать с более чистыми instruction/chat данными, если нужна модель-ассистент.
|
|
|
| ## Ограничения
|
|
|
| - Корпус может содержать шум, грубую лексику, спорные утверждения и устаревшие сведения.
|
| - Это не готовый безопасный assistant dataset.
|
| - Для публичных моделей необходимы фильтрация, safety-eval и пост-модерация.
|
| - Лицензия указана как `other`; перед коммерческим использованием проверьте применимость данных к вашему сценарию.
|
|
|
| ## AI Platforms
|
|
|
| [AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-инфраструктуру.
|
|
|
