Datasets:
metadata
task_categories:
- text-generation
language:
- ru
size_categories:
- 1M<n<10M
task_ids:
- language-modeling
- masked-language-modeling
Pikabushnik RuDataset
Датасет комментариев с сайта Pikabu.ru для обучения чат-ботов и диалоговых моделей. Содержит высокорейтинговые комментарии из юмористических постов, структурированные в формате диалогов.
Параметры датасета
- Тип контента: только комментарии
- Минимальный рейтинг комментария: 20
- Тематика: посты с тегом "юмор"
- Язык: русский
Структура диалогов
Датасет организован в виде диалоговых пар:
Комментарии к посту:
- user: текст поста
- assistant: комментарий к посту
Ответы на комментарии:
- user: текст родительского комментария
- assistant: ответ на комментарий
Это позволяет обучать модель:
- Отвечать на контекст поста релевантными комментариями
- Поддерживать диалог, отвечая на предыдущие комментарии
- Генерировать юмористические ответы в контексте обсуждения
Структура данных
- num - уникальный номер записи
- system - системный промпт для модели
- user - контекст (текст поста или родительского комментария)
- assistant - текст комментария-ответа
- u_tokens - количество токенов в контексте
- a_tokens - количество токенов в комментарии
- u_lang - язык контекста (ru)
- a_lang - язык комментария (ru)
- cluster - случайный номер кластера
Особенности обработки
- Очистка от HTML-тегов и форматирования
- Удаление ссылок и упоминаний пользователей
- Фильтрация коротких текстов (менее 3 слов)
- Удаление комментариев на английском языке
- Сохранение только комментариев с высоким рейтингом (>20)
- Сохранение иерархии комментариев для правильного контекста
Использование для обучения чат-ботов
- Fine-tuning диалоговых LLM
- Обучение генерации контекстных ответов
- Тренировка поддержания диалога
- Обучение юмористическому стилю общения
- Тестирование качества генерации на русском языке
Оригинальный датасет:
Автор: Ilya Gusev
Переделка датасета в Pikabushnik RuDataset:
Автор: Николай Веселов