aiplatforms commited on
Commit
091caf8
·
verified ·
1 Parent(s): 7e72821

Polish AI Platforms card

Browse files
Files changed (1) hide show
  1. README.md +45 -71
README.md CHANGED
@@ -1,71 +1,45 @@
1
- ---
2
- task_categories:
3
- - text-generation
4
- language:
5
- - ru
6
- size_categories:
7
- - 1M<n<10M
8
- task_ids:
9
- - language-modeling
10
- - masked-language-modeling
11
- ---
12
-
13
- # Pikabushnik RuDataset
14
-
15
- Датасет комментариев с сайта Pikabu.ru для обучения чат-ботов и диалоговых моделей. Содержит высокорейтинговые комментарии из юмористических постов, структурированные в формате диалогов.
16
-
17
- ## Параметры датасета
18
- - Тип контента: только комментарии
19
- - Минимальный рейтинг комментария: 20
20
- - Тематика: посты с тегом "юмор"
21
- - Язык: русский
22
-
23
- ## Структура диалогов
24
- Датасет организован в виде диалоговых пар:
25
-
26
- 1. Комментарии к посту:
27
- - user: текст поста
28
- - assistant: комментарий к посту
29
-
30
- 2. Ответы на комментарии:
31
- - user: текст родительского комментария
32
- - assistant: ответ на комментарий
33
-
34
- Это позволяет обучать модель:
35
- - Отвечать на контекст поста релевантными комментариями
36
- - Поддерживать диалог, отвечая на предыдущие комментарии
37
- - Генерировать юмористические ответы в контексте обсуждения
38
-
39
- ## Структура данных
40
- - num - уникальный номер записи
41
- - system - системный промпт для модели
42
- - user - контекст (текст поста или родительского комментария)
43
- - assistant - текст комментария-ответа
44
- - u_tokens - количество токенов в контексте
45
- - a_tokens - количество токенов в комментарии
46
- - u_lang - язык контекста (ru)
47
- - a_lang - язык комментария (ru)
48
- - cluster - случайный номер кластера
49
-
50
- ## Особенности обработки
51
- - Очистка от HTML-тегов и форматирования
52
- - Удаление ссылок и упоминаний пользователей
53
- - Фильтрация коротких текстов (менее 3 слов)
54
- - Удаление комментариев на английском языке
55
- - Сохранение только комментариев с высоким рейтингом (>20)
56
- - Сохранение иерархии комментариев для правильного контекста
57
-
58
- ## Использование для обучения чат-ботов
59
- - Fine-tuning диалоговых LLM
60
- - Обучение генерации контекстных ответов
61
- - Тренировка поддержания диалога
62
- - Обучение юмористическому стилю общения
63
- - Тестирование качества генерации на русском языке
64
-
65
- ## Оригинальный датасет:
66
-
67
- Автор: [Ilya Gusev](https://huggingface.co/datasets/IlyaGusev/pikabu)
68
-
69
- ## Переделка датасета в Pikabushnik RuDataset:
70
-
71
- Автор: [Николай Веселов](https://nickveselov.ru/)
 
1
+ ---
2
+ license: other
3
+ language:
4
+ - ru
5
+ tags:
6
+ - aiplatforms
7
+ - russian
8
+ - sft
9
+ - instruction-tuning
10
+ - text-generation
11
+ - local-ai
12
+ task_categories:
13
+ - text-generation
14
+ ---
15
+
16
+ # AI Platforms Pikabushnik RU Dataset
17
+
18
+ Русскоязычный датасет AI Platforms для обучения и оценки небольших локальных языковых моделей.
19
+
20
+ ## Описание
21
+
22
+ Источник/характер данных: русскоязычные пользовательские тексты и диалоговые примеры.
23
+
24
+ Датасет может использоваться для:
25
+
26
+ - SFT русскоязычных ассистентов;
27
+ - обучения коротким и средним ответам на русском языке;
28
+ - подготовки локальных LLM под RAG и on-premise сценарии;
29
+ - экспериментов с малым inference footprint.
30
+
31
+ ## Рекомендуемое применение
32
+
33
+ - предварительная русскоязычная адаптация небольших моделей;
34
+ - смешивание с tool-use/RAG датасетами;
35
+ - тестирование качества ответов перед доменным дообучением.
36
+
37
+ ## Ограничения и ответственность
38
+
39
+ - Данные могут содержать шум, устаревшие сведения или стилистически неоднородные ответы.
40
+ - Перед использованием в production рекомендуется фильтрация, дедупликация и ручная проверка срезов.
41
+ - Для фактических, актуальных и доменных ответов используйте RAG/поиск и контроль источников.
42
+
43
+ ## AI Platforms
44
+
45
+ [AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-серверы под ключ.