aiplatforms commited on
Commit
40bb4aa
·
verified ·
1 Parent(s): e224726

Improve AI Platforms dataset card

Browse files
Files changed (1) hide show
  1. README.md +33 -20
README.md CHANGED
@@ -5,42 +5,55 @@ language:
5
  tags:
6
  - aiplatforms
7
  - russian
8
- - sft
9
- - instruction-tuning
 
 
10
  - text-generation
11
  - local-ai
12
  task_categories:
13
  - text-generation
 
 
14
  ---
15
 
16
  # AI Platforms Pikabushnik RU Dataset
17
 
18
- Русскоязычный датасет AI Platforms для обучения, адаптации и оценки локальных языковых моделей.
19
 
20
- ## Описание
21
 
22
- Источник/характер данных: русскоязычные пользовательские тексты и диалоговые примеры.
23
 
24
- Возможные сценарии использования:
25
 
26
- - SFT русскоязычных ассистентов;
27
- - обучения коротким и средним ответам на русском языке;
28
- - подготовки локальных LLM под RAG и on-premise сценарии;
29
- - экспериментов с малым inference footprint.
30
 
31
- ## Рекомендуемое применение
32
 
33
- - предварительная русскоязычная адаптация компактных моделей;
34
- - смешивание с tool-use/RAG датасетами;
35
- - тестирование качества ответов перед доменным дообучением;
36
- - подготовка baseline-моделей для локального inference.
37
 
38
- ## Ограничения и ответственность
 
 
 
39
 
40
- - Данные могут содержать шум, устаревшие сведения или стилистически неоднородные ответы.
41
- - Перед использованием в production рекомендуется фильтрация, дедупликация и ручная проверка срезов.
42
- - Для фактических, актуальных и доменных ответов используйте RAG/поиск и контроль источников.
 
 
 
 
 
 
 
 
 
 
 
 
43
 
44
  ## AI Platforms
45
 
46
- [AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-серверы под ключ.
 
5
  tags:
6
  - aiplatforms
7
  - russian
8
+ - community-text
9
+ - forum
10
+ - conversational-style
11
+ - slang
12
  - text-generation
13
  - local-ai
14
  task_categories:
15
  - text-generation
16
+ size_categories:
17
+ - 1M<n<10M
18
  ---
19
 
20
  # AI Platforms Pikabushnik RU Dataset
21
 
22
+ Большой русскоязычный пользовательский корпус с разговорной, форумной и неформальной лексикой.
23
 
24
+ Датасет полезен для экспериментов с моделями, которым нужно лучше понимать живой русский язык: разговорные формулировки, сленг, короткие реплики, бытовые темы и неоднородный пользовательский стиль.
25
 
26
+ ## Состав
27
 
28
+ Репозиторий содержит:
29
 
30
+ - `pikabu_rudataset.parquet` — крупный корпус пользовательских русскоязычных текстов в Parquet.
 
 
 
31
 
32
+ Ориентировочный размер: миллионы записей (`1M<n<10M`).
33
 
34
+ ## Назначение
 
 
 
35
 
36
+ - адаптация моделей к живому русскому пользовательскому стилю;
37
+ - continued pretraining или смешивание с SFT-корпусами;
38
+ - подготовка моделей к обработке сленга, ошибок, коротких запросов и форумного языка;
39
+ - эксперименты с локальными чат-моделями и companion/roleplay моделями.
40
 
41
+ ## Рекомендации по подготовке
42
+
43
+ Перед обучением рекомендуется:
44
+
45
+ - фильтровать токсичные, персональные и нежелательные фрагменты под ваш сценарий;
46
+ - удалять дубли и слишком короткие записи;
47
+ - нормализовать разметку, ссылки и технический мусор;
48
+ - смешивать с более чистыми instruction/chat данными, если нужна модель-ассистент.
49
+
50
+ ## Ограничения
51
+
52
+ - Корпус может содержать шум, грубую лексику, спорные утверждения и устаревшие сведения.
53
+ - Это не готовый безопасный assistant dataset.
54
+ - Для публичных моделей необходимы фильтрация, safety-eval и пост-модерация.
55
+ - Лицензия указана как `other`; перед коммерческим использованием проверьте применимость данных к вашему сценарию.
56
 
57
  ## AI Platforms
58
 
59
+ [AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-��нфраструктуру.