aiplatforms commited on
Commit
ca4d33e
·
verified ·
1 Parent(s): 9e7b385

Polish AI Platforms card

Browse files
Files changed (1) hide show
  1. README.md +47 -60
README.md CHANGED
@@ -1,60 +1,47 @@
1
- ---
2
- language:
3
- - ru
4
- license:
5
- - cc-by-sa-3.0
6
- - gfdl
7
- size_categories:
8
- - 1M<n<10M
9
- task_categories:
10
- - text-generation
11
- task_ids:
12
- - language-modeling
13
- - masked-language-modeling
14
- ---
15
-
16
- # RuDataset - Русскоязычный датасет для обучения языковых моделей
17
- # Wikipedia RuDataset
18
-
19
- Это подготовленная версия обширного русского датасета для тренировки LLM, предоставленного [Wikimedia/Wikipedia](https://huggingface.co/datasets/wikimedia/wikipedia).
20
- Специально для обучения языковых моделей, в формате чата. Содержит статьи, очищенные от служебной информации и отформатированные для тренировки LLM.
21
-
22
- ## Описание структуры данных
23
-
24
- Датасет хранится в формате Parquet и имеет следующую структуру:
25
-
26
- | Поле | Тип | Описание |
27
- |------|-----|----------|
28
- | num | int64 | Уникальный номер записи |
29
- | system | string | Системный промпт для модели |
30
- | user | string | Запрос пользователя (вопросаголовок) |
31
- | assistant | string | Ответ ассистента (текст/содержание) |
32
- | u_tokens | int64 | Количество токенов в запросе пользователя |
33
- | a_tokens | int64 | Количество токенов в ответе ассистента |
34
- | u_lang | string | Язык запроса пользователя (ru) |
35
- | a_lang | string | Язык ответа ассистента (ru) |
36
- | cluster | int64 | Номер кластера для группировки похожих записей |
37
-
38
- ## Обработка текста
39
- - Удаление метаданных
40
- - Форматирование текста "в человеческий вид"
41
- - Очистка от BOM и спецсимволов
42
- - Удаление секции "См. также" и всего после неё
43
- - Обрезка до последнего полного предложения
44
- - Нормализация кириллицы (ё -> е)
45
- - Очистка от дублей пробелов/пунктуации
46
-
47
- ## Технические детали
48
- - Формат: Parquet
49
- - Сжатие: Snappy
50
- - Кодировка: UTF-8
51
- - Язык: Русский
52
-
53
- ## Использование
54
- - Для обучения LLM
55
- - Для fine-tuning
56
- - Для создания embeddings
57
- - Для тестирования моделей
58
-
59
- -------------------------------------
60
- [Николай Веселов](https://nickveselov.ru/)
 
1
+ ---
2
+ license:
3
+ - cc-by-sa-3.0
4
+ - gfdl
5
+ language:
6
+ - ru
7
+ tags:
8
+ - aiplatforms
9
+ - russian
10
+ - sft
11
+ - instruction-tuning
12
+ - text-generation
13
+ - local-ai
14
+ task_categories:
15
+ - text-generation
16
+ ---
17
+
18
+ # AI Platforms Wikipedia RU Dataset
19
+
20
+ Русскоязычный датасет AI Platforms для обучения и оценки небольших локальных языковых моделей.
21
+
22
+ ## Описание
23
+
24
+ Источник/характер данных: русскоязычные материалы Wikipedia.
25
+
26
+ Датасет может использоваться для:
27
+
28
+ - SFT русскоязычных ассистентов;
29
+ - обучения коротким и средним ответам на русском языке;
30
+ - подготовки локальных LLM под RAG и on-premise сценарии;
31
+ - экспериментов с малым inference footprint.
32
+
33
+ ## Рекомендуемое применение
34
+
35
+ - предварительная русскоязычная адаптация небольших моделей;
36
+ - смешивание с tool-use/RAG датасетами;
37
+ - тестирование качества ответов перед доменным дообучением.
38
+
39
+ ## Ограничения и ответственность
40
+
41
+ - Данные могут содержать шум, устаревшие сведения или стилистически неоднородные ответы.
42
+ - Перед использованием в production рекомендуется фильтрация, дедупликация и ручная проверка срезов.
43
+ - Для фактических, актуальных и доменных ответов используйте RAG/поиск и контроль источников.
44
+
45
+ ## AI Platforms
46
+
47
+ [AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-серверы под ключ.