Datasets:
Nick Veselov commited on
Update README.md
Browse files
README.md
CHANGED
|
@@ -19,17 +19,6 @@ task_ids:
|
|
| 19 |
Это подготовленная версия обширного русского датасета для тренировки LLM, предоставленного [Wikimedia/Wikipedia](https://huggingface.co/datasets/wikimedia/wikipedia).
|
| 20 |
Специально для обучения языковых моделей, в формате чата. Содержит статьи, очищенные от служебной информации и отформатированные для тренировки LLM.
|
| 21 |
|
| 22 |
-
## Структура данных
|
| 23 |
-
- num - уникальный номер записи в датасете
|
| 24 |
-
- system - системный промпт для модели (настраивается при конвертации)
|
| 25 |
-
- user - заголовок статьи из Википедии
|
| 26 |
-
- assistant - основной текст статьи
|
| 27 |
-
- u_tokens - количество токенов в заголовке
|
| 28 |
-
- a_tokens - количество токенов в тексте статьи
|
| 29 |
-
- u_lang - язык заголовка (ru)
|
| 30 |
-
- a_lang - язык текста (ru)
|
| 31 |
-
- cluster - номер кластера для группировки похожих статей
|
| 32 |
-
|
| 33 |
## Описание структуры данных
|
| 34 |
|
| 35 |
Датасет хранится в формате Parquet и имеет следующую структуру:
|
|
|
|
| 19 |
Это подготовленная версия обширного русского датасета для тренировки LLM, предоставленного [Wikimedia/Wikipedia](https://huggingface.co/datasets/wikimedia/wikipedia).
|
| 20 |
Специально для обучения языковых моделей, в формате чата. Содержит статьи, очищенные от служебной информации и отформатированные для тренировки LLM.
|
| 21 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 22 |
## Описание структуры данных
|
| 23 |
|
| 24 |
Датасет хранится в формате Parquet и имеет следующую структуру:
|