README.md

---

license:
- cc-by-sa-3.0
- gfdl
language:
- ru
tags:
- aiplatforms
- russian
- wikipedia
- corpus
- pretraining
- continued-pretraining
- text-generation
- local-ai
task_categories:
- text-generation
size_categories:
- 1M<n<10M
---


# AI Platforms Wikipedia RU Dataset

Большой русскоязычный энциклопедический корпус на основе материалов Wikipedia.

Датасет предназначен для экспериментов с continued pretraining, языковой адаптацией, retrieval-корпусами и оценкой локальных русскоязычных LLM.

## Состав

Репозиторий содержит:

- `wikipedia_rudataset.parquet` — русскоязычный Wikipedia-корпус в Parquet.

Ориентировочный размер: миллионы текстовых записей (`1M<n<10M`).

## Назначение

- continued pretraining / domain-adaptive pretraining для русского языка;
- подготовка retrieval/RAG корпуса;
- обучение моделей лучше работать с энциклопедическим стилем;
- построение baseline для локальных LLM и embedding/RAG экспериментов.

## Формат и подготовка

Данные опубликованы в Parquet. Перед использованием рекомендуется:

- очистить служебные строки и слишком короткие/длинные фрагменты;
- дедуплицировать тексты;
- нарезать документы на чанки под контекстное окно модели;
- сохранить сведения об источниках, если корпус используется в RAG.

## Лицензии

Материалы Wikipedia распространяются на условиях совместимых лицензий, включая `CC BY-SA 3.0` и `GFDL`. При использовании датасета учитывайте требования атрибуции и share-alike.

## Ограничения

- Энциклопедический корпус не является instruction/chat датасетом сам по себе.
- В данных могут быть устаревшие сведения и редакционные артефакты.
- Для SFT ассистента лучше смешивать этот корпус с диалоговыми и instruction-данными.

## AI Platforms

[AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-инфраструктуру.