Datasets:

aiplatforms
/

wikipedia-RuDataset

license:
  - cc-by-sa-3.0
  - gfdl
language:
  - ru
tags:
  - aiplatforms
  - russian
  - wikipedia
  - corpus
  - pretraining
  - continued-pretraining
  - text-generation
  - local-ai
task_categories:
  - text-generation
size_categories:
  - 1M<n<10M

AI Platforms Wikipedia RU Dataset

Большой русскоязычный энциклопедический корпус на основе материалов Wikipedia.

Датасет предназначен для экспериментов с continued pretraining, языковой адаптацией, retrieval-корпусами и оценкой локальных русскоязычных LLM.

Состав

Репозиторий содержит:

wikipedia_rudataset.parquet — русскоязычный Wikipedia-корпус в Parquet.

Ориентировочный размер: миллионы текстовых записей (1M<n<10M).

Назначение

continued pretraining / domain-adaptive pretraining для русского языка;
подготовка retrieval/RAG корпуса;
обучение моделей лучше работать с энциклопедическим стилем;
построение baseline для локальных LLM и embedding/RAG экспериментов.

Формат и подготовка

Данные опубликованы в Parquet. Перед использованием рекомендуется:

очистить служебные строки и слишком короткие/длинные фрагменты;
дедуплицировать тексты;
нарезать документы на чанки под контекстное окно модели;
сохранить сведения об источниках, если корпус используется в RAG.

Лицензии

Материалы Wikipedia распространяются на условиях совместимых лицензий, включая CC BY-SA 3.0 и GFDL. При использовании датасета учитывайте требования атрибуции и share-alike.

Ограничения

Энциклопедический корпус не является instruction/chat датасетом сам по себе.
В данных могут быть устаревшие сведения и редакционные артефакты.
Для SFT ассистента лучше смешивать этот корпус с диалоговыми и instruction-данными.

AI Platforms

AI Platforms внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-инфраструктуру.