| ---
|
| license:
|
| - cc-by-sa-3.0
|
| - gfdl
|
| language:
|
| - ru
|
| tags:
|
| - aiplatforms
|
| - russian
|
| - wikipedia
|
| - corpus
|
| - pretraining
|
| - continued-pretraining
|
| - text-generation
|
| - local-ai
|
| task_categories:
|
| - text-generation
|
| size_categories:
|
| - 1M<n<10M
|
| ---
|
|
|
| # AI Platforms Wikipedia RU Dataset
|
|
|
| Большой русскоязычный энциклопедический корпус на основе материалов Wikipedia.
|
|
|
| Датасет предназначен для экспериментов с continued pretraining, языковой адаптацией, retrieval-корпусами и оценкой локальных русскоязычных LLM.
|
|
|
| ## Состав
|
|
|
| Репозиторий содержит:
|
|
|
| - `wikipedia_rudataset.parquet` — русскоязычный Wikipedia-корпус в Parquet.
|
|
|
| Ориентировочный размер: миллионы текстовых записей (`1M<n<10M`).
|
|
|
| ## Назначение
|
|
|
| - continued pretraining / domain-adaptive pretraining для русского языка;
|
| - подготовка retrieval/RAG корпуса;
|
| - обучение моделей лучше работать с энциклопедическим стилем;
|
| - построение baseline для локальных LLM и embedding/RAG экспериментов.
|
|
|
| ## Формат и подготовка
|
|
|
| Данные опубликованы в Parquet. Перед использованием рекомендуется:
|
|
|
| - очистить служебные строки и слишком короткие/длинные фрагменты;
|
| - дедуплицировать тексты;
|
| - нарезать документы на чанки под контекстное окно модели;
|
| - сохранить сведения об источниках, если корпус используется в RAG.
|
|
|
| ## Лицензии
|
|
|
| Материалы Wikipedia распространяются на условиях совместимых лицензий, включая `CC BY-SA 3.0` и `GFDL`. При использовании датасета учитывайте требования атрибуции и share-alike.
|
|
|
| ## Ограничения
|
|
|
| - Энциклопедический корпус не является instruction/chat датасетом сам по себе.
|
| - В данных могут быть устаревшие сведения и редакционные артефакты.
|
| - Для SFT ассистента лучше смешивать этот корпус с диалоговыми и instruction-данными.
|
|
|
| ## AI Platforms
|
|
|
| [AI Platforms](https://aiplatforms.ru/) внедряет локальные ИИ-платформы для бизнеса: приватные LLM, RAG, машинное зрение, AI-агентов и GPU-инфраструктуру.
|
|
|
