README.md

---

license: mit
task_categories:
- text-generation
- text2text-generation
language:
- ru
tags:
- art
pretty_name: dataset Russian literature
size_categories:
- 100K<n<1M
---


# Датасет качественной русской литературы

## Описание

Данный датасет представляет собой обширную коллекцию качественной русской литературы, тщательно отфильтрованной от ссылок и HTML-тегов. Корпус текстов охватывает разнообразные произведения и предназначен для использования в задачах обработки естественного языка, анализа текстов и машинного обучения.

Особенности коллекции:
- **Разнообразие источников**: собрана из открытых электронных библиотек
- **Широкий охват жанров**: от классической прозы до современной фантастики
- **Исторический диапазон**: от древних текстов (включая библейские) до произведений января 2024 года
- **Жанровое разнообразие**: преобладают художественные тексты, особенно фэнтези и фантастика, с небольшой долей научной литературы

## Структура датасета

Датасет разделен на 7 файлов:
- Первые 6 файлов: примерно по 1 ГБ каждый
- 7-й файл: около 0.5 ГБ

Общий объем — около **47 миллионов строк** текста, что делает этот корпус одним из наиболее значительных собраний русскоязычной литературы в цифровом формате.

### Формат файлов

Каждый файл имеет следующую структуру:
- Начинается с тега `<DATASET_START>`
- Заканчивается тегом `<DATASET_END>`
- Внутри содержится множество отдельных текстов, каждый из которых:
  - Начинается с тега `<startoftext>`
  - Заканчивается тегом `<endoftext>`

**Примечание**: Тексты не очищены от лишних пробелов и переносов строк, что сохраняет оригинальное форматирование произведений.

## Состав и характеристики датасета

### Распределение по языкам

![Распределение языков](statick/language_distribution_bar.png)

Как видно из графика:
- Русский язык: около 70% контента
- Английский язык: около 17% контента
- Другие языки: украинский, польский, немецкий и т.д.

Такое разнообразие языков отражает культурное взаимодействие и литературное влияние различных культур, особенно в классических и переводных произведениях.

### Распределение по размеру текстов

![Распределение количества слов](statick/word_count_distribution.png)

Большинство текстов в датасете содержат до 100 000 слов, что соответствует типичному размеру романа или повести. Присутствуют как небольшие рассказы, так и объемные произведения.

![Распределение размеров файлов](statick/size_distribution_hist.png)

На гистограмме отмечены медиана и среднее значение размеров текстов, что помогает оценить типичный объем произведений в коллекции.

### Частотность слов

#### Самые популярные слова в русских текстах
![Частотные слова (RU)](statick/most_common_words_ru.png)

#### Самые популярные слова в английских текстах
![Частотные слова (EN)](statick/most_common_words_en.png)

Как и ожидалось, наиболее частотными являются служебные части речи: предлоги, союзы и т.д. ("и", "в", "не", "на", "что" и другие). Эта статистика отражает типичное распределение частот слов в естественном языке и подтверждает лингвистический закон Ципфа.

## Использование датасета

Данный датасет может быть полезен для:
- Генерации художественного текста в различных жанрах
- Обучения языковых моделей на разнообразном литературном материале
- Лингвистических исследований русского языка и литературы
- Анализа литературных стилей и жанровых особенностей
- Задач классификации и кластеризации текстов