README.md

metadata

license: mit
task_categories:
  - text-generation
  - text2text-generation
language:
  - ru
tags:
  - art
pretty_name: dataset Russian literature
size_categories:
  - 100K<n<1M

Датасет качественной русской литературы

Описание

Данный датасет представляет собой обширную коллекцию качественной русской литературы, тщательно отфильтрованной от ссылок и HTML-тегов. Корпус текстов охватывает разнообразные произведения и предназначен для использования в задачах обработки естественного языка, анализа текстов и машинного обучения.

Особенности коллекции:

• Разнообразие источников: собрана из открытых электронных библиотек
• Широкий охват жанров: от классической прозы до современной фантастики
• Исторический диапазон: от древних текстов (включая библейские) до произведений января 2024 года
• Жанровое разнообразие: преобладают художественные тексты, особенно фэнтези и фантастика, с небольшой долей научной литературы

Структура датасета

Датасет разделен на 7 файлов:

• Первые 6 файлов: примерно по 1 ГБ каждый
• 7-й файл: около 0.5 ГБ

Общий объем — около 47 миллионов строк текста, что делает этот корпус одним из наиболее значительных собраний русскоязычной литературы в цифровом формате.

Формат файлов

Каждый файл имеет следующую структуру:

• Начинается с тега <DATASET_START>
• Заканчивается тегом <DATASET_END>
• Внутри содержится множество отдельных текстов, каждый из которых:
  • Начинается с тега <startoftext>
  • Заканчивается тегом <endoftext>

Примечание: Тексты не очищены от лишних пробелов и переносов строк, что сохраняет оригинальное форматирование произведений.

Состав и характеристики датасета

Распределение по языкам

Как видно из графика:

• Русский язык: около 70% контента
• Английский язык: около 17% контента
• Другие языки: украинский, польский, немецкий и т.д.

Такое разнообразие языков отражает культурное взаимодействие и литературное влияние различных культур, особенно в классических и переводных произведениях.

Распределение по размеру текстов

Большинство текстов в датасете содержат до 100 000 слов, что соответствует типичному размеру романа или повести. Присутствуют как небольшие рассказы, так и объемные произведения.

На гистограмме отмечены медиана и среднее значение размеров текстов, что помогает оценить типичный объем произведений в коллекции.

Частотность слов

Самые популярные слова в русских текстах

Самые популярные слова в английских текстах

Как и ожидалось, наиболее частотными являются служебные части речи: предлоги, союзы и т.д. ("и", "в", "не", "на", "что" и другие). Эта статистика отражает типичное распределение частот слов в естественном языке и подтверждает лингвистический закон Ципфа.

Использование датасета

Данный датасет может быть полезен для:

• Генерации художественного текста в различных жанрах
• Обучения языковых моделей на разнообразном литературном материале
• Лингвистических исследований русского языка и литературы
• Анализа литературных стилей и жанровых особенностей
• Задач классификации и кластеризации текстов