|
|
---
|
|
|
license: mit
|
|
|
task_categories:
|
|
|
- text-generation
|
|
|
- text2text-generation
|
|
|
language:
|
|
|
- ru
|
|
|
tags:
|
|
|
- art
|
|
|
pretty_name: dataset Russian literature
|
|
|
size_categories:
|
|
|
- 100K<n<1M
|
|
|
---
|
|
|
|
|
|
# Датасет качественной русской литературы
|
|
|
|
|
|
## Описание
|
|
|
|
|
|
Данный датасет представляет собой обширную коллекцию качественной русской литературы, тщательно отфильтрованной от ссылок и HTML-тегов. Корпус текстов охватывает разнообразные произведения и предназначен для использования в задачах обработки естественного языка, анализа текстов и машинного обучения.
|
|
|
|
|
|
Особенности коллекции:
|
|
|
- **Разнообразие источников**: собрана из открытых электронных библиотек
|
|
|
- **Широкий охват жанров**: от классической прозы до современной фантастики
|
|
|
- **Исторический диапазон**: от древних текстов (включая библейские) до произведений января 2024 года
|
|
|
- **Жанровое разнообразие**: преобладают художественные тексты, особенно фэнтези и фантастика, с небольшой долей научной литературы
|
|
|
|
|
|
## Структура датасета
|
|
|
|
|
|
Датасет разделен на 7 файлов:
|
|
|
- Первые 6 файлов: примерно по 1 ГБ каждый
|
|
|
- 7-й файл: около 0.5 ГБ
|
|
|
|
|
|
Общий объем — около **47 миллионов строк** текста, что делает этот корпус одним из наиболее значительных собраний русскоязычной литературы в цифровом формате.
|
|
|
|
|
|
### Формат файлов
|
|
|
|
|
|
Каждый файл имеет следующую структуру:
|
|
|
- Начинается с тега `<DATASET_START>`
|
|
|
- Заканчивается тегом `<DATASET_END>`
|
|
|
- Внутри содержится множество отдельных текстов, каждый из которых:
|
|
|
- Начинается с тега `<startoftext>`
|
|
|
- Заканчивается тегом `<endoftext>`
|
|
|
|
|
|
**Примечание**: Тексты не очищены от лишних пробелов и переносов строк, что сохраняет оригинальное форматирование произведений.
|
|
|
|
|
|
## Состав и характеристики датасета
|
|
|
|
|
|
### Распределение по языкам
|
|
|
|
|
|
|
|
|
|
|
|
Как видно из графика:
|
|
|
- Русский язык: около 70% контента
|
|
|
- Английский язык: около 17% контента
|
|
|
- Другие языки: украинский, польский, немецкий и т.д.
|
|
|
|
|
|
Такое разнообразие языков отражает культурное взаимодействие и литературное влияние различных культур, особенно в классических и переводных произведениях.
|
|
|
|
|
|
### Распределение по размеру текстов
|
|
|
|
|
|
|
|
|
|
|
|
Большинство текстов в датасете содержат до 100 000 слов, что соответствует типичному размеру романа или повести. Присутствуют как небольшие рассказы, так и объемные произведения.
|
|
|
|
|
|
|
|
|
|
|
|
На гистограмме отмечены медиана и среднее значение размеров текстов, что помогает оценить типичный объем произведений в коллекции.
|
|
|
|
|
|
### Частотность слов
|
|
|
|
|
|
#### Самые популярные слова в русских текстах
|
|
|
|
|
|
|
|
|
#### Самые популярные слова в английских текстах
|
|
|
|
|
|
|
|
|
Как и ожидалось, наиболее частотными являются служебные части речи: предлоги, союзы и т.д. ("и", "в", "не", "на", "что" и другие). Эта статистика отражает типичное распределение частот слов в естественном языке и подтверждает лингвистический закон Ципфа.
|
|
|
|
|
|
## Использование датасета
|
|
|
|
|
|
Данный датасет может быть полезен для:
|
|
|
- Генерации художественного текста в различных жанрах
|
|
|
- Обучения языковых моделей на разнообразном литературном материале
|
|
|
- Лингвистических исследований русского языка и литературы
|
|
|
- Анализа литературных стилей и жанровых особенностей
|
|
|
- Задач классификации и кластеризации текстов
|
|
|
|
|
|
|
