ttrpg-rpg-fandom-com-ru (RPG Fandom RU Dataset)

[Russian version below / Русская версия ниже]

Описание

Этот датасет содержит полный дамп вики rpg.fandom.com/ru/, конвертированный в чистый Markdown. Он предназначен для использования в системах RAG (Retrieval-Augmented Generation), дообучения языковых моделей (LLM) и исследований в области НРИ.

Создатель и контакты

• Вебсайт: exnihilum.info
• GitHub: exnpub
• Репозиторий проекта: dataset-rpg-fandom-com-ru

Структура

• markdown/: Очищенные документы с YAML-метаданными.
• indexes/documents.jsonl: Метаданные для всех страниц.
• indexes/chunks.jsonl: Семантические фрагменты (400-800 токенов), готовые для создания эмбеддингов.

Визуальные и мультимодальные данные

Изображения из вики хранятся в папке assets/ и интегрированы в Markdown-документы в виде alt-текстов.

Детали аннотирования изображений:

• Модель: qwen3.5:2b (мультимодальная модель через Ollama).
• Язык: Русский (описания сгенерированы специально для контекста русских НРИ).
• Процесс: Автоматическое семантическое описание, фиксирующее тип объекта (логотип, арт персонажа, карта, монстр и т.д.) и ключевые визуальные детали.

Лицензирование изображений: В отличие от текстового контента (CC-BY-SA), изображения в датасете могут иметь различные лицензии, установленные правообладателями на Fandom. Основные типы лицензий, встречающиеся в корпусе:

• CC-BY-SA: Стандартная лицензия для пользовательского контента.
• Fair Use / Добросовестное использование: Применяется для обложек книг, официальных арт-объектов и логотипов в ознакомительных целях.
• Public Domain / Общественное достояние: Для материалов, не охраняемых авторским правом. Изображения предоставляются исключительно в исследовательских и образовательных целях.

Поля метаданных

• id: Уникальный ID страницы из Fandom.
• title: Заголовок страницы.
• source_url: Оригинальный URL.

Лицензия

Контент доступен на условиях лицензии CC-BY-SA.

Инструкция по обновлению

Используйте Makefile в репозитории:

make sync
make download
make convert
make rag

---

English Version / Английская версия

Description

This dataset contains a complete dump of the rpg.fandom.com/ru/ wiki, converted to clean Markdown. It is designed for use in RAG (Retrieval-Augmented Generation) systems, LLM fine-tuning, and TTRPG research.

Creator and Contacts

• Website: exnihilum.info
• GitHub: exnpub
• Project Repository: dataset-rpg-fandom-com-ru

Structure

• markdown/: Cleaned documents with YAML front matter.
• indexes/documents.jsonl: Metadata for all pages.
• indexes/chunks.jsonl: Semantic chunks (400-800 tokens) ready for embedding.

Vision & Multimodal Data

Images from the wiki are stored in assets/ and integrated into Markdown documents as alt texts.

Image Annotation Details:

• Model: qwen3.5:2b (multimodal vision model via Ollama).
• Language: Russian (descriptions generated specifically for the Russian TTRPG context).
• Process: Automated semantic captioning capturing subject type (Logo, Character Art, Map, Monster, etc.) and key visual details.

Image Licensing: Unlike text content (CC-BY-SA), images in this dataset may carry different licenses as specified by their owners on Fandom. Major license types found in the dataset include:

• CC-BY-SA: Standard creative commons for user-generated content.
• Fair Use: Often applied to book covers, official artwork, and logos for informational purposes.
• Public Domain: For works with expired or no copyright. Images are provided strictly for research and educational purposes.

Metadata Fields

• id: Unique page ID from Fandom.
• title: Page title.
• source_url: Original URL.