RSTD — Russian Semantic Triplets Dataset

Русскоязычный корпус для оценки diversity-ранжирования при семантической многозначности: проверяет способность поисковой системы покрыть в выдаче разные смыслы полисемичного слова и не поддаться на отвлекающие документы.

Методология

Построен по методологии RUSSE'2018 (Panchenko et al., 2018) — первого shared task по разрешению лексической многозначности для русского языка:

• значения полисемичных слов — по словарному инвентарю (Викисловарь);
• контексты — реальные предложения из корпуса Taiga (cointegrated/taiga_stripped_proza);
• разметка смыслов выполнена вручную по содержанию каждого предложения.

Часть слов (акция, гвоздика, лук, гусеница) пересекается с инвентарём RUSSE'2018.

Задача

Diversity-ранжирование. Запрос — полисемичное слово; релевантны документы, покрывающие разные смыслы этого слова. Качественная выдача покрывает все смыслы, а не повторяет один. Главная метрика — α-nDCG (Clarke et al., 2008), штрафующая повторное покрытие одного смысла.

Состав

Файл	Описание	Размер
corpus.jsonl	документы (предложения из Taiga, размечены по смыслам)	206
queries.jsonl	запросы (полисемичные слова)	39
qrels.jsonl	пары релевантности (бинарные)	570
noise_random.jsonl	дистракторы: другая тема	30
noise_context.jsonl	дистракторы: близкая тема, иной смысл	30
noise_adversarial.jsonl	дистракторы: то же слово в неверном смысле	30

14 полисемичных слов, 28 смыслов.

Формат

// corpus.jsonl
{"_id": "d001", "text": "Захлопнув дверь, провернул ключ в замочной скважине.", "anchor": "ключ", "sense": "замок"}
// queries.jsonl
{"_id": "q_0000", "text": "Найди разные значения слова «ключ».", "anchor": "ключ", "senses": ["замок", "родник"]}
// qrels.jsonl
{"query-id": "q_0000", "corpus-id": "d001", "score": 1}

Дистракторы

• random — нерелевантные тексты на другие темы.
• context — тематически близкие, но иного смысла.
• adversarial — содержат то же слово в противоречащем контексте («починил замок, не используя ключа»). Сильнейший тест на понимание смысла.

Эксперименты с устойчивостью

1. Семантический шум — дистракторы трёх типов (в составе датасета).
2. Числовой шум — гауссово возмущение эмбеддинга запроса (emb + N(0, σ²), σ ∈ {0, 0.05, 0.1, 0.2, 0.3}) как стресс-тест.

Загрузка

from datasets import load_dataset
corpus = load_dataset("DmitriiSablin/RSTD", data_files="corpus.jsonl")

Цитирование

@misc{sablin2026rstd,
  author = {Sablin, Dmitrii},
  title  = {RSTD: Russian Semantic Triplets Dataset},
  year   = {2026},
  publisher = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/DmitriiSablin/RSTD}}
}
@inproceedings{panchenko2018russe,
  title  = {{RUSSE'2018}: A Shared Task on Word Sense Induction for the Russian Language},
  author = {Panchenko, Alexander and others},
  booktitle = {Computational Linguistics and Intellectual Technologies (Dialogue)},
  pages  = {547--564}, year = {2018}
}

Ограничения

Компактный датасет (14 слов), разметка одним аннотатором. Не претендует на масштаб RUSSE'2018; предназначен для оценки diversity-ранжирования и устойчивости к семантическим дистракторам в задачах IR.

Лицензия

CC BY 4.0