Datasets:

DmitriiSablin
/

RSTD

license: cc-by-4.0
language:
  - ru
task_categories:
  - text-retrieval
tags:
  - word-sense-disambiguation
  - polysemy
  - diversity-ranking
  - information-retrieval
  - russian
size_categories:
  - n<1K

RSTD — Russian Semantic Triplets Dataset

Русскоязычный корпус для оценки diversity-ранжирования при семантической многозначности: проверяет способность поисковой системы покрыть в выдаче разные смыслы полисемичного слова и не поддаться на отвлекающие документы.

Методология

Построен по методологии RUSSE'2018 (Panchenko et al., 2018) — первого shared task по разрешению лексической многозначности для русского языка:

значения полисемичных слов — по словарному инвентарю (Викисловарь);
контексты — реальные предложения из корпуса Taiga (cointegrated/taiga_stripped_proza);
разметка смыслов выполнена вручную по содержанию каждого предложения.

Часть слов (акция, гвоздика, лук, гусеница) пересекается с инвентарём RUSSE'2018.

Задача

Diversity-ранжирование. Запрос — полисемичное слово; релевантны документы, покрывающие разные смыслы этого слова. Качественная выдача покрывает все смыслы, а не повторяет один. Главная метрика — α-nDCG (Clarke et al., 2008), штрафующая повторное покрытие одного смысла.

Состав

Файл	Описание	Размер
`corpus.jsonl`	документы (предложения из Taiga, размечены по смыслам)	206
`queries.jsonl`	запросы (полисемичные слова)	39
`qrels.jsonl`	пары релевантности (бинарные)	570
`noise_random.jsonl`	дистракторы: другая тема	30
`noise_context.jsonl`	дистракторы: близкая тема, иной смысл	30
`noise_adversarial.jsonl`	дистракторы: то же слово в неверном смысле	30

14 полисемичных слов, 28 смыслов.

Формат

// corpus.jsonl
{"_id": "d001", "text": "Захлопнув дверь, провернул ключ в замочной скважине.", "anchor": "ключ", "sense": "замок"}
// queries.jsonl
{"_id": "q_0000", "text": "Найди разные значения слова «ключ».", "anchor": "ключ", "senses": ["замок", "родник"]}
// qrels.jsonl
{"query-id": "q_0000", "corpus-id": "d001", "score": 1}

Дистракторы

random — нерелевантные тексты на другие темы.
context — тематически близкие, но иного смысла.
adversarial — содержат то же слово в противоречащем контексте («починил замок, не используя ключа»). Сильнейший тест на понимание смысла.

Эксперименты с устойчивостью

Семантический шум — дистракторы трёх типов (в составе датасета).
Числовой шум — гауссово возмущение эмбеддинга запроса (emb + N(0, σ²), σ ∈ {0, 0.05, 0.1, 0.2, 0.3}) как стресс-тест.

Загрузка

from datasets import load_dataset
corpus = load_dataset("DmitriiSablin/RSTD", data_files="corpus.jsonl")

Цитирование

@misc{sablin2026rstd,
  author = {Sablin, Dmitrii},
  title  = {RSTD: Russian Semantic Triplets Dataset},
  year   = {2026},
  publisher = {Hugging Face},
  howpublished = {\url{https://huggingface.co/datasets/DmitriiSablin/RSTD}}
}
@inproceedings{panchenko2018russe,
  title  = {{RUSSE'2018}: A Shared Task on Word Sense Induction for the Russian Language},
  author = {Panchenko, Alexander and others},
  booktitle = {Computational Linguistics and Intellectual Technologies (Dialogue)},
  pages  = {547--564}, year = {2018}
}

Ограничения

Компактный датасет (14 слов), разметка одним аннотатором. Не претендует на масштаб RUSSE'2018; предназначен для оценки diversity-ранжирования и устойчивости к семантическим дистракторам в задачах IR.

Лицензия

CC BY 4.0