--- license: cc-by-4.0 language: - ru task_categories: - text-retrieval tags: - word-sense-disambiguation - polysemy - diversity-ranking - information-retrieval - russian size_categories: - n<1K --- # RSTD — Russian Semantic Triplets Dataset Русскоязычный корпус для оценки **diversity-ранжирования** при семантической многозначности: проверяет способность поисковой системы покрыть в выдаче **разные смыслы** полисемичного слова и не поддаться на отвлекающие документы. ## Методология Построен по методологии **RUSSE'2018** (Panchenko et al., 2018) — первого shared task по разрешению лексической многозначности для русского языка: - **значения** полисемичных слов — по словарному инвентарю (Викисловарь); - **контексты** — реальные предложения из корпуса **Taiga** (`cointegrated/taiga_stripped_proza`); - **разметка смыслов** выполнена вручную по содержанию каждого предложения. Часть слов (акция, гвоздика, лук, гусеница) пересекается с инвентарём RUSSE'2018. ## Задача **Diversity-ранжирование.** Запрос — полисемичное слово; релевантны документы, покрывающие **разные смыслы** этого слова. Качественная выдача покрывает все смыслы, а не повторяет один. Главная метрика — **α-nDCG** (Clarke et al., 2008), штрафующая повторное покрытие одного смысла. ## Состав | Файл | Описание | Размер | |---|---|---| | `corpus.jsonl` | документы (предложения из Taiga, размечены по смыслам) | 206 | | `queries.jsonl` | запросы (полисемичные слова) | 39 | | `qrels.jsonl` | пары релевантности (бинарные) | 570 | | `noise_random.jsonl` | дистракторы: другая тема | 30 | | `noise_context.jsonl` | дистракторы: близкая тема, иной смысл | 30 | | `noise_adversarial.jsonl` | дистракторы: то же слово в неверном смысле | 30 | 14 полисемичных слов, 28 смыслов. ## Формат ```json // corpus.jsonl {"_id": "d001", "text": "Захлопнув дверь, провернул ключ в замочной скважине.", "anchor": "ключ", "sense": "замок"} // queries.jsonl {"_id": "q_0000", "text": "Найди разные значения слова «ключ».", "anchor": "ключ", "senses": ["замок", "родник"]} // qrels.jsonl {"query-id": "q_0000", "corpus-id": "d001", "score": 1} ``` ## Дистракторы - **random** — нерелевантные тексты на другие темы. - **context** — тематически близкие, но иного смысла. - **adversarial** — содержат то же слово в противоречащем контексте («починил замок, не используя ключа»). Сильнейший тест на понимание смысла. ## Эксперименты с устойчивостью 1. **Семантический шум** — дистракторы трёх типов (в составе датасета). 2. **Числовой шум** — гауссово возмущение эмбеддинга запроса (`emb + N(0, σ²)`, σ ∈ {0, 0.05, 0.1, 0.2, 0.3}) как стресс-тест. ## Загрузка ```python from datasets import load_dataset corpus = load_dataset("DmitriiSablin/RSTD", data_files="corpus.jsonl") ``` ## Цитирование ```bibtex @misc{sablin2026rstd, author = {Sablin, Dmitrii}, title = {RSTD: Russian Semantic Triplets Dataset}, year = {2026}, publisher = {Hugging Face}, howpublished = {\url{https://huggingface.co/datasets/DmitriiSablin/RSTD}} } @inproceedings{panchenko2018russe, title = {{RUSSE'2018}: A Shared Task on Word Sense Induction for the Russian Language}, author = {Panchenko, Alexander and others}, booktitle = {Computational Linguistics and Intellectual Technologies (Dialogue)}, pages = {547--564}, year = {2018} } ``` ## Ограничения Компактный датасет (14 слов), разметка одним аннотатором. Не претендует на масштаб RUSSE'2018; предназначен для оценки diversity-ранжирования и устойчивости к семантическим дистракторам в задачах IR. ## Лицензия CC BY 4.0