| --- |
| license: cc-by-4.0 |
| language: |
| - ru |
| task_categories: |
| - text-retrieval |
| tags: |
| - word-sense-disambiguation |
| - polysemy |
| - diversity-ranking |
| - information-retrieval |
| - russian |
| size_categories: |
| - n<1K |
| --- |
| |
| # RSTD — Russian Semantic Triplets Dataset |
|
|
| Русскоязычный корпус для оценки **diversity-ранжирования** при семантической |
| многозначности: проверяет способность поисковой системы покрыть в выдаче |
| **разные смыслы** полисемичного слова и не поддаться на отвлекающие документы. |
|
|
| ## Методология |
|
|
| Построен по методологии **RUSSE'2018** (Panchenko et al., 2018) — первого |
| shared task по разрешению лексической многозначности для русского языка: |
|
|
| - **значения** полисемичных слов — по словарному инвентарю (Викисловарь); |
| - **контексты** — реальные предложения из корпуса **Taiga** |
| (`cointegrated/taiga_stripped_proza`); |
| - **разметка смыслов** выполнена вручную по содержанию каждого предложения. |
|
|
| Часть слов (акция, гвоздика, лук, гусеница) пересекается с инвентарём RUSSE'2018. |
|
|
| ## Задача |
|
|
| **Diversity-ранжирование.** Запрос — полисемичное слово; релевантны документы, |
| покрывающие **разные смыслы** этого слова. Качественная выдача покрывает все |
| смыслы, а не повторяет один. Главная метрика — **α-nDCG** (Clarke et al., 2008), |
| штрафующая повторное покрытие одного смысла. |
|
|
| ## Состав |
|
|
| | Файл | Описание | Размер | |
| |---|---|---| |
| | `corpus.jsonl` | документы (предложения из Taiga, размечены по смыслам) | 206 | |
| | `queries.jsonl` | запросы (полисемичные слова) | 39 | |
| | `qrels.jsonl` | пары релевантности (бинарные) | 570 | |
| | `noise_random.jsonl` | дистракторы: другая тема | 30 | |
| | `noise_context.jsonl` | дистракторы: близкая тема, иной смысл | 30 | |
| | `noise_adversarial.jsonl` | дистракторы: то же слово в неверном смысле | 30 | |
|
|
| 14 полисемичных слов, 28 смыслов. |
|
|
| ## Формат |
|
|
| ```json |
| // corpus.jsonl |
| {"_id": "d001", "text": "Захлопнув дверь, провернул ключ в замочной скважине.", "anchor": "ключ", "sense": "замок"} |
| // queries.jsonl |
| {"_id": "q_0000", "text": "Найди разные значения слова «ключ».", "anchor": "ключ", "senses": ["замок", "родник"]} |
| // qrels.jsonl |
| {"query-id": "q_0000", "corpus-id": "d001", "score": 1} |
| ``` |
|
|
| ## Дистракторы |
|
|
| - **random** — нерелевантные тексты на другие темы. |
| - **context** — тематически близкие, но иного смысла. |
| - **adversarial** — содержат то же слово в противоречащем контексте |
| («починил замок, не используя ключа»). Сильнейший тест на понимание смысла. |
|
|
| ## Эксперименты с устойчивостью |
|
|
| 1. **Семантический шум** — дистракторы трёх типов (в составе датасета). |
| 2. **Числовой шум** — гауссово возмущение эмбеддинга запроса |
| (`emb + N(0, σ²)`, σ ∈ {0, 0.05, 0.1, 0.2, 0.3}) как стресс-тест. |
|
|
| ## Загрузка |
|
|
| ```python |
| from datasets import load_dataset |
| corpus = load_dataset("DmitriiSablin/RSTD", data_files="corpus.jsonl") |
| ``` |
|
|
| ## Цитирование |
|
|
| ```bibtex |
| @misc{sablin2026rstd, |
| author = {Sablin, Dmitrii}, |
| title = {RSTD: Russian Semantic Triplets Dataset}, |
| year = {2026}, |
| publisher = {Hugging Face}, |
| howpublished = {\url{https://huggingface.co/datasets/DmitriiSablin/RSTD}} |
| } |
| @inproceedings{panchenko2018russe, |
| title = {{RUSSE'2018}: A Shared Task on Word Sense Induction for the Russian Language}, |
| author = {Panchenko, Alexander and others}, |
| booktitle = {Computational Linguistics and Intellectual Technologies (Dialogue)}, |
| pages = {547--564}, year = {2018} |
| } |
| ``` |
|
|
| ## Ограничения |
|
|
| Компактный датасет (14 слов), разметка одним аннотатором. Не претендует на |
| масштаб RUSSE'2018; предназначен для оценки diversity-ранжирования и устойчивости |
| к семантическим дистракторам в задачах IR. |
|
|
| ## Лицензия |
|
|
| CC BY 4.0 |
