Datasets:
File size: 1,993 Bytes
4982ec5 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 | ---
language:
- ru
license: cc-by-nc-sa-4.0
task_categories:
- text-classification
tags:
- multi-label
- toxicity
- russian
- template-holdout
pretty_name: Russian Multi-Task Toxicity
---
# Russian Multi-Task Toxicity
Нативный русскоязычный multi-label датасет для меток
`profanity`, `threat`, `illegal`.
## Источники
- Toxic Russian Comments: естественные социальные комментарии;
- RUCriminal: синтетические вредоносные запросы по статьям УК РФ;
- вручную проверенные TRAIN-контрпримеры.
Самая ограничительная лицензия исходников — CC BY-NC-SA 4.0.
RUCriminal распространяется по CC BY 4.0.
## Защита от ложных корреляций
- legal train/validation/test разделены по статьям;
- template families legal-данных также не пересекаются;
- harmful prompt и lawful controls имеют общий `pair_id`;
- точный challenge-набор не публикуется и не входит в обучение;
- отсутствуют переводные строки.
## Фильтрация
Удалены URL, email, телефоны, IP, usernames, длинные идентификаторы,
HTML, управляющие символы и строки с политическими или политически
чувствительными совпадениями.
## Размеры
- train: 6409
- validation: 799
- test: 784
## Ограничения
RUCriminal содержит синтетические malicious prompts. Даже при
article/template holdout возможны остаточные стилистические корреляции.
Датасет предназначен для учебной модерации, а не юридической квалификации.
|