aurelianvolturi's picture
Update card and article/template holdout
4982ec5 verified
|
Raw
History Blame Contribute Delete
1.99 kB
---
language:
- ru
license: cc-by-nc-sa-4.0
task_categories:
- text-classification
tags:
- multi-label
- toxicity
- russian
- template-holdout
pretty_name: Russian Multi-Task Toxicity
---
# Russian Multi-Task Toxicity
Нативный русскоязычный multi-label датасет для меток
`profanity`, `threat`, `illegal`.
## Источники
- Toxic Russian Comments: естественные социальные комментарии;
- RUCriminal: синтетические вредоносные запросы по статьям УК РФ;
- вручную проверенные TRAIN-контрпримеры.
Самая ограничительная лицензия исходников — CC BY-NC-SA 4.0.
RUCriminal распространяется по CC BY 4.0.
## Защита от ложных корреляций
- legal train/validation/test разделены по статьям;
- template families legal-данных также не пересекаются;
- harmful prompt и lawful controls имеют общий `pair_id`;
- точный challenge-набор не публикуется и не входит в обучение;
- отсутствуют переводные строки.
## Фильтрация
Удалены URL, email, телефоны, IP, usernames, длинные идентификаторы,
HTML, управляющие символы и строки с политическими или политически
чувствительными совпадениями.
## Размеры
- train: 6409
- validation: 799
- test: 784
## Ограничения
RUCriminal содержит синтетические malicious prompts. Даже при
article/template holdout возможны остаточные стилистические корреляции.
Датасет предназначен для учебной модерации, а не юридической квалификации.