Datasets:

aurelianvolturi
/

homework2-multitask-toxicity

language:
  - ru
license: cc-by-nc-sa-4.0
task_categories:
  - text-classification
tags:
  - multi-label
  - toxicity
  - russian
  - template-holdout
pretty_name: Russian Multi-Task Toxicity

Russian Multi-Task Toxicity

Нативный русскоязычный multi-label датасет для меток profanity, threat, illegal.

Источники

Toxic Russian Comments: естественные социальные комментарии;
RUCriminal: синтетические вредоносные запросы по статьям УК РФ;
вручную проверенные TRAIN-контрпримеры.

Самая ограничительная лицензия исходников — CC BY-NC-SA 4.0. RUCriminal распространяется по CC BY 4.0.

Защита от ложных корреляций

legal train/validation/test разделены по статьям;
template families legal-данных также не пересекаются;
harmful prompt и lawful controls имеют общий pair_id;
точный challenge-набор не публикуется и не входит в обучение;
отсутствуют переводные строки.

Фильтрация

Удалены URL, email, телефоны, IP, usernames, длинные идентификаторы, HTML, управляющие символы и строки с политическими или политически чувствительными совпадениями.

Размеры

train: 6409
validation: 799
test: 784

Ограничения

RUCriminal содержит синтетические malicious prompts. Даже при article/template holdout возможны остаточные стилистические корреляции. Датасет предназначен для учебной модерации, а не юридической квалификации.