File size: 1,993 Bytes
4982ec5
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
---
language:
- ru
license: cc-by-nc-sa-4.0
task_categories:
- text-classification
tags:
- multi-label
- toxicity
- russian
- template-holdout
pretty_name: Russian Multi-Task Toxicity
---

# Russian Multi-Task Toxicity

Нативный русскоязычный multi-label датасет для меток
`profanity`, `threat`, `illegal`.

## Источники

- Toxic Russian Comments: естественные социальные комментарии;
- RUCriminal: синтетические вредоносные запросы по статьям УК РФ;
- вручную проверенные TRAIN-контрпримеры.

Самая ограничительная лицензия исходников — CC BY-NC-SA 4.0.
RUCriminal распространяется по CC BY 4.0.

## Защита от ложных корреляций

- legal train/validation/test разделены по статьям;
- template families legal-данных также не пересекаются;
- harmful prompt и lawful controls имеют общий `pair_id`;
- точный challenge-набор не публикуется и не входит в обучение;
- отсутствуют переводные строки.

## Фильтрация

Удалены URL, email, телефоны, IP, usernames, длинные идентификаторы,
HTML, управляющие символы и строки с политическими или политически
чувствительными совпадениями.

## Размеры

- train: 6409
- validation: 799
- test: 784

## Ограничения

RUCriminal содержит синтетические malicious prompts. Даже при
article/template holdout возможны остаточные стилистические корреляции.
Датасет предназначен для учебной модерации, а не юридической квалификации.