README.md

---
language:
- ru
license: mit
task_categories:
- text-classification
tags:
- toxicity
- multi-label-classification
- russian
- moderation
size_categories:
- 10K<n<100K
---

# RU Multi-Task Toxicity Dataset

## Описание

Датасет для обучения multi-task классификатора токсичности русскоязычных
текстов по трём независимым бинарным категориям:

- **profanity** — ненормативная лексика (мат)
- **threat** — угрозы в адрес пользователя/третьих лиц
- **illegal** — запросы, связанные с нарушением закона
  (например, "как сделать бомбу", "где купить наркотики")

Каждый текст может относиться сразу к нескольким категориям одновременно
(multi-label задача), либо ни к одной (нейтральный текст).

## Состав данных

Датасет собран комбинированным способом:
1. Реальные русскоязычные тексты из открытых источников (там, где это было
   технически возможно), очищенные и размеченные по мату через regex-паттерны.
2. Weak-supervision разметка классов threat и illegal по словарям/паттернам
   ключевых фраз.
3. Синтетическая аугментация редких классов (threat, illegal) шаблонными
   примерами — сделано намеренно, так как в естественных текстах такие
   примеры крайне редки, а модели нужно на чём-то учиться их распознавать.

## Структура

| Колонка   | Тип | Описание                                   |
|-----------|-----|---------------------------------------------|
| text      | str | Очищенный текст комментария                 |
| profanity | int | 1, если присутствует нецензурная лексика    |
| threat    | int | 1, если текст содержит угрозу               |
| illegal   | int | 1, если текст — запрос про незаконные действия |

## Статистика классов

| Класс     | Positive | % от датасета |
|-----------|----------|----------------|
| profanity | 3969 | 34.58% |
| threat    | 118 | 1.03% |
| illegal   | 70 | 0.61% |

Классы сильно несбалансированы: profanity встречается часто, threat и
illegal — редкие классы. Это нужно учитывать при обучении (взвешивание
лосса, подбор порога по F1, а не по accuracy).

## Разбиение

- train: 9757 примеров
- test: 1722 примеров

Разбиение стратифицировано по самому редкому классу (illegal), чтобы он
присутствовал в обеих выборках.

## Пример использования

```python
from datasets import load_dataset

ds = load_dataset("AtesiT/ru-multitask-toxicity")
print(ds["train"][0])
```

## Лицензия

MIT. Датасет создан в учебных целях для курса по трансформерным энкодерам.