README.md

---
license: mit
language:
- ru
tags:
- toxic-comments
- multi-label-classification
- russian
- profanity
- threats
- illegal-requests
pretty_name: Russian Multi-label Toxic Comments
size_categories: 10K<n<100K
task_categories:
- text-classification
---

# Russian Multi-label Toxic Comments Dataset

## Описание датасета

Датасет для мульти-лейбл классификации токсичных комментариев на русском языке. Каждый текст размечен по трем категориям:

1. **Profanity (ненормативная лексика)** - наличие нецензурной лексики
2. **Threat (угрозы)** - содержание угроз в адрес других пользователей
3. **Illegal (незаконные запросы)** - запросы на нарушение закона (например, создание оружия, наркотиков)

## Структура данных

Датасет содержит три разделения:
- **Train**: 9908 примеров (70%%)
- **Validation**: 2123 примера (15%%)
- **Test**: 2124 примера (15%%)

Каждый пример содержит:
- `cleaned_text`: очищенный текст комментария
- `profanity`: бинарная метка (0/1)
- `threat`: бинарная метка (0/1)
- `illegal`: бинарная метка (0/1)

## Статистика

### Распределение классов

| Класс | Положительные | Отрицательные | Соотношение |
|-------|---------------|---------------|-------------|
| Profanity | 4,726 (33.4%%) | 9,429 (66.6%%) | 1:2.0 |
| Threat | 547 (3.9%%) | 13,608 (96.1%%) | 1:24.9 |
| Illegal | 523 (3.7%%) | 13,632 (96.3%%) | 1:26.1 |

### Корреляция между классами

- Profanity-Threat: 0.018
- Profanity-Illegal: -0.000
- Threat-Illegal: 0.085

## Источник данных

Базовый датасет взят с Kaggle: [Russian Language Toxic Comments](https://www.kaggle.com/datasets/blackmoon/russian-language-toxic-comments)

Дополнительные метки (threat и illegal) были сгенерированы с использованием ключевых слов и паттернов.

## Предобработка

- Удаление ссылок, HTML-тегов и эмодзи
- Приведение к нижнему регистру
- Удаление дубликатов
- Удаление слишком коротких текстов (менее 3 символов)

## Примеры

### Безопасный текст
"в шапке были ссылки на инфу по текущему фильму марвел"

### Profanity
"верблюдов то за что? дебилы, бл."

### Threat
"собаке собачья смерть"

### Illegal
"хорош врать, ты террорист торч к шизофреник"

## Использование

```python
from datasets import load_dataset

dataset = load_dataset("ваш-username/russian-toxic-comments-multilabel")
```

## Цель создания

Датасет создан для задачи мульти-лейбл классификации токсичных комментариев. Может использоваться для:
- Модерации контента в социальных сетях
- Автоматической фильтрации угроз
- Детекции нецензурной лексики
- Обучения моделей для безопасного общения

## Лицензия

MIT License