| --- |
| license: mit |
| language: |
| - ru |
| tags: |
| - toxic-comments |
| - multi-label-classification |
| - russian |
| - profanity |
| - threats |
| - illegal-requests |
| pretty_name: Russian Multi-label Toxic Comments |
| size_categories: 10K<n<100K |
| task_categories: |
| - text-classification |
| --- |
| |
| # Russian Multi-label Toxic Comments Dataset |
|
|
| ## Описание датасета |
|
|
| Датасет для мульти-лейбл классификации токсичных комментариев на русском языке. Каждый текст размечен по трем категориям: |
|
|
| 1. **Profanity (ненормативная лексика)** - наличие нецензурной лексики |
| 2. **Threat (угрозы)** - содержание угроз в адрес других пользователей |
| 3. **Illegal (незаконные запросы)** - запросы на нарушение закона (например, создание оружия, наркотиков) |
|
|
| ## Структура данных |
|
|
| Датасет содержит три разделения: |
| - **Train**: 9908 примеров (70%%) |
| - **Validation**: 2123 примера (15%%) |
| - **Test**: 2124 примера (15%%) |
|
|
| Каждый пример содержит: |
| - `cleaned_text`: очищенный текст комментария |
| - `profanity`: бинарная метка (0/1) |
| - `threat`: бинарная метка (0/1) |
| - `illegal`: бинарная метка (0/1) |
|
|
| ## Статистика |
|
|
| ### Распределение классов |
|
|
| | Класс | Положительные | Отрицательные | Соотношение | |
| |-------|---------------|---------------|-------------| |
| | Profanity | 4,726 (33.4%%) | 9,429 (66.6%%) | 1:2.0 | |
| | Threat | 547 (3.9%%) | 13,608 (96.1%%) | 1:24.9 | |
| | Illegal | 523 (3.7%%) | 13,632 (96.3%%) | 1:26.1 | |
|
|
| ### Корреляция между классами |
|
|
| - Profanity-Threat: 0.018 |
| - Profanity-Illegal: -0.000 |
| - Threat-Illegal: 0.085 |
|
|
| ## Источник данных |
|
|
| Базовый датасет взят с Kaggle: [Russian Language Toxic Comments](https://www.kaggle.com/datasets/blackmoon/russian-language-toxic-comments) |
|
|
| Дополнительные метки (threat и illegal) были сгенерированы с использованием ключевых слов и паттернов. |
|
|
| ## Предобработка |
|
|
| - Удаление ссылок, HTML-тегов и эмодзи |
| - Приведение к нижнему регистру |
| - Удаление дубликатов |
| - Удаление слишком коротких текстов (менее 3 символов) |
|
|
| ## Примеры |
|
|
| ### Безопасный текст |
| "в шапке были ссылки на инфу по текущему фильму марвел" |
|
|
| ### Profanity |
| "верблюдов то за что? дебилы, бл." |
|
|
| ### Threat |
| "собаке собачья смерть" |
|
|
| ### Illegal |
| "хорош врать, ты террорист торч к шизофреник" |
|
|
| ## Использование |
|
|
| ```python |
| from datasets import load_dataset |
| |
| dataset = load_dataset("ваш-username/russian-toxic-comments-multilabel") |
| ``` |
|
|
| ## Цель создания |
|
|
| Датасет создан для задачи мульти-лейбл классификации токсичных комментариев. Может использоваться для: |
| - Модерации контента в социальных сетях |
| - Автоматической фильтрации угроз |
| - Детекции нецензурной лексики |
| - Обучения моделей для безопасного общения |
|
|
| ## Лицензия |
|
|
| MIT License |
|
|
