--- language: ru license: apache-2.0 task_categories: - text-classification - zero-shot-classification pretty_name: Russian Toxic Comments Multi-label size_categories: 100K-1M tags: - russian - toxicity - profanity - threat-detection - hate-speech - offensive-language - multi-label - multi-task - nlp - text-classification - social-media - moderation - bert - rubert - toxic-comments - russian-language annotations_creators: - crowdsourced language_creators: - crowdsourced multilinguality: - monolingual source_datasets: - extended --- # Russian Toxic Comments Multi-label Dataset ## Dataset Description Этот датасет содержит размеченные комментарии на русском языке для задачи многозадачной (multi-task) и мультилейбл (multi-label) бинарной классификации токсичности. ### Цель Обучение модели для автоматического обнаружения трех типов токсичного контента: - **Profanity** (ненормативная лексика) — мат, оскорбления, нецензурная брань - **Threat** (угрозы) — явные или скрытые угрозы в адрес других людей - **Illegal** (запросы на нарушение закона) — запросы о незаконных действиях (отсутствует в данном датасете) ### Data Source Датасет собран из источника: - [Toxic Russian Comments](https://www.kaggle.com/datasets/alexandersemiletov/toxic-russian-comments) - размеченные комментарии из социальной сети ok.ru с классами: NORMAL, INSULT, THREAT, OBSCENITY ## Data Fields - `text` (string): Текст комментария после очистки (удалены HTML-теги, ссылки, специальные символы, текст приведен к нижнему регистру) - `profanity` (int): 1 - содержит ненормативную лексику (INSULT или OBSCENITY), 0 - не содержит - `threat` (int): 1 - содержит угрозу (THREAT), 0 - не содержит - `illegal` (int): 1 - содержит запрос о незаконных действиях, 0 - не содержит (в данном датасете отсутствует) ## Data Splits | Split | Number of Examples | |-------|-------------------| | Train | 173,801 | | Validation | 37,243 | | Test | 37,244 | ## Class Distribution | Class | Count | Percentage | |-------|-------|------------| | Profanity | 39,145 | 15.77% | | Threat | 12,027 | 4.84% | | Illegal | 0 | 0.00% | ## Preprocessing Текст был очищен следующими шагами: 1. Приведение к нижнему регистру 2. Удаление HTML-тегов 3. Удаление ссылок (URL) 4. Удаление специальных символов (оставлены только буквы, цифры, пробелы и базовая пунктуация) 5. Удаление множественных пробелов ## Usage Example ```python from datasets import load_dataset dataset = load_dataset("IvanFed/russian-toxic-comments-multilabel") # Доступ к данным print(dataset['train'][0]) # Пример получения одного из классов profanity_samples = dataset['train'].filter(lambda x: x['profanity'] == 1) print(f"Примеров с ненормативной лексикой: {len(profanity_samples)}")