| --- |
| language: ru |
| license: apache-2.0 |
| task_categories: |
| - text-classification |
| - zero-shot-classification |
| pretty_name: Russian Toxic Comments Multi-label |
| size_categories: 100K-1M |
| tags: |
| - russian |
| - toxicity |
| - profanity |
| - threat-detection |
| - hate-speech |
| - offensive-language |
| - multi-label |
| - multi-task |
| - nlp |
| - text-classification |
| - social-media |
| - moderation |
| - bert |
| - rubert |
| - toxic-comments |
| - russian-language |
| annotations_creators: |
| - crowdsourced |
| language_creators: |
| - crowdsourced |
| multilinguality: |
| - monolingual |
| source_datasets: |
| - extended |
| --- |
| |
| # Russian Toxic Comments Multi-label Dataset |
|
|
| ## Dataset Description |
|
|
| Этот датасет содержит размеченные комментарии на русском языке для задачи многозадачной (multi-task) и мультилейбл (multi-label) бинарной классификации токсичности. |
|
|
| ### Цель |
|
|
| Обучение модели для автоматического обнаружения трех типов токсичного контента: |
| - **Profanity** (ненормативная лексика) — мат, оскорбления, нецензурная брань |
| - **Threat** (угрозы) — явные или скрытые угрозы в адрес других людей |
| - **Illegal** (запросы на нарушение закона) — запросы о незаконных действиях (отсутствует в данном датасете) |
|
|
| ### Data Source |
|
|
| Датасет собран из источника: |
| - [Toxic Russian Comments](https://www.kaggle.com/datasets/alexandersemiletov/toxic-russian-comments) - размеченные комментарии из социальной сети ok.ru с классами: NORMAL, INSULT, THREAT, OBSCENITY |
|
|
| ## Data Fields |
|
|
| - `text` (string): Текст комментария после очистки (удалены HTML-теги, ссылки, специальные символы, текст приведен к нижнему регистру) |
| - `profanity` (int): 1 - содержит ненормативную лексику (INSULT или OBSCENITY), 0 - не содержит |
| - `threat` (int): 1 - содержит угрозу (THREAT), 0 - не содержит |
| - `illegal` (int): 1 - содержит запрос о незаконных действиях, 0 - не содержит (в данном датасете отсутствует) |
|
|
| ## Data Splits |
|
|
| | Split | Number of Examples | |
| |-------|-------------------| |
| | Train | 173,801 | |
| | Validation | 37,243 | |
| | Test | 37,244 | |
|
|
| ## Class Distribution |
|
|
| | Class | Count | Percentage | |
| |-------|-------|------------| |
| | Profanity | 39,145 | 15.77% | |
| | Threat | 12,027 | 4.84% | |
| | Illegal | 0 | 0.00% | |
|
|
| ## Preprocessing |
|
|
| Текст был очищен следующими шагами: |
| 1. Приведение к нижнему регистру |
| 2. Удаление HTML-тегов |
| 3. Удаление ссылок (URL) |
| 4. Удаление специальных символов (оставлены только буквы, цифры, пробелы и базовая пунктуация) |
| 5. Удаление множественных пробелов |
|
|
| ## Usage Example |
|
|
| ```python |
| from datasets import load_dataset |
| |
| dataset = load_dataset("IvanFed/russian-toxic-comments-multilabel") |
| |
| # Доступ к данным |
| print(dataset['train'][0]) |
| |
| # Пример получения одного из классов |
| profanity_samples = dataset['train'].filter(lambda x: x['profanity'] == 1) |
| print(f"Примеров с ненормативной лексикой: {len(profanity_samples)}") |
