README.md

metadata

language: ru
license: apache-2.0
task_categories:
  - text-classification
  - zero-shot-classification
pretty_name: Russian Toxic Comments Multi-label
size_categories: 100K-1M
tags:
  - russian
  - toxicity
  - profanity
  - threat-detection
  - hate-speech
  - offensive-language
  - multi-label
  - multi-task
  - nlp
  - text-classification
  - social-media
  - moderation
  - bert
  - rubert
  - toxic-comments
  - russian-language
annotations_creators:
  - crowdsourced
language_creators:
  - crowdsourced
multilinguality:
  - monolingual
source_datasets:
  - extended

Russian Toxic Comments Multi-label Dataset

Dataset Description

Этот датасет содержит размеченные комментарии на русском языке для задачи многозадачной (multi-task) и мультилейбл (multi-label) бинарной классификации токсичности.

Цель

Обучение модели для автоматического обнаружения трех типов токсичного контента:

• Profanity (ненормативная лексика) — мат, оскорбления, нецензурная брань
• Threat (угрозы) — явные или скрытые угрозы в адрес других людей
• Illegal (запросы на нарушение закона) — запросы о незаконных действиях (отсутствует в данном датасете)

Data Source

Датасет собран из источника:

• Toxic Russian Comments - размеченные комментарии из социальной сети ok.ru с классами: NORMAL, INSULT, THREAT, OBSCENITY

Data Fields

• text (string): Текст комментария после очистки (удалены HTML-теги, ссылки, специальные символы, текст приведен к нижнему регистру)
• profanity (int): 1 - содержит ненормативную лексику (INSULT или OBSCENITY), 0 - не содержит
• threat (int): 1 - содержит угрозу (THREAT), 0 - не содержит
• illegal (int): 1 - содержит запрос о незаконных действиях, 0 - не содержит (в данном датасете отсутствует)

Data Splits

Split	Number of Examples
Train	173,801
Validation	37,243
Test	37,244

Class Distribution

Class	Count	Percentage
Profanity	39,145	15.77%
Threat	12,027	4.84%
Illegal	0	0.00%

Preprocessing

Текст был очищен следующими шагами:

1. Приведение к нижнему регистру
2. Удаление HTML-тегов
3. Удаление ссылок (URL)
4. Удаление специальных символов (оставлены только буквы, цифры, пробелы и базовая пунктуация)
5. Удаление множественных пробелов

Usage Example

from datasets import load_dataset

dataset = load_dataset("IvanFed/russian-toxic-comments-multilabel")

# Доступ к данным
print(dataset['train'][0])

# Пример получения одного из классов
profanity_samples = dataset['train'].filter(lambda x: x['profanity'] == 1)
print(f"Примеров с ненормативной лексикой: {len(profanity_samples)}")