Datasets:

AtesiT
/

support-toxicity-classification-ru

language:
  - ru
license: mit
task_categories:
  - text-classification
tags:
  - toxicity
  - text-classification
  - russian
  - customer-support
size_categories:
  - 10K<n<100K

Russian Support Toxicity Classification Dataset

Описание

Датасет для бинарной классификации токсичности русскоязычных текстов в контексте службы технической поддержки. Создан в рамках практического кейса по обнаружению токсичных ответов специалистов поддержки перед их отправкой клиенту.

Формат данных

Каждая запись содержит два поля:

text (string) — текст сообщения
label (int) — метка класса: 0 (нетоксичный), 1 (токсичный)

Разбиение на выборки

Split	Размер	Класс 0	Класс 1
train	11064	5532	5532
validation	1383	691	692
test	1383	692	691

Датасет сбалансирован (50/50) с помощью undersampling, разбиение выполнено стратифицированно (train_test_split, stratify по label).

Источники данных

Класс 1 (токсичный):

s-nlp/ru_paradetox — параллельный корпус токсичных комментариев (использована колонка ru_toxic_comment)

Класс 0 (нетоксичный):

s-nlp/ru_paradetox — нейтрализованные версии комментариев (ru_neutral_comment)
MTS-AI-SearchSkill/MTSBerquad — вопросы из LFQA-датасета (question)
SetFit/amazon_massive_intent_ru-RU — нейтральные пользовательские команды (text)

Предобработка

Удаление пустых значений и NaN
Удаление точных дубликатов по тексту
Фильтрация по длине: от 3 до 500 слов
Балансировка классов (undersampling)
Стратифицированное разбиение train/val/test (80/10/10)

Назначение

Датасет предназначен для дообучения моделей бинарной классификации текста с целью автоматического выявления токсичных ответов сотрудников поддержки до их отправки клиенту, в рамках системы контроля качества коммуникаций.

Пример использования

from datasets import load_dataset dataset = load_dataset("YOUR_USERNAME/support-toxicity-classification-ru") print(dataset["train"][0])