README.md

---
language:
- ru
license: mit
task_categories:
- text-classification
tags:
- toxicity
- text-classification
- russian
- customer-support
size_categories:
- 10K<n<100K
---

# Russian Support Toxicity Classification Dataset

## Описание

Датасет для бинарной классификации токсичности русскоязычных текстов в контексте 
службы технической поддержки. Создан в рамках практического кейса по обнаружению 
токсичных ответов специалистов поддержки перед их отправкой клиенту.

## Формат данных

Каждая запись содержит два поля:
- **text** (string) — текст сообщения
- **label** (int) — метка класса: 0 (нетоксичный), 1 (токсичный)

## Разбиение на выборки

| Split      | Размер | Класс 0 | Класс 1 |
|------------|--------|---------|---------|
| train      | 11064  | 5532    | 5532    |
| validation | 1383   | 691     | 692     |
| test       | 1383   | 692     | 691     |

Датасет сбалансирован (50/50) с помощью undersampling, разбиение выполнено 
стратифицированно (train_test_split, stratify по label).

## Источники данных

**Класс 1 (токсичный):**
- s-nlp/ru_paradetox — параллельный корпус токсичных комментариев
  (использована колонка ru_toxic_comment)

**Класс 0 (нетоксичный):**
- s-nlp/ru_paradetox — нейтрализованные версии комментариев (ru_neutral_comment)
- MTS-AI-SearchSkill/MTSBerquad — вопросы из LFQA-датасета (question)
- SetFit/amazon_massive_intent_ru-RU — нейтральные пользовательские команды (text)

## Предобработка

1. Удаление пустых значений и NaN
2. Удаление точных дубликатов по тексту
3. Фильтрация по длине: от 3 до 500 слов
4. Балансировка классов (undersampling)
5. Стратифицированное разбиение train/val/test (80/10/10)

## Назначение

Датасет предназначен для дообучения моделей бинарной классификации текста 
с целью автоматического выявления токсичных ответов сотрудников поддержки 
до их отправки клиенту, в рамках системы контроля качества коммуникаций.

## Пример использования

from datasets import load_dataset
dataset = load_dataset("YOUR_USERNAME/support-toxicity-classification-ru")
print(dataset["train"][0])