README.md

---
license: mit
task_categories:
- text-classification
language:
- ru
tags:
- toxicity
- russian
- classification
- nlp
size_categories:
- 10K<n<100K
---

# Toxicity Dataset

## Краткое описание
Данный датасет представляет собой сбалансированную выборку русскоязычных комментариев, размеченных на два класса: токсичные (`1`) и нейтральные (`0`). 
Суммарный объем датасета составляет 80 106 записей, разделенных в примерном соотношении 50/50 (по 40 053 примера на каждый класс).

## Источники данных
Исходными материалами для сборки послужили следующие датасеты:
* **[AlexSham/Toxic_Russian_Comments](https://huggingface.co/datasets/AlexSham/Toxic_Russian_Comments)**
* **[s-nlp/ru_paradetox_toxicity](https://huggingface.co/datasets/s-nlp/ru_paradetox_toxicity)**
* **[kuznetsoffandrey/sberquad](https://huggingface.co/datasets/kuznetsoffandrey/sberquad)**

## Назначение датасета
Датасет оптимизирован для решения задач бинарной классификации текстов в сфере русскоязычного NLP. 
Сбалансированное распределение классов (50/50) предотвращает смещение модели в сторону мажоритарного класса. Датасет отлично подходит как для классических методов машинного обучения, так и для дообучения трансформеров.

## Формат данных
Данные представлены в стандартном текстовом формате со следующей структурой колонок:

* `text` (string): Текст комментария пользователя.
* `label` (int): Метка класса (`0` — нейтральный комментарий, `1` — токсичный комментарий).

### Пример записи
```json
{
  "text": "какой же крутой сегодня день!",
  "label": 0
}