README.md

metadata

license: mit
task_categories:
  - text-classification
language:
  - ru
tags:
  - toxicity
  - russian
  - classification
  - nlp
size_categories:
  - 10K<n<100K

Toxicity Dataset

Краткое описание

Данный датасет представляет собой сбалансированную выборку русскоязычных комментариев, размеченных на два класса: токсичные (1) и нейтральные (0). Суммарный объем датасета составляет 80 106 записей, разделенных в примерном соотношении 50/50 (по 40 053 примера на каждый класс).

Источники данных

Исходными материалами для сборки послужили следующие датасеты:

• AlexSham/Toxic_Russian_Comments
• s-nlp/ru_paradetox_toxicity
• kuznetsoffandrey/sberquad

Назначение датасета

Датасет оптимизирован для решения задач бинарной классификации текстов в сфере русскоязычного NLP. Сбалансированное распределение классов (50/50) предотвращает смещение модели в сторону мажоритарного класса. Датасет отлично подходит как для классических методов машинного обучения, так и для дообучения трансформеров.

Формат данных

Данные представлены в стандартном текстовом формате со следующей структурой колонок:

• text (string): Текст комментария пользователя.
• label (int): Метка класса (0 — нейтральный комментарий, 1 — токсичный комментарий).

Пример записи

{
  "text": "какой же крутой сегодня день!",
  "label": 0
}