README.md

---
license: mit
language:
- en
- ru
pretty_name: Multi-Task Very Toxic Comments
tags:
- text-classification
- toxicity
- multi-label-classification
- multitask
- multilingual
task_categories:
- text-classification
size_categories:
- 100K<n<1M
dataset_info:
  features:
  - name: text
    dtype: string
  - name: profanity
    dtype: int64
  - name: threat
    dtype: int64
  - name: illegal
    dtype: int64
  - name: __index_level_0__
    dtype: int64
  splits:
  - name: train
    num_bytes: 68633700
    num_examples: 165157
  download_size: 40800000
  dataset_size: 68633700
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
---

# ⚠️ ВАЖНОЕ ПРЕДУПРЕЖДЕНИЕ (DISCLAIMER) ⚠️

Данный датасет создан исключительно в **образовательных и исследовательских целях** для разработки моделей машинного обучения в области классификации токсичности.

## 1. Источники данных
- **Основная часть** (159 562 записи) взята из открытого датасета **Jigsaw Toxic Comment Classification Challenge** (Kaggle). Эти тексты — **на английском языке**.
- **Дополнительная часть** (5 595 записей) сгенерирована с помощью LLM (Large Language Model) специально для балансировки редких классов (`threat` и `illegal`). Эти тексты — **на русском языке**.

Таким образом, датасет является **смешанным (английский + русский)**.

## 2. Содержание и этические ограничения
Датасет содержит **реальные и синтетические тексты**, которые могут включать:
- Нецензурную лексику, оскорбления и унизительные выражения.
- Угрозы физической расправы, насилия и запугивания.
- **Крайне жестокие, аморальные и неприемлемые запросы**, связанные с нарушением закона (например, изготовление оружия, наркотиков, террористические действия).

**Важно:** такие примеры добавлены **исключительно** для обучения модели распознаванию опасного контента, чтобы в дальнейшем автоматически фильтровать его в социальных сетях и защищать пользователей.

## 3. Ограничения использования
- Данный датасет **не предназначен** для пропаганды, распространения или совершения каких-либо незаконных или аморальных действий.
- Использование датасета разрешено только в рамках **научно-исследовательских и образовательных проектов** по обработке естественного языка (NLP).
- Автор датасета не несёт ответственности за любое нецелевое использование данных.

## 4. Особенности класса `illegal`
В большинстве открытых датасетов отсутствует прямая разметка для класса **illegal** (запросы на нарушение закона). В связи с этим:
- В основном датасете (Jigsaw) класс `illegal` был создан как **прокси-метка** на основе объединения колонок `severe_toxic` и `threat` (логическое ИЛИ).
- Дополнительно были сгенерированы синтетические примеры на русском языке, которые могут быть особенно жестокими и шокирующими. Это сделано намеренно, чтобы модель научилась распознавать даже самые крайние формы опасного контента.

## 5. Рекомендация
При работе с датасетом рекомендуется проявлять **психологическую осторожность** — некоторые формулировки могут вызвать сильный эмоциональный дискомфорт.

---

## 📊 Структура датасета

### Колонки
- **text** (string): текст комментария (на английском или русском языке)
- **profanity** (int): 1 — есть ненормативная лексика/мат, 0 — нет
- **threat** (int): 1 — есть угроза, 0 — нет
- **illegal** (int): 1 — есть запрос на нарушение закона, 0 — нет

*Примечание:* колонка `__index_level_0__` является служебной и может быть проигнорирована.

### Размер
- Всего записей: **165 157**
- Формат хранения: JSON Lines (`.jsonl`)

### Распределение классов
| Класс | Количество | Доля |
|-------|------------|------|
| profanity | 9 447 | 5.72% |
| threat | 1 410 | 0.85% |
| illegal | 3 568 | 2.16% |

### Пересечение классов
- Из всех угроз (1 410) с матом (`profanity`) пересекаются **606** (43.0%). Это означает, что угрозы часто, но не всегда, сопровождаются нецензурной лексикой.

## 📂 Источники данных
- **Основной датасет**: [Jigsaw Toxic Comment Classification Challenge](https://www.kaggle.com/competitions/jigsaw-toxic-comment-classification-challenge) (лицензия: CC0)
- **Синтетические данные**: 5 595 примеров, сгенерированных с помощью LLM специально для этого датасета (русскоязычные, с фокусом на редкие классы).

## 🚀 Пример использования
```python
from datasets import load_dataset

dataset = load_dataset("NikolayRainWay/multitask-very-toxic-comments")
print(dataset['train'][0])

⚠️ Ограничения
Класс illegal является прокси-меткой (не прямая разметка) для основной части данных; синтетические примеры имеют прямую разметку.

Датасет содержит тексты на двух языках: английском и русском.

Наблюдается сильный дисбаланс классов — рекомендуется использовать взвешенную функцию потерь при обучении (например, BCEWithLogitsLoss с pos_weight).


---

### Что именно обновлено по сравнению с предыдущей версией:

| Раздел | Было | Стало |
|--------|------|-------|
| Общее количество записей | 160 529 | **165 157** |
| Количество синтетических примеров | ~1 500 | **5 595** |
| Распределение profanity | ~9 340 (5.82%) | **9 447 (5.72%)** |
| Распределение threat | ~931 (0.58%) | **1 410 (0.85%)** |
| Распределение illegal | ~2 809 (1.75%) | **3 568 (2.16%)** |
| Пересечение угроз с матом | (не было) | **43.0%** (606 из 1410) |
| dataset_info (размер, байты) | 66 465 196 байт | **68 633 700 байт** (примерно) |
| Языки | en, ru | (осталось) |
| Дисклеймер | Упоминание о синтетике без деталей | Уточнено количество и цель генерации |