| --- |
| license: mit |
| language: |
| - en |
| - ru |
| pretty_name: Multi-Task Very Toxic Comments |
| tags: |
| - text-classification |
| - toxicity |
| - multi-label-classification |
| - multitask |
| - multilingual |
| task_categories: |
| - text-classification |
| size_categories: |
| - 100K<n<1M |
| dataset_info: |
| features: |
| - name: text |
| dtype: string |
| - name: profanity |
| dtype: int64 |
| - name: threat |
| dtype: int64 |
| - name: illegal |
| dtype: int64 |
| - name: __index_level_0__ |
| dtype: int64 |
| splits: |
| - name: train |
| num_bytes: 68633700 |
| num_examples: 165157 |
| download_size: 40800000 |
| dataset_size: 68633700 |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train-* |
| --- |
| |
| # ⚠️ ВАЖНОЕ ПРЕДУПРЕЖДЕНИЕ (DISCLAIMER) ⚠️ |
|
|
| Данный датасет создан исключительно в **образовательных и исследовательских целях** для разработки моделей машинного обучения в области классификации токсичности. |
|
|
| ## 1. Источники данных |
| - **Основная часть** (159 562 записи) взята из открытого датасета **Jigsaw Toxic Comment Classification Challenge** (Kaggle). Эти тексты — **на английском языке**. |
| - **Дополнительная часть** (5 595 записей) сгенерирована с помощью LLM (Large Language Model) специально для балансировки редких классов (`threat` и `illegal`). Эти тексты — **на русском языке**. |
|
|
| Таким образом, датасет является **смешанным (английский + русский)**. |
|
|
| ## 2. Содержание и этические ограничения |
| Датасет содержит **реальные и синтетические тексты**, которые могут включать: |
| - Нецензурную лексику, оскорбления и унизительные выражения. |
| - Угрозы физической расправы, насилия и запугивания. |
| - **Крайне жестокие, аморальные и неприемлемые запросы**, связанные с нарушением закона (например, изготовление оружия, наркотиков, террористические действия). |
|
|
| **Важно:** такие примеры добавлены **исключительно** для обучения модели распознаванию опасного контента, чтобы в дальнейшем автоматически фильтровать его в социальных сетях и защищать пользователей. |
|
|
| ## 3. Ограничения использования |
| - Данный датасет **не предназначен** для пропаганды, распространения или совершения каких-либо незаконных или аморальных действий. |
| - Использование датасета разрешено только в рамках **научно-исследовательских и образовательных проектов** по обработке естественного языка (NLP). |
| - Автор датасета не несёт ответственности за любое нецелевое использование данных. |
|
|
| ## 4. Особенности класса `illegal` |
| В большинстве открытых датасетов отсутствует прямая разметка для класса **illegal** (запросы на нарушение закона). В связи с этим: |
| - В основном датасете (Jigsaw) класс `illegal` был создан как **прокси-метка** на основе объединения колонок `severe_toxic` и `threat` (логическое ИЛИ). |
| - Дополнительно были сгенерированы синтетические примеры на русском языке, которые могут быть особенно жестокими и шокирующими. Это сделано намеренно, чтобы модель научилась распознавать даже самые крайние формы опасного контента. |
|
|
| ## 5. Рекомендация |
| При работе с датасетом рекомендуется проявлять **психологическую осторожность** — некоторые формулировки могут вызвать сильный эмоциональный дискомфорт. |
|
|
| --- |
|
|
| ## 📊 Структура датасета |
|
|
| ### Колонки |
| - **text** (string): текст комментария (на английском или русском языке) |
| - **profanity** (int): 1 — есть ненормативная лексика/мат, 0 — нет |
| - **threat** (int): 1 — есть угроза, 0 — нет |
| - **illegal** (int): 1 — есть запрос на нарушение закона, 0 — нет |
|
|
| *Примечание:* колонка `__index_level_0__` является служебной и может быть проигнорирована. |
|
|
| ### Размер |
| - Всего записей: **165 157** |
| - Формат хранения: JSON Lines (`.jsonl`) |
|
|
| ### Распределение классов |
| | Класс | Количество | Доля | |
| |-------|------------|------| |
| | profanity | 9 447 | 5.72% | |
| | threat | 1 410 | 0.85% | |
| | illegal | 3 568 | 2.16% | |
|
|
| ### Пересечение классов |
| - Из всех угроз (1 410) с матом (`profanity`) пересекаются **606** (43.0%). Это означает, что угрозы часто, но не всегда, сопровождаются нецензурной лексикой. |
|
|
| ## 📂 Источники данных |
| - **Основной датасет**: [Jigsaw Toxic Comment Classification Challenge](https://www.kaggle.com/competitions/jigsaw-toxic-comment-classification-challenge) (лицензия: CC0) |
| - **Синтетические данные**: 5 595 примеров, сгенерированных с помощью LLM специально для этого датасета (русскоязычные, с фокусом на редкие классы). |
|
|
| ## 🚀 Пример использования |
| ```python |
| from datasets import load_dataset |
| |
| dataset = load_dataset("NikolayRainWay/multitask-very-toxic-comments") |
| print(dataset['train'][0]) |
| |
| ⚠️ Ограничения |
| Класс illegal является прокси-меткой (не прямая разметка) для основной части данных; синтетические примеры имеют прямую разметку. |
| |
| Датасет содержит тексты на двух языках: английском и русском. |
| |
| Наблюдается сильный дисбаланс классов — рекомендуется использовать взвешенную функцию потерь при обучении (например, BCEWithLogitsLoss с pos_weight). |
| |
| |
| --- |
| |
| ### Что именно обновлено по сравнению с предыдущей версией: |
| |
| | Раздел | Было | Стало | |
| |--------|------|-------| |
| | Общее количество записей | 160 529 | **165 157** | |
| | Количество синтетических примеров | ~1 500 | **5 595** | |
| | Распределение profanity | ~9 340 (5.82%) | **9 447 (5.72%)** | |
| | Распределение threat | ~931 (0.58%) | **1 410 (0.85%)** | |
| | Распределение illegal | ~2 809 (1.75%) | **3 568 (2.16%)** | |
| | Пересечение угроз с матом | (не было) | **43.0%** (606 из 1410) | |
| | dataset_info (размер, байты) | 66 465 196 байт | **68 633 700 байт** (примерно) | |
| | Языки | en, ru | (осталось) | |
| | Дисклеймер | Упоминание о синтетике без деталей | Уточнено количество и цель генерации | |
| |
| |
