README.md

---
language:
- ru
license: mit
task_categories:
- text-classification
tags:
- safety
- prompt-injection
- NLP
dataset_info:
  features:
  - name: text
    dtype: string
  - name: label
    dtype: int64
  splits:
  - name: train
    num_bytes: 5413450
    num_examples: 24014
  - name: validation
    num_bytes: 663946
    num_examples: 3002
  - name: test
    num_bytes: 675953
    num_examples: 3002
  download_size: 4078996
  dataset_size: 6753349
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train-*
  - split: validation
    path: data/validation-*
  - split: test
    path: data/test-*
---

# Dataset Name: Toxic vs Clean Text Dataset

## Описание
Данный датасет предназначен для обучения бинарного классификатора текстовой безопасности (выявление токсичности, вредоносного контента и скрытых промпт-инъекций). 

## Структура данных
Датасет разделен на три сплита (`train`, `validation`, `test`) в пропорции 80/10/10 с сохранением стратификации классов.
Каждый сплит содержит колонки:
- `text` (string): Текст запроса или команды.
- `label` (int): Метка класса (`0` — нетоксичный/нейтральный, `1` — токсичный/инъекция).

## Источники данных и балансировка
- **Класс 1 (Токсичный):** Данные из датасета `russian_prompt_injections`.
- **Класс 0 (Нетоксичный):** Нейтральные команды и вежливые интенты из датасетов `mtop_intent_ru` и `ru_nlu_intent`.

В ходе предобработки была проведена фильтрация выбросов по длине (оставлены тексты от 3 до 500 слов), удалены дубликаты и пустые значения. Выполнена балансировка классов методом undersampling мажоритарного класса до идеального соотношения 50/50. Общий объем выборки составил 30,018 записей.