Datasets:

fdlvaaa
/

toxic-vs-clean-dataset

language:
  - ru
license: mit
task_categories:
  - text-classification
tags:
  - safety
  - prompt-injection
  - NLP
dataset_info:
  features:
    - name: text
      dtype: string
    - name: label
      dtype: int64
  splits:
    - name: train
      num_bytes: 5413450
      num_examples: 24014
    - name: validation
      num_bytes: 663946
      num_examples: 3002
    - name: test
      num_bytes: 675953
      num_examples: 3002
  download_size: 4078996
  dataset_size: 6753349
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: validation
        path: data/validation-*
      - split: test
        path: data/test-*

Dataset Name: Toxic vs Clean Text Dataset

Описание

Данный датасет предназначен для обучения бинарного классификатора текстовой безопасности (выявление токсичности, вредоносного контента и скрытых промпт-инъекций).

Структура данных

Датасет разделен на три сплита (train, validation, test) в пропорции 80/10/10 с сохранением стратификации классов. Каждый сплит содержит колонки:

text (string): Текст запроса или команды.
label (int): Метка класса (0 — нетоксичный/нейтральный, 1 — токсичный/инъекция).

Источники данных и балансировка

Класс 1 (Токсичный): Данные из датасета russian_prompt_injections.
Класс 0 (Нетоксичный): Нейтральные команды и вежливые интенты из датасетов mtop_intent_ru и ru_nlu_intent.

В ходе предобработки была проведена фильтрация выбросов по длине (оставлены тексты от 3 до 500 слов), удалены дубликаты и пустые значения. Выполнена балансировка классов методом undersampling мажоритарного класса до идеального соотношения 50/50. Общий объем выборки составил 30,018 записей.