| --- |
| dataset_info: |
| features: |
| - name: text |
| dtype: string |
| - name: label |
| dtype: int64 |
| - name: __index_level_0__ |
| dtype: int64 |
| splits: |
| - name: train |
| num_bytes: 14047778 |
| num_examples: 72468 |
| - name: validation |
| num_bytes: 1744385 |
| num_examples: 9059 |
| - name: test |
| num_bytes: 1794959 |
| num_examples: 9059 |
| download_size: 9772405 |
| dataset_size: 17587122 |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train-* |
| - split: validation |
| path: data/validation-* |
| - split: test |
| path: data/test-* |
| --- |
| # Russian Toxicity Dataset |
|
|
| ## Описание |
| Датасет для бинарной классификации русскоязычных текстов на токсичные и нетоксичные. |
|
|
| ## Состав |
| - **train**: 72 468 записей (сбалансировано 1:1) |
| - **validation**: 9 059 записей |
| - **test**: 9 059 записей |
|
|
| ## Колонки |
| - `text`: текст комментария или вопроса (строка) |
| - `label`: метка класса (0 — нетоксичный, 1 — токсичный) |
|
|
| ## Источники данных |
| - Токсичные комментарии: [klamas/russian-toxic](https://huggingface.co/datasets/klamas/russian-toxic) |
| - Нетоксичные тексты: вопросы из датасета [SberQuAD](https://huggingface.co/datasets/sberquad) |
|
|
| ## Предобработка |
| - Удалены пустые строки и дубликаты |
| - Отфильтрованы тексты короче 3 слов и длиннее 500 слов |
| - Классы сбалансированы методом undersampling |
|
|
| ## Назначение |
| Обучение и оценка моделей классификации токсичности для русскоязычного контента. |
|
|
