---
license: cc-by-4.0
---
# Корпус гендерно маркированной инвективной лексики русского языка

## Описание

Датасет содержит 101 966 русскоязычных интернет-комментариев с гендерно маркированной инвективной лексикой.

Корпус был создан для исследования токсичной лексики, гендерных особенностей употребления инвектив и задач автоматического анализа токсичности текстов.

## Источники данных

Корпус был сформирован на основе комментариев из следующих открытых источников:

* Russian Language Toxic Comments (Kaggle, 2019);
* Toxic Russian Comments from B21176df (Kaggle, 2021);
* YouTube comments (Russian language) (Kaggle, 2021);
* Toxic Russian Comments Dataset (Hugging Face Datasets, 2024).

Итоговый корпус был очищен, лемматизирован и размечен по категориям дегуманизации и гендерной маркированности.

## Структура датасета

### gendered_dehumanization_dataset.csv

| Столбец                              | Описание                                                            |
| ------------------------------------ | ------------------------------------------------------------------- |
| text                                 | полный текст комментария                                            |
| all_detected_lemmas                  | все найденные инвективные леммы                                     |
| target_lemma                         | исследуемая лемма                                                   |
| target_lemma_dehumanization_category | категория дегуманизации исследуемой леммы                           |
| gender_category                      | гендерная маркированность леммы (`masculine`, `feminine`, `common`) |

### gendered_dehumanization_lexicon.csv

Словарь гендерно маркированных инвектив, использованный для формирования корпуса.

Содержит следующие столбцы:

| Столбец         | Описание                        |
| --------------- | ------------------------------- |
| lemma           | лемма                           |
| category        | категория дегуманизации         |
| gender_category | гендерная маркированность леммы |


## Предобработка данных

Перед формированием корпуса комментарии были очищены от эмодзи, цифр и лишних символов. Также были сокращены повторяющиеся буквы (например, «аааааа» → «аа») и выполнена лемматизация инвективной лексики.

После предобработки комментарии были размечены по категориям дегуманизации и гендерной маркированности.


## Категории дегуманизации

На основе существующих исследований дегуманизации и анализа материала корпуса была сформирована система категорий, использованная для аннотирования лексики в данном датасете:

* Сексуализирующая дегуманизация
* Телесно-физиологическая дегуманизация
* Зооморфная дегуманизация
* Интеллектуальная дегуманизация
* Внешне-оценочная дегуманизация
* Инфантилизация
* Социальная дегуманизация
* Ярлыковая дегуманизация
* Устойчивые дегуманизирующие конструкции

## Предупреждение

Датасет содержит обсценную лексику, оскорбительные выражения, токсичные и дегуманизирующие высказывания. Материалы представлены исключительно в исследовательских целях.