license: cc-by-4.0
Корпус гендерно маркированной инвективной лексики русского языка
Описание
Датасет содержит 101 966 русскоязычных интернет-комментариев с гендерно маркированной инвективной лексикой.
Корпус был создан для исследования токсичной лексики, гендерных особенностей употребления инвектив и задач автоматического анализа токсичности текстов.
Источники данных
Корпус был сформирован на основе комментариев из следующих открытых источников:
- Russian Language Toxic Comments (Kaggle, 2019);
- Toxic Russian Comments from B21176df (Kaggle, 2021);
- YouTube comments (Russian language) (Kaggle, 2021);
- Toxic Russian Comments Dataset (Hugging Face Datasets, 2024).
Итоговый корпус был очищен, лемматизирован и размечен по категориям дегуманизации и гендерной маркированности.
Структура датасета
gendered_dehumanization_dataset.csv
| Столбец | Описание |
|---|---|
| text | полный текст комментария |
| all_detected_lemmas | все найденные инвективные леммы |
| target_lemma | исследуемая лемма |
| target_lemma_dehumanization_category | категория дегуманизации исследуемой леммы |
| gender_category | гендерная маркированность леммы (masculine, feminine, common) |
gendered_dehumanization_lexicon.csv
Словарь гендерно маркированных инвектив, использованный для формирования корпуса.
Содержит следующие столбцы:
| Столбец | Описание |
|---|---|
| lemma | лемма |
| category | категория дегуманизации |
| gender_category | гендерная маркированность леммы |
Предобработка данных
Перед формированием корпуса комментарии были очищены от эмодзи, цифр и лишних символов. Также были сокращены повторяющиеся буквы (например, «аааааа» → «аа») и выполнена лемматизация инвективной лексики.
После предобработки комментарии были размечены по категориям дегуманизации и гендерной маркированности.
Категории дегуманизации
На основе существующих исследований дегуманизации и анализа материала корпуса была сформирована система категорий, использованная для аннотирования лексики в данном датасете:
- Сексуализирующая дегуманизация
- Телесно-физиологическая дегуманизация
- Зооморфная дегуманизация
- Интеллектуальная дегуманизация
- Внешне-оценочная дегуманизация
- Инфантилизация
- Социальная дегуманизация
- Ярлыковая дегуманизация
- Устойчивые дегуманизирующие конструкции
Предупреждение
Датасет содержит обсценную лексику, оскорбительные выражения, токсичные и дегуманизирующие высказывания. Материалы представлены исключительно в исследовательских целях.