| --- |
| license: cc-by-4.0 |
| --- |
| # Корпус гендерно маркированной инвективной лексики русского языка |
|
|
| ## Описание |
|
|
| Датасет содержит 101 966 русскоязычных интернет-комментариев с гендерно маркированной инвективной лексикой. |
|
|
| Корпус был создан для исследования токсичной лексики, гендерных особенностей употребления инвектив и задач автоматического анализа токсичности текстов. |
|
|
| ## Источники данных |
|
|
| Корпус был сформирован на основе комментариев из следующих открытых источников: |
|
|
| * Russian Language Toxic Comments (Kaggle, 2019); |
| * Toxic Russian Comments from B21176df (Kaggle, 2021); |
| * YouTube comments (Russian language) (Kaggle, 2021); |
| * Toxic Russian Comments Dataset (Hugging Face Datasets, 2024). |
|
|
| Итоговый корпус был очищен, лемматизирован и размечен по категориям дегуманизации и гендерной маркированности. |
|
|
| ## Структура датасета |
|
|
| ### gendered_dehumanization_dataset.csv |
|
|
| | Столбец | Описание | |
| | ------------------------------------ | ------------------------------------------------------------------- | |
| | text | полный текст комментария | |
| | all_detected_lemmas | все найденные инвективные леммы | |
| | target_lemma | исследуемая лемма | |
| | target_lemma_dehumanization_category | категория дегуманизации исследуемой леммы | |
| | gender_category | гендерная маркированность леммы (`masculine`, `feminine`, `common`) | |
| |
| ### gendered_dehumanization_lexicon.csv |
| |
| Словарь гендерно маркированных инвектив, использованный для формирования корпуса. |
| |
| Содержит следующие столбцы: |
| |
| | Столбец | Описание | |
| | --------------- | ------------------------------- | |
| | lemma | лемма | |
| | category | категория дегуманизации | |
| | gender_category | гендерная маркированность леммы | |
|
|
|
|
| ## Предобработка данных |
|
|
| Перед формированием корпуса комментарии были очищены от эмодзи, цифр и лишних символов. Также были сокращены повторяющиеся буквы (например, «аааааа» → «аа») и выполнена лемматизация инвективной лексики. |
|
|
| После предобработки комментарии были размечены по категориям дегуманизации и гендерной маркированности. |
|
|
|
|
| ## Категории дегуманизации |
|
|
| На основе существующих исследований дегуманизации и анализа материала корпуса была сформирована система категорий, использованная для аннотирования лексики в данном датасете: |
|
|
| * Сексуализирующая дегуманизация |
| * Телесно-физиологическая дегуманизация |
| * Зооморфная дегуманизация |
| * Интеллектуальная дегуманизация |
| * Внешне-оценочная дегуманизация |
| * Инфантилизация |
| * Социальная дегуманизация |
| * Ярлыковая дегуманизация |
| * Устойчивые дегуманизирующие конструкции |
|
|
| ## Предупреждение |
|
|
| Датасет содержит обсценную лексику, оскорбительные выражения, токсичные и дегуманизирующие высказывания. Материалы представлены исключительно в исследовательских целях. |
|
|
