README.md

metadata

license: apache-2.0
task_categories:
  - text-classification
language:
  - pt
pretty_name: 'portuguese-hatebr-omni-classification '
size_categories:
  - 1K<n<10K

Este dataset contém uma classificação de toxicidade e discurso de ódio para comentários em português do Brasil, derivado do conhecido dataset HateBR. Cada comentário foi analisado utilizando o modelo de moderação omni-moderation-latest da OpenAI para identificar a categoria de conteúdo prejudicial mais provável e sua respectiva pontuação (score). O objetivo é fornecer um recurso para treinar e avaliar modelos de detecção de conteúdo tóxico.

Metodologia de Geração

1. Dataset Base: Utilizou-se a coluna comentario do dataset original.
2. Classificação via API: Cada texto foi enviado individualmente para a API de Moderação da OpenAI.
3. Extração de Dados: A categoria com o maior score de confiança e o próprio score foram extraídos da resposta da API.
4. Novas Colunas: Os resultados foram adicionados ao dataset original em duas novas colunas: omni_classification e omni_classification_score.

Estrutura do Dataset (Schema)

O dataset inclui as colunas originais e adiciona as seguintes:

• omni_classification: (string) A categoria de conteúdo prejudicial com o maior score, conforme retornado pela API. Exemplos: violence, harassment/threatening, hate.
• omni_classification_score: (float) O score de confiança (entre 0.0 e 1.0) para a categoria atribuída.

Observação

O conteúdo deste dataset pertence originalmente à autora Francielle Vargas. Minha contribuição foi apenas na etapa de classificação dos dados.