| --- |
| license: apache-2.0 |
| task_categories: |
| - text-classification |
| language: |
| - pt |
| pretty_name: 'portuguese-hatebr-omni-classification ' |
| size_categories: |
| - 1K<n<10K |
| --- |
| |
| Este dataset contém uma classificação de toxicidade e discurso de ódio para comentários em português do Brasil, derivado do conhecido dataset [HateBR](https://huggingface.co/datasets/franciellevargas/HateBR). |
| Cada comentário foi analisado utilizando o modelo de moderação `omni-moderation-latest` da OpenAI para identificar a categoria de conteúdo prejudicial mais provável e sua respectiva pontuação (score). O objetivo é fornecer um recurso para treinar e avaliar modelos de detecção de conteúdo tóxico. |
|
|
| ## Metodologia de Geração |
|
|
| 1. **Dataset Base**: Utilizou-se a coluna `comentario` do dataset original. |
| 2. **Classificação via API**: Cada texto foi enviado individualmente para a API de Moderação da OpenAI. |
| 3. **Extração de Dados**: A categoria com o maior *score* de confiança e o próprio *score* foram extraídos da resposta da API. |
| 4. **Novas Colunas**: Os resultados foram adicionados ao dataset original em duas novas colunas: `omni_classification` e `omni_classification_score`. |
|
|
| ## Estrutura do Dataset (Schema) |
|
|
| O dataset inclui as colunas originais e adiciona as seguintes: |
|
|
| * **`omni_classification`**: (string) A categoria de conteúdo prejudicial com o maior score, conforme retornado pela API. Exemplos: `violence`, `harassment/threatening`, `hate`. |
| * **`omni_classification_score`**: (float) O score de confiança (entre 0.0 e 1.0) para a categoria atribuída. |
| |
| # Observação |
| O conteúdo deste dataset pertence originalmente à autora [Francielle Vargas](https://huggingface.co/franciellevargas). Minha contribuição foi apenas na etapa de classificação dos dados. |
