wesleycoutinhodev/docentesDC-curado

docentesDC Curado

Descrição

Este dataset é uma versão curada e consolidada do conjunto de dados vickminari/docentesDC.

O conjunto contém textos associados a professores do Departamento de Computação. A versão curada foi preparada para experimentos acadêmicos envolvendo:

• geração de texto;
• ajuste fino de modelos de linguagem;
• recuperação de informação;
• sistemas RAG;
• avaliação de respostas baseadas em documentos.

O processamento priorizou a preservação do conteúdo original, a redução de redundâncias e a prevenção de sobreposição de conteúdos entre os conjuntos de treinamento e validação.

Resumo do processamento

O dataset original continha 13.762 registros, distribuídos entre 19 professores.

Após o tratamento:

• 25 textos muito curtos foram removidos;
• 390 registros tiveram sequências extensas de pontos removidas;
• 510 duplicatas do mesmo conteúdo e professor foram consolidadas;
• 665 associações de conteúdos compartilhados entre professores foram consolidadas;
• 12.562 conteúdos únicos permaneceram no dataset final;
• os 19 professores permaneceram representados nos dois splits;
• não existe sobreposição de content_hash entre treinamento e validação.

Divisão dos dados

Split	Registros	Proporção
train	10.049	79,9952%
validation	2.513	20,0048%
Total	12.562	100%

A divisão foi realizada após a normalização, remoção de textos curtos e consolidação das duplicatas.

Foi utilizada a seed 42, com estratificação pelo professor principal.

A integridade dos splits foi verificada por meio do campo content_hash, resultando em:

Sobreposição de content_hash entre train e validation: 0

Procedimentos de curadoria

Normalização textual

Foi aplicada uma normalização conservadora, incluindo:

• normalização Unicode NFC;
• padronização das quebras de linha;
• remoção de caracteres de controle inválidos;
• remoção de espaços no final das linhas;
• redução de excesso de linhas vazias;
• remoção de sequências extensas de pontos utilizadas em sumários e índices.

A normalização evitou alterações semânticas no conteúdo, preservando acentos, capitalização, código, fórmulas e demais elementos textuais relevantes.

Remoção de textos curtos

Foram removidos automaticamente textos classificados como muito curtos.

Um registro foi classificado como too_short quando apresentou:

• menos de 20 caracteres; ou
• menos de 5 palavras.

Foram removidos 25 registros por esse critério.

Consolidação de duplicatas

Conteúdos textualmente idênticos associados ao mesmo professor foram consolidados em uma única ocorrência.

A quantidade de ocorrências originais foi preservada nos campos:

• occurrence_count_total;
• primary_professor_occurrence_count;
• ocorrencias_por_professor_json.

Conteúdos associados a diferentes professores

Conteúdos idênticos associados a professores diferentes também foram consolidados globalmente.

O professor principal foi selecionado pela maior quantidade de ocorrências daquele conteúdo.

Nos casos de empate, foi utilizada ordem alfabética para garantir um resultado determinístico e reproduzível.

Todas as associações originais foram preservadas nos campos:

• professores_associados;
• associated_professor_count;
• ocorrencias_por_professor_json;
• shared_across_professors;
• tie_for_primary_professor.

Foram identificados:

• 665 conteúdos compartilhados entre professores;
• 664 casos de empate na definição do professor principal.

Por esse motivo, o campo nome_professor não deve ser interpretado isoladamente como indicação de autoria exclusiva quando shared_across_professors for igual a true.

Estrutura dos registros

record_id

Identificador único do registro curado.

text

Conteúdo textual normalizado.

nome_professor

Professor principal associado ao conteúdo.

Em conteúdos compartilhados, representa o professor selecionado pelas regras de frequência e desempate, não necessariamente o único professor relacionado ao texto.

content_hash

Hash SHA-256 calculado sobre o texto normalizado.

Foi utilizado para:

• identificar conteúdos duplicados;
• consolidar registros;
• impedir vazamento de conteúdo entre os splits.

occurrence_count_total

Quantidade total de ocorrências do conteúdo no dataset original.

primary_professor_occurrence_count

Quantidade de ocorrências do conteúdo associadas ao professor principal.

associated_professor_count

Quantidade de professores distintos associados ao conteúdo.

professores_associados

Lista contendo todos os professores originalmente associados ao conteúdo.

ocorrencias_por_professor_json

Objeto JSON serializado contendo a quantidade de ocorrências do conteúdo por professor.

Exemplo:

{
  "Professor A": 2,
  "Professor B": 1
}

shared_across_professors

Indica se o conteúdo estava associado a mais de um professor.

tie_for_primary_professor

Indica se houve empate na seleção do professor principal.

char_count

Quantidade de caracteres do texto após a normalização.

word_count

Quantidade aproximada de palavras após a normalização.

quality_flags

Lista de indicadores de qualidade ainda associados ao conteúdo.

Possíveis valores:

• very_long;
• mostly_symbols.

Os textos muito longos foram preservados para tratamento posterior por técnicas de fragmentação, como chunking em sistemas RAG.

first_source_index

Primeiro índice em que o conteúdo apareceu no dataset original.

cleaning_version

Versão do processo de curadoria aplicado ao registro.

A versão atual é:

1.0

source_dataset

Identificação do dataset de origem.

Carregamento

from datasets import load_dataset

dataset = load_dataset("wesleycoutinhodev/docentesDC-curado")

print(dataset)

Carregamento de um split específico:

train_dataset = load_dataset(
    "wesleycoutinhodev/docentesDC-curado",
    split="train",
)

validation_dataset = load_dataset(
    "wesleycoutinhodev/docentesDC-curado",
    split="validation",
)

Caso o repositório esteja privado:

from datasets import load_dataset

dataset = load_dataset(
    "wesleycoutinhodev/docentesDC-curado",
    token=True,
)

Exemplo de registro

example = dataset["train"][0]

print(example["nome_professor"])
print(example["professores_associados"])
print(example["text"])

Uso em sistemas RAG

Para sistemas RAG, recomenda-se utilizar o campo text como conteúdo principal do documento.

Os campos abaixo podem ser utilizados como metadados:

metadata = {
    "record_id": example["record_id"],
    "nome_professor": example["nome_professor"],
    "professores_associados": example["professores_associados"],
    "shared_across_professors": example["shared_across_professors"],
    "content_hash": example["content_hash"],
}

Para conteúdos compartilhados, consultas relacionadas a professores devem considerar professores_associados, em vez de utilizar somente nome_professor.

Usos recomendados

O dataset pode ser utilizado em experimentos de:

• recuperação semântica;
• indexação vetorial;
• RAG;
• geração de perguntas e respostas;
• avaliação de modelos de linguagem;
• ajuste fino supervisionado;
• comparação entre modelos com e sem recuperação de contexto.

Para avaliações, o split validation deve permanecer separado do treinamento e da construção de exemplos supervisionados.

Limitações

O dataset apresenta as seguintes limitações:

1. Os textos não possuem, de forma padronizada, metadados como disciplina, período, ano, tipo de documento ou fonte original.

2. Conteúdos iguais podem ter sido utilizados por diferentes professores de forma legítima.

3. O professor principal é definido por uma regra determinística de frequência e desempate, não por confirmação de autoria.

4. Sete conteúdos muito longos foram preservados e podem exigir fragmentação antes da indexação ou do treinamento.

5. Um conteúdo permaneceu com a flag mostly_symbols, pois a presença de símbolos pode representar código, fórmula, tabela ou notação técnica válida.

6. A curadoria automática reduz inconsistências estruturais, mas não substitui uma avaliação semântica especializada de cada documento.

Prevenção de vazamento de dados

A divisão entre treinamento e validação foi realizada após a consolidação dos conteúdos.

O campo content_hash foi utilizado para garantir que o mesmo texto normalizado não estivesse presente nos dois conjuntos.

Essa verificação é especialmente importante para:

• avaliação de RAG;
• Fine tuning;
• comparação entre modelos;
• construção de benchmarks.

Proveniência

Dataset de origem:

vickminari/docentesDC

Versão da curadoria:

1.0

Processamento realizado no Google Colab com as bibliotecas:

• datasets;
• pandas;
• numpy;
• scikit-learn.

Licença

O dataset de origem utiliza a classificação de licença other.

Antes de redistribuir publicamente, utilizar comercialmente ou criar trabalhos derivados fora do contexto acadêmico, é necessário verificar os termos e as permissões aplicáveis ao conjunto de dados original.

A disponibilização desta versão curada não substitui nem amplia os direitos concedidos pela fonte original.

Citação

Não existe uma referência bibliográfica formal definida para esta versão curada.

Ao utilizar o dataset, recomenda-se citar:

• o dataset original vickminari/docentesDC;
• esta versão curada;
• a versão de curadoria utilizada;
• a data de acesso.

Exemplo:

docentesDC Curado, versão 1.0. Dataset derivado de
vickminari/docentesDC. Acesso em AAAA-MM-DD.

Histórico de versões

Versão 1.0

• normalização textual conservadora;
• remoção de 25 textos muito curtos;
• limpeza de sequências extensas de pontos em 390 registros;
• consolidação de duplicatas;
• preservação das associações entre professores;
• criação dos splits train e validation;
• verificação de ausência de sobreposição por content_hash.