docentesDC / README.md
José Victor Vieira de Oliveira
docs: remove redundant jsonl config to fix dataset viewer error
3b5fd13
|
Raw
History Blame Contribute Delete
3.33 kB
metadata
pretty_name: DocentesDC Dataset
language:
  - pt
license: other
size_categories:
  - 10K<n<100K
task_categories:
  - text-classification
  - text-generation
viewer: true
configs:
  - config_name: default
    data_files:
      - split: train
        path: docentesDC.parquet

DocentesDC Dataset

Este repositório contém o dataset DocentesDC, composto por fragmentos textuais e conteúdos acadêmicos associados a professores do Departamento de Computação (DC) da Universidade Federal do Piauí (UFPI).

O dataset está disponível em dois formatos:

  • Parquet (docentesDC.parquet): Recomendado para performance e integração direta com o Hugging Face Dataset Viewer.
  • JSON Lines (docentesDC.jsonl): Formato textual puro estruturado por linhas.

📊 Estrutura dos Dados

Cada registro do dataset contém os seguintes campos:

Campo Tipo Descrição
text String Conteúdo textual (slides, fragmentos de códigos, artigos, notas de aula, etc.) associado ao docente.
nome_professor String Nome completo padronizado do professor associado ao conteúdo.

📈 Estatísticas do Dataset

  • Total de Registros (Linhas): 13.762
  • Número de Professores Únicos: 19

Distribuição por Professor

A tabela a seguir apresenta a quantidade de documentos atribuída a cada docente:

Nome do Professor Quantidade de Registros Porcentagem
RAIMUNDO SANTOS MOURA 2.000 14.53%
IVAN SARAIVA SILVA 1.503 10.92%
ROSIANNI DE OLIVEIRA CRUZ FORTES 1.357 9.86%
ERICO MENESES LEAO 1.342 9.75%
ANTONIO HELSON MINEIRO SOARES 1.243 9.03%
CARLOS ANDRE BATISTA DE CARVALHO 1.072 7.79%
VINICIUS PONTE MACHADO 1.034 7.51%
ANDRE CASTELO BRANCO SOARES 609 4.43%
PEDRO DE ALCANTARA DOS SANTOS NETO 599 4.35%
LAURINDO DE SOUSA BRITTO NETO 551 4.00%
WESLLEY EMMANUEL MARTINS LIMA 548 3.98%
JOSE RODRIGUES TORRES NETO 447 3.25%
ARMANDO SOARES SOUSA 321 2.33%
GLAUBER DIAS GONCALVES 286 2.08%
LUIZ CLAUDIO DEMES DA MATA SOUSA 275 2.00%
RODRIGO DE MELO SOUZA VERAS 212 1.54%
FLAVIO FERRY DE OLIVEIRA MOREIRA 198 1.44%
ANTONIO COSTA DE OLIVEIRA 132 0.96%
GUILHERME AMARAL AVELINO 33 0.24%
Total 13.762 100.00%

Estatísticas de Texto (Tamanho)

  • Comprimento em Caracteres:

    • Média: 3.300 caracteres
    • Mediana (50%): 3.059 caracteres
    • Mínimo: 8 caracteres
    • Máximo: 763.476 caracteres
  • Quantidade de Palavras:

    • Média: ~513,9 palavras
    • Mediana (50%): 500 palavras
    • Mínimo: 1 palavra
    • Máximo: 124.697 palavras

🛠️ Como Utilizar os Dados

Usando a biblioteca datasets do Hugging Face

from datasets import load_dataset

# Para carregar a versão padrão (Parquet)
dataset = load_dataset("vickminari/docentesDC")

# Para carregar a versão JSON Lines (JSONL)
dataset_jsonl = load_dataset("vickminari/docentesDC", name="jsonl")

# Visualizar o primeiro item
print(dataset['train'][0])

Usando pandas localmente

import pandas as pd

# Carregar arquivo Parquet
df = pd.read_parquet("docentesDC.parquet")

# Carregar arquivo JSONL
df_jsonl = pd.read_json("docentesDC.jsonl", lines=True)