Datasets:
José Victor Vieira de Oliveira
docs: remove redundant jsonl config to fix dataset viewer error
3b5fd13 | pretty_name: DocentesDC Dataset | |
| language: | |
| - pt | |
| license: other | |
| size_categories: | |
| - 10K<n<100K | |
| task_categories: | |
| - text-classification | |
| - text-generation | |
| viewer: true | |
| configs: | |
| - config_name: default | |
| data_files: | |
| - split: train | |
| path: docentesDC.parquet | |
| # DocentesDC Dataset | |
| Este repositório contém o dataset **DocentesDC**, composto por fragmentos textuais e conteúdos acadêmicos associados a professores do Departamento de Computação (DC) da Universidade Federal do Piauí (UFPI). | |
| O dataset está disponível em dois formatos: | |
| - **Parquet** (`docentesDC.parquet`): Recomendado para performance e integração direta com o Hugging Face Dataset Viewer. | |
| - **JSON Lines** (`docentesDC.jsonl`): Formato textual puro estruturado por linhas. | |
| --- | |
| ## 📊 Estrutura dos Dados | |
| Cada registro do dataset contém os seguintes campos: | |
| | Campo | Tipo | Descrição | | |
| | :--- | :--- | :--- | | |
| | `text` | String | Conteúdo textual (slides, fragmentos de códigos, artigos, notas de aula, etc.) associado ao docente. | | |
| | `nome_professor` | String | Nome completo padronizado do professor associado ao conteúdo. | | |
| --- | |
| ## 📈 Estatísticas do Dataset | |
| - **Total de Registros (Linhas)**: 13.762 | |
| - **Número de Professores Únicos**: 19 | |
| ### Distribuição por Professor | |
| A tabela a seguir apresenta a quantidade de documentos atribuída a cada docente: | |
| | Nome do Professor | Quantidade de Registros | Porcentagem | | |
| | :--- | :---: | :---: | | |
| | RAIMUNDO SANTOS MOURA | 2.000 | 14.53% | | |
| | IVAN SARAIVA SILVA | 1.503 | 10.92% | | |
| | ROSIANNI DE OLIVEIRA CRUZ FORTES | 1.357 | 9.86% | | |
| | ERICO MENESES LEAO | 1.342 | 9.75% | | |
| | ANTONIO HELSON MINEIRO SOARES | 1.243 | 9.03% | | |
| | CARLOS ANDRE BATISTA DE CARVALHO | 1.072 | 7.79% | | |
| | VINICIUS PONTE MACHADO | 1.034 | 7.51% | | |
| | ANDRE CASTELO BRANCO SOARES | 609 | 4.43% | | |
| | PEDRO DE ALCANTARA DOS SANTOS NETO | 599 | 4.35% | | |
| | LAURINDO DE SOUSA BRITTO NETO | 551 | 4.00% | | |
| | WESLLEY EMMANUEL MARTINS LIMA | 548 | 3.98% | | |
| | JOSE RODRIGUES TORRES NETO | 447 | 3.25% | | |
| | ARMANDO SOARES SOUSA | 321 | 2.33% | | |
| | GLAUBER DIAS GONCALVES | 286 | 2.08% | | |
| | LUIZ CLAUDIO DEMES DA MATA SOUSA | 275 | 2.00% | | |
| | RODRIGO DE MELO SOUZA VERAS | 212 | 1.54% | | |
| | FLAVIO FERRY DE OLIVEIRA MOREIRA | 198 | 1.44% | | |
| | ANTONIO COSTA DE OLIVEIRA | 132 | 0.96% | | |
| | GUILHERME AMARAL AVELINO | 33 | 0.24% | | |
| | **Total** | **13.762** | **100.00%** | | |
| ### Estatísticas de Texto (Tamanho) | |
| - **Comprimento em Caracteres**: | |
| - Média: 3.300 caracteres | |
| - Mediana (50%): 3.059 caracteres | |
| - Mínimo: 8 caracteres | |
| - Máximo: 763.476 caracteres | |
| - **Quantidade de Palavras**: | |
| - Média: ~513,9 palavras | |
| - Mediana (50%): 500 palavras | |
| - Mínimo: 1 palavra | |
| - Máximo: 124.697 palavras | |
| --- | |
| ## 🛠️ Como Utilizar os Dados | |
| ### Usando a biblioteca `datasets` do Hugging Face | |
| ```python | |
| from datasets import load_dataset | |
| # Para carregar a versão padrão (Parquet) | |
| dataset = load_dataset("vickminari/docentesDC") | |
| # Para carregar a versão JSON Lines (JSONL) | |
| dataset_jsonl = load_dataset("vickminari/docentesDC", name="jsonl") | |
| # Visualizar o primeiro item | |
| print(dataset['train'][0]) | |
| ``` | |
| ### Usando `pandas` localmente | |
| ```python | |
| import pandas as pd | |
| # Carregar arquivo Parquet | |
| df = pd.read_parquet("docentesDC.parquet") | |
| # Carregar arquivo JSONL | |
| df_jsonl = pd.read_json("docentesDC.jsonl", lines=True) | |
| ``` | |