phaenix-1 / README.md
Larxel's picture
Update README.md
58c6818 verified
metadata
license: cc-by-4.0
dataset_info:
  features:
    - name: Resumo
      dtype: string
    - name: Abstract
      dtype: string
    - name: PalavrasChave
      dtype: string
    - name: Keywords
      dtype: string
    - name: AreaConcentracao
      dtype: string
    - name: LinhaPesquisa
      dtype: string
    - name: ProjetoPesquisa
      dtype: string
    - name: Orientador
      dtype: string
    - name: TipoVinculo
      dtype: string
    - name: TipoInstituicao
      dtype: string
    - name: ExpectativaAtuacao
      dtype: string
    - name: MesmaAreaAtuacao
      dtype: string
    - name: id
      dtype: string
    - name: instituicao
      dtype: string
    - name: nomePrograma
      dtype: string
    - name: municipioPrograma
      dtype: string
    - name: titulo
      dtype: string
    - name: autor
      dtype: string
    - name: dataDefesa
      dtype: string
    - name: volumes
      dtype: string
    - name: paginas
      dtype: string
    - name: biblioteca
      dtype: string
    - name: grauAcademico
      dtype: string
  splits:
    - name: train
      num_bytes: 4487780227
      num_examples: 902186
  download_size: 2429711674
  dataset_size: 4487780227
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
language:
  - pt
  - en
tags:
  - science
  - biology
  - chemistry
  - medical
  - climate
  - academic
  - humanities
pretty_name: PHAENIX-1
size_categories:
  - 1M<n<10M
task_categories:
  - text-generation
  - fill-mask
  - summarization
  - translation
  - text-classification

PHAENIX-1

Resumo

Um volume significativo do conhecimento acadêmico global, particularmente a literatura cinza como teses e dissertações, é sistematicamente excluído dos conjuntos de dados que alimentam a IA moderna e a ciência da ciência. Essa omissão introduz vieses linguísticos e culturais profundos, resultando em uma compreensão distorcida da produção científica global. Para preencher essa lacuna crítica, apresentamos o PHAENIX-1, um conjunto de dados em escala nacional de trabalhos acadêmicos brasileiros.

O conjunto compreende 902.186 teses e dissertações defendidas entre 2013 e 2025, coletadas e estruturadas a partir do catálogo oficial da CAPES. O PHAENIX-1 fornece um corpus de alta qualidade, especificidade e grande escala de conhecimento científico descorrelacionado, representando um recurso vital para o desenvolvimento de modelos de IA em língua portuguesa fundamentados em texto factual e acadêmico. Além disso, permite uma meta-análise sem precedentes e imparcial de um ecossistema de pesquisa nacional. Ao disponibilizar esse corpus anteriormente inacessível, o PHAENIX-1 visa resgatar um corpo significativo de conhecimento do Sul Global, promovendo uma IA mais equitativa e uma ciência da ciência mais abrangente.

  • Curadoria de: Andrew Maranhão Ventura D'addario
  • Financiado por: Ministério da Saúde do Brasil (MS/DECIT), Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq) [processo nº 400757/2024-9] e a Fundação Gates.
  • Idioma(s) (NLP): Português (pt-BR) e Inglês (en)
  • Licença: Creative Commons Attribution 4.0 Generic License (cc-by-4.0)
  • Artigo: Link do Paper (MetaArXiv)

Estatísticas do Dataset

O PHAENIX-1 reflete a produção oficial da pós-graduação brasileira ao longo de mais de uma década. A distribuição dos documentos por grau acadêmico é a seguinte:

Grau Acadêmico Tipo de Documento Quantidade
Mestrado Dissertação 669.322
Doutorado Tese 232.864
Total 902.186

Estrutura do Conjunto de Dados

O conjunto de dados é estruturado para facilitar tanto o treinamento de modelos de linguagem quanto análises de ciência da ciência.

Dicionário de Dados:

Cada registro contém metadados ricos e os textos dos resumos. Os principais campos incluem:

  • id: Identificador único do registro.
  • titulo: Título da obra.
  • autor: Nome do autor da tese ou dissertação.
  • dataDefesa: Data da defesa (período de 01/01/2013 a 31/03/2025).
  • grauAcademico: Nível da titulação (Mestrado ou Doutorado).
  • instituicao: Universidade ou instituição de ensino superior onde o trabalho foi defendido.
  • nomePrograma: Nome do programa de pós-graduação.
  • Resumo: O texto completo do resumo em Português.
  • Abstract: O texto completo do resumo em Inglês.
  • PalavrasChave / Keywords: Termos descritores fornecidos pelo autor.
  • AreaConcentracao / LinhaPesquisa: Classificação temática e área de estudo do trabalho.

Composição do Conjunto de Dados:

O dataset cobre um período contínuo de mais de 12 anos de produção científica nacional, capturando tendências de pesquisa, redes de orientação e o impacto de políticas públicas na ciência brasileira, sem os filtros de seleção da publicação comercial internacional.

Processo de Criação

Justificativa

A maior parte do registro acadêmico global não reside em revistas internacionais, mas sim na literatura cinza produzida por instituições acadêmicas. As teses e dissertações representam o culminar de anos de pesquisa dedicada, contendo estudos aprofundados e resultados negativos frequentemente ausentes em artigos de periódicos. O desenvolvimento do PHAENIX-1 foi motivado pela necessidade de corrigir a visão distorcida da ciência global apresentada por datasets focados apenas em inglês e em publicações indexadas. Este corpus oferece conhecimento descorrelacionado do discurso mainstream, impulsionado por relevância local e desafios nacionais (como agricultura tropical e saúde pública), servindo como ferramenta fundamental para mitigar o viés de linguagem na IA.

Origem

Os dados foram extraídos do Catálogo de Teses e Dissertações da CAPES (Coordenação de Aperfeiçoamento de Pessoal de Nível Superior), o repositório centralizado nacional que agrega metadados e links para trabalhos defendidos em universidades brasileiras.

Coleta e Processamento

Um pipeline meticuloso foi executado para garantir a integridade do conjunto de dados:

  1. Extração: Os dados foram coletados diretamente do catálogo público da CAPES entre julho e outubro de 2025, utilizando estratégias robustas para lidar com o grande volume de requisições.
  2. Limpeza e Filtragem:
    • Desduplicação: Registros duplicados foram identificados e removidos com base no texto do resumo.
    • Filtro de Conteúdo: Registros com resumos contendo menos de 20 palavras foram excluídos para assegurar densidade informacional mínima.
    • Validação: Foi confirmado que todos os registros contêm tanto o Resumo em português quanto o Abstract em inglês, além da classificação correta do grau acadêmico.

Informações Pessoais e Sensíveis

O conjunto de dados consiste inteiramente em metadados de trabalhos acadêmicos disponíveis publicamente. Embora contenha nomes de autores e orientadores, estas são informações de autoria pública, essenciais para a atribuição correta e para análises de redes de pesquisa.

Vieses, Riscos e Limitações

  • Viés Geográfico: O conjunto de dados é explicitamente projetado para o contexto acadêmico brasileiro. O conteúdo reflete as prioridades de pesquisa do país, o que é uma vantagem para representatividade local, mas pode não ser generalizável para outros ecossistemas de pesquisa.
  • Conteúdo Textual: O dataset foca nos metadados estruturados e nos resumos bilíngues. Ele não contém o texto completo dos documentos (PDFs), embora forneça insumos suficientes para modelagem de linguagem densa, classificação e tradução.

Recomendações

O PHAENIX-1 é um recurso estratégico para:

  1. Treinamento de IA: Construir LLMs em português mais verídicos e menos enviesados culturalmente.
  2. Ciência da Ciência: Realizar análises em larga escala sobre tendências de pesquisa, redes de orientação e impacto de financiamento, livres do viés de seleção da publicação internacional.
  3. Tradução: Utilizar os pares alinhados de resumos em português e inglês como um dataset paralelo de alta qualidade técnica.

Agradecimentos

Este trabalho é dedicado à memória do patrimônio acadêmico perdido no incêndio que devastou laboratórios e salas de aula da Universidade Estadual Paulista (Unesp) em 31 de agosto de 2022. Esse evento trágico demonstra a profunda vulnerabilidade do conhecimento físico e serviu como inspiração direta para a criação do PHAENIX-1, reforçando a missão de preservar e garantir o acesso à inestimável produção científica do Brasil.

Citação

Vancouver:

D'addario AMV. PHAENIX-1: A Nation-Scale Dataset of Brazilian Theses and Dissertations for Language Modeling and Scientific Metaresearch. MetaArXiv [Preprint]. 2025. Available from: https://osf.io/preprints/metaarxiv/y47v8_v1

BibTeX:

@article{daddario2025phaenix1,
  title={PHAENIX-1: A Nation-Scale Dataset of Brazilian Theses and Dissertations for Language Modeling and Scientific Metaresearch},
  author={D'addario, Andrew Maranhão Ventura},
  journal={MetaArXiv},
  year={2025},
  publisher={OSF},
  url={https://osf.io/preprints/metaarxiv/y47v8_v1},
  note={Dataset available at https://huggingface.co/datasets/larxel/phaenix-1}
}