tylerxdurden/pindorama-corpus

Pindorama Corpus

English

Pindorama Corpus is a research-oriented Portuguese-language literary corpus derived from PDFs obtained from Brazil's Portal Domínio Público, the Brazilian government portal for public-domain works and works whose distribution has been authorized.

This release is designed for reproducible LLM pretraining experiments, language-modeling coursework, corpus linguistics, digital humanities, and Portuguese NLP research. It is intentionally conservative: it preserves accents, cedilla, case, punctuation, historical spelling, and Portuguese orthographic variation instead of applying lossy classical NLP normalization.

Dataset Summary

• Repository: tylerxdurden/pindorama-corpus
• Snapshot date: 2026-05-07
• Catalog rows in source manifest: 2064
• Published document rows: 2056
• Distinct PDF SHA-256 values: 2056
• Source native text files indexed: 1989
• Source OCR text files indexed: 75
• Published native PDF-text rows after SHA aggregation: 1982
• Published OCR rows after SHA aggregation: 74
• Approximate text size: 196.73 MiB UTF-8
• Regex word-count estimate: 33978881
• Word count min / p50 / p95 / max: 18 / 4401 / 71059 / 221092
• Recommended rows for pretraining after deduplication: 1835

Loading

from datasets import load_dataset

ds = load_dataset("tylerxdurden/pindorama-corpus")
print(ds)
print(ds["train"][0]["text"][:500])

For pretraining-style use, filter duplicate cluster representatives:

train = ds["train"].filter(lambda row: row["is_recommended_for_pretraining"])

Schema

Each row is a distinct PDF-level document. Duplicate catalog entries that resolve to the same PDF SHA-256 are aggregated into arrays.

Important columns:

• document_id, sha256: stable document identifiers.
• catalog_ids, co_obras, source_url, source_urls: source catalog references.
• author, title, year, plus plural metadata arrays for duplicate catalog rows.
• source_pdf_path, source_text_path, extraction_method: local snapshot provenance.
• text: minimally processed UTF-8 text.
• raw_text_sha256, processed_text_sha256: audit hashes.
• char_count, word_count, page_break_count: descriptive measures.
• quality_flags: non-destructive quality annotations.
• dedup_cluster_id, dedup_cluster_size, dedup_cluster_representative: exact/near-duplicate grouping.
• rights_basis: source-rights note.
• is_recommended_for_pretraining: deterministic duplicate-aware recommendation flag.

Full schema: metadata/schema.csv. Processing report: metadata/processing_report.json.

Processing Methodology

The pipeline follows current LLM-data curation practice: source provenance, reproducible conversion to Parquet, conservative text normalization, transparent quality signals, and deterministic deduplication. It is informed by FineWeb/FineWeb2, DataComp-LM, Common Pile, RedPajama-style quality-signal publication, and evidence that deduplication reduces memorization and improves model behavior.

Applied transformations:

• UTF-8 decoded text normalized to Unicode NFC.
• CRLF/CR normalized to LF.
• Non-breaking spaces converted to ordinary spaces.
• Form-feed page breaks counted in page_break_count and converted to blank lines.
• Invalid control characters removed.
• Outer whitespace stripped.

Not applied:

• No accent stripping.
• No cedilla removal.
• No lowercasing.
• No punctuation removal.
• No modernization of historical spelling.
• No translation, paraphrasing, summarization, or semantic rewriting.

Deduplication uses exact processed-text SHA-256 plus a lightweight bottom-k MinHash / SimHash pass over token shingles. Rows are retained for transparency; is_recommended_for_pretraining marks one representative per deduplication cluster.

Rights and License Caveat

The source portal states that its collection is composed mostly of public-domain works or works with authorization from rights holders. This dataset does not independently verify the item-level legal status of every work, edition, translation, or OCR/source file. Therefore the Hub metadata uses license: other, and each row carries:

source_portal_public_domain_or_authorized_distribution;item_level_public_domain_not_independently_verified

Users should perform their own legal review for commercial deployments, jurisdiction-specific reuse, translations, modern editions, and model releases.

Brazilian official references:

• Portal Domínio Público
• MEC page on Domínio Público
• Ministry of Culture FAQ on Brazilian copyright and public domain

Limitations

• OCR quality varies across the 75 OCR-derived documents.
• The split is deterministic and useful for didactic validation, but it is not a contamination-free benchmark.
• Some rows are very short because poems, fragments, and standalone short works are valid source documents.
• The corpus is Portuguese-centered but includes Brazilian and non-Brazilian Lusophone or translated literature present in the source portal.

Curator

Curated by Daniel Nobrega Medeiros.

Links: https://huggingface.co/tylerxdurden, https://github.com/danielxmed/, https://orcid.org/0000-0003-3604-7380, https://scholar.google.com.br/citations?user=D_6AZoEAAAAJ&hl, https://www.linkedin.com/in/daniel-nobrega-dnm/

Citation

@dataset{medeiros_2026_pindorama_corpus,
  title  = {Pindorama Corpus},
  author = {Medeiros, Daniel Nobrega},
  year   = {2026},
  url    = {https://huggingface.co/datasets/tylerxdurden/pindorama-corpus},
  note   = {Portuguese-language literary corpus derived from Brazil's Portal Domínio Público}
}

Português

O Pindorama Corpus é um corpus literário em língua portuguesa, orientado a pesquisa, derivado de PDFs obtidos no Portal Domínio Público, portal do governo brasileiro para obras em domínio público e obras cuja divulgação foi autorizada.

Esta publicação foi organizada para experimentos reprodutíveis de pré-treinamento de LLMs, uso didático em modelagem de linguagem, linguística de corpus, humanidades digitais e pesquisa em PLN para português. A postura é conservadora: o pipeline preserva acentos, cedilha, caixa, pontuação, grafias históricas e variações ortográficas do português, em vez de aplicar normalizações clássicas destrutivas.

Resumo do Dataset

• Repositório: tylerxdurden/pindorama-corpus
• Data do snapshot: 2026-05-07
• Linhas no manifesto de origem: 2064
• Linhas documentais publicadas: 2056
• PDFs distintos por SHA-256: 2056
• Arquivos-fonte de texto nativo indexados: 1989
• Arquivos-fonte de OCR indexados: 75
• Linhas publicadas com extração nativa após agregação por SHA: 1982
• Linhas publicadas com OCR após agregação por SHA: 74
• Tamanho aproximado do texto: 196.73 MiB em UTF-8
• Estimativa de palavras por regex: 33978881
• Mínimo / p50 / p95 / máximo de palavras: 18 / 4401 / 71059 / 221092
• Linhas recomendadas para pré-treinamento após deduplicação: 1835

Como Carregar

from datasets import load_dataset

ds = load_dataset("tylerxdurden/pindorama-corpus")
print(ds)
print(ds["train"][0]["text"][:500])

Para uso em pré-treinamento, filtre os representantes dos clusters de deduplicação:

train = ds["train"].filter(lambda row: row["is_recommended_for_pretraining"])

Estrutura

Cada linha representa um documento no nível de PDF distinto. Entradas duplicadas do catálogo que resolvem para o mesmo SHA-256 foram agregadas em arrays.

Colunas importantes:

• document_id, sha256: identificadores estáveis.
• catalog_ids, co_obras, source_url, source_urls: referências do catálogo-fonte.
• author, title, year, além de arrays plurais para linhas duplicadas do catálogo.
• source_pdf_path, source_text_path, extraction_method: proveniência no snapshot local.
• text: texto UTF-8 com processamento mínimo.
• raw_text_sha256, processed_text_sha256: hashes de auditoria.
• char_count, word_count, page_break_count: medidas descritivas.
• quality_flags: anotações não destrutivas de qualidade.
• dedup_cluster_id, dedup_cluster_size, dedup_cluster_representative: agrupamento de duplicatas exatas/aproximadas.
• rights_basis: nota sobre direitos.
• is_recommended_for_pretraining: marca determinística de recomendação após deduplicação.

Schema completo: metadata/schema.csv. Relatório de processamento: metadata/processing_report.json.

Metodologia de Processamento

O pipeline segue práticas atuais de curadoria de dados para LLMs: proveniência de fonte, conversão reprodutível para Parquet, normalização textual conservadora, sinais de qualidade transparentes e deduplicação determinística. As decisões foram informadas por FineWeb/FineWeb2, DataComp-LM, Common Pile, publicação de sinais de qualidade no estilo RedPajama e evidências de que deduplicação reduz memorização e melhora o comportamento de modelos.

Transformações aplicadas:

• Texto UTF-8 normalizado para Unicode NFC.
• CRLF/CR normalizados para LF.
• Espaços não separáveis convertidos para espaços comuns.
• Quebras de página por form-feed contadas em page_break_count e convertidas para linhas em branco.
• Caracteres de controle inválidos removidos.
• Espaço externo removido.

Não aplicado:

• Não remove acentos.
• Não remove cedilha.
• Não transforma em minúsculas.
• Não remove pontuação.
• Não moderniza grafia histórica.
• Não traduz, parafraseia, resume nem reescreve semanticamente.

Direitos e Licença

O portal-fonte informa que seu acervo é composto majoritariamente por obras em domínio público ou por obras com autorização dos titulares. Este dataset não verifica de forma independente o status jurídico item a item de cada obra, edição, tradução ou arquivo. Por isso, o metadado do Hub usa license: other, e cada linha carrega:

source_portal_public_domain_or_authorized_distribution;item_level_public_domain_not_independently_verified

Usuários devem fazer sua própria revisão jurídica para uso comercial, jurisdições específicas, traduções, edições modernas e publicação de modelos derivados.

Referências oficiais brasileiras:

• Portal Domínio Público
• Página do MEC sobre Domínio Público
• FAQ do Ministério da Cultura sobre direitos autorais e domínio público

Limitações

• A qualidade de OCR varia nos 75 documentos OCR.
• O split de validação é determinístico e útil para checagens didáticas, mas não é um benchmark livre de contaminação.
• Algumas linhas são muito curtas porque poemas, fragmentos e obras breves independentes são documentos válidos da fonte.
• O corpus é centrado em português, mas inclui literatura lusófona não brasileira e traduções presentes no portal-fonte.

Contagens de Flags de Qualidade

{
  "native_pdf_text_extracted": 1982,
  "short_lt_300_words": 376,
  "ocr_extracted": 74,
  "many_page_breaks_gt_200": 104,
  "near_duplicate_text": 407,
  "removed_control_chars": 32,
  "duplicate_catalog_rows": 8,
  "very_short_lt_100_words": 153,
  "exact_text_duplicate": 2
}