DOMPI-2025 / README.md
gutoportelaa's picture
feat: dataset card com schema e territórios
703a82e verified
metadata
license: mit
language:
  - pt
pretty_name: DOM-PI 2025  Diário Oficial dos Municípios do Piauí
size_categories:
  - 10K<n<100K
task_categories:
  - text-generation
  - text-classification
tags:
  - legal
  - government
  - portuguese
  - brazil
  - municipal
  - corpus
  - piauí
  - diário-oficial
configs:
  - config_name: raw
    data_files:
      - split: carnaubais
        path: data/raw/carnaubais.parquet
      - split: tabuleiros_alto_parnaiba
        path: data/raw/tabuleiros_alto_parnaiba.parquet
      - split: planice_litoran
        path: data/raw/planice_litoran.parquet
      - split: entre_rios
        path: data/raw/entre_rios.parquet
      - split: vale_do_sambito
        path: data/raw/vale_do_sambito.parquet
      - split: vale_dos_rios_piaui_e_itaueiras
        path: data/raw/vale_dos_rios_piaui_e_itaueiras.parquet
      - split: cocais
        path: data/raw/cocais.parquet
      - split: mangabeiras
        path: data/raw/mangabeiras.parquet
      - split: serra_da_capivara
        path: data/raw/serra_da_capivara.parquet
      - split: vale_do_rio_guaribas
        path: data/raw/vale_do_rio_guaribas.parquet
      - split: chapada_vale_do_rio_itaim
        path: data/raw/chapada_vale_do_rio_itaim.parquet
      - split: vale_do_caninde
        path: data/raw/vale_do_caninde.parquet

DOM-PI 2025 — Corpus do Diário Oficial dos Municípios do Piauí

Corpus de textos extraídos do Diário Oficial dos Municípios do Piauí (DOM-PI), cobrindo publicações de 2025 de 12 territórios do estado.

Descrição

Os documentos foram coletados via scraping do portal DOM-PI e extraídos de PDFs usando motores OCR/extração adaptados ao tipo de documento:

  • PaddleOCR-GPU — documentos comuns (portarias, decretos, leis)
  • Docling — relatórios fiscais e documentos com tabelas (LRF, LOA, balancetes)
  • PyMuPDF — PDFs com texto nativo (sem necessidade de OCR)

Versões do corpus

Versão Descrição Status
raw Extração bruta, sem limpeza de texto ✅ Este dataset
clean Após limpeza e deduplicação Em breve
corpus_llm Otimizado para treinamento de LLM Em breve

Territórios cobertos

Território Documentos
cocais 12.188
mangabeiras 10.889
serra_da_capivara 8.747
vale_do_rio_guaribas 8.715
chapada_vale_do_rio_itaim 7.496
carnaubais 7.380
tabuleiros_alto_parnaiba 7.115
vale_dos_rios_piaui_e_itaueiras 6.166
vale_do_caninde 4.252
planice_litoran 2.723
entre_rios 1.066
vale_do_sambito 600
Total 77.337

Schema

Campo Tipo Descrição
id_publicacao string Identificador único do documento
territorio string Território do DOM-PI
municipio string Município de publicação
tipo_ato string Tipo do ato (Lei, Portaria, Decreto, Contrato...)
data_publicacao string Data de publicação (quando disponível no nome do arquivo)
ano int Ano de publicação
extrator string Motor de extração usado (paddle/docling/pymupdf/tesseract)
texto string Texto extraído (bruto, sem limpeza)
n_chars int Número de caracteres
paginas int Número de páginas do PDF
extraido_em string Timestamp da extração (ISO 8601, fuso Brasília)
extracao_segundos float Duração da extração em segundos

Uso

from datasets import load_dataset

# Carregar um território específico
ds = load_dataset("gutoportelaa/DOMPI-2025", name="raw", split="tabuleiros_alto_parnaiba")

# Todos os territórios
from datasets import concatenate_datasets
territorios = ["carnaubais", "tabuleiros_alto_parnaiba", "vale_do_sambito", ...]
ds = concatenate_datasets([
    load_dataset("gutoportelaa/DOMPI-2025", name="raw", split=t)
    for t in territorios
])

Citação

Se utilizar este dataset, cite o projeto DOM-PI Corpus:

@dataset{dompi2025,
  title={DOM-PI 2025: Corpus do Diário Oficial dos Municípios do Piauí},
  author={Moura, Gutemberg},
  year={2025},
  publisher={Hugging Face},
  url={https://huggingface.co/datasets/gutoportelaa/DOMPI-2025}
}