DOMPI-2025 / README.md
gutoportelaa's picture
feat: dataset card com schema e territórios
703a82e verified
---
license: mit
language:
- pt
pretty_name: DOM-PI 2025 Diário Oficial dos Municípios do Piauí
size_categories:
- 10K<n<100K
task_categories:
- text-generation
- text-classification
tags:
- legal
- government
- portuguese
- brazil
- municipal
- corpus
- piauí
- diário-oficial
configs:
- config_name: raw
data_files:
- split: carnaubais
path: data/raw/carnaubais.parquet
- split: tabuleiros_alto_parnaiba
path: data/raw/tabuleiros_alto_parnaiba.parquet
- split: planice_litoran
path: data/raw/planice_litoran.parquet
- split: entre_rios
path: data/raw/entre_rios.parquet
- split: vale_do_sambito
path: data/raw/vale_do_sambito.parquet
- split: vale_dos_rios_piaui_e_itaueiras
path: data/raw/vale_dos_rios_piaui_e_itaueiras.parquet
- split: cocais
path: data/raw/cocais.parquet
- split: mangabeiras
path: data/raw/mangabeiras.parquet
- split: serra_da_capivara
path: data/raw/serra_da_capivara.parquet
- split: vale_do_rio_guaribas
path: data/raw/vale_do_rio_guaribas.parquet
- split: chapada_vale_do_rio_itaim
path: data/raw/chapada_vale_do_rio_itaim.parquet
- split: vale_do_caninde
path: data/raw/vale_do_caninde.parquet
---
# DOM-PI 2025 — Corpus do Diário Oficial dos Municípios do Piauí
Corpus de textos extraídos do Diário Oficial dos Municípios do Piauí (DOM-PI), cobrindo publicações de 2025 de 12 territórios do estado.
## Descrição
Os documentos foram coletados via scraping do portal DOM-PI e extraídos de PDFs usando motores OCR/extração adaptados ao tipo de documento:
- **PaddleOCR-GPU** — documentos comuns (portarias, decretos, leis)
- **Docling** — relatórios fiscais e documentos com tabelas (LRF, LOA, balancetes)
- **PyMuPDF** — PDFs com texto nativo (sem necessidade de OCR)
## Versões do corpus
| Versão | Descrição | Status |
|--------|-----------|--------|
| `raw` | Extração bruta, sem limpeza de texto | ✅ Este dataset |
| `clean` | Após limpeza e deduplicação | Em breve |
| `corpus_llm` | Otimizado para treinamento de LLM | Em breve |
## Territórios cobertos
| Território | Documentos |
|-----------|-----------|
| cocais | 12.188 |
| mangabeiras | 10.889 |
| serra_da_capivara | 8.747 |
| vale_do_rio_guaribas | 8.715 |
| chapada_vale_do_rio_itaim | 7.496 |
| carnaubais | 7.380 |
| tabuleiros_alto_parnaiba | 7.115 |
| vale_dos_rios_piaui_e_itaueiras | 6.166 |
| vale_do_caninde | 4.252 |
| planice_litoran | 2.723 |
| entre_rios | 1.066 |
| vale_do_sambito | 600 |
| **Total** | **77.337** |
## Schema
| Campo | Tipo | Descrição |
|-------|------|-----------|
| `id_publicacao` | string | Identificador único do documento |
| `territorio` | string | Território do DOM-PI |
| `municipio` | string | Município de publicação |
| `tipo_ato` | string | Tipo do ato (Lei, Portaria, Decreto, Contrato...) |
| `data_publicacao` | string | Data de publicação (quando disponível no nome do arquivo) |
| `ano` | int | Ano de publicação |
| `extrator` | string | Motor de extração usado (paddle/docling/pymupdf/tesseract) |
| `texto` | string | Texto extraído (bruto, sem limpeza) |
| `n_chars` | int | Número de caracteres |
| `paginas` | int | Número de páginas do PDF |
| `extraido_em` | string | Timestamp da extração (ISO 8601, fuso Brasília) |
| `extracao_segundos` | float | Duração da extração em segundos |
## Uso
```python
from datasets import load_dataset
# Carregar um território específico
ds = load_dataset("gutoportelaa/DOMPI-2025", name="raw", split="tabuleiros_alto_parnaiba")
# Todos os territórios
from datasets import concatenate_datasets
territorios = ["carnaubais", "tabuleiros_alto_parnaiba", "vale_do_sambito", ...]
ds = concatenate_datasets([
load_dataset("gutoportelaa/DOMPI-2025", name="raw", split=t)
for t in territorios
])
```
## Citação
Se utilizar este dataset, cite o projeto DOM-PI Corpus:
```
@dataset{dompi2025,
title={DOM-PI 2025: Corpus do Diário Oficial dos Municípios do Piauí},
author={Moura, Gutemberg},
year={2025},
publisher={Hugging Face},
url={https://huggingface.co/datasets/gutoportelaa/DOMPI-2025}
}
```