---
pretty_name: project-gutenberg-clean
license: other
language:
- en
- pt
- es
- fr
- de
- it
task_categories:
- text-generation
- feature-extraction
tags:
- project-gutenberg
- books
- public-domain
- literature
- corpus
size_categories:
- 1K<n<10K
---

# project-gutenberg-clean

Dataset de livros do Project Gutenberg baixados via API Gutendex e limpos com foco em qualidade para treinamento de LLMs.

**Diferenciais desta versão:**
- **Limpeza Profunda:** Além de cabeçalhos e rodapés padrão, removemos notas de transcrição, prefácios de editores e artefatos de OCR (como tags `[Illustration]`, `[Music]`, etc.) em múltiplos idiomas (PT, EN, DE, ES, FR, IT).
- **Tratamento de Notas:** Identifica e remove blocos de notas delimitados por sequências de caracteres especiais (como hashes `####`).
- **Particionamento:** Organizado por idioma e dividido em splits (train, validation, test) pronto para uso com a biblioteca `datasets`.

Gerado em: `2026-05-21`  
Total de registros: `9,544`  
Modo de idioma: `all`

## Estrutura

```text
data/
  en/
    train.parquet
    validation.parquet
    test.parquet
  pt/
    train.parquet
    validation.parquet
    test.parquet
```

Também podem existir arquivos `.jsonl`, se gerados com `--formats parquet,jsonl`.

## Como carregar

```python
from datasets import load_dataset

# Exemplo para inglês
ds_en = load_dataset("celsowm/project-gutenberg-clean", data_dir="data/en")

# Exemplo para português
ds_pt = load_dataset("celsowm/project-gutenberg-clean", data_dir="data/pt")
```

## Campos

- `gutenberg_id`: ID do livro no Project Gutenberg.
- `title`: título do livro.
- `authors` e `author_names`: autores conforme metadados do Gutendex.
- `languages`: idiomas presentes nos metadados de origem.
- `language_partition`: idioma da pasta em que o registro foi salvo.
- `subjects`, `bookshelves`: categorias da origem.
- `copyright`: valor reportado pela origem.
- `gutenberg_url` e `source_text_url`: URLs de origem.
- `text`: texto limpo.
- `char_count`, `word_count`: métricas simples do texto limpo.
- `license_note`: nota de uso e limpeza.

## Contagem por idioma

| idioma | train | validation | test | total |
|---|---:|---:|---:|---:|
| `en` | 1,963 | 109 | 109 | 2,181 |
| `pt` | 583 | 32 | 32 | 647 |
| `es` | 738 | 41 | 41 | 820 |
| `fr` | 2,350 | 130 | 130 | 2,610 |
| `de` | 2,050 | 113 | 113 | 2,276 |
| `it` | 910 | 50 | 50 | 1,010 |

## Avisos de licença e uso

O Project Gutenberg é baseado nos EUA e seus textos são avaliados conforme a lei de copyright dos EUA. Este pipeline remove cabeçalhos/rodapés e referências de licença/trademark quando detecta marcadores, mas o usuário do dataset continua responsável por verificar permissões aplicáveis à sua jurisdição e ao seu caso de uso.

## Proveniência

- Metadados e links de download: Gutendex.
- Texto original: Project Gutenberg.
- Limpeza: `gutenberg-dataset-builder`.