| ---
|
| pretty_name: project-gutenberg-clean
|
| license: other
|
| language:
|
| - en
|
| - pt
|
| - es
|
| - fr
|
| - de
|
| - it
|
| task_categories:
|
| - text-generation
|
| - feature-extraction
|
| tags:
|
| - project-gutenberg
|
| - books
|
| - public-domain
|
| - literature
|
| - corpus
|
| size_categories:
|
| - 1K<n<10K
|
| ---
|
|
|
| # project-gutenberg-clean
|
|
|
| Dataset de livros do Project Gutenberg baixados via API Gutendex e limpos com foco em qualidade para treinamento de LLMs.
|
|
|
| **Diferenciais desta versão:**
|
| - **Limpeza Profunda:** Além de cabeçalhos e rodapés padrão, removemos notas de transcrição, prefácios de editores e artefatos de OCR (como tags `[Illustration]`, `[Music]`, etc.) em múltiplos idiomas (PT, EN, DE, ES, FR, IT).
|
| - **Tratamento de Notas:** Identifica e remove blocos de notas delimitados por sequências de caracteres especiais (como hashes `####`).
|
| - **Particionamento:** Organizado por idioma e dividido em splits (train, validation, test) pronto para uso com a biblioteca `datasets`.
|
|
|
| Gerado em: `2026-05-21`
|
| Total de registros: `9,544`
|
| Modo de idioma: `all`
|
|
|
| ## Estrutura
|
|
|
| ```text
|
| data/
|
| en/
|
| train.parquet
|
| validation.parquet
|
| test.parquet
|
| pt/
|
| train.parquet
|
| validation.parquet
|
| test.parquet
|
| ```
|
|
|
| Também podem existir arquivos `.jsonl`, se gerados com `--formats parquet,jsonl`.
|
|
|
| ## Como carregar
|
|
|
| ```python
|
| from datasets import load_dataset
|
|
|
| # Exemplo para inglês
|
| ds_en = load_dataset("celsowm/project-gutenberg-clean", data_dir="data/en")
|
|
|
| # Exemplo para português
|
| ds_pt = load_dataset("celsowm/project-gutenberg-clean", data_dir="data/pt")
|
| ```
|
|
|
| ## Campos
|
|
|
| - `gutenberg_id`: ID do livro no Project Gutenberg.
|
| - `title`: título do livro.
|
| - `authors` e `author_names`: autores conforme metadados do Gutendex.
|
| - `languages`: idiomas presentes nos metadados de origem.
|
| - `language_partition`: idioma da pasta em que o registro foi salvo.
|
| - `subjects`, `bookshelves`: categorias da origem.
|
| - `copyright`: valor reportado pela origem.
|
| - `gutenberg_url` e `source_text_url`: URLs de origem.
|
| - `text`: texto limpo.
|
| - `char_count`, `word_count`: métricas simples do texto limpo.
|
| - `license_note`: nota de uso e limpeza.
|
|
|
| ## Contagem por idioma
|
|
|
| | idioma | train | validation | test | total |
|
| |---|---:|---:|---:|---:|
|
| | `en` | 1,963 | 109 | 109 | 2,181 |
|
| | `pt` | 583 | 32 | 32 | 647 |
|
| | `es` | 738 | 41 | 41 | 820 |
|
| | `fr` | 2,350 | 130 | 130 | 2,610 |
|
| | `de` | 2,050 | 113 | 113 | 2,276 |
|
| | `it` | 910 | 50 | 50 | 1,010 |
|
|
|
| ## Avisos de licença e uso
|
|
|
| O Project Gutenberg é baseado nos EUA e seus textos são avaliados conforme a lei de copyright dos EUA. Este pipeline remove cabeçalhos/rodapés e referências de licença/trademark quando detecta marcadores, mas o usuário do dataset continua responsável por verificar permissões aplicáveis à sua jurisdição e ao seu caso de uso.
|
|
|
| ## Proveniência
|
|
|
| - Metadados e links de download: Gutendex.
|
| - Texto original: Project Gutenberg.
|
| - Limpeza: `gutenberg-dataset-builder`.
|
|
|
