Hugging Face's logo

Datasets:
celsowm
/
project-gutenberg-clean

Tasks:
Text Generation
Feature Extraction
Modalities:
Text
Formats:
parquet
Languages:
English
Portuguese
Spanish
Size:
1K - 10K
Tags:
project-gutenberg
books
public-domain
literature
corpus
Libraries:
Datasets
Dask
Polars
License:
Dataset card Data Studio Files
xet
 Community
1
Dataset Viewer
Auto-converted to Parquet Duplicate
gutenberg_id
int64
10
78.7k
text
stringlengths
1.04k
12.6M
language
stringclasses
6 values
source_url
stringlengths
35
38
59,219
"Memoiren Bibliothek\n\nIV. Serie\n\nFünfzehnter Band\n\nDer Deutsche Lausbub\nin Amerika\n\n* 3ter(...TRUNCATED)
de
https://www.gutenberg.org/ebooks/59219
47,797
"NEIN UND JA\n\nROMAN\nVON\nOTTO FLAKE\n\n1920\nS. Fischer / Verlag\nBerlin\n\nGeschrieben 1919\n\nE(...TRUNCATED)
de
https://www.gutenberg.org/ebooks/47797
48,120
"Hinweise zur Transkription\n\nIm Original gesperrter Text ist _so gekennzeichnet_.\n\nIm Original f(...TRUNCATED)
de
https://www.gutenberg.org/ebooks/48120
76,485
"F. M. Dostojewski: Sämtliche Werke\n\nUnter Mitarbeiterschaft von Dmitri Mereschkowski,\nDmitri Ph(...TRUNCATED)
de
https://www.gutenberg.org/ebooks/76485
7,204
"This text has been derived from HTML files at \"Projekt Gutenberg -\nDE\" (http://www.gutenberg2000(...TRUNCATED)
de
https://www.gutenberg.org/ebooks/7204
20,045
"This audio reading of Großer Lärm is read by\n\nThorsten Herbold\n\nContents\n\nChapter 1 - 00:01(...TRUNCATED)
de
https://www.gutenberg.org/ebooks/20045
67,261
"Aberglauben,\n\nSitten und Gebräuche\n\ndes\n\nsächsischen Obererzgebirges.\n\nEin Beitrag\n\nzur(...TRUNCATED)
de
https://www.gutenberg.org/ebooks/67261
35,806
"Gutenberg. (This book was produced from scanned images of\npublic domain material from the Google P(...TRUNCATED)
de
https://www.gutenberg.org/ebooks/35806
72,951
"Die\n\nTier- und Pflanzenwelt\n\ndes\n\nSüsswassers.\n\nDie\n\nTier- und Pflanzenwelt\n\ndes\n\nS(...TRUNCATED)
de
https://www.gutenberg.org/ebooks/72951
52,191
"ARTHUR DREY\n\nDER UNENDLICHE\nMENSCH\n\nGEDICHTE\n\nLEIPZIG\nKURT WOLFF VERLAG\n\nBÜCHEREI »DER (...TRUNCATED)
de
https://www.gutenberg.org/ebooks/52191
End of preview. Expand in Data Studio

project-gutenberg-clean

Dataset de livros do Project Gutenberg baixados via API Gutendex e limpos com foco em qualidade para treinamento de LLMs.

Diferenciais desta versão:

  • Limpeza Profunda: Além de cabeçalhos e rodapés padrão, removemos notas de transcrição, prefácios de editores e artefatos de OCR (como tags [Illustration], [Music], etc.) em múltiplos idiomas (PT, EN, DE, ES, FR, IT).
  • Tratamento de Notas: Identifica e remove blocos de notas delimitados por sequências de caracteres especiais (como hashes ####).
  • Particionamento: Organizado por idioma e dividido em splits (train, validation, test) pronto para uso com a biblioteca datasets.

Gerado em: 2026-05-21
Total de registros: 9,544
Modo de idioma: all

Estrutura 

data/
  en/
    train.parquet
    validation.parquet
    test.parquet
  pt/
    train.parquet
    validation.parquet
    test.parquet

Também podem existir arquivos .jsonl, se gerados com --formats parquet,jsonl.

Como carregar 

from datasets import load_dataset

# Exemplo para inglês
ds_en = load_dataset("celsowm/project-gutenberg-clean", data_dir="data/en")

# Exemplo para português
ds_pt = load_dataset("celsowm/project-gutenberg-clean", data_dir="data/pt")

Campos

  • gutenberg_id: ID do livro no Project Gutenberg.
  • title: título do livro.
  • authors e author_names: autores conforme metadados do Gutendex.
  • languages: idiomas presentes nos metadados de origem.
  • language_partition: idioma da pasta em que o registro foi salvo.
  • subjects, bookshelves: categorias da origem.
  • copyright: valor reportado pela origem.
  • gutenberg_url e source_text_url: URLs de origem.
  • text: texto limpo.
  • char_count, word_count: métricas simples do texto limpo.
  • license_note: nota de uso e limpeza.

Contagem por idioma

idioma train validation test total
en 1,963 109 109 2,181
pt 583 32 32 647
es 738 41 41 820
fr 2,350 130 130 2,610
de 2,050 113 113 2,276
it 910 50 50 1,010

Avisos de licença e uso

O Project Gutenberg é baseado nos EUA e seus textos são avaliados conforme a lei de copyright dos EUA. Este pipeline remove cabeçalhos/rodapés e referências de licença/trademark quando detecta marcadores, mas o usuário do dataset continua responsável por verificar permissões aplicáveis à sua jurisdição e ao seu caso de uso.

Proveniência

  • Metadados e links de download: Gutendex.
  • Texto original: Project Gutenberg.
  • Limpeza: gutenberg-dataset-builder.
Downloads last month
250
Number of rows:
9,544
Total file size:
1.87 GB