laubonghaudoi/shunpao

《申報》數據集

本數據集收錄《申報》上海版、漢口版及香港版文章，共 2,915,397 篇。數據全部來源於 https://www.dhcdb.com.tw/SP/ 。Parquet 數據表中每行為一篇文章；原始逐日 Markdown 亦完整保留，方便閱讀、校核及重新產生數據集。

使用

from datasets import load_dataset

dataset = load_dataset("laubonghaudoi/shunpao", split="train")
print(dataset[0])

如想避免下載成個數據集，可用 streaming：

from datasets import load_dataset

dataset = load_dataset(
    "laubonghaudoi/shunpao",
    split="train",
    streaming=True,
)
first_article = next(iter(dataset))

語料規模

版本	代碼	日期範圍	日期檔	文章
上海版	SP	1872-04-30 至 1949-05-27	26,804	2,865,712
漢口版	SP_FH	1938-01-15 至 1938-07-31	198	10,476
香港版	SP_HK	1938-03-01 至 1939-07-10	489	39,209
合計			27,491	2,915,397

全部 2,915,397 個 article_id 均為唯一；上海版已移除 24,354 篇與香港版重複的文章。

數據結構

raw/
├── SP/YYYY/YYYY-MM-DD.md
├── SP_FH/YYYY/YYYY-MM-DD.md
├── SP_HK/YYYY/YYYY-MM-DD.md
└── manifest/
data/
├── parquet/train-xxxxx-of-yyyyy.parquet
├── manifest.json
├── parquet-files.sha256
└── verification.json
tools/
├── build_corpus.py
├── verify_corpus.py
└── build_dataset.py

Hugging Face Dataset Viewer 只讀取 data/parquet/*.parquet。raw/ 是可重建的原始 Markdown 層，不會在 Previewer 中重複成為數據列。

欄位

欄位	類型	說明
article_id	string	文章唯一 ID
edition	string	SP、SP_FH 或 SP_HK
date	date32	出版日期
title	string	文章標題
text	string	完整文章正文
page_no	string	原始資料的「版次」，保留前置零；不是 PDF 掃描頁碼
issue_no	string	原始資料的「卷期」
newspaper	string	報名
column	string	專欄
author	string	作者
category	string	類別
subject	string	主題
source_url	string	來源頁面
sha256	string	text UTF-8 bytes 的 SHA-256
source_file	string	對應的原始 Markdown 路徑

空白 metadata 以空字串保存。page_no 和 issue_no 使用 string，避免 01、00001 等前置零消失。

正文完整性

每篇 Markdown 正文放在以下隱藏標記之間：

<!-- shunpao-body-start:ARTICLE_ID -->
正文
<!-- shunpao-body-end:ARTICLE_ID -->

正文由 checkpoint 的 article_json.body 直接寫入，沒有使用 .strip()；首尾半形／全形空格及換行均保留。共有 1,722,407 篇文章含首尾空白或換行。

tools/build_dataset.py 直接以 UTF-8 bytes 讀取兩個標記之間的正文，核對文章 SHA-256 後才寫入 Parquet。全量驗證會重新讀取每一篇 Markdown，逐行比較 Parquet 的 15 個欄位，並再次核對所有 Parquet shard 的 SHA-256。

重新產生 Parquet

需要 Python 3.11 或以上及 PyArrow：

python tools\build_dataset.py build
python tools\build_dataset.py verify

預設每個 shard 最多 100,000 篇文章，使用 Zstandard 壓縮。輸出包括：

• data/manifest.json
• data/parquet-files.sha256
• data/verification.json
• data/parquet/*.parquet

如仍保留相鄰的原始 checkpoint，可以重新核對 Markdown 層：

python tools\verify_corpus.py `
  --corpus-root raw `
  --source-root ..\jyut-ocr\dhcdb_export `
  --write-report raw\manifest\verification.json

來源及使用限制

文章由已獲授權的 DHCDB session 匯出。使用、公開或再分發本數據集前，請自行確認 DHCDB 及原始館藏的使用條款。來源 URL 保留在每一列的 source_url 欄位。