Hugging Face's logo

Datasets:
lianghsun
/
tw-fsc

Tasks:
Image-to-Text
Text Generation
Modalities:
Image
Text
Formats:
parquet
Languages:
Chinese
Size:
10K - 100K
Tags:
tw
traditional-chinese
finance
regulations
government
vlm
Libraries:
Datasets
Dask
Polars
License:
Dataset card Data Studio Files
xet
 Community
1

You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

This dataset is OCR'd from public 金管會 (Taiwan Financial Supervisory Commission) documents and pairs each page image with its extracted text for VLM training / OCR verification research. Please describe your intended use briefly.

Log in or Sign Up to review the conditions and access this dataset content.

Dataset Card for tw-fsc

🏦 tw-fsc 是以台灣 金融監督管理委員會（FSC，金管會） 公開釋出之 PDF 文件為基礎建立的 VLM／OCR 研究資料集。每一筆資料對應原始 PDF 的 一頁 ，並同時提供 頁面影像（image） 與 該頁面萃取後的純文字（text），方便研究者在預訓練、影像-文字對齊、OCR 品質檢驗等任務上直接使用，也適合用於 檢視 OCR 抽取結果是否正確。

整體流程透過 vLLM 部署之 dots.ocr 進行版面感知（layout-aware）OCR；表格描述、entity tagging、自動 tag 與大類分類等後處理則以 google/gemma-4 系列模型完成。token_count 欄位以 google/gemma-4-12B SentencePiece tokenizer 計算（不含 BOS）。

Dataset Details

Dataset Description

🏦 tw-fsc 蒐集自金管會公開發布的 PDF 文件，包含三大類來源：（a）銀行局之銀行法規資料庫、（b）金管會與行政院之施政計畫核定版、（c）金管會官網之新聞稿全集。原始檔在公開釋出時常出現同一份內容以不同檔名重複出現的情形；本資料集在入庫階段以 SHA256（針對 PDF 原始 bytes） 進行嚴格去重，最終保留 byte-unique 文件 1,757 份、共 12,813 頁。

每頁皆以 100 DPI 渲染為 PNG 影像並作為主要 column，與其對應的 OCR 文字、頁碼、來源與 doc 級 metadata 一同打包。

Dataset Sources

Uses

Direct Use

  • VLM 預訓練 / 微調：每頁同時提供 image + text，可作為 layout-aware OCR、文件問答（DocVQA）、版面理解（layout parsing）等任務的訓練語料。
  • OCR 品質驗證：對照 image 與 text，快速人工 sanity-check OCR 抽取是否正確、是否漏行 / 斷句 / 字元錯誤。
  • 語言模型持續預訓練（continued pretraining）：將 text column 取出後可作為純文字繁體中文金融／法規語料。
  • 法規 RAG、合規問答、政策摘要等任務的領域語料補充。

Out-of-Scope Use

  • 直接作為個人理財、投資建議或法規諮詢之依據；本資料屬歷史性公開文件，可能不反映最新法令版本。
  • 進行任何違反主管機關規定或誤導金融消費者之內容生成。
  • 對特定個人、企業或機構之名譽、信用或商業行為作出判斷。
  • 任何違反資料隱私、版權或倫理準則之用途。

Dataset Structure

每列對應原始 PDF 的「一頁」（1 row = 1 page）。

欄位 類型 說明
image Image (PNG) 該頁渲染為 100 DPI 之頁面影像
text string 該頁經 OCR + 規則過濾後的純文字
doc_id string 文件 UUID（同一份 PDF 之所有頁面共用此 ID）
page_no int 頁碼，1-indexed
page_count int 該份 PDF 的總頁數
filename string 原檔名（去掉 .pdf 副檔名）
title string | null 第一個 title block 自動抽取的標題
source string 原始批次標籤
status string ready / partial（屬於 doc-level 狀態）
category string | null 管線之大類分類（doc-level）
auto_tags list[string] LLM 自動標籤（doc-level）
char_count int len(text)
word_count int len(text.split())（純 whitespace split）
token_count int google/gemma-4-12B SentencePiece tokens，不含 BOS
tokenizer string 固定為 google/gemma-4-12B
image_width int PNG 寬度（pixel）
image_height int PNG 高度（pixel）
uploaded_at float doc-level upload timestamp（Unix epoch）

category、auto_tags 等 doc-level metadata 在每一頁上重複出現，方便對單頁進行篩選而不需另外 join。

Source breakdown (rows = pages)

Source batch Pages Gemma-4 tokens
金管會-金融監督管理委員會-新聞稿 (parts 1-10) 8,110 4,804,471
金管會-銀行局-銀行法規資料庫 4,129 2,644,810
金管會-金融監督管理委員會-施政計畫 327 215,765
金管會-銀行局-法規與自律規範 247 117,045
Total 12,813 7,782,091

Dataset Creation

Curation Rationale

金管會作為台灣金融體系最高主管機關，其公開出版品包含大量繁體中文金融、法規、政策、產業治理之原始文本。為了讓上述語料能直接用於 VLM 訓練 + OCR 品質檢驗，本資料集走完整 OCR + 結構化流程，並在最終匯出階段同時保留 頁面影像 與 抽取後的純文字，讓研究者可在同一筆資料內進行影像-文字對齊。

Source Data

Data Collection and Processing

語料來源為金管會公開釋出之 PDF 文件，共包含下列批次：

Source batch 說明
金管會-銀行局-法規與自律規範 銀行業相關之法令函釋與自律規範
金管會-銀行局-銀行法規資料庫 銀行業相關法規完整資料庫
金管會-金融監督管理委員會-新聞稿 (parts 1-10) 金管會官網新聞稿全集
金管會-金融監督管理委員會-施政計畫 金管會與行政院施政計畫核定版

主要處理流程：

  1. 格式驗證 — 對副檔名與實際格式不符的附件，以 PDF magic bytes 檢查擋下。
  2. SHA256 去重 — 同份內容常以不同檔名重複出現，以 PDF raw bytes 計算 SHA256 對齊，僅保留首份。
  3. 頁面渲染 — 每頁以 100 DPI 渲染為 PNG。
  4. OCR — 以 dots.ocr（vLLM）做版面感知 OCR，輸出含 title / text / table / image / formula 之結構化 block。
  5. 後處理 —
    • Smart merge：跨頁段落還原；頁眉頁腳 / 版權聲明依規則過濾。
    • Table description：表格 HTML 由 LLM 生成自然語言描述，併入 text 中。
    • Entity tagging：URL / 電話 / Email 等實體替換為 [url] / [tel] / [email]。
    • 自動 tag 與大類分類（auto_tags、category）。
  6. Parquet 匯出 — 以單頁為單位，將 image bytes + page text + metadata 打包為 parquet 分片。

Who are the source data producers?

原始 PDF 文件由 中華民國金融監督管理委員會 及其下屬單位（銀行局、證期局、保險局、檢查局等）所撰寫與發布，屬於公開政府文件。資料採集自金管會官方公開釋出之文件，未經人工二次撰寫。

Annotations

Annotation process

auto_tags 與 category 欄位之標籤皆由處理流程中之 LLM 階段自動產出，並無人工標記。標註模型為 google/gemma-4 系列，透過 OpenAI 相容介面呼叫，並啟用 chat_template_kwargs.enable_thinking=false 以避免推理模式佔用回應 token budget。

Who are the annotators?

所有 auto_tags 與 category 標籤皆由 LLM 自動產出，無人工介入。

Personal and Sensitive Information

本資料集來自金管會公開發布之 PDF 文件，理論上不包含個人識別或敏感資訊。URL / 電話 / Email 等實體於 OCR 後處理階段已透過 entity tagging 替換為 [url] / [tel] / [email] placeholder，減少對下游模型產生潛在隱私風險。

Bias, Risks, and Limitations

  • 時點偏差：本資料集為截至匯入時的快照，法規與政策內容會隨時間更新；下游模型不應作為最新法令依據。
  • OCR 雜訊：部分頁面為純圖檔附件（統計圖表），OCR 抽取出之文字量偏低；char_count 過小的頁面通常屬此類，建議下游另作處理。
  • 版面殘留：表格保留為 inline HTML <table>...</table>；圖片以 [image] placeholder 表示但 page image 內仍可看到原始圖。
  • 領域偏向：語料以銀行、金融市場、新聞稿、施政計畫為主，對保險、證券、跨業金融等領域之覆蓋程度因金管會原始公開檔分布而有不均。
  • 標籤品質：auto_tags 與 category 為 LLM 自動產生，可能存在誤判或粒度不一致；不建議作為主要分類依據，僅供輔助過濾。

Recommendations

Users should be made aware of the risks, biases and limitations of the dataset. 建議：

  • 若用於法規 RAG，請以本資料配合最新版法規條文資料庫作版本對齊。
  • 若用於持續預訓練，建議與其他繁體中文通用語料混合，避免模型過度偏向法規敘事語體。
  • 如需更嚴格之品質基準，可進一步以 char_count 與 token_count 做下界過濾（例如 char_count >= 200）。
  • 對 VLM 訓練，建議搭配各頁的 image_width / image_height 計算長寬比例，作為訓練時的取樣權重參考。

Citation 

@misc{tw-fsc,
  title        = {tw-fsc: A Page-Level VLM Dataset from Taiwan FSC Public Documents},
  author       = {Liang Hsun Huang},
  year         = {2026},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/tw-fsc}},
  note         = {Page images paired with OCR'd text from public 金管會 PDFs using a vLLM-served dots.ocr model.}
}

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang
Downloads last month
29
Total file size:
2.23 GB