Dataset Card for finepdf-edu-zhtw

⚠️ 狀態：manual review 中 —— 本資料集目前尚未經過人工抽查驗證，篩選流程為全自動（規則 + LLM + 分類器），使用前請自行評估品質風險。

📄 finepdf-edu-zhtw 是以 🍷 FineWeb-Edu-zhtw 為設計參考，針對 HuggingFaceFW/finepdfs（cmn_Hani 子集）建立的繁體中文教育取向 PDF 語料。原始 PDF 文本先經簡體/中國大陸內容過濾，去除完全重複的樣本後，再以 freddy4212/classifier-based-on-nemotron-3-embed 訓練的教育價值分類器篩選，僅保留中高教育價值的文本。

Dataset Details

Dataset Description

📄 finepdf-edu-zhtw 源自 HuggingFaceFW/finepdfs 的 cmn_Hani（中文）train split，經過三個階段的處理：

1. 簡中/中國大陸內容過濾：規則式偵測（TLD、PRC 慣用詞、簡體字殘留）搭配 LLM（Devstral-Small-2-24B-Instruct-2512）覆核不確定樣本，輸出即 lianghsun/finepdf-filtered-zhtw。
2. 精確去重：對每筆文本做 sha256 雜湊比對，移除完全重複的樣本。
3. 教育價值分類過濾：使用 freddy4212 訓練的 classifier-based-on-nemotron-3-embed（nvidia/Nemotron-3-Embed-1B-BF16 向量 + 訓練頭）將文本分為 A（低教育價值，原 1–2 分）/ B（中，原 3 分）/ C（高教育價值，原 4–5 分）三類，僅保留 B、C，捨棄 A。

最終的 📄 finepdf-edu-zhtw 提供一個聚焦於教育、知識性 PDF 內容的繁體中文語料，適用於語言模型的持續預訓練與教育領域相關研究。

• Curated by: Liang Hsun Huang
• Language(s) (NLP): Traditional Chinese
• License: MIT

Dataset Sources

• Repository: lianghsun/finepdf-edu-zhtw
• Upstream source: HuggingFaceFW/finepdfs
• Intermediate (PRC/簡中過濾後): lianghsun/finepdf-filtered-zhtw
• Classifier used: freddy4212/classifier-based-on-nemotron-3-embed
• Paper: TBA

Uses

Direct Use

本資料集主要設計作為 語言模型持續預訓練（continued pretraining） 的繁體中文 PDF 教育語料來源，適合用於：

• 提升語言模型對正式文件、學術/報告類文本的理解與生成品質；
• 建構或微調以教育、學術文本為主的基底模型（base models）。

Out-of-Scope Use

本資料集不適用於下列用途：

• 生成具特定意圖或立場的內容，例如政治宣傳、商業廣告或情緒操縱。
• 作為下游任務（如問答、對話、摘要）之指令資料集，因其不包含指令－回應結構。
• 進行個人、群體或機構之價值判斷、歧視性分析或行為預測。
• 任何違反資料隱私、版權或倫理準則的用途。

篩選流程目前仍尚未經過人工抽查，下游使用者若對品質有較高要求，建議自行做額外的抽樣驗證。

Dataset Structure

{
  "text": "...",
  "id": "...", "dump": "...", "url": "...", "date": "...", "file_path": "...",
  "offset": 0, "language": "zho_Hant",
  "page_average_lid": "...", "page_average_lid_score": 0.99,
  "full_doc_lid": "...", "full_doc_lid_score": 0.99,
  "per_page_languages": ["..."], "is_truncated": false, "extractor": "...",
  "page_ends": [123], "fw_edu_scores": [2.5],
  "fw_edu_v2_scores": null, "dclm_scores": null, "ocr_quality_scores": null,
  "minhash_cluster_size": 1, "duplicate_count": 1,
  "token_count_finepdfs": 1234,
  "token_count": 1234,
  "word_count": 5678,
  "score_A": 0.01,
  "score_B": 0.12,
  "score_C": 0.87,
  "predicted_group": "C",
  "has_table": false
}

前 21 個欄位（text 至 duplicate_count，含 token_count_finepdfs，見下）皆原樣保留自上游 HuggingFaceFW/finepdfs 與 lianghsun/finepdf-filtered-zhtw（PDF 抽取的 metadata、語言偵測分數、fw_edu_scores 等），未經修改。本資料集新增的欄位如下：

• token_count_finepdfs：由原始欄位 token_count 更名而來，避免與本資料集新增的 token_count 混淆——這是上游 finepdfs 自己的 tokenizer 計算結果，來源未知，僅供參考對照。
• token_count：本資料集新增，以 Gemma3 系列 tokenizer（ACE-Gemma-12B-1219 詞表）重新計算的 token 數。
• word_count：本資料集新增，文字字符數（character count）。
• score_A / score_B / score_C：本資料集新增，freddy4212/classifier-based-on-nemotron-3-embed 對該筆文本的原始 softmax 機率（A＝低教育價值、B＝中、C＝高）。
• predicted_group：本資料集新增，分類器的最終判定類別（本資料集僅收錄 B、C）。
• has_table：本資料集新增，文本是否含表格內容（偵測 markdown 表格分隔列或 HTML <table>/<tr>/<td> 標籤）。

Dataset Creation

Curation Rationale

HuggingFaceFW/finepdfs 涵蓋大量從 PDF 抽取的多語言文本，其中中文子集混雜簡體/中國大陸內容、大量完全重複的樣本，以及低教育價值的公告、表單、行政文件等。為了取得一份適合繁體中文教育導向預訓練的乾淨子集，我們依序做了 PRC/簡中過濾、精確去重、教育價值分類三個階段的處理。

Source Data

Data Collection and Processing

主要處理流程如下：

1. 來源：HuggingFaceFW/finepdfs data/cmn_Hani/train（PDF 抽取文本，共 19,654,268 筆）。
2. PRC/簡中過濾：丟棄 .cn / .hk 網域來源；規則式偵測 PRC 慣用詞與純簡體殘留；不確定樣本交由 Devstral-Small-2-24B-Instruct-2512 覆核。此階段保留 8,367,316 筆，即 lianghsun/finepdf-filtered-zhtw。
3. 精確去重：對每筆 text（去除頭尾空白後）計算 sha256，僅保留首次出現的樣本，移除完全重複者。
4. 教育價值分類過濾：使用 freddy4212/classifier-based-on-nemotron-3-embed（Nemotron-3-Embed-1B-BF16 向量 + 訓練頭，A/B/C 三分類，A＝低教育價值、B＝中、C＝高）逐筆推論，僅保留 B、C，捨棄 A。此步驟以 8 張 GPU 平行處理。

去重後共 2,091,829 筆進入分類，三類分布為：A 1,804,114 筆（86.25%）、B 136,733 筆（6.54%）、C 150,982 筆（7.22%），最終保留 B+C 共 287,715 筆（13.75%）。

最終資料集統計（287,715 筆）：

• 總 token 數（Gemma3 tokenizer）：3,408,740,638（約 34.1 億）
• 含表格內容（markdown 或 HTML table 語法偵測）：90,338 筆（31.40%）

Who are the source data producers?

原始 PDF 文本來自 HuggingFaceFW/finepdfs 對公開網路 PDF 文件的大規模抓取與文字抽取，來源涵蓋政府機關、學校、學術單位等公開發布之 PDF 文件。

Annotations

本資料集不含額外的人工標註欄位，僅保留篩選後的 text 欄位。

Annotation process

教育價值分類（A/B/C）由 freddy4212/classifier-based-on-nemotron-3-embed 全自動推論產生，用於決定樣本去留，並未寫回本資料集欄位。

Who are the annotators?

分類器由 Freddy (freddy4212) 訓練並公開於 freddy4212/classifier-based-on-nemotron-3-embed，本資料集直接沿用該分類器做推論，未另行訓練。

Personal and Sensitive Information

本資料集係從公開 PDF 文件（HuggingFaceFW/finepdfs）篩選而成，來源多為政府/學校/學術機構公開發布之文件。由於原始來源為公開可索引內容，不包含明確的個人識別資料或受保護資訊。但如果有侵犯特定人士或特定組織之隱私，請再聯繫我方進行排除。

Bias, Risks, and Limitations

• 篩選流程全自動（規則 + LLM + 分類器），尚未經過人工抽查，可能存在誤判（把低品質內容留下，或把高品質內容濾掉）。
• PDF 轉文字過程可能存在斷行、表格錯位、OCR 雜訊等問題，篩選流程並未針對此類格式問題做額外清理。
• PRC/簡中過濾為規則 + LLM 判斷，並非 100% 準確，仍可能有少量漏網樣本。

Recommendations

Users should be made aware of the risks, biases and limitations of the dataset, and are encouraged to perform their own manual spot-checks before production use given this dataset has not yet completed manual review.

Citation

@misc{finepdf-edu-zhtw,
  title        = {finepdf-edu-zhtw: A Traditional Chinese Educational Subset of FinePDFs},
  author       = {Liang Hsun Huang, (TBA)},
  year         = {2026},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/finepdf-edu-zhtw}},
  note         = {Derived from HuggingFaceFW/finepdfs (cmn_Hani), filtered for PRC/simplified-Chinese content, exact-deduped, and classified with freddy4212/classifier-based-on-nemotron-3-embed.}
}

Dataset Card Authors

Liang Hsun Huang

Dataset Card Contact

Liang Hsun Huang