Datasets:

lianghsun
/

c4-edu-zhtw

You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

Dataset Card for c4-edu-zhtw

c4-edu-zhtw 是以 allenai/c4 中文版本（c4 zh）為來源、再經過繁體中文教育性過濾之子集。每筆樣本保留原始 C4 metadata（URL、時間戳）並附上分類器的 pred_label 與 pred_conf，便於下游再做門檻調整。

Dataset Details

Dataset Description

資料集以 fineweb-edu-zhtw-classifier 對 C4 zh 子集做教育性分類，僅保留高教育性樣本，並排除簡體為主之文本。可作為與 fineweb-edu-zhtw 互補的繁中教育類預訓練語料（兩者來源不同：FineWeb vs C4）。

每筆樣本欄位：

text：清理後的網頁文本。
timestamp：抓取時間。
url：原始網址。
zh_id：在 C4 zh 中的索引。
word_count / token_count：字元數與 token 數。
pred_label / pred_conf：分類器預測標籤與信心分數。

Curated by: Huang Liang Hsun
Language(s) (NLP): Traditional Chinese
License: MIT

Dataset Sources

Repository: lianghsun/c4-edu-zhtw
Source: allenai/c4（zh config）
Classifier used: lianghsun/fineweb-edu-zhtw-classifier
Paper: TBA

Uses

Direct Use

繁中教育類語料的持續預訓練補強（與 fineweb-edu-zhtw 一同使用以擴大來源多樣性）。
研究不同來源（C4 vs FineWeb）對教育類分類器表現的影響。

Out-of-Scope Use

規模較小（~13k 樣本），無法單獨支撐預訓練；建議只作為 sub-mix。

Dataset Structure

{
  "text": "...",
  "timestamp": "2019-04-25T...",
  "url": "https://example.com/...",
  "zh_id": 123456,
  "word_count": 1234,
  "token_count": 567,
  "pred_label": 2,
  "pred_conf": 0.84
}

Dataset Creation

Curation Rationale

單純依賴一個語料來源（FineWeb）容易在風格／主題上偏狹。C4 是另一個常用的網頁語料來源，加上同樣的教育性過濾流程後，可作為 FineWeb 的補充。本資料集規模刻意保持精簡，作為驗證用途。

Source Data

Data Collection and Processing

取 allenai/c4 之 zh config。
以 fineweb-edu-zhtw-classifier 對每筆樣本進行教育性分類。
排除簡體為主之文本，僅保留繁中且分類器預測為教育導向的樣本。
紀錄 pred_label / pred_conf，便於下游再調整閾值。

Who are the source data producers?

原始 C4 資料由 AllenAI 自 Common Crawl 整理。
教育性分類由 fineweb-edu-zhtw-classifier 自動完成。

Annotations

Annotation process

無人工標註；pred_label / pred_conf 由分類器自動產生。

Who are the annotators?

無人工標註者。

Personal and Sensitive Information

資料來自 C4 公開網頁；如有意外包含 PII，請於 discussion 區提出排除。

Bias, Risks, and Limitations

C4 資料的時間戳偏舊（2019 前後），不一定反映最新繁中網頁特徵。
分類器 pred_conf 反映分類確信度但不代表內容絕對為教育導向；下游使用時可調整閾值。

Recommendations

建議與 fineweb-edu-zhtw 一同使用以擴大來源多樣性。

Citation

@misc{c4_edu_zhtw,
  title        = {c4-edu-zhtw: Educational Subset of C4 (Traditional Chinese)},
  author       = {Huang, Liang Hsun},
  year         = {2026},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/c4-edu-zhtw}},
  note         = {Filtered from allenai/c4 (zh) using fineweb-edu-zhtw-classifier.}
}