欄位	型別	說明
`text`	string	網頁正文（未經任何截斷或改寫）
`id`	string	來源自帶的唯一識別碼（`<urn:uuid:...>`），本資料集沿用未重算
`dump`	string	Common Crawl dump 代號，如 `CC-MAIN-2013-20`
`url`	string	原始網址
`date`	string	抓取時間
`file_path`	string	來源 WARC 路徑
`language`	string	FineWeb-2 語言判別結果（`cmn`）
`language_score`	float64	語言判別分數
`language_script`	string	書寫系統（`Hani`）
`minhash_cluster_size`	int64	FineWeb-2 去重時的 minhash 叢集大小
`top_langs`	string	FineWeb-2 的多語分數（JSON 字串）
`zhtw_host`	string	本資料集新增：URL 主機名
`zhtw_distinct_simp`	int32	本資料集新增：出現的「不同」簡體專用字數
`zhtw_distinct_trad`	int32	本資料集新增：出現的「不同」繁體專用字數
`zhtw_simp_ratio`	float64	本資料集新增：簡體專用字佔簡繁專用字的比例
`zhtw_cjk_ratio`	float64	本資料集新增：中文字元佔全文比例
`zhtw_dup_line_ratio`	float64	本資料集新增：重複行比例
`zhtw_tw_hint`	bool	本資料集新增：是否命中台灣在地訊號（如「新台幣」「立法院」「健保」「民國 XX 年」）

zhtw_* 欄位是過濾過程的判定依據，保留下來讓使用者可依自身標準做二次篩選，也讓過濾決策可稽核。

Dataset Creation

Curation Rationale

FineWeb-2 的 cmn_Hani 子集以簡體中文為壓倒性多數，繁體內容混雜其中，且「繁體字」不等於「台灣內容」。實測抽樣顯示：以字元粗判為繁體者約佔 29.5%，但其中大量是中國網站的 BIG5 轉碼輸出、香港媒體與 OTA 機器翻譯頁。本資料集的目標是把真正的台灣繁體中文網頁分離出來。

Source Data

Data Collection and Processing

過濾管線分五層，由便宜到昂貴依序執行，每一列都記錄剔除原因以供稽核：

L0 產地（URL）

ccTLD 為 .cn / .hk / .mo 一律排除（含 .com.cn、.org.hk 等二級域）。
地區子網域排除（hk.news.yahoo.com、cn.wsj.com）。
BIG5／繁體轉碼閘道排除：中國網站以程式把簡體轉為繁體對外輸出，例如 big5.china.com.cn/gate/big5/...，字是繁體但用語為簡中習慣。
URL 帶 zh-cn / zh-hk / hans 等地區標記者排除。
中國大陸站台黑名單（約 200 個主網域，不論掛什麼 TLD）、香港／澳門站台黑名單。
機翻／樣板量產站排除（訂房 OTA、機翻科技內容農場、B2B 產品頁）。

L1 產地（內容鐵證） 7. 正文含中國 ICP 備案號（如「京ICP備」「粵ICP备」）者排除——這是中國網站的法定標示。 8. 粵語書面字（嘅、咗、喺、佢…）過多者排除。 9. 香港書面語強訊號（今次、外判、質素、強積金、屋邨、八達通、的士…）命中即排除；弱訊號（港元、中環、立法會…台灣報導香港時也會用）須累積 4 個以上才排除。

L2 字形 10. 以 OpenCC 的單字對照表生成簡體專用字（2,732 字）與繁體專用字（3,745 字）集合，僅用於偵測，不對任何文章做整篇簡繁轉換。 11. 繁體專用字少於 5 個者視為非繁體內容；不同簡體專用字超過 2 種、或簡體字出現比例超過 0.5% 者排除。

L3 用語 12. 以陸用語詞表比對（信息、網絡、軟件、視頻、芯片、互聯網、質量…），命中 strong 級即排除；advisory 級累積超過 2 個排除。 13. 詞表由 lexicon.yaml 統一詞庫生成（94 條 strong、304 條 advisory），並套用其 cancel_pre / cancel_post / exception_words 語境規則，避免「探視頻率」「電視頻道」這類誤判。 14. 簡繁對照教學文（如「網路（非網絡）」）由 meta-guard 保護，不以用語定罪。

L4 品質 15. 全文短於 200 字、中文字元比例低於 50%、language_score 低於 0.90、重複行比例超過 50% 者排除。

去重與鍵完整性 16. 沿用來源自帶的 id，不從 (url, date) 重算；輸出前對全域 id 做唯一性斷言（不唯一即中止）。 17. 另做全文 exact 去重（SHA-1）。本輪移除重複 id 0 列、重複全文 0 列。

各層剔除統計

以來源 636,058,984 列為分母：

原因代碼	說明	列數	佔比
`not_traditional`	L2 字形：繁體專用字不足（判定為簡體內容）	364,449,074	57.30%
`tld_blocked`	L0 網域：ccTLD 為 .cn / .hk / .mo	122,621,888	19.28%
`simplified_chars`	L2 字形：出現過多不同的簡體專用字	57,912,998	9.10%
`simplified_ratio`	L2 字形：簡體專用字出現比例超標	25,946,297	4.08%
`cn_site`	L0 網域：中國大陸站台黑名單（不論 TLD）	19,465,535	3.06%
`too_short`	L4 品質：全文長度不足 200 字	8,551,837	1.34%
`icp_beian`	L1 鐵證：正文含中國 ICP 備案號	6,690,766	1.05%
`region_subdomain`	L0 網域：地區子網域（hk.、cn.、mo.）	3,998,057	0.63%
`hk_style`	L1 港產：命中香港書面語強訊號	3,538,420	0.56%
`hk_mo_site`	L0 網域：香港／澳門站台黑名單	2,420,377	0.38%
`locale_blocked`	L0 網域：URL 帶 zh-cn / zh-hk / hans 等地區標記	2,298,742	0.36%
`mainland_term`	L3 用語：命中陸用語詞表（strong）	2,108,104	0.33%
`big5_gate`	L0 網域：BIG5／繁體轉碼閘道	1,175,887	0.18%
`cn_oriented_site`	L0 網域：中國題材繁體媒體（對台宣傳、海外異議媒體）	967,076	0.15%
`mt_template_site`	L0 網域：機翻／樣板量產站（OTA、內容農場）	957,148	0.15%
`not_chinese`	L4 品質：中文字元比例低於 50%	624,505	0.10%
`low_lid`	L4 品質：language_score 低於 0.90	382,993	0.06%
`cantonese`	L1 港產：粵語書面字過多	240,262	0.04%
`mainland_advisory`	L3 用語：陸用語 advisory 累積超標	167,953	0.03%
`hk_style_weak`	L1 港產：香港弱訊號累積達標	46,955	0.01%
`repetitive`	L4 品質：重複行比例過高	1,305	0.00%
`url_invalid`	L0 網域：URL 無法解析	1	0.00%
`ok`	通過第一關	11,492,804	1.81%

註：第一關的規則在處理途中修訂過一次（修正 BIG5 主機名比對失效的問題、補入中國題材媒體黑名單），前 74 個分片以修訂前的規則統計、其餘以修訂後統計，故本表分層數字混合兩個版本。 最終資料不受影響——第二關對全部 370 個分片統一套用了修訂後的完整規則。

第二關（統一套用於全部分片）

通過第一關的 11,492,804 列再經第二關，剔除 76,600 列：

原因代碼	說明	列數
`cn_admin_content`	L1 鐵證：中國黨政／行政內容（僅對非台灣來源生效）	47,487
`big5_gate`	L0 網域：BIG5／繁體轉碼閘道	12,861
`hk_mo_site`	L0 網域：香港／澳門站台黑名單	11,279
`cn_oriented_site`	L0 網域：中國題材繁體媒體（對台宣傳、海外異議媒體）	4,973

最終保留 11,416,204 列。

留存率隨 Common Crawl dump 時序遞減

分片編號對應 dump 的時間順序，可看出中文網路生態的變化——越晚期的 dump，簡體內容與 .cn 網域佔比越高，台灣繁體內容被稀釋：

批次	分片數	來源列數	留存率	判為簡體	`.cn/.hk/.mo`
`000_*`	74	145,319,000	2.29%	55.2%	18.0%
`001_*`	74	141,506,000	1.91%	57.2%	19.1%
`002_*`	74	139,688,000	1.70%	57.8%	19.6%
`003_*`	74	137,440,000	1.49%	58.6%	20.0%
`004_*`	74	72,105,984	1.43%	58.3%	20.1%

Who are the source data producers?

原始網頁由 Common Crawl 收錄之公開網站作者撰寫；FineWeb-2 由 HuggingFace 整理並完成語言判別與去重。

Annotations

無人工標註。zhtw_* 欄位為過濾流程自動產生的判定 metadata。

Personal and Sensitive Information

資料來自公開網頁，可能包含論壇貼文、部落格等使用者生成內容。如發現特定人士隱私資料，請於 discussion 區提出排除。

Bias, Risks, and Limitations

地域過濾偏嚴：為了排除中港內容，採用嚴格門檻。台灣作者撰寫、但大量引用中國用語或報導香港議題的文章可能被誤剔。
機翻繁中仍有殘留：support.microsoft.com 這類官方 zh-TW 在地化頁面雖然是正規繁中，早期內容多為機器翻譯，語感生硬。
時間分佈嚴重偏向早期：來源涵蓋 96 個 Common Crawl dump（CC-MAIN-2013-20 至 CC-MAIN-2024-18），但留存率從最早批次的 2.29% 一路降到最晚批次的 1.45%（見上方時序表），因此本資料集的內容明顯偏向 2010 年代初期的部落格與論壇（無名小站、Xuite、Yam 天空等已停運平台），近年內容佔比偏低。
維基百科繁體轉換版：zh.wikipedia.org 的繁體頁面是 MediaWiki 自動轉換產物，用語多數正確但非人工撰寫的台灣中文。
詞表覆蓋有限：陸用語詞表無法涵蓋所有大陸腔表達，語感層次的差異（句式、篇章習慣）不在偵測範圍內。
過濾規則以「是否為台灣繁體」為準，不涉及政治立場或內容審查；.cn / .hk 網域的排除是語言變體的區分手段，非價值判斷。

Recommendations

建議在訓練前再做：

依 zhtw_simp_ratio、zhtw_tw_hint 做符合自身需求的二次篩選。
近似去重（minhash）——本資料集僅做全文 exact 去重，FineWeb-2 的 minhash 去重已在上游完成，但跨 dump 的近似重複仍可能存在。
針對論壇類內容做樣板行（簽名檔、頁尾導覽）清理。

資料統計

項目	數值
來源列數	636,058,984
保留列數	11,416,204
留存率	1.81%
總字元數	9,951,474,513
總 token 數	7,370,690,224（Gemma 3 tokenizer，vocab 262k）
平均每 token 字數	1.3501
分片數	68
檔案大小	17.43 GB
不重複網域數	551,010
Common Crawl dumps	96 個（CC-MAIN-2013-20 ～ CC-MAIN-2024-18）

網域分佈 Top 25

#	網域	列數
1	`n.yam.com`	182,120
2	`tw.news.yahoo.com`	119,893
3	`udn.com`	106,346
4	`www.chinatimes.com`	79,704
5	`www.ettoday.net`	64,667
6	`tw.answers.yahoo.com`	59,073
7	`www.worldjournal.com`	49,579
8	`news.ltn.com.tw`	47,743
9	`mssl.eslite.com`	46,330
10	`www.nownews.com`	43,625
11	`www.urcosme.com`	39,214
12	`news.tvbs.com.tw`	34,815
13	`www.storm.mg`	34,677
14	`blog.xuite.net`	33,926
15	`news.cnyes.com`	32,616
16	`news.cts.com.tw`	31,267
17	`gotv.ctitv.com.tw`	29,461
18	`technews.tw`	26,814
19	`today.line.me`	26,128
20	`tw.sports.yahoo.com`	26,114
21	`www.books.com.tw`	25,275
22	`fafa168.pixnet.net`	24,727
23	`money.udn.com`	24,461
24	`m.gamer.com.tw`	23,772
25	`www.sportsv.net`	23,646

使用方式

from datasets import load_dataset

ds = load_dataset("lianghsun/fineweb-2-zhtw", split="train", streaming=True)
for row in ds.take(3):
    print(row["url"], row["zhtw_tw_hint"])
    print(row["text"][:200])

只取台灣在地訊號明確的子集：

ds = load_dataset("lianghsun/fineweb-2-zhtw", split="train")
tw = ds.filter(lambda r: r["zhtw_tw_hint"] and r["zhtw_simp_ratio"] == 0.0)

Citation

@misc{fineweb2_zhtw,
  title        = {fineweb-2-zhtw: Taiwan-Centric Traditional Chinese Subset of FineWeb-2},
  author       = {Huang, Liang Hsun},
  year         = {2026},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/fineweb-2-zhtw}},
  note         = {Filtered from HuggingFaceFW/fineweb-2 (cmn_Hani) under ODC-By.}
}

Dataset Card Authors

Huang Liang Hsun

Dataset Card Contact

Huang Liang Hsun

Downloads last month: 12

Curated by:

Huang Liang Hsun

Language(s) (NLP):

Traditional Chinese (zh-TW)

License:

ODC-By（沿用 FineWeb-2 母資料集授權）

Total file size:

17.4 GB