Datasets:
🍷 FineWeb-zhtw 是從 🍷 FineWeb 抽取繁體中文內容所建立的全量、未經品質篩選網頁語料集，共 48,058,113 列。 它是 📚 FineWeb-Edu-zhtw 的上游來源——後者以教育導向分類器從本資料集篩選而成。
Dataset Details
Dataset Description
🍷 FineWeb-zhtw 取自 🍷 FineWeb（第一代）中判定為繁體中文的網頁文本，保留原始的 text、id 與抓取階段的中繼資料，未做教育性或品質篩選。
原始 FineWeb 涵蓋龐大的 Common Crawl 網頁，其中繁體中文的部分同樣夾雜廣告、論壇、導覽列與低資訊密度內容。本資料集的定位是提供完整、未經取捨的基底，讓後續的篩選方法本身可被研究與比較；若需要可直接訓練的高品質語料，請改用 📚 FineWeb-Edu-zhtw。
| 列數 | 48,058,113 |
| 檔案 | 322 個 parquet |
| 大小 | 約 99.5 GB |
- Curated by: Liang Hsun Huang
- Language(s) (NLP): Traditional Chinese
- License: MIT
Dataset Sources
- Repository: lianghsun/fineweb-zhtw
- Upstream: HuggingFaceFW/fineweb
- Downstream: lianghsun/fineweb-edu-zhtw
- Paper: TBA
Uses
Direct Use
本資料集適合用於：
- 自訂篩選流程的研究——因為未經任何品質過濾，可作為比較不同篩選方法的共同基底；
- tokenizer 訓練——全量語料涵蓋的詞彙分布比篩選後的子集更廣；
- 大規模預訓練的原料，前提是自行加上品質過濾。
Out-of-Scope Use
本資料集不適用於下列用途：
- 直接作為預訓練語料而不做任何過濾——內容品質分布很寬，包含大量低資訊密度文本；
- 作為下游任務（如問答、對話、摘要）之指令資料集，因其不包含指令－回應結構；
- 生成具特定意圖或立場的內容，例如政治宣傳、商業廣告或情緒操縱；
- 進行個人、群體或機構之價值判斷、歧視性分析或行為預測；
- 任何違反資料隱私、版權或倫理準則的用途。
Dataset Structure
{
"text": "...",
"id": "<urn:uuid:...>",
"metadata": {
"url": "...",
"dump": "...",
"date": "...",
"file_path": "...",
"language": "...",
"language_score": 0.0,
"language_script": "...",
"top_langs": "...",
"avg_words_per_line": 0.0,
"minhash_cluster_size": 0
}
}
| 欄位 | 說明 |
|---|---|
text |
網頁正文 |
id |
原始文件的 UUID |
metadata.url |
來源網址 |
metadata.dump |
Common Crawl 的 dump 代號 |
metadata.date |
抓取時間 |
metadata.file_path |
原始檔案路徑 |
metadata.language / language_score / language_script |
語言判定結果與信心分數 |
metadata.top_langs |
次要語言候選 |
metadata.avg_words_per_line |
每行平均詞數 |
metadata.minhash_cluster_size |
MinHash 去重的叢集大小 |
使用建議
全量約 99.5 GB，建議串流讀取：
from datasets import load_dataset
ds = load_dataset("lianghsun/fineweb-zhtw", split="train", streaming=True)
或取單一分片：
ds = load_dataset("lianghsun/fineweb-zhtw",
data_files="data/train-00000-of-00322.parquet")
Dataset Creation
Curation Rationale
🍷 FineWeb 是目前規模最大的開放網頁語料之一，但其中繁體中文的比例極低，且散落在各個 dump 之中，難以直接取用。本資料集把這部分抽取出來、整理成統一格式，作為繁體中文預訓練的公開基底。
保留未篩選的全量而非只發布篩選後的子集，是刻意的決定：篩選標準本身就是研究對象。發布全量讓不同的篩選方法能在同一個基底上比較，也讓需要更廣詞彙覆蓋的用途（例如 tokenizer 訓練）有料可用。
Source Data
Data Collection and Processing
- 語言判定——從 FineWeb 各 dump 中取出語言判定為中文、且字形判定為繁體（
language_script）的文本。 - 格式統一——保留原始
text與id，並把抓取階段的中繼資料收攏進metadata巢狀欄位。 - MinHash 去重——沿用 FineWeb 的去重結果，叢集大小記錄在
metadata.minhash_cluster_size。
本資料集未做：教育性分類、簡體字清理、語意層級的近似去重、內容品質過濾。這些都在下游的 📚 FineWeb-Edu-zhtw 進行。
Who are the source data producers?
原始內容由公開網頁的作者產生，經 Common Crawl 抓取、再由 🤗 HuggingFace 的 FineWeb 流程處理成結構化文本。本資料集僅從中抽取繁體中文部分，未對內容本身做任何生成或改寫。
Personal and Sensitive Information
本資料集係從公開網頁語料抽取而成，來源為公開可索引內容。但因未經教育性篩選，相較於下游的 FineWeb-Edu-zhtw，本資料集包含更多論壇、社群與商業網頁，出現個人資訊的機率相對較高。
如發現侵犯特定人士或特定組織之隱私，請聯繫我方進行排除。
Bias, Risks, and Limitations
- 未經品質篩選。 內容直接來自網頁抓取，包含廣告、導覽列、重複樣板等雜訊。要用於預訓練必須自行加篩選。
- 繁簡混雜。 語言判定以字元為主，部分文件仍混有簡體字或中國用語。需要純繁體台灣語料請自行過濾——本資料集刻意不做這件事，以免在基底層先做了取捨。
- 未做語意層級去重。 MinHash 去重已完成（見
metadata.minhash_cluster_size），但語意相近而字面不同的重複仍然存在。 - 來源偏差。 承襲 Common Crawl 的固有偏差——商業網站與高流量內容的比重高於小型或非商業來源。
Recommendations
Users should be made aware of the risks, biases and limitations of the dataset. 建議在使用前先依用途加上品質過濾；若需要已篩選的版本，請直接使用 📚 FineWeb-Edu-zhtw。
Citation
@misc{fineweb-zhtw,
title = {FineWeb-zhtw: A Traditional Chinese Subset of FineWeb},
author = {Liang Hsun Huang, (TBA)},
year = {2026},
howpublished = {\url{https://huggingface.co/datasets/lianghsun/fineweb-zhtw}},
note = {Traditional Chinese content extracted from FineWeb, unfiltered.}
}
Dataset Card Authors
Dataset Card Contact
- Downloads last month
- -