|
|
--- |
|
|
license: cc-by-sa-4.0 |
|
|
language: |
|
|
- zh |
|
|
multilinguality: |
|
|
- monolingual |
|
|
pretty_name: wiki_tw |
|
|
size_categories: |
|
|
- 100M<n<1B |
|
|
source_datasets: |
|
|
- wikisource |
|
|
dataset_info: |
|
|
features: |
|
|
- name: title |
|
|
dtype: string |
|
|
- name: article |
|
|
dtype: string |
|
|
extra_gated_prompt: "You agree to not attempt to determine the identity of individuals in this dataset" |
|
|
extra_gated_fields: |
|
|
Company: text |
|
|
Country: text |
|
|
I agree to use this dataset for non-commercial use ONLY: checkbox |
|
|
--- |
|
|
本資料集是解析自[維基文庫於 20250601 發布的打包檔](https://zh.wikisource.org/zh-hant/Help:%E4%B8%8B%E8%BD%BD%E7%BB%B4%E5%9F%BA%E6%96%87%E5%BA%93) bz2 檔案的內容，在解析出所需內容後，利用 [wikitextparser](https://wikitextparser.readthedocs.io/en/latest/) 移除 Wiki 標記。解析後保留的欄位有兩個：條目名稱（title），條目內容（page article）。 |
|
|
|
|
|
原始的打包檔條目內容簡繁混雜，所以有利用 OpenCC 進行簡轉繁處理。 |
|
|
|
|
|
* 全部 1,113,675 個條目 |
|
|
* 全部 417,746 個條目標題 |
|
|
* 無法自動去標記的條目數:695,929 |
|
|
* 有內容的條目數: 417,746 |
|
|
|
|
|
因為本資料集內容龐大，要塞進一般的個人電腦中進行計算，恐怕會有資源不足的情形。建議使用[parquet](https://huggingface.co/docs/datasets/loading#parquet)格式下載使用。 |
|
|
|
|
|
資料集當中有不少內容為「#REDIRECT」或是「#重定向」的條目，已經基本上排除了，但另外也有內文為空白的沒處理到，就等以後有空推出修正版再來清洗了。 |
