metadata
license: cc-by-sa-4.0
language:
- zh
multilinguality:
- monolingual
pretty_name: wiki_tw
size_categories:
- 100M<n<1B
source_datasets:
- wikisource
dataset_info:
features:
- name: title
dtype: string
- name: article
dtype: string
extra_gated_prompt: >-
You agree to not attempt to determine the identity of individuals in this
dataset
extra_gated_fields:
Company: text
Country: text
I agree to use this dataset for non-commercial use ONLY: checkbox
本資料集是解析自維基文庫於 20250601 發布的打包檔 bz2 檔案的內容，在解析出所需內容後，利用 wikitextparser 移除 Wiki 標記。解析後保留的欄位有兩個：條目名稱（title），條目內容（page article）。
原始的打包檔條目內容簡繁混雜，所以有利用 OpenCC 進行簡轉繁處理。
- 全部 1,113,675 個條目
- 全部 417,746 個條目標題
- 無法自動去標記的條目數:695,929
- 有內容的條目數: 417,746
因為本資料集內容龐大，要塞進一般的個人電腦中進行計算，恐怕會有資源不足的情形。建議使用parquet格式下載使用。
資料集當中有不少內容為「#REDIRECT」或是「#重定向」的條目，已經基本上排除了，但另外也有內文為空白的沒處理到，就等以後有空推出修正版再來清洗了。