首發
Browse files
README.md
CHANGED
|
@@ -1,3 +1,36 @@
|
|
| 1 |
---
|
| 2 |
-
license:
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 3 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
+
license: cc-by-sa-4.0
|
| 3 |
+
language:
|
| 4 |
+
- zh
|
| 5 |
+
multilinguality:
|
| 6 |
+
- monolingual
|
| 7 |
+
pretty_name: wiki_tw
|
| 8 |
+
size_categories:
|
| 9 |
+
- 100M<n<1B
|
| 10 |
+
source_datasets:
|
| 11 |
+
- wikisource
|
| 12 |
+
dataset_info:
|
| 13 |
+
features:
|
| 14 |
+
- name: title
|
| 15 |
+
dtype: string
|
| 16 |
+
- name: article
|
| 17 |
+
dtype: string
|
| 18 |
+
extra_gated_prompt: "You agree to not attempt to determine the identity of individuals in this dataset"
|
| 19 |
+
extra_gated_fields:
|
| 20 |
+
Company: text
|
| 21 |
+
Country: text
|
| 22 |
+
I agree to use this dataset for non-commercial use ONLY: checkbox
|
| 23 |
---
|
| 24 |
+
本資料集是解析自[維基文庫於 20240120 發布的打包檔](https://zh.wikisource.org/zh-hant/Help:%E4%B8%8B%E8%BD%BD%E7%BB%B4%E5%9F%BA%E6%96%87%E5%BA%93) bz2 檔案的內容，在解析出所需內容後，利用 [wikitextparser](https://wikitextparser.readthedocs.io/en/latest/) 移除 Wiki 標記。解析後保留的欄位有兩個：條目名稱（title），條目內容（page article）。
|
| 25 |
+
|
| 26 |
+
原始的打包檔條目內容簡繁混雜，所以有利用 OpenCC 進行簡轉繁處理。
|
| 27 |
+
|
| 28 |
+
* 原始總條目數: 1,057,179 條目。
|
| 29 |
+
* 全部 1,057,179 個條目標題。
|
| 30 |
+
* 全部 1,057,179 個條目內容。
|
| 31 |
+
* 無法自動去標記的條目數: 166
|
| 32 |
+
* 有內容的條目數: 1,057,179
|
| 33 |
+
|
| 34 |
+
因為本資料集內容龐大，要塞進一般的個人電腦中進行計算，恐怕會有資源不足的情形。建議使用[parquet](https://huggingface.co/docs/datasets/loading#parquet)格式下載使用。
|
| 35 |
+
|
| 36 |
+
資料集當中有不少內容為「#REDIRECT」或是「#重定向」的條目，就等以後有空推出修正版再來清洗了。
|