jslin09 commited on
Commit
cbd0b54
·
verified ·
1 Parent(s): bc78efd

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +5 -5
README.md CHANGED
@@ -21,14 +21,14 @@ extra_gated_fields:
21
  Country: text
22
  I agree to use this dataset for non-commercial use ONLY: checkbox
23
  ---
24
- 本資料集是解析自[維基文庫於 20250403 發布的打包檔](https://zh.wikisource.org/zh-hant/Help:%E4%B8%8B%E8%BD%BD%E7%BB%B4%E5%9F%BA%E6%96%87%E5%BA%93) bz2 檔案的內容,在解析出所需內容後,利用 [wikitextparser](https://wikitextparser.readthedocs.io/en/latest/) 移除 Wiki 標記。解析後保留的欄位有兩個:條目名稱(title),條目內容(page article)。
25
 
26
  原始的打包檔條目內容簡繁混雜,所以有利用 OpenCC 進行簡轉繁處理。
27
 
28
- * 全部 1,106,817 個條目
29
- * 全部 413,562 個條目標題
30
- * 無法自動去標記的條目數:693,255
31
- * 有內容的條目數: 413,562
32
 
33
  因為本資料集內容龐大,要塞進一般的個人電腦中進行計算,恐怕會有資源不足的情形。建議使用[parquet](https://huggingface.co/docs/datasets/loading#parquet)格式下載使用。
34
 
 
21
  Country: text
22
  I agree to use this dataset for non-commercial use ONLY: checkbox
23
  ---
24
+ 本資料集是解析自[維基文庫於 20250601 發布的打包檔](https://zh.wikisource.org/zh-hant/Help:%E4%B8%8B%E8%BD%BD%E7%BB%B4%E5%9F%BA%E6%96%87%E5%BA%93) bz2 檔案的內容,在解析出所需內容後,利用 [wikitextparser](https://wikitextparser.readthedocs.io/en/latest/) 移除 Wiki 標記。解析後保留的欄位有兩個:條目名稱(title),條目內容(page article)。
25
 
26
  原始的打包檔條目內容簡繁混雜,所以有利用 OpenCC 進行簡轉繁處理。
27
 
28
+ * 全部 1,113,675 個條目
29
+ * 全部 417,746 個條目標題
30
+ * 無法自動去標記的條目數:695,929
31
+ * 有內容的條目數: 417,746
32
 
33
  因為本資料集內容龐大,要塞進一般的個人電腦中進行計算,恐怕會有資源不足的情形。建議使用[parquet](https://huggingface.co/docs/datasets/loading#parquet)格式下載使用。
34