Update README.md
Browse files
README.md
CHANGED
|
@@ -21,7 +21,7 @@ extra_gated_fields:
|
|
| 21 |
Country: text
|
| 22 |
I agree to use this dataset for non-commercial use ONLY: checkbox
|
| 23 |
---
|
| 24 |
-
要搞自己的大型語言模型,最基本的基本,就是需要一大堆文字資料,從 Common Crawl
|
| 25 |
|
| 26 |
原始的打包檔條目內容簡繁混雜,所以有利用 OpenCC 進行簡轉繁處理。
|
| 27 |
|
|
|
|
| 21 |
Country: text
|
| 22 |
I agree to use this dataset for non-commercial use ONLY: checkbox
|
| 23 |
---
|
| 24 |
+
要搞自己的大型語言模型,最基本的基本,就是需要一大堆文字資料,從 Common Crawl 上頭抓回來慢慢清洗是一條路,清洗維基百科網站的週期性下載檔也是一個方法。本資料集是解析自[維基百科於 20230701 發布的繁體中文版打包檔](https://dumps.wikimedia.org/zhwiki/20230701/) bz2 檔案的內容,在解析出所需內容後,利用 [wikitextparser](https://wikitextparser.readthedocs.io/en/latest/) 移除 Wiki 標記。解析後保留的欄位有兩個:條目名稱(title),條目內容(page article)。
|
| 25 |
|
| 26 |
原始的打包檔條目內容簡繁混雜,所以有利用 OpenCC 進行簡轉繁處理。
|
| 27 |
|