Dataset Viewer
Auto-converted to Parquet Duplicate
id
stringlengths
2
7
title
stringlengths
1
207
url
stringlengths
31
237
text
stringlengths
4
229k
13
數學
https://zh.wikipedia.org/wiki/数学
數學 數學是研究數量、結構以及空間等概念及其變化的一門學科,屬於形式科學的一種。數學利用抽象化和邏輯推理,從計數、計算、量度、對物體形狀及運動的觀察發展而成。數學家們拓展這些概念,以公式化新的猜想,以及從選定的公理及定義出發,嚴謹地推導出一些定理。 純粹數學的知識與運用是生活中不可或缺的一環。對數學基本概念的完善,早在古埃及、美索不達米亞及古印度歷史上的古代數學文本便可觀見,而在古希臘那裡有更為嚴謹的處理。從那時開始,數學的發展便持續不斷地小幅進展,至16世紀的文藝復興時期,因為新的科學發現和數學革新兩者的交互,致使數學的加速發展,直至今日。數學並成為許多國家及地區的教育中的一部分。 數學在許多領域都有應用,包括科學、工程、醫...
18
哲學
https://zh.wikipedia.org/wiki/哲学
哲學 哲學是研究普遍、基本問題的領域,包括存在、知識、價值、理智、心靈、語言、人生、道德等領域。哲學獨特之處在於其思考方式,例如批判性思維、系統化的方法,並以理性論證為基礎。縱觀歷史,許多獨立的學科如物理學、生物學等自然科學,或法學、政治學、心理學等社會科學,都曾被視作哲學的一部分或其分支。直到後續發展才逐漸被視作今日意義上的獨立學科。 哲學今日狹義的用法於近代晚期形成,目前主要與形上學、認識論、倫理學和美學等子學科相關。除其他主題外,亦涵蓋對現實、知識和價值觀的理性研究。然而哲學不同於其他理性探究學科,例如經驗科學和數學。 ## 詞源 西方語言的「哲學」一詞主要繼承自拉丁語philosophia,借自古希臘語φιλοσοφ...
21
文學
https://zh.wikipedia.org/wiki/文學
文學 文學(literature),在狹義上,是一種以語言和文字進行表達的藝術。亦即使用語言文字為手段,形象化地反映客觀社會生活、表達主觀作者思想感情的一種藝術。文學不僅強調傳達思想觀念,更強調傳達方式的獨特性,且講究辭章的美感。 文學,在廣義上,是任何單一的書面作品,或用文字寫作來傳達思想、表達情感、發揮想像的所有著作,此時又稱文學作品。文學寫作則是一種藝術形式,或被認為具有藝術或智力價值的任何單一作品,通常是由於以不同於普通用途的方式部署語言。中國先秦時期將以文字寫成的作品都統稱為文學,魏晉以後才逐漸將文學作品單獨列出。在現代,則通常將文學分為韻文、散文、劇本、小說四大類別,是文化的重要表現形式,以不同的流派表現內心情感和再...
22
歷史
https://zh.wikipedia.org/wiki/历史
歷史 歷史是對過去的系統研究。作為一門學科,歷史分析和解釋證據,構建關於發生的事情的敘述並解釋其發生的原因,主要關注人類歷史。一些理論家將歷史歸類為社會科學,而另一些人則將其視為人文學科的一部分或認為它是一門混合學科。圍繞歷史的目的也存在類似的爭論——例如,它的主要目的是理論性的(揭示真理),還是實踐性的(從過去吸取教訓)。在比較不同的意義上,「歷史」一詞不是單指學術領域,而是指過去本身或關於過去的個別文本。 歷史研究依靠一次文獻和二次文獻來重建過去的事件並驗證解釋。來源批判學用於評估資料,評估其真實性、內容和可靠性。歷史學家整合多個單獨資料的觀點以形成連貫的敘述。不同的思想流派,如實證主義、年鑑學派、馬克思主義和後現代主義,都...
25
電腦科學
https://zh.wikipedia.org/wiki/计算机科学
電腦科學 電腦科學(computer science,縮寫為CS)是系統性研究資訊與計算的理論基礎以及它們在電腦系統中如何實現與應用的實用技術的學科。它通常被形容為對那些創造、描述以及轉換資訊的演算法處理的系統研究。電腦科學包含很多分支領域;有些強調特定結果的計算,比如電腦圖形學;而有些是探討計算問題的性質,比如計算複雜性理論;還有一些領域專注於怎樣實現計算,比如程式語言理論是研究描述計算的方法,而程式設計是應用特定的程式語言解決特定的計算問題,人機互動則是專注於怎樣使電腦和計算變得有用、好用,以及隨時隨地為人所用。 有時公眾會誤以為電腦科學就是解決電腦問題的事業(比如資訊技術),或者只是與使用電腦的經驗有關,如玩遊戲、上網或者...
39
民族
https://zh.wikipedia.org/wiki/民族
民族 民族(ethnic group),又譯民族集團,是一個以文化為紐帶構成的共同體概念,其內涵與依附於某一國家的國族概念和基於血統的種族概念有些許不同。共同的母語通常被認為是構成一個民族身份的重要因素,也是民族性的核心組成部分。語言作為一個民族形成過程中長期共同生活之產物,是承載民族文化的主要載體,也被認為是決定民族認同感的第一要件。此外,語言並非是構成民族的唯一因素,一些族教群體也被認為是民族,而這些群體通常信仰統一的民族宗教。 ## 詞源 在漢語中,民族一詞具有多重指涉,可以表達種族、國族、族群等近似概念,用法受到政治意識型態的影響,容易相互混淆。不同學科對於民族的定義也有許多歧異。民族一詞在以中文翻譯外語時也十分容易混...
45
戲劇
https://zh.wikipedia.org/wiki/戲劇
戲劇 戲劇(drama)是演員將某個故事或情境,以對話、歌唱或動作等方式所表演出來的藝術。戲劇有四個元素,包括了「演員」、「故事(情境)」、「舞台(表演場地)」和「觀眾」。「演員」是四者當中最重要的元素,他是角色的代言人,必須具備扮演的能力,戲劇與其他藝術類最大的不同之處便在於扮演了,透過演員的扮演,劇本中的角色才得以伸張,如果拋棄了演員的扮演,那麼所演出的便不再是戲劇。 即使在動畫、木偶戲、皮影戲等沒有演員現身的戲劇中,演員不過是隱藏在觀眾的視覺之外的地方演出。 戲劇的表演形式多種多樣,常見的包括話劇、歌劇、舞劇、音樂劇、木偶戲等。由於文化背景的差別,不同文化所產生戲劇形式往往擁有獨特的傳統和程式,比如西方歌劇、中國戲曲、印...
48
電影
https://zh.wikipedia.org/wiki/电影
電影 電影(movie / film),特點是運動/移動的畫面(motion picture / moving picture),是一種視覺藝術作品,用來模擬透過使用動態圖像來傳達思想、故事、感知、感覺、美或氛圍的體驗。這些圖像通常伴有聲音,更少有其他感官刺激。 電影中看似連續的畫面,是由一幀幀單獨影像組成;觀眾之所以感到畫面在運動,與視覺上的飛現象(Phi phenomenon)有關,即一連串靜態圖片會造成移動的錯覺。傳統上,電影中的運動感知也常以視覺暫留解釋:圖像消失後,仍會在眼中保留「視像」約十分之一秒,因此大腦會感覺圖像正在「運動」。但在1916年出版的德國心理學家雨果·明斯特伯格(Hugo Münsterberg)的《...
51
音樂
https://zh.wikipedia.org/wiki/音乐
"音樂\n\n音樂,廣義而言,就是指任何以聲音組成的藝術。英文Music一詞源於(...TRUNCATED)
53
經濟學
https://zh.wikipedia.org/wiki/经济学
"經濟學\n\n經濟學(Economics),為研究商品和服務關係的社會科學,包括其(...TRUNCATED)
End of preview. Expand in Data Studio

中文維基百科純文字資料集(台灣正體中文)

一個條目一筆記錄,保留章節結構,可直接用於語言模型預訓練。

📅 目前版本2608(維基百科 dump 日期:2026/8/1)

欄位

欄位 說明
id 維基百科條目 ID
title 條目標題
url 條目原文網址(用未經繁簡轉換的原始標題組成,直接命中不轉址)
text 條目全文。第一行為標題,章節以 ## 標示,列表為 - ,表格列以 分隔,程式碼用 ``` 圍欄,公式保留 LaTeX 並以 $ 包住

不含圖說——圖說說的是「這張圖是什麼」,不是條目本身的敘述,它在 圖文配對版圖文交錯版 裡。

側邊資訊框的事實會抽出來接在文末的 ## 基本資料 章節——生卒年、面積、成立年份 這些往往只寫在資訊框裡,正文不會重複。欄位名取自維基自己的模板定義,不是猜的。

沒有長度過濾:一句話的條目也是完整的知識內容,要篩隨時可以自己做, 被丟掉的救不回來。

2607 以前與 2608 起的差異

整條處理流程重寫過,這不是單純的月度刷新——資料的形狀變了。 若你正在用 2607 或更早的版本,升級前請先看這張表:

2607 以前 2608
筆數/單位 371 萬列(段落級 148 萬篇(文檔級,一條目一筆)
檔案格式 JSON 分段(wiki_pretrain_part*.json Parquet 分片
章節結構 切碎後不存在 保留 ## 階層
表格 整塊丟棄 轉成文字(表格佔可見內容約 15%)
程式碼 散文規則套上去,縮排與換行被破壞 逐字保留``` 圍欄
公式 丟棄 保留 LaTeX,以 $ 包住
資訊框 整塊丟棄 事實抽成 ## 基本資料,欄位名取自維基的模板定義
繁簡轉換 OpenCC s2twp 維基官方轉換表 + 台灣慣用詞白名單(OpenCC 在百科語境誤轉率高:大力支持→大力支援、重整程序→重整程式)
排版空格 有(pangu) 移除——不可逆的有損轉換,語料應保真
長度過濾 沒有——一句話的條目也是完整知識
圖片 54.8 萬列(按檔名全域去重)、圖說有 10.87% 夾著未清的 wiki 標記、繁體檔有 43.8% 的條目名沒轉成繁體 91.5 萬列(保留每張圖的每個使用語境)、圖說殘留標記 0.00%、新增 page_idpage_urlaltsection
圖文交錯 新增 omni 版(<image> 佔位符 + images 陣列)

內容缺失率(全量,非抽樣)

資料集的核心指標是「原文的東西丟了多少」——殘留標記可以靠把整段刪掉變成 0, 那不是乾淨。掃一次 dump,從原始碼取出可驗證的內容項目,回頭去兩版正文裡找。 只比兩版都收錄的 1,367,033 篇:

項目 樣本數 2607 留住 2608 留住
公式 91,552 0.0% 99.2%
程式碼區塊 6,261 2.9% 99.0%
表格儲存格 2,563,309 2.5% 51.4%
清單項 5,522,474 30.9% 70.2%
資訊框欄位值 6,721,977 5.1% 30.7%
段落句子 5,564,852 59.0% 74.8%
合計 20,470,425 26.4% 56.3%

連純散文,2607 也只留住 59%——四成的正文句子不見了。

2608 的 56.3% 不是滿分,但剩下的有明確歸屬:資訊框欄位值的探針含大量版面設定 (圖片檔名、尺寸、色碼),表格探針含樣式屬性(以人工挑過的探針量是 92.3% OK), 段落則是參考資料/外部連結等章節依設計整節不收。公式與程式碼的探針最乾淨, 99% 可視為保留率的上界參考。

條目收錄:1,419,539 篇 → 1,482,182 篇(+62,643)。

實測對照(全量,非抽樣)

把公開的 2607 資料整份抓下來(2.9 GB),與 2608 的全部 148 萬篇套完全相同的 判準逐筆掃描:

2607 以前 2608
筆數 3,711,316 列 1,482,182 篇 單位從段落改成整篇
總字元 9.45 億 17.56 億 ×1.86
每筆平均字元 255 1,185

同一份維基百科,新版多出 8.1 億字元——多的不是重複,是原本被丟掉的表格、 資訊框事實、清單、程式碼與公式。

內容特徵的出現率(2607 幾乎全 0):

特徵 2607 以前 2608
章節標題 0.00% 84.21%
清單項 0.00% 72.92%
資訊框事實 0.01% 53.26%
表格列 0.02% 16.23%
LaTeX 公式 0.00% 1.12%
程式碼圍欄 0.00% 0.11%

排版與殘留(每百萬字元,已挖掉逐字區塊):

2607 以前 2608
排版空格(pangu) 36,851.26 1,276.03 −96.5%
私有區字元 0.38 0.00 −99.8%
表格空儲存格 0.03 0.00 清零
殘留標記合計 0.21 ≤0.36 見下

殘留那一項要說清楚:2607 之所以低,是因為它把含有這些標記的內容整批刪掉了 ——沒有表格、沒有資訊框、沒有程式碼,自然沒有殘留。2608 的殘留已逐筆歸因 並逐筆判讀來源語意:<nowiki> 字面值、真實內容長得像標記({{1,2,3}} 是集合論、 A<B> a; 是 C++ 模板語法)、以及原文自己沒關標籤。

筆數從 371 萬「列」變成 148 萬「篇」不是資料變少——切分單位從段落改成整篇。 要段落的人可自行以 \n\n 切,反過來救不回來。

2607 以前的版本仍存放在本 repo 的 YYMM/ 月份資料夾裡,需要的話可以直接讀舊路徑。

這份資料怎麼來的

從維基百科官方 dump 解析,每月更新。原則是只移除確定是標記的東西, 絕不刪除自然語言內容:模板展開而非刪除、表格轉文字而非丟棄、程式碼與公式 逐字保留、圖庫圖說當內容。完整說明與品質數據見 GitHub 專案

品質

每一輪都跑全量稽核,數字公開在專案 README:

檢查 結果
程式碼區塊與原始碼逐字相符 繁體 94.201%;簡體 94.038%
公式與原始碼逐字相符 繁體 98.662%;簡體 98.670%
繁簡兩版結構對等 ID 序列完全一致;抽驗 20,000 篇為 0 個核心結構差異
模板/HTML/空白/私有區字元等 15 類硬性缺陷 0

授權

內容來自維基百科,採 CC BY-SA 4.0。使用時請保留 urlpage_url 欄位以符合署名要求。

聯絡與問題回報

Downloads last month
299

Models trained or fine-tuned on yuhuanstudio/wikipedia-zh-tw