freddy4212/finepdfs-classifier-raw

文章教育品質分類資料集（zh-TW）

繁體中文文章的教育品質分類資料集，每篇文章由三個大型語言模型（LLM）依 1–5 分的教育價值標準獨立評分。資料依「模型共識程度」拆成三個 subset，供訓練品質分類器（quality classifier）使用。

建立目的：在 embedding model 之上訓練一個 classifier head，把文章依教育品質分為 A/B/C 三組。

---

Subsets（共識程度）

Subset	定義	筆數	是否含 score / label_group
full_consensus	三顆模型完全同分	110,073	✅
partial_consensus	剛好兩顆同分（取眾數；平手取高分）	72,265	✅
no_consensus	三顆全異，無共識分數	4,652	❌（僅保留三個模型各自分數）

每個 subset 皆再切為 train / validation / test（見下方「資料切分」）。

欄位

欄位	型別	說明
id	string	原始文章 id（對應來源資料集）
text	string	原始文本
score_gemma	int8	gemma 評分（1–5）
score_glm	int8	glm 評分（1–5）
score_qwen	int8	qwen 評分（1–5）
score	int8	共識分數（1–5）。僅 full / partial
label_group	int8	分組標籤（見下）。僅 full / partial

ABC 分組（label_group）

label_group	組別	對應分數	full_consensus 筆數
0	A	1–2 分（低教育價值）	101,008
1	B	3 分（中）	3,401
2	C	4–5 分（高教育價值）	5,664

partial_consensus 亦以相同規則分組；no_consensus 不分組。

類別不平衡與 class weights

full_consensus 三組極度不平衡（A 約 92%）。以 balanced inverse-frequency n / (k · n_c) 計算的權重約為：

組別	class weight
A (1-2)	0.36
B (3)	10.78
C (4-5)	6.47

⚠️ 由於不平衡,評估請看 macro-F1 / per-class recall / 混淆矩陣,不要看 accuracy(全猜 A 即約 92%)。

資料切分

• 比例 train / validation / test = 80 / 10 / 10。
• 分層（stratified）：以 (consensus, score) 為分層鍵，於每一層內切分，保證各 subset、各分數層的三份比例一致。
• 固定亂數種子（seed=42），完全可重現；切分為 HF 原生 split，不能以 test 調參。

使用

from datasets import load_dataset

# 完全共識、訓練集
ds = load_dataset("freddy4212/finepdfs-classifier-raw", "full_consensus", split="train")

# 各原生 split
val  = load_dataset("freddy4212/finepdfs-classifier-raw", "full_consensus", split="validation")
test = load_dataset("freddy4212/finepdfs-classifier-raw", "full_consensus", split="test")

# 之後若要擴充資料，可再併入部分共識
partial = load_dataset("freddy4212/finepdfs-classifier-raw", "partial_consensus", split="train")

---

評分方法（Judge）

每篇文本送入三個獨立的 LLM 評審評分，各自輸出 1–5 分：

• Prompt 版本：v1（教育價值評分，對象設定為「中學到博士級」教學環境）。
• 設定：temperature=0、強制 JSON 輸出（{"reason", "score"}）、關閉 thinking、送入文本截斷至前 20,000 字元。
• 共識：三顆同分 → full；剛好兩顆同分 → partial（取眾數，平手取高分）；三顆全異 → none。

評分標準（1–5，加分制、漸進包含）

1. 1 分：僅零星孤立事實、大量非教育內容（純廣告、生活瑣事、商業宣傳、坊間傳聞等），不構成有效學習材料。
2. 2 分：含教育訊息但碎片化、混雜較多非教育成分（操作指引、產品說明、單一個案/訪談、觀點多於論證等），需教師大量引導。
3. 3 分：圍繞明確基礎學科、有定義與基礎概念，適合入門但深度有限；為「具學術原理探討的文學/藝術/社會等單一個案」所能得的最高分。
4. 4 分：教育性佔比高、非教育成分極少，對齊公認學術領域與課程目標，可作課程主幹或深入學習案例。
5. 5 分：幾乎全為學術原理/學科知識,提供理論、模型、複雜或跨學科解析,可作核心教材(如教科書、教學網站)。

分數為 LLM 評審產生,非人工標註;反映模型對「教育價值」的判斷,可能帶有模型偏好。full_consensus(三方一致)訊號最強、雜訊最低,建議優先作為訓練與評估主體。

限制與注意事項

• 文本已於評分階段截斷至前 20,000 字元;超長文件的後段未參與評分。
• 標籤來自 LLM 而非人工,B(3 分)為模糊中間帶,類別間邊界可能不銳利。
• 極度不平衡,務必搭配 class weights / 重採樣 / 閾值調整,並以 macro 指標評估。