Datasets:

freddy4212
/

finepdfs-classifier-raw

dataset_info:
  - config_name: full_consensus
    features:
      - name: id
        dtype: string
      - name: text
        dtype: string
      - name: score_gemma
        dtype: int8
      - name: score_glm
        dtype: int8
      - name: score_qwen
        dtype: int8
      - name: score
        dtype: int8
      - name: label_group
        dtype: int8
    splits:
      - name: train
        num_bytes: 1214754817
        num_examples: 88060
      - name: validation
        num_bytes: 151851249
        num_examples: 11008
      - name: test
        num_bytes: 151809865
        num_examples: 11005
    download_size: 788121587
    dataset_size: 1518415931
  - config_name: no_consensus
    features:
      - name: id
        dtype: string
      - name: text
        dtype: string
      - name: score_gemma
        dtype: int8
      - name: score_glm
        dtype: int8
      - name: score_qwen
        dtype: int8
    splits:
      - name: train
        num_bytes: 179509583
        num_examples: 3722
      - name: validation
        num_bytes: 22426640
        num_examples: 465
      - name: test
        num_bytes: 22426640
        num_examples: 465
    download_size: 111215020
    dataset_size: 224362863
  - config_name: partial_consensus
    features:
      - name: id
        dtype: string
      - name: text
        dtype: string
      - name: score_gemma
        dtype: int8
      - name: score_glm
        dtype: int8
      - name: score_qwen
        dtype: int8
      - name: score
        dtype: int8
      - name: label_group
        dtype: int8
    splits:
      - name: train
        num_bytes: 1110140808
        num_examples: 57813
      - name: validation
        num_bytes: 138755599
        num_examples: 7226
      - name: test
        num_bytes: 138755599
        num_examples: 7226
    download_size: 711975306
    dataset_size: 1387652006
configs:
  - config_name: full_consensus
    data_files:
      - split: train
        path: full_consensus/train-*
      - split: validation
        path: full_consensus/validation-*
      - split: test
        path: full_consensus/test-*
  - config_name: no_consensus
    data_files:
      - split: train
        path: no_consensus/train-*
      - split: validation
        path: no_consensus/validation-*
      - split: test
        path: no_consensus/test-*
  - config_name: partial_consensus
    data_files:
      - split: train
        path: partial_consensus/train-*
      - split: validation
        path: partial_consensus/validation-*
      - split: test
        path: partial_consensus/test-*
task_categories:
  - text-classification
tags:
  - text-classification
  - quality-scoring
  - chinese
  - zh-tw
language:
  - zh

文章教育品質分類資料集（zh-TW）

繁體中文文章的教育品質分類資料集，每篇文章由三個大型語言模型（LLM）依 1–5 分的教育價值標準獨立評分。資料依「模型共識程度」拆成三個 subset，供訓練品質分類器（quality classifier）使用。

建立目的：在 embedding model 之上訓練一個 classifier head，把文章依教育品質分為 A/B/C 三組。

Subsets（共識程度）

Subset	定義	筆數	是否含 `score` / `label_group`
`full_consensus`	三顆模型完全同分	110,073	✅
`partial_consensus`	剛好兩顆同分（取眾數；平手取高分）	72,265	✅
`no_consensus`	三顆全異，無共識分數	4,652	❌（僅保留三個模型各自分數）

每個 subset 皆再切為 train / validation / test（見下方「資料切分」）。

欄位

欄位	型別	說明
`id`	string	原始文章 id（對應來源資料集）
`text`	string	原始文本
`score_gemma`	int8	gemma 評分（1–5）
`score_glm`	int8	glm 評分（1–5）
`score_qwen`	int8	qwen 評分（1–5）
`score`	int8	共識分數（1–5）。僅 full / partial
`label_group`	int8	分組標籤（見下）。僅 full / partial

ABC 分組（`label_group`）

label_group	組別	對應分數	full_consensus 筆數
`0`	A	1–2 分（低教育價值）	101,008
`1`	B	3 分（中）	3,401
`2`	C	4–5 分（高教育價值）	5,664

partial_consensus 亦以相同規則分組；no_consensus 不分組。

類別不平衡與 class weights

full_consensus 三組極度不平衡（A 約 92%）。以 balanced inverse-frequency n / (k · n_c) 計算的權重約為：

組別	class weight
A (1-2)	0.36
B (3)	10.78
C (4-5)	6.47

⚠️ 由於不平衡,評估請看 macro-F1 / per-class recall / 混淆矩陣,不要看 accuracy(全猜 A 即約 92%)。

資料切分

比例 train / validation / test = 80 / 10 / 10。
分層（stratified）：以 (consensus, score) 為分層鍵，於每一層內切分，保證各 subset、各分數層的三份比例一致。
固定亂數種子（seed=42），完全可重現；切分為 HF 原生 split，不能以 test 調參。

使用

from datasets import load_dataset

# 完全共識、訓練集
ds = load_dataset("freddy4212/finepdfs-classifier-raw", "full_consensus", split="train")

# 各原生 split
val  = load_dataset("freddy4212/finepdfs-classifier-raw", "full_consensus", split="validation")
test = load_dataset("freddy4212/finepdfs-classifier-raw", "full_consensus", split="test")

# 之後若要擴充資料，可再併入部分共識
partial = load_dataset("freddy4212/finepdfs-classifier-raw", "partial_consensus", split="train")

評分方法（Judge）

每篇文本送入三個獨立的 LLM 評審評分，各自輸出 1–5 分：

Prompt 版本：v1（教育價值評分，對象設定為「中學到博士級」教學環境）。
設定：temperature=0、強制 JSON 輸出（{"reason", "score"}）、關閉 thinking、送入文本截斷至前 20,000 字元。
共識：三顆同分 → full；剛好兩顆同分 → partial（取眾數，平手取高分）；三顆全異 → none。

評分標準（1–5，加分制、漸進包含）

1 分：僅零星孤立事實、大量非教育內容（純廣告、生活瑣事、商業宣傳、坊間傳聞等），不構成有效學習材料。
2 分：含教育訊息但碎片化、混雜較多非教育成分（操作指引、產品說明、單一個案/訪談、觀點多於論證等），需教師大量引導。
3 分：圍繞明確基礎學科、有定義與基礎概念，適合入門但深度有限；為「具學術原理探討的文學/藝術/社會等單一個案」所能得的最高分。
4 分：教育性佔比高、非教育成分極少，對齊公認學術領域與課程目標，可作課程主幹或深入學習案例。
5 分：幾乎全為學術原理/學科知識,提供理論、模型、複雜或跨學科解析,可作核心教材(如教科書、教學網站)。

分數為 LLM 評審產生,非人工標註;反映模型對「教育價值」的判斷,可能帶有模型偏好。full_consensus(三方一致)訊號最強、雜訊最低,建議優先作為訓練與評估主體。

限制與注意事項

文本已於評分階段截斷至前 20,000 字元;超長文件的後段未參與評分。
標籤來自 LLM 而非人工,B(3 分)為模糊中間帶,類別間邊界可能不銳利。
極度不平衡,務必搭配 class weights / 重採樣 / 閾值調整,並以 macro 指標評估。