Datasets:

minyichen
/

tw-wiki-chat-R1

license: cc-by-4.0
task_categories:
  - text-generation
language:
  - zh
tags:
  - traditional-chinese
  - wikipedia
  - reasoning
  - instruction-tuning
  - chat
size_categories:
  - 1K<n<10K
configs:
  - config_name: default
    data_files:
      - split: train
        path: datasets.jsonl

tw-wiki-chat-R1

資料集概述

來源：以維基百科文本片段為基礎的問答資料集，處理歷經兩個階段目錄：初版產出於 /data/sdg_data/wiki_less，後續精煉整理於 /data/datasets/simple-sft/wiki_crawl。
用途：訓練模型以繁體中文（台灣用語）回答知識型問題，並具備 <think> 推理過程，SFT / instruction tuning 用。
主要輸出：datasets.jsonl（2,535 筆）

Splits

Split	檔案	說明
`train`	`datasets.jsonl`	單一訓練 split，包含完整 2,535 筆資料

資料處理流程（以實作腳本為準）

出題（batch_generate_problem.py / batch_generate_problem_gemini.py）：以維基文本片段為依據，用 Qwen3-30B-A3B（部分用 Gemini 版本腳本）針對每份文件生成 3 題問題（其中一題須為能通盤理解該文件主題的問題），系統提示要求以台灣地區用語生成（如「信息→資料/資訊/訊息」「網絡→網路」），且禁止是非題、禁止臆測未支持的內容。
答案生成（batch_generate_qa.py）：以「問題 + 相關文本」送 F1-24B-Reasoner，將文本視為已內化知識作答；系統提示嚴格禁止在答案中提及或暗示「根據提供的文本/文件/資料」等來源字眼，並要求台灣繁體中文（zh-tw）、正式精確的風格。
思考改寫（rethink）（batch_generate_refine_think.py）：以 ACE-2-2602 把原始推理過程改寫成流暢的內心獨白（開頭如「嗯」「好的」），同樣禁止洩漏來源/提示詞痕跡，強制使用台灣用語與全形標點，輸出為 refine_think 欄位。
整併組裝成 messages（含 think 推理內容）與 simple_messages（不含推理）兩種對話格式，輸出為 datasets.jsonl。

註：wiki_less → wiki_crawl 之間的資料篩選/去重/合併細節未見獨立腳本紀錄，以上流程以現存腳本可查證的三個生成階段為準。

主要檔案對照

階段	檔案	用途
最終資料集	`datasets.jsonl`	HF 可用訓練資料

欄位說明

欄位	說明
`prompt_id`	題目唯一識別碼。
`title`	來源維基條目標題。
`original_query`	原始查詢/問題。
`question`	使用者提問文字。
`think`	原始推理過程。
`answer`	最終回答內容。
`refine_think_messages`	送入 rethink 階段的訊息。
`refine_think`	ACE-2-2602 改寫後的流暢思考獨白。
`final_stop_reason`	生成結束原因。
`model`	產生該筆資料所用的模型名稱。
`messages`	完整對話格式，assistant 內容含 `<think>`（`refine_think`）+ 最終回答。
`simple_messages`	對話格式，assistant 內容不含思考過程。
`text` / `anneal_text`	全文純文字拼接版本。
`source_id`	來源文件識別碼。

目前資料統計

datasets.jsonl：2,535 筆
語言：zh-tw

使用方式（最小示例）

import json

with open("datasets.jsonl", "r", encoding="utf-8") as f:
    sample = json.loads(next(f))

print(sample.keys())

限制與備註

答案生成階段刻意隱匿來源文件的存在（避免模型學到「引用文件」的說話方式），因此答案的事實正確性依賴來源文本本身與模型生成品質，未另做獨立事實查核。
refine_think 為改寫後的思考過程，非模型原始推理軌跡，用於訓練「像人一樣思考」的內心獨白風格。

污染修復情況（2026-08-11）

修復方式：污染掃描（詞庫驅動，/data/sdg_data/sdg_pipeline/lexicon/lexicon.yaml）→ scan-triage 逐筆人工判讀「真污染 / 誤報」→ 只修真污染；簡繁/大陸用語為逐詞判讀替換，非 OpenCC 整篇轉換（避免把已正確的繁體改壞）
修復範圍：僅修改 assistant 角色內容（user/tool/system 未動，訓練時本就被 mask）
本次修復筆數：污染清理 38 筆，其中 34 筆是回復前一輪清理的錯誤——先前把物理領域正確用詞「質量」誤改成「臨界品質」，本次已還原並回饋詞庫（避免同樣的盲替再次發生）
完整逐筆 before/after 對照：見 fix_0811_before_after.jsonl

補充修復（2026-08-13）

修復類型：跨語系混雜（韓文音節被漢字誤植取代，如節目名 휴먼비잉 被寫成 休멍비잉）
本次修復筆數：1 筆
完整逐筆 before/after 對照：見 wedge_fix_0813.jsonl
本輪為針對性清理（跨語系誤植與注音損壞），非全文重新掃描，不代表已排除其他類型污染。