| --- |
| license: cc-by-4.0 |
| task_categories: |
| - text-generation |
| language: |
| - zh |
| tags: |
| - traditional-chinese |
| - wikipedia |
| - reasoning |
| - instruction-tuning |
| - chat |
| size_categories: |
| - 1K<n<10K |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: datasets.jsonl |
| --- |
| |
| # tw-wiki-chat-R1 |
|
|
| ## 資料集概述 |
|
|
| - 來源：以維基百科文本片段為基礎的問答資料集，處理歷經兩個階段目錄：初版產出於 `/data/sdg_data/wiki_less`，後續精煉整理於 `/data/datasets/simple-sft/wiki_crawl`。 |
| - 用途：訓練模型以繁體中文（台灣用語）回答知識型問題，並具備 `<think>` 推理過程，SFT / instruction tuning 用。 |
| - 主要輸出：`datasets.jsonl`（2,535 筆） |
|
|
| ## Splits |
|
|
| | Split | 檔案 | 說明 | |
| |---|---|---| |
| | `train` | `datasets.jsonl` | 單一訓練 split，包含完整 2,535 筆資料 | |
|
|
| ## 資料處理流程（以實作腳本為準） |
|
|
| 1. **出題**（`batch_generate_problem.py` / `batch_generate_problem_gemini.py`）：以維基文本片段為依據，用 **Qwen3-30B-A3B**（部分用 Gemini 版本腳本）針對每份文件生成 3 題問題（其中一題須為能通盤理解該文件主題的問題），系統提示要求以台灣地區用語生成（如「信息→資料/資訊/訊息」「網絡→網路」），且禁止是非題、禁止臆測未支持的內容。 |
| 2. **答案生成**（`batch_generate_qa.py`）：以「問題 + 相關文本」送 **F1-24B-Reasoner**，將文本視為已內化知識作答；系統提示嚴格禁止在答案中提及或暗示「根據提供的文本/文件/資料」等來源字眼，並要求台灣繁體中文（zh-tw）、正式精確的風格。 |
| 3. **思考改寫（rethink）**（`batch_generate_refine_think.py`）：以 **ACE-2-2602** 把原始推理過程改寫成流暢的內心獨白（開頭如「嗯」「好的」），同樣禁止洩漏來源/提示詞痕跡，強制使用台灣用語與全形標點，輸出為 `refine_think` 欄位。 |
| 4. 整併組裝成 `messages`（含 `think` 推理內容）與 `simple_messages`（不含推理）兩種對話格式，輸出為 `datasets.jsonl`。 |
|
|
| > 註：`wiki_less` → `wiki_crawl` 之間的資料篩選/去重/合併細節未見獨立腳本紀錄，以上流程以現存腳本可查證的三個生成階段為準。 |
|
|
| ## 主要檔案對照 |
|
|
| | 階段 | 檔案 | 用途 | |
| |---|---|---| |
| | 最終資料集 | `datasets.jsonl` | HF 可用訓練資料 | |
|
|
| ## 欄位說明 |
|
|
| | 欄位 | 說明 | |
| |---|---| |
| | `prompt_id` | 題目唯一識別碼。 | |
| | `title` | 來源維基條目標題。 | |
| | `original_query` | 原始查詢/問題。 | |
| | `question` | 使用者提問文字。 | |
| | `think` | 原始推理過程。 | |
| | `answer` | 最終回答內容。 | |
| | `refine_think_messages` | 送入 rethink 階段的訊息。 | |
| | `refine_think` | ACE-2-2602 改寫後的流暢思考獨白。 | |
| | `final_stop_reason` | 生成結束原因。 | |
| | `model` | 產生該筆資料所用的模型名稱。 | |
| | `messages` | 完整對話格式，assistant 內容含 `<think>`（`refine_think`）+ 最終回答。 | |
| | `simple_messages` | 對話格式，assistant 內容不含思考過程。 | |
| | `text` / `anneal_text` | 全文純文字拼接版本。 | |
| | `source_id` | 來源文件識別碼。 | |
|
|
| ## 目前資料統計 |
|
|
| - `datasets.jsonl`：2,535 筆 |
| - 語言：`zh-tw` |
|
|
| ## 使用方式（最小示例） |
|
|
| ```python |
| import json |
| |
| with open("datasets.jsonl", "r", encoding="utf-8") as f: |
| sample = json.loads(next(f)) |
| |
| print(sample.keys()) |
| ``` |
|
|
| ## 限制與備註 |
|
|
| - 答案生成階段刻意隱匿來源文件的存在（避免模型學到「引用文件」的說話方式），因此答案的事實正確性依賴來源文本本身與模型生成品質，未另做獨立事實查核。 |
| - `refine_think` 為改寫後的思考過程，非模型原始推理軌跡，用於訓練「像人一樣思考」的內心獨白風格。 |
|
|
| ## 污染修復情況（2026-08-11） |
|
|
| - **修復方式**：污染掃描（詞庫驅動，`/data/sdg_data/sdg_pipeline/lexicon/lexicon.yaml`）→ scan-triage 逐筆人工判讀「真污染 / 誤報」→ 只修真污染；簡繁/大陸用語為**逐詞判讀替換，非 OpenCC 整篇轉換**（避免把已正確的繁體改壞） |
| - **修復範圍**：僅修改 `assistant` 角色內容（`user`/`tool`/`system` 未動，訓練時本就被 mask） |
| - **本次修復筆數**：污染清理 38 筆，其中 **34 筆是回復前一輪清理的錯誤**——先前把物理領域正確用詞「質量」誤改成「臨界品質」，本次已還原並回饋詞庫（避免同樣的盲替再次發生） |
| - **完整逐筆 before/after 對照**：見 `fix_0811_before_after.jsonl` |
|
|
| ### 補充修復（2026-08-13） |
|
|
| - **修復類型**：跨語系混雜（韓文音節被漢字誤植取代，如節目名 `휴먼비잉` 被寫成 `休멍비잉`） |
| - **本次修復筆數**：1 筆 |
| - **完整逐筆 before/after 對照**：見 `wedge_fix_0813.jsonl` |
| - 本輪為針對性清理（跨語系誤植與注音損壞），非全文重新掃描，不代表已排除其他類型污染。 |
|
|
