---
license: cc-by-4.0
task_categories:
  - text-generation
language:
  - zh
tags:
  - traditional-chinese
  - wikipedia
  - reasoning
  - instruction-tuning
  - chat
size_categories:
  - 1K<n<10K
configs:
  - config_name: default
    data_files:
      - split: train
        path: datasets.jsonl
---

# tw-wiki-chat-R1

## 資料集概述

- 來源：以維基百科文本片段為基礎的問答資料集，處理歷經兩個階段目錄：初版產出於 `/data/sdg_data/wiki_less`，後續精煉整理於 `/data/datasets/simple-sft/wiki_crawl`。
- 用途：訓練模型以繁體中文（台灣用語）回答知識型問題，並具備 `<think>` 推理過程，SFT / instruction tuning 用。
- 主要輸出：`datasets.jsonl`（2,535 筆）

## Splits

| Split | 檔案 | 說明 |
|---|---|---|
| `train` | `datasets.jsonl` | 單一訓練 split，包含完整 2,535 筆資料 |

## 資料處理流程（以實作腳本為準）

1. **出題**（`batch_generate_problem.py` / `batch_generate_problem_gemini.py`）：以維基文本片段為依據，用 **Qwen3-30B-A3B**（部分用 Gemini 版本腳本）針對每份文件生成 3 題問題（其中一題須為能通盤理解該文件主題的問題），系統提示要求以台灣地區用語生成（如「信息→資料/資訊/訊息」「網絡→網路」），且禁止是非題、禁止臆測未支持的內容。
2. **答案生成**（`batch_generate_qa.py`）：以「問題 + 相關文本」送 **F1-24B-Reasoner**，將文本視為已內化知識作答；系統提示嚴格禁止在答案中提及或暗示「根據提供的文本/文件/資料」等來源字眼，並要求台灣繁體中文（zh-tw）、正式精確的風格。
3. **思考改寫（rethink）**（`batch_generate_refine_think.py`）：以 **ACE-2-2602** 把原始推理過程改寫成流暢的內心獨白（開頭如「嗯」「好的」），同樣禁止洩漏來源/提示詞痕跡，強制使用台灣用語與全形標點，輸出為 `refine_think` 欄位。
4. 整併組裝成 `messages`（含 `think` 推理內容）與 `simple_messages`（不含推理）兩種對話格式，輸出為 `datasets.jsonl`。

> 註：`wiki_less` → `wiki_crawl` 之間的資料篩選/去重/合併細節未見獨立腳本紀錄，以上流程以現存腳本可查證的三個生成階段為準。

## 主要檔案對照

| 階段 | 檔案 | 用途 |
|---|---|---|
| 最終資料集 | `datasets.jsonl` | HF 可用訓練資料 |

## 欄位說明

| 欄位 | 說明 |
|---|---|
| `prompt_id` | 題目唯一識別碼。 |
| `title` | 來源維基條目標題。 |
| `original_query` | 原始查詢/問題。 |
| `question` | 使用者提問文字。 |
| `think` | 原始推理過程。 |
| `answer` | 最終回答內容。 |
| `refine_think_messages` | 送入 rethink 階段的訊息。 |
| `refine_think` | ACE-2-2602 改寫後的流暢思考獨白。 |
| `final_stop_reason` | 生成結束原因。 |
| `model` | 產生該筆資料所用的模型名稱。 |
| `messages` | 完整對話格式，assistant 內容含 `<think>`（`refine_think`）+ 最終回答。 |
| `simple_messages` | 對話格式，assistant 內容不含思考過程。 |
| `text` / `anneal_text` | 全文純文字拼接版本。 |
| `source_id` | 來源文件識別碼。 |

## 目前資料統計

- `datasets.jsonl`：2,535 筆
- 語言：`zh-tw`

## 使用方式（最小示例）

```python
import json

with open("datasets.jsonl", "r", encoding="utf-8") as f:
    sample = json.loads(next(f))

print(sample.keys())
```

## 限制與備註

- 答案生成階段刻意隱匿來源文件的存在（避免模型學到「引用文件」的說話方式），因此答案的事實正確性依賴來源文本本身與模型生成品質，未另做獨立事實查核。
- `refine_think` 為改寫後的思考過程，非模型原始推理軌跡，用於訓練「像人一樣思考」的內心獨白風格。

## 污染修復情況（2026-08-11）

- **修復方式**：污染掃描（詞庫驅動，`/data/sdg_data/sdg_pipeline/lexicon/lexicon.yaml`）→ scan-triage 逐筆人工判讀「真污染 / 誤報」→ 只修真污染；簡繁/大陸用語為**逐詞判讀替換，非 OpenCC 整篇轉換**（避免把已正確的繁體改壞）
- **修復範圍**：僅修改 `assistant` 角色內容（`user`/`tool`/`system` 未動，訓練時本就被 mask）
- **本次修復筆數**：污染清理 38 筆，其中 **34 筆是回復前一輪清理的錯誤**——先前把物理領域正確用詞「質量」誤改成「臨界品質」，本次已還原並回饋詞庫（避免同樣的盲替再次發生）
- **完整逐筆 before/after 對照**：見 `fix_0811_before_after.jsonl`

### 補充修復（2026-08-13）

- **修復類型**：跨語系混雜（韓文音節被漢字誤植取代，如節目名 `휴먼비잉` 被寫成 `休멍비잉`）
- **本次修復筆數**：1 筆
- **完整逐筆 before/after 對照**：見 `wedge_fix_0813.jsonl`
- 本輪為針對性清理（跨語系誤植與注音損壞），非全文重新掃描，不代表已排除其他類型污染。