minyichen/tw_idioms_chat

Taiwan Idioms Chat Dataset

tw_idioms_chat 是一份繁體中文成語問答 / 對話格式資料集，主要用於 instruction tuning、chat fine-tuning 與繁體中文成語知識任務。

Hugging Face dataset viewer 應使用根目錄的 datasets.jsonl 作為唯一資料檔：

configs.default.data_files.train = datasets.jsonl

污染修復情況（2026-08-11 ～ 08-12）

• 修復方式：污染掃描（詞庫驅動，/data/sdg_data/sdg_pipeline/lexicon/lexicon.yaml）→ scan-triage 逐筆人工判讀「真污染 / 誤報」→ 只修真污染；簡繁/大陸用語為逐詞判讀替換，非 OpenCC 整篇轉換（避免把已正確的繁體改壞）
• 修復範圍：僅修改 assistant 角色內容（user/tool/system 未動，訓練時本就被 mask）
• 本次修復筆數：簡體/大陸用語詞庫修正 4 筆
• 完整逐筆 before/after 對照：見 fix_cn_phrases_0811_before_after.jsonl

補充修復（2026-08-13）

• 修復類型：跨語系混雜（韓文/日文音節被漢字誤植取代，如例句中夾雜韓文單字）
• 本次修復筆數：1 筆
• 完整逐筆 before/after 對照：見 wedge_fix_0813.jsonl
• 本輪為針對性清理（跨語系誤植與注音損壞），非全文重新掃描，不代表已排除其他類型污染。