fix: sync train_dpo.py

training/train_dpo.py

@@ -100,11 +100,17 @@ def main() -> None:
     # ── データセット準備 ──────────────────────────────────────
     logger.info("選好データセット準備中...")
     try:
-        ds = load_pref_dataset(logger)
+        raw_ds = load_pref_dataset(logger)
+
+        # チャットテンプレート適用（SFTとフォーマットを統一する）
+        from train_utils import apply_chat_template_dpo
+        logger.info("チャットテンプレート適用中...")
+        ds = raw_ds.map(
+            lambda x: apply_chat_template_dpo(x, tokenizer, logger),
+            batched=True,
+            desc="DPO チャットテンプレート適用",
+        )
 
-        # DPOTrainer は prompt/chosen/rejected を文字列として受け取る
-        # チャットテンプレートの適用は DPOTrainer 内部で行われるため不要
-        # ただし tokenizer に chat_template が設定されていることを確認する
         if tokenizer.chat_template is None:
             logger.warning("chat_template が未設定です。デフォルトを使用します。")
         else: