fix: sync training/train_dpo.py

training/train_dpo.py

@@ -1,16 +1,17 @@
 """
-train_dpo.py — TeenEmo DPO（直接選好最適化）
+train_dpo.py — TeenEmo DPO（SFT済みLoRAへの継続学習）
 
 フロー:
-    1. SFT 済みの LoRA アダプタ（または HF Hub のモデル）をロード
-    2. 選好データセットを HF Hub から取得
-    3. DPOTrainer で学習
-    4. LoRA アダプタを保存 + HF Hub へ push
-    5. GGUF 形式で保存 + HF Hub へ push
+    1. SFT 済み LoRA アダプタを HF Hub またはローカルからロード
+    2. DPO 用 LoRA アダプタを追加設定
+    3. 選好データセットを HF Hub から取得・チャットテンプレート適用
+    4. DPOTrainer で学習（SFT アダプタに継続学習）
+    5. [STEP 2/3] DPO 完了 → HF Hub に push
+    6. [STEP 3/3] GGUF 変換 → HF Hub に push
 
 実行例:
     python train_dpo.py
-    DPO_EPOCHS=1 python train_dpo.py
+    DPO_EPOCHS=1 DPO_BETA=0.05 python train_dpo.py
 """
 
 from __future__ import annotations
@@ -21,7 +22,6 @@ import traceback
 from datetime import datetime, timezone
 from pathlib import Path
 
-# ── 環境変数チェック ──────────────────────────────────────────
 if not os.environ.get("HF_TOKEN"):
     print("[ERROR] HF_TOKEN が未設定です。export HF_TOKEN='hf_...' を実行してください。")
     sys.exit(1)
@@ -33,12 +33,12 @@ from trl import DPOTrainer, DPOConfig
 import train_config as cfg
 from train_utils import (
     setup_logger, log_gpu_info, log_training_config,
-    load_pref_dataset,
+    load_pref_dataset, apply_chat_template_dpo,
 )
 
 
 def main() -> None:
-    # DPOTrainer の Unsloth パッチを適用（必ず最初に呼ぶ）
+    # DPOTrainer の Unsloth パッチ（必ず最初に呼ぶ）
     PatchDPOTrainer()
 
     start_time = datetime.now(timezone.utc)
@@ -52,16 +52,15 @@ def main() -> None:
     log_gpu_info(logger)
     log_training_config(logger, "DPO")
 
-    # ── SFT 済みモデルのロード ─────────────────────────────────
-    # SFT の LoRA アダプタが存在する場合はそちらを使う
+    # ── SFT 済み LoRA アダプタのロード ───────────────────────
+    # ローカルに SFT アダプタがあればそちらを優先
     sft_lora_dir = Path(cfg.SFT_OUTPUT_DIR) / "lora"
     if sft_lora_dir.exists():
         model_path = str(sft_lora_dir)
-        logger.info(f"SFT LoRA アダプタからロード: {model_path}")
+        logger.info(f"SFT LoRA アダプタ（ローカル）からロード: {model_path}")
     else:
-        # HF Hub の SFT モデルを使う
         model_path = cfg.SFT_HF_REPO
-        logger.info(f"HF Hub SFT モデルからロード: {model_path}")
+        logger.info(f"SFT LoRA アダプタ（HF Hub）からロード: {model_path}")
 
     try:
         model, tokenizer = FastLanguageModel.from_pretrained(
@@ -75,11 +74,11 @@ def main() -> None:
     except Exception as e:
         logger.error(f"モデルロードエラー: {e}")
         logger.debug(traceback.format_exc())
-        logger.info("SFT モデルが見つかりません。先に train_sft.py を実行してください。")
+        logger.info("先に train_sft.py を実行してください。")
         raise
 
-    # ── LoRA 設定（DPO 用） ───────────────────────────────────
-    logger.info("DPO 用 LoRA アダプタ設定中...")
+    # ── DPO 用 LoRA アダプタ追加 ─────────────────────────────
+    logger.info("DPO 用 LoRA アダプタ追加中...")
     try:
         model = FastLanguageModel.get_peft_model(
             model,
@@ -91,7 +90,8 @@ def main() -> None:
             use_gradient_checkpointing="unsloth",
             random_state=3407,
         )
-        logger.info("LoRA アダプタ設定完了 ✅")
+        trainable = sum(p.numel() for p in model.parameters() if p.requires_grad)
+        logger.info(f"  学習可能パラメータ: {trainable:,}")
     except Exception as e:
         logger.error(f"LoRA 設定エラー: {e}")
         logger.debug(traceback.format_exc())
@@ -102,21 +102,18 @@ def main() -> None:
     try:
         raw_ds = load_pref_dataset(logger)
 
-        # チャットテンプレート適用（SFTとフォーマットを統一する）
-        from train_utils import apply_chat_template_dpo
+        # チャットテンプレート適用（SFT と同じフォーマットに統一）
         logger.info("チャットテンプレート適用中...")
         ds = raw_ds.map(
             lambda x: apply_chat_template_dpo(x, tokenizer, logger),
             batched=True,
             desc="DPO チャットテンプレート適用",
         )
-
-        if tokenizer.chat_template is None:
-            logger.warning("chat_template が未設定です。デフォルトを��用します。")
-        else:
-            logger.info(f"chat_template: 設定済み ✅")
-
         logger.info(f"選好データ準備完了: {len(ds)} 件")
+
+        # サンプル確認
+        logger.debug(f"  prompt[0]: {ds[0]['prompt'][:100]}")
+        logger.debug(f"  chosen[0]: {ds[0]['chosen'][:100]}")
     except Exception as e:
         logger.error(f"データセット準備エラー: {e}")
         logger.debug(traceback.format_exc())
@@ -127,7 +124,7 @@ def main() -> None:
     try:
         dpo_trainer = DPOTrainer(
             model=model,
-            ref_model=None,  # ref_model=None で implicit reference（メモリ節約）
+            ref_model=None,  # implicit reference（メモリ節約）
             args=DPOConfig(
                 output_dir=cfg.DPO_OUTPUT_DIR,
                 per_device_train_batch_size=cfg.DPO_BATCH_SIZE,
@@ -158,24 +155,25 @@ def main() -> None:
         logger.debug(traceback.format_exc())
         raise
 
-    # ── 学習実行 ──────────────────────────────────────────────
+    # ── DPO 学習実行 ──────────────────────────────────────────
     logger.info("DPO 学習開始...")
     try:
         train_result = dpo_trainer.train()
-        logger.info(f"DPO 学習完了 ✅")
-        logger.info(f"  train_loss:        {train_result.training_loss:.4f}")
-        logger.info(f"  train_runtime:     {train_result.metrics.get('train_runtime', 0):.0f}s")
-        logger.info(f"  train_samples/s:   {train_result.metrics.get('train_samples_per_second', 0):.2f}")
-        logger.info(f"  rewards/chosen:    {train_result.metrics.get('rewards/chosen', 'N/A')}")
-        logger.info(f"  rewards/rejected:  {train_result.metrics.get('rewards/rejected', 'N/A')}")
+        logger.info("DPO 学習完了 ✅")
+        logger.info(f"  train_loss:       {train_result.training_loss:.4f}")
+        logger.info(f"  train_runtime:    {train_result.metrics.get('train_runtime', 0):.0f}s")
+        logger.info(f"  samples/sec:      {train_result.metrics.get('train_samples_per_second', 0):.2f}")
+        logger.info(f"  rewards/chosen:   {train_result.metrics.get('rewards/chosen', 'N/A')}")
+        logger.info(f"  rewards/rejected: {train_result.metrics.get('rewards/rejected', 'N/A')}")
+        logger.info(f"  rewards/margin:   {train_result.metrics.get('rewards/margins', 'N/A')}")
     except Exception as e:
         logger.error(f"DPO 学習エラー: {e}")
         logger.debug(traceback.format_exc())
         raise
 
-    # ── LoRA アダプタ保存 ──────────────────────────────────────
+    # ── LoRA アダプタ保存 ─────────────────────────────────────
     lora_dir = Path(cfg.DPO_OUTPUT_DIR) / "lora"
-    logger.info(f"LoRA アダプタ保存中: {lora_dir}")
+    logger.info(f"LoRA アダプタ保存: {lora_dir}")
     try:
         model.save_pretrained(str(lora_dir))
         tokenizer.save_pretrained(str(lora_dir))
@@ -185,23 +183,24 @@ def main() -> None:
         logger.debug(traceback.format_exc())
         raise
 
-    # ── HF Hub への push ──────────────────────────────────────
+    # ── [STEP 2/3] HF Hub に SFT+DPO チェックポイント push ───
     if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
-        logger.info(f"HF Hub へ push 中: {cfg.DPO_HF_REPO}")
+        logger.info(f"[STEP 2/3] HF Hub に SFT+DPO チェックポイント push: {cfg.DPO_HF_REPO}")
         try:
             model.push_to_hub(cfg.DPO_HF_REPO, token=cfg.HF_TOKEN)
             tokenizer.push_to_hub(cfg.DPO_HF_REPO, token=cfg.HF_TOKEN)
-            logger.info(f"HF Hub push 完了 ✅: https://huggingface.co/{cfg.DPO_HF_REPO}")
+            logger.info(f"  ✅ https://huggingface.co/{cfg.DPO_HF_REPO}")
         except Exception as e:
-            logger.error(f"HF Hub push エラー: {e}")
+            logger.error(f"DPO push エラー: {e}")
             logger.debug(traceback.format_exc())
 
-    # ── GGUF 保存 ──────────────────────────────────────────────
+    # ── [STEP 3/3] GGUF 変換 + HF Hub push ───────────────────
     if cfg.SAVE_GGUF:
-        logger.info(f"GGUF 保存中 ({cfg.GGUF_QUANTIZATION})...")
+        logger.info(f"[STEP 3/3] GGUF 変換中 ({cfg.GGUF_QUANTIZATION})...")
         try:
             gguf_dir = Path(cfg.DPO_OUTPUT_DIR) / "gguf"
             gguf_dir.mkdir(parents=True, exist_ok=True)
+
             if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
                 model.push_to_hub_gguf(
                     cfg.GGUF_HF_REPO,
@@ -209,21 +208,21 @@ def main() -> None:
                     quantization_method=cfg.GGUF_QUANTIZATION,
                     token=cfg.HF_TOKEN,
                 )
-                logger.info(f"GGUF HF push 完了 ✅: https://huggingface.co/{cfg.GGUF_HF_REPO}")
+                logger.info(f"  ✅ https://huggingface.co/{cfg.GGUF_HF_REPO}")
             else:
                 model.save_pretrained_gguf(
                     str(gguf_dir),
                     tokenizer,
                     quantization_method=cfg.GGUF_QUANTIZATION,
                 )
-                logger.info(f"GGUF ローカル保存完了 ✅: {gguf_dir}")
+                logger.info(f"  ✅ ローカル保存: {gguf_dir}")
         except Exception as e:
-            logger.error(f"GGUF 保存エラー: {e}")
+            logger.error(f"GGUF 変換エラー: {e}")
             logger.debug(traceback.format_exc())
 
     elapsed = (datetime.now(timezone.utc) - start_time).total_seconds()
-    logger.info(f"=== DPO 完了 (所要時間: {elapsed/60:.1f}分) ===")
-    logger.info(f"ログファイル: {log_file}")
+    logger.info(f"=== DPO 完了 ({elapsed/60:.1f}分) ===")
+    logger.info(f"ログ: {log_file}")
 
 
 if __name__ == "__main__":