fix: remove get_peft_model from DPO (SFT adapter already has LoRA)

training/train_dpo.py

@@ -77,25 +77,11 @@ def main() -> None:
         logger.info("先に train_sft.py を実行してください。")
         raise
 
-    # ── DPO 用 LoRA アダプタ追加 ─────────────────────────────
-    logger.info("DPO 用 LoRA アダプタ追加中...")
-    try:
-        model = FastLanguageModel.get_peft_model(
-            model,
-            r=cfg.LORA_R,
-            target_modules=cfg.LORA_TARGET_MODULES,
-            lora_alpha=cfg.LORA_ALPHA,
-            lora_dropout=cfg.LORA_DROPOUT,
-            bias="none",
-            use_gradient_checkpointing="unsloth",
-            random_state=3407,
-        )
-        trainable = sum(p.numel() for p in model.parameters() if p.requires_grad)
-        logger.info(f"  学習可能パラメータ: {trainable:,}")
-    except Exception as e:
-        logger.error(f"LoRA 設定エラー: {e}")
-        logger.debug(traceback.format_exc())
-        raise
+    # SFT 済み LoRA アダプタには既に LoRA が付いているため
+    # get_peft_model は呼ばず、そのまま DPO 学習に使用する
+    FastLanguageModel.for_training(model)  # 学習モードに切り替え
+    trainable = sum(p.numel() for p in model.parameters() if p.requires_grad)
+    logger.info(f"  学習可能パラメータ: {trainable:,}")
 
     # ── データセット準備 ──────────────────────────────────────
     logger.info("選好データセット準備中...")