training/train_dpo.py

"""
train_dpo.py — TeenEmo DPO（SFT済みLoRAへの継続学習）

フロー:
    1. SFT 済み LoRA アダプタを HF Hub またはローカルからロード
    2. DPO 用 LoRA アダプタを追加設定
    3. 選好データセットを HF Hub から取得・チャットテンプレート適用
    4. DPOTrainer で学習（SFT アダプタに継続学習）
    5. [STEP 2/3] DPO 完了 → HF Hub に push
    6. [STEP 3/3] GGUF 変換 → HF Hub に push

実行例:
    python train_dpo.py
    DPO_EPOCHS=1 DPO_BETA=0.05 python train_dpo.py
"""

from __future__ import annotations

import os
import sys
import traceback
from datetime import datetime, timezone
from pathlib import Path

if not os.environ.get("HF_TOKEN"):
    print("[ERROR] HF_TOKEN が未設定です。export HF_TOKEN='hf_...' を実行してください。")
    sys.exit(1)

import torch
from unsloth import FastLanguageModel, PatchDPOTrainer, is_bfloat16_supported
from trl import DPOTrainer, DPOConfig

import train_config as cfg
from train_utils import (
    setup_logger, log_gpu_info, log_training_config,
    load_pref_dataset, apply_chat_template_dpo,
)


def main() -> None:
    # DPOTrainer の Unsloth パッチ（必ず最初に呼ぶ）
    PatchDPOTrainer()

    start_time = datetime.now(timezone.utc)
    log_dir = Path(cfg.DPO_OUTPUT_DIR) / "logs"
    log_dir.mkdir(parents=True, exist_ok=True)
    log_file = log_dir / f"dpo_{start_time.strftime('%Y%m%d_%H%M%S')}.log"

    logger = setup_logger("dpo", str(log_file))
    logger.info(f"=== TeenEmo DPO 開始 [{start_time.isoformat()}] ===")

    log_gpu_info(logger)
    log_training_config(logger, "DPO")

    # ── SFT 済み LoRA アダプタのロード ───────────────────────
    # ローカルに SFT アダプタがあればそちらを優先
    sft_lora_dir = Path(cfg.SFT_OUTPUT_DIR) / "lora"
    if sft_lora_dir.exists():
        model_path = str(sft_lora_dir)
        logger.info(f"SFT LoRA アダプタ（ローカル）からロード: {model_path}")
    else:
        model_path = cfg.SFT_HF_REPO
        logger.info(f"SFT LoRA アダプタ（HF Hub）からロード: {model_path}")

    try:
        model, tokenizer = FastLanguageModel.from_pretrained(
            model_name=model_path,
            max_seq_length=cfg.MAX_SEQ_LENGTH,
            dtype=None,
            load_in_4bit=False,
            token=cfg.HF_TOKEN or None,
        )
        logger.info("SFT モデルロード完了 ✅")
    except Exception as e:
        logger.error(f"モデルロードエラー: {e}")
        logger.debug(traceback.format_exc())
        logger.info("先に train_sft.py を実行してください。")
        raise

    # SFT 済み LoRA アダプタには既に LoRA が付いているため
    # get_peft_model は呼ばず、そのまま DPO 学習に使用する
    FastLanguageModel.for_training(model)  # 学習モードに切り替え
    trainable = sum(p.numel() for p in model.parameters() if p.requires_grad)
    logger.info(f"  学習可能パラメータ: {trainable:,}")

    # ── データセット準備 ──────────────────────────────────────
    logger.info("選好データセット準備中...")
    try:
        raw_ds = load_pref_dataset(logger)

        # チャットテンプレート適用（SFT と同じフォーマットに統一）
        logger.info("チャットテンプレート適用中...")
        ds = raw_ds.map(
            lambda x: apply_chat_template_dpo(x, tokenizer, logger),
            batched=True,
            desc="DPO チャットテンプレート適用",
        )
        logger.info(f"選好データ準備完了: {len(ds)} 件")

        # サンプル確認
        logger.debug(f"  prompt[0]: {ds[0]['prompt'][:100]}")
        logger.debug(f"  chosen[0]: {ds[0]['chosen'][:100]}")
    except Exception as e:
        logger.error(f"データセット準備エラー: {e}")
        logger.debug(traceback.format_exc())
        raise

    # ── DPOTrainer 初期化 ─────────────────────────────────────
    logger.info("DPOTrainer 初期化中...")
    try:
        dpo_trainer = DPOTrainer(
            model=model,
            ref_model=None,  # implicit reference（メモリ節約）
            args=DPOConfig(
                output_dir=cfg.DPO_OUTPUT_DIR,
                per_device_train_batch_size=cfg.DPO_BATCH_SIZE,
                gradient_accumulation_steps=cfg.DPO_GRAD_ACCUM,
                num_train_epochs=cfg.DPO_EPOCHS,
                learning_rate=cfg.DPO_LR,
                warmup_ratio=cfg.DPO_WARMUP_RATIO,
                lr_scheduler_type=cfg.DPO_LR_SCHEDULER,
                weight_decay=cfg.DPO_WEIGHT_DECAY,
                fp16=not is_bfloat16_supported(),
                bf16=is_bfloat16_supported(),
                logging_steps=cfg.DPO_LOGGING_STEPS,
                save_steps=cfg.DPO_SAVE_STEPS,
                save_total_limit=2,
                optim="adamw_8bit",
                seed=42,
                report_to="none",
            ),
            beta=cfg.DPO_BETA,
            train_dataset=ds,
            tokenizer=tokenizer,
            max_length=cfg.DPO_MAX_LENGTH,
            max_prompt_length=cfg.DPO_MAX_PROMPT_LENGTH,
        )
        logger.info("DPOTrainer 初期化完了 ✅")
    except Exception as e:
        logger.error(f"DPOTrainer 初期化エラー: {e}")
        logger.debug(traceback.format_exc())
        raise

    # ── DPO 学習実行 ──────────────────────────────────────────
    logger.info("DPO 学習開始...")
    try:
        train_result = dpo_trainer.train()
        logger.info("DPO 学習完了 ✅")
        logger.info(f"  train_loss:       {train_result.training_loss:.4f}")
        logger.info(f"  train_runtime:    {train_result.metrics.get('train_runtime', 0):.0f}s")
        logger.info(f"  samples/sec:      {train_result.metrics.get('train_samples_per_second', 0):.2f}")
        logger.info(f"  rewards/chosen:   {train_result.metrics.get('rewards/chosen', 'N/A')}")
        logger.info(f"  rewards/rejected: {train_result.metrics.get('rewards/rejected', 'N/A')}")
        logger.info(f"  rewards/margin:   {train_result.metrics.get('rewards/margins', 'N/A')}")
    except Exception as e:
        logger.error(f"DPO 学習エラー: {e}")
        logger.debug(traceback.format_exc())
        raise

    # ── LoRA アダプタ保存 ─────────────────────────────────────
    lora_dir = Path(cfg.DPO_OUTPUT_DIR) / "lora"
    logger.info(f"LoRA アダプタ保存: {lora_dir}")
    try:
        model.save_pretrained(str(lora_dir))
        tokenizer.save_pretrained(str(lora_dir))
        logger.info("LoRA アダプタ保存完了 ✅")
    except Exception as e:
        logger.error(f"LoRA 保存エラー: {e}")
        logger.debug(traceback.format_exc())
        raise

    # ── [STEP 2/3] HF Hub に SFT+DPO チェックポイント push ───
    if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
        logger.info(f"[STEP 2/3] HF Hub に SFT+DPO チェックポイント push: {cfg.DPO_HF_REPO}")
        try:
            model.push_to_hub(cfg.DPO_HF_REPO, token=cfg.HF_TOKEN)
            tokenizer.push_to_hub(cfg.DPO_HF_REPO, token=cfg.HF_TOKEN)
            logger.info(f"  ✅ https://huggingface.co/{cfg.DPO_HF_REPO}")
        except Exception as e:
            logger.error(f"DPO push エラー: {e}")
            logger.debug(traceback.format_exc())

    # ── [STEP 3/3] GGUF 変換 + HF Hub push ───────────────────
    if cfg.SAVE_GGUF:
        logger.info(f"[STEP 3/3] GGUF 変換中 ({cfg.GGUF_QUANTIZATION})...")
        try:
            gguf_dir = Path(cfg.DPO_OUTPUT_DIR) / "gguf"
            gguf_dir.mkdir(parents=True, exist_ok=True)

            if cfg.PUSH_TO_HUB and cfg.HF_TOKEN:
                model.push_to_hub_gguf(
                    cfg.GGUF_HF_REPO,
                    tokenizer,
                    quantization_method=cfg.GGUF_QUANTIZATION,
                    token=cfg.HF_TOKEN,
                )
                logger.info(f"  ✅ https://huggingface.co/{cfg.GGUF_HF_REPO}")
            else:
                model.save_pretrained_gguf(
                    str(gguf_dir),
                    tokenizer,
                    quantization_method=cfg.GGUF_QUANTIZATION,
                )
                logger.info(f"  ✅ ローカル保存: {gguf_dir}")
        except Exception as e:
            logger.error(f"GGUF 変換エラー: {e}")
            logger.debug(traceback.format_exc())

    elapsed = (datetime.now(timezone.utc) - start_time).total_seconds()
    logger.info(f"=== DPO 完了 ({elapsed/60:.1f}分) ===")
    logger.info(f"ログ: {log_file}")


if __name__ == "__main__":
    main()