sync: training/train_utils.py

training/train_utils.py

@@ -0,0 +1,253 @@
+"""
+train_utils.py — 共通ユーティリティ
+
+ログ出力・データセット読み込み・チャットテンプレート適用など
+SFT/DPO 両スクリプトで共有する処理をまとめる。
+"""
+
+from __future__ import annotations
+
+import json
+import logging
+import os
+import sys
+import traceback
+from datetime import datetime, timezone
+from pathlib import Path
+from typing import Any
+
+import torch
+from datasets import Dataset, load_dataset
+from transformers import PreTrainedTokenizer
+
+import train_config as cfg
+
+
+# ── ロガー設定 ────────────────────────────────────────────────
+
+def setup_logger(name: str, log_file: str | None = None) -> logging.Logger:
+    """
+    詳細なログを出力するロガーを設定する。
+    ファイルとstdoutの両方に出力する。
+    """
+    logger = logging.getLogger(name)
+    logger.setLevel(logging.DEBUG)
+    fmt = logging.Formatter(
+        "[%(asctime)s] [%(levelname)s] [%(name)s] %(message)s",
+        datefmt="%Y-%m-%d %H:%M:%S",
+    )
+
+    # stdout ハンドラ
+    sh = logging.StreamHandler(sys.stdout)
+    sh.setLevel(logging.DEBUG)
+    sh.setFormatter(fmt)
+    logger.addHandler(sh)
+
+    # ファイルハンドラ（オプション）
+    if log_file:
+        Path(log_file).parent.mkdir(parents=True, exist_ok=True)
+        fh = logging.FileHandler(log_file, encoding="utf-8")
+        fh.setLevel(logging.DEBUG)
+        fh.setFormatter(fmt)
+        logger.addHandler(fh)
+
+    return logger
+
+
+# ── GPU 情報 ──────────────────────────────────────────────────
+
+def log_gpu_info(logger: logging.Logger) -> None:
+    if not torch.cuda.is_available():
+        logger.warning("CUDA が利用できません。CPU で実行します。")
+        return
+    for i in range(torch.cuda.device_count()):
+        props = torch.cuda.get_device_properties(i)
+        total_gb = props.total_memory / 1e9
+        logger.info(f"GPU {i}: {props.name}  VRAM: {total_gb:.1f}GB")
+    logger.info(f"bfloat16 サポート: {torch.cuda.is_bf16_supported()}")
+
+
+# ── SFT データセット読み込み ──────────────────────────────────
+
+def load_sft_dataset(logger: logging.Logger) -> Dataset:
+    """
+    HF Hub から SFT データセットを読み込み、チャット形式に変換する。
+    フォーマット: messages フィールド（OpenAI 形式）
+    """
+    logger.info(f"SFT データセット読み込み: {cfg.SFT_DATASET}")
+    try:
+        ds = load_dataset(
+            cfg.SFT_DATASET,
+            split="train",
+            token=cfg.HF_TOKEN or None,
+        )
+    except Exception as e:
+        logger.error(f"データセット読み込みエラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    logger.info(f"  件数: {len(ds)}")
+    logger.info(f"  カラム: {ds.column_names}")
+
+    # サンプル確認
+    sample = ds[0]
+    logger.debug(f"  サンプル[0] キー: {list(sample.keys())}")
+    if "messages" in sample:
+        for m in sample["messages"][:2]:
+            logger.debug(f"    role={m['role']} content={m['content'][:80]}...")
+
+    return ds
+
+
+# ── DPO データセット読み込み ──────────────────────────────────
+
+def load_pref_dataset(logger: logging.Logger) -> Dataset:
+    """
+    HF Hub から選好データセットを読み込む。
+    フォーマット: prompt / chosen / rejected フィールド
+    """
+    logger.info(f"選好データセット読み込み: {cfg.PREF_DATASET}")
+    try:
+        ds = load_dataset(
+            cfg.PREF_DATASET,
+            split="train",
+            token=cfg.HF_TOKEN or None,
+        )
+    except Exception as e:
+        logger.error(f"データセット読み込みエラー: {e}")
+        logger.debug(traceback.format_exc())
+        raise
+
+    logger.info(f"  件数: {len(ds)}")
+    logger.info(f"  カラム: {ds.column_names}")
+
+    # バリデーション
+    required = {"prompt", "chosen", "rejected"}
+    missing = required - set(ds.column_names)
+    if missing:
+        raise ValueError(f"DPO データセットに必須カラムが不足: {missing}")
+
+    # サンプル確認
+    sample = ds[0]
+    logger.debug(f"  prompt[0]: {sample['prompt'][:80]}")
+    logger.debug(f"  chosen[0]: {sample['chosen'][:80]}")
+    logger.debug(f"  rejected[0]: {sample['rejected'][:80]}")
+
+    # chosen/rejected に <synth> タグが残っていないか確認
+    synth_count = sum(1 for x in ds["chosen"] if "<synth>" in x)
+    if synth_count > 0:
+        logger.warning(f"  chosen に <synth> タグが {synth_count} 件残存しています！")
+    else:
+        logger.info("  chosen <synth> タグなし ✅")
+
+    return ds
+
+
+# ── チャットテンプレート適用（SFT用） ─────────────────────────
+
+def apply_chat_template_sft(
+    examples: dict,
+    tokenizer: PreTrainedTokenizer,
+    logger: logging.Logger,
+) -> dict:
+    """
+    messages フィールドをチャットテンプレートで text に変換する。
+    LFM2 のチャットテンプレートに対応。
+    """
+    texts = []
+    errors = 0
+    for messages in examples["messages"]:
+        try:
+            text = tokenizer.apply_chat_template(
+                messages,
+                tokenize=False,
+                add_generation_prompt=False,
+            )
+            texts.append(text)
+        except Exception as e:
+            logger.warning(f"チャットテンプレート適用エラー: {e}")
+            logger.debug(traceback.format_exc())
+            texts.append("")
+            errors += 1
+    if errors > 0:
+        logger.warning(f"チャットテンプレート適用エラー: {errors} 件")
+    return {"text": texts}
+
+
+# ── DPO データ変換（チャットテンプレート適用） ────────────────
+
+def apply_chat_template_dpo(
+    examples: dict,
+    tokenizer: PreTrainedTokenizer,
+    logger: logging.Logger,
+) -> dict:
+    """
+    DPO データの prompt/chosen/rejected にチャットテンプレートを適用する。
+    prompt は user ターンのみ、chosen/rejected は assistant ターンとして整形する。
+    """
+    prompts, chosens, rejecteds = [], [], []
+
+    for prompt, chosen, rejected in zip(
+        examples["prompt"], examples["chosen"], examples["rejected"]
+    ):
+        try:
+            # prompt: user メッセージ
+            prompt_text = tokenizer.apply_chat_template(
+                [{"role": "user", "content": prompt}],
+                tokenize=False,
+                add_generation_prompt=True,
+            )
+            # chosen: assistant メッセージ
+            chosen_text = tokenizer.apply_chat_template(
+                [
+                    {"role": "user", "content": prompt},
+                    {"role": "assistant", "content": chosen},
+                ],
+                tokenize=False,
+                add_generation_prompt=False,
+            )
+            # rejected: assistant メッセージ
+            rejected_text = tokenizer.apply_chat_template(
+                [
+                    {"role": "user", "content": prompt},
+                    {"role": "assistant", "content": rejected},
+                ],
+                tokenize=False,
+                add_generation_prompt=False,
+            )
+            prompts.append(prompt_text)
+            chosens.append(chosen_text)
+            rejecteds.append(rejected_text)
+        except Exception as e:
+            logger.warning(f"DPO チャットテンプレート適用エラー: {e}")
+            prompts.append(prompt)
+            chosens.append(chosen)
+            rejecteds.append(rejected)
+
+    return {"prompt": prompts, "chosen": chosens, "rejected": rejecteds}
+
+
+# ── 学習設定のサマリー出力 ─────────────────────────────────────
+
+def log_training_config(logger: logging.Logger, mode: str) -> None:
+    logger.info(f"=== {mode} 学習設定 ===")
+    logger.info(f"  ベースモデル : {cfg.BASE_MODEL}")
+    if mode == "SFT":
+        logger.info(f"  データセット : {cfg.SFT_DATASET}")
+        logger.info(f"  エポック数   : {cfg.SFT_EPOCHS}")
+        logger.info(f"  バッチサイズ : {cfg.SFT_BATCH_SIZE} × 勾配累積 {cfg.SFT_GRAD_ACCUM}")
+        logger.info(f"  学習率       : {cfg.SFT_LR}")
+        logger.info(f"  出力先       : {cfg.SFT_OUTPUT_DIR}")
+        logger.info(f"  HF リポジトリ: {cfg.SFT_HF_REPO}")
+    else:
+        logger.info(f"  データセット : {cfg.PREF_DATASET}")
+        logger.info(f"  エポック数   : {cfg.DPO_EPOCHS}")
+        logger.info(f"  バッチサイズ : {cfg.DPO_BATCH_SIZE} × 勾配累積 {cfg.DPO_GRAD_ACCUM}")
+        logger.info(f"  学習率       : {cfg.DPO_LR}")
+        logger.info(f"  DPO beta     : {cfg.DPO_BETA}")
+        logger.info(f"  出力先       : {cfg.DPO_OUTPUT_DIR}")
+        logger.info(f"  HF リポジトリ: {cfg.DPO_HF_REPO}")
+    logger.info(f"  LoRA rank    : {cfg.LORA_R}  alpha: {cfg.LORA_ALPHA}")
+    logger.info(f"  最大長       : {cfg.MAX_SEQ_LENGTH}")
+    logger.info(f"  GGUF 保存    : {cfg.SAVE_GGUF} ({cfg.GGUF_QUANTIZATION})")
+    logger.info(f"  HF Push      : {cfg.PUSH_TO_HUB}")