fix: sync training/train_config.py

training/train_config.py

@@ -13,53 +13,62 @@ HF_TOKEN:      str = os.environ.get("HF_TOKEN", "")
 HF_USERNAME:   str = os.environ.get("HF_USERNAME", "YUGOROU")
 
 # ── ベースモデル ───────────────────────────────────────────────
-# LFM2-1.2B-Base を使用（Instruct版ではなくBase版）
-BASE_MODEL:    str = os.environ.get("BASE_MODEL", "liquidai/LFM2-1.2B")
+# LFM2.5-1.2B-Base を使用
+BASE_MODEL:    str = os.environ.get("BASE_MODEL", "LiquidAI/LFM2.5-1.2B-Base")
 
 # ── データセット ───────────────────────────────────────────────
-SFT_DATASET:   str = os.environ.get("SFT_DATASET",  f"{HF_USERNAME}/teememo-sft-data-v2")
+# SFT: teememo-sft-validation（本番データが格納されている）
+SFT_DATASET:   str = os.environ.get("SFT_DATASET",  f"{HF_USERNAME}/teememo-sft-validation")
 PREF_DATASET:  str = os.environ.get("PREF_DATASET", f"{HF_USERNAME}/teememo-pref-data")
 
 # ── 出力先 ─────────────────────────────────────────────────────
 SFT_OUTPUT_DIR:  str = os.environ.get("SFT_OUTPUT_DIR",  "./outputs/sft")
 DPO_OUTPUT_DIR:  str = os.environ.get("DPO_OUTPUT_DIR",  "./outputs/dpo")
-SFT_HF_REPO:     str = os.environ.get("SFT_HF_REPO",     f"{HF_USERNAME}/TeenEmo-LFM2-1.2B-SFT")
-DPO_HF_REPO:     str = os.environ.get("DPO_HF_REPO",     f"{HF_USERNAME}/TeenEmo-LFM2-1.2B-DPO")
-GGUF_HF_REPO:    str = os.environ.get("GGUF_HF_REPO",    f"{HF_USERNAME}/TeenEmo-LFM2-1.2B-GGUF")
+SFT_HF_REPO:     str = os.environ.get("SFT_HF_REPO",     f"{HF_USERNAME}/TeenEmo-LFM2.5-1.2B-SFT")
+DPO_HF_REPO:     str = os.environ.get("DPO_HF_REPO",     f"{HF_USERNAME}/TeenEmo-LFM2.5-1.2B-DPO")
+GGUF_HF_REPO:    str = os.environ.get("GGUF_HF_REPO",    f"{HF_USERNAME}/TeenEmo-LFM2.5-1.2B-GGUF")
 
 # ── LoRA 設定 ─────────────────────────────────────────────────
+# LFM2.5 のアーキテクチャに合わせたターゲットモジュール
+# 参考: https://unsloth.ai/docs/models/tutorials/lfm2.5
 LORA_R:              int   = int(os.environ.get("LORA_R",    "32"))
 LORA_ALPHA:          int   = int(os.environ.get("LORA_ALPHA", "64"))   # r * 2 推奨
 LORA_DROPOUT:        float = float(os.environ.get("LORA_DROPOUT", "0"))
 LORA_TARGET_MODULES: list  = [
-    "q_proj", "k_proj", "v_proj", "o_proj",
-    "gate_proj", "up_proj", "down_proj",
+    # LFM2.5 固有のモジュール（通常の Transformer とは異なる）
+    "q_proj", "k_proj", "v_proj", "out_proj", "in_proj",
+    "w1", "w2", "w3",
 ]
 
 # ── シーケンス長 ───────────────────────────────────────────────
+# LFM2.5 は最大 32768 トークン対応、SFT データに合わせて 2048 に設定
 MAX_SEQ_LENGTH: int = int(os.environ.get("MAX_SEQ_LENGTH", "2048"))
 
-# ── SFT 学習設定 ───────────────────────────────────────────────
-SFT_BATCH_SIZE:               int   = int(os.environ.get("SFT_BATCH_SIZE",   "8"))
-SFT_GRAD_ACCUM:               int   = int(os.environ.get("SFT_GRAD_ACCUM",   "4"))
-SFT_EPOCHS:                   int   = int(os.environ.get("SFT_EPOCHS",        "3"))
+# ── SFT 学習設定（A100 80GB 最適化）─────────────────────────
+# A100 80GB: LFM2.5-1.2B は bf16 で非常に小さいため大バッチが可能
+# 実効バッチ = SFT_BATCH_SIZE × SFT_GRAD_ACCUM = 32 × 4 = 128
+SFT_BATCH_SIZE:               int   = int(os.environ.get("SFT_BATCH_SIZE",   "32"))
+SFT_GRAD_ACCUM:               int   = int(os.environ.get("SFT_GRAD_ACCUM",    "4"))
+SFT_EPOCHS:                   int   = int(os.environ.get("SFT_EPOCHS",         "3"))
 SFT_LR:                       float = float(os.environ.get("SFT_LR",        "2e-4"))
 SFT_WARMUP_RATIO:             float = float(os.environ.get("SFT_WARMUP_RATIO","0.05"))
 SFT_LR_SCHEDULER:             str   = os.environ.get("SFT_LR_SCHEDULER",  "cosine")
 SFT_WEIGHT_DECAY:             float = float(os.environ.get("SFT_WEIGHT_DECAY","0.01"))
 SFT_LOGGING_STEPS:            int   = int(os.environ.get("SFT_LOGGING_STEPS", "10"))
-SFT_SAVE_STEPS:               int   = int(os.environ.get("SFT_SAVE_STEPS",   "200"))
+SFT_SAVE_STEPS:               int   = int(os.environ.get("SFT_SAVE_STEPS",   "100"))
 SFT_PACKING:                  bool  = os.environ.get("SFT_PACKING", "false").lower() == "true"
 
-# ── DPO 学習設定 ───────────────────────────────────────────────
-DPO_BATCH_SIZE:               int   = int(os.environ.get("DPO_BATCH_SIZE",   "4"))
-DPO_GRAD_ACCUM:               int   = int(os.environ.get("DPO_GRAD_ACCUM",   "8"))
-DPO_EPOCHS:                   int   = int(os.environ.get("DPO_EPOCHS",        "2"))
+# ── DPO 学習設定（A100 80GB 最適化）─────────────────────────
+# DPO は chosen/rejected の2倍メモリが必要なためバッチサイズを抑える
+# 実効バッチ = DPO_BATCH_SIZE × DPO_GRAD_ACCUM = 8 × 4 = 32
+DPO_BATCH_SIZE:               int   = int(os.environ.get("DPO_BATCH_SIZE",    "8"))
+DPO_GRAD_ACCUM:               int   = int(os.environ.get("DPO_GRAD_ACCUM",    "4"))
+DPO_EPOCHS:                   int   = int(os.environ.get("DPO_EPOCHS",         "2"))
 DPO_LR:                       float = float(os.environ.get("DPO_LR",        "5e-5"))
 DPO_WARMUP_RATIO:             float = float(os.environ.get("DPO_WARMUP_RATIO","0.1"))
 DPO_LR_SCHEDULER:             str   = os.environ.get("DPO_LR_SCHEDULER",  "cosine")
 DPO_WEIGHT_DECAY:             float = float(os.environ.get("DPO_WEIGHT_DECAY","0.01"))
-DPO_LOGGING_STEPS:            int   = int(os.environ.get("DPO_LOGGING_STEPS", "5"))
+DPO_LOGGING_STEPS:            int   = int(os.environ.get("DPO_LOGGING_STEPS",  "5"))
 DPO_SAVE_STEPS:               int   = int(os.environ.get("DPO_SAVE_STEPS",   "100"))
 DPO_BETA:                     float = float(os.environ.get("DPO_BETA",       "0.1"))
 DPO_MAX_PROMPT_LENGTH:        int   = int(os.environ.get("DPO_MAX_PROMPT_LENGTH", "512"))