Add phase1_qlora_unsloth_training.ipynb with auto-resume feature

phase1_qlora_unsloth_training.ipynb

@@ -0,0 +1,585 @@
+{
+ "cells": [
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": "# 🔮 YEJI Phase 1: QLoRA Fine-tuning on Colab A100 (Unsloth 버전)\n\nQwen3-8B-Base 모델을 **Unsloth + QLoRA** 방법으로 Fine-tuning하여 한국어 점술 AI \"예지(YEJI)\"를 학습합니다.\n\n## 🚀 Unsloth 장점\n- **2-3배 빠른 학습** (3시간 → 1시간)\n- **40% 메모리 절약**\n- RSLoRA 지원 (더 안정적인 학습)\n\n## ⚠️ 참고\n- Unsloth는 DoRA를 **공식 지원하지 않음** (2026.01 기준)\n- QDoRA가 필요하면 기존 PEFT 노트북 사용\n\n## 주요 구성\n- **모델**: Qwen/Qwen3-8B-Base (4-bit 양자화)\n- **방법**: QLoRA via Unsloth (RSLoRA 옵션)\n- **데이터**: 밸런싱 40K + 멀티턴 500건\n- **환경**: Colab A100 40GB\n\n## 실행 순서\n1. 환경 설정 (Unsloth)\n2. 설정 및 함수 정의\n3. 연결 테스트\n4. 데이터 준비\n5. 모델 준비 (Unsloth)\n6. **Baseline 측정 (학습 전)**\n7. 학습\n8. 평가 **(Baseline 비교)**\n9. 저장 & 업로드\n10. 리소스 정리"
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "---\n",
+    "## 1️⃣ 환경 설정"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# GPU 확인\n",
+    "!nvidia-smi"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# 🦥 Unsloth 설치 (2-3배 빠른 학습)\n!pip install --no-cache-dir -q unsloth\n!pip install --no-cache-dir -q datasets wandb huggingface_hub\n\nprint(\"✅ Unsloth 패키지 설치 완료!\")"
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# 버전 확인 및 필수 임포트\nimport json\nimport gc\nimport time\nimport atexit\nimport signal\nfrom datetime import datetime\n\nimport torch\nfrom unsloth import FastLanguageModel\nimport transformers\n\nprint(f\"PyTorch: {torch.__version__}\")\nprint(f\"Transformers: {transformers.__version__}\")\nprint(f\"CUDA: {torch.cuda.is_available()}\")\nif torch.cuda.is_available():\n    print(f\"GPU: {torch.cuda.get_device_name(0)}\")\n    print(f\"VRAM: {torch.cuda.get_device_properties(0).total_memory / 1e9:.1f} GB\")\n\n# ============================================================\n# 자동 리소스 해제 등록 (어떤 상황에서든 GPU 해제)\n# ============================================================\ndef emergency_cleanup():\n    \"\"\"어떤 상황에서든 GPU 해제\"\"\"\n    print(\"\\n🔌 긴급 리소스 해제 실행...\")\n    try:\n        from google.colab import runtime\n        runtime.unassign()\n    except Exception as e:\n        print(f\"   해제 실패: {e}\")\n\n# 정상 종료 시\natexit.register(emergency_cleanup)\n\n# 강제 중단 시 (Ctrl+C, 커널 중단 등)\ndef signal_handler(signum, frame):\n    print(f\"\\n⚠️ 신호 감지: {signum}\")\n    emergency_cleanup()\n    raise SystemExit(1)\n\nsignal.signal(signal.SIGTERM, signal_handler)\nsignal.signal(signal.SIGINT, signal_handler)\n\nprint(\"\\n✅ 자동 리소스 해제 등록됨\")\nprint(\"   → 중단/에러/완료 어떤 상황에서든 GPU 자동 해제\")"
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "---\n",
+    "## 2️⃣ 설정 및 함수 정의\n",
+    "\n",
+    "모든 설정과 함수를 먼저 정의하여 이후 셀들이 독립적으로 실행될 수 있게 합니다."
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# ============================================================\n# 전역 설정 (CONFIG)\n# ============================================================\nCONFIG = {\n    # 데이터\n    \"balanced_dataset\": \"tellang/yeji-fortune-telling-ko-balanced\",\n    \"multiturn_dataset\": \"tellang/yeji-fortune-telling-ko-multiturn\",\n    \n    # 모델\n    \"base_model\": \"Qwen/Qwen3-8B-Base\",\n    \"output_repo\": \"tellang/yeji-8b-qlora-v1\",  # QLoRA (DoRA 미지원)\n    \n    # 노트북 백업\n    \"notebook_backup_repo\": \"tellang/yeji-training-notebooks\",\n    \"notebook_name\": \"phase1_qdora_training.ipynb\",\n    \n    # 학습\n    \"num_epochs\": 3,\n    \"batch_size\": 2,\n    \"grad_accum_steps\": 4,\n    \"learning_rate\": 2e-4,\n    \"max_seq_length\": 2048,\n    \n    # 체크포인트\n    \"save_steps\": 500,\n    \"eval_steps\": 500,\n    \"save_total_limit\": 3,\n    \n    # 완료 후 자동 종료\n    \"auto_shutdown\": \"unassign\",  # None / \"unassign\" / \"terminate\"\n    \n    # WandB (선택) - 없으면 Enter로 건너뛰기\n    \"use_wandb\": False,  # WandB 비활성화 (필수 아님)\n    \"wandb_project\": \"yeji-qlora\",\n}\n\n# ============================================================\n# 시스템 프롬프트\n# ============================================================\nSYSTEM_PROMPT = \"\"\"당신은 전문 점술가 '예지'입니다. 사주팔자, 타로, 호로스코프를 전문적으로 해석합니다.\n친근하고 따뜻한 말투로 상담하며, 구체적이고 실용적인 조언을 제공합니다.\"\"\"\n\n# ============================================================\n# 테스트 프롬프트 및 품질 체크 설정\n# ============================================================\nTEST_PROMPTS = [\n    # 사주\n    \"1990년 5월 15일 오전 10시에 태어난 사람의 사주를 분석해주세요.\",\n    # 타로\n    \"연애 운세를 보려고 합니다. 타로 카드 3장을 뽑았는데 '연인', '달', '별'이 나왔어요. 해석해주세요.\",\n    # 호로스코프\n    \"물병자리의 이번 달 운세를 알려주세요.\",\n]\n\nQUALITY_CHECKS = {\n    \"사주\": {\n        \"prompt\": \"1985년 12월 25일 자시(23시)에 태어난 사람의 사주팔자를 분석해주세요.\",\n        \"keywords\": [\"년\", \"월\", \"일\", \"시\", \"오행\", \"운\"],\n    },\n    \"타로\": {\n        \"prompt\": \"취업 운세를 보려고 합니다. 타로 카드 '황제', '세계', '심판'이 나왔어요.\",\n        \"keywords\": [\"황제\", \"세계\", \"심판\", \"의미\", \"조언\"],\n    },\n    \"호로스코프\": {\n        \"prompt\": \"사자자리의 2024년 연간 운세를 알려주세요.\",\n        \"keywords\": [\"사자\", \"운\", \"조언\", \"주의\"],\n    },\n}\n\nprint(\"✅ 전역 설정 정의 완료\")\nprint(f\"\\n📋 CONFIG:\")\nfor k, v in CONFIG.items():\n    print(f\"   {k}: {v}\")"
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# ============================================================\n",
+    "# 데이터 변환 함수 (tokenizer 필요)\n",
+    "# ============================================================\n",
+    "def format_alpaca_to_chat(example):\n",
+    "    \"\"\"Alpaca 포맷 → Qwen3 Chat Template 변환\"\"\"\n",
+    "    messages = [\n",
+    "        {\"role\": \"system\", \"content\": SYSTEM_PROMPT},\n",
+    "        {\"role\": \"user\", \"content\": example[\"instruction\"] + (\"\\n\" + example[\"input\"] if example.get(\"input\") else \"\")},\n",
+    "        {\"role\": \"assistant\", \"content\": example[\"output\"]},\n",
+    "    ]\n",
+    "    text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=False)\n",
+    "    return {\"text\": text}\n",
+    "\n",
+    "\n",
+    "def format_sharegpt_to_chat(example):\n",
+    "    \"\"\"ShareGPT 포맷 → Qwen3 Chat Template 변환\"\"\"\n",
+    "    convs = json.loads(example[\"conversations\"])\n",
+    "    \n",
+    "    messages = [{\"role\": \"system\", \"content\": SYSTEM_PROMPT}]\n",
+    "    for msg in convs:\n",
+    "        role = \"user\" if msg[\"role\"] == \"user\" else \"assistant\"\n",
+    "        messages.append({\"role\": role, \"content\": msg[\"content\"]})\n",
+    "    \n",
+    "    text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=False)\n",
+    "    return {\"text\": text}\n",
+    "\n",
+    "\n",
+    "print(\"✅ 데이터 변환 함수 정의 완료\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# ============================================================\n# 응답 생성 및 품질 평가 함수 (model, tokenizer 필요)\n# ============================================================\ndef generate_response(prompt: str, max_new_tokens: int = 256) -> str:\n    \"\"\"프롬프트에 대한 응답 생성\"\"\"\n    messages = [\n        {\"role\": \"system\", \"content\": SYSTEM_PROMPT},\n        {\"role\": \"user\", \"content\": prompt},\n    ]\n    \n    text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)\n    inputs = tokenizer(text, return_tensors=\"pt\").to(model.device)\n    \n    with torch.no_grad():\n        outputs = model.generate(\n            **inputs,\n            max_new_tokens=max_new_tokens,\n            do_sample=True,\n            temperature=0.7,\n            top_p=0.9,\n            pad_token_id=tokenizer.pad_token_id,\n        )\n    \n    response = tokenizer.decode(outputs[0][inputs['input_ids'].shape[1]:], skip_special_tokens=True)\n    return response.strip()\n\n\ndef evaluate_quality(response: str, keywords: list) -> dict:\n    \"\"\"응답 품질 평가\"\"\"\n    found_keywords = [kw for kw in keywords if kw in response]\n    score = len(found_keywords) / len(keywords) * 100\n    return {\n        \"score\": score,\n        \"found\": found_keywords,\n        \"response_length\": len(response),\n        \"response\": response,\n    }\n\n\ndef run_quality_evaluation(prompts: list, checks: dict, label: str = \"평가\"):\n    \"\"\"전체 품질 평가 실행\"\"\"\n    print(\"=\" * 60)\n    print(f\"📊 {label}\")\n    print(\"=\" * 60)\n    \n    # 샘플 응답\n    responses = {}\n    print(\"\\n📝 샘플 응답:\")\n    for i, prompt in enumerate(prompts, 1):\n        print(f\"\\n[{i}] 질문: {prompt}\")\n        print(\"-\" * 40)\n        response = generate_response(prompt)\n        responses[f\"sample_{i}\"] = {\"prompt\": prompt, \"response\": response}\n        print(f\"응답: {response[:300]}...\" if len(response) > 300 else f\"응답: {response}\")\n    \n    # 도메인별 품질 체크\n    print(\"\\n\" + \"=\" * 60)\n    print(f\"🔍 {label} 도메인별 품질:\")\n    print(\"=\" * 60)\n    \n    results = {}\n    for domain, check in checks.items():\n        response = generate_response(check[\"prompt\"])\n        result = evaluate_quality(response, check[\"keywords\"])\n        results[domain] = result\n        \n        status = \"✅\" if result[\"score\"] >= 50 else \"⚠️\"\n        print(f\"\\n{status} {domain}: {result['score']:.0f}%\")\n        print(f\"   키워드: {result['found']}\")\n        print(f\"   응답 길이: {result['response_length']}자\")\n    \n    # 종합 점수\n    avg_score = sum(r[\"score\"] for r in results.values()) / len(results)\n    print(f\"\\n📊 {label} 종합 점수: {avg_score:.0f}%\")\n    \n    return responses, results, avg_score\n\n\ndef shutdown_colab(mode):\n    \"\"\"Colab 세션 종료.\n    \n    Args:\n        mode: None (안 함), \"unassign\" (GPU만 해제), \"terminate\" (세션 종료)\n    \"\"\"\n    if mode is None:\n        print(\"ℹ️ 자동 종료 건너뜀\")\n        return\n    \n    try:\n        from google.colab import runtime\n        if mode == \"unassign\":\n            print(\"\\n🔌 GPU 할당 해제 중...\")\n            print(\"   → '런타임 다시 연결'로 복구 가능\")\n            runtime.unassign()\n        elif mode == \"terminate\":\n            print(\"\\n🛑 세션 완전 종료 중...\")\n            import os\n            os._exit(0)\n    except Exception as e:\n        print(f\"⚠️ 종료 실패: {e}\")\n\n\n# ============================================================\n# 노트북 백업 함수\n# ============================================================\ndef backup_notebook_to_hf(repo_id: str, notebook_name: str, commit_msg: str = None):\n    \"\"\"현재 노트북을 HuggingFace에 백업.\n    \n    Args:\n        repo_id: HuggingFace repo (예: \"tellang/yeji-training-notebooks\")\n        notebook_name: 노트북 파일명\n        commit_msg: 커밋 메시지 (None이면 자동 생성)\n    \"\"\"\n    from huggingface_hub import HfApi, create_repo\n    \n    api = HfApi()\n    \n    # 1. Repo 존재 확인 및 생성\n    try:\n        api.repo_info(repo_id=repo_id, repo_type=\"dataset\")\n        print(f\"✅ Repo 존재: {repo_id}\")\n    except Exception:\n        print(f\"📁 Repo 생성 중: {repo_id}\")\n        create_repo(repo_id, repo_type=\"dataset\", private=False)\n        print(f\"✅ Repo 생성 완료!\")\n    \n    # 2. 현재 노트북 경로 찾기 (Colab 환경)\n    import os\n    notebook_path = None\n    \n    # Colab에서 현재 노트북 찾기\n    for path in [\n        f\"/content/{notebook_name}\",\n        f\"/content/drive/MyDrive/Colab Notebooks/{notebook_name}\",\n        f\"/content/drive/MyDrive/{notebook_name}\",\n    ]:\n        if os.path.exists(path):\n            notebook_path = path\n            break\n    \n    if notebook_path is None:\n        # 현재 디렉토리에서 찾기\n        if os.path.exists(notebook_name):\n            notebook_path = notebook_name\n        else:\n            print(f\"⚠️ 노트북을 찾을 수 없음: {notebook_name}\")\n            print(\"   수동 업로드 필요\")\n            return False\n    \n    # 3. 업로드\n    if commit_msg is None:\n        commit_msg = f\"Backup: {notebook_name} ({datetime.now().strftime('%Y-%m-%d %H:%M')})\"\n    \n    print(f\"📤 업로드 중: {notebook_path}\")\n    api.upload_file(\n        path_or_fileobj=notebook_path,\n        path_in_repo=notebook_name,\n        repo_id=repo_id,\n        repo_type=\"dataset\",\n        commit_message=commit_msg,\n    )\n    \n    print(f\"✅ 백업 완료!\")\n    print(f\"   https://huggingface.co/datasets/{repo_id}\")\n    return True\n\n\ndef test_backup_connection(repo_id: str):\n    \"\"\"백업 연결 테스트 (repo 생성/접근 확인만)\"\"\"\n    from huggingface_hub import HfApi, create_repo\n    \n    api = HfApi()\n    \n    try:\n        # Repo 존재 확인\n        api.repo_info(repo_id=repo_id, repo_type=\"dataset\")\n        print(f\"✅ 백업 Repo 접근 가능: {repo_id}\")\n        return True\n    except Exception:\n        # Repo 생성 시도\n        try:\n            print(f\"📁 백업 Repo 생성 중: {repo_id}\")\n            create_repo(repo_id, repo_type=\"dataset\", private=False)\n            print(f\"✅ 백업 Repo 생성 완료!\")\n            return True\n        except Exception as e:\n            print(f\"❌ 백업 Repo 생성 실패: {e}\")\n            return False\n\n\nprint(\"✅ 평가 및 백업 함수 정의 완료\")"
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "---\n",
+    "## 3️⃣ 연결 테스트"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# HuggingFace 로그인\nfrom huggingface_hub import login\n\ndef extract_token(obj):\n    \"\"\"재귀적으로 토큰 추출\"\"\"\n    if isinstance(obj, str) and obj.startswith('hf_'):\n        return obj\n    if isinstance(obj, dict):\n        for key in ['token', 'HF_TOKEN', 'hf_token']:\n            if key in obj:\n                result = extract_token(obj[key])\n                if result:\n                    return result\n        for v in obj.values():\n            result = extract_token(v)\n            if result:\n                return result\n    return None\n\nHF_TOKEN = None\n\n# 1. Colab secrets\ntry:\n    from google.colab import userdata\n    raw = userdata.get('HF_TOKEN')\n    HF_TOKEN = extract_token(raw) if isinstance(raw, dict) else raw\nexcept Exception:\n    pass\n\n# 2. 환경변수\nif not HF_TOKEN:\n    import os\n    HF_TOKEN = os.environ.get('HF_TOKEN')\n\n# 3. 수동 입력\nif not HF_TOKEN or not isinstance(HF_TOKEN, str):\n    HF_TOKEN = input(\"HuggingFace 토큰 입력: \")\n\nlogin(token=HF_TOKEN)\nprint(\"✅ HuggingFace 로그인 완료!\")"
+  },
+  {
+   "cell_type": "code",
+   "source": "# 백업 Repo 연결 테스트\nprint(\"🔗 백업 Repo 연결 테스트...\")\nbackup_ok = test_backup_connection(CONFIG[\"notebook_backup_repo\"])\n\nif backup_ok:\n    print(f\"\\n📦 학습 완료 후 노트북이 자동 백업됩니다:\")\n    print(f\"   Repo: {CONFIG['notebook_backup_repo']}\")\n    print(f\"   File: {CONFIG['notebook_name']}\")",
+   "metadata": {},
+   "execution_count": null,
+   "outputs": []
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# 데이터셋 로드 테스트\n",
+    "from datasets import load_dataset\n",
+    "\n",
+    "print(\"📥 데이터셋 로드 테스트...\")\n",
+    "\n",
+    "# 밸런싱 데이터\n",
+    "balanced_ds = load_dataset(CONFIG[\"balanced_dataset\"], split=\"train\")\n",
+    "print(f\"✅ 밸런싱 데이터: {len(balanced_ds):,}건\")\n",
+    "\n",
+    "# 멀티턴 데이터\n",
+    "multiturn_ds = load_dataset(CONFIG[\"multiturn_dataset\"], split=\"train\")\n",
+    "print(f\"✅ 멀티턴 데이터: {len(multiturn_ds):,}건\")\n",
+    "\n",
+    "# 샘플 확인\n",
+    "print(\"\\n📝 밸런싱 데이터 샘플:\")\n",
+    "print(balanced_ds[0])\n",
+    "\n",
+    "print(\"\\n📝 멀티턴 데이터 샘플:\")\n",
+    "print(multiturn_ds[0])"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# 토크나이저는 모델과 함께 로드됨 (섹션 5에서)\n# 여기서는 Chat Template 테스트만 수행\n\nprint(\"📝 Chat Template 테스트 (토크나이저는 모델과 함께 로드 예정)\")\nprint(\"   → 섹션 5에서 model, tokenizer 동시 로드\")\n\n# 토크나이저 미리 로드 (데이터 변환용)\nfrom transformers import AutoTokenizer\n\ntokenizer = AutoTokenizer.from_pretrained(\n    CONFIG[\"base_model\"],\n    trust_remote_code=True,\n)\n\nif tokenizer.pad_token is None:\n    tokenizer.pad_token = tokenizer.eos_token\n\n# Chat Template 테스트\ntest_messages = [\n    {\"role\": \"system\", \"content\": \"당신은 전문 점술가입니다.\"},\n    {\"role\": \"user\", \"content\": \"1990년 5월 15일 사주를 봐주세요.\"},\n    {\"role\": \"assistant\", \"content\": \"경오년 신사월 갑진일입니다.\"},\n]\nformatted = tokenizer.apply_chat_template(test_messages, tokenize=False)\nprint(f\"\\n✅ Chat Template 테스트:\")\nprint(formatted[:200] + \"...\")"
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "---\n",
+    "## 4️⃣ 데이터 준비"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# 데이터 변환 및 병합\n",
+    "from datasets import concatenate_datasets\n",
+    "\n",
+    "print(\"🔄 데이터 변환 중...\")\n",
+    "\n",
+    "# 밸런싱 데이터 변환\n",
+    "print(f\"   밸런싱 데이터 변환 중... ({len(balanced_ds):,}건)\")\n",
+    "balanced_formatted = balanced_ds.map(\n",
+    "    format_alpaca_to_chat,\n",
+    "    remove_columns=balanced_ds.column_names,\n",
+    "    num_proc=4,\n",
+    "    desc=\"Formatting balanced\",\n",
+    ")\n",
+    "\n",
+    "# 멀티턴 데이터 변환\n",
+    "print(f\"   멀티턴 데이터 변환 중... ({len(multiturn_ds):,}건)\")\n",
+    "multiturn_formatted = multiturn_ds.map(\n",
+    "    format_sharegpt_to_chat,\n",
+    "    remove_columns=multiturn_ds.column_names,\n",
+    "    num_proc=4,\n",
+    "    desc=\"Formatting multiturn\",\n",
+    ")\n",
+    "\n",
+    "# 병합 및 셔플\n",
+    "print(\"   데이터셋 병합 및 셔플 중...\")\n",
+    "train_ds = concatenate_datasets([balanced_formatted, multiturn_formatted])\n",
+    "train_ds = train_ds.shuffle(seed=42)\n",
+    "\n",
+    "print(f\"\\n✅ 데이터 준비 완료: {len(train_ds):,}건\")\n",
+    "\n",
+    "# 샘플 확인\n",
+    "print(\"\\n📝 변환된 샘플:\")\n",
+    "print(train_ds[0][\"text\"][:500] + \"...\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# Train/Eval 분리 (95:5)\n",
+    "train_test = train_ds.train_test_split(test_size=0.05, seed=42)\n",
+    "train_dataset = train_test[\"train\"]\n",
+    "eval_dataset = train_test[\"test\"]\n",
+    "\n",
+    "print(f\"📊 Train/Eval 분리:\")\n",
+    "print(f\"   Train: {len(train_dataset):,}건 (95%)\")\n",
+    "print(f\"   Eval: {len(eval_dataset):,}건 (5%)\")"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": "---\n## 5️⃣ 모델 준비 (Unsloth)\n\nUnsloth의 FastLanguageModel로 2-3배 빠른 학습 및 40% 메모리 절약"
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# 🦥 Unsloth 모델 로드 (4-bit 양자화 자동 적용)\nprint(f\"📥 모델 로드 중: {CONFIG['base_model']}\")\nprint(\"   🦥 Unsloth FastLanguageModel 사용\")\nprint(\"   (약 1-2분 소요)\")\n\ntry:\n    model, tokenizer = FastLanguageModel.from_pretrained(\n        model_name=CONFIG[\"base_model\"],\n        max_seq_length=CONFIG[\"max_seq_length\"],\n        dtype=None,  # 자동 감지\n        load_in_4bit=True,  # 4-bit 양자화\n    )\n    \n    # 패딩 토큰 설정\n    if tokenizer.pad_token is None:\n        tokenizer.pad_token = tokenizer.eos_token\n        tokenizer.pad_token_id = tokenizer.eos_token_id\n    \n    print(f\"\\n✅ 모델 로드 완료!\")\n    print(f\"   max_seq_length: {CONFIG['max_seq_length']}\")\n    print(f\"   load_in_4bit: True\")\n\nexcept Exception as e:\n    print(f\"\\n❌ 모델 로드 실패: {e}\")\n    shutdown_colab(\"unassign\")\n    raise"
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# 🦥 QLoRA 어댑터 적용 (Unsloth)\n# ⚠️ 참고: Unsloth는 DoRA를 공식 지원하지 않음 (2026.01 기준)\n# QDoRA가 필요하면 기존 PEFT 노트북 사용 권장\n\nprint(\"🔧 QLoRA 어댑터 적용 중...\")\n\nmodel = FastLanguageModel.get_peft_model(\n    model,\n    r=16,  # DoRA 미지원으로 r 증가 (8→16)\n    lora_alpha=32,  # alpha도 증가\n    target_modules=[\n        \"q_proj\", \"k_proj\", \"v_proj\", \"o_proj\",\n        \"gate_proj\", \"up_proj\", \"down_proj\",\n    ],\n    lora_dropout=0,\n    bias=\"none\",\n    use_gradient_checkpointing=\"unsloth\",  # Unsloth 최적화\n    use_rslora=True,  # ✅ RSLoRA 활성화 (더 안정적)\n    loftq_config=None,\n    random_state=42,\n)\n\nprint(f\"\\n✅ QLoRA 어댑터 적용 완료!\")\nprint(f\"   r=16, alpha=32 (DoRA 대신 r 증가)\")\nprint(f\"   use_rslora=True (Rank Stabilized LoRA)\")\nprint(f\"   use_gradient_checkpointing='unsloth' (메모리 최적화)\")\n\nmodel.print_trainable_parameters()"
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "---\n",
+    "## 6️⃣ Baseline 측정 (학습 전)\n",
+    "\n",
+    "학습 전 Base 모델의 응답을 저장하여 Fine-tuning 효과를 비교합니다."
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# 🔍 Baseline 측정\n",
+    "baseline_responses, baseline_results, baseline_avg = run_quality_evaluation(\n",
+    "    TEST_PROMPTS, \n",
+    "    QUALITY_CHECKS, \n",
+    "    label=\"Baseline (학습 전)\"\n",
+    ")\n",
+    "\n",
+    "print(\"\\n⚠️ 이 점수를 학습 후와 비교합니다.\")"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "---\n",
+    "## 7️⃣ 학습"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# WandB 설정 (선택)\nif CONFIG[\"use_wandb\"]:\n    import wandb\n    \n    WANDB_KEY = None\n    try:\n        WANDB_KEY = userdata.get('WANDB_API_KEY')\n        if isinstance(WANDB_KEY, dict):\n            WANDB_KEY = WANDB_KEY.get('key') or WANDB_KEY.get('WANDB_API_KEY')\n    except Exception:\n        pass\n    \n    if not WANDB_KEY or not isinstance(WANDB_KEY, str):\n        WANDB_KEY = input(\"WandB API 키 입력 (Enter로 건너뛰기): \")\n    \n    if WANDB_KEY:\n        wandb.login(key=WANDB_KEY)\n        print(\"✅ WandB 로그인 완료!\")\n    else:\n        CONFIG[\"use_wandb\"] = False\n        print(\"⚠️ WandB 건너뜀\")"
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# 🦥 SFTConfig 설정 (Unsloth 최적화)\n# TRL 버전 확인\nimport trl\nprint(f\"TRL 버전: {trl.__version__}\")\n\nfrom trl import SFTConfig\n\nsft_config = SFTConfig(\n    # 출력\n    output_dir=\"./yeji-qlora-v1\",\n    run_name=\"yeji-qlora-8b-v1-unsloth\",\n    \n    # 학습 설정\n    num_train_epochs=CONFIG[\"num_epochs\"],\n    per_device_train_batch_size=CONFIG[\"batch_size\"],\n    per_device_eval_batch_size=CONFIG[\"batch_size\"],\n    gradient_accumulation_steps=CONFIG[\"grad_accum_steps\"],\n    \n    # Optimizer (Unsloth 권장)\n    learning_rate=CONFIG[\"learning_rate\"],\n    lr_scheduler_type=\"cosine\",\n    warmup_ratio=0.05,\n    weight_decay=0.01,\n    optim=\"adamw_8bit\",\n    \n    # Precision\n    bf16=True,\n    fp16=False,\n    \n    # 메모리 최적화\n    max_grad_norm=0.3,\n    \n    # 저장 & 로깅\n    save_strategy=\"steps\",\n    save_steps=CONFIG[\"save_steps\"],\n    save_total_limit=CONFIG[\"save_total_limit\"],\n    logging_steps=50,\n    \n    # 평가\n    eval_strategy=\"steps\",\n    eval_steps=CONFIG[\"eval_steps\"],\n    \n    # 기타\n    report_to=\"wandb\" if CONFIG[\"use_wandb\"] else \"none\",\n    load_best_model_at_end=True,\n    metric_for_best_model=\"eval_loss\",\n    greater_is_better=False,\n    \n    # HuggingFace Hub\n    push_to_hub=True,\n    hub_model_id=CONFIG[\"output_repo\"],\n    hub_strategy=\"checkpoint\",\n)\n\nprint(\"✅ SFTConfig 설정 완료\")\nprint(f\"   epochs: {sft_config.num_train_epochs}\")\nprint(f\"   batch_size: {sft_config.per_device_train_batch_size} x {sft_config.gradient_accumulation_steps}\")\nprint(f\"   lr: {sft_config.learning_rate}\")"
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# 🦥 SFTTrainer 초기화 (Unsloth)\nfrom trl import SFTTrainer\n\ntrainer = SFTTrainer(\n    model=model,\n    tokenizer=tokenizer,\n    args=sft_config,\n    train_dataset=train_dataset,\n    eval_dataset=eval_dataset,\n    dataset_text_field=\"text\",\n)\n\nprint(\"✅ SFTTrainer 초기화 완료!\")\nprint(\"   🦥 Unsloth가 max_seq_length 자동 처리\")"
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": "# 학습 시작! (에러 발생 시에도 리소스 해제)\nprint(\"=\" * 60)\nprint(\"🚀 YEJI QDoRA 학습 시작!\")\nprint(f\"   시작: {datetime.now().strftime('%Y-%m-%d %H:%M:%S')}\")\nprint(f\"   데이터: {len(train_dataset):,}건\")\nprint(f\"   Epochs: {CONFIG['num_epochs']}\")\nprint(f\"   Baseline 점수: {baseline_avg:.0f}%\")\nprint(\"=\" * 60)\n\nstart_time = time.time()\ntrain_result = None\n\ntry:\n    # 학습 실행\n    train_result = trainer.train()\n    \n    elapsed = time.time() - start_time\n    print(f\"\\n✅ 학습 완료!\")\n    print(f\"   소요: {elapsed/60:.1f}분 ({elapsed/3600:.2f}시간)\")\n    print(f\"   Final Train Loss: {train_result.training_loss:.4f}\")\n\nexcept KeyboardInterrupt:\n    elapsed = time.time() - start_time\n    print(f\"\\n⚠️ 학습 중단됨 (사용자 취소)\")\n    print(f\"   소요: {elapsed/60:.1f}분\")\n    print(\"\\n🔌 리소스 해제 중...\")\n    shutdown_colab(\"unassign\")\n    raise\n\nexcept Exception as e:\n    elapsed = time.time() - start_time\n    print(f\"\\n❌ 학습 실패!\")\n    print(f\"   에러: {type(e).__name__}: {e}\")\n    print(f\"   소요: {elapsed/60:.1f}분\")\n    print(\"\\n🔌 리소스 해제 중...\")\n    shutdown_colab(\"unassign\")\n    raise"
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "---\n",
+    "## 8️⃣ 평가 (Baseline 비교)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# Eval Loss 확인\n",
+    "eval_result = trainer.evaluate()\n",
+    "\n",
+    "print(\"📊 평가 결과:\")\n",
+    "print(f\"   Eval Loss: {eval_result['eval_loss']:.4f}\")\n",
+    "print(f\"   Eval Runtime: {eval_result['eval_runtime']:.1f}초\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# 🔍 학습 후 품질 평가\n",
+    "finetuned_responses, finetuned_results, finetuned_avg = run_quality_evaluation(\n",
+    "    TEST_PROMPTS, \n",
+    "    QUALITY_CHECKS, \n",
+    "    label=\"Fine-tuned (학습 후)\"\n",
+    ")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# 📊 Baseline vs Fine-tuned 비교\n",
+    "print(\"=\" * 60)\n",
+    "print(\"📊 Baseline vs Fine-tuned 비교\")\n",
+    "print(\"=\" * 60)\n",
+    "\n",
+    "for domain in finetuned_results:\n",
+    "    b_score = baseline_results[domain][\"score\"]\n",
+    "    f_score = finetuned_results[domain][\"score\"]\n",
+    "    diff = f_score - b_score\n",
+    "    diff_str = f\"+{diff:.0f}\" if diff >= 0 else f\"{diff:.0f}\"\n",
+    "    trend = \"📈\" if diff > 0 else (\"📉\" if diff < 0 else \"➡️\")\n",
+    "    status = \"✅\" if f_score >= 50 else \"⚠️\"\n",
+    "    \n",
+    "    print(f\"\\n{status} {domain}:\")\n",
+    "    print(f\"   Baseline: {b_score:.0f}% → Fine-tuned: {f_score:.0f}% ({trend} {diff_str}%)\")\n",
+    "\n",
+    "# 종합 점수 비교\n",
+    "improvement = finetuned_avg - baseline_avg\n",
+    "improvement_str = f\"+{improvement:.0f}\" if improvement >= 0 else f\"{improvement:.0f}\"\n",
+    "\n",
+    "print(\"\\n\" + \"=\" * 60)\n",
+    "print(\"📊 종합 점수 비교:\")\n",
+    "print(f\"   Baseline: {baseline_avg:.0f}%\")\n",
+    "print(f\"   Fine-tuned: {finetuned_avg:.0f}%\")\n",
+    "print(f\"   개선: {improvement_str}%\")\n",
+    "print(\"=\" * 60)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# 📊 Before vs After 응답 비교\n",
+    "print(\"=\" * 60)\n",
+    "print(\"📊 Before vs After 응답 비교\")\n",
+    "print(\"=\" * 60)\n",
+    "\n",
+    "for key in baseline_responses:\n",
+    "    prompt = baseline_responses[key][\"prompt\"]\n",
+    "    before = baseline_responses[key][\"response\"]\n",
+    "    after = finetuned_responses[key][\"response\"]\n",
+    "    \n",
+    "    print(f\"\\n🔹 질문: {prompt[:50]}...\")\n",
+    "    print(f\"\\n[Before] {before[:200]}...\" if len(before) > 200 else f\"\\n[Before] {before}\")\n",
+    "    print(f\"\\n[After] {after[:200]}...\" if len(after) > 200 else f\"\\n[After] {after}\")\n",
+    "    print(\"-\" * 60)"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "---\n",
+    "## 9️⃣ 저장 & 업로드"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# 최종 모델 저장 및 업로드\n",
+    "print(\"💾 최종 모델 저장 중...\")\n",
+    "\n",
+    "# 로컬 저장\n",
+    "trainer.save_model(\"./yeji-qdora-v1-final\")\n",
+    "tokenizer.save_pretrained(\"./yeji-qdora-v1-final\")\n",
+    "\n",
+    "print(\"✅ 로컬 저장 완료: ./yeji-qdora-v1-final\")\n",
+    "\n",
+    "# HuggingFace Hub 업로드\n",
+    "print(f\"\\n📤 HuggingFace Hub 업로드: {CONFIG['output_repo']}\")\n",
+    "trainer.push_to_hub(\n",
+    "    commit_message=f\"YEJI QDoRA v1 - Final (Loss: {train_result.training_loss:.4f}, Quality: {baseline_avg:.0f}%→{finetuned_avg:.0f}%)\"\n",
+    ")\n",
+    "\n",
+    "print(f\"\\n✅ 업로드 완료!\")\n",
+    "print(f\"   https://huggingface.co/{CONFIG['output_repo']}\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "source": "# 📦 노트북 HuggingFace 백업\nprint(\"=\" * 60)\nprint(\"📦 노트북 백업\")\nprint(\"=\" * 60)\n\nbackup_success = backup_notebook_to_hf(\n    repo_id=CONFIG[\"notebook_backup_repo\"],\n    notebook_name=CONFIG[\"notebook_name\"],\n    commit_msg=f\"Phase 1 Training Complete - Loss: {train_result.training_loss:.4f}, Quality: {baseline_avg:.0f}%→{finetuned_avg:.0f}%\"\n)\n\nif backup_success:\n    print(f\"\\n✅ 노트북 백업 완료!\")\nelse:\n    print(f\"\\n⚠️ 노트북 백업 실패 - 수동 업로드 필요\")",
+   "metadata": {},
+   "execution_count": null,
+   "outputs": []
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# 학습 결과 요약\n",
+    "print(\"\\n\" + \"=\" * 60)\n",
+    "print(\"📊 YEJI Phase 1 학습 결과 요약\")\n",
+    "print(\"=\" * 60)\n",
+    "\n",
+    "print(f\"\\n🔧 설정:\")\n",
+    "print(f\"   모델: {CONFIG['base_model']}\")\n",
+    "print(f\"   방법: QDoRA (r=8, alpha=16)\")\n",
+    "print(f\"   데이터: {len(train_dataset):,}건\")\n",
+    "print(f\"   Epochs: {CONFIG['num_epochs']}\")\n",
+    "\n",
+    "print(f\"\\n📈 메트릭:\")\n",
+    "print(f\"   Train Loss: {train_result.training_loss:.4f}\")\n",
+    "print(f\"   Eval Loss: {eval_result['eval_loss']:.4f}\")\n",
+    "print(f\"   학습 시간: {elapsed/60:.1f}분\")\n",
+    "\n",
+    "print(f\"\\n🎯 품질 (Baseline → Fine-tuned):\")\n",
+    "for domain in finetuned_results:\n",
+    "    b_score = baseline_results[domain][\"score\"]\n",
+    "    f_score = finetuned_results[domain][\"score\"]\n",
+    "    diff = f_score - b_score\n",
+    "    trend = \"📈\" if diff > 0 else (\"📉\" if diff < 0 else \"➡️\")\n",
+    "    status = \"✅\" if f_score >= 50 else \"⚠️\"\n",
+    "    print(f\"   {status} {domain}: {b_score:.0f}% → {f_score:.0f}% {trend}\")\n",
+    "\n",
+    "print(f\"\\n📊 종합: {baseline_avg:.0f}% → {finetuned_avg:.0f}% ({improvement_str}%)\")\n",
+    "\n",
+    "print(f\"\\n📦 출력:\")\n",
+    "print(f\"   HuggingFace: {CONFIG['output_repo']}\")\n",
+    "print(f\"   로컬: ./yeji-qdora-v1-final\")\n",
+    "\n",
+    "print(\"\\n\" + \"=\" * 60)"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "---\n",
+    "## 🔟 리소스 정리"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# GPU 메모리 정리\n",
+    "del model\n",
+    "del trainer\n",
+    "gc.collect()\n",
+    "torch.cuda.empty_cache()\n",
+    "\n",
+    "print(\"✅ GPU 메모리 정리 완료\")\n",
+    "!nvidia-smi"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# 자동 종료\n",
+    "if CONFIG[\"auto_shutdown\"]:\n",
+    "    print(f\"\\n⏰ 5초 후 자동 종료 ({CONFIG['auto_shutdown']})...\")\n",
+    "    print(\"   취소하려면 셀 실행을 중단하세요.\")\n",
+    "    time.sleep(5)\n",
+    "    shutdown_colab(CONFIG[\"auto_shutdown\"])\n",
+    "else:\n",
+    "    print(\"ℹ️ 자동 종료 비활성화됨\")"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "---\n",
+    "## 🧪 유틸리티"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# (선택) 체크포인트에서 이어서 학습\n",
+    "# trainer.train(resume_from_checkpoint=True)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# (선택) 학습된 모델로 추가 테스트\n",
+    "# from peft import PeftModel\n",
+    "# \n",
+    "# base = AutoModelForCausalLM.from_pretrained(CONFIG[\"base_model\"], ...)\n",
+    "# model = PeftModel.from_pretrained(base, CONFIG[\"output_repo\"])"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# GPU만 해제 (수동)\n",
+    "# from google.colab import runtime\n",
+    "# runtime.unassign()"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {},
+   "outputs": [],
+   "source": [
+    "# 세션 완전 종료 (수동)\n",
+    "# import os\n",
+    "# os._exit(0)"
+   ]
+  }
+ ],
+ "metadata": {
+  "accelerator": "GPU",
+  "colab": {
+   "gpuType": "A100",
+   "provenance": []
+  },
+  "kernelspec": {
+   "display_name": "Python 3",
+   "name": "python3"
+  },
+  "language_info": {
+   "name": "python",
+   "version": "3.10.12"
+  }
+ },
+ "nbformat": 4,
+ "nbformat_minor": 0
+}