Update app.py

app.py

@@ -1,46 +1,46 @@
 import gradio as gr
 from transformers import pipeline
 
-# ✅ 초경량 한국어 모델 (CPU에서도 빠름)
+# KoAlpaca 모델 로드
 generator = pipeline(
     "text-generation",
-    model="skt/kogpt2-base-v2"
+    model="beomi/KoAlpaca-Polyglot-1.1B",
+    device_map="auto"
 )
 
-# ✅ 입시 정보 AI 함수
-def college_ai(question):
-    prompt = f"""너는 한국 입시 전문가야.
-학생이 질문하면 간단하고 정확하게 알려줘.
-너무 장황하지 말고, 3~4문장 이내로 설명해줘.
-
-질문: {question}
-답변:"""
+# 응답 함수 정의
+def chat_with_koalpaca(message, history):
+    if history is None:
+        history = []
+    # 대화 맥락을 간단히 합치기
+    context = "\n".join([f"User: {h[0]}\nAssistant: {h[1]}" for h in history])
+    prompt = f"{context}\nUser: {message}\nAssistant:"
 
+    # 모델로부터 응답 생성
     response = generator(
         prompt,
-        max_new_tokens=80,  # 🔹 속도 향상
-        do_sample=True,
-        temperature=0.8,
+        max_new_tokens=200,
+        temperature=0.7,
         top_p=0.9,
-        repetition_penalty=1.2
-    )
+        repetition_penalty=1.1,
+        do_sample=True
+    )[0]["generated_text"]
 
-    answer = response[0]["generated_text"].split("답변:")[-1].strip()
-    return answer
+    # 프롬프트 이후 텍스트만 추출
+    answer = response.split("Assistant:")[-1].strip()
+    history.append((message, answer))
+    return answer, history
 
-# ✅ Gradio 인터페이스
-demo = gr.Interface(
-    fn=college_ai,
-    inputs=gr.Textbox(
-        lines=2,
-        placeholder="예: 가천대 학생부교과 전형 경쟁률 알려줘",
-        label="입시 관련 질문 입력"
-    ),
-    outputs=gr.Textbox(label="AI 답변"),
-    title="🎓 입시정보 AI (빠른 버전)",
-    description="한국 대학 입시, 학생부교과·종합·논술 전형 관련 정보를 빠르게 알려주는 인공지능입니다.",
-    theme="default"
-)
+# Gradio 인터페이스
+with gr.Blocks(theme=gr.themes.Soft()) as demo:
+    gr.Markdown("## 🦙 KoAlpaca Chatbot (Polyglot 1.1B)")
+    chatbot = gr.Chatbot(label="KoAlpaca")
+    msg = gr.Textbox(label="메시지를 입력하세요", placeholder="예: 안녕! 오늘 날씨 어때?")
+    clear = gr.Button("대화 초기화")
+
+    msg.submit(chat_with_koalpaca, [msg, chatbot], [msg, chatbot])
+    clear.click(lambda: None, None, chatbot, queue=False)
 
+# 앱 실행
 if __name__ == "__main__":
     demo.launch()