Update app.py

app.py

@@ -1,45 +1,45 @@
 import gradio as gr
 from transformers import pipeline
-import time
+import threading
 
-# 모델 로딩 중 표시
-status_message = "⏳ 모델 로딩 중입니다... 최대 5분 정도 걸릴 수 있어요."
-
-# 기본 파이프라인을 None으로 설정해두고, 아래에서 로딩
 chat_model = None
+loading_done = False
+status_text = "⏳ 모델 로딩 중입니다..."
+
+# 백그라운드에서 모델 로딩
+def load_model_bg():
+    global chat_model, loading_done, status_text
+    chat_model = pipeline("text-generation", model="beomi/KoAlpaca-Polyglot-5.8B")
+    loading_done = True
+    status_text = "✅ 모델 로딩 완료! 문장을 입력해보세요."
 
-# 대답 함수 정의
+# 대답 함수
 def chat_with_model(message, history):
-    global chat_model
-    if chat_model is None:
-        return history + [[message, "⚠️ 모델이 아직 로딩되지 않았습니다. 잠시만 기다려 주세요."]]
+    global chat_model, loading_done
+    if not loading_done:
+        return history + [[message, "⚠️ 모델이 아직 로딩 중입니다. 잠시만 기다려 주세요."]]
     
     prompt = f"다음 문장을 분석하고, 무례하거나 공격적인 표현이 있으면 알려주고 더 예의 있게 바꿔줘:\n\n{message}"
     response = chat_model(prompt, max_new_tokens=200)[0]['generated_text']
     return history + [[message, response]]
 
-# 모델 로딩 함수 (로딩 중 메시지를 UI에 보여주기 위해 따로 분리)
-def load_model():
-    global chat_model
-    time.sleep(1)  # 잠깐 기다리게 해서 status 표시가 적용되도록
-    chat_model = pipeline("text-generation", model="beomi/KoAlpaca-Polyglot-5.8B")
-    return "✅ 모델이 준비되었습니다. 이제 문장을 입력해 보세요!"
+# 상태 텍스트 반환 함수 (매번 새로 읽어옴)
+def get_status():
+    return status_text
 
-# Gradio Blocks 기반 UI
+# 백그라운드에서 모델 로딩 시작
+threading.Thread(target=load_model_bg).start()
+
+# Gradio 앱
 with gr.Blocks() as demo:
-    chatbot = gr.Chatbot(label="AI 문장 분석기")
-    msg = gr.Textbox(label="문장을 입력하세요", placeholder="예: 너는 정말 이상하게 행동해")
-    status = gr.Markdown(status_message)
-    
-    # 버튼 입력 시 연결
-    def respond_and_clear(user_input, history):
-        new_history = chat_with_model(user_input, history)
-        return "", new_history
+    chatbot = gr.Chatbot()
+    msg = gr.Textbox(label="문장을 입력하세요", placeholder="예: 너 정말 왜 그렇게 말해?")
+    status = gr.Markdown(get_status)
 
-    msg.submit(respond_and_clear, [msg, chatbot], [msg, chatbot])
+    def respond_and_clear(user_input, history):
+        updated_history = chat_with_model(user_input, history)
+        return "", updated_history, get_status()
 
-    # 모델 로딩 비동기 처리
-    gr.on_page_load(load_model, outputs=status)
+    msg.submit(respond_and_clear, [msg, chatbot], [msg, chatbot, status])
 
-# 실행
 demo.launch()