'app.py_fixed'

app.py

@@ -0,0 +1,149 @@
+import gradio as gr
+import os
+import requests
+import json
+from transformers import AutoTokenizer, AutoModelForCausalLM
+import torch
+
+# 환경 변수 (토큰은 환경 변수에서만 가져옴)
+HF_TOKEN = os.getenv("HF_TOKEN")
+MODEL_NAME = os.getenv("MODEL_NAME", "gbrabbit/lily-math-model")
+
+# 모델 로드 (로컬에서 직접 로드)
+try:
+    print("🤖 모델 로딩 중...")
+    if HF_TOKEN:
+        tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME, token=HF_TOKEN, trust_remote_code=True)
+        model = AutoModelForCausalLM.from_pretrained(MODEL_NAME, token=HF_TOKEN, torch_dtype=torch.float16, trust_remote_code=True)
+    else:
+        # 토큰이 없으면 공개 모델 사용
+        print("⚠️ 토큰이 없어서 공개 모델을 사용합니다.")
+        MODEL_NAME = "microsoft/DialoGPT-medium"
+        tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
+        model = AutoModelForCausalLM.from_pretrained(MODEL_NAME, torch_dtype=torch.float16)
+    print("✅ 모델 로딩 완료!")
+    MODEL_LOADED = True
+except Exception as e:
+    print(f"❌ 모델 로딩 실패: {e}")
+    MODEL_LOADED = False
+
+def chat_with_model(message, history):
+    """채팅 함수 (로컬 모델 사용)"""
+    if not MODEL_LOADED:
+        return "❌ 모델이 로드되지 않았습니다."
+    
+    try:
+        # 토크나이징
+        inputs = tokenizer(message, return_tensors="pt")
+        
+        # 생성
+        with torch.no_grad():
+            outputs = model.generate(
+                **inputs,
+                max_new_tokens=200,
+                temperature=0.7,
+                do_sample=True,
+                pad_token_id=tokenizer.eos_token_id
+            )
+        
+        # 디코딩
+        response = tokenizer.decode(outputs[0], skip_special_tokens=True)
+        
+        # 입력 제거하고 응답만 반환
+        if message in response:
+            response = response.replace(message, "").strip()
+        
+        return response if response else "죄송합니다. 응답을 생성할 수 없습니다."
+        
+    except Exception as e:
+        return f"오류 발생: {str(e)}"
+
+def solve_math_problem(problem):
+    """수학 문제 해결 함수 (로컬 모델 사용)"""
+    if not MODEL_LOADED:
+        return "❌ 모델이 로드되지 않았습니다."
+    
+    try:
+        # 수학 문제 해결을 위한 프롬프트
+        prompt = f"다음 수학 문제를 단계별로 풀어주세요: {problem}"
+        
+        # 토크나이징
+        inputs = tokenizer(prompt, return_tensors="pt")
+        
+        # 생성
+        with torch.no_grad():
+            outputs = model.generate(
+                **inputs,
+                max_new_tokens=300,
+                temperature=0.3,
+                do_sample=True,
+                pad_token_id=tokenizer.eos_token_id
+            )
+        
+        # 디코딩
+        response = tokenizer.decode(outputs[0], skip_special_tokens=True)
+        
+        # 입력 제거하고 응답만 반환
+        if prompt in response:
+            response = response.replace(prompt, "").strip()
+        
+        return response if response else "죄송합니다. 수학 문제를 풀 수 없습니다."
+        
+    except Exception as e:
+        return f"오류 발생: {str(e)}"
+
+# Gradio 인터페이스 생성 (호환성 수정)
+with gr.Blocks(title="Lily Math RAG System", theme=gr.themes.Soft()) as demo:
+    gr.Markdown("# 🧮 Lily Math RAG System")
+    gr.Markdown("수학 문제 해결을 위한 AI 시스템입니다.")
+    
+    with gr.Tabs():
+        # 채팅 탭
+        with gr.Tab("💬 채팅"):
+            chatbot = gr.Chatbot(height=400)
+            msg = gr.Textbox(
+                label="메시지를 입력하세요",
+                placeholder="안녕하세요! 수학 문제를 도와주세요.",
+                lines=2
+            )
+            clear = gr.Button("대화 초기화")
+            
+            def respond(message, chat_history):
+                bot_message = chat_with_model(message, chat_history)
+                chat_history.append((message, bot_message))
+                return "", chat_history
+            
+            msg.submit(respond, [msg, chatbot], [msg, chatbot])
+            clear.click(lambda: None, None, chatbot, queue=False)
+        
+        # 수학 문제 해결 탭
+        with gr.Tab("🧮 수학 문제 해결"):
+            with gr.Row():
+                with gr.Column():
+                    math_input = gr.Textbox(
+                        label="수학 문제",
+                        placeholder="예: 2x + 5 = 13",
+                        lines=3
+                    )
+                    solve_btn = gr.Button("문제 풀기", variant="primary")
+                
+                with gr.Column():
+                    math_output = gr.Textbox(
+                        label="해답",
+                        lines=8,
+                        interactive=False
+                    )
+            
+            solve_btn.click(solve_math_problem, math_input, math_output)
+        
+        # 설정 탭
+        with gr.Tab("⚙️ 설정"):
+            gr.Markdown("## 시스템 정보")
+            gr.Markdown(f"**모델**: {MODEL_NAME}")
+            gr.Markdown(f"**모델 상태**: {'✅ 로드됨' if MODEL_LOADED else '❌ 로드 실패'}")
+            gr.Markdown(f"**토큰 상태**: {'✅ 설정됨' if HF_TOKEN else '❌ 설정되지 않음'}")
+            gr.Markdown("**버전**: 2.0.0 (로컬 모델)")
+
+if __name__ == "__main__":
+    demo.launch()
+