Auto commit at 07-2025-08 1:24:19

app.py

@@ -10,6 +10,11 @@ from PIL import Image
 import io
 import base64
 
+# 전역 변수로 선언
+tokenizer = None
+model = None
+MODEL_LOADED = False
+
 # .env 파일에서 환경 변수 로드
 try:
     from dotenv import load_dotenv
@@ -182,6 +187,26 @@ def chat_with_model(message, history, file=None):
         print(f"📝 DEBUG: 전체 메시지: {full_message[:200]}...")
         
         print("🔤 DEBUG: 토크나이저 처리 시작")
+        print(f"   tokenizer 타입: {type(tokenizer)}")
+        print(f"   tokenizer 값: {tokenizer}")
+        
+        # tokenizer가 올바른지 확인
+        if not hasattr(tokenizer, 'encode'):
+            print("❌ DEBUG: tokenizer가 올바르지 않음")
+            # tokenizer를 다시 로드
+            print("🔄 DEBUG: tokenizer 재로드 시도")
+            try:
+                tokenizer = AutoTokenizer.from_pretrained(
+                    MODEL_NAME,
+                    token=HF_TOKEN,
+                    trust_remote_code=True,
+                    use_fast=False
+                )
+                print("✅ DEBUG: tokenizer 재로드 성공")
+            except Exception as reload_error:
+                print(f"❌ DEBUG: tokenizer 재로드 실패: {reload_error}")
+                return f"토크나이저 오류: {str(reload_error)}"
+        
         inputs = tokenizer(full_message, return_tensors="pt")
         print(f"   입력 shape: {inputs['input_ids'].shape}")
         print(f"   attention_mask shape: {inputs['attention_mask'].shape}")
@@ -342,6 +367,26 @@ def solve_math_problem(problem, file=None):
         print(f"📝 DEBUG: 전체 프롬프트: {full_prompt[:200]}...")
         
         print("🔤 DEBUG: 토크나이저 처리 시작")
+        print(f"   tokenizer 타입: {type(tokenizer)}")
+        print(f"   tokenizer 값: {tokenizer}")
+        
+        # tokenizer가 올바른지 확인
+        if not hasattr(tokenizer, 'encode'):
+            print("❌ DEBUG: tokenizer가 올바르지 않음")
+            # tokenizer를 다시 로드
+            print("🔄 DEBUG: tokenizer 재로드 시도")
+            try:
+                tokenizer = AutoTokenizer.from_pretrained(
+                    MODEL_NAME,
+                    token=HF_TOKEN,
+                    trust_remote_code=True,
+                    use_fast=False
+                )
+                print("✅ DEBUG: tokenizer 재로드 성공")
+            except Exception as reload_error:
+                print(f"❌ DEBUG: tokenizer 재로드 실패: {reload_error}")
+                return f"토크나이저 오류: {str(reload_error)}"
+        
         inputs = tokenizer(full_prompt, return_tensors="pt")
         print(f"   입력 shape: {inputs['input_ids'].shape}")
         print(f"   attention_mask shape: {inputs['attention_mask'].shape}")