Auto commit at 09-2025-08 0:00:01

Dockerfile

@@ -37,15 +37,21 @@ RUN python -c "import nltk; nltk.download('punkt'); nltk.download('punkt_tab');
 COPY . .
 
 # 필요한 디렉토리 생성
-RUN mkdir -p /app/data /app/logs /app/models /app/uploads /app/vector_stores /app/temp /app/cache/transformers /app/cache/huggingface
+RUN mkdir -p /app/data /app/logs /app/models /app/uploads /app/vector_stores /app/temp /app/cache/transformers /app/cache/huggingface /app/cache/easyocr /app/cache/ocr_models
 
-# 권한 설정 - 캐시 디렉토리에 쓰기 권한 부여
+# 권한 설정 - 모든 캐시 및 데이터 디렉토리에 쓰기 권한 부여
 RUN chmod +x /app/*.py
 RUN chmod -R 777 /app/cache
 RUN chmod -R 777 /app/data
 RUN chmod -R 777 /app/logs
 RUN chmod -R 777 /app/uploads
 RUN chmod -R 777 /app/temp
+RUN chmod -R 777 /app/cache/easyocr
+RUN chmod -R 777 /app/cache/ocr_models
+
+# EasyOCR 및 기타 라이브러리를 위한 환경 변수 설정
+ENV EASYOCR_MODULE_PATH=/app/cache/easyocr
+ENV OCR_MODELS_PATH=/app/cache/ocr_models
 
 # Hugging Face 캐시 디렉토리 환경 변수 설정
 ENV TRANSFORMERS_CACHE=/app/cache/transformers

app_huggingface.py

@@ -32,12 +32,14 @@ def setup_huggingface_environment():
     # 필요한 디렉토리 생성
     directories = [
         "data", "logs", "models", "uploads", 
-        "vector_stores", "temp", "cache"
+        "vector_stores", "temp", "cache",
+        "cache/transformers", "cache/huggingface", 
+        "cache/easyocr", "cache/ocr_models"
     ]
     
     for dir_name in directories:
         dir_path = project_root / dir_name
-        dir_path.mkdir(exist_ok=True)
+        dir_path.mkdir(exist_ok=True, parents=True)
         logger.info(f"📁 디렉토리 생성: {dir_path}")
     
     # 환경 변수 설정
@@ -45,6 +47,8 @@ def setup_huggingface_environment():
         "TRANSFORMERS_CACHE": str(project_root / "cache" / "transformers"),
         "HF_HOME": str(project_root / "cache" / "huggingface"),
         "TORCH_HOME": str(project_root / "cache" / "torch"),
+        "EASYOCR_MODULE_PATH": str(project_root / "cache" / "easyocr"),
+        "OCR_MODELS_PATH": str(project_root / "cache" / "ocr_models"),
         "TOKENIZERS_PARALLELISM": "false",
         "OMP_NUM_THREADS": "1",
         "MKL_NUM_THREADS": "1"

lily_llm_api/models/kanana_1_5_v_3b_instruct.py

@@ -24,8 +24,8 @@ class Kanana15V3bInstructProfile:
             self.local_path = "./lily_llm_core/models/kanana_1_5_v_3b_instruct"
             self.display_name = "Kanana-1.5-v-3b-instruct (로컬)"
         else:
-            self.model_name = "gbrabbit/lily-math-model"  # Hugging Face 모델 경로
-            self.local_path = "./lily_llm_core/models/kanana_1_5_v_3b_instruct"
+            self.model_name = "gbrabbit/lily-math-model"  # Hugging Face Hub 모델 경로
+            self.local_path = None  # 서버에서는 로컬 경로 사용 안함
             self.display_name = "Kanana-1.5-v-3b-instruct (서버)"
             
         self.description = "카카오 멀티모달 모델 (3.6B) - Math RAG 특화"
@@ -146,9 +146,9 @@ class Kanana15V3bInstructProfile:
                     low_cpu_mem_usage=True,
                 ).to(DEVICE)
             else:
-                # Hugging Face Hub: 표준 AutoModel 사용
-                from transformers import AutoModelForCausalLM
-                model = AutoModelForCausalLM.from_pretrained(
+                # Hugging Face Hub: AutoModel 사용 (커스텀 설정 클래스 호환성)
+                from transformers import AutoModel
+                model = AutoModel.from_pretrained(
                     model_path,
                     trust_remote_code=True,
                     torch_dtype=torch.float16,