Fix OOM: KoSimCSE lazy 로드 + torch CPU 휠 + spaces 제거 + thread 제한

Dockerfile

@@ -19,7 +19,9 @@ ENV PYTHONUNBUFFERED=1 \
     PYTHONDONTWRITEBYTECODE=1 \
     PIP_NO_CACHE_DIR=1 \
     HF_HOME=/app/.cache/huggingface \
-    TRANSFORMERS_CACHE=/app/.cache/huggingface
+    KOSIMCSE_DEVICE=cpu \
+    OMP_NUM_THREADS=2 \
+    TOKENIZERS_PARALLELISM=false
 
 # HF Spaces 기본 포트
 ENV PORT=7860

api/main.py

@@ -71,7 +71,8 @@ app.add_middleware(
     allow_credentials=True, allow_methods=["*"], allow_headers=["*"],
 )
 
-# 전역 데이터 (앱 시작 시 1회 로드)
+# 전역 데이터 — 가벼운 것(TTL/청크/alias/lookup)만 startup에 로드.
+# KoSimCSE 임베딩은 메모리 스파이크가 커서 첫 질문 때 lazy 로드 (OOM 회피).
 print(f"[startup] LLM_BACKEND = {llm_adapters.LLM_BACKEND}")
 print(f"[startup] 데이터 로드: {TTL_PATH}")
 GRAPH = rag_engine.load_ttl(TTL_PATH)
@@ -79,9 +80,18 @@ CHUNKS = rag_engine.load_chunks(JSONL_PATH)
 ALIAS = rag_engine.load_alias(ALIAS_PATH)
 LOOKUP = rag_engine.load_lookup(LOOKUP_PATH)
 print(f"[startup] 트리플 {len(GRAPH):,}, 청크 {len(CHUNKS)}")
-print(f"[startup] KoSimCSE warm-up...")
-ss.warm_up(CHUNKS)
-print(f"[startup] ready")
+print(f"[startup] ready (KoSimCSE는 첫 질문 시 lazy 로드)")
+
+_kosimcse_warmed = False
+
+def _ensure_kosimcse():
+    """KoSimCSE 모델·임베딩을 첫 사용 시 한 번만 로드."""
+    global _kosimcse_warmed
+    if not _kosimcse_warmed:
+        print("[lazy] KoSimCSE warm-up 시작...")
+        ss.warm_up(CHUNKS)
+        _kosimcse_warmed = True
+        print("[lazy] KoSimCSE warm-up 완료")
 
 
 # ============================================================
@@ -158,6 +168,10 @@ def ask(req: AskRequest):
         raise HTTPException(400, "question is empty")
     mode = req.mode if req.mode in ("axisB", "keyword") else "axisB"
 
+    # axisB 모드는 KoSimCSE 의미검색 필요 → 첫 사용 시 lazy 로드
+    if mode == "axisB":
+        _ensure_kosimcse()
+
     # Python column: LLM 답변 생성 없이 raw 컨텍스트
     try:
         if mode == "axisB":

api/requirements.txt

@@ -1,3 +1,6 @@
+# torch는 CPU 전용 휠 사용 (CUDA 라이브러리 ~5GB 제거 → 이미지·메모리 대폭 감소)
+--extra-index-url https://download.pytorch.org/whl/cpu
+
 fastapi==0.115.6
 uvicorn[standard]==0.32.1
 pydantic==2.10.4
@@ -15,6 +18,3 @@ anthropic==0.40.0
 huggingface_hub==0.36.2
 requests
 ollama==0.4.4
-
-# Spaces ZeroGPU
-spaces