Update app.py

app.py

@@ -114,10 +114,11 @@ from huggingface_hub import snapshot_download
 tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, trust_remote_code=True)
 print(f"[vLLM] Tokenizer loaded ✓", flush=True)
 
-# ── 모델 다운로드 + config.json 패치 (텍스트 전용 강제) ──
-print(f"[vLLM] Downloading {MODEL_ID}...", flush=True)
-MODEL_PATH = snapshot_download(MODEL_ID)
+# ── 모델 다운로드 (로컬 복사, symlink 아닌 실제 파일) ──
+print(f"[vLLM] Downloading {MODEL_ID} to /app/model ...", flush=True)
+MODEL_PATH = snapshot_download(MODEL_ID, local_dir="/app/model")
 print(f"[vLLM] Downloaded → {MODEL_PATH}", flush=True)
+print(f"[vLLM] Files: {os.listdir(MODEL_PATH)[:15]}", flush=True)
 
 _config_path = os.path.join(MODEL_PATH, "config.json")
 try:
@@ -160,9 +161,33 @@ try:
     if _removed_keys:
         print(f"[vLLM] Removed MM keys: {_removed_keys}", flush=True)
 
-    # 5. 프로세서 파일은 유지 — vLLM이 model_type 기반으로 필요로 함
-    # CausalLM으로 변경해도 프로세서 로드는 시도하므로, 파일이 있어야 에러 안 남
-    print(f"[vLLM] Preprocessor files kept (required by vLLM model registry)", flush=True)
+    # 5. preprocessor_config.json 패치 — video processor 참조 제거
+    _preproc_path = os.path.join(MODEL_PATH, "preprocessor_config.json")
+    if os.path.exists(_preproc_path):
+        try:
+            with open(_preproc_path) as f:
+                _preproc = json.load(f)
+            # video 관련 키 제거
+            _video_keys = [k for k in _preproc if "video" in k.lower()]
+            for k in _video_keys:
+                del _preproc[k]
+                _removed_keys.append(f"preproc.{k}")
+            # processor_class가 비디오를 참조하면 제거
+            if "processor_class" in _preproc:
+                _removed_keys.append(f"preproc.processor_class={_preproc['processor_class']}")
+            with open(_preproc_path, "w") as f:
+                json.dump(_preproc, f, indent=2)
+            print(f"[vLLM] preprocessor_config.json patched", flush=True)
+        except Exception as e:
+            print(f"[vLLM] preprocessor patch error: {e}", flush=True)
+
+    # video_preprocessor_config.json이 있으면 삭제 (이건 필요 없음)
+    _vidproc = os.path.join(MODEL_PATH, "video_preprocessor_config.json")
+    if os.path.exists(_vidproc):
+        os.remove(_vidproc)
+        print(f"[vLLM] Removed video_preprocessor_config.json", flush=True)
+
+    print(f"[vLLM] Preprocessor files handled", flush=True)
 
 except Exception as e:
     print(f"[vLLM] Config patch failed: {e} — proceeding with original", flush=True)