Update handler.py

handler.py

@@ -26,23 +26,30 @@ MODEL_ID = os.getenv("HF_MODEL_ID", "PULSE-ECG/PULSE-7B")
 os.environ.setdefault("FLASH_ATTENTION", "1")
 os.environ.setdefault("ATTN_IMPLEMENTATION", "flash_attention_2")
 
-# ===== LLaVA kaynak kodunu runtime'da getir (pip yok) =====
-LLAVA_GIT_URL = os.getenv("LLAVA_GIT_URL", "https://github.com/haotian-liu/LLaVA.git")
-LLAVA_GIT_REF = os.getenv("LLAVA_GIT_REF", "v1.2.2.post1")  # kanıtlı, stabil
-LLAVA_SRC_DIR = os.getenv("LLAVA_SRC_DIR", "/tmp/llava_src/LLaVA")
+# --- üst kısımda bu ENV/vars ayarları ---
+LLAVA_GIT_URL = os.getenv("LLAVA_GIT_URL", "https://github.com/AIMedLab/PULSE.git")
+LLAVA_GIT_REF = os.getenv("LLAVA_GIT_REF", "dev")  # PULSE dev branch
+# Not: SRC_DIR'i repo kökü değil, LLaVA alt klasörüne işaret ettiriyoruz:
+LLAVA_SRC_DIR = os.getenv("LLAVA_SRC_DIR", "/tmp/llava_src/PULSE/LLaVA")
 
 def _ensure_llava():
-    if not os.path.isdir(LLAVA_SRC_DIR):
-        os.makedirs(os.path.dirname(LLAVA_SRC_DIR), exist_ok=True)
+    # kök klasör: .../PULSE  (altına LLaVA dizini gelecek)
+    repo_root = os.path.dirname(LLAVA_SRC_DIR)  # /tmp/llava_src/PULSE
+    if not os.path.isdir(repo_root):
+        os.makedirs(os.path.dirname(repo_root), exist_ok=True)
+        import subprocess
         subprocess.run(
-            ["git", "clone", "--depth", "1", "--branch", LLAVA_GIT_REF, LLAVA_GIT_URL, LLAVA_SRC_DIR],
+            ["git", "clone", "--depth", "1", "--branch", LLAVA_GIT_REF,
+             LLAVA_GIT_URL, repo_root],
             check=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE
         )
+    # Python path'e doğrudan LLaVA alt klasörünü ekle
     if LLAVA_SRC_DIR not in sys.path:
         sys.path.insert(0, LLAVA_SRC_DIR)
 
 _ensure_llava()
 
+
 # ---- mm_utils fonksiyonlarını import etmeye çalış, yoksa kendi implement edelim ----
 try:
     from llava.mm_utils import tokenizer_image_token, process_images, get_model_name_from_path, load_image_from_base64