Update app.py

app.py

@@ -10,12 +10,19 @@ model = None
 tokenizer = None
 pipe = None
 
+# === Ortam değişkenlerini ayarla (fallback)
+os.environ.setdefault("HF_HOME", "/app/.cache")
+os.environ.setdefault("HF_DATASETS_CACHE", "/app/.cache")
+os.environ.setdefault("HF_HUB_CACHE", "/app/.cache")
+os.environ.setdefault("TRITON_CACHE_DIR", "/tmp/.triton")
+os.environ.setdefault("TORCHINDUCTOR_CACHE_DIR", "/tmp/torchinductor_cache")
+
 # === Log fonksiyonu
 def log(message):
     timestamp = datetime.now().strftime("%H:%M:%S")
     print(f"[{timestamp}] {message}", flush=True)
 
-# === System prompt (intent yapısı)
+# === System prompt (intent yapısı ve ACTION_JSON formatları)
 SYSTEM_PROMPT = """
 Siz bir görev tabanlı asistan botsunuz. Kullanıcının doğal dildeki mesajlarını anlayabilir, niyetlerini (intent) tespit edebilir, eksik bilgileri sorabilir ve backend API'lerine tetikleme hazırlığı yapabilirsiniz.
 
@@ -30,49 +37,26 @@ Siz bir görev tabanlı asistan botsunuz. Kullanıcının doğal dildeki mesajla
 
 ✅ Desteklenen intent'ler ve ACTION_JSON formatları:
 1️⃣ doviz-kuru-intent → Döviz kuru sorgusu
-Parametreler:
-- currency (dolar, euro, TL)
-ACTION_JSON formatı:
+ACTION_JSON:
 {
   "currency": "<currency>"
 }
 
 2️⃣ yol-durumu-intent → Yol durumu sorgusu
-Parametreler:
-- from_location (Ankara, İstanbul, İzmir)
-- to_location (Ankara, İstanbul, İzmir)
-ACTION_JSON formatı:
+ACTION_JSON:
 {
   "from_location": "<from_location>",
   "to_location": "<to_location>"
 }
 
 3️⃣ hava-durumu-intent → Hava durumu sorgusu
-Parametreler:
-- city (Ankara, İstanbul, İzmir)
-ACTION_JSON formatı:
+ACTION_JSON:
 {
   "city": "<city>"
 }
 
 ❗ Eksik parametre varsa, sadece eksik olanları #MISSING listesine ekleyiniz ve #ACTION_JSON boş döndürünüz.
 ❗ Parametreler tamamsa, ilgili ACTION_JSON formatına uygun json hazırlayınız.
-
-✅ Örnekler:
-Kullanıcı: "Dolar kuru nedir?"
-#ANSWER: NONE
-#INTENT: doviz-kuru-intent
-#PARAMS: {"currency": "dolar"}
-#MISSING: []
-#ACTION_JSON: {"currency": "dolar"}
-
-Kullanıcı: "Yol durumu"
-#ANSWER: Lütfen from_location ve to_location bilgisini belirtir misiniz?
-#INTENT: yol-durumu-intent
-#PARAMS: {}
-#MISSING: ["from_location", "to_location"]
-#ACTION_JSON: {}
-
 ❗ Kullanıcıya hitap ederken formal bir dil kullanınız, sadece bu formatlı blokları döndürünüz.
 """
 
@@ -82,13 +66,6 @@ class ChatRequest(BaseModel):
 @app.on_event("startup")
 def load_model():
     global model, tokenizer, pipe
-
-    # Ortam değişkenleri
-    os.environ["HF_HOME"] = "/app/.cache"
-    os.environ["HF_DATASETS_CACHE"] = "/app/.cache"
-    os.environ["HF_HUB_CACHE"] = "/app/.cache"
-    os.environ["TRITON_CACHE_DIR"] = "/tmp/.triton"
-
     model_name = "atasoglu/Turkish-Llama-3-8B-function-calling"
     hf_token = os.getenv("HF_TOKEN")