Update app.py

app.py

@@ -3,59 +3,95 @@ import requests
 import os
 from fastapi import FastAPI
 from pydantic import BaseModel
-import uvicorn
 
+# 🔐 Token
 HF_TOKEN = os.environ.get("HF_TOKEN")
+
+# ✅ Use router endpoint (good choice)
 API_URL = "https://router.huggingface.co/hf-inference/models/mistralai/Mistral-7B-Instruct-v0.3"
 
-SYSTEM_PROMPT = "Tu es l'assistant SAV officiel du Centre Chery Tunisie. Tu réponds en français ou en arabe dialectal tunisien selon la langue du client. Réponds uniquement aux questions liées aux véhicules Chery, la maintenance, les pannes, et le service après-vente."
+# 🧠 System prompt
+SYSTEM_PROMPT = """Tu es l'assistant SAV officiel du Centre Chery Tunisie.
+Tu réponds en français ou en arabe dialectal tunisien selon la langue du client.
+Réponds uniquement aux questions liées aux véhicules Chery, la maintenance, les pannes et le service après-vente."""
 
+# 💬 Chat function
 def chat(message, history):
     prompt = f"[INST] <<SYS>>\n{SYSTEM_PROMPT}\n<</SYS>>\n\n"
+
     for h in history:
         if isinstance(h, dict):
-            if h["role"] == "user":
-                prompt += f"{h['content']} [/INST] "
+            if h.get("role") == "user":
+                prompt += f"{h.get('content')} [/INST] "
             else:
-                prompt += f"{h['content']} </s><s>[INST] "
+                prompt += f"{h.get('content')} </s><s>[INST] "
         else:
             prompt += f"{h[0]} [/INST] {h[1]} </s><s>[INST] "
+
     prompt += f"{message} [/INST]"
 
-    headers = {"Authorization": f"Bearer {HF_TOKEN}"}
+    headers = {
+        "Authorization": f"Bearer {HF_TOKEN}",
+        "Content-Type": "application/json"
+    }
+
     payload = {
         "inputs": prompt,
         "parameters": {
             "max_new_tokens": 300,
             "temperature": 0.7,
+            "top_p": 0.9,
+            "do_sample": True,
             "return_full_text": False
         }
     }
 
     try:
         response = requests.post(API_URL, headers=headers, json=payload, timeout=60)
+
+        # ✅ Check HTTP error
+        if response.status_code != 200:
+            return f"Erreur HTTP {response.status_code}: {response.text}"
+
         result = response.json()
+
+        # ✅ Handle response formats
         if isinstance(result, list):
             return result[0].get("generated_text", "Pas de réponse")
-        elif "error" in result:
-            return f"Erreur API: {result['error']}"
+
+        if isinstance(result, dict):
+            if "error" in result:
+                if "loading" in result["error"].lower():
+                    return "⏳ Le modèle est en cours de chargement, réessayez dans quelques secondes."
+                return f"Erreur API: {result['error']}"
+
         return str(result)
+
+    except requests.exceptions.Timeout:
+        return "⏱️ Timeout: le modèle met trop de temps à répondre."
     except Exception as e:
         return f"Erreur: {str(e)}"
 
+
+# 🚀 FastAPI
 app = FastAPI()
 
 class ChatRequest(BaseModel):
     message: str
     history: list = []
 
+
 @app.post("/api/chat")
 async def api_chat(req: ChatRequest):
-    response = chat(req.message, req.history)
-    return {"reply": response}
+    return {"reply": chat(req.message, req.history)}
+
 
-demo = gr.ChatInterface(fn=chat, title="Chery SAV Assistant")
-app = gr.mount_gradio_app(app, demo, path="/")
+# 🎨 Gradio UI
+demo = gr.ChatInterface(
+    fn=chat,
+    title="🚗 Chery SAV Assistant",
+    description="Assistant intelligent pour le service après-vente Chery Tunisie"
+)
 
-if __name__ == "__main__":
-    uvicorn.run(app, host="0.0.0.0", port=7860)
+# 🔗 Mount Gradio inside FastAPI
+app = gr.mount_gradio_app(app, demo, path="/")