Update app.py

app.py

@@ -2,83 +2,88 @@ import gradio as gr
 from transformers import AutoModelForCausalLM, AutoTokenizer
 import torch
 import spaces
-import csv
 import os
-from datetime import datetime
- 
-MODEL_NAME = "microsoft/MediPhi-Instruct"
+
+# === CONFIGURATION ===
+MODEL_NAME = "facebook/MobileLLM-Pro"   # ✅ Plus léger et rapide
 INFO_FILE = "infos_medicaux.txt"
-MAX_TOKENS = 3500
-TEMPERATURE = 0.7
- 
-print("Chargement du modèle...")
+MAX_TOKENS = 800
+TEMPERATURE = 0.6
+
+# === CHARGEMENT DU MODÈLE ===
+print("⏳ Chargement du modèle...")
 tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME)
 model = AutoModelForCausalLM.from_pretrained(
     MODEL_NAME,
-    torch_dtype=torch.float32
+    torch_dtype=torch.float32,
 )
-print("Modèle chargé avec succès")
- 
+print("✅ Modèle chargé avec succès")
+
+# === CHARGEMENT DU CONTEXTE MÉDICAL ===
 if os.path.exists(INFO_FILE):
     with open(INFO_FILE, "r", encoding="utf-8") as f:
         medical_context = f.read()
-        print(f"Contexte médical chargé depuis {INFO_FILE} ({len(medical_context)} caractères)")
+        print(f"📘 Contexte médical chargé ({len(medical_context)} caractères)")
 else:
     medical_context = ""
-    print("Aucun fichier infos_medicaux.txt trouvé. FINANFA fonctionnera sans contexte médical local.")
+    print("⚠️ Aucun fichier infos_medicaux.txt trouvé.")
 
- 
+# === CHATBOT ===
 @spaces.GPU
 def chat_with_finanfa(message, history=None):
     if history is None:
         history = []
- 
+
     system_prompt = (
-        "Tu es FINANFA, un assistant médical intelligent, empathique et précis. "
-        "Tu t'appuies sur les connaissances médicales fournies dans ton contexte. "
+        "Tu es FINANFA, un assistant médical béninois, professionnel et empathique. "
+        "Tu t'appuies sur les connaissances médicales fournies ci-dessous. "
         "Tu ne réponds qu’aux questions liées à la santé, aux maladies ou aux médicaments. "
-        "Si une question n’est pas médicale, tu dis poliment que tu ne peux pas répondre."
+        "Si la question n’est pas médicale, dis poliment que tu ne peux pas répondre. "
+        "Donne des réponses claires, détaillées, avec des informations vérifiées au Bénin."
     )
- 
+
+    # Construction du contexte complet
     conversation = f"Système : {system_prompt}\n"
     if medical_context:
         conversation += f"Connaissances médicales : {medical_context}\n"
     for user_msg, bot_msg in history:
         conversation += f"Utilisateur : {user_msg}\nAssistant : {bot_msg}\n"
     conversation += f"Utilisateur : {message}\nAssistant :"
- 
+
+    # Génération
     inputs = tokenizer(conversation, return_tensors="pt", truncation=True)
-    outputs = model.generate(
-        **inputs,
-        max_new_tokens=MAX_TOKENS,
-        temperature=TEMPERATURE,
-        do_sample=True,
-        pad_token_id=tokenizer.eos_token_id,
-    )
- 
+    with torch.no_grad():
+        outputs = model.generate(
+            **inputs,
+            max_new_tokens=MAX_TOKENS,
+            temperature=TEMPERATURE,
+            do_sample=True,
+            pad_token_id=tokenizer.eos_token_id,
+        )
+
     response = tokenizer.decode(outputs[0], skip_special_tokens=True)
     response = response.split("Assistant :")[-1].strip()
- 
     return response
- 
+
+# === INTERFACE GRADIO ===
 with gr.Blocks(title="FINANFA — Chatbot Médical") as demo:
     gr.Markdown(
         """
         # 🏥 **FINANFA — Assistant Médical**
-        Cet assistant répond uniquement aux questions médicales  
+        Cet assistant répond uniquement aux questions médicales béninoises.  
         ⚠️ Il ne remplace pas un avis médical professionnel.
         """
     )
- 
+
     chat = gr.ChatInterface(
         fn=chat_with_finanfa,
         title="FINANFA - Assistant Médical",
-        description="Posez vos questions médicales en toute sécurité.",
+        description="Posez vos questions médicales locales en toute sécurité.",
         examples=[
             "Quels sont les symptômes du paludisme ?",
-            "Comment prévenir le diabète ?",
-            "Quels médicaments prendre pour la fièvre ?"
+            "Donne-moi la liste des cliniques spécialisées en santé sexuelle au Bénin.",
+            "Comment prévenir le diabète ?"
         ]
     )
- 
-demo.launch(server_name="0.0.0.0", server_port=7860)
+
+demo.launch(server_name="0.0.0.0", server_port=7860)