change api gradio to fastapi

app.py

@@ -1,46 +1,42 @@
-import gradio as gr
+from fastapi import FastAPI, HTTPException
+from pydantic import BaseModel
 from gradio_client import Client
 
-# Chargement du modèle
+# Charger le modèle depuis HuggingFace
 client = Client("Qwen/Qwen1.5-72B-Chat")
 
 # Prompt système
-system_prompt = "Tu es un assistant médical spécialisé dans le domaine du diabète. Donne des réponses claires, précises et utiles.D'abord ta première phrase sera de donner le type de diabète.Evite de dire que tu n'es pas médécin. Donne lui des recommendations pour qu'il n'attrape pas le diabète s'il n'a pas et aussi s'il a. Aussi le type de diabète sans oublié de préciser le niveau de son diabète : normale, élevé, hyperglycémie, post-prandile, etc ... Avant de commencer, faut toujours évaluer et dire le niveau d'atteinte de diabète sur en %."
-
-# Fonction principale pour interagir avec le modèle
-def repondre(question, historique):
-    if historique is None:
-        historique = []
-
-    # Appel au modèle
-    response = client.predict(
-        question,
-        historique,
-        system_prompt,
-        api_name="/model_chat"
-    )
-
-    # Récupération de l'historique mis à jour
-    new_history = response[1]
-
-    # Extraire la dernière réponse
-    reponse_texte = new_history[-1][1]
-    return reponse_texte, new_history
-
-# Interface Gradio
-demo = gr.Interface(
-    fn=repondre,
-    inputs=[
-        gr.Textbox(label="Votre question médical", placeholder="Ex : Mon taux de glycémie actuel est de 5.4 mmol/L avec un rythme cardique de 72bpm et une pression artérielle 120/80."),
-        gr.State([])
-    ],
-    outputs=[
-        gr.Textbox(label="Réponse de l'assistant"),
-        gr.State()
-    ],
-    title="Assistant Médical – Expert en Test diabétique",
-    description="Posez vos questions médicales concernant le diabète. L'assistant vous répondra avec des conseils clairs, utiles et adaptés."
+system_prompt = (
+    "Tu es un assistant médical spécialisé dans le domaine du diabète. "
+    "Donne des réponses claires, précises et utiles. D'abord ta première phrase sera de donner le type de diabète. "
+    "Evite de dire que tu n'es pas médécin. Donne lui des recommandations pour qu'il n'attrape pas le diabète s'il ne l'a pas, "
+    "et aussi s'il l'a. Aussi le type de diabète sans oublier de préciser le niveau de son diabète : normale, élevé, "
+    "hyperglycémie, post-prandiale, etc ... Avant de commencer, faut toujours évaluer et dire le niveau d'atteinte de diabète sur en %."
 )
 
-# Lancer l'app
-demo.launch(share=True)
+# App FastAPI
+app = FastAPI()
+
+# Modèle pour recevoir la requête
+class QuestionInput(BaseModel):
+    question: str
+    historique: list = []
+
+# Endpoint API pour interagir avec le modèle
+@app.post("/ask")
+async def ask_question(data: QuestionInput):
+    try:
+        response = client.predict(
+            data.question,
+            data.historique,
+            system_prompt,
+            api_name="/model_chat"
+        )
+        new_history = response[1]
+        reponse_texte = new_history[-1][1]
+        return {"response": reponse_texte, "history": new_history}
+    except Exception as e:
+        raise HTTPException(status_code=500, detail=str(e))
+if __name__ == "__main__":
+    import uvicorn
+    uvicorn.run(app, host="0.0.0.0", port=7860)

requirements.txt

@@ -1,2 +1,4 @@
-gradio==5.31.0
+fastapi==0.115.12
 gradio_client==1.10.1
+pydantic==2.11.5
+uvicorn==0.34.2