fix

app.py

@@ -1,3 +1,4 @@
+from starlette.types import Message
 from fastapi import FastAPI, HTTPException
 from fastapi.responses import StreamingResponse
 from huggingface_hub import InferenceClient
@@ -51,17 +52,29 @@ def generate_stream(request: PredictionRequest):
         yield f"Error: {str(e)}\n"
 
 
+class CustomStreamingResponse(StreamingResponse):
+    """
+    Personnalisation de StreamingResponse pour s'assurer que chaque chunk est envoyé immédiatement.
+    """
+
+    async def stream_response(self, send: Message):
+        async for chunk in self.body_iterator:
+            await send({"type": "http.response.body", "body": chunk, "more_body": True})
+        await send({"type": "http.response.body", "body": b"", "more_body": False})
+
+
 @app.post("/predict")
 def predict(request: PredictionRequest):
     """
     Endpoint REST avec réponse en streaming synchrone.
     """
-    return StreamingResponse(
+    return CustomStreamingResponse(
         generate_stream(request),
         media_type="text/plain"  # Peut être changé en JSON si nécessaire
     )
 
 
+
 # Pour le test en local
 if __name__ == "__main__":
     import uvicorn