debug

app.py

@@ -45,6 +45,7 @@ def generate_stream(request: PredictionRequest):
             top_p=request.top_p,
         ):
             token = message.choices[0].delta.content
+            print(token)
             yield f"{token}\n"  # Chaque token avec un saut de ligne
     except Exception as e:
         yield f"Error: {str(e)}\n"