testing gpt neo

app.py

@@ -6,7 +6,9 @@ from typing import List, Tuple
 import asyncio
 
 # Initialisation du client Hugging Face
-client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
+# client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
+client = InferenceClient("EleutherAI/gpt-neo-1.3B")
+
 
 # Initialisation de FastAPI
 app = FastAPI()

client.py

@@ -5,11 +5,11 @@ url = "https://micksoftware-laria-startup.hf.space/predict"
 
 # Données pour la requête
 payload = {
-    "message": "quelle longueur d'ypothenuse pour un triangle de cote 4 et 9",
+    "message": "quelle longueur d'hypothenuse pour un triangle de cote 4 et 9",
     "history": [],
-    "system_message": "You are a friendly Chatbot.",
+    "system_message": "You are a friendly assistant. Answer questions briefly and do not continue conversations unless explicitly asked.",
     "max_tokens": 512,
-    "temperature": 0.7,
+    "temperature": 0.4,
     "top_p": 0.95,
 }