APP

app.py

@@ -6,7 +6,7 @@ def respond(
     message,
     history: list[dict[str, str]],
     system_message,
-    max_tokens,
+    max_new_tokens,
     temperature,
     top_p,
     hf_token: gr.OAuthToken,
@@ -26,7 +26,7 @@ def respond(
 
     for message in client.text_generation(
         messages,
-        max_tokens=max_tokens,
+        max_new_tokens=max_new_tokens,
         stream=True,
         temperature=temperature,
         top_p=top_p,