Update app.py
Browse files
app.py
CHANGED
|
@@ -333,11 +333,9 @@ async def call_hf_model(prompt: str, temperature: float = 0.5, max_tokens: int =
|
|
| 333 |
resp = client.text_generation(
|
| 334 |
HF_MODEL, # Argomento posizionale
|
| 335 |
prompt, # Argomento posizionale
|
| 336 |
-
|
| 337 |
-
|
| 338 |
-
|
| 339 |
-
"top_p": 0.9
|
| 340 |
-
}
|
| 341 |
)
|
| 342 |
# La struttura della risposta potrebbe variare; verifica il campo corretto
|
| 343 |
raw = resp.get("generated_text", "")
|
|
|
|
| 333 |
resp = client.text_generation(
|
| 334 |
HF_MODEL, # Argomento posizionale
|
| 335 |
prompt, # Argomento posizionale
|
| 336 |
+
temperature=temperature,
|
| 337 |
+
max_new_tokens=max_tokens,
|
| 338 |
+
top_p=0.9
|
|
|
|
|
|
|
| 339 |
)
|
| 340 |
# La struttura della risposta potrebbe variare; verifica il campo corretto
|
| 341 |
raw = resp.get("generated_text", "")
|