Spaces:
Sleeping
Sleeping
Update agent.py
Browse files
agent.py
CHANGED
|
@@ -92,12 +92,12 @@ class GaiaAgent:
|
|
| 92 |
# max_new_tokens är viktig för att styra svarets längd
|
| 93 |
generated_text = self.text_generator(
|
| 94 |
full_prompt,
|
| 95 |
-
max_new_tokens=
|
| 96 |
num_return_sequences=1,
|
| 97 |
pad_token_id=self.tokenizer.eos_token_id, # Viktigt för T5/Gemma
|
| 98 |
do_sample=True, # Aktivera sampling för mer variation
|
| 99 |
top_k=50, top_p=0.95, # Typiska samplingparametrar
|
| 100 |
-
temperature=0.
|
| 101 |
)[0]['generated_text']
|
| 102 |
|
| 103 |
# Extrahera endast den nya delen av texten (modellen genererar hela prompten + nytt svar)
|
|
|
|
| 92 |
# max_new_tokens är viktig för att styra svarets längd
|
| 93 |
generated_text = self.text_generator(
|
| 94 |
full_prompt,
|
| 95 |
+
max_new_tokens=1024, # Justera vid behov
|
| 96 |
num_return_sequences=1,
|
| 97 |
pad_token_id=self.tokenizer.eos_token_id, # Viktigt för T5/Gemma
|
| 98 |
do_sample=True, # Aktivera sampling för mer variation
|
| 99 |
top_k=50, top_p=0.95, # Typiska samplingparametrar
|
| 100 |
+
temperature=0.8 # Kontrollera kreativitet
|
| 101 |
)[0]['generated_text']
|
| 102 |
|
| 103 |
# Extrahera endast den nya delen av texten (modellen genererar hela prompten + nytt svar)
|