Spaces:
Paused
Paused
Update app.py
Browse files
app.py
CHANGED
|
@@ -22,12 +22,13 @@ def generate_response(prompt):
|
|
| 22 |
|
| 23 |
outputs = model.generate(
|
| 24 |
inputs.input_ids,
|
| 25 |
-
|
|
|
|
| 26 |
do_sample=True,
|
| 27 |
-
temperature=0.45, # 馃敼
|
| 28 |
-
top_p=0.9, # 馃敼 M谩s
|
| 29 |
-
repetition_penalty=1.1, # 馃敼 Evita repeticiones
|
| 30 |
-
early_stopping=
|
| 31 |
)
|
| 32 |
|
| 33 |
return tokenizer.decode(outputs[0], skip_special_tokens=True)
|
|
|
|
| 22 |
|
| 23 |
outputs = model.generate(
|
| 24 |
inputs.input_ids,
|
| 25 |
+
attention_mask=inputs.attention_mask, # 馃敼 Asegura que el modelo procese correctamente la entrada
|
| 26 |
+
max_new_tokens=50, # 馃敼 Control preciso sobre la generaci贸n
|
| 27 |
do_sample=True,
|
| 28 |
+
temperature=0.45, # 馃敼 Reduce la aleatoriedad sin hacer respuestas rob贸ticas
|
| 29 |
+
top_p=0.9, # 馃敼 M谩s fluidez y control en la elecci贸n de palabras
|
| 30 |
+
repetition_penalty=1.1, # 馃敼 Evita repeticiones innecesarias
|
| 31 |
+
early_stopping=False, # 馃敼 Ajustado para evitar la advertencia en Hugging Face
|
| 32 |
)
|
| 33 |
|
| 34 |
return tokenizer.decode(outputs[0], skip_special_tokens=True)
|