Update app.py
Browse files
app.py
CHANGED
|
@@ -96,7 +96,7 @@ def generate_response(
|
|
| 96 |
inputs.input_ids,
|
| 97 |
max_new_tokens=max_new_tokens,
|
| 98 |
temperature=temperature if temperature > 0 else None,
|
| 99 |
-
do_sample=
|
| 100 |
top_p=0.95,
|
| 101 |
repetition_penalty=repetition_penalty, # штраф за повторяющиеся токены
|
| 102 |
early_stopping=True, # остановка при достижении eos_token
|
|
|
|
| 96 |
inputs.input_ids,
|
| 97 |
max_new_tokens=max_new_tokens,
|
| 98 |
temperature=temperature if temperature > 0 else None,
|
| 99 |
+
do_sample=False,
|
| 100 |
top_p=0.95,
|
| 101 |
repetition_penalty=repetition_penalty, # штраф за повторяющиеся токены
|
| 102 |
early_stopping=True, # остановка при достижении eos_token
|