sashadd commited on
Commit
8a83884
·
verified ·
1 Parent(s): 7e529da

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +1 -1
app.py CHANGED
@@ -96,7 +96,7 @@ def generate_response(
96
  inputs.input_ids,
97
  max_new_tokens=max_new_tokens,
98
  temperature=temperature if temperature > 0 else None,
99
- do_sample=True,
100
  top_p=0.95,
101
  repetition_penalty=repetition_penalty, # штраф за повторяющиеся токены
102
  early_stopping=True, # остановка при достижении eos_token
 
96
  inputs.input_ids,
97
  max_new_tokens=max_new_tokens,
98
  temperature=temperature if temperature > 0 else None,
99
+ do_sample=False,
100
  top_p=0.95,
101
  repetition_penalty=repetition_penalty, # штраф за повторяющиеся токены
102
  early_stopping=True, # остановка при достижении eos_token