Update app.py

app.py

@@ -28,14 +28,14 @@ def predict(message, history, max_tokens, temperature, top_p):
     # Генерация ответа
     outputs = model.generate(
         input_ids=inputs, 
-        max_new_tokens=256,  # Увеличено для более длинных ответов
+        max_new_tokens=256,
         do_sample=True,
         temperature=0.7,
         top_p=0.95,
     )
     
     # Декодирование результата
-    response = tokenizer.decode(outputs[0][len(inputs[0]):], skip_special_tokens=True)
+    response = tokenizer.decode(outputs[0][len(inputs[0] + 9):], skip_special_tokens=True)
     
     return response.strip()