Update app.py

app.py

@@ -54,10 +54,6 @@ def stream_generate(model, tokenizer, prompt, params, max_length, batch_size):
     output_ids = input_ids
 
     for _ in range(max_length // batch_size):
-        if st.session_state.get("stop_generation", False):
-            st.warning("Генерация остановлена!")
-            break
-
         with torch.no_grad():
             outputs = model.generate(
                 input_ids=output_ids,
@@ -79,10 +75,6 @@ def stream_generate(model, tokenizer, prompt, params, max_length, batch_size):
 
 # ================ Основное приложение ================
 def main():
-    # Инициализация состояния для кнопки остановки
-    if "stop_generation" not in st.session_state:
-        st.session_state.stop_generation = False
-
     model, tokenizer = load_model()
 
     # Основные параметры
@@ -98,21 +90,23 @@ def main():
 
     # Дополнительные настройки
     with st.expander("Дополнительные настройки"):
-        max_length = st.slider("Максимальная длина", 50, 300, 150)
-        num_variants = st.number_input("Количество вариантов", 1, 5, 1)
-        batch_size = st.slider("Размер батча токенов", 1, 20, 5, help="Количество токенов за шаг.")
-        temperature = st.slider("Температура", 0.01, 2.0, temperature, 0.05)
-        top_p = st.slider("Top-p", 0.01, 1.0, 0.9, 0.05)
-        top_k = st.number_input("Top-k", 1, 100, top_k)
-        no_repeat_ngram_size = st.slider("Размер n-грамм для предотвращения повторов", 1, 10, 3)
-
-    # Кнопка для остановки генерации
-    if st.button("Остановить генерацию"):
-        st.session_state.stop_generation = True
+        max_length = st.slider("Максимальная длина", 50, 300, 150, 
+                               help="Определяет максимальное количество токенов в тексте. Большее значение увеличивает длину отзыва.")
+        num_variants = st.number_input("Количество вариантов", 1, 5, 1, 
+                                       help="Сколько вариантов текста будет сгенерировано.")
+        batch_size = st.slider("Размер батча токенов", 1, 20, 5, 
+                               help="Количество токенов, генерируемых за один шаг. Больше – быстрее, но менее плавный вывод.")
+        temperature = st.slider("Температура", 0.01, 2.0, temperature, 0.05, 
+                                help="Регулирует степень случайности текста. Низкие значения делают текст более предсказуемым.")
+        top_p = st.slider("Top-p", 0.01, 1.0, 0.9, 0.05, 
+                          help="Фильтрует токены с низкой вероятностью. Меньшие значения делают текст более логичным.")
+        top_k = st.number_input("Top-k", 1, 100, top_k, 
+                                help="Ограничивает количество рассматриваемых токенов на каждом шаге. Меньшие значения делают текст точнее.")
+        no_repeat_ngram_size = st.slider("Размер n-грамм для предотвращения повторов", 1, 10, 3, 
+                                         help="Предотвращает повторение фраз длиной n-грамм.")
 
     # Генерация текста
     if st.button("Сгенерировать"):
-        st.session_state.stop_generation = False  # Сбрасываем состояние остановки
         if not key_words:
             st.warning("Введите ключевые слова.")
             return