Update app.py

app.py

@@ -39,11 +39,24 @@ def respond(message, history, system_message, max_new_tokens, temperature, top_p
     try:
         global model
         if model is None:
+            print("Загружаем модель...")
             model = load_model()
+            print("Модель загружена")
         
         with gr.Progress() as progress:
             progress(0, desc="Подготовка контекста...")
             
+            # Отладочная печать входных параметров
+            print(f"""
+            Входные параметры:
+            - message: {message}
+            - history length: {len(history)}
+            - system_message: {system_message}
+            - max_new_tokens: {max_new_tokens}
+            - temperature: {temperature}
+            - top_p: {top_p}
+            """)
+            
             # Ограничиваем историю последними 3 сообщениями
             recent_history = history[-3:] if len(history) > 3 else history
             
@@ -54,25 +67,32 @@ def respond(message, history, system_message, max_new_tokens, temperature, top_p
             
             print(f"Генерируем ответ для контекста длиной {len(context)} символов")
             
-            progress(0.3, desc="Генерация ответа...")
-            response = model(
-                prompt=context,
-                max_tokens=max_new_tokens,
-                temperature=temperature,
-                top_p=top_p,
-                stop=["User:", "\n\n", "<|endoftext|>"],
-                echo=False
-            )
-            
-            progress(1, desc="Готово!")
-            generated_text = response['choices'][0]['text']
-            print(f"Ответ сгенерирован успешно, длина: {len(generated_text)}")
-            return generated_text.strip()
+            try:
+                progress(0.3, desc="Генерация ответа...")
+                response = model(
+                    prompt=context,
+                    max_tokens=max_new_tokens,
+                    temperature=temperature,
+                    top_p=top_p,
+                    stop=["User:", "\n\n", "<|endoftext|>"],
+                    echo=False
+                )
+                
+                progress(1, desc="Готово!")
+                generated_text = response['choices'][0]['text']
+                print(f"Ответ сгенерирован успешно, длина: {len(generated_text)}")
+                return generated_text.strip()
+            except Exception as inner_e:
+                print(f"Ошибка при генерации: {str(inner_e)}")
+                print(f"Тип ошибки: {type(inner_e).__name__}")
+                return f"Ошибка при генерации: {str(inner_e)}"
         
+    except KeyboardInterrupt:
+        return "Генерация прервана пользователем"
     except Exception as e:
-        error_msg = f"Произошла ошибка: {str(e)}"
-        print(error_msg)
-        return error_msg
+        print(f"Основная ошибка: {str(e)}")
+        print(f"Тип ошибки: {type(e).__name__}")
+        return f"Произошла ошибка: {str(e)}\nТип ошибки: {type(e).__name__}"
 
 # Создаем интерфейс с оптимизированными параметрами
 demo = gr.ChatInterface(
@@ -126,7 +146,7 @@ demo = gr.ChatInterface(
          0.95
         ]
     ],
-    cache_examples=False
+    cache_examples=True
 )
 
 # Запускаем приложение
@@ -138,4 +158,7 @@ if __name__ == "__main__":
     except Exception as e:
         print(f"Ошибка при инициализации: {str(e)}")
     
-    demo.launch()
+    demo.launch(
+        show_error=True,  # Показывать подробности ошибок
+        debug=True        # Включить отладочный режим
+    )