Update app.py

app.py

@@ -2,38 +2,38 @@ import gradio as gr
 import time
 from transformers import pipeline
 
-# Настройка моделей
+# Настройка моделей (лёгкие и совместимые с Hugging Face Spaces)
 models = {
-    "ChatGPT-like (FRED-T5)": pipeline("text2text-generation", model="ai-forever/FRED-T5-1.7B", tokenizer="ai-forever/FRED-T5-1.7B", device=-1),
-    "DeepSeek-like (Qwen7B)": pipeline("text-generation", model="lightblue/DeepSeek-R1-Distill-Qwen-7B-Multilingual", tokenizer="lightblue/DeepSeek-R1-Distill-Qwen-7B-Multilingual", device=-1),
-    "GigaChat-like (GigaChat-20B)": pipeline("text-generation", model="ai-sage/GigaChat-20B-A3B-instruct", tokenizer="ai-sage/GigaChat-20B-A3B-instruct", device=-1)
+    "ChatGPT-like (Falcon)": pipeline("text-generation", model="tiiuae/falcon-7b-instruct", tokenizer="tiiuae/falcon-7b-instruct", device=-1),
+    "DeepSeek-like": pipeline("text-generation", model="deepseek-ai/deepseek-coder-6.7b-instruct", tokenizer="deepseek-ai/deepseek-coder-6.7b-instruct", device=-1),
+    "GigaChat-like (Mistral)": pipeline("text-generation", model="mistralai/Mistral-7B-Instruct", tokenizer="mistralai/Mistral-7B-Instruct", device=-1)
 }
 
 # Промпты
-cot_instruction = """Ты — банковский специалист. Клиент задал вопрос.
-Проанализируй обращение пошагово:
-1. В чём проблема?
-2. Возможные причины?
-3. Как решить?
-Вывод: категория обращения."""
+cot_instruction = """Ты — банковский помощник. Клиент описал проблему.
+Проанализируй обращение шаг за шагом:
+1. Что случилось?
+2. Почему это могло произойти?
+3. Как клиенту поступить?
+Вывод: укажи категорию обращения (например: доступ, безопасность, платежи, перевод и т.д.)"""
 
-simple_instruction = "Ты — банковский специалист. Определи категорию обращения клиента кратко."
+simple_instruction = "Ты — банковский помощник. Определи кратко, к какой категории относится обращение клиента (например: доступ, платежи, безопасность и т.д.)."
 
-# Генерация промптов
+# Формирование промптов
 
 def build_prompt(instruction, user_input):
     return f"{instruction}\n\nКлиент: {user_input}"
 
-# Обработка ответа
+# Генерация вывода с защитой
 
-def get_output(pipe, prompt, max_tokens=300):
+def get_output(pipe, prompt, max_tokens=200):
     try:
         output = pipe(prompt, max_new_tokens=max_tokens, truncation=True, do_sample=True, temperature=0.7)[0]
         return output.get("generated_text") or output.get("output_text") or "(нет ответа)"
     except Exception as e:
         return f"Ошибка: {e}"
 
-# Основная функция
+# Основная функция сравнения
 
 def generate_comparison(user_input):
     result = {}
@@ -59,37 +59,37 @@ def generate_comparison(user_input):
         }
 
     return (
-        result["ChatGPT-like (FRED-T5)"]["cot_answer"], result["ChatGPT-like (FRED-T5)"]["cot_time"],
-        result["ChatGPT-like (FRED-T5)"]["simple_answer"], result["ChatGPT-like (FRED-T5)"]["simple_time"],
-        result["DeepSeek-like (Qwen7B)"]["cot_answer"], result["DeepSeek-like (Qwen7B)"]["cot_time"],
-        result["DeepSeek-like (Qwen7B)"]["simple_answer"], result["DeepSeek-like (Qwen7B)"]["simple_time"],
-        result["GigaChat-like (GigaChat-20B)"]["cot_answer"], result["GigaChat-like (GigaChat-20B)"]["cot_time"],
-        result["GigaChat-like (GigaChat-20B)"]["simple_answer"], result["GigaChat-like (GigaChat-20B)"]["simple_time"]
+        result["ChatGPT-like (Falcon)"]["cot_answer"], result["ChatGPT-like (Falcon)"]["cot_time"],
+        result["ChatGPT-like (Falcon)"]["simple_answer"], result["ChatGPT-like (Falcon)"]["simple_time"],
+        result["DeepSeek-like"]["cot_answer"], result["DeepSeek-like"]["cot_time"],
+        result["DeepSeek-like"]["simple_answer"], result["DeepSeek-like"]["simple_time"],
+        result["GigaChat-like (Mistral)"]["cot_answer"], result["GigaChat-like (Mistral)"]["cot_time"],
+        result["GigaChat-like (Mistral)"]["simple_answer"], result["GigaChat-like (Mistral)"]["simple_time"]
     )
 
 # Интерфейс
 with gr.Blocks() as demo:
-    gr.Markdown("## Сравнение моделей: ChatGPT, DeepSeek, GigaChat (банковская классификация)")
+    gr.Markdown("## Сравнение моделей: Falcon, DeepSeek, Mistral (Классификация обращений в банке)")
 
-    inp = gr.Textbox(label="Вопрос клиента", placeholder="Например: Я не могу оплатить картой", lines=2)
+    inp = gr.Textbox(label="Вопрос клиента", placeholder="Например: Я не могу войти в личный кабинет", lines=2)
     btn = gr.Button("Сгенерировать")
 
     # ChatGPT-like
-    gr.Markdown("### ChatGPT-like (FRED-T5)")
+    gr.Markdown("### ChatGPT-like (Falcon)")
     cot1 = gr.Textbox(label="CoT ответ")
     cot1_time = gr.Textbox(label="Время CoT")
     simple1 = gr.Textbox(label="Обычный ответ")
     simple1_time = gr.Textbox(label="Время обычного")
 
     # DeepSeek-like
-    gr.Markdown("### DeepSeek-like (Qwen7B)")
+    gr.Markdown("### DeepSeek-like")
     cot2 = gr.Textbox(label="CoT ответ")
     cot2_time = gr.Textbox(label="Время CoT")
     simple2 = gr.Textbox(label="Обычный ответ")
     simple2_time = gr.Textbox(label="Время обычного")
 
     # GigaChat-like
-    gr.Markdown("### GigaChat-like (GigaChat-20B)")
+    gr.Markdown("### GigaChat-like (Mistral)")
     cot3 = gr.Textbox(label="CoT ответ")
     cot3_time = gr.Textbox(label="Время CoT")
     simple3 = gr.Textbox(label="Обычный ответ")