Update app.py

app.py

@@ -2,12 +2,12 @@ import gradio as gr
 import time
 from transformers import pipeline
 
-# Инициализация моделей (CPU-совместимые)
+# Инициализация моделей
 models = {
     "ChatGPT-like": pipeline(
         "text-generation",
-        model="IlyaGusev/saiga_mistral_7b_text",
-        tokenizer="IlyaGusev/saiga_mistral_7b_text",
+        model="OpenAssistant/oasst-sft-4-pythia-12b-epoch-3.5",
+        tokenizer="OpenAssistant/oasst-sft-4-pythia-12b-epoch-3.5",
         device=-1
     ),
     "DeepSeek-like": pipeline(
@@ -18,84 +18,82 @@ models = {
     ),
     "GigaChat-like": pipeline(
         "text-generation",
-        model="tinkoff-ai/ruGPT3Large",
-        tokenizer="tinkoff-ai/ruGPT3Large",
+        model="tinkoff-ai/ruDialoGPT-medium",
+        tokenizer="tinkoff-ai/ruDialoGPT-medium",
         device=-1
     )
 }
 
-# Обычный промпт
+# Промпты
 def build_simple_prompt(user_input):
     return f"Клиент: {user_input}\nКатегория обращения:"
 
-# Промпт с рассуждением
 def build_cot_prompt(user_input):
     return (
         f"Клиент: {user_input}\n"
-        "Проанализируй обращение клиента пошагово:\n"
-        "1. В чём проблема?\n"
-        "2. Почему она возникла?\n"
-        "3. Как это можно решить?\n"
-        "Выведи итог: Категория обращения:"
+        "Проанализируй обращение пошагово:\n"
+        "1. В чём суть проблемы?\n"
+        "2. Возможные причины?\n"
+        "3. Решение?\n"
+        "Вывод: категория обращения:"
     )
 
-# Генерация
+# Генерация ответов
 def generate_classification(user_input):
     prompt_simple = build_simple_prompt(user_input)
     prompt_cot = build_cot_prompt(user_input)
 
     results = {}
-
     for name, pipe in models.items():
         # CoT
         start_cot = time.time()
-        cot_output = pipe(prompt_cot, max_new_tokens=150, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
-        end_cot = round(time.time() - start_cot, 2)
+        cot_out = pipe(prompt_cot, max_new_tokens=150, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
+        time_cot = round(time.time() - start_cot, 2)
 
         # Simple
         start_simple = time.time()
-        simple_output = pipe(prompt_simple, max_new_tokens=80, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
-        end_simple = round(time.time() - start_simple, 2)
+        simple_out = pipe(prompt_simple, max_new_tokens=80, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
+        time_simple = round(time.time() - start_simple, 2)
 
         results[name] = {
-            "cot_answer": cot_output.strip(),
-            "cot_time": end_cot,
-            "simple_answer": simple_output.strip(),
-            "simple_time": end_simple
+            "cot": cot_out.strip(),
+            "cot_time": time_cot,
+            "simple": simple_out.strip(),
+            "simple_time": time_simple
         }
 
     return (
-        results["ChatGPT-like"]["cot_answer"], f"{results['ChatGPT-like']['cot_time']} сек",
-        results["ChatGPT-like"]["simple_answer"], f"{results['ChatGPT-like']['simple_time']} сек",
-        results["DeepSeek-like"]["cot_answer"], f"{results['DeepSeek-like']['cot_time']} сек",
-        results["DeepSeek-like"]["simple_answer"], f"{results['DeepSeek-like']['simple_time']} сек",
-        results["GigaChat-like"]["cot_answer"], f"{results['GigaChat-like']['cot_time']} сек",
-        results["GigaChat-like"]["simple_answer"], f"{results['GigaChat-like']['simple_time']} сек"
+        results["ChatGPT-like"]["cot"], f"{results['ChatGPT-like']['cot_time']} сек",
+        results["ChatGPT-like"]["simple"], f"{results['ChatGPT-like']['simple_time']} сек",
+        results["DeepSeek-like"]["cot"], f"{results['DeepSeek-like']['cot_time']} сек",
+        results["DeepSeek-like"]["simple"], f"{results['DeepSeek-like']['simple_time']} сек",
+        results["GigaChat-like"]["cot"], f"{results['GigaChat-like']['cot_time']} сек",
+        results["GigaChat-like"]["simple"], f"{results['GigaChat-like']['simple_time']} сек"
     )
 
-# Gradio интерфейс
+# Интерфейс
 with gr.Blocks() as demo:
-    gr.Markdown("## 🧠 Сравнение моделей (ChatGPT, DeepSeek, GigaChat) по классификации клиентских обращений")
+    gr.Markdown("## 🤖 Сравнение моделей: ChatGPT, DeepSeek, GigaChat — классификация банковских обращений")
 
     inp = gr.Textbox(label="Вопрос клиента", placeholder="Например: Я не могу перевести деньги", lines=2)
     btn = gr.Button("Сгенерировать")
 
-    # ChatGPT-like
-    gr.Markdown("### ChatGPT-like (Saiga Mistral)")
+    # ChatGPT
+    gr.Markdown("### ChatGPT-like (OpenAssistant)")
     cot1 = gr.Textbox(label="CoT ответ")
     cot1_time = gr.Textbox(label="Время CoT")
     simple1 = gr.Textbox(label="Обычный ответ")
     simple1_time = gr.Textbox(label="Время обычного")
 
-    # DeepSeek-like
+    # DeepSeek
     gr.Markdown("### DeepSeek-like")
     cot2 = gr.Textbox(label="CoT ответ")
     cot2_time = gr.Textbox(label="Время CoT")
     simple2 = gr.Textbox(label="Обычный ответ")
     simple2_time = gr.Textbox(label="Время обычного")
 
-    # GigaChat-like
-    gr.Markdown("### GigaChat-like (ruGPT3Large)")
+    # GigaChat
+    gr.Markdown("### GigaChat-like (ruDialoGPT)")
     cot3 = gr.Textbox(label="CoT ответ")
     cot3_time = gr.Textbox(label="Время CoT")
     simple3 = gr.Textbox(label="Обычный ответ")