Update app.py

app.py

@@ -6,8 +6,8 @@ from transformers import pipeline
 models = {
     "ChatGPT-like": pipeline(
         "text-generation",
-        model="OpenAssistant/oasst-sft-4-pythia-12b-epoch-3.5",
-        tokenizer="OpenAssistant/oasst-sft-4-pythia-12b-epoch-3.5",
+        model="tiiuae/falcon-rw-1b",
+        tokenizer="tiiuae/falcon-rw-1b",
         device=-1
     ),
     "DeepSeek-like": pipeline(
@@ -32,27 +32,28 @@ def build_cot_prompt(user_input):
     return (
         f"Клиент: {user_input}\n"
         "Проанализируй обращение пошагово:\n"
-        "1. В чём суть проблемы?\n"
+        "1. В чём проблема?\n"
         "2. Возможные причины?\n"
-        "3. Решение?\n"
+        "3. Как решить?\n"
         "Вывод: категория обращения:"
     )
 
-# Генерация ответов
+# Генерация
 def generate_classification(user_input):
     prompt_simple = build_simple_prompt(user_input)
     prompt_cot = build_cot_prompt(user_input)
 
     results = {}
+
     for name, pipe in models.items():
         # CoT
         start_cot = time.time()
-        cot_out = pipe(prompt_cot, max_new_tokens=150, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
+        cot_out = pipe(prompt_cot, max_new_tokens=120, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
         time_cot = round(time.time() - start_cot, 2)
 
         # Simple
         start_simple = time.time()
-        simple_out = pipe(prompt_simple, max_new_tokens=80, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
+        simple_out = pipe(prompt_simple, max_new_tokens=60, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
         time_simple = round(time.time() - start_simple, 2)
 
         results[name] = {
@@ -73,27 +74,27 @@ def generate_classification(user_input):
 
 # Интерфейс
 with gr.Blocks() as demo:
-    gr.Markdown("## 🤖 Сравнение моделей: ChatGPT, DeepSeek, GigaChat — классификация банковских обращений")
+    gr.Markdown("## 🏦 Сравнение моделей: ChatGPT, DeepSeek, GigaChat (банковская классификация)")
 
-    inp = gr.Textbox(label="Вопрос клиента", placeholder="Например: Я не могу перевести деньги", lines=2)
+    inp = gr.Textbox(label="Вопрос клиента", placeholder="Например: Я не могу войти в личный кабинет", lines=2)
     btn = gr.Button("Сгенерировать")
 
-    # ChatGPT
-    gr.Markdown("### ChatGPT-like (OpenAssistant)")
+    # ChatGPT-like
+    gr.Markdown("### ChatGPT-like (Falcon RW 1B)")
     cot1 = gr.Textbox(label="CoT ответ")
     cot1_time = gr.Textbox(label="Время CoT")
     simple1 = gr.Textbox(label="Обычный ответ")
     simple1_time = gr.Textbox(label="Время обычного")
 
-    # DeepSeek
+    # DeepSeek-like
     gr.Markdown("### DeepSeek-like")
     cot2 = gr.Textbox(label="CoT ответ")
     cot2_time = gr.Textbox(label="Время CoT")
     simple2 = gr.Textbox(label="Обычный ответ")
     simple2_time = gr.Textbox(label="Время обычного")
 
-    # GigaChat
-    gr.Markdown("### GigaChat-like (ruDialoGPT)")
+    # GigaChat-like
+    gr.Markdown("### GigaChat-like (ruDialoGPT-medium)")
     cot3 = gr.Textbox(label="CoT ответ")
     cot3_time = gr.Textbox(label="Время CoT")
     simple3 = gr.Textbox(label="Обычный ответ")