Update app.py

app.py

@@ -4,31 +4,31 @@ from transformers import pipeline
 
 # Инициализация моделей
 models = {
-    "ruGPT3-Medium": pipeline(
+    "ChatGPT-like": pipeline(
         "text-generation",
-        model="ai-forever/rugpt3medium_based_on_gpt2",
-        tokenizer="ai-forever/rugpt3medium_based_on_gpt2",
+        model="Gre8o8nta/ChatGPT",
+        tokenizer="Gre8o8nta/ChatGPT",
         device=-1
     ),
-    "ruGPT3-Small": pipeline(
+    "DeepSeek-like": pipeline(
         "text-generation",
-        model="ai-forever/rugpt3small_based_on_gpt2",
-        tokenizer="ai-forever/rugpt3small_based_on_gpt2",
+        model="deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B",
+        tokenizer="deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B",
         device=-1
     ),
-    "SambaLingo": pipeline(
+    "GigaChat-like": pipeline(
         "text-generation",
-        model="sambanovasystems/SambaLingo-Russian-Chat",
-        tokenizer="sambanovasystems/SambaLingo-Russian-Chat",
+        model="IlyaGusev/saiga_mistral_7b_text",
+        tokenizer="IlyaGusev/saiga_mistral_7b_text",
         device=-1
     )
 }
 
-# Построение обычного промпта
+# Промпт простой
 def build_simple_prompt(user_input):
     return f"Клиент: {user_input}\nКатегория обращения:"
 
-# Построение CoT-промпта
+# Промпт с рассуждением
 def build_cot_prompt(user_input):
     return (
         f"Клиент: {user_input}\n"
@@ -39,7 +39,7 @@ def build_cot_prompt(user_input):
         "На основе анализа, укажи категорию обращения:"
     )
 
-# Генерация результатов
+# Генерация ответов
 def generate_classification(user_input):
     prompt_simple = build_simple_prompt(user_input)
     prompt_cot = build_cot_prompt(user_input)
@@ -49,12 +49,12 @@ def generate_classification(user_input):
     for name, pipe in models.items():
         # CoT ответ
         start_cot = time.time()
-        cot_output = pipe(prompt_cot, max_new_tokens=100, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
+        cot_output = pipe(prompt_cot, max_new_tokens=150, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
         end_cot = round(time.time() - start_cot, 2)
 
         # Обычный ответ
         start_simple = time.time()
-        simple_output = pipe(prompt_simple, max_new_tokens=60, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
+        simple_output = pipe(prompt_simple, max_new_tokens=80, do_sample=True, top_p=0.9, temperature=0.7)[0]["generated_text"]
         end_simple = round(time.time() - start_simple, 2)
 
         results[name] = {
@@ -65,34 +65,37 @@ def generate_classification(user_input):
         }
 
     return (
-        results["ruGPT3-Medium"]["cot_answer"], f"{results['ruGPT3-Medium"]["cot_time"]} сек",
-        results["ruGPT3-Medium"]["simple_answer"], f"{results["ruGPT3-Medium"]["simple_time"]} сек",
-        results["ruGPT3-Small"]["cot_answer"], f"{results["ruGPT3-Small"]["cot_time"]} сек",
-        results["ruGPT3-Small"]["simple_answer"], f"{results["ruGPT3-Small"]["simple_time"]} сек",
-        results["SambaLingo"]["cot_answer"], f"{results["SambaLingo"]["cot_time"]} сек",
-        results["SambaLingo"]["simple_answer"], f"{results["SambaLingo"]["simple_time"]} сек"
+        results["ChatGPT-like"]["cot_answer"], f"{results['ChatGPT-like']['cot_time']} сек",
+        results["ChatGPT-like"]["simple_answer"], f"{results['ChatGPT-like']['simple_time']} сек",
+        results["DeepSeek-like"]["cot_answer"], f"{results['DeepSeek-like']['cot_time']} сек",
+        results["DeepSeek-like"]["simple_answer"], f"{results['DeepSeek-like']['simple_time']} сек",
+        results["GigaChat-like"]["cot_answer"], f"{results['GigaChat-like']['cot_time']} сек",
+        results["GigaChat-like"]["simple_answer"], f"{results['GigaChat-like']['simple_time']} сек"
     )
 
 # Gradio UI
-with gr.Blocks(theme=gr.themes.Soft()) as demo:
-    gr.Markdown("🏦 **Банковский помощник: CoT vs. Обычный ответ (магистерская работа)**")
+with gr.Blocks() as demo:
+    gr.Markdown("🏦 **Сравнение моделей ChatGPT, DeepSeek и GigaChat по классификации банковских обращений (CoT и обычный)**")
 
-    inp = gr.Textbox(label="Вопрос клиента", placeholder="Например: Я не могу перевести деньги на другую карту", lines=2)
+    inp = gr.Textbox(label="Вопрос клиента", placeholder="Например: Я не могу перевести деньги", lines=2)
     btn = gr.Button("Сгенерировать")
 
-    gr.Markdown("### ruGPT3-Medium")
+    # ChatGPT-like
+    gr.Markdown("### ChatGPT-like")
     cot1 = gr.Textbox(label="CoT ответ")
     cot1_time = gr.Textbox(label="Время CoT")
     simple1 = gr.Textbox(label="Обычный от��ет")
     simple1_time = gr.Textbox(label="Время обычного")
 
-    gr.Markdown("### ruGPT3-Small")
+    # DeepSeek-like
+    gr.Markdown("### DeepSeek-like")
     cot2 = gr.Textbox(label="CoT ответ")
     cot2_time = gr.Textbox(label="Время CoT")
     simple2 = gr.Textbox(label="Обычный ответ")
     simple2_time = gr.Textbox(label="Время обычного")
 
-    gr.Markdown("### SambaLingo-Russian-Chat")
+    # GigaChat-like
+    gr.Markdown("### GigaChat-like (заменена на Saiga)")
     cot3 = gr.Textbox(label="CoT ответ")
     cot3_time = gr.Textbox(label="Время CoT")
     simple3 = gr.Textbox(label="Обычный ответ")