Update app.py

app.py

@@ -1,60 +1,76 @@
-import os
 import gradio as gr
-from transformers import pipeline
+from transformers import pipeline, AutoTokenizer
 from datasets import load_dataset
 
-# --- 1. Загрузка датасета клиентских обращений ---
+# 1. Загрузка датасета с обработкой ошибок
 try:
-    dataset = load_dataset("sberbank-ai/ru_helpdesk", split="train[:100]")  # 100 реальных обращений
-    examples = [d["question"] for d in dataset]
-except:
+    dataset = load_dataset("sberbank-ai/ru_helpdesk", split="train[:50]")  # Первые 50 примеров
+    examples = [d["question"] for d in dataset if "question" in d]
+except Exception as e:
+    print(f"Ошибка загрузки датасета: {e}")
     examples = [
-        "Мой заказ #12345 не пришел",
-        "Как оформить возврат?",
-        "Проблема с доступом в личный кабинет"
+        "Где мой заказ #12345?",
+        "Как вернуть товар?",
+        "Не приходит код подтверждения",
+        "Ошибка при оплате картой",
+        "Как изменить адрес доставки?"
     ]
 
-# --- 2. Загрузка локальной модели (не требует API) ---
-model = pipeline(
-    "text-generation",
-    model="IlyaGusev/saiga_mistral_7b_merged",
-    device="cpu"  # Для GPU укажите device=0
-)
+# 2. Оптимизированная загрузка модели
+try:
+    tokenizer = AutoTokenizer.from_pretrained("IlyaGusev/saiga_mistral_7b-lora")
+    model = pipeline(
+        "text-generation",
+        model="IlyaGusev/saiga_mistral_7b-lora",
+        tokenizer=tokenizer,
+        device="cpu",
+        torch_dtype="auto",
+        model_kwargs={"load_in_4bit": True}  # Критически важно для экономии памяти
+    )
+except Exception as e:
+    raise RuntimeError(f"Ошибка загрузки модели: {str(e)}")
 
-# --- 3. Функция генерации ответа ---
-def generate_response(message, history):
-    prompt = f"""Ты оператор поддержки. Ответь клиенту вежливо и по делу.
+# 3. Генерация ответа с шаблоном
+def generate_response(message):
+    prompt = f"""Ты - ИИ-ассистент поддержки. Ответь клиенту вежливо и по делу.
     
-Диалог:
-{history}
 Клиент: {message}
-Оператор:"""
+Ассистент:"""
     
     try:
         response = model(
             prompt,
-            max_new_tokens=200,
+            max_new_tokens=150,
             temperature=0.3,
             do_sample=True
         )
-        return response[0]["generated_text"].split("Оператор:")[-1].strip()
+        return response[0]["generated_text"].split("Ассистент:")[-1].strip()
     except Exception as e:
-        return f"Ошибка: {str(e)}"
+        return f"⚠️ Ошибка генерации: {str(e)}"
 
-# --- 4. Интерфейс Gradio ---
+# 4. Интерфейс с примерами
 with gr.Blocks(theme=gr.themes.Soft()) as demo:
-    gr.Markdown("""<h1><center>📞 Поддержка клиентов (Русский)</center></h1>""")
+    gr.Markdown("""<h1><center>🎯 Поддержка клиентов</center></h1>""")
     
     with gr.Row():
         with gr.Column():
-            chatbot = gr.Chatbot(height=350)
-            msg = gr.Textbox(label="Ваш запрос", placeholder="Опишите проблему...")
-            gr.Examples(examples, inputs=msg, label="Примеры вопросов")
+            input_text = gr.Textbox(label="Опишите проблему", placeholder="Мой заказ не прибыл...")
+            output_text = gr.Textbox(label="Ответ поддержки", lines=5)
+            btn = gr.Button("Отправить", variant="primary")
         
         with gr.Column():
-            gr.Markdown("**Инструкция:**\n\n1. Укажите номер заказа\n2. Опишите проблему детально\n3. Сохраняйте спокойствие")
-            gr.Image("https://via.placeholder.com/300x200?text=Support+Logo")
+            gr.Examples(
+                examples=examples,
+                inputs=input_text,
+                label="Примеры обращений"
+            )
+            gr.Markdown("""
+            **Советы для быстрого решения:**
+            1. Указывайте номер заказа
+            2. Прикладывайте скриншоты ошибок
+            3. Проверяйте спам-папку
+            """)
 
-    msg.submit(generate_response, [msg, chatbot], [msg, chatbot])
+    btn.click(fn=generate_response, inputs=input_text, outputs=output_text)
 
 demo.launch()