Update app.py

app.py

@@ -1,26 +1,31 @@
 import gradio as gr
-from transformers import pipeline
+from transformers import pipeline, AutoTokenizer, AutoModelForCausalLM
 from datasets import load_dataset
 
-# 1. Загрузка датасета клиентских обращений
+# 1. Загрузка датасета (используем реальный существующий датасет)
 try:
-    # Используем открытый датасет на русском языке
-    dataset = load_dataset("cursoai/jigsaw-toxic-comments", split="train[:100]")
+    dataset = load_dataset("blinoff/ru_customer_support", split="train[:50]")
     examples = [d["question"] for d in dataset]
 except Exception as e:
     print(f"Ошибка загрузки датасета: {e}")
     examples = [
-        "Мой заказ #12345 не прибыл",
-        "Как вернуть товар?",
-        "Не приходит код подтверждения",
+        "Мой заказ #12345 не пришел",
+        "Как оформить возврат товара?",
+        "Не приходит SMS-код подтверждения",
         "Ошибка при оплате картой"
     ]
 
-# 2. Загрузка облегчённой русскоязычной модели
+# 2. Загрузка модели (используем локальное выполнение)
 try:
-    model = pipeline(
+    model_name = "ai-forever/rugpt3small_based_on_gpt2"  # Рабочая альтернатива
+    
+    tokenizer = AutoTokenizer.from_pretrained(model_name)
+    model = AutoModelForCausalLM.from_pretrained(model_name)
+    
+    generator = pipeline(
         "text-generation",
-        model="ai-forever/rugpt3small_based_on_gpt2",  # Гарантированно рабочая модель
+        model=model,
+        tokenizer=tokenizer,
         device="cpu"
     )
 except Exception as e:
@@ -28,21 +33,22 @@ except Exception as e:
 
 # 3. Функция генерации ответа
 def generate_response(message):
-    prompt = f"""Ты оператор поддержки. Ответь клиенту вежливо.
+    prompt = f"""Ты оператор поддержки. Ответь клиенту вежливо на русском.
     
 Клиент: {message}
 Оператор:"""
     
     try:
-        response = model(
+        response = generator(
             prompt,
             max_new_tokens=150,
-            temperature=0.3,
-            do_sample=True
+            temperature=0.4,
+            do_sample=True,
+            top_p=0.9
         )
         return response[0]["generated_text"].split("Оператор:")[-1].strip()
     except Exception as e:
-        return f"Ошибка: {str(e)}"
+        return f"Извините, произошла ошибка. ({str(e)})"
 
 # 4. Интерфейс Gradio
 with gr.Blocks(theme=gr.themes.Soft()) as demo:
@@ -50,13 +56,13 @@ with gr.Blocks(theme=gr.themes.Soft()) as demo:
     
     with gr.Row():
         with gr.Column():
-            chatbot = gr.Chatbot(height=300)
+            chatbot = gr.Chatbot(height=350)
             msg = gr.Textbox(label="Опишите проблему")
             btn = gr.Button("Отправить", variant="primary")
         
         with gr.Column():
             gr.Examples(examples, inputs=msg, label="Примеры обращений")
-            gr.Markdown("**Советы:**\n1. Указывайте номер заказа\n2. Прикладывайте скриншоты")
+            gr.Markdown("**Совет:** Укажите номер заказа для быстрого решения")
 
     btn.click(lambda m, c: (m, generate_response(m)), [msg, chatbot], [msg, chatbot])