Update app.py

app.py

@@ -1,124 +1,53 @@
-import os
-import requests
 import gradio as gr
-
-# Общая функция для вызова разных моделей
-
-def call_model(api_url, api_key, model_name, text, history, service):
-    # Инициализируем историю одним system-сообщением при первом обращении
-    if not history:
-        history = [{
-            "role": "system",
-            "content": "Вы — ассистент банка, отвечаете на вопросы клиентов про проблемы со снятием денег с карты."
-        }]
-    # Добавляем запрос пользователя
-    history.append({"role": "user", "content": text})
-
-    # Подбираем URL и заголовки в зависимости от сервиса
-    if service == "openai":
-        url = api_url
-        headers = {
-            "Authorization": f"Bearer {api_key}",
-            "Content-Type": "application/json"
-        }
-    elif service == "deepseek":
-        url = api_url
-        headers = {
-            "Authorization": f"Bearer {api_key}",
-            "Content-Type": "application/json"
-        }
-    elif service == "gigachat":
-        url = "https://gigachat.devices.sberbank.ru/api/v1/chat/completions"
-        headers = {
-            "Authorization": f"Bearer {api_key}",
-            "X-API-Scope": os.getenv("GIGACHAT_SCOPE", ""),
-            "Content-Type": "application/json"
-        }
-    else:
-        raise ValueError(f"Unknown service: {service}")
-
-    payload = {
-        "model": model_name,
-        "messages": history
+from transformers import pipeline
+
+# Инициализация двух бесплатных русскоязычных моделей из Hugging Face
+# 1) ruDialoGPT-small — диалоговая модель на GPT-2 (MIT-лицензия) ([huggingface.co](https://huggingface.co/t-bank-ai/ruDialoGPT-small?utm_source=chatgpt.com))
+# 2) ruGPT3-small — семейство русскоязычных GPT-3 моделей от SberDevices (open-source) ([huggingface.co](https://huggingface.co/ai-forever/rugpt3small_based_on_gpt2?utm_source=chatgpt.com))
+
+pipe_dialo = pipeline(
+    task="text-generation",
+    model="t-bank-ai/ruDialoGPT-small",
+    tokenizer="t-bank-ai/ruDialoGPT-small",
+    device=-1  # CPU
+)
+
+pipe_rugpt3 = pipeline(
+    task="text-generation",
+    model="ai-forever/rugpt3small_based_on_gpt2",
+    tokenizer="ai-forever/rugpt3small_based_on_gpt2",
+    device=-1  # CPU
+)
+
+# Функция обработки пользовательского запроса
+# Возвращает генерацию от обеих моделей
+
+def generate_responses(prompt: str):
+    # Настройки генерации можно подкорректировать по потребностям
+    kwargs = {
+        "max_length": 200,
+        "do_sample": True,
+        "top_p": 0.9,
+        "temperature": 0.7
     }
+    out1 = pipe_dialo(prompt, **kwargs)[0]["generated_text"]
+    out2 = pipe_rugpt3(prompt, **kwargs)[0]["generated_text"]
+    return out1, out2
 
-    response = requests.post(url, headers=headers, json=payload)
-    response.raise_for_status()
-    data = response.json()
-    content = data["choices"][0]["message"]["content"]
-
-    # Сохраняем ответ в историю
-    history.append({"role": "assistant", "content": content})
-    return content, history
-
-
-# Основная функция обработки ввода и вывода во всех трёх чатах
-
-def process_all(text, h1, h2, h3):
-    # ChatGPT (OpenAI)
-    out1, h1 = call_model(
-        api_url="https://api.openai.com/v1/chat/completions",
-        api_key=os.getenv("OPENAI_API_KEY"),
-        model_name="gpt-3.5-turbo",
-        text=text,
-        history=h1,
-        service="openai"
-    )
-    # DeepSeek (через собственный API)
-    out2, h2 = call_model(
-        api_url="https://api.deepseek.com/chat/completions",
-        api_key=os.getenv("DEEPSEEK_KEY"),
-        model_name="deepseek-chat-v3",
-        text=text,
-        history=h2,
-        service="deepseek"
-    )
-    # GigaChat (Сбер)
-    out3, h3 = call_model(
-        api_url=None,  # будет переопределён внутри
-        api_key=os.getenv("GIGACHAT_TOKEN"),
-        model_name="giga-chat-lite",
-        text=text,
-        history=h3,
-        service="gigachat"
-    )
-
-    # Возвращаем обновлённые состояния и содержимое чатботов
-    # Chatbot ждёт список кортежей (запрос, ответ)
-    return (
-        h1,
-        h2,
-        h3,
-        [(None, out1)],
-        [(None, out2)],
-        [(None, out3)]
-    )
+# Gradio-интерфейс
 
+with gr.Blocks() as demo:
+    gr.Markdown("## Русскоязычный чат с бесплатными моделями")
+    txt = gr.Textbox(label="Ваш вопрос", placeholder="Введите те��ст на русском языке...", lines=2)
+    out1 = gr.Textbox(label="ruDialoGPT-small")
+    out2 = gr.Textbox(label="ruGPT3-small")
+    btn = gr.Button("Сгенерировать ответы")
+    btn.click(fn=generate_responses, inputs=txt, outputs=[out1, out2])
 
+# Запуск (для локального запуска и в Hugging Face Spaces)
 if __name__ == "__main__":
-    # Создаём интерфейс Gradio
-    with gr.Blocks() as demo:
-        gr.Markdown("## Мульти-чат: ChatGPT, DeepSeek и GigaChat в одном окне")
-        txt = gr.Textbox(label="Ваш запрос", placeholder="Напишите ваш вопрос...", lines=2)
-
-        # Состояния для истории каждого бота
-        s1 = gr.State([])
-        s2 = gr.State([])
-        s3 = gr.State([])
-
-        # Сам чат-интерфейс
-        c1 = gr.Chatbot(label="ChatGPT")
-        c2 = gr.Chatbot(label="DeepSeek")
-        c3 = gr.Chatbot(label="GigaChat")
-
-        btn = gr.Button("Отправить")
-        btn.click(
-            fn=process_all,
-            inputs=[txt, s1, s2, s3],
-            outputs=[s1, s2, s3, c1, c2, c3]
-        )
-
     demo.launch()
 
 
 
+