app.py

import gradio as gr
from langchain_gigachat.chat_models import GigaChat
from dotenv import load_dotenv
import os

# Загрузка переменных из .env
load_dotenv()

giga = GigaChat(
    credentials=os.getenv('GIGACHAT_KEY'),
    verify_ssl_certs=False, 
    scope="GIGACHAT_API_CORP",
    model='GigaChat-Max'
)

def generate_response(user_input):
    """Функция для генерации ответа от LLM"""
    try:
        response = giga.invoke(user_input)
        return response.content  # Предполагается, что ответ содержит ключ 'tex>
    except Exception as e:
        return f"Ошибка: {str(e)}"

# Интерфейс Gradio
def main():
    interface = gr.Interface(
        fn=generate_response,
        inputs=gr.Textbox(label="Ваш запрос"),
        outputs=gr.Textbox(label="Ответ от GigaChat"),
        title="Генератор сообщений на основе GigaChat",
        description="Введите ваш запрос, чтобы получить ответ от LLM от Сбера.",
        allow_flagging="manual",
        flagging_options=["Пометить"])

    # Запуск сервера с публичным доступом
    interface.launch(share=True) #server_name="0.0.0.0", server_port=7860)

if __name__ == "__main__":
    main()