Update app.py

app.py

@@ -1,12 +1,11 @@
 import os
-os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "0"  # отключаем нестабильную загрузку
+os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "0"
 
 import torch
 import gradio as gr
 from transformers import AutoTokenizer, AutoModelForCausalLM
 
 model_id = "sberbank-ai/rugpt3medium_based_on_gpt2"
-
 tokenizer = AutoTokenizer.from_pretrained(model_id)
 model = AutoModelForCausalLM.from_pretrained(model_id)
 
@@ -21,7 +20,6 @@ context = (
 
 def respond(message, history=None):
     prompt = f"Прочитай текст и ответь на вопрос:\n\n{context}\n\nВопрос: {message}\nОтвет:"
-
     input_ids = tokenizer(prompt, return_tensors="pt").input_ids.to(device)
 
     with torch.no_grad():
@@ -36,7 +34,6 @@ def respond(message, history=None):
 
     full_output = tokenizer.decode(output_ids[0], skip_special_tokens=True)
 
-    # Извлекаем только текст после "Ответ:"
     if "Ответ:" in full_output:
         answer = full_output.split("Ответ:")[-1].strip()
     else:
@@ -44,12 +41,25 @@ def respond(message, history=None):
 
     return answer
 
-iface = gr.ChatInterface(
+# основной Gradio чат
+chat = gr.ChatInterface(
     fn=respond,
     title="Бот об Университете Иннополис (на русском)",
     chatbot=gr.Chatbot(label="Диалог"),
     textbox=gr.Textbox(placeholder="Задай вопрос на русском...", label="Твой вопрос")
 )
 
+# добавим простой API endpoint
+demo = gr.Blocks()
+
+with demo:
+    gr.Markdown("### Иннополис Бот + API")
+    chat.render()
+
+    # API endpoint
+    @gr.api()
+    def ask_api(question: str):
+        return {"answer": respond(question)}
+
 if __name__ == "__main__":
-    iface.launch()
+    demo.launch()