Create App.py

App.py

@@ -0,0 +1,20 @@
+import gradio as gr
+from huggingface_hub import InferenceClient
+
+# Выбираем модель (можно поменять на любую другую из HF)
+client = InferenceClient("mistralai/Mistral-7B-Instruct-v0.2")
+
+def respond(message, history):
+    # Формируем ответ от модели
+    response = client.chat_completion(
+        messages=[{"role": "user", "content": message}],
+        max_tokens=500,
+        stream=False
+    )
+    return response.choices[0].message.content
+
+# Создаем интерфейс чата
+demo = gr.ChatInterface(respond)
+
+if __name__ == "__main__":
+    demo.launch()