Update app.py

app.py

@@ -1,51 +1,52 @@
 import gradio as gr
+from huggingface_hub import InferenceClient
 
-# Загружаем модель
-model = gr.load("models/moonshotai/Kimi-K2-Thinking", provider="novita")
+# Прямое подключение к API
+# Если у тебя в Settings добавлен HF_TOKEN, клиент подтянет его сам
+client = InferenceClient("moonshotai/Kimi-K2-Thinking")
 
+def predict(message, history):
+    # Формируем промпт так, как любят современные модели
+    messages = [{"role": "system", "content": "Тебя зовут Flare."}]
+    
+    for val in history:
+        if val[0]: messages.append({"role": "user", "content": val[0]})
+        if val[1]: messages.append({"role": "assistant", "content": val[1]})
+        
+    messages.append({"role": "user", "content": message})
+
+    response = ""
+    try:
+        # Прямой вызов без посредников
+        for msg in client.chat_completion(messages, max_tokens=1024, stream=True):
+            token = msg.choices[0].delta.content
+            if token:
+                response += token
+            yield response
+    except Exception as e:
+        yield f"Упс! Проблема с подключением: {str(e)}"
+
+# Настройка стиля
 custom_theme = gr.themes.Soft(
     primary_hue="yellow", 
     secondary_hue="blue",
 ).set(
     body_background_fill="#0057b7",
     block_background_fill="#ffdd00",
+    button_primary_background_fill="#ffdd00",
+    block_label_text_color="#000000"
 )
 
 css = """
-#side-bar { background-color: #ffdd00 !important; padding: 15px; }
-.gradio-container { color: white; }
+.gradio-container { background-color: #0057b7 !important; }
+#side-info { background-color: #ffdd00; padding: 10px; border-radius: 8px; color: black; }
 """
 
-def predict(message, history):
-    system_instr = "Тебя зовут Gemini. "
-    full_prompt = system_instr + message
-    
-    try:
-        response = model(full_prompt)
-        
-        # Глубокая проверка структуры (извлекаем текст любой ценой)
-        if isinstance(response, list):
-            # Если это список, берем первый элемент
-            res_item = response[0]
-            if isinstance(res_item, dict):
-                # Если внутри словаря есть ключ 'generated_text' (стандарт Novita/HuggingFace)
-                return res_item.get("generated_text", str(res_item))
-            return str(res_item)
-        
-        elif isinstance(response, dict):
-            # Если это сразу словарь
-            return response.get("generated_text", str(response))
-            
-        return str(response)
-        
-    except Exception as e:
-        return f"Ошибка: {str(e)}. Попробуй подождать 10 секунд."
-
-with gr.Blocks(theme=custom_theme, css=css) as demo:
-    with gr.Sidebar(elem_id="side-bar"):
+with gr.Blocks(theme=custom_theme, css=css, fill_height=True) as demo:
+    with gr.Sidebar(elem_id="side-info"):
         gr.Markdown("# **FlareAI**")
         gr.Markdown("Flare — твой персональный ассистент")
-        gr.LoginButton("Войти")
+        gr.LoginButton("Войти в HF")
     
     gr.ChatInterface(fn=predict)