Update app.py

app.py

@@ -4,8 +4,8 @@ from duckduckgo_search import DDGS
 
 # ==== Константы ====
 MODEL_NAME = "openai/gpt-oss-20b"
-SYSTEM_MESSAGE = "Ты Pok.Bot, ты используешь открытую локальную модель GPT-OSS от OpenAI, не GPT-4 (наверно😆). Тебя создал POKilondron. Используй емодзи 😄.If you don't know the answer, output a command like this:#search <query> Do NOT invent facts. И да использую команду #search «запрос» когда нужно и не повторяй постоянноодин и тоже запрос и не видавай запрос на 18+ 😠"
-MAX_TOKENS = 512
+SYSTEM_MESSAGE = """SYSTEM_MESSAGE = Ты Pok.Bot, ты используешь открытую локальную модель GPT-OSS от OpenAI, не GPT-4 (наверно😆). Тебя создал POKilondron. Используй емодзи 😄.If you don't know the answer, output a command like this:#search <query> Do NOT invent facts. И да использую команду #search «запрос» когда нужно и не повторяй постоянноодин и тоже запрос и не видавай запрос на 18+ 😠"""
+MAX_TOKENS = 100000
 TEMPERATURE = 0.7
 TOP_P = 0.95
 
@@ -15,19 +15,17 @@ def search_web(query: str, max_results: int = 3):
     results = []
     with DDGS() as ddg:
         for r in ddg.text(query, max_results=max_results):
-            results.append(f"🔎 {r['title']}: {r['body']}")
+            results.append(f"{r['title']}: {r['body']}")
     return "\n".join(results) if results else "Ничего не найдено."
 
 
 # ==== Основная функция ====
-def respond(message, history, hf_token: gr.OAuthToken):
+def respond(message, history: list[dict[str, str]], hf_token: gr.OAuthToken):
     client = InferenceClient(token=hf_token.token, model=MODEL_NAME)
 
-    # Первый прогон
+    # 1-й прогон: что отвечает модель
     messages = [{"role": "system", "content": SYSTEM_MESSAGE}]
-    for user, bot in history:
-        messages.append({"role": "user", "content": user})
-        messages.append({"role": "assistant", "content": bot})
+    messages.extend(history)
     messages.append({"role": "user", "content": message})
 
     raw_response = ""
@@ -38,21 +36,23 @@ def respond(message, history, hf_token: gr.OAuthToken):
         temperature=TEMPERATURE,
         top_p=TOP_P,
     ):
-        if msg.choices and msg.choices[0].delta.content:
-            raw_response += msg.choices[0].delta.content
+        if not msg.choices:
+            continue
+        delta = msg.choices[0].delta.content
+        if delta:
+            raw_response += delta
 
-    # Проверка на команду поиска
+    # === Проверка на команду поиска ===
     if raw_response.strip().startswith("#search"):
         query = raw_response.replace("#search", "").strip()
         web_context = search_web(query)
 
+        # 2-й прогон: модель формирует финальный ответ с учётом поиска
         followup_messages = [
             {"role": "system", "content": SYSTEM_MESSAGE},
-            {"role": "system", "content": f"🌐 Web context:\n{web_context}"},
+            {"role": "system", "content": f"Web context:\n{web_context}"},
         ]
-        for user, bot in history:
-            followup_messages.append({"role": "user", "content": user})
-            followup_messages.append({"role": "assistant", "content": bot})
+        followup_messages.extend(history)
         followup_messages.append({"role": "user", "content": message})
 
         final_response = ""
@@ -63,38 +63,28 @@ def respond(message, history, hf_token: gr.OAuthToken):
             temperature=TEMPERATURE,
             top_p=TOP_P,
         ):
-            if msg.choices and msg.choices[0].delta.content:
-                final_response += msg.choices[0].delta.content
-                yield history + [(message, final_response)], ""
+            if not msg.choices:
+                continue
+            delta = msg.choices[0].delta.content
+            if delta:
+                final_response += delta
+                yield final_response
     else:
-        yield history + [(message, raw_response)], ""
+        # Если поиска не нужно — выдаём обычный ответ
+        yield raw_response
 
 
 # ==== Интерфейс ====
-custom_css = """
-.gradio-container {
-    max-width: 900px !important;
-    margin: auto;
-    font-family: 'Segoe UI', sans-serif;
-}
-#chatbox {
-    height: 600px !important;
-}
-"""
+chatbot = gr.ChatInterface(
+    respond,
+    type="messages",
+    additional_inputs=[],
+)
 
-with gr.Blocks(css=custom_css, theme=gr.themes.Soft()) as demo:
+with gr.Blocks() as demo:
     with gr.Sidebar():
-        gr.Markdown("### 🔑 Авторизация")
         gr.LoginButton()
-        gr.Markdown("---")
-        gr.Markdown("✨ Добро пожаловать!\nЗ��давай вопросы, и я постараюсь найти лучший ответ.")
-
-    chatbot = gr.Chatbot(label="Диалог", elem_id="chatbox", type="tuples")
-    msg = gr.Textbox(placeholder="💬 Напиши сообщение...", label="Сообщение")
-    send = gr.Button("Отправить")
-
-    send.click(respond, [msg, chatbot, gr.OAuthToken], [chatbot, msg])
-    msg.submit(respond, [msg, chatbot, gr.OAuthToken], [chatbot, msg])
+    chatbot.render()
 
 if __name__ == "__main__":
     demo.launch()