Update app.py

app.py

@@ -3,37 +3,34 @@ from huggingface_hub import InferenceClient
 import gspread
 from google.oauth2.service_account import Credentials
 
-# Подключение к модели Zephyr-7b-beta через Inference API
-client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
-
-# Подключение Google Sheets
+# Подключение к Google Sheets
 SERVICE_ACCOUNT_FILE = "sheet-integration-agent@bold-physics-445007-g4.iam.gserviceaccount.com.json"
-SCOPES = ["https://www.googleapis.com/auth/spreadsheets"]
-credentials = Credentials.from_service_account_file(SERVICE_ACCOUNT_FILE, scopes=SCOPES)
-gspread_client = gspread.authorize(credentials)
-spreadsheet = gspread_client.open_by_key("1LHgb4eYDM2ImFY3e3h4kPUnDh6oRHpVz2PA29lQ3Xxg")
+scopes = ["https://www.googleapis.com/auth/spreadsheets"]
+credentials = Credentials.from_service_account_file(SERVICE_ACCOUNT_FILE, scopes=scopes)
+client_gs = gspread.authorize(credentials)
+spreadsheet = client_gs.open_by_key("1LHgb4eYDM2ImFY3e3h4kPUnDh6oRHpVz2PA29lQ3Xxg")
 worksheet = spreadsheet.sheet1
 
-# Функция для поиска данных в Google Sheets
+# Подключение к модели zephyr-7b-beta через Inference API
+client = InferenceClient("HuggingFaceH4/zephyr-7b-beta")
+
+# Функция для получения данных из Google Sheets
 def get_apartment_data(query):
-    try:
-        rows = worksheet.get_all_records()
-        results = []
-        for row in rows:
-            if query.lower() in row["district"].lower() or query.lower() in row["developer"].lower():
-                results.append({
-                    "district": row["district"],
-                    "developer": row["developer"],
-                    "project_class": row["project_class"],
-                    "apt_area": row["apt_area"]
-                })
-        return results
-    except Exception as e:
-        print(f"Ошибка при работе с Google Sheets: {e}")
-        return []
+    rows = worksheet.get_all_records()
+    results = []
+    for row in rows:
+        if query.lower() in row["district"].lower() or query.lower() in row["developer"].lower():
+            results.append(row)
+    if results:
+        return "\n".join(
+            [f"Район: {row['district']}, Застройщик: {row['developer']}, Площадь: {row['apt_area']} м²"
+             for row in results]
+        )
+    else:
+        return "Извините, подходящих вариантов не найдено."
 
-# Функция для обработки запросов и ответов
-def respond(message, history, system_message, max_tokens, temperature, top_p):
+# Функция для обработки запросов
+def respond(message, history):
     print("Получен запрос:", message)
     print("История общения:", history)
 
@@ -41,61 +38,39 @@ def respond(message, history, system_message, max_tokens, temperature, top_p):
         history = []
 
     try:
+        # Если запрос связан с районами или застройщиками
         if "район" in message.lower() or "застройщик" in message.lower():
             response = get_apartment_data(message)
-            if response:
-                result = "\n".join([
-                    f"Район: {row['district']}, Застройщик: {row['developer']}, "
-                    f"Класс: {row['project_class']}, Площадь: {row['apt_area']}"
-                    for row in response
-                ])
-                # Обновляем историю в правильном формате
-                history.append({"role": "user", "content": message})
-                history.append({"role": "assistant", "content": result})
-                return result, history
-            else:
-                # Если ничего не найдено
-                history.append({"role": "user", "content": message})
-                history.append({"role": "assistant", "content": "Извините, подходящих вариантов не найдено."})
-                return "Извините, подходящих вариантов не найдено.", history
         else:
-            # Генерация ответа от модели
-            messages = [{"role": "system", "content": system_message}]
+            # Обработка запроса через модель
+            messages = [{"role": "user", "content": message}]
             for h in history:
                 messages.append(h)
-            messages.append({"role": "user", "content": message})
+            generated_response = client.chat_completion(
+                messages=messages,
+                max_tokens=512,
+                temperature=0.7,
+                top_p=0.95,
+            )
+            response = generated_response["choices"][0]["message"]["content"]
 
-            response = ""
-            for message_chunk in client.chat_completion(
-                messages,
-                max_tokens=max_tokens,
-                stream=True,
-                temperature=temperature,
-                top_p=top_p,
-            ):
-                token = message_chunk.choices[0].delta.content
-                response += token
+        # Формирование корректной истории общения
+        history.append({"role": "user", "content": message})
+        history.append({"role": "assistant", "content": response})
+        return response, history
 
-            # Обновляем историю с ответом
-            history.append({"role": "user", "content": message})
-            history.append({"role": "assistant", "content": response})
-            return response, history
     except Exception as e:
         print(f"Ошибка обработки запроса: {e}")
-        history.append({"role": "user", "content": message})
         history.append({"role": "assistant", "content": "Произошла ошибка при обработке вашего запроса."})
         return "Произошла ошибка при обработке вашего запроса.", history
 
 # Интерфейс Gradio
-demo = gr.ChatInterface(
-    fn=respond,
-    additional_inputs=[
-        gr.Textbox(value="You are a friendly Chatbot.", label="System message"),
-        gr.Slider(minimum=1, maximum=2048, value=512, step=1, label="Max new tokens"),
-        gr.Slider(minimum=0.1, maximum=4.0, value=0.7, step=0.1, label="Temperature"),
-        gr.Slider(minimum=0.1, maximum=1.0, value=0.95, step=0.05, label="Top-p (nucleus sampling)"),
-    ],
+chat_interface = gr.ChatInterface(
+    respond,
+    chatbot_label="Агент по квартирам",
+    input_label="Ваш вопрос",
+    output_label="Ответ",
 )
 
 if __name__ == "__main__":
-    demo.launch()
+    chat_interface.launch()