Update app.py

app.py

@@ -1,48 +1,69 @@
 import os
 import gradio as gr
-import shutil
 from llama_index.llms.openrouter import OpenRouter
 from llama_index.core.llms import ChatMessage
-from llama_index.readers.file import PDFReader
-from llama_index.vector_stores.faiss import FaissVectorStore
-from llama_index.core.ingestion import IngestionPipeline
 from llama_index.embeddings.huggingface import HuggingFaceEmbedding
-import faiss
-from llama_index.core import Settings
-from llama_index.core.readers import SimpleDirectoryReader
-from llama_index.core import VectorStoreIndex
-from llama_index.core import StorageContext, load_index_from_storage
+from llama_index.core import Settings, StorageContext, load_index_from_storage
 
 import nest_asyncio
 nest_asyncio.apply()
 
-def make_query_engine(embed_model_path, embed_dim):
-    # подготовка embedding-модели
-    EMBED_DIMENSION=embed_dim
-    embed_model = HuggingFaceEmbedding(model_name=embed_model_path)
-    Settings.embed_model = embed_model
-    # получение llama-3.3-8b по api
-    Settings.llm = OpenRouter(
-      api_key ="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",
-      max_tokens=10000,
-      context_window=20000,
-      model="deepseek/deepseek-chat-v3.1:free",
-    )
+# === Глобальная инициализация ===
+embed_model = HuggingFaceEmbedding(model_name='intfloat/multilingual-e5-large-instruct')
+Settings.embed_model = embed_model
+Settings.llm = OpenRouter(
+    api_key="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",
+    model="deepseek/deepseek-chat-v3.1:free",
+    max_tokens=10000,
+    context_window=20000,
+)
+
+# === Функция получения ответа ===
+def get_facts(system_prompt: str, user_question: str) -> str:
+    # 1. Загружаем индекс и делаем retrieval
     storage_context = StorageContext.from_defaults(persist_dir="./storage")
     index = load_index_from_storage(storage_context)
+    retriever = index.as_retriever(similarity_top_k=4)
+    nodes = retriever.retrieve(user_question)  # ← только по пользовательскому вопросу!
+
+    # 2. Формируем контекст из найденных документов
+    context = "\n\n".join([node.get_content() for node in nodes])
 
-    query_engine = index.as_query_engine(similarity_top_k=4)
-    return query_engine
-query_engine = make_query_engine('intfloat/multilingual-e5-large-instruct', 1024)
+    # 3. Подставляем контекст ВНУТРЬ системного промпта
+    full_system_prompt = system_prompt + f"Контекст: {context}"
 
-def get_facts(question):
-  return query_engine.query(question).response
+    # 4. Отправляем в LLM
+    messages = [
+        ChatMessage(role="system", content=full_system_prompt),
+        ChatMessage(role="user", content=user_question)
+    ]
+    
+    response = Settings.llm.chat(messages)
+    return response.message.content
 
 with gr.Blocks(theme=gr.themes.Soft()) as demo:
     gr.Markdown("# Информационная система для формирования адаптационных мероприятий к климатическим рискам")
-    question_input = gr.Textbox(label='Запрос к системе', lines=6, placeholder="Введите свой запрос...")
+    system_input = gr.Textbox(
+        label="Системный промпт (можно редактировать)",
+        lines=8,
+        max_lines = 8,
+        placeholder="Введите системный промпт"
+    )
+    
+    user_input = gr.Textbox(
+        label="Ваш запрос",
+        lines=5,
+        max_lines = 5,
+        placeholder="Введите свой вопрос..."
+    )
+        
     answer_output = gr.Textbox(label="Ответ", lines=10, interactive=False)
-    send_button = gr.Button("Отправить запрос")
-    send_button.click(get_facts, question_input, answer_output)
+    send_button = gr.Button("Получить ответ")
+        
+    send_button.click(
+        fn=get_facts,
+        inputs=[system_input, user_input],
+        outputs=answer_output
+    )
 
 demo.launch()