Update app.py

app.py

@@ -469,6 +469,12 @@ import numpy as np
 from langchain.schema import SystemMessage, HumanMessage
 from langchain.chat_models import ChatOpenAI
 from sklearn.metrics.pairwise import cosine_similarity
+llm = ChatOpenAI(
+    base_url="https://api.together.xyz/v1",
+    api_key='333ac33f5be91819cb7ade101134d73f5e63d299a964ae290850eeac5d82a8d5',
+    model="Qwen/Qwen2-VL-72B-Instruct",
+
+)
 
 EMBEDDING_FILE = "embeddings.json"
 EMBEDDING_MODEL = "intfloat/multilingual-e5-large-instruct"
@@ -521,22 +527,23 @@ if query:
     try:
         query_embedding = get_query_embedding_together(query)
         data = load_embeddings(EMBEDDING_FILE)
-        top_chunks = find_most_similar_chunks(query_embedding, data, top_n=3)
+        top_chunks = find_most_similar_chunks(query_embedding, data, top_n=10)
+        st.write("Top Chunks:", top_chunks)
 
         context = "\n".join(top_chunks)
         prompt = f"""
-        فقط و فقط با استفاده از محتوای زیر به سؤال پاسخ بده.  
-        اگر اطلاعات کافی نبود، واضح بگو اطلاعات کافی وجود ندارد، سپس با دانش عمومی پاسخ بده.
-
+        لطفاً سعی کن با استفاده از اطلاعات زیر به سؤال پاسخ بده. اگر اطلاعات کافی نبود، ابتدا بگو اطلاعات ناقص است و بعد اگر لازم بود از دانش عمومی‌ات استفاده کن.
+        
         سؤال:
         {query}
-
+        
         محتوا:
         {context}
-
-        پاسخ نهایی:
+        
+        پاسخ:
         """
 
+
         response = llm([
             SystemMessage(
                 content="تو یک دستیار دقیق هستی که فقط با اطلاعات موجود در متن پاسخ می‌دهی. اگر اطلاعات نبود، آن را اعلام می‌کنی و بعد از دانش خودت استفاده می‌کنی."