Update app.py

app.py

@@ -325,33 +325,68 @@ def load_data():
     vectorstore = FAISS.from_documents(documents, embedding_model)
     return vectorstore.as_retriever()
 
-# واجهة المستخدم الرئيسية
+
+# 3.  LLM model
+@st.cache_resource
+def load_model():
+    return ChatOpenAI(
+        base_url="https://openrouter.ai/api/v1",
+        api_key=load_api_key(),
+        model="mistralai/mistral-7b-instruct",
+        #model="meta-llama/llama-3-8b-instruct",  
+
+        temperature=0.3
+    )
+
+# 4. Prompt Engineering
+template = """
+أنت مساعد ذكي متخصص في خدمات شركة "اتصالات المستقبل".
+يجب عليك الالتزام الصارم بالقواعد التالية:
+1. استخدم فقط المعلومات المقدمة في قسم 'السياق' أدناه للإجابة.
+2. إذا لم تجد الإجابة في السياق، قل: "عذراً، لا يمكنني الإجابة على هذا السؤال حالياً. يرجى الاتصال بخدمة العملاء على الرقم 00000 للمساعدة."
+3. حافظ على نفس لغة السؤال (عربية/إنجليزية) في ردك.
+
+السياق:
+{context}
+
+السؤال:
+{question}
+
+الإجابة:
+"""
+
+prompt = PromptTemplate(
+    input_variables=["context", "question"],
+    template=template,
+)
+
+# 5. Rag
+@st.cache_resource
+def create_qa_chain(_llm, _retriever):
+    return RetrievalQA.from_chain_type(
+        llm=_llm,
+        retriever=_retriever,
+        chain_type="stuff",
+        chain_type_kwargs={"prompt": prompt},
+        return_source_documents=False,
+    )
+
+# UI
 def main():
     st.title("📞 مساعد اتصالات المستقبل")
     st.markdown("مرحباً بك! يمكنك طرح أي سؤال عن خدماتنا.")
     
     try:
-        # تحميل المكونات
+        # تحميل المكونات (تم تخزينها في الذاكرة المؤقتة)
+        llm = load_model()
         retriever = load_data()
-        llm = ChatOpenAI(
-            base_url="https://openrouter.ai/api/v1",
-            api_key=load_api_key(),
-            model="mistralai/mistral-7b-instruct",
-            temperature=0.3
-        )
+        qa_chain = create_qa_chain(llm, retriever)
         
         # إدخال المستخدم
         user_query = st.text_area("اكتب سؤالك هنا:", height=100)
         
         if st.button("إرسال") and user_query:
             with st.spinner('جاري تحضير الإجابة...'):
-                # إنشاء سلسلة RAG
-                qa_chain = RetrievalQA.from_chain_type(
-                    llm=llm,
-                    retriever=retriever,
-                    chain_type="stuff",
-                    return_source_documents=False,
-                )
                 response = qa_chain.run(user_query)
             
             st.success("تم العثور على الإجابة:")