Update app.py

app.py

@@ -1,5 +1,6 @@
 import gradio as gr
 from langchain_community.llms import LlamaCpp
+from langchain.prompts import ChatPromptTemplate
 
 vector_db_path = "vectorstores/db_faiss"
 
@@ -11,24 +12,23 @@ llm = LlamaCpp(
     # callback_manager=callback_manager,
     verbose=True,  # Verbose is required to pass to the callback manager
 )
-
+template = """Bạn là trợ lý ảo của Linh tên là Aleni. bạn hãy sử dụng dữ liệu dưới đây để trả lời câu hỏi, 
+    nếu không có thông tin hãy đưa ra câu trả lời sát nhất với câu hỏi từ các thông tin tìm được hoặc tự suy luận
+    Question: {question}
+    Chỉ đưa ra các câu trả lời hữu ích.
+    Helpful answer:
+    """
+    # Content: {content}
 def respond(message, history, system_message, path_document):
-
+    prompt = ChatPromptTemplate.from_template(template)
+    llm_chain = prompt | llm
     respon = ''
-    respons = llm.create_chat_completion(
-      messages = [
-          {"role": "system", "content": "Bạn là trợ lý ảo tên là Aleni."},
-          {
-              "role": "user",
-              "content": message
-          }
-      ]
-    )
-    print(respons)
-    for chunk in llm.stream(message):
+    for chunk in llm_chain.stream(message):
         respon += chunk
         # print(chunk.content, end="", flush=True)
         yield respon
+
+        
 demo = gr.ChatInterface(
     respond,
     additional_inputs=[