Update app.py

app.py

@@ -54,7 +54,7 @@ def load_and_process_documents(folder_path):
     vectordb = Chroma.from_documents(
         documents,
         embedding=OpenAIEmbeddings(),
-        persist_directory="./"
+        persist_directory="./tmp"
     )
     return vectordb
 
@@ -70,7 +70,8 @@ def handle_query(user_message, temperature, chat_history):
 
         # 使用 LangChain 的 ConversationalRetrievalChain 處理查詢
         preface = """
-指令: 全部以繁體中文呈現，200字以內。除了文件的相關內容之外，與文件內容不相關的問題，都只能回應:這問題很深奧,需要請示JohnLiao大神...
+指令: 全部以繁體中文呈現，200字以內。
+除了與文件相關內容之外，與文件內容不相關的問題都必須回應：這問題很深奧,需要請示JohnLiao大神...
 """
         query = f"{preface} 查詢內容：{user_message}"
 
@@ -78,7 +79,7 @@ def handle_query(user_message, temperature, chat_history):
         previous_answers = transform_history_for_langchain(chat_history)
 
         pdf_qa = ConversationalRetrievalChain.from_llm(
-            ChatOpenAI(temperature=temperature, model_name='gpt-4'),
+            ChatOpenAI(temperature=temperature, model_name='gpt-4o-mini'),
             retriever=vectordb.as_retriever(search_kwargs={'k': 6}),
             return_source_documents=True,
             verbose=False