Update utils.py

utils.py

@@ -56,6 +56,7 @@ def query_agent(df: pd.DataFrame, query: str) -> str:
         max_new_tokens=1024,
         n_ctx=16384,
         verbose=True,
+        n_threads=4,
     )
 
     answer = llm(prompt)