Update app.py

app.py

@@ -34,6 +34,7 @@ HF_TOKEN = os.getenv("HF_TOKEN")
 llm = HuggingFaceEndpoint(
     repo_id="mistralai/Mistral-7B-Instruct-v0.2",
     huggingfacehub_api_token=HF_TOKEN,
+    provider="auto"
 )
 
 chat = ChatHuggingFace(llm=llm, verbose=True)