Update main.py

main.py

@@ -47,15 +47,18 @@ async def chat_profile():
         cl.ChatProfile(name="Imagestream",markdown_description="Requêter sur un ensemble d'images",icon="./public/logo-ofipe.jpg",),
     ]
     
-@cl.on_chat_start
-async def on_chat_start():
+@cl.step(type="llm")
+async def IA():
     os.environ['HUGGINGFACEHUB_API_TOKEN'] = os.environ['HUGGINGFACEHUB_API_TOKEN']
     repo_id = "mistralai/Mixtral-8x7B-Instruct-v0.1"
 
     llm = HuggingFaceEndpoint(
         repo_id=repo_id, max_new_tokens=8000, temperature=1.0, task="text2text-generation", streaming=True
     )
+    return llm
     
+@cl.on_chat_start
+async def on_chat_start():
     await cl.Message(f"> REVIEWSTREAM").send()
     await cl.Message(f"Nous avons le plaisir de vous accueillir dans l'application de recherche et d'analyse des publications.").send()
     listPrompts_name = f"Liste des revues de recherche"
@@ -88,6 +91,7 @@ async def on_chat_start():
     {question} [/INST] </s>
     """
     prompt = PromptTemplate(template=template, input_variables=["question","context"])
+    llm = await IA()
     chain = (
         RunnablePassthrough.assign(
             history=RunnableLambda(memory.load_memory_variables) | itemgetter("history")