Update main.py

main.py

@@ -62,16 +62,16 @@ async def start():
         cl.Text(content=contentPrompts, name=listPrompts_name, display="side")
     )
     await cl.Message(content="📚 " + listPrompts_name, elements=prompt_elements).send()
-    settings = await cl.ChatSettings(
-        [
-            Select(
-                id="Model",
-                label="Publications de recherche",
-                values=["---", "HAL", "Persée"],
-                initial_index=0,
-            ),
-        ]
-    ).send()
+    #settings = await cl.ChatSettings(
+    #    [
+    #        Select(
+    #            id="Model",
+    #            label="Publications de recherche",
+    #            values=["---", "HAL", "Persée"],
+    #            initial_index=0,
+    #        ),
+    #    ]
+    #).send()
     
     cl.user_session.set("memory", ConversationBufferMemory(return_messages=True))
     memory = cl.user_session.get("memory")
@@ -89,27 +89,14 @@ async def start():
         repo_id=repo_id, max_new_tokens=8000, temperature=1.0, task="text2text-generation", streaming=True
     )
     
-    os.environ['PINECONE_API_KEY'] = os.environ['PINECONE_API_KEY']
-    embeddings = HuggingFaceEmbeddings()
-    index_name = "all-venus"
-    pc = Pinecone(
-        api_key=os.environ['PINECONE_API_KEY']
-    )
-    index = pc.Index(index_name)
-    xq = embeddings.embed_query(message.content)
-    xc = index.query(vector=xq, filter={"categorie": {"$eq": "bibliographie-OPP-DGDIN"}},top_k=150, include_metadata=True)
-    context_p = ""
-    for result in xc['matches']:
-        context_p = context_p + result['metadata']['text']
-    
     prompt = ChatPromptTemplate.from_messages(
         [
             (
                 "system",
-                f"Contexte : Vous êtes un chercheur de l'enseignement supérieur et vous êtes doué pour faire des analyses d'articles de recherche sur les thématiques liées à la pédagogie. En fonction des informations suivantes et du contexte suivant seulement et strictement. Contexte : {context_p}, réponds à la question suivante de la manière la plus pertinente, la plus exhaustive et la plus détaillée possible. ",
+                f"Contexte : Vous êtes un chercheur de l'enseignement supérieur et vous êtes doué pour faire des analyses d'articles de recherche sur les thématiques liées à la pédagogie. En fonction des informations suivantes et du contexte suivant seulement et strictement.",
             ),
             MessagesPlaceholder(variable_name="history"),
-            ("human", "{question}, dans le contexte fourni."),
+            ("human", "Contexte : {context}, réponds à la question suivante de la manière la plus pertinente, la plus exhaustive et la plus détaillée possible. {question}."),
         ]
     )
     runnable = (
@@ -123,11 +110,24 @@ async def start():
     
 @cl.on_message
 async def main(message: cl.Message):
+    os.environ['PINECONE_API_KEY'] = os.environ['PINECONE_API_KEY']
+    embeddings = HuggingFaceEmbeddings()
+    index_name = "all-venus"
+    pc = Pinecone(
+        api_key=os.environ['PINECONE_API_KEY']
+    )
+    index = pc.Index(index_name)
+    xq = embeddings.embed_query(message.content)
+    xc = index.query(vector=xq, filter={"categorie": {"$eq": "bibliographie-OPP-DGDIN"}},top_k=150, include_metadata=True)
+    context_p = ""
+    for result in xc['matches']:
+        context_p = context_p + result['metadata']['text']
+        
     memory = cl.user_session.get("memory")
     runnable = cl.user_session.get("runnable")
     
     msg = cl.Message(author="Assistant Reviewstream",content="")
-    async for chunk in runnable.astream({"question": message.content},
+    async for chunk in runnable.astream({"question": message.content, "context":context_p},
             config=RunnableConfig(callbacks=[cl.AsyncLangchainCallbackHandler(stream_final_answer=True)])):
         await msg.stream_token(chunk)