Create simple chatbot.

app.py

@@ -0,0 +1,161 @@
+import os
+
+import gradio as gr
+
+from dotenv import load_dotenv
+
+from qdrant_client import models, QdrantClient
+from sentence_transformers import SentenceTransformer
+from openai import OpenAI
+
+
+################## Set-up ##################
+
+load_dotenv()  # load environment variables
+
+embedding_model = SentenceTransformer("antoinelouis/french-multilingual-e5-small")
+
+db_client = QdrantClient(":memory:")
+
+db_client.create_collection(
+    collection_name="IncubAI",
+    vectors_config=models.VectorParams(
+        size=embedding_model.get_sentence_embedding_dimension(),  # Vector size is defined by used model
+        distance=models.Distance.COSINE,
+    ),
+)
+
+
+################# Filling the DB ################
+
+documents = [
+    {
+        "page_content": "La Tour Eiffel a été construite en 1889 comme pièce maîtresse de l'Exposition universelle à Paris.",
+        "source": "encyclopedia"
+    },
+    {
+        "page_content": "Pour préparer un bon café filtre, il est crucial de choisir une mouture moyenne et d’utiliser de l’eau à 92–96°C.",
+        "source": "blog"
+    },
+    {
+        "page_content": "Les bienfaits de la méditation incluent la réduction du stress, l'amélioration de la concentration et un meilleur sommeil.",
+        "source": "health_guide"
+    },
+    {
+        "page_content": "Le framework LangChain permet d’intégrer facilement la recherche documentaire dans les applications alimentées par des modèles de langage.",
+        "source": "developer_docs"
+    },
+    {
+        "page_content": "Selon une étude de 2023, les énergies renouvelables ont représenté 30 % de la production mondiale d'électricité.",
+        "source": "news"
+    },
+    {
+        "page_content": "Un bon pitch d’ascenseur doit être clair, concis et présenter en moins de 30 secondes ce qui rend votre idée unique.",
+        "source": "business_tips"
+    },
+    {
+        "page_content": "Le Louvre abrite des œuvres célèbres comme la Joconde, la Vénus de Milo et le Sacre de Napoléon.",
+        "source": "museum_guide"
+    },
+    {
+        "page_content": "Si vous voulez apprendre Python, commencez par comprendre les variables, les boucles et les fonctions.",
+        "source": "tutorial"
+    },
+    {
+        "page_content": "Les voitures électriques produisent moins d’émissions locales, mais leur impact écologique dépend de la production des batteries.",
+        "source": "science_article"
+    },
+    {
+        "page_content": "« Interstellar » explore les thèmes de la relativité temporelle, de l’amour et de la survie humaine à travers une aventure spatiale.",
+        "source": "movie_review"
+    }
+]
+
+
+# Upload to DB
+for id, doc in enumerate(documents):
+
+    # 1. embed the content
+    doc_embedding = embedding_model.encode(doc["page_content"]).tolist()
+    
+    # 2. upload the document
+    db_client.upload_points(
+        collection_name="IncubAI",
+        points=[
+            models.PointStruct(
+                id=id, vector=doc_embedding, payload=doc
+            )
+        ],
+    )
+
+
+################# Preparing Generation ################
+
+template = """Répondez à la question en vous basant uniquement sur le contexte suivant:
+{context}
+
+Question : {question}
+"""
+
+llm_client = OpenAI(
+    # This is the default and can be omitted
+    api_key=os.environ.get("OPENAI_API_KEY"),
+)
+
+
+################# Combining Retrieval and Generation for RAG ################
+
+def execute_RAG(user_query):
+    query_embedding = embedding_model.encode(user_query).tolist()
+
+    results = db_client.query_points(
+        collection_name="IncubAI",
+        query = query_embedding,
+        limit=2
+    )
+    
+    context = "\n\n".join(result.payload["page_content"] for result in results.points)
+    prompt = template.format(context=context, question=user_query)
+    response = llm_client.chat.completions.create(
+            model="gpt-4o",
+            messages=[{"role": "user", "content": prompt}],
+            temperature=0.3
+        )
+
+    return response.choices[0].message.content
+
+
+
+################# Prepare Interface ################
+
+def respond(message, chat_history):
+    
+    bot_response = execute_RAG(message)
+    
+    chat_history.append({"role": "user", "content": message})
+    chat_history.append({"role": "assistant", "content": bot_response})
+    return "", chat_history
+
+
+examples = [
+    "Quand la Tour Eiffel a-t-elle été construite ?",
+    "Quels sont les effets de la méditation ?",
+    "Comment fonctionne LangChain ?",
+    "Quel est l’impact écologique des voitures électriques ?",
+]
+
+msg = gr.Textbox()  # define outside to define location
+
+
+with gr.Blocks() as demo:
+    gr.HTML("<h1 style='text-align:center'>Example de un Chatbot minimal 🤖</h1>")
+    chatbot = gr.Chatbot(type="messages")
+    gr.Examples(examples, msg)
+    msg.render()
+    clear = gr.ClearButton([msg, chatbot])
+    
+    msg.submit(respond, [msg, chatbot], [msg, chatbot])
+
+
+if __name__ == "__main__":
+    demo.launch()

requirements.txt

@@ -0,0 +1,4 @@
+gradio
+sentence_transformers
+qdrant_client
+python-dotenv