Create app.py
Browse files
app.py
ADDED
|
@@ -0,0 +1,89 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
import os
|
| 2 |
+
import streamlit as st
|
| 3 |
+
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings
|
| 4 |
+
from llama_index.llms.gemini import Gemini
|
| 5 |
+
from llama_index.core.extractors import TitleExtractor
|
| 6 |
+
from llama_index.core.node_parser import SentenceWindowNodeParser
|
| 7 |
+
from llama_index.core.ingestion import IngestionPipeline
|
| 8 |
+
from llama_index.core.query_engine import RetrieverQueryEngine
|
| 9 |
+
from llama_index.core.retrievers import AutoMergingRetriever
|
| 10 |
+
from llama_index.core.indices.vector_store.retrievers import VectorIndexRetriever
|
| 11 |
+
from llama_index.vector_stores.chroma import ChromaVectorStore
|
| 12 |
+
|
| 13 |
+
import chromadb
|
| 14 |
+
|
| 15 |
+
from dotenv import load_dotenv
|
| 16 |
+
|
| 17 |
+
load_dotenv()
|
| 18 |
+
|
| 19 |
+
# Configurer les paramètres globaux
|
| 20 |
+
Settings.llm = Gemini(api_key=os.environ["GOOGLE_API_KEY"], temperature=0.1)
|
| 21 |
+
Settings.chunk_size = 1024 # Taille des chunks pour l'indexation
|
| 22 |
+
# Nombre de tokens générés par le LLM
|
| 23 |
+
|
| 24 |
+
# Fonction pour charger les données et créer l'index (optimisé pour éviter les rechargements inutiles)
|
| 25 |
+
@st.cache_resource
|
| 26 |
+
def load_data_and_create_index():
|
| 27 |
+
"""Charge les documents PDF et crée l'index vectoriel."""
|
| 28 |
+
documents = SimpleDirectoryReader("./data").load_data()
|
| 29 |
+
|
| 30 |
+
# Créer un pipeline d'ingestion avec extraction de titre et fenêtrage de phrases
|
| 31 |
+
node_parser = SentenceWindowNodeParser.from_defaults(
|
| 32 |
+
window_size=3,
|
| 33 |
+
window_metadata_key="window",
|
| 34 |
+
original_text_metadata_key="original_text",
|
| 35 |
+
)
|
| 36 |
+
|
| 37 |
+
text_splitter = node_parser.get_leaf_nodes_and_parent_nodes
|
| 38 |
+
extractors = [TitleExtractor(nodes=5)]
|
| 39 |
+
|
| 40 |
+
pipeline = IngestionPipeline(
|
| 41 |
+
transformations=[node_parser, *extractors]
|
| 42 |
+
)
|
| 43 |
+
|
| 44 |
+
# Indexer les documents
|
| 45 |
+
nodes = pipeline.run(documents=documents)
|
| 46 |
+
|
| 47 |
+
# Initialiser la base de données vectorielle (exemple avec Chroma)
|
| 48 |
+
db = chromadb.Client()
|
| 49 |
+
chroma_collection = db.get_or_create_collection("legal_docs")
|
| 50 |
+
vector_store = ChromaVectorStore(chroma_collection=chroma_collection)
|
| 51 |
+
|
| 52 |
+
# Créer l'index
|
| 53 |
+
index = VectorStoreIndex.from_documents(nodes, vector_store=vector_store)
|
| 54 |
+
return index
|
| 55 |
+
|
| 56 |
+
# Fonction pour effectuer la requête
|
| 57 |
+
def perform_query(query_str, index):
|
| 58 |
+
"""Effectue une requête sur l'index et renvoie la réponse."""
|
| 59 |
+
# Créer un AutoMergingRetriever
|
| 60 |
+
base_retriever = VectorIndexRetriever(
|
| 61 |
+
index=index,
|
| 62 |
+
similarity_top_k=8,
|
| 63 |
+
)
|
| 64 |
+
retriever = AutoMergingRetriever(base_retriever, index.storage_context)
|
| 65 |
+
|
| 66 |
+
# Créer le moteur de requête
|
| 67 |
+
query_engine = RetrieverQueryEngine.from_args(retriever=retriever)
|
| 68 |
+
|
| 69 |
+
response = query_engine.query(query_str)
|
| 70 |
+
return response
|
| 71 |
+
|
| 72 |
+
# Interface utilisateur Streamlit
|
| 73 |
+
st.title("Agent de Questions-Réponses Juridiques (Gemini + LlamaIndex)")
|
| 74 |
+
|
| 75 |
+
# Charger les données et créer l'index (une seule fois)
|
| 76 |
+
index = load_data_and_create_index()
|
| 77 |
+
|
| 78 |
+
# Champ de saisie de la question
|
| 79 |
+
query_str = st.text_input("Posez votre question juridique ici :")
|
| 80 |
+
|
| 81 |
+
# Bouton pour soumettre la question
|
| 82 |
+
if st.button("Poser la question"):
|
| 83 |
+
if query_str:
|
| 84 |
+
with st.spinner("Recherche en cours..."):
|
| 85 |
+
response = perform_query(query_str, index)
|
| 86 |
+
st.success("Réponse :")
|
| 87 |
+
st.write(response)
|
| 88 |
+
else:
|
| 89 |
+
st.error("Veuillez saisir une question.")
|