---
title: RAG Chatbot Demo
emoji: 🤗
colorFrom: blue
colorTo: purple
sdk: gradio
sdk_version: 6.20.0
app_file: app.py
pinned: false
---

# RAG Assistant

Assistant conversationnel basé sur une architecture **Retrieval Augmented Generation (RAG)**.

Cette application permet d'interroger une base documentaire pré-indexée en combinant une recherche vectorielle, un reranking des documents et un modèle de langage.

---

# Modèles utilisés

| Composant | Modèle |
|-----------|---------|
| **LLM** | TinyLlama/TinyLlama-1.1B-Chat-v1.0 |
| **Embeddings** | sentence-transformers/all-MiniLM-L6-v2 |
| **Reranker** | cross-encoder/ms-marco-MiniLM-L-6-v2 |
| **Recherche vectorielle** | FAISS |
| **Interface** | Gradio |

---

# Fonctionnement

Le pipeline RAG suit les étapes suivantes :

1. La question de l'utilisateur est convertie en embedding grâce au modèle **sentence-transformers/all-MiniLM-L6-v2**.
2. Une recherche de similarité est effectuée dans la base vectorielle **FAISS** afin de récupérer les passages les plus proches.
3. Les documents retrouvés sont ensuite réordonnés (**reranking**) grâce au modèle **cross-encoder/ms-marco-MiniLM-L-6-v2** afin de conserver les passages les plus pertinents.
4. Les passages sélectionnés sont injectés dans le prompt du modèle **TinyLlama/TinyLlama-1.1B-Chat-v1.0**.
5. Le modèle génère une réponse contextualisée.

Architecture :

```text
                Question utilisateur
                         │
                         ▼
      Embedding (all-MiniLM-L6-v2)
                         │
                         ▼
          Recherche vectorielle
                  (FAISS)
                         │
                         ▼
             Top-k documents
                         │
                         ▼
      Reranking (CrossEncoder)
 cross-encoder/ms-marco-MiniLM-L-6-v2
                         │
                         ▼
           Contexte optimisé
                         │
                         ▼
          TinyLlama-1.1B-Chat-v1.0
                         │
                         ▼
                  Réponse
```

## Objectif du projet

Ce projet a été développé afin d'explorer les différentes étapes de la construction d'un système RAG complet :

- chargement et préparation des documents ;
- création d'une base vectorielle avec FAISS ;
- recherche sémantique par embeddings ;
- amélioration de la pertinence grâce à un CrossEncoder (reranking) ;
- génération de réponses avec un modèle de langage Hugging Face ;
- interface utilisateur développée avec Gradio.