Chat-With-AI / README.md
NathMen12's picture
Upload 2 files
076222d verified
|
Raw
History Blame Contribute Delete
1.5 kB
---
title: AI Chat Multi-Modèle
emoji: 🤗
colorFrom: indigo
colorTo: purple
sdk: docker
app_port: 7860
pinned: false
license: mit
---
# 🤗 AI Chat — Multi-Modèle avec ZeroGPU
Un espace de chat IA complet avec :
- **🔐 Identification automatique** via le header `X-HF-User` injecté par HuggingFace Spaces
- **💬 Historique de conversations** — persistant, isolé par utilisateur
- **🧠 N'importe quel modèle HF** — entrez le `model_id` ou choisissez dans la liste
- **⚡ ZeroGPU** — GPU alloué uniquement pendant l'inférence, aucune consommation au repos
- **⚙️ Paramètres avancés** — max tokens, temperature, top-p, repetition penalty, system prompt
- **🖥️ Mode CPU** — optionnel, pour les petits modèles
## Utilisation
1. Ouvrez le Space — votre profil HF est détecté automatiquement
2. Choisissez ou saisissez un modèle dans la sidebar
3. Cliquez sur **Charger le modèle**
4. Chattez !
## Stack technique
- **Gradio 4** — UI (sans gr.LoginButton, identification via header HF)
- **Transformers + Accelerate** — inférence
- **BitsAndBytes** — quantification 4-bit
- **SQLite** — persistance de l'historique à `/data/chat.db`
- **spaces.GPU** — allocation GPU à la demande (ZeroGPU)
## Variables d'environnement
| Variable | Défaut | Description |
|---|---|---|
| `DB_PATH` | `/data/chat.db` | Chemin de la base SQLite |
| `HF_TOKEN` | — | Token HF pour dev local (optionnel) |
| `GRADIO_SERVER_PORT` | `7860` | Port du serveur |