Chat-With-AI / README.md
NathMen12's picture
Upload 2 files
076222d verified
|
Raw
History Blame Contribute Delete
1.5 kB
metadata
title: AI Chat Multi-Modèle
emoji: 🤗
colorFrom: indigo
colorTo: purple
sdk: docker
app_port: 7860
pinned: false
license: mit

🤗 AI Chat — Multi-Modèle avec ZeroGPU

Un espace de chat IA complet avec :

  • 🔐 Identification automatique via le header X-HF-User injecté par HuggingFace Spaces
  • 💬 Historique de conversations — persistant, isolé par utilisateur
  • 🧠 N'importe quel modèle HF — entrez le model_id ou choisissez dans la liste
  • ⚡ ZeroGPU — GPU alloué uniquement pendant l'inférence, aucune consommation au repos
  • ⚙️ Paramètres avancés — max tokens, temperature, top-p, repetition penalty, system prompt
  • 🖥️ Mode CPU — optionnel, pour les petits modèles

Utilisation

  1. Ouvrez le Space — votre profil HF est détecté automatiquement
  2. Choisissez ou saisissez un modèle dans la sidebar
  3. Cliquez sur Charger le modèle
  4. Chattez !

Stack technique

  • Gradio 4 — UI (sans gr.LoginButton, identification via header HF)
  • Transformers + Accelerate — inférence
  • BitsAndBytes — quantification 4-bit
  • SQLite — persistance de l'historique à /data/chat.db
  • spaces.GPU — allocation GPU à la demande (ZeroGPU)

Variables d'environnement

Variable Défaut Description
DB_PATH /data/chat.db Chemin de la base SQLite
HF_TOKEN Token HF pour dev local (optionnel)
GRADIO_SERVER_PORT 7860 Port du serveur