Create app.py
Browse files
app.py
ADDED
|
@@ -0,0 +1,44 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
import gradio as gr
|
| 2 |
+
from ctransformers import AutoModelForCausalLM
|
| 3 |
+
|
| 4 |
+
# Charger le modèle GGUF
|
| 5 |
+
model = AutoModelForCausalLM.from_pretrained(
|
| 6 |
+
"microsoft/Phi-3-mini-4k-instruct-gguf",
|
| 7 |
+
model_file="phi-3-mini-4k-instruct-q4.gguf", # Attention : mets ici le fichier GGUF exact disponible
|
| 8 |
+
model_type="phi3", # ou "phi" selon l'option ctransformers
|
| 9 |
+
gpu_layers=20, # Ou ajusté selon ton environnement
|
| 10 |
+
hf=True # Indique que tu télécharges depuis Hugging Face
|
| 11 |
+
)
|
| 12 |
+
|
| 13 |
+
# Prompt système (spécial écoute empathique)
|
| 14 |
+
system_prompt = """Tu es un compagnon d'écoute doux et bienveillant.
|
| 15 |
+
Ton rôle est d'aider la personne à clarifier ce qu'elle vit, sans juger, sans analyser.
|
| 16 |
+
|
| 17 |
+
À chaque réponse :
|
| 18 |
+
1. Reformule en quelques mots ce que tu as compris.
|
| 19 |
+
2. Aide doucement la personne à exprimer ses sentiments et besoins.
|
| 20 |
+
3. Si approprié, propose une petite action concrète qu'elle pourrait envisager.
|
| 21 |
+
|
| 22 |
+
Utilise un style simple, humain, respectueux et posé.
|
| 23 |
+
Ne donne pas de conseils. Pose seulement une question douce à la fois si besoin.
|
| 24 |
+
Parle en français naturel, sans anglicismes.
|
| 25 |
+
"""
|
| 26 |
+
|
| 27 |
+
# Fonction de réponse
|
| 28 |
+
def chat(message, history):
|
| 29 |
+
prompt = system_prompt + "\n\n"
|
| 30 |
+
for user_msg, bot_msg in history:
|
| 31 |
+
prompt += f"Utilisateur: {user_msg}\nAssistant: {bot_msg}\n"
|
| 32 |
+
prompt += f"Utilisateur: {message}\nAssistant:"
|
| 33 |
+
|
| 34 |
+
response = model(prompt, max_new_tokens=256, temperature=0.5)
|
| 35 |
+
return response
|
| 36 |
+
|
| 37 |
+
# Interface Gradio
|
| 38 |
+
iface = gr.ChatInterface(
|
| 39 |
+
chat,
|
| 40 |
+
title="Écoute Empathique (Phi-3 Mini)",
|
| 41 |
+
description="Un compagnon d'écoute doux et structuré, inspiré de la Communication NonViolente.",
|
| 42 |
+
)
|
| 43 |
+
|
| 44 |
+
iface.launch()
|