mamoon63 commited on
Commit
8ee261f
·
verified ·
1 Parent(s): d61cd62

Create app.py

Browse files
Files changed (1) hide show
  1. app.py +44 -0
app.py ADDED
@@ -0,0 +1,44 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ import gradio as gr
2
+ from ctransformers import AutoModelForCausalLM
3
+
4
+ # Charger le modèle GGUF
5
+ model = AutoModelForCausalLM.from_pretrained(
6
+ "microsoft/Phi-3-mini-4k-instruct-gguf",
7
+ model_file="phi-3-mini-4k-instruct-q4.gguf", # Attention : mets ici le fichier GGUF exact disponible
8
+ model_type="phi3", # ou "phi" selon l'option ctransformers
9
+ gpu_layers=20, # Ou ajusté selon ton environnement
10
+ hf=True # Indique que tu télécharges depuis Hugging Face
11
+ )
12
+
13
+ # Prompt système (spécial écoute empathique)
14
+ system_prompt = """Tu es un compagnon d'écoute doux et bienveillant.
15
+ Ton rôle est d'aider la personne à clarifier ce qu'elle vit, sans juger, sans analyser.
16
+
17
+ À chaque réponse :
18
+ 1. Reformule en quelques mots ce que tu as compris.
19
+ 2. Aide doucement la personne à exprimer ses sentiments et besoins.
20
+ 3. Si approprié, propose une petite action concrète qu'elle pourrait envisager.
21
+
22
+ Utilise un style simple, humain, respectueux et posé.
23
+ Ne donne pas de conseils. Pose seulement une question douce à la fois si besoin.
24
+ Parle en français naturel, sans anglicismes.
25
+ """
26
+
27
+ # Fonction de réponse
28
+ def chat(message, history):
29
+ prompt = system_prompt + "\n\n"
30
+ for user_msg, bot_msg in history:
31
+ prompt += f"Utilisateur: {user_msg}\nAssistant: {bot_msg}\n"
32
+ prompt += f"Utilisateur: {message}\nAssistant:"
33
+
34
+ response = model(prompt, max_new_tokens=256, temperature=0.5)
35
+ return response
36
+
37
+ # Interface Gradio
38
+ iface = gr.ChatInterface(
39
+ chat,
40
+ title="Écoute Empathique (Phi-3 Mini)",
41
+ description="Un compagnon d'écoute doux et structuré, inspiré de la Communication NonViolente.",
42
+ )
43
+
44
+ iface.launch()