Update app.py

app.py

@@ -2,11 +2,10 @@ import gradio as gr
 from huggingface_hub import InferenceClient
 import os
 
-# ============================================================
-# CONFIG
-# ============================================================
-REPO_ID  = "Wessym/prompt-refiner-mistral7b-Q4_K_M-GGUF"
-FILENAME = "prompt-refiner-mistral7b-Q4_K_M.gguf"
+HF_TOKEN = os.environ.get("HF_TOKEN")
+MODEL_ID  = "Wessym/prompt-refiner-mistral7b"
+
+client = InferenceClient(model=MODEL_ID, token=HF_TOKEN)
 
 SYSTEM_PROMPT = (
     'You are an expert Prompt Engineer. '
@@ -28,65 +27,35 @@ SYSTEM_PROMPT = (
     'Always respond in the same language as the input.'
 )
 
-# ============================================================
-# CHARGEMENT DU MODELE (une seule fois au démarrage)
-# ============================================================
-print("Chargement du modèle...")
-model_path = hf_hub_download(
-    repo_id  = REPO_ID,
-    filename = FILENAME,
-    token    = os.environ.get("HF_TOKEN"),
-)
-
-llm = Llama(
-    model_path   = model_path,
-    n_ctx        = 2048,
-    n_threads    = 4,
-    n_gpu_layers = 0,
-    verbose      = False,
-)
-print("Modèle chargé ✅")
-
-# ============================================================
-# FONCTION PRINCIPALE
-# ============================================================
 def refine_prompt(user_input: str) -> str:
     if not user_input.strip():
         return "❌ Veuillez entrer un prompt."
+    try:
+        messages = [
+            {"role": "system", "content": SYSTEM_PROMPT},
+            {"role": "user",   "content": f"User input to process: {user_input}"}
+        ]
+        response = client.chat_completion(
+            messages    = messages,
+            max_tokens  = 512,
+            temperature = 0.3,
+        )
+        return response.choices[0].message.content.strip()
+    except Exception as e:
+        return f"❌ Erreur: {str(e)}"
 
-    prompt = f"<s>[INST] {SYSTEM_PROMPT}\n\nUser input to process: {user_input} [/INST]"
-
-    response = llm(
-        prompt,
-        max_tokens     = 512,
-        temperature    = 0.3,
-        top_p          = 0.9,
-        repeat_penalty = 1.1,
-        stop           = ["</s>", "[INST]"],
-    )
-    return response["choices"][0]["text"].strip()
-
-# ============================================================
-# INTERFACE GRADIO
-# ============================================================
 with gr.Blocks(title="Prompt Refiner") as demo:
     gr.Markdown("# 🚀 Prompt Refiner\nEntre ton prompt et il sera structuré automatiquement.")
-
     with gr.Row():
         input_box  = gr.Textbox(label="Ton prompt", placeholder="Ex: Crée un script YouTube sur l'IA...", lines=3)
         output_box = gr.Textbox(label="Prompt raffiné", lines=10)
-
     btn = gr.Button("Raffiner ✨", variant="primary")
     btn.click(fn=refine_prompt, inputs=input_box, outputs=output_box)
 
-    gr.Examples(
-        examples=[
-            ["Create a YouTube script about AI for beginners"],
-            ["Rédige un article de blog sur le marketing digital"],
-            ["bonjour je mappelle wassim"],
-            ["qsdqsdqsdqs"],
-        ],
-        inputs=input_box,
-    )
+demo.launch()
+```
 
-demo.launch()
+Et le `requirements.txt` doit contenir seulement :
+```
+gradio
+huggingface_hub