Update app.py

app.py

@@ -1,23 +1,42 @@
 import gradio as gr
-from transformers import pipeline
+from llama_cpp import Llama
 
-# Carga un modelo ligero que no sea muy robusto
-model = pipeline("text-generation", model="EleutherAI/gpt-neo-125M")
+# Carga el modelo Phi-4 desde Hugging Face
+llm = Llama.from_pretrained(
+    repo_id="unsloth/phi-4-GGUF",
+    filename="phi-4-F16.gguf",
+)
 
 # Define una función para procesar las solicitudes
 def process_prompt(prompt):
-    response = model(prompt, max_length=50, num_return_sequences=1, do_sample=True)
-    return response[0]["generated_text"]
+    """
+    Procesa el prompt usando el modelo Phi-4.
+    """
+    try:
+        # Genera una respuesta usando el modelo Phi-4
+        response = llm.create_chat_completion(
+            messages=[
+                {
+                    "role": "user",
+                    "content": prompt
+                }
+            ]
+        )
+        # Extrae y devuelve el texto generado
+        return response["choices"][0]["message"]["content"]
+    except Exception as e:
+        return f"Error al procesar el prompt: {e}"
 
 # Configura la interfaz de API con Gradio
 interface = gr.Interface(
     fn=process_prompt, 
     inputs="text", 
     outputs="text",
-    title="Hugging Face Space API",
-    description="Modelo ligero basado en GPT-Neo para probar vulnerabilidades con RedTeamer."
+    title="Hugging Face Space API - Phi-4",
+    description="Modelo ligero basado en Phi-4 para probar vulnerabilidades con RedTeamer.",
 )
 
 # Ejecuta la app
 if __name__ == "__main__":
     interface.launch(share=True)
+