Update app.py

app.py

@@ -4,20 +4,35 @@ import torch
 import os
 from huggingface_hub import login
 
+# Inicia sesión en Hugging Face con tu token
 hf_token = os.environ["HF_TOKEN"]
 login(token=hf_token)
 
-
+# Usa GPU si está disponible
 device = 0 if torch.cuda.is_available() else -1
-pipe = pipeline("text-generation", model="tiiuae/falcon-rw-1b", device=device)
 
+# Modelo ligero y público (rápido en CPU también)
+pipe = pipeline(
+    "text-generation",
+    model="tiiuae/falcon-rw-1b",
+    device=device
+)
 
+# Función de respuesta optimizada
 def responder(prompt):
-    respuesta = pipe(prompt, max_new_tokens=80, do_sample=True, temperature=0.7)[0]['generated_text']
+    respuesta = pipe(
+        prompt,
+        max_new_tokens=40,        # menos tokens = más velocidad
+        do_sample=True,
+        temperature=0.8,          # más creatividad
+        top_k=50,
+        top_p=0.9
+    )[0]['generated_text']
     return respuesta
 
+# Interfaz Gradio optimizada
 with gr.Blocks() as demo:
-    gr.Markdown("## 🤖 AmInside 1.0\nTu asistente IA gratuito en Hugging Face")
+    gr.Markdown("## ⚡ AmInside 1.0\nTu asistente IA rápido y gratuito")
     entrada = gr.Textbox(label="Escribe tu mensaje")
     salida = gr.Textbox(label="Respuesta")
     entrada.submit(fn=responder, inputs=entrada, outputs=salida)