Update app.py

app.py

@@ -1,34 +1,50 @@
 import gradio as gr
-from transformers import T5Tokenizer, T5ForConditionalGeneration
+from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
 import torch
 
-# Cargar modelo y tokenizer
-model_name = "google/flan-t5-base"
-tokenizer = T5Tokenizer.from_pretrained(model_name)
-model = T5ForConditionalGeneration.from_pretrained(model_name)
+# Carga del modelo ligero en español
+model_name = "mrm8488/t5-base-finetuned-spanish-summarization"
+tokenizer = AutoTokenizer.from_pretrained(model_name)
+model = AutoModelForSeq2SeqLM.from_pretrained(model_name)
 
-def get_system_prompt():
-    with open("prompt.txt", "r", encoding="utf-8") as f:
-        return f.read().strip()
+# Prompt base para BITER
+base_prompt = (
+    "Eres BITER, un mentor experto en negocios. Responde SIEMPRE en español, "
+    "con consejos breves, claros y con visión estratégica. Ayudas a emprendedores "
+    "a tomar buenas decisiones. Sé directo, profesional y humano.\n"
+    "Usuario: {pregunta}\n"
+    "BITER:"
+)
 
-def generate_response(user_input):
-    system_prompt = get_system_prompt()
-    full_prompt = f"{system_prompt}\n\nUsuario: {user_input}\nBITER:"
+# Función de respuesta
+def responder(pregunta):
+    prompt = base_prompt.format(pregunta=pregunta)
+    input_ids = tokenizer.encode(prompt, return_tensors="pt", truncation=True)
 
-    inputs = tokenizer(full_prompt, return_tensors="pt")
-    output = model.generate(**inputs, max_new_tokens=200)
+    # Generar respuesta
+    with torch.no_grad():
+        output_ids = model.generate(
+            input_ids,
+            max_new_tokens=100,
+            num_beams=4,
+            early_stopping=True
+        )
 
-    decoded_output = tokenizer.decode(output[0], skip_special_tokens=True)
-    return decoded_output.strip()
+    respuesta = tokenizer.decode(output_ids[0], skip_special_tokens=True)
+    return respuesta.strip()
 
-# Interfaz Gradio para probar el modelo directamente en Hugging Face
-demo = gr.Interface(
-    fn=generate_response,
-    inputs=gr.Textbox(lines=2, placeholder="Escribe tu pregunta..."),
-    outputs=gr.Textbox(),
-    title="BITER - Mentor IA para Emprendedores",
-    description="Respuestas rápidas, estratégicas y en español. Como un CEO que te asesora al instante.",
+# Interfaz Gradio
+iface = gr.Interface(
+    fn=responder,
+    inputs=gr.Textbox(lines=3, placeholder="¿Cuál es tu duda sobre tu negocio?", label="Tu pregunta"),
+    outputs=gr.Textbox(label="Respuesta de BITER"),
+    title="BITER - Tu Mentor IA para Decisiones de Negocio",
+    description="BITER responde dudas de emprendedores como si fuera un CEO experimentado. Modelo: T5 ligero afinado en español.",
+    examples=[
+        ["¿Cómo puedo validar mi idea de negocio con poco presupuesto?"],
+        ["¿Cuál es la mejor estrategia para conseguir mis primeros clientes?"],
+        ["¿Debería invertir en publicidad o en SEO?"]
+    ],
 )
 
-if __name__ == "__main__":
-    demo.launch()
+iface.launch()