Upload 2 files

app.py

@@ -1,11 +1,16 @@
 import os
 import spaces
 import torch
+import tempfile
+import asyncio
 import gradio as gr
 from transformers import AutoTokenizer, AutoModelForCausalLM
+import edge_tts
+import pdfplumber
 
 MODEL_ID = "Qwen/Qwen2.5-Coder-7B-Instruct"
 API_KEY  = os.environ.get("BRAIN_API_KEY", "")
+TTS_VOZ  = "es-ES-AlvaroNeural"
 
 SYSTEM_DEFAULT = (
     "Eres Fénix Brain, experto en Python, Gradio, FastAPI y HuggingFace Spaces. "
@@ -14,17 +19,50 @@ SYSTEM_DEFAULT = (
 
 print("Cargando tokenizer...")
 tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, trust_remote_code=True)
-print("Cargando modelo en CPU...")
+print("Cargando modelo...")
 model = AutoModelForCausalLM.from_pretrained(
     MODEL_ID,
     torch_dtype=torch.bfloat16,
     low_cpu_mem_usage=True,
     trust_remote_code=True,
 )
-print("Modelo listo")
+print("Modelo listo ✅")
 
+
+# ── TTS ───────────────────────────────────────────────────────────────────────
+async def _tts_async(texto: str, voz: str) -> str:
+    tmp = tempfile.NamedTemporaryFile(suffix=".mp3", delete=False)
+    await edge_tts.Communicate(texto[:3000], voz).save(tmp.name)
+    return tmp.name
+
+def texto_a_voz(texto: str, voz: str) -> str:
+    try:
+        return asyncio.new_event_loop().run_until_complete(_tts_async(texto, voz))
+    except Exception as e:
+        print(f"TTS error: {e}")
+        return None
+
+
+# ── Leer documentos ───────────────────────────────────────────────────────────
+def _leer_archivo(path: str) -> str:
+    if path.lower().endswith(".pdf"):
+        try:
+            with pdfplumber.open(path) as pdf:
+                return "\n".join(p.extract_text() or "" for p in pdf.pages[:10])
+        except Exception as e:
+            return f"[Error leyendo PDF: {e}]"
+    else:
+        try:
+            with open(path, "r", encoding="utf-8", errors="ignore") as f:
+                return f.read()[:8000]
+        except Exception as e:
+            return f"[Error leyendo archivo: {e}]"
+
+
+# ── Inferencia ────────────────────────────────────────────────────────────────
 @spaces.GPU
 def generar(prompt: str, system: str, key: str, max_tokens: int = 1024) -> str:
+    """Endpoint API para La Forja."""
     if API_KEY and key != API_KEY:
         return "❌ Unauthorized"
     if not prompt.strip():
@@ -37,24 +75,38 @@ def generar(prompt: str, system: str, key: str, max_tokens: int = 1024) -> str:
     inputs = tokenizer([text], return_tensors="pt").to(model.device)
     with torch.no_grad():
         out = model.generate(
-            **inputs,
-            max_new_tokens=max_tokens,
-            temperature=0.2,
-            do_sample=True,
+            **inputs, max_new_tokens=max_tokens,
+            temperature=0.2, do_sample=True,
             pad_token_id=tokenizer.eos_token_id,
         )
     gen = out[0][inputs["input_ids"].shape[1]:]
     return tokenizer.decode(gen, skip_special_tokens=True)
 
+
 @spaces.GPU
-def chat_fn(mensaje: str, historial: list, system_prompt: str) -> tuple:
-    if not mensaje.strip():
-        return historial, ""
+def chat_fn(mensaje: str, archivo, historial: list, system_prompt: str, voz: str, activar_voz: bool):
+    if not mensaje.strip() and archivo is None:
+        return historial, "", None
+
+    # Añadir contenido del archivo al mensaje si existe
+    texto_archivo = ""
+    if archivo is not None:
+        contenido = _leer_archivo(archivo.name)
+        nombre = os.path.basename(archivo.name)
+        texto_archivo = f"\n\n[Archivo: {nombre}]\n{contenido}"
+
+    prompt_completo = mensaje + texto_archivo
+
+    # Construir historial
     messages = [{"role": "system", "content": system_prompt or SYSTEM_DEFAULT}]
     for h in historial:
-        messages.append({"role": "user",      "content": h["content"] if isinstance(h, dict) else h[0]})
-        messages.append({"role": "assistant", "content": h["content"] if isinstance(h, dict) else h[1]})
-    messages.append({"role": "user", "content": mensaje})
+        if isinstance(h, dict):
+            messages.append(h)
+        else:
+            messages.append({"role": "user",      "content": h[0]})
+            messages.append({"role": "assistant", "content": h[1]})
+    messages.append({"role": "user", "content": prompt_completo})
+
     text   = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
     inputs = tokenizer([text], return_tensors="pt").to(model.device)
     with torch.no_grad():
@@ -64,32 +116,72 @@ def chat_fn(mensaje: str, historial: list, system_prompt: str) -> tuple:
         )
     gen = out[0][inputs["input_ids"].shape[1]:]
     respuesta = tokenizer.decode(gen, skip_special_tokens=True)
+
     historial = historial + [
-        {"role": "user",      "content": mensaje},
+        {"role": "user",      "content": mensaje + (" 📄" if archivo else "")},
         {"role": "assistant", "content": respuesta},
     ]
-    return historial, ""
 
-with gr.Blocks(title="🧠 Fénix Brain") as demo:
-    gr.Markdown("# 🧠 Fénix Brain\nQwen2.5-Coder-7B · Asistente de código para La Forja")
+    audio_path = texto_a_voz(respuesta, voz) if activar_voz else None
+    return historial, "", audio_path
+
+
+# ── UI ────────────────────────────────────────────────────────────────────────
+VOCES = {
+    "🇪🇸 Álvaro (ES)": "es-ES-AlvaroNeural",
+    "🇪🇸 Elvira (ES)": "es-ES-ElviraNeural",
+    "🇲🇽 Jorge (MX)":  "es-MX-JorgeNeural",
+    "🇲🇽 Dalia (MX)":  "es-MX-DaliaNeural",
+    "🇦🇷 Tomás (AR)":  "es-AR-TomasNeural",
+}
+
+with gr.Blocks(title="🧠 Fénix Brain", theme=gr.themes.Base()) as demo:
+    gr.Markdown("# 🧠 Fénix Brain\nQwen2.5-Coder-7B · Documentos · Voz")
 
     with gr.Tab("💬 Chat"):
-        system_box = gr.Textbox(label="System prompt", value=SYSTEM_DEFAULT, lines=2)
-        chatbot    = gr.Chatbot(height=500, type="messages")
-        msg_box    = gr.Textbox(placeholder="Escribe tu pregunta…", label="Mensaje")
         with gr.Row():
-            send_btn  = gr.Button("Enviar", variant="primary")
-            clear_btn = gr.Button("Limpiar")
-        send_btn.click(chat_fn,  [msg_box, chatbot, system_box], [chatbot, msg_box])
-        msg_box.submit(chat_fn,  [msg_box, chatbot, system_box], [chatbot, msg_box])
-        clear_btn.click(lambda: ([], ""), outputs=[chatbot, msg_box])
-
-    with gr.Tab("🔌 API"):
-        gr.Markdown("Llama a esta función desde La Forja con `api_name='/generar'`")
+            with gr.Column(scale=3):
+                system_box = gr.Textbox(label="System prompt", value=SYSTEM_DEFAULT, lines=2)
+                chatbot    = gr.Chatbot(height=450, type="messages", label="Fénix Brain")
+                msg_box    = gr.Textbox(placeholder="Escribe tu mensaje…", label="Mensaje", lines=2)
+                with gr.Row():
+                    send_btn  = gr.Button("📨 Enviar", variant="primary")
+                    clear_btn = gr.Button("🗑️ Limpiar")
+            with gr.Column(scale=1):
+                archivo_in  = gr.File(label="📄 Archivo", file_types=[".pdf", ".txt", ".py", ".md", ".json"])
+                activar_voz = gr.Checkbox(label="🔊 Voz activada", value=True)
+                voz_sel     = gr.Dropdown(list(VOCES.keys()), value="🇪🇸 Álvaro (ES)", label="Voz")
+                audio_out   = gr.Audio(label="🔊 Respuesta", autoplay=True)
+
+        def _chat(mensaje, archivo, historial, system, voz_nombre, activar):
+            voz = VOCES.get(voz_nombre, TTS_VOZ)
+            return chat_fn(mensaje, archivo, historial, system, voz, activar)
+
+        send_btn.click(_chat, [msg_box, archivo_in, chatbot, system_box, voz_sel, activar_voz], [chatbot, msg_box, audio_out])
+        msg_box.submit(_chat, [msg_box, archivo_in, chatbot, system_box, voz_sel, activar_voz], [chatbot, msg_box, audio_out])
+        clear_btn.click(lambda: ([], "", None), outputs=[chatbot, msg_box, audio_out])
+
+    with gr.Tab("🔌 API (La Forja)"):
+        gr.Markdown("""
+### Llamada desde La Forja
+```python
+from gradio_client import Client
+client = Client("Cristobal299/Chat")
+result = client.predict(
+    prompt="Tu pregunta",
+    system="",
+    key="TU_BRAIN_API_KEY",
+    max_tokens=1024,
+    api_name="/generar"
+)
+```
+        """)
         api_prompt  = gr.Textbox(label="Prompt")
         api_system  = gr.Textbox(label="System", value=SYSTEM_DEFAULT)
         api_key_box = gr.Textbox(label="API Key", type="password")
         api_out     = gr.Textbox(label="Respuesta", lines=10)
-        gr.Button("Probar").click(generar, [api_prompt, api_system, api_key_box], api_out, api_name="generar")
+        gr.Button("Probar API").click(
+            generar, [api_prompt, api_system, api_key_box], api_out, api_name="generar"
+        )
 
 demo.launch(server_name="0.0.0.0", server_port=7860)

requirements.txt

@@ -4,4 +4,5 @@ torch>=2.1.0
 accelerate>=0.26.0
 spaces
 gradio_client
-
+edge-tts
+pdfplumber