app.py

import gradio as gr
from llama_index.core import VectorStoreIndex
from llama_index.core import (
    StorageContext,
    load_index_from_storage,
)
from llama_index.tools.arxiv import ArxivToolSpec
from llama_index.core import Settings
from llama_index.llms.azure_openai import AzureOpenAI
from llama_index.embeddings.azure_openai import AzureOpenAIEmbedding
from llama_index.llms.openai import OpenAI
from llama_index.embeddings.openai import OpenAIEmbedding
from typing import Optional, List, Dict, Any
from pathlib import Path
import aiohttp
import json
import os
import asyncio


from gradio_client import Client, handle_file
HF_TOKEN = os.environ.get('HF_TOKEN')



##### LLM #####
openai_api_key = os.environ.get('OPENAI_API_KEY')


llm = OpenAI(
    model="gpt-4.1",
    api_key=openai_api_key,
)
embed_model = OpenAIEmbedding(
    model="text-embedding-ada-002",
    api_key=openai_api_key,
)

Settings.llm = llm
Settings.embed_model = embed_model
##### END LLM #####



##### LOAD RETRIEVERS #####
DOCUMENTS_BASE_PATH = "./"
RETRIEVERS_JSON_PATH = Path("./retrievers.json")

# Cargar metadatos
def load_retrievers_metadata():
    try:
        with open(RETRIEVERS_JSON_PATH, 'r', encoding='utf-8') as f:
            return json.load(f)
    except Exception as e:
        print(f"Error cargando retrievers.json: {str(e)}")
        print(f"Detalles del error: {traceback.format_exc()}") # Necesitarías importar traceback
        return {}

retrievers_metadata = load_retrievers_metadata()
SOURCES = {source: f"{source.lower()}/" for source in retrievers_metadata.keys()}

# Cargar índices
indices: Dict[str, VectorStoreIndex] = {}

for source, rel_path in SOURCES.items():
    full_path = os.path.join(DOCUMENTS_BASE_PATH, rel_path)
    if not os.path.exists(full_path):
        print(f"Advertencia: No se encontró la ruta para {source}")
        continue

    for root, dirs, files in os.walk(full_path):
        if "storage_nodes" in dirs:
            try:
                storage_path = os.path.join(root, "storage_nodes")
                storage_context = StorageContext.from_defaults(persist_dir=storage_path)
                index_name = os.path.basename(root)
                indices[index_name] = load_index_from_storage(storage_context) #, index_id="vector_index"
                print(f"Índice cargado correctamente: {index_name}")
            except Exception as e:
                print(f"Error cargando índice {index_name}: {str(e)}")
                print(f"Detalles del error: {traceback.format_exc()}")
                





##### ARXIV INSTANCE #####
arxiv_tool = ArxivToolSpec(max_results=5).to_tool_list()[0]
arxiv_tool.return_direct = True



##### MCP TOOLS #####

async def search_arxiv(
    query: str,
    max_results: int = 5
) -> Dict[str, Any]:
    """
    Busca artículos académicos en ArXiv.
    
    Args:
        query: Términos de búsqueda (ej. "deep learning")
        max_results: Número máximo de resultados (1-10, default 5)
    
    Returns:
        Dict: Resultados de la búsqueda con metadatos de los papers
    """
    try:
        # Configurar máximo de resultados
        max_results = min(max(1, max_results), 10)
        arxiv_tool.metadata.max_results = max_results
        
        # Ejecutar búsqueda y obtener resultados
        tool_output = arxiv_tool(query=query)
        
        # Procesar documentos
        papers = []
        for doc in tool_output.raw_output:  # Acceder correctamente a los documentos
            content = doc.text_resource.text.split('\n')
            papers.append({
                'title': content[0].split(': ')[1] if ': ' in content[0] else content[0],
                'abstract': '\n'.join(content[1:]).strip(),
                'pdf_url': content[0].split(': ')[0].replace('http://', 'https://'),
                'arxiv_id': content[0].split(': ')[0].split('/')[-1].replace('v1', '')
            })
        
        return {
            'papers': papers,
            'count': len(papers),
            'query': query,
            'status': 'success'
        }
        
    except Exception as e:
        return {
            'papers': [],
            'count': 0,
            'query': query,
            'status': 'error',
            'error': str(e)
        }

async def list_retrievers(source: str = None) -> dict:
    """
    Devuelve la lista de retrievers disponibles. 
    Si se especifica una source y existe, filtra por ella; si no existe, devuelve todas.
    
    Args:
        source (str, optional): Fuente para filtrar. Si no existe, se ignorará. Defaults to None.
    
    Returns:
        dict: {
            "retrievers": Lista de retrievers (filtrados o completos),
            "count": Número total,
            "status": "success"|"error",
            "source_requested": source,  # Muestra lo que se solicitó
            "source_used": "all"|source  # Muestra lo que realmente se usó
        }
    """
    try:
        available = []
        source_exists = source in retrievers_metadata if source else False
        
        for current_source, indexes in retrievers_metadata.items():
            # Solo filtrar si el source existe, sino mostrar todo
            if source_exists and current_source != source:
                continue
                
            for index_name, metadata in indexes.items():
                available.append({
                    "name": index_name,
                    "source": current_source,
                    "title": metadata.get("title", ""),
                    "description": metadata.get("description", "")
                })
        
        return {
            "retrievers": available,
            "count": len(available),
            "status": "success",
            "source_requested": source,
            "source_used": source if source_exists else "all"
        }
    except Exception as e:
        return {
            "retrievers": [],
            "count": 0,
            "status": "error",
            "error": str(e),
            "source_requested": source,
            "source_used": "none"
        }


def retrieve_docs(
    query: str,
    retrievers: List[str],
    top_k: int = 3
) -> dict:
    """
    Realiza búsqueda semántica en documentos indexados.
    
    Parámetros:
        query (str): Texto de búsqueda (requerido)
        retrievers (List[str]): Nombres de retrievers a consultar (requerido)
        top_k (int): Número de resultados por retriever (opcional, default=3)
    """
    print(f"Iniciando búsqueda para query: '{query}'")
    print(f"Parámetros - retrievers: {retrievers}, top_k: {top_k}")
    
    results = {}
    invalid = []
    
    for name in retrievers:
        if name not in indices:
            print(f"Retriever no encontrado: {name}")
            invalid.append(name)
            continue
            
        try:
            print(f"Procesando retriever: {name}")
            retriever = indices[name].as_retriever(similarity_top_k=top_k)
            nodes = retriever.retrieve(query)
            print(f"Retrieved {len(nodes)} documentos de {name}")
            
            # 2. Buscar metadatos COMPLETOS
            metadata = {}
            source = "unknown"
            for src, indexes in retrievers_metadata.items():
                if name in indexes:
                    metadata = indexes[name]
                    source = src
                    break
            print(f"Metadatos encontrados para {name}: {metadata.keys()}")
            
            # 3. Construir respuesta
            results[name] = {
                "title": metadata.get("title", name),
                "documents": [
                    {
                        "content": node.get_content(),
                        "metadata": node.metadata,
                        "score": node.score
                    }
                    for node in nodes
                ],
                "description": metadata.get("description", ""),
                "source": source,
                "last_updated": metadata.get("last_updated", "")
            }
            print(f"Retriever {name} procesado exitosamente")
            
        except Exception as e:
            print(f"Error procesando retriever {name}: {str(e)}", exc_info=True)
            results[name] = {
                "error": str(e),
                "retriever": name
            }
    
    # Construir respuesta final
    response = {
        "query": query,
        "results": results,
        "top_k": top_k,
    }
    
    if invalid:
        print(f"Retrievers inválidos: {invalid}. Opciones válidas: {list(indices.keys())}")
        response["warnings"] = {
            "invalid_retrievers": invalid,
            "valid_options": list(indices.keys())
        }
    
    print(f"Búsqueda completada. Total resultados: {len(results)}")
    return response


async def search_tavily(
    query: str,
    days: int = 7,
    max_results: int = 1,
    include_answer: bool = False
) -> dict:
    """Perform a web search using the Tavily API.
    
    Args:
        query: Search query string (required)
        days: Restrict search to last N days (default: 7)
        max_results: Maximum results to return (default: 1)
        include_answer: Include a direct answer only when requested by the user (default: False)
        
    Returns:
        dict: Search results from Tavily
    """
    # Obtener la API key de las variables de entorno
    tavily_api_key = os.environ.get('TAVILY_API_KEY')
    if not tavily_api_key:
        raise ValueError("TAVILY_API_KEY environment variable not set")
    
    headers = {
        "Authorization": f"Bearer {tavily_api_key}",
        "Content-Type": "application/json"
    }
    
    payload = {
        "query": query,
        "search_depth": "basic",
        "max_results": max_results,
        "days": days if days else None,
        "include_answer": include_answer
    }
    
    try:
        async with aiohttp.ClientSession() as session:
            async with session.post(
                "https://api.tavily.com/search",
                headers=headers,
                json=payload
            ) as response:
                response.raise_for_status()
                result = await response.json()
                return result
                
    except Exception as e:
        return {
            "error": str(e),
            "status": "failed",
            "query": query
        }










# Gradio interface
with gr.Blocks(title="Herramientas MCP", theme=gr.themes.Base()) as arxiv_tab:
    arxiv_interface = gr.Interface(
        fn=search_arxiv,
        inputs=[
            gr.Textbox(label="Términos de búsqueda", placeholder="Ej: deep learning"),
            gr.Slider(1, 10, value=5, step=1, label="Número máximo de resultados")
        ],
        outputs=gr.JSON(label="Resultados de búsqueda"),
        title="Búsqueda en ArXiv",
        description="Busca artículos académicos en ArXiv por palabras clave.",
        api_name="_search_arxiv"
    )

with gr.Blocks(title="Herramientas MCP", theme=gr.themes.Base()) as list_retrievers_tab:
    retrievers_interface = gr.Interface(
        fn=list_retrievers,
        inputs=gr.Textbox(label="Fuente (opcional)", placeholder="Dejar vacío para listar todos"),
        outputs=gr.JSON(label="Lista de retrievers"),
        title="Lista de Retrievers",
        description="Muestra los retrievers disponibles, opcionalmente filtrados por fuente.",
        api_name="_list_retrievers"
    )

with gr.Blocks(title="Herramientas MCP", theme=gr.themes.Base()) as tavily_tab:
    tavily_interface = gr.Interface(
        fn=search_tavily,
        inputs=[
            gr.Textbox(label="Consulta de búsqueda", placeholder="Ej: últimas noticias sobre IA"),
            gr.Slider(1, 30, value=7, step=1, label="Últimos N días (0 para sin límite)"),
            gr.Slider(1, 10, value=1, step=1, label="Máximo de resultados"),
            gr.Checkbox(label="Incluir respuesta directa", value=False)
        ],
        outputs=gr.JSON(label="Resultados de Tavily"),
        title="Búsqueda Web (Tavily)",
        description="Realiza búsquedas en web usando la API de Tavily.",
        api_name="_search_tavily"
    )
    
with gr.Blocks(title="Herramientas MCP", theme=gr.themes.Base()) as retrieve_tab:
    # Interfaz para retrieve_docs
    retrieve_interface = gr.Interface(
        fn=retrieve_docs,
        inputs=[
            gr.Textbox(label="Consulta", placeholder="Ingrese su pregunta o términos de búsqueda..."),
            gr.Dropdown(
                choices=list(indices.keys()),
                label="Retrievers",
                multiselect=True,
                info="Seleccione uno o más retrievers"
            ),
            gr.Slider(1, 10, value=3, step=1, label="Número de resultados por retriever (top_k)")
        ],
        outputs=gr.JSON(label="Resultados de búsqueda semántica"),
        title="Búsqueda Semántica en Documentos",
        description="""Realiza búsqueda semántica en documentos indexados usando retrievers.
                    Seleccione los retrievers disponibles y ajuste el número de resultados.""",
        api_name="_retrieve"
    )

# Creamos la interfaz con las pestañas separadas
demo = gr.TabbedInterface(
    [arxiv_tab, tavily_tab, list_retrievers_tab, retrieve_tab],
    ["ArXiv", "Tavily", "List Retrievers", "Retrieve"]
)

demo.launch(mcp_server=True)