Moyportillo29/historical-rag-corpus-passages

Historical RAG Corpus Passages

Descripción

Este corpus contiene una colección de pasajes históricos extraídos de búsquedas web, diseñado específicamente para tareas de Retrieval-Augmented Generation (RAG) y sistemas de respuesta a preguntas sobre temas históricos. El dataset incluye pasajes relacionados con eventos históricos, figuras históricas y contextos históricos diversos.

Estructura del Dataset

El dataset está organizado en formato JSON, donde cada entrada representa un pasaje histórico con la siguiente estructura:

• id: Identificador único del pasaje (formato: numero_pregunta_numero_pasaje)
• numero_pregunta: Número de la pregunta asociada
• numero_pasaje: Número secuencial del pasaje dentro de la pregunta
• url: URL de origen del pasaje
• search_engine: Motor de búsqueda utilizado para obtener el pasaje (ddg, google, any, etc.)
• texto: Contenido textual del pasaje histórico
• score: Puntuación de relevancia del pasaje (valor numérico)

Estadísticas del Dataset

• Total de pasajes: ~62,000 pasajes
• Idioma: Inglés
• Dominio: Historia, eventos históricos, figuras históricas
• Formato: JSON Lines

Uso del Dataset

Este dataset está diseñado para ser utilizado en:

• Sistemas RAG: Como corpus de conocimiento para sistemas de Retrieval-Augmented Generation
• Respuesta a preguntas: Entrenamiento y evaluación de modelos de question-answering sobre temas históricos
• Recuperación de información: Benchmarking de sistemas de recuperación de información histórica
• Análisis de relevancia: Estudio de scores de relevancia en pasajes históricos

Carga del Dataset

from datasets import load_dataset

dataset = load_dataset("json", data_files="historical-rag-corpus.json")

Ejemplo de uso

# Cargar el dataset
dataset = load_dataset("json", data_files="historical-rag-corpus.json")

# Acceder a un pasaje
pasaje = dataset["train"][0]
print(f"ID: {pasaje['id']}")
print(f"Pregunta: {pasaje['numero_pregunta']}")
print(f"Texto: {pasaje['texto']}")
print(f"Score: {pasaje['score']}")
print(f"URL: {pasaje['url']}")

Características

• Diversidad de fuentes: Pasajes extraídos de múltiples fuentes web
• Múltiples motores de búsqueda: Incluye resultados de diferentes motores de búsqueda
• Scores de relevancia: Cada pasaje incluye un score que indica su relevancia
• Organización por preguntas: Los pasajes están agrupados por preguntas históricas

Limitaciones y Consideraciones

• El contenido proviene de fuentes web públicas y puede contener información no verificada
• Algunos pasajes pueden tener calidad variable dependiendo de la fuente
• Los scores de relevancia son relativos y deben interpretarse en contexto
• El dataset puede contener duplicados o pasajes similares de diferentes fuentes

Licencia

Este dataset está licenciado bajo CC BY 4.0.

Cómo Citar

Si utilizas este dataset en tu investigación, por favor cítalo de la siguiente manera:

@dataset{historical_rag_corpus_passages,
  title={Historical RAG Corpus Passages},
  author={Your Name},
  year={2024},
  url={https://huggingface.co/datasets/your-username/historical-rag-corpus-passages}
}

Contribuciones

Las contribuciones y mejoras al dataset son bienvenidas. Por favor, abre un issue o pull request en el repositorio.

Contacto

Para preguntas o sugerencias sobre este dataset, por favor abre un issue en el repositorio de Hugging Face.