# FactCheckToolEC — Datasets para detección de afirmaciones científicas y recuperación de fuentes Este repositorio reúne los conjuntos de datos generados como parte del sistema de verificación de noticias falsas **FactCheckToolEC**. Los corpus están orientados a dos subtareas complementarias en español: 1. **Detección automática de afirmaciones científicas** (clasificación multietiqueta) 2. **Recuperación de fuentes científicas** (information retrieval) Los datos de entrada provienen de noticias verificadas y publicaciones de la red social **X** (antes Twitter). Estos registros crudos se consolidan en el archivo `corpus_augmented.json`, del cual se extrajo el campo **texto** como base para los datasets aquí descritos. --- ## Descripción general de los datasets ### 1. `dataset_etiquetado_final.xlsx` **Corpus completo para la tarea de detección de afirmaciones científicas** #### Descripción Este archivo corresponde al **corpus completo etiquetado**, compuesto por **6.299 registros**. Incluye tanto los casos positivos como los negativos necesarios para entrenar y evaluar modelos que distingan entre discurso científico y no científico. Cada registro corresponde al texto de una noticia o publicación y está etiquetado en tres categorías no excluyentes, siguiendo el marco de anotación de **Hafid et al. (2022)** para **SciTweets** y su adaptación en la **Tarea 4 de CheckThat! Lab (CLEF 2025)**. #### Esquema de columnas - `Indice`: identificador numérico del registro. - `texto`: contenido textual de la noticia o publicación. - `Categoria 1`: afirmación científica verificable (`0 = No`, `1 = Sí`). - `categoria 2`: referencia científica (`0 = No`, `1 = Sí`). - `categoria 3`: contexto de investigación (`0 = No`, `1 = Sí`). - `recuperable`: indicador auxiliar para la subtarea de recuperación de evidencia (`1 = caso recuperable`). #### Definición de categorías - **Categoría 1 — Afirmación científica verificable** El texto contiene una proposición fáctica contrastable mediante documentos científicos (papers, ensayos clínicos, estadísticas de investigación). - **Categoría 2 — Referencia científica** El texto proporciona un mecanismo de acceso, directo o indirecto, a la fuente científica. Una referencia directa incluye DOI o título exacto; una indirecta incluye una URL que dirija al estudio. - **Categoría 3 — Contexto de investigación** El texto menciona explícitamente elementos del entorno científico: científicos, instituciones académicas, laboratorios, esfuerzos de investigación o hallazgos científicos. #### Aclaración importante sobre la categoría 2 En esta versión del corpus, la columna **`categoria 2`** contiene solo valores `0`. Esto es correcto y responde a una característica del conjunto analizado: **ninguno de los textos incluye DOI, título exacto del estudio ni URL dentro del propio texto**, por lo que no se registraron casos positivos para esta categoría en el dataset final publicado. #### Proceso de construcción 1. **Punto de partida:** `corpus_augmented.json` (**6.299 registros**). Se extrajo el campo `texto` de cada documento. 2. **Filtrado automático preliminar:** se aplicó un filtro heurístico basado en diccionarios de palabras clave y similitud semántica con **Sentence Transformers**, con criterio de alta sensibilidad, obteniendo **1.804 candidatos**. 3. **Anotación manual exhaustiva:** los 1.804 candidatos fueron revisados manualmente según las tres categorías definidas. 4. **Resultado conceptual del filtrado:** - **419 registros** fueron confirmados como publicaciones con al menos una dimensión científica positiva. - **1.385 registros** fueron descartados como falsos positivos del filtro automático. 5. **Dataset publicado:** se conserva el **corpus completo de 6.299 registros ya etiquetados**, donde: - los registros con al menos una dimensión científica positiva permanecen marcados con `1` en sus categorías correspondientes; - los registros que no activan ninguna etiqueta quedan con `0` en todas las categorías. #### Estadísticas del archivo publicado - **Total de registros publicados:** 6.299 - **Registros con al menos una etiqueta positiva:** 419 - **Registros sin etiquetas positivas:** 5.880 - **Positivos en Categoría 1:** 401 - **Positivos en Categoría 2:** 0 - **Positivos en Categoría 3:** 267 - **Casos recuperables (`recuperable = 1`):** 45 #### Distribución de combinaciones de etiquetas - `(0, 0, 0)`: 5.880 registros - `(0, 0, 1)`: 18 registros - `(1, 0, 0)`: 152 registros - `(1, 0, 1)`: 249 registros --- ### 2. `Noticia_Estudio.xlsx` **Corpus de pares Noticia–Documento** #### Descripción Conjunto de pares validados **(noticia, documento científico)** que establece la relación de referencia entre cada afirmación científica recuperable y su fuente primaria. Sirve como *ground truth* para el entrenamiento y evaluación de la subtarea de recuperación de información. #### Esquema de columnas - `Indice`: identificador numérico del registro (coincide con el corpus de detección). - `texto`: contenido textual de la noticia o publicación. - `id_paper`: identificador del documento científico asociado (por ejemplo, `SRC_001`). #### Proceso de construcción 1. **Punto de partida:** las 419 afirmaciones del corpus de detección con al menos una dimensión científica positiva. 2. **Filtro Q1 (criterio de unicidad de fuente):** se aplicó la primera regla del protocolo AI4Sci (2024): *“¿Menciona el tweet un único estudio científico?”*. De los 419 registros, **45** cumplieron este criterio. 3. **Validación Q2 (correspondencia):** se verificó manualmente si el texto hacía referencia inequívoca al documento recuperado. 4. **Validación Q3 (justificación de evidencia):** se documentaron los elementos de coincidencia (autores, institución, cifras o hallazgos) que confirmaban el vínculo entre la noticia y el paper. 5. **Resultado:** **45 pares Noticia–Documento validados**. #### Estadísticas - **Afirmaciones científicas de entrada:** 419 - **Afirmaciones recuperables (Q1):** 45 - **Pares validados finales:** 45 --- ### 3. `Collection_document.xlsx` **Colección de documentos científicos candidatos** #### Descripción Repositorio de documentos científicos recuperados mediante *web scraping* desde fuentes académicas de acceso abierto. Constituye el espacio de búsqueda contra el cual opera el modelo de recuperación de información e incluye tanto los documentos correctamente vinculados a las afirmaciones como documentos distractores semánticamente similares. #### Esquema de columnas - `id_paper`: identificador único del documento (por ejemplo, `SRC_001`). - `titulo`: título del artículo o publicación científica. - `autores`: lista de autores del documento. - `year`: año de publicación. - `journal`: revista o medio de publicación. - `doi`: identificador DOI. - `url`: enlace al documento. - `abstract`: resumen del estudio. - `fuente`: fuente de extracción. #### Proceso de construcción 1. **Punto de partida:** las 45 afirmaciones recuperables identificadas con el filtro Q1. 2. **Web scraping en Python:** consulta de repositorios académicos y científicos a partir de *queries* construidas con palabras clave extraídas del texto, considerando menciones a universidades, revistas, estudios o datos específicos. 3. **Fusión y deduplicación:** los resultados de todas las fuentes se unificaron eliminando duplicados por similitud de títulos y DOIs. 4. **Resultado:** **304 documentos candidatos** (documentos correctos + distractores semánticamente similares). #### Estadísticas - **Afirmaciones procesadas:** 45 - **Documentos recuperados totales:** 304 - **Fuentes de extracción:** Crossref, PubMed y NASA --- ## Archivos complementarios ### `guia_etiquetado.pdf` Guía de etiquetado utilizada en la fase de anotación manual. Define las tres categorías, proporciona ejemplos positivos y negativos y documenta reglas de resolución de ambigüedades como: - entidad vs. contexto, - referencia deíctica, - completitud del hallazgo, - distinción entre autoridad política y autoridad científica. --- ## Referencias - Hafid, S. et al. (2022). *SciTweets: A dataset and annotation framework for detecting Scientific Online Discourse*. - Hafid, S. et al. (2025). *Overview of the CLEF-2025 CheckThat! Lab Task 4 on Scientific Web Discourse Processing*. - Cochran, W. G. (1977). *Sampling Techniques*.