| # FactCheckToolEC — Datasets para detección de afirmaciones científicas y recuperación de fuentes |
|
|
| Este repositorio reúne los conjuntos de datos generados como parte del sistema de verificación de noticias falsas **FactCheckToolEC**. Los corpus están orientados a dos subtareas complementarias en español: |
|
|
| 1. **Detección automática de afirmaciones científicas** (clasificación multietiqueta) |
| 2. **Recuperación de fuentes científicas** (information retrieval) |
|
|
| Los datos de entrada provienen de noticias verificadas y publicaciones de la red social **X** (antes Twitter). Estos registros crudos se consolidan en el archivo `corpus_augmented.json`, del cual se extrajo el campo **texto** como base para los datasets aquí descritos. |
|
|
| --- |
|
|
| ## Descripción general de los datasets |
|
|
| ### 1. `dataset_etiquetado_final.xlsx` |
| **Corpus completo para la tarea de detección de afirmaciones científicas** |
|
|
| #### Descripción |
| Este archivo corresponde al **corpus completo etiquetado**, compuesto por **6.299 registros**. Incluye tanto los casos positivos como los negativos necesarios para entrenar y evaluar modelos que distingan entre discurso científico y no científico. |
|
|
| Cada registro corresponde al texto de una noticia o publicación y está etiquetado en tres categorías no excluyentes, siguiendo el marco de anotación de **Hafid et al. (2022)** para **SciTweets** y su adaptación en la **Tarea 4 de CheckThat! Lab (CLEF 2025)**. |
|
|
| #### Esquema de columnas |
| - `Indice`: identificador numérico del registro. |
| - `texto`: contenido textual de la noticia o publicación. |
| - `Categoria 1`: afirmación científica verificable (`0 = No`, `1 = Sí`). |
| - `categoria 2`: referencia científica (`0 = No`, `1 = Sí`). |
| - `categoria 3`: contexto de investigación (`0 = No`, `1 = Sí`). |
| - `recuperable`: indicador auxiliar para la subtarea de recuperación de evidencia (`1 = caso recuperable`). |
|
|
| #### Definición de categorías |
| - **Categoría 1 — Afirmación científica verificable** |
| El texto contiene una proposición fáctica contrastable mediante documentos científicos (papers, ensayos clínicos, estadísticas de investigación). |
|
|
| - **Categoría 2 — Referencia científica** |
| El texto proporciona un mecanismo de acceso, directo o indirecto, a la fuente científica. Una referencia directa incluye DOI o título exacto; una indirecta incluye una URL que dirija al estudio. |
|
|
| - **Categoría 3 — Contexto de investigación** |
| El texto menciona explícitamente elementos del entorno científico: científicos, instituciones académicas, laboratorios, esfuerzos de investigación o hallazgos científicos. |
|
|
| #### Aclaración importante sobre la categoría 2 |
| En esta versión del corpus, la columna **`categoria 2`** contiene solo valores `0`. Esto es correcto y responde a una característica del conjunto analizado: **ninguno de los textos incluye DOI, título exacto del estudio ni URL dentro del propio texto**, por lo que no se registraron casos positivos para esta categoría en el dataset final publicado. |
|
|
| #### Proceso de construcción |
| 1. **Punto de partida:** `corpus_augmented.json` (**6.299 registros**). Se extrajo el campo `texto` de cada documento. |
| 2. **Filtrado automático preliminar:** se aplicó un filtro heurístico basado en diccionarios de palabras clave y similitud semántica con **Sentence Transformers**, con criterio de alta sensibilidad, obteniendo **1.804 candidatos**. |
| 3. **Anotación manual exhaustiva:** los 1.804 candidatos fueron revisados manualmente según las tres categorías definidas. |
| 4. **Resultado conceptual del filtrado:** |
| - **419 registros** fueron confirmados como publicaciones con al menos una dimensión científica positiva. |
| - **1.385 registros** fueron descartados como falsos positivos del filtro automático. |
| 5. **Dataset publicado:** se conserva el **corpus completo de 6.299 registros ya etiquetados**, donde: |
| - los registros con al menos una dimensión científica positiva permanecen marcados con `1` en sus categorías correspondientes; |
| - los registros que no activan ninguna etiqueta quedan con `0` en todas las categorías. |
|
|
| #### Estadísticas del archivo publicado |
| - **Total de registros publicados:** 6.299 |
| - **Registros con al menos una etiqueta positiva:** 419 |
| - **Registros sin etiquetas positivas:** 5.880 |
| - **Positivos en Categoría 1:** 401 |
| - **Positivos en Categoría 2:** 0 |
| - **Positivos en Categoría 3:** 267 |
| - **Casos recuperables (`recuperable = 1`):** 45 |
|
|
| #### Distribución de combinaciones de etiquetas |
| - `(0, 0, 0)`: 5.880 registros |
| - `(0, 0, 1)`: 18 registros |
| - `(1, 0, 0)`: 152 registros |
| - `(1, 0, 1)`: 249 registros |
|
|
| --- |
|
|
| ### 2. `Noticia_Estudio.xlsx` |
| **Corpus de pares Noticia–Documento** |
| |
| #### Descripción |
| Conjunto de pares validados **(noticia, documento científico)** que establece la relación de referencia entre cada afirmación científica recuperable y su fuente primaria. Sirve como *ground truth* para el entrenamiento y evaluación de la subtarea de recuperación de información. |
| |
| #### Esquema de columnas |
| - `Indice`: identificador numérico del registro (coincide con el corpus de detección). |
| - `texto`: contenido textual de la noticia o publicación. |
| - `id_paper`: identificador del documento científico asociado (por ejemplo, `SRC_001`). |
| |
| #### Proceso de construcción |
| 1. **Punto de partida:** las 419 afirmaciones del corpus de detección con al menos una dimensión científica positiva. |
| 2. **Filtro Q1 (criterio de unicidad de fuente):** se aplicó la primera regla del protocolo AI4Sci (2024): *“¿Menciona el tweet un único estudio científico?”*. De los 419 registros, **45** cumplieron este criterio. |
| 3. **Validación Q2 (correspondencia):** se verificó manualmente si el texto hacía referencia inequívoca al documento recuperado. |
| 4. **Validación Q3 (justificación de evidencia):** se documentaron los elementos de coincidencia (autores, institución, cifras o hallazgos) que confirmaban el vínculo entre la noticia y el paper. |
| 5. **Resultado:** **45 pares Noticia–Documento validados**. |
| |
| #### Estadísticas |
| - **Afirmaciones científicas de entrada:** 419 |
| - **Afirmaciones recuperables (Q1):** 45 |
| - **Pares validados finales:** 45 |
| |
| --- |
| |
| ### 3. `Collection_document.xlsx` |
| **Colección de documentos científicos candidatos** |
|
|
| #### Descripción |
| Repositorio de documentos científicos recuperados mediante *web scraping* desde fuentes académicas de acceso abierto. Constituye el espacio de búsqueda contra el cual opera el modelo de recuperación de información e incluye tanto los documentos correctamente vinculados a las afirmaciones como documentos distractores semánticamente similares. |
|
|
| #### Esquema de columnas |
| - `id_paper`: identificador único del documento (por ejemplo, `SRC_001`). |
| - `titulo`: título del artículo o publicación científica. |
| - `autores`: lista de autores del documento. |
| - `year`: año de publicación. |
| - `journal`: revista o medio de publicación. |
| - `doi`: identificador DOI. |
| - `url`: enlace al documento. |
| - `abstract`: resumen del estudio. |
| - `fuente`: fuente de extracción. |
|
|
| #### Proceso de construcción |
| 1. **Punto de partida:** las 45 afirmaciones recuperables identificadas con el filtro Q1. |
| 2. **Web scraping en Python:** consulta de repositorios académicos y científicos a partir de *queries* construidas con palabras clave extraídas del texto, considerando menciones a universidades, revistas, estudios o datos específicos. |
| 3. **Fusión y deduplicación:** los resultados de todas las fuentes se unificaron eliminando duplicados por similitud de títulos y DOIs. |
| 4. **Resultado:** **304 documentos candidatos** (documentos correctos + distractores semánticamente similares). |
|
|
| #### Estadísticas |
| - **Afirmaciones procesadas:** 45 |
| - **Documentos recuperados totales:** 304 |
| - **Fuentes de extracción:** Crossref, PubMed y NASA |
|
|
| --- |
|
|
| ## Archivos complementarios |
|
|
| ### `guia_etiquetado.pdf` |
| Guía de etiquetado utilizada en la fase de anotación manual. Define las tres categorías, proporciona ejemplos positivos y negativos y documenta reglas de resolución de ambigüedades como: |
| - entidad vs. contexto, |
| - referencia deíctica, |
| - completitud del hallazgo, |
| - distinción entre autoridad política y autoridad científica. |
| |
| --- |
| |
| ## Referencias |
| - Hafid, S. et al. (2022). *SciTweets: A dataset and annotation framework for detecting Scientific Online Discourse*. |
| - Hafid, S. et al. (2025). *Overview of the CLEF-2025 CheckThat! Lab Task 4 on Scientific Web Discourse Processing*. |
| - Cochran, W. G. (1977). *Sampling Techniques*. |
| |
| |
