apisdom/indice-fallos-ia-espanol

Indice de Fallos IA en espanol

Snapshots mensuales del Indice de Fallos IA producido por el observatorio La AutopsIA (ApisDom Intelligence Group). Mide la fiabilidad de modelos LLM con benchmarks oficiales independientes, en formato citable y trazable.

Cifras del snapshot actual

• 678 mediciones en este snapshot.
• Mes archivado: 2026-05.
• Recomputado: 2026-05-17T23:42:53.152Z.
• Frecuencia: sincronizacion mensual.

Para que sirve este dataset

Datos crudos, comparables y auditables de la fiabilidad real de modelos LLM. Casos de uso:

• Equipos de producto eligiendo que LLM integrar: comparar tasa de alucinacion, precision en function calling y rating Elo entre candidatos con datos verificables, no marketing del proveedor.
• Investigacion academica sobre evolucion temporal de la fiabilidad LLM: snapshots mensuales encadenados permiten estudios longitudinales con cita por DOI.
• Periodismo tecnico y divulgacion: cifras citables con DOI permanente, no leaderboards efimeros.
• Auditoria y compliance: trazabilidad fila a fila (sourceUrl, sourceLicense, methodology, measuredAt, fetchedAt) para reconstruir cualquier medicion hasta su fuente.
• Reguladores evaluando criterios objetivos sobre fiabilidad de sistemas IA generativa.

No es un ranking de calidad general de un modelo. Cada metrica mide un aspecto concreto.

Snapshots disponibles

Mes	JSON	CSV	DOI Zenodo
2026-05	json	csv	10.5281/zenodo.20218106

La columna DOI Zenodo apunta al DOI vigente del snapshot agregador. Cada snapshot mensual emite su propio DOI permanente.

Que contiene cada snapshot

Cada mes se publican dos ficheros con el mismo contenido en dos formatos:

• indice-fallos-ia-YYYY-MM.json: envoltura { meta, data }, donde data es el BenchmarkLiveState completo agrupado por metrica. Las filas dentro de data.byMetric.*.rows siguen el tipo publico PublicBenchmarkResult (18 campos, ver siguiente seccion). Claves cuyos valores no aporta la fuente se OMITEN del JSON.
• indice-fallos-ia-YYYY-MM.csv: filas planas, 18 columnas estables (RFC 4180 con BOM UTF-8, encapsulado total entre comillas dobles), una fila por (modelo x metrica). Celdas sin valor quedan vacias (par de comillas vacias).

El README.md se sobrescribe cada mes con las cifras del snapshot vigente.

Estructura del dataset (18 columnas estables del CSV)

Columna	Tipo	Descripcion
id	string	Identificador unico del registro.
modelVariant	string	Identificador del modelo (texto libre del leaderboard).
modelVersion	string opcional	Version del modelo. Si la fuente no la aporta, celda vacia y clave JSON omitida.
aiSystem	string opcional	Sistema IA canonico via alias.
aiCompany	string opcional	Empresa proveedora (taxonomia cerrada).
aiModality	string opcional	Modalidad del sistema (taxonomia cerrada).
failureType	string opcional	Tipo de fallo (taxonomia cerrada).
metricName	string	Nombre tecnico de la metrica (taxonomia cerrada).
metricValue	number	Valor numerico medido.
metricUnit	string	Unidad (percentage, score_0_1, elo, count).
metricDirection	string	higher_is_better o lower_is_better.
rank	number opcional	Rango del modelo en su metrica (1 es mejor).
source	string	Fuente original (vectara, bfcl, lmsys, ...).
sourceUrl	string	URL canonica de la fuente.
sourceLicense	string	Licencia de la fuente (taxonomia cerrada).
methodology	string	URL de la metodologia documentada.
measuredAt	string ISO	Cuando se midio en origen.
fetchedAt	string ISO	Cuando lo recogio La AutopsIA.

Regla del dataset (cero invento): si la fuente original no aporta un campo, la celda CSV queda vacia (par de comillas vacias RFC 4180) y la clave correspondiente NO aparece en el JSON. No se rellena con null, ni con placeholders (N/A, desconocido, pendiente). El consumidor distingue tres estados sin ambiguedad: clave ausente (sin dato), clave con string vacio (vacio explicito), clave con valor (dato presente).

Taxonomia cerrada

Los campos categoricos del dataset solo toman valores de listas cerradas declaradas en codigo (src/config/benchmark-taxonomy.ts). No hay valores libres en estos campos.

• Fuentes (source): vectara, bfcl, lmsys, simpleqa, open-llm-leaderboard.
• Metricas (metricName): hallucination_rate, factual_consistency, function_calling_accuracy, function_calling_simple, function_calling_multiple, function_calling_parallel, elo_rating, mmlu_score, gsm8k_score, truthfulqa_score.
• Unidades (metricUnit): percentage, score_0_1, elo, count.
• Direcciones (metricDirection): higher_is_better, lower_is_better.
• Licencias permitidas (sourceLicense): Apache-2.0, CC-BY-4.0, CC-BY-SA-4.0, MIT, Public-Domain.
• Estado de aprobacion (approvalStatus): pending, approved, rejected.

Reglas de evolucion: se pueden anadir entradas en el futuro sin romper datos guardados; nunca se renombran ni eliminan mientras existan documentos que las usen.

Ejemplo de fila real del snapshot actual

CSV (las dos primeras lineas: cabecera y la primera fila de datos, tal como aparecen en el fichero):

"id","modelVariant","modelVersion","aiSystem","aiCompany","aiModality","failureType","metricName","metricValue","metricUnit","metricDirection","rank","source","sourceUrl","sourceLicense","methodology","measuredAt","fetchedAt"
"bfcl-amazon-nova-2-lite-v1-0-fc-function_calling_accuracy-2026-05-17","Amazon-Nova-2-Lite-v1:0 (FC)","","","Otro","agente autónomo","fallo técnico","function_calling_accuracy","27.1","percentage","higher_is_better","80","bfcl","https://gorilla.cs.berkeley.edu/leaderboard.html","Apache-2.0","https://gorilla.cs.berkeley.edu/leaderboard.html","2026-05-17T23:40:13.328Z","2026-05-17T09:54:00.218Z"

JSON (la primera fila plana, tal como aparece dentro de data.byMetric.{metric}.rows[0] del fichero JSON):

{
  "id": "bfcl-amazon-nova-2-lite-v1-0-fc-function_calling_accuracy-2026-05-17",
  "modelVariant": "Amazon-Nova-2-Lite-v1:0 (FC)",
  "metricName": "function_calling_accuracy",
  "metricValue": 27.1,
  "metricUnit": "percentage",
  "metricDirection": "higher_is_better",
  "source": "bfcl",
  "sourceUrl": "https://gorilla.cs.berkeley.edu/leaderboard.html",
  "sourceLicense": "Apache-2.0",
  "measuredAt": "2026-05-17T23:40:13.328Z",
  "fetchedAt": "2026-05-17T09:54:00.218Z",
  "methodology": "https://gorilla.cs.berkeley.edu/leaderboard.html",
  "aiCompany": "Otro",
  "aiModality": "agente autónomo",
  "failureType": "fallo técnico",
  "rank": 80
}

Ambos ejemplos son la primera fila REAL del snapshot vigente. Si esta es la primera vez que se publica un snapshot, los valores cambian al volver a sincronizar.

Fuentes oficiales

Fuente	URL	Metricas que aporta	Licencia
Vectara Hallucination Leaderboard	https://github.com/vectara/hallucination-leaderboard	hallucination_rate, factual_consistency	Apache-2.0
BFCL (Berkeley Function Calling Leaderboard)	https://gorilla.cs.berkeley.edu/leaderboard.html	function_calling_accuracy y variantes	Apache-2.0
LMSYS Chatbot Arena (mirror diario)	https://huggingface.co/spaces/lmsys/chatbot-arena-leaderboard	elo_rating	MIT

Si en el futuro se reactivan fuentes hoy desactivadas (SimpleQA, Open LLM Leaderboard), apareceran automaticamente con sus metricas correspondientes sin tocar el esquema.

Como usar

CSV con la libreria datasets:

from datasets import load_dataset
ds = load_dataset("apisdom/indice-fallos-ia-espanol", data_files="indice-fallos-ia-2026-05.csv")

JSON crudo via HTTP:

import json, urllib.request
url = "https://huggingface.co/datasets/apisdom/indice-fallos-ia-espanol/resolve/main/indice-fallos-ia-2026-05.json"
with urllib.request.urlopen(url) as r:
    snap = json.load(r)
print(snap["meta"], len(snap["data"]["byMetric"]))

Considerations for Using the Data

Discussion of Biases

• Sesgo de seleccion: solo se publican benchmarks de fuentes con leaderboard publico documentado. Modelos evaluados solo en benchmarks privados quedan fuera.
• Sesgo de mercado y de idioma: las fuentes activas (Vectara, BFCL, LMSYS) tienden a cubrir mejor modelos comerciales en ingles que modelos en otros idiomas o procedentes de investigacion academica menos visible.
• Sesgo metodologico: cada fuente mide aspectos distintos (alucinacion, function calling, preferencia humana). El ranking agregado no refleja calidad general de un modelo, solo su rendimiento en el aspecto medido. Vectara mide alucinacion con prompts fijos; BFCL evalua function calling sintetico; LMSYS depende de votaciones humanas. Estos sesgos se heredan en el dataset y no se intentan corregir.

Other Known Limitations

• Cobertura no exhaustiva: el snapshot refleja unicamente los modelos LLM que aparecen en las fuentes activas al cierre del mes. Modelos comerciales privados sin evaluacion publica no aparecen, no por ser peores, sino porque no hay dato.
• Ventana temporal de medicion: measuredAt indica cuando se midio en origen, fetchedAt cuando lo recogio este sistema. Hay desfases naturales de horas o dias.
• Datos faltantes: si una fuente no aporta un campo, la celda CSV queda vacia y la clave JSON se omite.
• El ranking depende de los modelos disponibles ese mes: comparar entre meses requiere alinear por modelVariant, no por rank.

Recommended and Non-Recommended Uses

• Recomendado: auditoria comparativa de fiabilidad de LLM, investigacion academica sobre evolucion temporal, periodismo tecnico y divulgacion sobre seguridad de IA.
• NO recomendado: toma de decisiones clinicas, legales o financieras basadas directamente en el ranking. El dataset mide aspectos especificos, no aptitud general para tareas reguladas.
• NO recomendado: training de modelos. Es dataset de evaluacion, no de entrenamiento.

Personal and Sensitive Information

El dataset no contiene datos personales identificables.

Equivalencia con la API publica

Los ficheros de este dataset son identicos a los que sirven los endpoints publicos del observatorio:

• https://laautopsia.com/api/dataset/v1/benchmarks/live.json
• https://laautopsia.com/api/dataset/v1/benchmarks/live.csv

Como citar

@dataset{laautopsia_indice_2026_05,
  author       = {Salvador Valdivieso, Juan Luis},
  title        = {Indice de Fallos IA - Snapshot 2026-05},
  year         = {2026},
  publisher    = {Zenodo},
  organization = {ApisDom Intelligence Group, laautopsia.com},
  version      = {2026-05},
  doi          = {10.5281/zenodo.20218106},
  url          = {https://huggingface.co/datasets/apisdom/indice-fallos-ia-espanol}
}

Cada snapshot mensual emite un DOI nuevo permanente.

Sitio web y otras distribuciones

• https://laautopsia.com: observatorio con dashboard, RSS y API publica.
• Zenodo: snapshots mensuales con DOI permanente citable.
• datos.gob.es: publicacion prevista en plan de visibilidad.

Dataset Curators

Mantenido por ApisDom Intelligence Group (apisdom.com) a traves del observatorio La AutopsIA (https://laautopsia.com). El equipo editorial define la taxonomia cerrada, valida cada medicion publicada y mantiene los scrapers de las fuentes oficiales.

Contributions

Las contribuciones se gestionan a traves del panel de discusiones de este dataset en Hugging Face o por email a dataset@apisdom.com. Las aportaciones aceptadas se publican en el siguiente snapshot mensual con atribucion al autor en el changelog. Tipos de contribucion bienvenidos: deteccion de errores en mediciones, fuentes oficiales nuevas que cumplan los criterios de licencia y metodologia publica, mejoras a la taxonomia.

Mantenimiento y contacto

• Frecuencia: snapshot mensual, dia 3 a las 09:00 UTC.
• Mantenedor: ApisDom Intelligence Group - apisdom.com.
• Observatorio: laautopsia.com.
• Contacto del dataset: dataset@apisdom.com.
• Contacto editorial: noticias-autopsia@apisdom.com.
• Issues tecnicos: panel de discusiones de este dataset en Hugging Face.

Licencia

Este dataset se publica bajo CC BY-SA 4.0. Las licencias originales de cada fuente se preservan en el campo sourceLicense de cada fila: Apache-2.0 para Vectara y BFCL; MIT para LMSYS (el dato proviene del mirror diario MIT de la comunidad, no del leaderboard original que es CC-BY-4.0).