Datasets:
license: other
license_name: backblaze-hard-drive-data
license_link: https://www.backblaze.com/cloud-storage/resources/hard-drive-test-data
language:
- es
- en
pretty_name: Backblaze S.M.A.R.T. HDD/SSD — Conjunto limpio para detección de fallas
tags:
- predictive-maintenance
- smart-attributes
- hard-drive-failure
- ssd-failure
- imbalanced-classification
- backblaze
- tabular
- catboost
- xgboost
- random-forest
task_categories:
- tabular-classification
size_categories:
- 100M<n<1B
Backblaze S.M.A.R.T. — Conjunto limpio para detección de fallas en HDD y SSD
Datos de apoyo del estudio comparativo Random Forest / XGBoost / CatBoost
Resumen del conjunto
Este repositorio contiene los datos operativos de unidades de almacenamiento, limpios y preprocesados, empleados en un estudio comparativo de tres algoritmos de ensamble de árboles para la detección anticipada de fallas en discos duros (HDD) y unidades de estado sólido (SSD).
Los datos provienen de los registros públicos de Backblaze, que documentan el comportamiento diario de unidades de almacenamiento en centros de datos de producción mediante atributos S.M.A.R.T. (Self-Monitoring, Analysis and Reporting Technology). El conjunto original fue consolidado desde archivos CSV mensuales, convertido a Parquet para optimizar el almacenamiento y la velocidad de lectura, depurado y segregado por tipo de dispositivo.
English summary. Cleaned and preprocessed Backblaze S.M.A.R.T. daily records for HDD and SSD failure prediction, covering 2020–2024 (with an additional 2025 extension). Includes per-year consolidated files and device-segregated cleaned subsets. Used to benchmark Random Forest, XGBoost and CatBoost under an identical experimental protocol with extreme class imbalance. Files are in Parquet format.
Autoría
| Autor | Isaac Armijos-Domínguez |
| Director | Oscar Miguel Cumbicus Pineda, PhD |
| Institución | Universidad Nacional de Loja (UNL), Carrera de Computación |
| Ubicación | Loja, Ecuador |
| Contexto | Trabajo de Integración Curricular (TIC) |
| Fuente original | Backblaze Hard Drive Data (público) |
| Código asociado | https://github.com/STORAGEFAILURE/storagefailuretmltic |
Archivos del repositorio
Los archivos se agrupan en dos familias: los consolidados por año, que contienen los registros de ambas tecnologías tal como fueron unificados desde los CSV originales, y los depurados por tipo de dispositivo, resultado del proceso de limpieza y segregación.
Consolidados anuales
| Archivo | Contenido |
|---|---|
DATA_2020.parquet |
Registros diarios S.M.A.R.T. del año 2020 |
DATA_2021.parquet |
Registros diarios S.M.A.R.T. del año 2021 |
DATA_2022.parquet |
Registros diarios S.M.A.R.T. del año 2022 |
DATA_2023.parquet |
Registros diarios S.M.A.R.T. del año 2023 |
DATA_2024.parquet |
Registros diarios S.M.A.R.T. del año 2024 |
DATA_2025.parquet |
Registros diarios S.M.A.R.T. del año 2025 |
Conjuntos depurados por tecnología
| Archivo | Contenido |
|---|---|
HDD_FULL_CLEAN.parquet |
Registros de unidades HDD, limpios (período del estudio, 2020–2024) |
SSD_FULL_CLEAN.parquet |
Registros de unidades SSD, limpios (período del estudio, 2020–2024) |
HDD_FULL_CLEAN_2025.parquet |
Extensión de unidades HDD con datos de 2025 |
SSD_FULL_CLEAN_2025.parquet |
Extensión de unidades SSD con datos de 2025 |
Alcance de los resultados publicados. Los experimentos y las métricas reportadas en el estudio se basan exclusivamente en el período 2020–2024, con los años 2020–2023 como entrenamiento y 2024 como conjunto de prueba independiente. Los archivos correspondientes a 2025 se incluyen como extensión para facilitar validaciones posteriores y no intervinieron en los resultados publicados.
Nota. La carga de archivos puede encontrarse en curso. Verifique la pestaña Files and versions para confirmar la disponibilidad y el tamaño de cada archivo antes de descargarlo.
Estructura de los datos
Cada fila representa la observación diaria de un dispositivo, identificado por su número de serie. Las columnas combinan identificadores, metadatos del dispositivo y los valores crudos de los atributos S.M.A.R.T.
Campos principales
| Campo | Tipo | Descripción |
|---|---|---|
date |
fecha | Fecha de la observación diaria |
serial_number |
texto | Identificador único del dispositivo |
model |
texto | Modelo del dispositivo según el fabricante |
capacity_bytes |
entero | Capacidad nominal del dispositivo |
failure |
binario | Indicador de falla del dispositivo |
smart_*_raw |
numérico | Valores crudos de los atributos S.M.A.R.T. |
Atributos S.M.A.R.T. conservados
La selección de atributos se realizó por tecnología, descartando de forma sistemática aquellos con más del 90 % de valores ausentes, dada su escasa capacidad discriminativa.
Unidades HDD (5 atributos):
| Atributo | Significado |
|---|---|
smart_5_raw |
Sectores reasignados (Reallocated Sectors Count) |
smart_187_raw |
Errores no corregibles reportados (Reported Uncorrectable Errors) |
smart_188_raw |
Errores de comando (Command Timeout) |
smart_197_raw |
Sectores pendientes actuales (Current Pending Sector Count) |
smart_198_raw |
Sectores no corregibles fuera de línea (Offline Uncorrectable) |
Unidades SSD (13 atributos). Entre los de mayor capacidad predictiva se encuentran:
| Atributo | Significado |
|---|---|
smart_173_raw |
Desgaste de celdas (Wear Leveling Count) |
smart_241_raw |
Total de LBA escritos (contador de escritura) |
smart_242_raw |
Total de LBA leídos (contador de lectura) |
smart_194_raw |
Temperatura del dispositivo |
Estadísticas del conjunto
Volumen y composición
| Métrica | HDD | SSD | Total |
|---|---|---|---|
| Registros recolectados (2020–2024) | 375 921 157 | 3 953 152 | 379 874 309 |
| Modelos únicos clasificados | 73 | 23 | 97 |
| Registros tras la limpieza | 319 921 612 | 3 344 856 | 323 266 468 |
| Atributos S.M.A.R.T. conservados | 5 | 13 | — |
| Variables finales | 10 | 18 | — |
| Fallas identificadas | 14 808 | 201 | 15 009 |
Los dispositivos provienen de fabricantes como Toshiba, Western Digital, Seagate y HGST. El volumen de registros creció de forma progresiva durante el período, con un máximo en 2024. El año 2022 constituye una excepción, con un volumen sensiblemente menor debido a limitaciones en la disponibilidad de los datos públicos de Backblaze durante ese período.
Desbalance de clases
Al etiquetar con una ventana de anticipación de siete días, el conjunto presenta un desbalance extremo, característico de los problemas de predicción de fallas en sistemas confiables:
| Conjunto de entrenamiento | Negativos | Positivos | Total | Razón (N:P) |
|---|---|---|---|---|
| SSD (original) | 2 122 786 | 1 325 | 2 124 111 | 1 602:1 |
| HDD (original) | 215 754 552 | 8 044 | 215 762 596 | 26 815:1 |
Cualquier uso de estos datos debe contemplar de forma explícita una estrategia de manejo del desbalance. En el estudio asociado se aplicó hard negative mining, que preserva la totalidad de los casos positivos y conserva de forma selectiva los negativos difíciles, esto es, los situados entre 8 y 60 días antes de una falla, fuera del horizonte objetivo de siete días. Los conjuntos balanceados resultantes alcanzaron razones de 10:1 en SSD y 50:1 en HDD.
Uso previsto
Tarea
Clasificación binaria tabular: predecir si un dispositivo fallará dentro de los siete días siguientes a una observación dada.
La etiqueta objetivo se construye calculando la diferencia temporal entre cada observación y la fecha de falla del dispositivo, asignando valor positivo cuando esa diferencia se sitúa en el rango de 0 a 7 días.
Partición temporal recomendada
Para reproducir el protocolo del estudio y evitar la fuga de información futura hacia el pasado:
| Conjunto | Años | Propósito |
|---|---|---|
| Entrenamiento | 2020–2023 | Ajuste de los modelos y calibración de umbrales |
| Prueba | 2024 | Evaluación independiente y realista |
| Extensión | 2025 | Validación adicional, opcional |
Importante. Los datos deben dividirse por tiempo y agrupados por número de serie, nunca de forma aleatoria. Un dispositivo no debe aparecer simultáneamente en entrenamiento y en validación, ya que las observaciones diarias de una misma unidad están fuertemente correlacionadas y producirían estimaciones optimistas.
Ejemplos de uso
Carga con pandas
import pandas as pd
hdd = pd.read_parquet("hf://datasets/STORAGEFAILURE/storagefailuremltichddssd/HDD_FULL_CLEAN.parquet")
ssd = pd.read_parquet("hf://datasets/STORAGEFAILURE/storagefailuremltichddssd/SSD_FULL_CLEAN.parquet")
print(hdd.shape, ssd.shape)
print(ssd["failure"].value_counts())
Descarga completa del repositorio
from huggingface_hub import snapshot_download
snapshot_download(
repo_id="STORAGEFAILURE/storagefailuremltichddssd",
repo_type="dataset",
local_dir="data/",
)
Lectura selectiva de columnas
Dado el volumen del conjunto de HDD, conviene leer solo las columnas necesarias:
import pyarrow.parquet as pq
columnas = ["date", "serial_number", "model", "failure",
"smart_5_raw", "smart_187_raw", "smart_188_raw",
"smart_197_raw", "smart_198_raw"]
tabla = pq.read_table("HDD_FULL_CLEAN.parquet", columns=columnas)
df = tabla.to_pandas()
Construcción de la etiqueta con ventana de siete días
import pandas as pd
def etiquetar(df, dias=7):
fallas = (df[df["failure"] == 1]
.groupby("serial_number")["date"].min()
.rename("fecha_falla"))
df = df.merge(fallas, on="serial_number", how="left")
delta = (df["fecha_falla"] - df["date"]).dt.days
df["target"] = ((delta >= 0) & (delta <= dias)).astype(int)
return df.drop(columns=["fecha_falla"])
Recomendación de recursos. El archivo de HDD supera los 300 millones de registros. Se aconseja procesarlo mediante lectura por bloques (streaming) sobre el Parquet, o con GPU mediante cuDF (RAPIDS), en lugar de cargarlo íntegramente en memoria.
Resultados de referencia
Métricas obtenidas sobre el conjunto de prueba independiente de 2024, útiles como línea base:
| Tecnología | Modelo | Precisión | Recall | F1 | AUC-PR |
|---|---|---|---|---|---|
| HDD | CatBoost | 0,9000 | 0,8000 | 0,8470 | 0,9125 |
| HDD | Random Forest | 0,8423 | 0,7856 | 0,8129 | 0,8756 |
| HDD | XGBoost | 0,9623 | 0,0295 | 0,0572 | 0,7692 |
| SSD | CatBoost | 0,8695 | 0,7547 | 0,8080 | 0,8230 |
| SSD | Random Forest | 0,8378 | 0,1523 | 0,2584 | 0,2471 |
| SSD | XGBoost | 0,9156 | 0,0281 | 0,0545 | 0,1654 |
CatBoost fue el único modelo que maximizó de forma simultánea precisión y recall en ambas tecnologías. Conviene notar que una precisión elevada de forma aislada resulta engañosa en este dominio: XGBoost alcanzó la mayor precisión nominal en HDD, pero con un recall inferior al 3 %, es decir, sin detectar la inmensa mayoría de las fallas. Se recomienda evaluar siempre con AUC-PR y matrices de confusión completas, no solo con exactitud o precisión.
Limitaciones y consideraciones
- Fuente única. Los datos proceden de un solo operador de centros de datos. La capacidad de generalización a otros proveedores y condiciones de uso debe verificarse de forma explícita.
- Escasez de positivos en SSD. Pese a la depuración, el dominio SSD conserva un número reducido de fallas, lo que introduce mayor varianza en las estimaciones y penaliza a los modelos menos robustos.
- Horizonte fijo. La ventana de anticipación de siete días condiciona el punto de operación; horizontes distintos alteran la dificultad de la tarea y las comparaciones entre algoritmos.
- Cambios de esquema. El conjunto presenta variaciones en la cantidad de atributos monitoreados a lo largo de los años, y el año 2022 tiene menor cobertura por limitaciones de la fuente original.
- Valores faltantes. Se atendieron mediante imputación con ceros; los atributos con más del 90 % de ausencias fueron descartados.
Consideraciones éticas
El conjunto es público y no contiene información personal identificable, por lo que su uso no plantea riesgos de privacidad. No obstante, un sistema de mantenimiento predictivo construido sobre estos datos toma decisiones automatizadas sobre reemplazo de hardware: una calibración inadecuada del umbral puede traducirse en reemplazos innecesarios o, en sentido contrario, en fallas no detectadas con pérdida de datos.
Licencia y atribución
Los datos originales son propiedad de Backblaze y se distribuyen bajo sus propios términos, que permiten el uso gratuito de la información siempre que se cite a Backblaze como fuente y no se comercialicen los datos. Este repositorio redistribuye una versión limpia y preprocesada con fines académicos y de reproducibilidad científica. Consulte los términos vigentes en el sitio oficial de Backblaze antes de reutilizar el conjunto.
Cómo citar
@article{ArmijosDominguez2026,
author = {Isaac Armijos-Domínguez and Oscar Miguel Cumbicus Pineda},
title = {Detección de fallas en dispositivos de almacenamiento: una comparación
de modelos de aprendizaje automático sobre el conjunto Backblaze},
journal = {Computación y Sistemas},
year = {2026},
note = {Universidad Nacional de Loja, Carrera de Computación}
}
Cite además a Backblaze como fuente original de los registros S.M.A.R.T.
Recursos relacionados
- Código y notebooks: https://github.com/STORAGEFAILURE/storagefailuretmltic
- Figuras del estudio (Figshare):
- Ciclo de vida de MLOps — 10.6084/m9.figshare.32906363
- Métricas en HDD — 10.6084/m9.figshare.32906381
- Métricas en SSD — 10.6084/m9.figshare.32906384
- Puntuación F1 en 2024 — 10.6084/m9.figshare.32906390
Agradecimientos
A la Universidad Nacional de Loja y a la Carrera de Computación por el apoyo brindado, y a Backblaze por publicar de forma abierta los registros operativos que hicieron posible esta investigación.
Isaac Armijos-Domínguez · Universidad Nacional de Loja · Loja, Ecuador