--- license: other license_name: backblaze-hard-drive-data license_link: https://www.backblaze.com/cloud-storage/resources/hard-drive-test-data language: - es - en pretty_name: "Backblaze S.M.A.R.T. HDD/SSD — Conjunto limpio para detección de fallas" tags: - predictive-maintenance - smart-attributes - hard-drive-failure - ssd-failure - imbalanced-classification - backblaze - tabular - catboost - xgboost - random-forest task_categories: - tabular-classification size_categories: - 100M Formato Registros Período Tarea Desbalance

--- ## Resumen del conjunto Este repositorio contiene los datos operativos de unidades de almacenamiento, limpios y preprocesados, empleados en un estudio comparativo de tres algoritmos de ensamble de árboles para la **detección anticipada de fallas** en discos duros (HDD) y unidades de estado sólido (SSD). Los datos provienen de los registros públicos de **Backblaze**, que documentan el comportamiento diario de unidades de almacenamiento en centros de datos de producción mediante atributos **S.M.A.R.T.** (Self-Monitoring, Analysis and Reporting Technology). El conjunto original fue consolidado desde archivos CSV mensuales, convertido a **Parquet** para optimizar el almacenamiento y la velocidad de lectura, depurado y segregado por tipo de dispositivo. > **English summary.** Cleaned and preprocessed Backblaze S.M.A.R.T. daily records for HDD and > SSD failure prediction, covering 2020–2024 (with an additional 2025 extension). Includes > per-year consolidated files and device-segregated cleaned subsets. Used to benchmark Random > Forest, XGBoost and CatBoost under an identical experimental protocol with extreme class > imbalance. Files are in Parquet format. --- ## Autoría | | | |---|---| | **Autor** | Isaac Armijos-Domínguez | | **Director** | Oscar Miguel Cumbicus Pineda, PhD | | **Institución** | Universidad Nacional de Loja (UNL), Carrera de Computación | | **Ubicación** | Loja, Ecuador | | **Contexto** | Trabajo de Integración Curricular (TIC) | | **Fuente original** | Backblaze Hard Drive Data (público) | | **Código asociado** | https://github.com/STORAGEFAILURE/storagefailuretmltic | --- ## Archivos del repositorio Los archivos se agrupan en dos familias: los **consolidados por año**, que contienen los registros de ambas tecnologías tal como fueron unificados desde los CSV originales, y los **depurados por tipo de dispositivo**, resultado del proceso de limpieza y segregación. ### Consolidados anuales | Archivo | Contenido | |---|---| | `DATA_2020.parquet` | Registros diarios S.M.A.R.T. del año 2020 | | `DATA_2021.parquet` | Registros diarios S.M.A.R.T. del año 2021 | | `DATA_2022.parquet` | Registros diarios S.M.A.R.T. del año 2022 | | `DATA_2023.parquet` | Registros diarios S.M.A.R.T. del año 2023 | | `DATA_2024.parquet` | Registros diarios S.M.A.R.T. del año 2024 | | `DATA_2025.parquet` | Registros diarios S.M.A.R.T. del año 2025 | ### Conjuntos depurados por tecnología | Archivo | Contenido | |---|---| | `HDD_FULL_CLEAN.parquet` | Registros de unidades HDD, limpios (período del estudio, 2020–2024) | | `SSD_FULL_CLEAN.parquet` | Registros de unidades SSD, limpios (período del estudio, 2020–2024) | | `HDD_FULL_CLEAN_2025.parquet` | Extensión de unidades HDD con datos de 2025 | | `SSD_FULL_CLEAN_2025.parquet` | Extensión de unidades SSD con datos de 2025 | > **Alcance de los resultados publicados.** Los experimentos y las métricas reportadas en el > estudio se basan **exclusivamente en el período 2020–2024**, con los años 2020–2023 como > entrenamiento y 2024 como conjunto de prueba independiente. Los archivos correspondientes a > **2025 se incluyen como extensión** para facilitar validaciones posteriores y no intervinieron > en los resultados publicados. > **Nota.** La carga de archivos puede encontrarse en curso. Verifique la pestaña *Files and > versions* para confirmar la disponibilidad y el tamaño de cada archivo antes de descargarlo. --- ## Estructura de los datos Cada fila representa la **observación diaria de un dispositivo**, identificado por su número de serie. Las columnas combinan identificadores, metadatos del dispositivo y los valores crudos de los atributos S.M.A.R.T. ### Campos principales | Campo | Tipo | Descripción | |---|---|---| | `date` | fecha | Fecha de la observación diaria | | `serial_number` | texto | Identificador único del dispositivo | | `model` | texto | Modelo del dispositivo según el fabricante | | `capacity_bytes` | entero | Capacidad nominal del dispositivo | | `failure` | binario | Indicador de falla del dispositivo | | `smart_*_raw` | numérico | Valores crudos de los atributos S.M.A.R.T. | ### Atributos S.M.A.R.T. conservados La selección de atributos se realizó por tecnología, descartando de forma sistemática aquellos con más del **90 % de valores ausentes**, dada su escasa capacidad discriminativa. **Unidades HDD (5 atributos):** | Atributo | Significado | |---|---| | `smart_5_raw` | Sectores reasignados (*Reallocated Sectors Count*) | | `smart_187_raw` | Errores no corregibles reportados (*Reported Uncorrectable Errors*) | | `smart_188_raw` | Errores de comando (*Command Timeout*) | | `smart_197_raw` | Sectores pendientes actuales (*Current Pending Sector Count*) | | `smart_198_raw` | Sectores no corregibles fuera de línea (*Offline Uncorrectable*) | **Unidades SSD (13 atributos).** Entre los de mayor capacidad predictiva se encuentran: | Atributo | Significado | |---|---| | `smart_173_raw` | Desgaste de celdas (*Wear Leveling Count*) | | `smart_241_raw` | Total de LBA escritos (contador de escritura) | | `smart_242_raw` | Total de LBA leídos (contador de lectura) | | `smart_194_raw` | Temperatura del dispositivo | --- ## Estadísticas del conjunto ### Volumen y composición | Métrica | HDD | SSD | Total | |---|---:|---:|---:| | Registros recolectados (2020–2024) | 375 921 157 | 3 953 152 | **379 874 309** | | Modelos únicos clasificados | 73 | 23 | 97 | | Registros tras la limpieza | 319 921 612 | 3 344 856 | 323 266 468 | | Atributos S.M.A.R.T. conservados | 5 | 13 | — | | Variables finales | 10 | 18 | — | | Fallas identificadas | 14 808 | 201 | 15 009 | Los dispositivos provienen de fabricantes como **Toshiba, Western Digital, Seagate y HGST**. El volumen de registros creció de forma progresiva durante el período, con un máximo en 2024. El año **2022 constituye una excepción**, con un volumen sensiblemente menor debido a limitaciones en la disponibilidad de los datos públicos de Backblaze durante ese período. ### Desbalance de clases Al etiquetar con una ventana de anticipación de siete días, el conjunto presenta un desbalance extremo, característico de los problemas de predicción de fallas en sistemas confiables: | Conjunto de entrenamiento | Negativos | Positivos | Total | Razón (N:P) | |---|---:|---:|---:|:---:| | SSD (original) | 2 122 786 | 1 325 | 2 124 111 | **1 602:1** | | HDD (original) | 215 754 552 | 8 044 | 215 762 596 | **26 815:1** | Cualquier uso de estos datos debe contemplar de forma explícita una estrategia de manejo del desbalance. En el estudio asociado se aplicó **hard negative mining**, que preserva la totalidad de los casos positivos y conserva de forma selectiva los negativos difíciles, esto es, los situados entre 8 y 60 días antes de una falla, fuera del horizonte objetivo de siete días. Los conjuntos balanceados resultantes alcanzaron razones de 10:1 en SSD y 50:1 en HDD. --- ## Uso previsto ### Tarea **Clasificación binaria tabular:** predecir si un dispositivo fallará dentro de los **siete días** siguientes a una observación dada. La etiqueta objetivo se construye calculando la diferencia temporal entre cada observación y la fecha de falla del dispositivo, asignando valor positivo cuando esa diferencia se sitúa en el rango de 0 a 7 días. ### Partición temporal recomendada Para reproducir el protocolo del estudio y evitar la fuga de información futura hacia el pasado: | Conjunto | Años | Propósito | |---|---|---| | Entrenamiento | 2020–2023 | Ajuste de los modelos y calibración de umbrales | | Prueba | 2024 | Evaluación independiente y realista | | Extensión | 2025 | Validación adicional, opcional | > **Importante.** Los datos deben dividirse **por tiempo y agrupados por número de serie**, nunca > de forma aleatoria. Un dispositivo no debe aparecer simultáneamente en entrenamiento y en > validación, ya que las observaciones diarias de una misma unidad están fuertemente > correlacionadas y producirían estimaciones optimistas. --- ## Ejemplos de uso ### Carga con pandas ```python import pandas as pd hdd = pd.read_parquet("hf://datasets/STORAGEFAILURE/storagefailuremltichddssd/HDD_FULL_CLEAN.parquet") ssd = pd.read_parquet("hf://datasets/STORAGEFAILURE/storagefailuremltichddssd/SSD_FULL_CLEAN.parquet") print(hdd.shape, ssd.shape) print(ssd["failure"].value_counts()) ``` ### Descarga completa del repositorio ```python from huggingface_hub import snapshot_download snapshot_download( repo_id="STORAGEFAILURE/storagefailuremltichddssd", repo_type="dataset", local_dir="data/", ) ``` ### Lectura selectiva de columnas Dado el volumen del conjunto de HDD, conviene leer solo las columnas necesarias: ```python import pyarrow.parquet as pq columnas = ["date", "serial_number", "model", "failure", "smart_5_raw", "smart_187_raw", "smart_188_raw", "smart_197_raw", "smart_198_raw"] tabla = pq.read_table("HDD_FULL_CLEAN.parquet", columns=columnas) df = tabla.to_pandas() ``` ### Construcción de la etiqueta con ventana de siete días ```python import pandas as pd def etiquetar(df, dias=7): fallas = (df[df["failure"] == 1] .groupby("serial_number")["date"].min() .rename("fecha_falla")) df = df.merge(fallas, on="serial_number", how="left") delta = (df["fecha_falla"] - df["date"]).dt.days df["target"] = ((delta >= 0) & (delta <= dias)).astype(int) return df.drop(columns=["fecha_falla"]) ``` > **Recomendación de recursos.** El archivo de HDD supera los 300 millones de registros. Se > aconseja procesarlo mediante lectura por bloques (*streaming*) sobre el Parquet, o con GPU > mediante cuDF (RAPIDS), en lugar de cargarlo íntegramente en memoria. --- ## Resultados de referencia Métricas obtenidas sobre el conjunto de prueba independiente de 2024, útiles como línea base: | Tecnología | Modelo | Precisión | Recall | F1 | AUC-PR | |---|---|---:|---:|---:|---:| | HDD | **CatBoost** | **0,9000** | **0,8000** | **0,8470** | **0,9125** | | HDD | Random Forest | 0,8423 | 0,7856 | 0,8129 | 0,8756 | | HDD | XGBoost | 0,9623 | 0,0295 | 0,0572 | 0,7692 | | SSD | **CatBoost** | **0,8695** | **0,7547** | **0,8080** | **0,8230** | | SSD | Random Forest | 0,8378 | 0,1523 | 0,2584 | 0,2471 | | SSD | XGBoost | 0,9156 | 0,0281 | 0,0545 | 0,1654 | **CatBoost** fue el único modelo que maximizó de forma simultánea precisión y recall en ambas tecnologías. Conviene notar que una precisión elevada de forma aislada resulta engañosa en este dominio: XGBoost alcanzó la mayor precisión nominal en HDD, pero con un recall inferior al 3 %, es decir, sin detectar la inmensa mayoría de las fallas. **Se recomienda evaluar siempre con AUC-PR y matrices de confusión completas**, no solo con exactitud o precisión. --- ## Limitaciones y consideraciones - **Fuente única.** Los datos proceden de un solo operador de centros de datos. La capacidad de generalización a otros proveedores y condiciones de uso debe verificarse de forma explícita. - **Escasez de positivos en SSD.** Pese a la depuración, el dominio SSD conserva un número reducido de fallas, lo que introduce mayor varianza en las estimaciones y penaliza a los modelos menos robustos. - **Horizonte fijo.** La ventana de anticipación de siete días condiciona el punto de operación; horizontes distintos alteran la dificultad de la tarea y las comparaciones entre algoritmos. - **Cambios de esquema.** El conjunto presenta variaciones en la cantidad de atributos monitoreados a lo largo de los años, y el año 2022 tiene menor cobertura por limitaciones de la fuente original. - **Valores faltantes.** Se atendieron mediante imputación con ceros; los atributos con más del 90 % de ausencias fueron descartados. ### Consideraciones éticas El conjunto es público y **no contiene información personal identificable**, por lo que su uso no plantea riesgos de privacidad. No obstante, un sistema de mantenimiento predictivo construido sobre estos datos toma decisiones automatizadas sobre reemplazo de hardware: una calibración inadecuada del umbral puede traducirse en reemplazos innecesarios o, en sentido contrario, en fallas no detectadas con pérdida de datos. --- ## Licencia y atribución Los datos originales son propiedad de **Backblaze** y se distribuyen bajo sus propios términos, que permiten el uso gratuito de la información siempre que se cite a Backblaze como fuente y no se comercialicen los datos. Este repositorio redistribuye una versión limpia y preprocesada con fines académicos y de reproducibilidad científica. Consulte los términos vigentes en el sitio oficial de Backblaze antes de reutilizar el conjunto. --- ## Cómo citar ```bibtex @article{ArmijosDominguez2026, author = {Isaac Armijos-Domínguez and Oscar Miguel Cumbicus Pineda}, title = {Detección de fallas en dispositivos de almacenamiento: una comparación de modelos de aprendizaje automático sobre el conjunto Backblaze}, journal = {Computación y Sistemas}, year = {2026}, note = {Universidad Nacional de Loja, Carrera de Computación} } ``` Cite además a **Backblaze** como fuente original de los registros S.M.A.R.T. --- ## Recursos relacionados - **Código y notebooks:** https://github.com/STORAGEFAILURE/storagefailuretmltic - **Figuras del estudio (Figshare):** - Ciclo de vida de MLOps — [10.6084/m9.figshare.32906363](https://doi.org/10.6084/m9.figshare.32906363) - Métricas en HDD — [10.6084/m9.figshare.32906381](https://doi.org/10.6084/m9.figshare.32906381) - Métricas en SSD — [10.6084/m9.figshare.32906384](https://doi.org/10.6084/m9.figshare.32906384) - Puntuación F1 en 2024 — [10.6084/m9.figshare.32906390](https://doi.org/10.6084/m9.figshare.32906390) --- ## Agradecimientos A la **Universidad Nacional de Loja** y a la **Carrera de Computación** por el apoyo brindado, y a **Backblaze** por publicar de forma abierta los registros operativos que hicieron posible esta investigación. ---

Isaac Armijos-Domínguez · Universidad Nacional de Loja · Loja, Ecuador