README.md

---
license: other
license_name: backblaze-hard-drive-data
license_link: https://www.backblaze.com/cloud-storage/resources/hard-drive-test-data
language:
  - es
  - en
pretty_name: "Backblaze S.M.A.R.T. HDD/SSD — Conjunto limpio para detección de fallas"
tags:
  - predictive-maintenance
  - smart-attributes
  - hard-drive-failure
  - ssd-failure
  - imbalanced-classification
  - backblaze
  - tabular
  - catboost
  - xgboost
  - random-forest
task_categories:
  - tabular-classification
size_categories:
  - 100M<n<1B
---

# Backblaze S.M.A.R.T. — Conjunto limpio para detección de fallas en HDD y SSD

### Datos de apoyo del estudio comparativo Random Forest / XGBoost / CatBoost

<p align="center">
  <img alt="Formato" src="https://img.shields.io/badge/formato-Parquet-50ABF1">
  <img alt="Registros" src="https://img.shields.io/badge/registros-379M%2B-success">
  <img alt="Período" src="https://img.shields.io/badge/período-2020--2025-blue">
  <img alt="Tarea" src="https://img.shields.io/badge/tarea-clasificación%20tabular-orange">
  <img alt="Desbalance" src="https://img.shields.io/badge/desbalance-extremo-red">
</p>

---

## Resumen del conjunto

Este repositorio contiene los datos operativos de unidades de almacenamiento, limpios y
preprocesados, empleados en un estudio comparativo de tres algoritmos de ensamble de árboles para
la **detección anticipada de fallas** en discos duros (HDD) y unidades de estado sólido (SSD).

Los datos provienen de los registros públicos de **Backblaze**, que documentan el comportamiento
diario de unidades de almacenamiento en centros de datos de producción mediante atributos
**S.M.A.R.T.** (Self-Monitoring, Analysis and Reporting Technology). El conjunto original fue
consolidado desde archivos CSV mensuales, convertido a **Parquet** para optimizar el
almacenamiento y la velocidad de lectura, depurado y segregado por tipo de dispositivo.

> **English summary.** Cleaned and preprocessed Backblaze S.M.A.R.T. daily records for HDD and
> SSD failure prediction, covering 2020–2024 (with an additional 2025 extension). Includes
> per-year consolidated files and device-segregated cleaned subsets. Used to benchmark Random
> Forest, XGBoost and CatBoost under an identical experimental protocol with extreme class
> imbalance. Files are in Parquet format.

---

## Autoría

| | |
|---|---|
| **Autor** | Isaac Armijos-Domínguez |
| **Director** | Oscar Miguel Cumbicus Pineda, PhD |
| **Institución** | Universidad Nacional de Loja (UNL), Carrera de Computación |
| **Ubicación** | Loja, Ecuador |
| **Contexto** | Trabajo de Integración Curricular (TIC) |
| **Fuente original** | Backblaze Hard Drive Data (público) |
| **Código asociado** | https://github.com/STORAGEFAILURE/storagefailuretmltic |

---

## Archivos del repositorio

Los archivos se agrupan en dos familias: los **consolidados por año**, que contienen los registros
de ambas tecnologías tal como fueron unificados desde los CSV originales, y los **depurados por
tipo de dispositivo**, resultado del proceso de limpieza y segregación.

### Consolidados anuales

| Archivo | Contenido |
|---|---|
| `DATA_2020.parquet` | Registros diarios S.M.A.R.T. del año 2020 |
| `DATA_2021.parquet` | Registros diarios S.M.A.R.T. del año 2021 |
| `DATA_2022.parquet` | Registros diarios S.M.A.R.T. del año 2022 |
| `DATA_2023.parquet` | Registros diarios S.M.A.R.T. del año 2023 |
| `DATA_2024.parquet` | Registros diarios S.M.A.R.T. del año 2024 |
| `DATA_2025.parquet` | Registros diarios S.M.A.R.T. del año 2025 |

### Conjuntos depurados por tecnología

| Archivo | Contenido |
|---|---|
| `HDD_FULL_CLEAN.parquet` | Registros de unidades HDD, limpios (período del estudio, 2020–2024) |
| `SSD_FULL_CLEAN.parquet` | Registros de unidades SSD, limpios (período del estudio, 2020–2024) |
| `HDD_FULL_CLEAN_2025.parquet` | Extensión de unidades HDD con datos de 2025 |
| `SSD_FULL_CLEAN_2025.parquet` | Extensión de unidades SSD con datos de 2025 |

> **Alcance de los resultados publicados.** Los experimentos y las métricas reportadas en el
> estudio se basan **exclusivamente en el período 2020–2024**, con los años 2020–2023 como
> entrenamiento y 2024 como conjunto de prueba independiente. Los archivos correspondientes a
> **2025 se incluyen como extensión** para facilitar validaciones posteriores y no intervinieron
> en los resultados publicados.

> **Nota.** La carga de archivos puede encontrarse en curso. Verifique la pestaña *Files and
> versions* para confirmar la disponibilidad y el tamaño de cada archivo antes de descargarlo.

---

## Estructura de los datos

Cada fila representa la **observación diaria de un dispositivo**, identificado por su número de
serie. Las columnas combinan identificadores, metadatos del dispositivo y los valores crudos de
los atributos S.M.A.R.T.

### Campos principales

| Campo | Tipo | Descripción |
|---|---|---|
| `date` | fecha | Fecha de la observación diaria |
| `serial_number` | texto | Identificador único del dispositivo |
| `model` | texto | Modelo del dispositivo según el fabricante |
| `capacity_bytes` | entero | Capacidad nominal del dispositivo |
| `failure` | binario | Indicador de falla del dispositivo |
| `smart_*_raw` | numérico | Valores crudos de los atributos S.M.A.R.T. |

### Atributos S.M.A.R.T. conservados

La selección de atributos se realizó por tecnología, descartando de forma sistemática aquellos
con más del **90 % de valores ausentes**, dada su escasa capacidad discriminativa.

**Unidades HDD (5 atributos):**

| Atributo | Significado |
|---|---|
| `smart_5_raw` | Sectores reasignados (*Reallocated Sectors Count*) |
| `smart_187_raw` | Errores no corregibles reportados (*Reported Uncorrectable Errors*) |
| `smart_188_raw` | Errores de comando (*Command Timeout*) |
| `smart_197_raw` | Sectores pendientes actuales (*Current Pending Sector Count*) |
| `smart_198_raw` | Sectores no corregibles fuera de línea (*Offline Uncorrectable*) |

**Unidades SSD (13 atributos).** Entre los de mayor capacidad predictiva se encuentran:

| Atributo | Significado |
|---|---|
| `smart_173_raw` | Desgaste de celdas (*Wear Leveling Count*) |
| `smart_241_raw` | Total de LBA escritos (contador de escritura) |
| `smart_242_raw` | Total de LBA leídos (contador de lectura) |
| `smart_194_raw` | Temperatura del dispositivo |

---

## Estadísticas del conjunto

### Volumen y composición

| Métrica | HDD | SSD | Total |
|---|---:|---:|---:|
| Registros recolectados (2020–2024) | 375 921 157 | 3 953 152 | **379 874 309** |
| Modelos únicos clasificados | 73 | 23 | 97 |
| Registros tras la limpieza | 319 921 612 | 3 344 856 | 323 266 468 |
| Atributos S.M.A.R.T. conservados | 5 | 13 | — |
| Variables finales | 10 | 18 | — |
| Fallas identificadas | 14 808 | 201 | 15 009 |

Los dispositivos provienen de fabricantes como **Toshiba, Western Digital, Seagate y HGST**. El
volumen de registros creció de forma progresiva durante el período, con un máximo en 2024. El año
**2022 constituye una excepción**, con un volumen sensiblemente menor debido a limitaciones en la
disponibilidad de los datos públicos de Backblaze durante ese período.

### Desbalance de clases

Al etiquetar con una ventana de anticipación de siete días, el conjunto presenta un desbalance
extremo, característico de los problemas de predicción de fallas en sistemas confiables:

| Conjunto de entrenamiento | Negativos | Positivos | Total | Razón (N:P) |
|---|---:|---:|---:|:---:|
| SSD (original) | 2 122 786 | 1 325 | 2 124 111 | **1 602:1** |
| HDD (original) | 215 754 552 | 8 044 | 215 762 596 | **26 815:1** |

Cualquier uso de estos datos debe contemplar de forma explícita una estrategia de manejo del
desbalance. En el estudio asociado se aplicó **hard negative mining**, que preserva la totalidad
de los casos positivos y conserva de forma selectiva los negativos difíciles, esto es, los
situados entre 8 y 60 días antes de una falla, fuera del horizonte objetivo de siete días. Los
conjuntos balanceados resultantes alcanzaron razones de 10:1 en SSD y 50:1 en HDD.

---

## Uso previsto

### Tarea

**Clasificación binaria tabular:** predecir si un dispositivo fallará dentro de los **siete días**
siguientes a una observación dada.

La etiqueta objetivo se construye calculando la diferencia temporal entre cada observación y la
fecha de falla del dispositivo, asignando valor positivo cuando esa diferencia se sitúa en el
rango de 0 a 7 días.

### Partición temporal recomendada

Para reproducir el protocolo del estudio y evitar la fuga de información futura hacia el pasado:

| Conjunto | Años | Propósito |
|---|---|---|
| Entrenamiento | 2020–2023 | Ajuste de los modelos y calibración de umbrales |
| Prueba | 2024 | Evaluación independiente y realista |
| Extensión | 2025 | Validación adicional, opcional |

> **Importante.** Los datos deben dividirse **por tiempo y agrupados por número de serie**, nunca
> de forma aleatoria. Un dispositivo no debe aparecer simultáneamente en entrenamiento y en
> validación, ya que las observaciones diarias de una misma unidad están fuertemente
> correlacionadas y producirían estimaciones optimistas.

---

## Ejemplos de uso

### Carga con pandas

```python
import pandas as pd

hdd = pd.read_parquet("hf://datasets/STORAGEFAILURE/storagefailuremltichddssd/HDD_FULL_CLEAN.parquet")
ssd = pd.read_parquet("hf://datasets/STORAGEFAILURE/storagefailuremltichddssd/SSD_FULL_CLEAN.parquet")

print(hdd.shape, ssd.shape)
print(ssd["failure"].value_counts())
```

### Descarga completa del repositorio

```python
from huggingface_hub import snapshot_download

snapshot_download(
    repo_id="STORAGEFAILURE/storagefailuremltichddssd",
    repo_type="dataset",
    local_dir="data/",
)
```

### Lectura selectiva de columnas

Dado el volumen del conjunto de HDD, conviene leer solo las columnas necesarias:

```python
import pyarrow.parquet as pq

columnas = ["date", "serial_number", "model", "failure",
            "smart_5_raw", "smart_187_raw", "smart_188_raw",
            "smart_197_raw", "smart_198_raw"]

tabla = pq.read_table("HDD_FULL_CLEAN.parquet", columns=columnas)
df = tabla.to_pandas()
```

### Construcción de la etiqueta con ventana de siete días

```python
import pandas as pd

def etiquetar(df, dias=7):
    fallas = (df[df["failure"] == 1]
              .groupby("serial_number")["date"].min()
              .rename("fecha_falla"))
    df = df.merge(fallas, on="serial_number", how="left")
    delta = (df["fecha_falla"] - df["date"]).dt.days
    df["target"] = ((delta >= 0) & (delta <= dias)).astype(int)
    return df.drop(columns=["fecha_falla"])
```

> **Recomendación de recursos.** El archivo de HDD supera los 300 millones de registros. Se
> aconseja procesarlo mediante lectura por bloques (*streaming*) sobre el Parquet, o con GPU
> mediante cuDF (RAPIDS), en lugar de cargarlo íntegramente en memoria.

---

## Resultados de referencia

Métricas obtenidas sobre el conjunto de prueba independiente de 2024, útiles como línea base:

| Tecnología | Modelo | Precisión | Recall | F1 | AUC-PR |
|---|---|---:|---:|---:|---:|
| HDD | **CatBoost** | **0,9000** | **0,8000** | **0,8470** | **0,9125** |
| HDD | Random Forest | 0,8423 | 0,7856 | 0,8129 | 0,8756 |
| HDD | XGBoost | 0,9623 | 0,0295 | 0,0572 | 0,7692 |
| SSD | **CatBoost** | **0,8695** | **0,7547** | **0,8080** | **0,8230** |
| SSD | Random Forest | 0,8378 | 0,1523 | 0,2584 | 0,2471 |
| SSD | XGBoost | 0,9156 | 0,0281 | 0,0545 | 0,1654 |

**CatBoost** fue el único modelo que maximizó de forma simultánea precisión y recall en ambas
tecnologías. Conviene notar que una precisión elevada de forma aislada resulta engañosa en este
dominio: XGBoost alcanzó la mayor precisión nominal en HDD, pero con un recall inferior al 3 %,
es decir, sin detectar la inmensa mayoría de las fallas. **Se recomienda evaluar siempre con
AUC-PR y matrices de confusión completas**, no solo con exactitud o precisión.

---

## Limitaciones y consideraciones

- **Fuente única.** Los datos proceden de un solo operador de centros de datos. La capacidad de
  generalización a otros proveedores y condiciones de uso debe verificarse de forma explícita.
- **Escasez de positivos en SSD.** Pese a la depuración, el dominio SSD conserva un número
  reducido de fallas, lo que introduce mayor varianza en las estimaciones y penaliza a los
  modelos menos robustos.
- **Horizonte fijo.** La ventana de anticipación de siete días condiciona el punto de operación;
  horizontes distintos alteran la dificultad de la tarea y las comparaciones entre algoritmos.
- **Cambios de esquema.** El conjunto presenta variaciones en la cantidad de atributos
  monitoreados a lo largo de los años, y el año 2022 tiene menor cobertura por limitaciones de la
  fuente original.
- **Valores faltantes.** Se atendieron mediante imputación con ceros; los atributos con más del
  90 % de ausencias fueron descartados.

### Consideraciones éticas

El conjunto es público y **no contiene información personal identificable**, por lo que su uso no
plantea riesgos de privacidad. No obstante, un sistema de mantenimiento predictivo construido
sobre estos datos toma decisiones automatizadas sobre reemplazo de hardware: una calibración
inadecuada del umbral puede traducirse en reemplazos innecesarios o, en sentido contrario, en
fallas no detectadas con pérdida de datos.

---

## Licencia y atribución

Los datos originales son propiedad de **Backblaze** y se distribuyen bajo sus propios términos,
que permiten el uso gratuito de la información siempre que se cite a Backblaze como fuente y no
se comercialicen los datos. Este repositorio redistribuye una versión limpia y preprocesada con
fines académicos y de reproducibilidad científica. Consulte los términos vigentes en el sitio
oficial de Backblaze antes de reutilizar el conjunto.

---

## Cómo citar

```bibtex
@article{ArmijosDominguez2026,
  author  = {Isaac Armijos-Domínguez and Oscar Miguel Cumbicus Pineda},
  title   = {Detección de fallas en dispositivos de almacenamiento: una comparación
             de modelos de aprendizaje automático sobre el conjunto Backblaze},
  journal = {Computación y Sistemas},
  year    = {2026},
  note    = {Universidad Nacional de Loja, Carrera de Computación}
}
```

Cite además a **Backblaze** como fuente original de los registros S.M.A.R.T.

---

## Recursos relacionados

- **Código y notebooks:** https://github.com/STORAGEFAILURE/storagefailuretmltic
- **Figuras del estudio (Figshare):**
  - Ciclo de vida de MLOps — [10.6084/m9.figshare.32906363](https://doi.org/10.6084/m9.figshare.32906363)
  - Métricas en HDD — [10.6084/m9.figshare.32906381](https://doi.org/10.6084/m9.figshare.32906381)
  - Métricas en SSD — [10.6084/m9.figshare.32906384](https://doi.org/10.6084/m9.figshare.32906384)
  - Puntuación F1 en 2024 — [10.6084/m9.figshare.32906390](https://doi.org/10.6084/m9.figshare.32906390)

---

## Agradecimientos

A la **Universidad Nacional de Loja** y a la **Carrera de Computación** por el apoyo brindado, y a
**Backblaze** por publicar de forma abierta los registros operativos que hicieron posible esta
investigación.

---

<p align="center">
  <sub>Isaac Armijos-Domínguez · Universidad Nacional de Loja · Loja, Ecuador</sub>
</p>