Create README.md

README.md

@@ -0,0 +1,374 @@
+---
+license: other
+license_name: backblaze-hard-drive-data
+license_link: https://www.backblaze.com/cloud-storage/resources/hard-drive-test-data
+language:
+  - es
+  - en
+pretty_name: "Backblaze S.M.A.R.T. HDD/SSD — Conjunto limpio para detección de fallas"
+tags:
+  - predictive-maintenance
+  - smart-attributes
+  - hard-drive-failure
+  - ssd-failure
+  - imbalanced-classification
+  - backblaze
+  - tabular
+  - catboost
+  - xgboost
+  - random-forest
+task_categories:
+  - tabular-classification
+size_categories:
+  - 100M<n<1B
+---
+
+# Backblaze S.M.A.R.T. — Conjunto limpio para detección de fallas en HDD y SSD
+
+### Datos de apoyo del estudio comparativo Random Forest / XGBoost / CatBoost
+
+<p align="center">
+  <img alt="Formato" src="https://img.shields.io/badge/formato-Parquet-50ABF1">
+  <img alt="Registros" src="https://img.shields.io/badge/registros-379M%2B-success">
+  <img alt="Período" src="https://img.shields.io/badge/período-2020--2025-blue">
+  <img alt="Tarea" src="https://img.shields.io/badge/tarea-clasificación%20tabular-orange">
+  <img alt="Desbalance" src="https://img.shields.io/badge/desbalance-extremo-red">
+</p>
+
+---
+
+## Resumen del conjunto
+
+Este repositorio contiene los datos operativos de unidades de almacenamiento, limpios y
+preprocesados, empleados en un estudio comparativo de tres algoritmos de ensamble de árboles para
+la **detección anticipada de fallas** en discos duros (HDD) y unidades de estado sólido (SSD).
+
+Los datos provienen de los registros públicos de **Backblaze**, que documentan el comportamiento
+diario de unidades de almacenamiento en centros de datos de producción mediante atributos
+**S.M.A.R.T.** (Self-Monitoring, Analysis and Reporting Technology). El conjunto original fue
+consolidado desde archivos CSV mensuales, convertido a **Parquet** para optimizar el
+almacenamiento y la velocidad de lectura, depurado y segregado por tipo de dispositivo.
+
+> **English summary.** Cleaned and preprocessed Backblaze S.M.A.R.T. daily records for HDD and
+> SSD failure prediction, covering 2020–2024 (with an additional 2025 extension). Includes
+> per-year consolidated files and device-segregated cleaned subsets. Used to benchmark Random
+> Forest, XGBoost and CatBoost under an identical experimental protocol with extreme class
+> imbalance. Files are in Parquet format.
+
+---
+
+## Autoría
+
+| | |
+|---|---|
+| **Autor** | Isaac Armijos-Domínguez |
+| **Director** | Oscar Miguel Cumbicus Pineda, PhD |
+| **Institución** | Universidad Nacional de Loja (UNL), Carrera de Computación |
+| **Ubicación** | Loja, Ecuador |
+| **Contexto** | Trabajo de Integración Curricular (TIC) |
+| **Fuente original** | Backblaze Hard Drive Data (público) |
+| **Código asociado** | https://github.com/STORAGEFAILURE/storagefailuretmltic |
+
+---
+
+## Archivos del repositorio
+
+Los archivos se agrupan en dos familias: los **consolidados por año**, que contienen los registros
+de ambas tecnologías tal como fueron unificados desde los CSV originales, y los **depurados por
+tipo de dispositivo**, resultado del proceso de limpieza y segregación.
+
+### Consolidados anuales
+
+| Archivo | Contenido |
+|---|---|
+| `DATA_2020.parquet` | Registros diarios S.M.A.R.T. del año 2020 |
+| `DATA_2021.parquet` | Registros diarios S.M.A.R.T. del año 2021 |
+| `DATA_2022.parquet` | Registros diarios S.M.A.R.T. del año 2022 |
+| `DATA_2023.parquet` | Registros diarios S.M.A.R.T. del año 2023 |
+| `DATA_2024.parquet` | Registros diarios S.M.A.R.T. del año 2024 |
+| `DATA_2025.parquet` | Registros diarios S.M.A.R.T. del año 2025 |
+
+### Conjuntos depurados por tecnología
+
+| Archivo | Contenido |
+|---|---|
+| `HDD_FULL_CLEAN.parquet` | Registros de unidades HDD, limpios (período del estudio, 2020–2024) |
+| `SSD_FULL_CLEAN.parquet` | Registros de unidades SSD, limpios (período del estudio, 2020–2024) |
+| `HDD_FULL_CLEAN_2025.parquet` | Extensión de unidades HDD con datos de 2025 |
+| `SSD_FULL_CLEAN_2025.parquet` | Extensión de unidades SSD con datos de 2025 |
+
+> **Alcance de los resultados publicados.** Los experimentos y las métricas reportadas en el
+> estudio se basan **exclusivamente en el período 2020–2024**, con los años 2020–2023 como
+> entrenamiento y 2024 como conjunto de prueba independiente. Los archivos correspondientes a
+> **2025 se incluyen como extensión** para facilitar validaciones posteriores y no intervinieron
+> en los resultados publicados.
+
+> **Nota.** La carga de archivos puede encontrarse en curso. Verifique la pestaña *Files and
+> versions* para confirmar la disponibilidad y el tamaño de cada archivo antes de descargarlo.
+
+---
+
+## Estructura de los datos
+
+Cada fila representa la **observación diaria de un dispositivo**, identificado por su número de
+serie. Las columnas combinan identificadores, metadatos del dispositivo y los valores crudos de
+los atributos S.M.A.R.T.
+
+### Campos principales
+
+| Campo | Tipo | Descripción |
+|---|---|---|
+| `date` | fecha | Fecha de la observación diaria |
+| `serial_number` | texto | Identificador único del dispositivo |
+| `model` | texto | Modelo del dispositivo según el fabricante |
+| `capacity_bytes` | entero | Capacidad nominal del dispositivo |
+| `failure` | binario | Indicador de falla del dispositivo |
+| `smart_*_raw` | numérico | Valores crudos de los atributos S.M.A.R.T. |
+
+### Atributos S.M.A.R.T. conservados
+
+La selección de atributos se realizó por tecnología, descartando de forma sistemática aquellos
+con más del **90 % de valores ausentes**, dada su escasa capacidad discriminativa.
+
+**Unidades HDD (5 atributos):**
+
+| Atributo | Significado |
+|---|---|
+| `smart_5_raw` | Sectores reasignados (*Reallocated Sectors Count*) |
+| `smart_187_raw` | Errores no corregibles reportados (*Reported Uncorrectable Errors*) |
+| `smart_188_raw` | Errores de comando (*Command Timeout*) |
+| `smart_197_raw` | Sectores pendientes actuales (*Current Pending Sector Count*) |
+| `smart_198_raw` | Sectores no corregibles fuera de línea (*Offline Uncorrectable*) |
+
+**Unidades SSD (13 atributos).** Entre los de mayor capacidad predictiva se encuentran:
+
+| Atributo | Significado |
+|---|---|
+| `smart_173_raw` | Desgaste de celdas (*Wear Leveling Count*) |
+| `smart_241_raw` | Total de LBA escritos (contador de escritura) |
+| `smart_242_raw` | Total de LBA leídos (contador de lectura) |
+| `smart_194_raw` | Temperatura del dispositivo |
+
+---
+
+## Estadísticas del conjunto
+
+### Volumen y composición
+
+| Métrica | HDD | SSD | Total |
+|---|---:|---:|---:|
+| Registros recolectados (2020–2024) | 375 921 157 | 3 953 152 | **379 874 309** |
+| Modelos únicos clasificados | 73 | 23 | 97 |
+| Registros tras la limpieza | 319 921 612 | 3 344 856 | 323 266 468 |
+| Atributos S.M.A.R.T. conservados | 5 | 13 | — |
+| Variables finales | 10 | 18 | — |
+| Fallas identificadas | 14 808 | 201 | 15 009 |
+
+Los dispositivos provienen de fabricantes como **Toshiba, Western Digital, Seagate y HGST**. El
+volumen de registros creció de forma progresiva durante el período, con un máximo en 2024. El año
+**2022 constituye una excepción**, con un volumen sensiblemente menor debido a limitaciones en la
+disponibilidad de los datos públicos de Backblaze durante ese período.
+
+### Desbalance de clases
+
+Al etiquetar con una ventana de anticipación de siete días, el conjunto presenta un desbalance
+extremo, característico de los problemas de predicción de fallas en sistemas confiables:
+
+| Conjunto de entrenamiento | Negativos | Positivos | Total | Razón (N:P) |
+|---|---:|---:|---:|:---:|
+| SSD (original) | 2 122 786 | 1 325 | 2 124 111 | **1 602:1** |
+| HDD (original) | 215 754 552 | 8 044 | 215 762 596 | **26 815:1** |
+
+Cualquier uso de estos datos debe contemplar de forma explícita una estrategia de manejo del
+desbalance. En el estudio asociado se aplicó **hard negative mining**, que preserva la totalidad
+de los casos positivos y conserva de forma selectiva los negativos difíciles, esto es, los
+situados entre 8 y 60 días antes de una falla, fuera del horizonte objetivo de siete días. Los
+conjuntos balanceados resultantes alcanzaron razones de 10:1 en SSD y 50:1 en HDD.
+
+---
+
+## Uso previsto
+
+### Tarea
+
+**Clasificación binaria tabular:** predecir si un dispositivo fallará dentro de los **siete días**
+siguientes a una observación dada.
+
+La etiqueta objetivo se construye calculando la diferencia temporal entre cada observación y la
+fecha de falla del dispositivo, asignando valor positivo cuando esa diferencia se sitúa en el
+rango de 0 a 7 días.
+
+### Partición temporal recomendada
+
+Para reproducir el protocolo del estudio y evitar la fuga de información futura hacia el pasado:
+
+| Conjunto | Años | Propósito |
+|---|---|---|
+| Entrenamiento | 2020–2023 | Ajuste de los modelos y calibración de umbrales |
+| Prueba | 2024 | Evaluación independiente y realista |
+| Extensión | 2025 | Validación adicional, opcional |
+
+> **Importante.** Los datos deben dividirse **por tiempo y agrupados por número de serie**, nunca
+> de forma aleatoria. Un dispositivo no debe aparecer simultáneamente en entrenamiento y en
+> validación, ya que las observaciones diarias de una misma unidad están fuertemente
+> correlacionadas y producirían estimaciones optimistas.
+
+---
+
+## Ejemplos de uso
+
+### Carga con pandas
+
+```python
+import pandas as pd
+
+hdd = pd.read_parquet("hf://datasets/STORAGEFAILURE/storagefailuremltichddssd/HDD_FULL_CLEAN.parquet")
+ssd = pd.read_parquet("hf://datasets/STORAGEFAILURE/storagefailuremltichddssd/SSD_FULL_CLEAN.parquet")
+
+print(hdd.shape, ssd.shape)
+print(ssd["failure"].value_counts())
+```
+
+### Descarga completa del repositorio
+
+```python
+from huggingface_hub import snapshot_download
+
+snapshot_download(
+    repo_id="STORAGEFAILURE/storagefailuremltichddssd",
+    repo_type="dataset",
+    local_dir="data/",
+)
+```
+
+### Lectura selectiva de columnas
+
+Dado el volumen del conjunto de HDD, conviene leer solo las columnas necesarias:
+
+```python
+import pyarrow.parquet as pq
+
+columnas = ["date", "serial_number", "model", "failure",
+            "smart_5_raw", "smart_187_raw", "smart_188_raw",
+            "smart_197_raw", "smart_198_raw"]
+
+tabla = pq.read_table("HDD_FULL_CLEAN.parquet", columns=columnas)
+df = tabla.to_pandas()
+```
+
+### Construcción de la etiqueta con ventana de siete días
+
+```python
+import pandas as pd
+
+def etiquetar(df, dias=7):
+    fallas = (df[df["failure"] == 1]
+              .groupby("serial_number")["date"].min()
+              .rename("fecha_falla"))
+    df = df.merge(fallas, on="serial_number", how="left")
+    delta = (df["fecha_falla"] - df["date"]).dt.days
+    df["target"] = ((delta >= 0) & (delta <= dias)).astype(int)
+    return df.drop(columns=["fecha_falla"])
+```
+
+> **Recomendación de recursos.** El archivo de HDD supera los 300 millones de registros. Se
+> aconseja procesarlo mediante lectura por bloques (*streaming*) sobre el Parquet, o con GPU
+> mediante cuDF (RAPIDS), en lugar de cargarlo íntegramente en memoria.
+
+---
+
+## Resultados de referencia
+
+Métricas obtenidas sobre el conjunto de prueba independiente de 2024, útiles como línea base:
+
+| Tecnología | Modelo | Precisión | Recall | F1 | AUC-PR |
+|---|---|---:|---:|---:|---:|
+| HDD | **CatBoost** | **0,9000** | **0,8000** | **0,8470** | **0,9125** |
+| HDD | Random Forest | 0,8423 | 0,7856 | 0,8129 | 0,8756 |
+| HDD | XGBoost | 0,9623 | 0,0295 | 0,0572 | 0,7692 |
+| SSD | **CatBoost** | **0,8695** | **0,7547** | **0,8080** | **0,8230** |
+| SSD | Random Forest | 0,8378 | 0,1523 | 0,2584 | 0,2471 |
+| SSD | XGBoost | 0,9156 | 0,0281 | 0,0545 | 0,1654 |
+
+**CatBoost** fue el único modelo que maximizó de forma simultánea precisión y recall en ambas
+tecnologías. Conviene notar que una precisión elevada de forma aislada resulta engañosa en este
+dominio: XGBoost alcanzó la mayor precisión nominal en HDD, pero con un recall inferior al 3 %,
+es decir, sin detectar la inmensa mayoría de las fallas. **Se recomienda evaluar siempre con
+AUC-PR y matrices de confusión completas**, no solo con exactitud o precisión.
+
+---
+
+## Limitaciones y consideraciones
+
+- **Fuente única.** Los datos proceden de un solo operador de centros de datos. La capacidad de
+  generalización a otros proveedores y condiciones de uso debe verificarse de forma explícita.
+- **Escasez de positivos en SSD.** Pese a la depuración, el dominio SSD conserva un número
+  reducido de fallas, lo que introduce mayor varianza en las estimaciones y penaliza a los
+  modelos menos robustos.
+- **Horizonte fijo.** La ventana de anticipación de siete días condiciona el punto de operación;
+  horizontes distintos alteran la dificultad de la tarea y las comparaciones entre algoritmos.
+- **Cambios de esquema.** El conjunto presenta variaciones en la cantidad de atributos
+  monitoreados a lo largo de los años, y el año 2022 tiene menor cobertura por limitaciones de la
+  fuente original.
+- **Valores faltantes.** Se atendieron mediante imputación con ceros; los atributos con más del
+  90 % de ausencias fueron descartados.
+
+### Consideraciones éticas
+
+El conjunto es público y **no contiene información personal identificable**, por lo que su uso no
+plantea riesgos de privacidad. No obstante, un sistema de mantenimiento predictivo construido
+sobre estos datos toma decisiones automatizadas sobre reemplazo de hardware: una calibración
+inadecuada del umbral puede traducirse en reemplazos innecesarios o, en sentido contrario, en
+fallas no detectadas con pérdida de datos.
+
+---
+
+## Licencia y atribución
+
+Los datos originales son propiedad de **Backblaze** y se distribuyen bajo sus propios términos,
+que permiten el uso gratuito de la información siempre que se cite a Backblaze como fuente y no
+se comercialicen los datos. Este repositorio redistribuye una versión limpia y preprocesada con
+fines académicos y de reproducibilidad científica. Consulte los términos vigentes en el sitio
+oficial de Backblaze antes de reutilizar el conjunto.
+
+---
+
+## Cómo citar
+
+```bibtex
+@article{ArmijosDominguez2026,
+  author  = {Isaac Armijos-Domínguez and Oscar Miguel Cumbicus Pineda},
+  title   = {Detección de fallas en dispositivos de almacenamiento: una comparación
+             de modelos de aprendizaje automático sobre el conjunto Backblaze},
+  journal = {Computación y Sistemas},
+  year    = {2026},
+  note    = {Universidad Nacional de Loja, Carrera de Computación}
+}
+```
+
+Cite además a **Backblaze** como fuente original de los registros S.M.A.R.T.
+
+---
+
+## Recursos relacionados
+
+- **Código y notebooks:** https://github.com/STORAGEFAILURE/storagefailuretmltic
+- **Figuras del estudio (Figshare):**
+  - Ciclo de vida de MLOps — [10.6084/m9.figshare.32906363](https://doi.org/10.6084/m9.figshare.32906363)
+  - Métricas en HDD — [10.6084/m9.figshare.32906381](https://doi.org/10.6084/m9.figshare.32906381)
+  - Métricas en SSD — [10.6084/m9.figshare.32906384](https://doi.org/10.6084/m9.figshare.32906384)
+  - Puntuación F1 en 2024 — [10.6084/m9.figshare.32906390](https://doi.org/10.6084/m9.figshare.32906390)
+
+---
+
+## Agradecimientos
+
+A la **Universidad Nacional de Loja** y a la **Carrera de Computación** por el apoyo brindado, y a
+**Backblaze** por publicar de forma abierta los registros operativos que hicieron posible esta
+investigación.
+
+---
+
+<p align="center">
+  <sub>Isaac Armijos-Domínguez · Universidad Nacional de Loja · Loja, Ecuador</sub>
+</p>