cuadernos/_build/make_exercises.py

# -*- coding: utf-8 -*-
"""Convierte los notebooks migrados en ENTREGABLES de ejercicio: antepone una
celda markdown de cabecera (objetivo, datos, prerrequisitos, entregable, canal
Blackboard) y conserva todo el contenido y comentarios originales.

Uso: python make_exercises.py   (procesa el dict EXERCISES in situ)
"""
import json, os

ROOT = os.path.dirname(os.path.dirname(os.path.abspath(__file__)))  # Curso_BDP
STACK = "Spark 4.0 · Sedona 1.8.0 (_2.13) · HDFS 3.3.6 · Elasticsearch 8.14 · JupyterLab"

EXERCISES = {
 "Semana_2/notebooks/TestGlobalBigData.ipynb": dict(
    n="S2 · Ejercicio 0", t="Verifica tu laboratorio (pipeline de drones)",
    obj="Comprobar que tu laboratorio funciona de extremo a extremo: generar datos, subirlos a HDFS, procesarlos con Spark e indexarlos en Elasticsearch.",
    datos="Datos sintéticos generados por el propio cuaderno (no requiere datos externos).",
    prereq="Laboratorio arrancado (HDFS, Spark, Elasticsearch). Jupyter en :8888.",
    entregable="Captura de la consulta final a `drones_en_riesgo` mostrando documentos indexados."),
 "Semana_3/notebooks/01_ProcesarDirecciones.ipynb": dict(
    n="S3 · Ejercicio 1", t="Extraer coordenadas del padrón nacional (Sedona)",
    obj="Leer el GeoParquet nacional desde HDFS, extraer lat/lon con Sedona (ST_X/ST_Y) y construir DIRECCION_COMPLETA; guardar el resultado en HDFS.",
    datos="`/data/raw/geocoder/integrado_ne.parquet` (1.62 GB, 33.6M domicilios INEGI).",
    prereq="Dato nacional cargado en HDFS. Sedona se baja vía spark.jars.packages.",
    entregable="`/data/processed/geocoder_final_parquet` creado en HDFS (verifica con hdfs dfs -ls)."),
 "Semana_3/notebooks/02_IndexacionGeoespacial.ipynb": dict(
    n="S3 · Ejercicio 2", t="Indexar el geocodificador en Elasticsearch",
    obj="Indexar los domicilios procesados en Elasticsearch (campo location como geo_point) usando el cliente Python (bulk).",
    datos="`/data/processed/geocoder_final_parquet` (salida del Ejercicio 1).",
    prereq="Ejercicio 1 completado. Elasticsearch arrancado (:9200).",
    entregable="Índice `geocoder_mexico` con docs > 0 (verifica en Elasticvue o con _count)."),
 "Semana_4/notebooks/01_ClasificacionNoSupervisada_KMeans.ipynb": dict(
    n="S4 · Ejercicio 4", t="Estratificación socioeconómica con K-Means",
    obj="Agrupar manzanas del Censo en K=5 estratos con K-Means (no supervisado) y exportar el resultado.",
    datos="`/data/raw/geodatos_mexico/censo_2020_nacional.parquet`.",
    prereq="Censo cargado en HDFS. Requiere geopandas (pip install geopandas).",
    entregable="Resultado de estratificación en HDFS y/o GeoPackage exportado."),
 "Semana_4/notebooks/02_CalculoVariablesDenueOxxo.ipynb": dict(
    n="S4 · Ejercicio 5a", t="Ingeniería de características espacial (OXXO)",
    obj="Construir el dataset de entrenamiento OXXO vs Abarrotes con features espaciales (buffers + spatial joins de DENUE y Censo con Sedona).",
    datos="`/data/raw/geodatos_mexico/{censo_2020_nacional,denue_nacional}.parquet`.",
    prereq="Censo y DENUE en HDFS. Paso PESADO: sube spark.driver.memory (8g) o acota a un estado.",
    entregable="`/data/processed/ml_dataset_final.geoparquet` creado en HDFS."),
 "Semana_4/notebooks/03_ClasificacionSupervisada_GBT.ipynb": dict(
    n="S4 · Ejercicio 5b", t="Entrenar y evaluar el modelo OXXO (GBT)",
    obj="Entrenar un GBTClassifier sobre el dataset balanceado, evaluar (Accuracy/F1/AUC/matriz de confusión) y guardar el modelo en HDFS.",
    datos="`/data/processed/ml_dataset_final.geoparquet` (salida del 5a).",
    prereq="Ejercicio 5a completado.",
    entregable="Modelo en `hdfs:///models/gbt_oxxo_model` + reporte de métricas (AUC esperado ~0.92)."),
 "Semana_4/notebooks/04_PrediccionPorCoordenada.ipynb": dict(
    n="S4 · Ejercicio 5c", t="Inferencia: predecir por coordenada",
    obj="Cargar el modelo guardado y predecir OXXO vs Abarrotes para una coordenada nueva, recalculando sus features espaciales en vivo.",
    datos="Modelo `gbt_oxxo_model` + censo/denue en HDFS.",
    prereq="Ejercicio 5b completado. Requiere pyproj.",
    entregable="Predicción (clase + probabilidad) para al menos 2 coordenadas de prueba."),
 "Semana_4/notebooks/06_kafka_streaming.ipynb": dict(
    n="S4 · Ejercicio 6", t="Streaming en tiempo real con Kafka",
    obj="Leer un topic de Kafka con Spark Structured Streaming y agregar al vuelo.",
    datos="Topic Kafka `promedios` (mensajes inyectados a mano por terminal).",
    prereq="Kafka arrancado (:9092). Conector spark-sql-kafka-0-10_2.13:4.0.0.",
    entregable="Captura del DataFrame de streaming mostrando agregados por tipo."),
}

HF_BASE = "https://huggingface.co/datasets/abxda/bdp-lab/resolve/main/cuadernos"

def header_md(rel, m):
    sem = rel.split("/")[0].replace("_"," ")
    hfurl = f"{HF_BASE}/{rel.split('/')[0].lower()}/{os.path.basename(rel)}"
    return [
        f"# {m['n']} — {m['t']}\n",
        "\n",
        f"**Curso de Big Data · Dr. Abel Coronado** · {sem}\n",
        "\n",
        f"🎯 **Objetivo.** {m['obj']}\n",
        "\n",
        f"📦 **Datos.** {m['datos']}\n",
        "\n",
        f"✅ **Prerrequisitos.** {m['prereq']}\n",
        "\n",
        f"📝 **Entregable.** {m['entregable']}\n",
        "\n",
        f"🛠️ **Stack del laboratorio.** {STACK}\n",
        "\n",
        f"⬇️ **Descarga (Hugging Face):** {hfurl}\n",
        "\n",
        "💬 **¿Un error?** Toma una captura (celda + mensaje) y repórtalo por **Blackboard**, indicando tu SO y el paso.\n",
        "\n",
        "---\n",
        "\n",
        "> Cuaderno **probado** en el laboratorio (Spark 4.0). Lee los comentarios de cada celda: explican el porqué de cada paso.\n",
    ]

def add_header(rel, m):
    path = os.path.join(ROOT, rel)
    nb = json.load(open(path, encoding="utf-8"))
    # evitar duplicar si ya tiene cabecera de ejercicio
    if nb["cells"] and nb["cells"][0].get("cell_type")=="markdown" and "Objetivo" in "".join(nb["cells"][0].get("source",[])):
        nb["cells"][0]["source"] = header_md(rel, m)
    else:
        nb["cells"].insert(0, {"cell_type":"markdown","metadata":{},"source":header_md(rel, m)})
    json.dump(nb, open(path,"w",encoding="utf-8"), ensure_ascii=False, indent=1)
    print("cabecera ->", rel)

if __name__ == "__main__":
    for rel, m in EXERCISES.items():
        add_header(rel, m)
    print("listo:", len(EXERCISES), "ejercicios")