Upload folder using huggingface_hub

cuadernos/semana_3/container/01_ProcesarDirecciones.ipynb

@@ -0,0 +1,398 @@
+{
+ "cells": [
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "# S3 · Ejercicio 1 — Extraer coordenadas del padrón nacional (Sedona)\n",
+    "\n",
+    "**Curso de Big Data · Dr. Abel Coronado** · Semana 3\n",
+    "\n",
+    "> ⚙️ **Esta variante es para: Container (Podman) / Vagrant — Spark 4.0 · Scala 2.13.**  \n",
+    "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
+    "\n",
+    "🎯 **Objetivo.** Leer el GeoParquet nacional desde HDFS, extraer lat/lon con Sedona (ST_X/ST_Y) y construir DIRECCION_COMPLETA; guardar el resultado en HDFS.\n",
+    "\n",
+    "📦 **Datos.** `/data/raw/geocoder/integrado_ne.parquet` (1.62 GB, 33.6M domicilios INEGI).\n",
+    "\n",
+    "✅ **Prerrequisitos.** Dato nacional cargado en HDFS. Sedona se baja vía spark.jars.packages.\n",
+    "\n",
+    "📝 **Entregable.** `/data/processed/geocoder_final_parquet` creado en HDFS (hdfs dfs -ls).\n",
+    "\n",
+    "⬇️ **Descarga (Hugging Face):** https://huggingface.co/datasets/abxda/bdp-lab/resolve/main/cuadernos/semana_3/container/01_ProcesarDirecciones.ipynb\n",
+    "\n",
+    "💬 **¿Un error?** Captura (celda + mensaje) y repórtalo por **Blackboard** (indica SO y paso).\n",
+    "\n",
+    "---\n",
+    "\n",
+    "> Lee los comentarios de cada celda: explican el porqué de cada paso.\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "d126da7a-9170-4e36-be29-19d8684c1064",
+   "metadata": {
+    "id": "d126da7a-9170-4e36-be29-19d8684c1064"
+   },
+   "outputs": [],
+   "source": [
+    "!python3 -m pip install pyarrow\n",
+    "!python3 -m pip install apache-sedona==1.8.0"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "c21e630e-2be8-40e7-b4c1-a01cb5f28c02",
+   "metadata": {
+    "id": "c21e630e-2be8-40e7-b4c1-a01cb5f28c02"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 1: Inicialización de Spark y Sedona (VERSIÓN CORREGIDA)\n",
+    "\n",
+    "# 1. Importaciones necesarias\n",
+    "from pyspark.sql import SparkSession\n",
+    "from pyspark.sql.functions import expr\n",
+    "from sedona.spark import SedonaContext\n",
+    "\n",
+    "# 2. Detener cualquier sesión previa para una inicialización limpia\n",
+    "try:\n",
+    "    spark.stop()\n",
+    "    print(\"Sesión de Spark anterior detenida.\")\n",
+    "except:\n",
+    "    pass\n",
+    "\n",
+    "print(\"Configurando una nueva sesión de Spark con capacidades de Apache Sedona...\")\n",
+    "\n",
+    "# 3. Configuración y creación de la SparkSession con las versiones CORRECTAS\n",
+    "spark = (\n",
+    "    SparkSession.builder.appName(\"ExtraccionCoordenadasSedona\")\n",
+    "    .master(\"local[*]\")\n",
+    "    # Aumentamos la memoria disponible para el driver de Spark a 4GB\n",
+    "    # (Puedes ajustarlo a \"2g\" o \"6g\" según la RAM de tu equipo)\n",
+    "   .config(\"spark.driver.memory\", \"3g\")\n",
+    "   .config(\n",
+    "        \"spark.jars.packages\",\n",
+    "        \"org.apache.sedona:sedona-spark-4.0_2.13:1.8.0,\"\n",
+    "        \"org.datasyslab:geotools-wrapper:1.8.0-33.1\"\n",
+    "    )\n",
+    "   .config(\"spark.serializer\", \"org.apache.spark.serializer.KryoSerializer\")\n",
+    "   .config(\n",
+    "        \"spark.kryo.registrator\",\n",
+    "        \"org.apache.sedona.core.serde.SedonaKryoRegistrator\"\n",
+    "    )\n",
+    "   .config(\"spark.sql.extensions\", \"org.apache.sedona.sql.SedonaSqlExtensions\")\n",
+    "   .config(\"spark.sql.ansi.enabled\", \"false\").getOrCreate()\n",
+    ")\n",
+    "\n",
+    "spark.sparkContext.setLogLevel(\"ERROR\")\n",
+    "\n",
+    "# 4. Inicialización del SedonaContext (ahora funcionará)\n",
+    "sedona = SedonaContext.create(spark)\n",
+    "\n",
+    "print(\"✅ Sesión de Spark con Apache Sedona iniciada correctamente.\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "6ad83a1c-3a2b-4411-9c0d-43aa6923a0d3",
+   "metadata": {
+    "scrolled": true,
+    "id": "6ad83a1c-3a2b-4411-9c0d-43aa6923a0d3"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 2: Lectura de datos (CORREGIDA)\n",
+    "\n",
+    "# Ruta al archivo que subimos a HDFS en la fase anterior\n",
+    "hdfs_path = \"hdfs://localhost:9000/data/raw/geocoder/integrado_ne.parquet\"\n",
+    "\n",
+    "print(f\"Leyendo archivo GeoParquet desde: {hdfs_path}\")\n",
+    "\n",
+    "# Leemos los datos. Sedona inferirá el esquema geométrico automáticamente.\n",
+    "df_domicilios = spark.read.format(\"geoparquet\").load(hdfs_path)\n",
+    "\n",
+    "# IMPORTANTE: Eliminamos la llamada a .cache()\n",
+    "# No es necesaria para este flujo de trabajo y es la causa del error de memoria.\n",
+    "# df_domicilios.cache()\n",
+    "\n",
+    "# Realizamos una acción ligera como .printSchema() para verificar la carga inicial\n",
+    "print(\"\\nEsquema cargado correctamente:\")\n",
+    "df_domicilios.printSchema()\n",
+    "\n",
+    "# Ahora, el .count() se ejecutará en la siguiente celda como parte de la transformación,\n",
+    "# pero ya sin el cuello de botella del .cache().\n",
+    "print(f\"\\nLectura inicial completada. La transformación comenzará ahora.\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "4d142b58-0fc8-4a97-8249-cb9093f173b0",
+   "metadata": {
+    "id": "4d142b58-0fc8-4a97-8249-cb9093f173b0"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 3: Extracción de coordenadas\n",
+    "\n",
+    "print(\"Extrayendo coordenadas usando las funciones nativas de Sedona ST_X y ST_Y...\")\n",
+    "\n",
+    "# Se asume que la columna de geometría se llama 'geometry'.\n",
+    "# ST_X extrae la Longitud.\n",
+    "# ST_Y extrae la Latitud.\n",
+    "df_con_coordenadas = df_domicilios.withColumn(\n",
+    "    \"Longitud\", expr(\"ST_X(geometry)\")\n",
+    ").withColumn(\n",
+    "    \"Latitud\", expr(\"ST_Y(geometry)\")\n",
+    ")\n",
+    "\n",
+    "print(\"¡Extracción completada! Verificando el resultado...\")\n",
+    "\n",
+    "# Verificación del Esquema: confirma la presencia de las nuevas columnas.\n",
+    "print(\"\\nEsquema del DataFrame resultante:\")\n",
+    "df_con_coordenadas.printSchema()\n",
+    "\n",
+    "# Inspección de Datos: muestra las primeras 5 filas para una revisión visual.\n",
+    "print(\"\\nMuestra de los datos con las nuevas columnas:\")\n",
+    "df_con_coordenadas.select(\"NOMVIAL\", \"geometry\", \"Longitud\", \"Latitud\").show(5, truncate=50)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "0a50a309-a595-4408-9ece-77e03e20d738",
+   "metadata": {
+    "id": "0a50a309-a595-4408-9ece-77e03e20d738"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 4: Construcción de dirección y guardado del Parquet final\n",
+    "from pyspark.sql import functions as sf\n",
+    "\n",
+    "print(\"Construyendo la columna 'DIRECCION_COMPLETA' para el geocodificador...\")\n",
+    "\n",
+    "# Concatenamos los campos para crear la dirección completa y estandarizada.\n",
+    "df_enriquecido = df_con_coordenadas.withColumn(\"DIRECCION_COMPLETA\", sf.concat_ws(\n",
+    "    \" \",\n",
+    "    sf.col(\"TIPOVIAL\"), sf.col(\"NOMVIAL\"), sf.col(\"NUMEXT\"),\n",
+    "    sf.lit(\",\"), sf.col(\"TIPOASEN\"), sf.col(\"NOMASEN\"),\n",
+    "    sf.lit(\", C.P. \"), sf.col(\"CP\"),\n",
+    "    sf.lit(\", \"), sf.col(\"NOM_LOC\"),\n",
+    "    sf.lit(\", \"), sf.col(\"NOM_MUN\"),\n",
+    "    sf.lit(\", \"), sf.col(\"NOM_ENT\")\n",
+    "))\n",
+    "\n",
+    "# Seleccionamos solo las columnas que irán a Elasticsearch y eliminamos la geometría original.\n",
+    "df_final_para_guardar = df_enriquecido.select(\n",
+    "    \"DIRECCION_COMPLETA\",\n",
+    "    \"Latitud\",\n",
+    "    \"Longitud\",\n",
+    "    \"NOM_MUN\",\n",
+    "    \"NOM_ENT\",\n",
+    "    \"CP\"\n",
+    ").drop(\"geometry\") # La columna 'geometry' ya no es necesaria\n",
+    "\n",
+    "# Ruta de salida en HDFS para el archivo procesado.\n",
+    "hdfs_path_processed = \"hdfs://localhost:9000/data/processed/geocoder_final_parquet\"\n",
+    "\n",
+    "print(f\"Guardando el DataFrame final en: {hdfs_path_processed}\")\n",
+    "\n",
+    "# Guardamos el resultado en formato Parquet, sobrescribiendo si ya existe.\n",
+    "df_final_para_guardar.write.mode(\"overwrite\").parquet(hdfs_path_processed)\n",
+    "\n",
+    "print(\"✅ ¡Proceso completado! El archivo Parquet enriquecido está listo en HDFS.\")\n",
+    "\n",
+    "# Liberamos la memoria caché\n",
+    "df_domicilios.unpersist()"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "bc87e3ef-de32-4036-9307-89b73eb43c87",
+   "metadata": {
+    "id": "bc87e3ef-de32-4036-9307-89b73eb43c87"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 5: Verificación del resultado en HDFS\n",
+    "\n",
+    "# Ruta al archivo Parquet que procesamos y guardamos en la celda anterior\n",
+    "hdfs_path_processed = \"hdfs://localhost:9000/data/processed/geocoder_final_parquet\"\n",
+    "\n",
+    "print(f\"Leyendo el DataFrame final desde: {hdfs_path_processed}\")\n",
+    "\n",
+    "# Leemos el archivo parquet. Spark inferirá el esquema automáticamente.\n",
+    "df_verificacion = spark.read.parquet(hdfs_path_processed)\n",
+    "\n",
+    "print(\"\\nMostrando 5 registros del DataFrame final para inspección visual:\")\n",
+    "# Usamos truncate=False para asegurarnos de ver la dirección completa sin cortes.\n",
+    "df_verificacion.show(5, truncate=False)\n",
+    "\n",
+    "print(\"\\nVerificación del esquema final. Nota que ya no existe la columna 'geometry':\")\n",
+    "df_verificacion.printSchema()\n",
+    "\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "c14bbfda-cd73-4d14-8a70-a51b670a6104",
+   "metadata": {
+    "id": "c14bbfda-cd73-4d14-8a70-a51b670a6104"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 6: Descarga de HDFS al directorio local 'notebooks'\n",
+    "\n",
+    "import os\n",
+    "from hdfs import InsecureClient\n",
+    "\n",
+    "# --- 1. Definición de Rutas ---\n",
+    "# Ruta de origen en HDFS (el directorio que queremos descargar)\n",
+    "hdfs_source_path = \"/data/processed/geocoder_final_parquet\"\n",
+    "\n",
+    "# Ruta de destino local. Usamos os.getcwd() para obtener la ruta actual del notebook\n",
+    "# y así asegurar que el destino sea siempre la carpeta 'notebooks'.\n",
+    "local_dest_path = os.path.join(os.getcwd(), \"geocoder_final_parquet\")\n",
+    "\n",
+    "print(f\"Directorio de origen en HDFS: {hdfs_source_path}\")\n",
+    "print(f\"Directorio de destino local: {local_dest_path}\")\n",
+    "\n",
+    "# --- 2. Conexión al cliente HDFS ---\n",
+    "# Nos conectamos al puerto HTTP del NameNode (9870 por defecto en BDPv4)\n",
+    "\n",
+    "client = InsecureClient('http://localhost:9870')\n",
+    "\n",
+    "# --- 3. Ejecución de la Descarga ---\n",
+    "print(\"\\nIniciando la descarga desde HDFS...\")\n",
+    "\n",
+    "# El comando download toma el origen en HDFS y el destino local.\n",
+    "# overwrite=True borrará el directorio local si ya existe, para evitar errores en re-ejecuciones.\n",
+    "try:\n",
+    "    client.download(hdfs_source_path, local_dest_path, overwrite=True)\n",
+    "    print(\"✅ ¡Descarga completada exitosamente!\")\n",
+    "except Exception as e:\n",
+    "    print(f\"❌ Ocurrió un error durante la descarga: {e}\")\n",
+    "\n",
+    "\n",
+    "# --- 4. Verificación Local ---\n",
+    "print(f\"\\nContenido del directorio local '{local_dest_path}':\")\n",
+    "\n",
+    "# Verificamos que el directorio y sus archivos ahora existen localmente.\n",
+    "if os.path.exists(local_dest_path):\n",
+    "    # Listamos los archivos dentro del directorio descargado\n",
+    "    downloaded_files = os.listdir(local_dest_path)\n",
+    "    for file_name in downloaded_files:\n",
+    "        print(f\"  - {file_name}\")\n",
+    "else:\n",
+    "    print(\"El directorio no fue descargado.\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "3ae440e6-483e-4972-be4b-ae171f876270",
+   "metadata": {
+    "id": "3ae440e6-483e-4972-be4b-ae171f876270"
+   },
+   "outputs": [],
+   "source": []
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "37723c6e-108b-4a02-9d35-27f601845e9a",
+   "metadata": {
+    "id": "37723c6e-108b-4a02-9d35-27f601845e9a"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 7: Consolidación a un único archivo Parquet con Pandas (OPCIONAL)\n",
+    "\n",
+    "import pandas as pd\n",
+    "import os\n",
+    "\n",
+    "# --- 1. Definir las rutas de origen y destino ---\n",
+    "# Ruta al directorio que contiene los múltiples archivos Parquet de Spark\n",
+    "source_directory = os.path.join(os.getcwd(), \"geocoder_final_parquet\")\n",
+    "\n",
+    "# Nombre del nuevo archivo Parquet único que vamos a crear\n",
+    "output_single_file = os.path.join(os.getcwd(), \"geocoder_mexico_completo.parquet\")\n",
+    "\n",
+    "print(f\"Directorio de origen: {source_directory}\")\n",
+    "print(f\"Archivo de salida único: {output_single_file}\")\n",
+    "\n",
+    "\n",
+    "# --- 2. Leer el directorio Parquet con Pandas ---\n",
+    "# Pandas es lo suficientemente inteligente como para leer todos los archivos 'part-*.parquet'\n",
+    "# dentro de un directorio si se le pasa la ruta del directorio.\n",
+    "print(\"\\nLeyendo directorio Parquet con Pandas...\")\n",
+    "try:\n",
+    "    # Usamos el motor 'pyarrow', que es rápido y el estándar de la industria.\n",
+    "    df_pandas = pd.read_parquet(source_directory, engine='pyarrow')\n",
+    "    print(\"Lectura completada exitosamente.\")\n",
+    "\n",
+    "    # --- 3. Verificar los datos cargados en Pandas ---\n",
+    "    print(f\"\\nVerificación del DataFrame de Pandas:\")\n",
+    "    print(f\"  - Forma del DataFrame (filas, columnas): {df_pandas.shape}\")\n",
+    "    print(f\"  - Uso de memoria: {df_pandas.memory_usage(deep=True).sum() / 1024**2:.2f} MB\")\n",
+    "\n",
+    "    print(\"\\nMostrando las primeras 5 filas desde Pandas:\")\n",
+    "    display(df_pandas.head())\n",
+    "\n",
+    "    # --- 4. Guardar como un único archivo Parquet ---\n",
+    "    print(f\"\\nGuardando el DataFrame en un único archivo: '{output_single_file}'...\")\n",
+    "\n",
+    "    # Al guardar, es una buena práctica usar index=False para no guardar el índice de Pandas en el archivo.\n",
+    "    df_pandas.to_parquet(output_single_file, engine='pyarrow', index=False)\n",
+    "\n",
+    "    print(\"\\n✅ ¡Proceso completado! Se ha creado el archivo Parquet único.\")\n",
+    "\n",
+    "except FileNotFoundError:\n",
+    "    print(f\"❌ ERROR: No se encontró el directorio de origen en '{source_directory}'.\")\n",
+    "    print(\"Asegúrate de haber ejecutado la celda de descarga de HDFS primero.\")\n",
+    "except Exception as e:\n",
+    "    print(f\"❌ Ocurrió un error inesperado: {e}\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "094fd720-ef5e-49bd-ac63-3c6d4bb6621b",
+   "metadata": {
+    "id": "094fd720-ef5e-49bd-ac63-3c6d4bb6621b"
+   },
+   "outputs": [],
+   "source": []
+  }
+ ],
+ "metadata": {
+  "kernelspec": {
+   "display_name": "Python 3 (ipykernel)",
+   "language": "python",
+   "name": "python3"
+  },
+  "language_info": {
+   "codemirror_mode": {
+    "name": "ipython",
+    "version": 3
+   },
+   "file_extension": ".py",
+   "mimetype": "text/x-python",
+   "name": "python",
+   "nbconvert_exporter": "python",
+   "pygments_lexer": "ipython3",
+   "version": "3.9.2"
+  },
+  "colab": {
+   "provenance": []
+  }
+ },
+ "nbformat": 4,
+ "nbformat_minor": 5
+}

cuadernos/semana_3/container/02_IndexacionGeoespacial.ipynb

@@ -0,0 +1,194 @@
+{
+ "cells": [
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "# S3 · Ejercicio 2 — Indexar el geocodificador en Elasticsearch\n",
+    "\n",
+    "**Curso de Big Data · Dr. Abel Coronado** · Semana 3\n",
+    "\n",
+    "> ⚙️ **Esta variante es para: Container (Podman) / Vagrant — Spark 4.0 · Scala 2.13.**  \n",
+    "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
+    "\n",
+    "🎯 **Objetivo.** Indexar los domicilios procesados en Elasticsearch (location como geo_point) con el cliente Python (bulk).\n",
+    "\n",
+    "📦 **Datos.** `/data/processed/geocoder_final_parquet` (salida del Ejercicio 1).\n",
+    "\n",
+    "✅ **Prerrequisitos.** Ejercicio 1 completado. Elasticsearch arrancado (:9200).\n",
+    "\n",
+    "📝 **Entregable.** Índice `geocoder_mexico` con docs > 0 (Elasticvue o _count).\n",
+    "\n",
+    "⬇️ **Descarga (Hugging Face):** https://huggingface.co/datasets/abxda/bdp-lab/resolve/main/cuadernos/semana_3/container/02_IndexacionGeoespacial.ipynb\n",
+    "\n",
+    "💬 **¿Un error?** Captura (celda + mensaje) y repórtalo por **Blackboard** (indica SO y paso).\n",
+    "\n",
+    "---\n",
+    "\n",
+    "> Lee los comentarios de cada celda: explican el porqué de cada paso.\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "bf6fb161-2dc8-4b7a-8824-c3d2cd8c922a",
+   "metadata": {
+    "id": "bf6fb161-2dc8-4b7a-8824-c3d2cd8c922a"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 1: Configuración de Spark con TODOS los paquetes necesarios\n",
+    "\n",
+    "from pyspark.sql import SparkSession\n",
+    "\n",
+    "# Detener cualquier sesión previa para una inicialización limpia\n",
+    "try:\n",
+    "    spark.stop()\n",
+    "    print(\"Sesión de Spark anterior detenida.\")\n",
+    "except:\n",
+    "    pass\n",
+    "\n",
+    "print(\"Configurando una nueva sesión de Spark con capacidades de Sedona y Elasticsearch...\")\n",
+    "\n",
+    "# Definimos las coordenadas de todos los paquetes que necesitamos en una sola lista\n",
+    "packages = [\n",
+    "    # Paquetes para leer y procesar datos geoespaciales con Sedona\n",
+    "    \"org.apache.sedona:sedona-spark-4.0_2.13:1.8.0\",\n",
+    "    \"org.datasyslab:geotools-wrapper:1.8.0-33.1\",\n",
+    "\n",
+    "    # Paquete para la escritura nativa en Elasticsearch\n",
+    "]\n",
+    "\n",
+    "# Unimos la lista de paquetes en una cadena separada por comas\n",
+    "packages_str = \",\".join(packages)\n",
+    "\n",
+    "# Configuración y creación de la SparkSession\n",
+    "spark = (\n",
+    "    SparkSession.builder.appName(\"ProcesoCompleto_Geo_a_ES\")\n",
+    "    .master(\"local[*]\")\n",
+    "    .config(\"spark.driver.memory\", \"4g\")\n",
+    "    .config(\"spark.jars.packages\", packages_str) # <-- Cargamos todos los paquetes\n",
+    "    .config(\"spark.serializer\", \"org.apache.spark.serializer.KryoSerializer\")\n",
+    "    .config(\"spark.kryo.registrator\", \"org.apache.sedona.core.serde.SedonaKryoRegistrator\")\n",
+    "    .config(\"spark.sql.extensions\", \"org.apache.sedona.sql.SedonaSqlExtensions\")\n",
+    "    .config(\"spark.sql.ansi.enabled\", \"false\").getOrCreate()\n",
+    ")\n",
+    "\n",
+    "print(f\"✅ ¡Sesión de Spark lista con todos los paquetes ({len(packages)}) cargados!\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "74d2cedf-4a00-40e5-b5f6-9d12e0546ea7",
+   "metadata": {
+    "id": "74d2cedf-4a00-40e5-b5f6-9d12e0546ea7"
+   },
+   "outputs": [],
+   "source": [
+    "from pyspark.sql import functions as sf\n",
+    "\n",
+    "# Ruta HDFS al archivo Parquet que ya contiene la dirección completa y las coordenadas\n",
+    "hdfs_path_processed = \"hdfs://localhost:9000/data/processed/geocoder_final_parquet\"\n",
+    "\n",
+    "print(f\"Leyendo archivo Parquet desde: {hdfs_path_processed}\")\n",
+    "df_direcciones = spark.read.parquet(hdfs_path_processed)\n",
+    "\n",
+    "# Transformamos la columna 'location' al formato \"lat,lon\" que espera el conector nativo\n",
+    "df_para_es = df_direcciones.withColumn(\n",
+    "    \"location\",\n",
+    "    sf.concat_ws(\",\", sf.col(\"Latitud\"), sf.col(\"Longitud\"))\n",
+    ").select(\n",
+    "    \"DIRECCION_COMPLETA\", \"CP\", \"NOM_MUN\", \"NOM_ENT\", \"location\"\n",
+    ")\n",
+    "\n",
+    "print(f\"Datos listos para la carga. Total de documentos a indexar: {df_para_es.count():,}\")\n",
+    "print(\"Mostrando una muestra de los datos a enviar a Elasticsearch:\")\n",
+    "df_para_es.show(5, truncate=50)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "456b9b6c-45fa-48df-81f7-7a655e7b26c1",
+   "metadata": {
+    "id": "456b9b6c-45fa-48df-81f7-7a655e7b26c1"
+   },
+   "outputs": [],
+   "source": [
+    "# Indexación a Elasticsearch con el CLIENTE PYTHON (bulk).\n",
+    "# Funciona igual en Portable (Spark 3.4) y Container (Spark 4.0): el conector\n",
+    "# Spark-ES no existe para Spark 4.0, así que usamos el cliente Python, que es\n",
+    "# robusto y aprovecha que la seguridad de ES está desactivada en el laboratorio.\n",
+    "from elasticsearch import Elasticsearch, helpers\n",
+    "\n",
+    "index_name = \"geocoder_mexico\"\n",
+    "es = Elasticsearch(\"http://localhost:9200\", request_timeout=120)\n",
+    "\n",
+    "# Mapeo: location como geo_point; texto y keywords para búsqueda.\n",
+    "mapping = {\"mappings\": {\"properties\": {\n",
+    "    \"DIRECCION_COMPLETA\": {\"type\": \"text\"},\n",
+    "    \"CP\": {\"type\": \"keyword\"}, \"NOM_MUN\": {\"type\": \"keyword\"},\n",
+    "    \"NOM_ENT\": {\"type\": \"keyword\"}, \"location\": {\"type\": \"geo_point\"}}}}\n",
+    "if es.indices.exists(index=index_name):\n",
+    "    es.indices.delete(index=index_name)\n",
+    "es.indices.create(index=index_name, body=mapping)\n",
+    "\n",
+    "def _gen(rows):\n",
+    "    for r in rows:\n",
+    "        yield {\"_index\": index_name, \"_source\": r.asDict()}\n",
+    "\n",
+    "# toLocalIterator evita traer todo a memoria del driver de una vez.\n",
+    "total = df_para_es.count()\n",
+    "print(f\"Indexando {total:,} documentos en '{index_name}' (cliente Python, bulk)...\")\n",
+    "ok, _ = helpers.bulk(es, _gen(df_para_es.toLocalIterator()), chunk_size=2000, request_timeout=120)\n",
+    "es.indices.refresh(index=index_name)\n",
+    "print(f\"\\u2705 Indexados {ok:,} documentos. Conteo ES: {es.count(index=index_name)['count']:,}\")\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "78310622-f608-4cb3-93c4-bd95a7556db3",
+   "metadata": {
+    "id": "78310622-f608-4cb3-93c4-bd95a7556db3"
+   },
+   "outputs": [],
+   "source": []
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "dc7c8e76-ad81-4f52-ab01-cc748ff4869f",
+   "metadata": {
+    "id": "dc7c8e76-ad81-4f52-ab01-cc748ff4869f"
+   },
+   "outputs": [],
+   "source": []
+  }
+ ],
+ "metadata": {
+  "kernelspec": {
+   "display_name": "Python 3 (ipykernel)",
+   "language": "python",
+   "name": "python3"
+  },
+  "language_info": {
+   "codemirror_mode": {
+    "name": "ipython",
+    "version": 3
+   },
+   "file_extension": ".py",
+   "mimetype": "text/x-python",
+   "name": "python",
+   "nbconvert_exporter": "python",
+   "pygments_lexer": "ipython3",
+   "version": "3.10.11"
+  },
+  "colab": {
+   "provenance": []
+  }
+ },
+ "nbformat": 4,
+ "nbformat_minor": 5
+}

cuadernos/semana_3/container/03_prompt_app_streamlit.txt

@@ -0,0 +1,154 @@
+¡Absolutamente! Ahora entiendo perfectamente. Quieres un "prompt" o enunciado de un ejercicio para tus estudiantes, no la solución. La idea es que ellos, con su entorno ya preparado, puedan desarrollar la aplicación desde cero basándose en tus instrucciones.
+
+Aquí tienes un prompt redactado como un ejercicio de clase o un mini-proyecto.
+
+Proyecto: Creación de un Geocodificador Interactivo con Streamlit y Elasticsearch
+
+Objetivo del Proyecto:
+
+Desarrollar una aplicación web sencilla y estética utilizando Python y el framework Streamlit. La aplicación servirá como un "geocodificador": permitirá a los usuarios encontrar la ubicación geográfica de una dirección buscándola por texto, y también descubrir direcciones cercanas haciendo clic en un mapa interactivo. Todos los datos de direcciones se consultarán desde una instancia local de Elasticsearch.
+
+Entorno de Trabajo (Prerrequisitos):
+
+Se asume que cada estudiante ya cuenta con el siguiente entorno configurado y en funcionamiento:
+
+Python 3.x instalado.
+
+Un servidor de Elasticsearch corriendo localmente en http://localhost:9200.
+
+Un índice en Elasticsearch llamado geocoder_mexico que ya ha sido poblado con datos de direcciones. El mapping de este índice es el siguiente:
+
+Generated json
+{
+  "mappings": {
+    "properties": {
+      "DIRECCION_COMPLETA": {"type": "text"},
+      "CP": {"type": "keyword"},
+      "NOM_MUN": {"type": "keyword"},
+      "NOM_ENT": {"type": "keyword"},
+      "location": {"type": "geo_point"}
+    }
+  }
+}
+
+Instrucciones y Requisitos
+Paso 1: Instalación de Dependencias
+
+Antes de comenzar a codificar, asegúrate de tener instaladas todas las librerías necesarias. Abre tu terminal y ejecuta los siguientes comandos:
+
+Generated bash
+# Para construir la interfaz de la aplicación web
+python -m pip install streamlit
+
+# Para comunicarte con tu base de datos de Elasticsearch
+python -m pip install elasticsearch
+
+# Para crear y mostrar mapas interactivos
+python -m pip install folium
+python -m pip install streamlit-folium
+IGNORE_WHEN_COPYING_START
+content_copy
+download
+Use code with caution.
+Bash
+IGNORE_WHEN_COPYING_END
+Paso 2: Diseño de la Interfaz de Usuario (UI)
+
+Inspírate en el siguiente diseño de dos columnas. La aplicación debe ser limpia y fácil de usar.
+
+Columna Izquierda: Contendrá los controles de búsqueda.
+
+Un título, como "Search".
+
+Un campo de texto (st.text_input) para que el usuario escriba la dirección.
+
+Columna Derecha: Ocupará la mayor parte del espacio y mostrará el mapa interactivo.
+
+Puedes lograr esta estructura usando st.columns().
+
+Paso 3: Implementación de Funcionalidades
+
+Tu aplicación debe tener dos funcionalidades principales:
+
+Funcionalidad 1: Búsqueda por Dirección de Texto
+
+Cuando un usuario escribe una dirección en el campo de texto y presiona Enter, la aplicación debe ejecutar una consulta multi_match a tu índice geocoder_mexico.
+
+La consulta debe buscar la dirección más relevante, permitiendo cierta flexibilidad con errores de tipeo (fuzziness).
+
+Una vez encontrado el resultado, el mapa debe centrarse en esa ubicación y mostrar un único marcador azul sobre ella.
+
+Pista de Consulta (Búsqueda por Texto):
+
+Generated json
+{
+  "query": {
+    "multi_match": {
+      "query": "Av Heroe de Nacozari Sur 2301 Aguascalientes",
+      "fields": [
+        "DIRECCION_COMPLETA^3",
+        "NOM_MUN",
+        "NOM_ENT"
+      ],
+      "type": "best_fields",
+      "fuzziness": "AUTO"
+    }
+  }
+}
+IGNORE_WHEN_COPYING_START
+content_copy
+download
+Use code with caution.
+Json
+IGNORE_WHEN_COPYING_END
+
+Funcionalidad 2: Búsqueda por Clic en el Mapa
+
+El usuario debe poder hacer clic en cualquier lugar del mapa.
+
+Al detectar un clic, la aplicación debe capturar las coordenadas (latitud y longitud) de ese punto.
+
+Usando esas coordenadas, debe ejecutar una consulta _geo_distance a Elasticsearch para encontrar las 3 direcciones más cercanas.
+
+La aplicación debe limpiar los marcadores anteriores y mostrar los 3 nuevos resultados como marcadores en el mapa. También puedes mostrar los nombres de las direcciones encontradas en la columna izquierda.
+
+Pista de Consulta (Búsqueda por Cercanía Geográfica):
+
+Generated json
+{
+  "size": 3,
+  "query": { "match_all": {} },
+  "sort": [
+    {
+      "_geo_distance": {
+        "location": {
+          "lat": 21.8800,
+          "lon": -102.2960
+        },
+        "order": "asc",
+        "unit": "km"
+      }
+    }
+  ]
+}
+IGNORE_WHEN_COPYING_START
+content_copy
+download
+Use code with caution.
+Json
+IGNORE_WHEN_COPYING_END
+Consideraciones Técnicas Importantes:
+
+Conexión: Conéctate a Elasticsearch usando Elasticsearch(['http://localhost:9200']).
+
+Formato de Coordenadas: ¡Atención! Al recuperar un documento de Elasticsearch, el campo location no será un diccionario, sino un string con el formato "latitud,longitud". Deberás procesar este string (por ejemplo, con .split(',')) para separar los valores y convertirlos a números (float) antes de poder usarlos en el mapa.
+
+Interactividad: Utiliza la librería streamlit-folium para mostrar el mapa y capturar los eventos de clic del usuario.
+
+Mantenimiento de Estado: Para que el mapa no se reinicie con cada acción, usa st.session_state para guardar la posición central del mapa y la lista de marcadores a mostrar.
+
+Entregable:
+
+Un único archivo de Python (app.py) que, al ser ejecutado con el comando streamlit run app.py, lance la aplicación web funcional descrita. El código debe estar limpio y, si es posible, comentado para explicar las partes más importantes.
+
+¡Mucha suerte

cuadernos/semana_3/portable/01_ProcesarDirecciones.ipynb

@@ -0,0 +1,398 @@
+{
+ "cells": [
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "# S3 · Ejercicio 1 — Extraer coordenadas del padrón nacional (Sedona)\n",
+    "\n",
+    "**Curso de Big Data · Dr. Abel Coronado** · Semana 3\n",
+    "\n",
+    "> ⚙️ **Esta variante es para: Portable (Windows nativo) — Spark 3.4 · Scala 2.12.**  \n",
+    "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
+    "\n",
+    "🎯 **Objetivo.** Leer el GeoParquet nacional desde HDFS, extraer lat/lon con Sedona (ST_X/ST_Y) y construir DIRECCION_COMPLETA; guardar el resultado en HDFS.\n",
+    "\n",
+    "📦 **Datos.** `/data/raw/geocoder/integrado_ne.parquet` (1.62 GB, 33.6M domicilios INEGI).\n",
+    "\n",
+    "✅ **Prerrequisitos.** Dato nacional cargado en HDFS. Sedona se baja vía spark.jars.packages.\n",
+    "\n",
+    "📝 **Entregable.** `/data/processed/geocoder_final_parquet` creado en HDFS (hdfs dfs -ls).\n",
+    "\n",
+    "⬇️ **Descarga (Hugging Face):** https://huggingface.co/datasets/abxda/bdp-lab/resolve/main/cuadernos/semana_3/portable/01_ProcesarDirecciones.ipynb\n",
+    "\n",
+    "💬 **¿Un error?** Captura (celda + mensaje) y repórtalo por **Blackboard** (indica SO y paso).\n",
+    "\n",
+    "---\n",
+    "\n",
+    "> Lee los comentarios de cada celda: explican el porqué de cada paso.\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "d126da7a-9170-4e36-be29-19d8684c1064",
+   "metadata": {
+    "id": "d126da7a-9170-4e36-be29-19d8684c1064"
+   },
+   "outputs": [],
+   "source": [
+    "!python3 -m pip install pyarrow\n",
+    "!python3 -m pip install apache-sedona==1.7.2"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "c21e630e-2be8-40e7-b4c1-a01cb5f28c02",
+   "metadata": {
+    "id": "c21e630e-2be8-40e7-b4c1-a01cb5f28c02"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 1: Inicialización de Spark y Sedona (VERSIÓN CORREGIDA)\n",
+    "\n",
+    "# 1. Importaciones necesarias\n",
+    "from pyspark.sql import SparkSession\n",
+    "from pyspark.sql.functions import expr\n",
+    "from sedona.spark import SedonaContext\n",
+    "\n",
+    "# 2. Detener cualquier sesión previa para una inicialización limpia\n",
+    "try:\n",
+    "    spark.stop()\n",
+    "    print(\"Sesión de Spark anterior detenida.\")\n",
+    "except:\n",
+    "    pass\n",
+    "\n",
+    "print(\"Configurando una nueva sesión de Spark con capacidades de Apache Sedona...\")\n",
+    "\n",
+    "# 3. Configuración y creación de la SparkSession con las versiones CORRECTAS\n",
+    "spark = (\n",
+    "    SparkSession.builder.appName(\"ExtraccionCoordenadasSedona\")\n",
+    "    .master(\"local[*]\")\n",
+    "    # Aumentamos la memoria disponible para el driver de Spark a 4GB\n",
+    "    # (Puedes ajustarlo a \"2g\" o \"6g\" según la RAM de tu equipo)\n",
+    "   .config(\"spark.driver.memory\", \"3g\")\n",
+    "   .config(\n",
+    "        \"spark.jars.packages\",\n",
+    "        \"org.apache.sedona:sedona-spark-3.4_2.12:1.7.2,\"\n",
+    "        \"org.datasyslab:geotools-wrapper:1.7.2-28.5\"\n",
+    "    )\n",
+    "   .config(\"spark.serializer\", \"org.apache.spark.serializer.KryoSerializer\")\n",
+    "   .config(\n",
+    "        \"spark.kryo.registrator\",\n",
+    "        \"org.apache.sedona.core.serde.SedonaKryoRegistrator\"\n",
+    "    )\n",
+    "   .config(\"spark.sql.extensions\", \"org.apache.sedona.sql.SedonaSqlExtensions\")\n",
+    "   .getOrCreate()\n",
+    ")\n",
+    "\n",
+    "spark.sparkContext.setLogLevel(\"ERROR\")\n",
+    "\n",
+    "# 4. Inicialización del SedonaContext (ahora funcionará)\n",
+    "sedona = SedonaContext.create(spark)\n",
+    "\n",
+    "print(\"✅ Sesión de Spark con Apache Sedona iniciada correctamente.\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "6ad83a1c-3a2b-4411-9c0d-43aa6923a0d3",
+   "metadata": {
+    "scrolled": true,
+    "id": "6ad83a1c-3a2b-4411-9c0d-43aa6923a0d3"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 2: Lectura de datos (CORREGIDA)\n",
+    "\n",
+    "# Ruta al archivo que subimos a HDFS en la fase anterior\n",
+    "hdfs_path = \"hdfs://localhost:9000/data/raw/geocoder/integrado_ne.parquet\"\n",
+    "\n",
+    "print(f\"Leyendo archivo GeoParquet desde: {hdfs_path}\")\n",
+    "\n",
+    "# Leemos los datos. Sedona inferirá el esquema geométrico automáticamente.\n",
+    "df_domicilios = spark.read.format(\"geoparquet\").load(hdfs_path)\n",
+    "\n",
+    "# IMPORTANTE: Eliminamos la llamada a .cache()\n",
+    "# No es necesaria para este flujo de trabajo y es la causa del error de memoria.\n",
+    "# df_domicilios.cache()\n",
+    "\n",
+    "# Realizamos una acción ligera como .printSchema() para verificar la carga inicial\n",
+    "print(\"\\nEsquema cargado correctamente:\")\n",
+    "df_domicilios.printSchema()\n",
+    "\n",
+    "# Ahora, el .count() se ejecutará en la siguiente celda como parte de la transformación,\n",
+    "# pero ya sin el cuello de botella del .cache().\n",
+    "print(f\"\\nLectura inicial completada. La transformación comenzará ahora.\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "4d142b58-0fc8-4a97-8249-cb9093f173b0",
+   "metadata": {
+    "id": "4d142b58-0fc8-4a97-8249-cb9093f173b0"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 3: Extracción de coordenadas\n",
+    "\n",
+    "print(\"Extrayendo coordenadas usando las funciones nativas de Sedona ST_X y ST_Y...\")\n",
+    "\n",
+    "# Se asume que la columna de geometría se llama 'geometry'.\n",
+    "# ST_X extrae la Longitud.\n",
+    "# ST_Y extrae la Latitud.\n",
+    "df_con_coordenadas = df_domicilios.withColumn(\n",
+    "    \"Longitud\", expr(\"ST_X(geometry)\")\n",
+    ").withColumn(\n",
+    "    \"Latitud\", expr(\"ST_Y(geometry)\")\n",
+    ")\n",
+    "\n",
+    "print(\"¡Extracción completada! Verificando el resultado...\")\n",
+    "\n",
+    "# Verificación del Esquema: confirma la presencia de las nuevas columnas.\n",
+    "print(\"\\nEsquema del DataFrame resultante:\")\n",
+    "df_con_coordenadas.printSchema()\n",
+    "\n",
+    "# Inspección de Datos: muestra las primeras 5 filas para una revisión visual.\n",
+    "print(\"\\nMuestra de los datos con las nuevas columnas:\")\n",
+    "df_con_coordenadas.select(\"NOMVIAL\", \"geometry\", \"Longitud\", \"Latitud\").show(5, truncate=50)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "0a50a309-a595-4408-9ece-77e03e20d738",
+   "metadata": {
+    "id": "0a50a309-a595-4408-9ece-77e03e20d738"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 4: Construcción de dirección y guardado del Parquet final\n",
+    "from pyspark.sql import functions as sf\n",
+    "\n",
+    "print(\"Construyendo la columna 'DIRECCION_COMPLETA' para el geocodificador...\")\n",
+    "\n",
+    "# Concatenamos los campos para crear la dirección completa y estandarizada.\n",
+    "df_enriquecido = df_con_coordenadas.withColumn(\"DIRECCION_COMPLETA\", sf.concat_ws(\n",
+    "    \" \",\n",
+    "    sf.col(\"TIPOVIAL\"), sf.col(\"NOMVIAL\"), sf.col(\"NUMEXT\"),\n",
+    "    sf.lit(\",\"), sf.col(\"TIPOASEN\"), sf.col(\"NOMASEN\"),\n",
+    "    sf.lit(\", C.P. \"), sf.col(\"CP\"),\n",
+    "    sf.lit(\", \"), sf.col(\"NOM_LOC\"),\n",
+    "    sf.lit(\", \"), sf.col(\"NOM_MUN\"),\n",
+    "    sf.lit(\", \"), sf.col(\"NOM_ENT\")\n",
+    "))\n",
+    "\n",
+    "# Seleccionamos solo las columnas que irán a Elasticsearch y eliminamos la geometría original.\n",
+    "df_final_para_guardar = df_enriquecido.select(\n",
+    "    \"DIRECCION_COMPLETA\",\n",
+    "    \"Latitud\",\n",
+    "    \"Longitud\",\n",
+    "    \"NOM_MUN\",\n",
+    "    \"NOM_ENT\",\n",
+    "    \"CP\"\n",
+    ").drop(\"geometry\") # La columna 'geometry' ya no es necesaria\n",
+    "\n",
+    "# Ruta de salida en HDFS para el archivo procesado.\n",
+    "hdfs_path_processed = \"hdfs://localhost:9000/data/processed/geocoder_final_parquet\"\n",
+    "\n",
+    "print(f\"Guardando el DataFrame final en: {hdfs_path_processed}\")\n",
+    "\n",
+    "# Guardamos el resultado en formato Parquet, sobrescribiendo si ya existe.\n",
+    "df_final_para_guardar.write.mode(\"overwrite\").parquet(hdfs_path_processed)\n",
+    "\n",
+    "print(\"✅ ¡Proceso completado! El archivo Parquet enriquecido está listo en HDFS.\")\n",
+    "\n",
+    "# Liberamos la memoria caché\n",
+    "df_domicilios.unpersist()"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "bc87e3ef-de32-4036-9307-89b73eb43c87",
+   "metadata": {
+    "id": "bc87e3ef-de32-4036-9307-89b73eb43c87"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 5: Verificación del resultado en HDFS\n",
+    "\n",
+    "# Ruta al archivo Parquet que procesamos y guardamos en la celda anterior\n",
+    "hdfs_path_processed = \"hdfs://localhost:9000/data/processed/geocoder_final_parquet\"\n",
+    "\n",
+    "print(f\"Leyendo el DataFrame final desde: {hdfs_path_processed}\")\n",
+    "\n",
+    "# Leemos el archivo parquet. Spark inferirá el esquema automáticamente.\n",
+    "df_verificacion = spark.read.parquet(hdfs_path_processed)\n",
+    "\n",
+    "print(\"\\nMostrando 5 registros del DataFrame final para inspección visual:\")\n",
+    "# Usamos truncate=False para asegurarnos de ver la dirección completa sin cortes.\n",
+    "df_verificacion.show(5, truncate=False)\n",
+    "\n",
+    "print(\"\\nVerificación del esquema final. Nota que ya no existe la columna 'geometry':\")\n",
+    "df_verificacion.printSchema()\n",
+    "\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "c14bbfda-cd73-4d14-8a70-a51b670a6104",
+   "metadata": {
+    "id": "c14bbfda-cd73-4d14-8a70-a51b670a6104"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 6: Descarga de HDFS al directorio local 'notebooks'\n",
+    "\n",
+    "import os\n",
+    "from hdfs import InsecureClient\n",
+    "\n",
+    "# --- 1. Definición de Rutas ---\n",
+    "# Ruta de origen en HDFS (el directorio que queremos descargar)\n",
+    "hdfs_source_path = \"/data/processed/geocoder_final_parquet\"\n",
+    "\n",
+    "# Ruta de destino local. Usamos os.getcwd() para obtener la ruta actual del notebook\n",
+    "# y así asegurar que el destino sea siempre la carpeta 'notebooks'.\n",
+    "local_dest_path = os.path.join(os.getcwd(), \"geocoder_final_parquet\")\n",
+    "\n",
+    "print(f\"Directorio de origen en HDFS: {hdfs_source_path}\")\n",
+    "print(f\"Directorio de destino local: {local_dest_path}\")\n",
+    "\n",
+    "# --- 2. Conexión al cliente HDFS ---\n",
+    "# Nos conectamos al puerto HTTP del NameNode (9870 por defecto en BDPv4)\n",
+    "\n",
+    "client = InsecureClient('http://localhost:9870')\n",
+    "\n",
+    "# --- 3. Ejecución de la Descarga ---\n",
+    "print(\"\\nIniciando la descarga desde HDFS...\")\n",
+    "\n",
+    "# El comando download toma el origen en HDFS y el destino local.\n",
+    "# overwrite=True borrará el directorio local si ya existe, para evitar errores en re-ejecuciones.\n",
+    "try:\n",
+    "    client.download(hdfs_source_path, local_dest_path, overwrite=True)\n",
+    "    print(\"✅ ¡Descarga completada exitosamente!\")\n",
+    "except Exception as e:\n",
+    "    print(f\"❌ Ocurrió un error durante la descarga: {e}\")\n",
+    "\n",
+    "\n",
+    "# --- 4. Verificación Local ---\n",
+    "print(f\"\\nContenido del directorio local '{local_dest_path}':\")\n",
+    "\n",
+    "# Verificamos que el directorio y sus archivos ahora existen localmente.\n",
+    "if os.path.exists(local_dest_path):\n",
+    "    # Listamos los archivos dentro del directorio descargado\n",
+    "    downloaded_files = os.listdir(local_dest_path)\n",
+    "    for file_name in downloaded_files:\n",
+    "        print(f\"  - {file_name}\")\n",
+    "else:\n",
+    "    print(\"El directorio no fue descargado.\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "3ae440e6-483e-4972-be4b-ae171f876270",
+   "metadata": {
+    "id": "3ae440e6-483e-4972-be4b-ae171f876270"
+   },
+   "outputs": [],
+   "source": []
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "37723c6e-108b-4a02-9d35-27f601845e9a",
+   "metadata": {
+    "id": "37723c6e-108b-4a02-9d35-27f601845e9a"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 7: Consolidación a un único archivo Parquet con Pandas (OPCIONAL)\n",
+    "\n",
+    "import pandas as pd\n",
+    "import os\n",
+    "\n",
+    "# --- 1. Definir las rutas de origen y destino ---\n",
+    "# Ruta al directorio que contiene los múltiples archivos Parquet de Spark\n",
+    "source_directory = os.path.join(os.getcwd(), \"geocoder_final_parquet\")\n",
+    "\n",
+    "# Nombre del nuevo archivo Parquet único que vamos a crear\n",
+    "output_single_file = os.path.join(os.getcwd(), \"geocoder_mexico_completo.parquet\")\n",
+    "\n",
+    "print(f\"Directorio de origen: {source_directory}\")\n",
+    "print(f\"Archivo de salida único: {output_single_file}\")\n",
+    "\n",
+    "\n",
+    "# --- 2. Leer el directorio Parquet con Pandas ---\n",
+    "# Pandas es lo suficientemente inteligente como para leer todos los archivos 'part-*.parquet'\n",
+    "# dentro de un directorio si se le pasa la ruta del directorio.\n",
+    "print(\"\\nLeyendo directorio Parquet con Pandas...\")\n",
+    "try:\n",
+    "    # Usamos el motor 'pyarrow', que es rápido y el estándar de la industria.\n",
+    "    df_pandas = pd.read_parquet(source_directory, engine='pyarrow')\n",
+    "    print(\"Lectura completada exitosamente.\")\n",
+    "\n",
+    "    # --- 3. Verificar los datos cargados en Pandas ---\n",
+    "    print(f\"\\nVerificación del DataFrame de Pandas:\")\n",
+    "    print(f\"  - Forma del DataFrame (filas, columnas): {df_pandas.shape}\")\n",
+    "    print(f\"  - Uso de memoria: {df_pandas.memory_usage(deep=True).sum() / 1024**2:.2f} MB\")\n",
+    "\n",
+    "    print(\"\\nMostrando las primeras 5 filas desde Pandas:\")\n",
+    "    display(df_pandas.head())\n",
+    "\n",
+    "    # --- 4. Guardar como un único archivo Parquet ---\n",
+    "    print(f\"\\nGuardando el DataFrame en un único archivo: '{output_single_file}'...\")\n",
+    "\n",
+    "    # Al guardar, es una buena práctica usar index=False para no guardar el índice de Pandas en el archivo.\n",
+    "    df_pandas.to_parquet(output_single_file, engine='pyarrow', index=False)\n",
+    "\n",
+    "    print(\"\\n✅ ¡Proceso completado! Se ha creado el archivo Parquet único.\")\n",
+    "\n",
+    "except FileNotFoundError:\n",
+    "    print(f\"❌ ERROR: No se encontró el directorio de origen en '{source_directory}'.\")\n",
+    "    print(\"Asegúrate de haber ejecutado la celda de descarga de HDFS primero.\")\n",
+    "except Exception as e:\n",
+    "    print(f\"❌ Ocurrió un error inesperado: {e}\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "094fd720-ef5e-49bd-ac63-3c6d4bb6621b",
+   "metadata": {
+    "id": "094fd720-ef5e-49bd-ac63-3c6d4bb6621b"
+   },
+   "outputs": [],
+   "source": []
+  }
+ ],
+ "metadata": {
+  "kernelspec": {
+   "display_name": "Python 3 (ipykernel)",
+   "language": "python",
+   "name": "python3"
+  },
+  "language_info": {
+   "codemirror_mode": {
+    "name": "ipython",
+    "version": 3
+   },
+   "file_extension": ".py",
+   "mimetype": "text/x-python",
+   "name": "python",
+   "nbconvert_exporter": "python",
+   "pygments_lexer": "ipython3",
+   "version": "3.9.2"
+  },
+  "colab": {
+   "provenance": []
+  }
+ },
+ "nbformat": 4,
+ "nbformat_minor": 5
+}

cuadernos/semana_3/portable/02_IndexacionGeoespacial.ipynb

@@ -0,0 +1,194 @@
+{
+ "cells": [
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "# S3 · Ejercicio 2 — Indexar el geocodificador en Elasticsearch\n",
+    "\n",
+    "**Curso de Big Data · Dr. Abel Coronado** · Semana 3\n",
+    "\n",
+    "> ⚙️ **Esta variante es para: Portable (Windows nativo) — Spark 3.4 · Scala 2.12.**  \n",
+    "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
+    "\n",
+    "🎯 **Objetivo.** Indexar los domicilios procesados en Elasticsearch (location como geo_point) con el cliente Python (bulk).\n",
+    "\n",
+    "📦 **Datos.** `/data/processed/geocoder_final_parquet` (salida del Ejercicio 1).\n",
+    "\n",
+    "✅ **Prerrequisitos.** Ejercicio 1 completado. Elasticsearch arrancado (:9200).\n",
+    "\n",
+    "📝 **Entregable.** Índice `geocoder_mexico` con docs > 0 (Elasticvue o _count).\n",
+    "\n",
+    "⬇️ **Descarga (Hugging Face):** https://huggingface.co/datasets/abxda/bdp-lab/resolve/main/cuadernos/semana_3/portable/02_IndexacionGeoespacial.ipynb\n",
+    "\n",
+    "💬 **¿Un error?** Captura (celda + mensaje) y repórtalo por **Blackboard** (indica SO y paso).\n",
+    "\n",
+    "---\n",
+    "\n",
+    "> Lee los comentarios de cada celda: explican el porqué de cada paso.\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "bf6fb161-2dc8-4b7a-8824-c3d2cd8c922a",
+   "metadata": {
+    "id": "bf6fb161-2dc8-4b7a-8824-c3d2cd8c922a"
+   },
+   "outputs": [],
+   "source": [
+    "# Celda 1: Configuración de Spark con TODOS los paquetes necesarios\n",
+    "\n",
+    "from pyspark.sql import SparkSession\n",
+    "\n",
+    "# Detener cualquier sesión previa para una inicialización limpia\n",
+    "try:\n",
+    "    spark.stop()\n",
+    "    print(\"Sesión de Spark anterior detenida.\")\n",
+    "except:\n",
+    "    pass\n",
+    "\n",
+    "print(\"Configurando una nueva sesión de Spark con capacidades de Sedona y Elasticsearch...\")\n",
+    "\n",
+    "# Definimos las coordenadas de todos los paquetes que necesitamos en una sola lista\n",
+    "packages = [\n",
+    "    # Paquetes para leer y procesar datos geoespaciales con Sedona\n",
+    "    \"org.apache.sedona:sedona-spark-3.4_2.12:1.7.2\",\n",
+    "    \"org.datasyslab:geotools-wrapper:1.7.2-28.5\",\n",
+    "\n",
+    "    # Paquete para la escritura nativa en Elasticsearch\n",
+    "]\n",
+    "\n",
+    "# Unimos la lista de paquetes en una cadena separada por comas\n",
+    "packages_str = \",\".join(packages)\n",
+    "\n",
+    "# Configuración y creación de la SparkSession\n",
+    "spark = (\n",
+    "    SparkSession.builder.appName(\"ProcesoCompleto_Geo_a_ES\")\n",
+    "    .master(\"local[*]\")\n",
+    "    .config(\"spark.driver.memory\", \"4g\")\n",
+    "    .config(\"spark.jars.packages\", packages_str) # <-- Cargamos todos los paquetes\n",
+    "    .config(\"spark.serializer\", \"org.apache.spark.serializer.KryoSerializer\")\n",
+    "    .config(\"spark.kryo.registrator\", \"org.apache.sedona.core.serde.SedonaKryoRegistrator\")\n",
+    "    .config(\"spark.sql.extensions\", \"org.apache.sedona.sql.SedonaSqlExtensions\")\n",
+    "    .getOrCreate()\n",
+    ")\n",
+    "\n",
+    "print(f\"✅ ¡Sesión de Spark lista con todos los paquetes ({len(packages)}) cargados!\")"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "74d2cedf-4a00-40e5-b5f6-9d12e0546ea7",
+   "metadata": {
+    "id": "74d2cedf-4a00-40e5-b5f6-9d12e0546ea7"
+   },
+   "outputs": [],
+   "source": [
+    "from pyspark.sql import functions as sf\n",
+    "\n",
+    "# Ruta HDFS al archivo Parquet que ya contiene la dirección completa y las coordenadas\n",
+    "hdfs_path_processed = \"hdfs://localhost:9000/data/processed/geocoder_final_parquet\"\n",
+    "\n",
+    "print(f\"Leyendo archivo Parquet desde: {hdfs_path_processed}\")\n",
+    "df_direcciones = spark.read.parquet(hdfs_path_processed)\n",
+    "\n",
+    "# Transformamos la columna 'location' al formato \"lat,lon\" que espera el conector nativo\n",
+    "df_para_es = df_direcciones.withColumn(\n",
+    "    \"location\",\n",
+    "    sf.concat_ws(\",\", sf.col(\"Latitud\"), sf.col(\"Longitud\"))\n",
+    ").select(\n",
+    "    \"DIRECCION_COMPLETA\", \"CP\", \"NOM_MUN\", \"NOM_ENT\", \"location\"\n",
+    ")\n",
+    "\n",
+    "print(f\"Datos listos para la carga. Total de documentos a indexar: {df_para_es.count():,}\")\n",
+    "print(\"Mostrando una muestra de los datos a enviar a Elasticsearch:\")\n",
+    "df_para_es.show(5, truncate=50)"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "456b9b6c-45fa-48df-81f7-7a655e7b26c1",
+   "metadata": {
+    "id": "456b9b6c-45fa-48df-81f7-7a655e7b26c1"
+   },
+   "outputs": [],
+   "source": [
+    "# Indexación a Elasticsearch con el CLIENTE PYTHON (bulk).\n",
+    "# Funciona igual en Portable (Spark 3.4) y Container (Spark 4.0): el conector\n",
+    "# Spark-ES no existe para Spark 4.0, así que usamos el cliente Python, que es\n",
+    "# robusto y aprovecha que la seguridad de ES está desactivada en el laboratorio.\n",
+    "from elasticsearch import Elasticsearch, helpers\n",
+    "\n",
+    "index_name = \"geocoder_mexico\"\n",
+    "es = Elasticsearch(\"http://localhost:9200\", request_timeout=120)\n",
+    "\n",
+    "# Mapeo: location como geo_point; texto y keywords para búsqueda.\n",
+    "mapping = {\"mappings\": {\"properties\": {\n",
+    "    \"DIRECCION_COMPLETA\": {\"type\": \"text\"},\n",
+    "    \"CP\": {\"type\": \"keyword\"}, \"NOM_MUN\": {\"type\": \"keyword\"},\n",
+    "    \"NOM_ENT\": {\"type\": \"keyword\"}, \"location\": {\"type\": \"geo_point\"}}}}\n",
+    "if es.indices.exists(index=index_name):\n",
+    "    es.indices.delete(index=index_name)\n",
+    "es.indices.create(index=index_name, body=mapping)\n",
+    "\n",
+    "def _gen(rows):\n",
+    "    for r in rows:\n",
+    "        yield {\"_index\": index_name, \"_source\": r.asDict()}\n",
+    "\n",
+    "# toLocalIterator evita traer todo a memoria del driver de una vez.\n",
+    "total = df_para_es.count()\n",
+    "print(f\"Indexando {total:,} documentos en '{index_name}' (cliente Python, bulk)...\")\n",
+    "ok, _ = helpers.bulk(es, _gen(df_para_es.toLocalIterator()), chunk_size=2000, request_timeout=120)\n",
+    "es.indices.refresh(index=index_name)\n",
+    "print(f\"\\u2705 Indexados {ok:,} documentos. Conteo ES: {es.count(index=index_name)['count']:,}\")\n"
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "78310622-f608-4cb3-93c4-bd95a7556db3",
+   "metadata": {
+    "id": "78310622-f608-4cb3-93c4-bd95a7556db3"
+   },
+   "outputs": [],
+   "source": []
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "id": "dc7c8e76-ad81-4f52-ab01-cc748ff4869f",
+   "metadata": {
+    "id": "dc7c8e76-ad81-4f52-ab01-cc748ff4869f"
+   },
+   "outputs": [],
+   "source": []
+  }
+ ],
+ "metadata": {
+  "kernelspec": {
+   "display_name": "Python 3 (ipykernel)",
+   "language": "python",
+   "name": "python3"
+  },
+  "language_info": {
+   "codemirror_mode": {
+    "name": "ipython",
+    "version": 3
+   },
+   "file_extension": ".py",
+   "mimetype": "text/x-python",
+   "name": "python",
+   "nbconvert_exporter": "python",
+   "pygments_lexer": "ipython3",
+   "version": "3.10.11"
+  },
+  "colab": {
+   "provenance": []
+  }
+ },
+ "nbformat": 4,
+ "nbformat_minor": 5
+}

cuadernos/semana_3/portable/03_prompt_app_streamlit.txt

@@ -0,0 +1,154 @@
+¡Absolutamente! Ahora entiendo perfectamente. Quieres un "prompt" o enunciado de un ejercicio para tus estudiantes, no la solución. La idea es que ellos, con su entorno ya preparado, puedan desarrollar la aplicación desde cero basándose en tus instrucciones.
+
+Aquí tienes un prompt redactado como un ejercicio de clase o un mini-proyecto.
+
+Proyecto: Creación de un Geocodificador Interactivo con Streamlit y Elasticsearch
+
+Objetivo del Proyecto:
+
+Desarrollar una aplicación web sencilla y estética utilizando Python y el framework Streamlit. La aplicación servirá como un "geocodificador": permitirá a los usuarios encontrar la ubicación geográfica de una dirección buscándola por texto, y también descubrir direcciones cercanas haciendo clic en un mapa interactivo. Todos los datos de direcciones se consultarán desde una instancia local de Elasticsearch.
+
+Entorno de Trabajo (Prerrequisitos):
+
+Se asume que cada estudiante ya cuenta con el siguiente entorno configurado y en funcionamiento:
+
+Python 3.x instalado.
+
+Un servidor de Elasticsearch corriendo localmente en http://localhost:9200.
+
+Un índice en Elasticsearch llamado geocoder_mexico que ya ha sido poblado con datos de direcciones. El mapping de este índice es el siguiente:
+
+Generated json
+{
+  "mappings": {
+    "properties": {
+      "DIRECCION_COMPLETA": {"type": "text"},
+      "CP": {"type": "keyword"},
+      "NOM_MUN": {"type": "keyword"},
+      "NOM_ENT": {"type": "keyword"},
+      "location": {"type": "geo_point"}
+    }
+  }
+}
+
+Instrucciones y Requisitos
+Paso 1: Instalación de Dependencias
+
+Antes de comenzar a codificar, asegúrate de tener instaladas todas las librerías necesarias. Abre tu terminal y ejecuta los siguientes comandos:
+
+Generated bash
+# Para construir la interfaz de la aplicación web
+python -m pip install streamlit
+
+# Para comunicarte con tu base de datos de Elasticsearch
+python -m pip install elasticsearch
+
+# Para crear y mostrar mapas interactivos
+python -m pip install folium
+python -m pip install streamlit-folium
+IGNORE_WHEN_COPYING_START
+content_copy
+download
+Use code with caution.
+Bash
+IGNORE_WHEN_COPYING_END
+Paso 2: Diseño de la Interfaz de Usuario (UI)
+
+Inspírate en el siguiente diseño de dos columnas. La aplicación debe ser limpia y fácil de usar.
+
+Columna Izquierda: Contendrá los controles de búsqueda.
+
+Un título, como "Search".
+
+Un campo de texto (st.text_input) para que el usuario escriba la dirección.
+
+Columna Derecha: Ocupará la mayor parte del espacio y mostrará el mapa interactivo.
+
+Puedes lograr esta estructura usando st.columns().
+
+Paso 3: Implementación de Funcionalidades
+
+Tu aplicación debe tener dos funcionalidades principales:
+
+Funcionalidad 1: Búsqueda por Dirección de Texto
+
+Cuando un usuario escribe una dirección en el campo de texto y presiona Enter, la aplicación debe ejecutar una consulta multi_match a tu índice geocoder_mexico.
+
+La consulta debe buscar la dirección más relevante, permitiendo cierta flexibilidad con errores de tipeo (fuzziness).
+
+Una vez encontrado el resultado, el mapa debe centrarse en esa ubicación y mostrar un único marcador azul sobre ella.
+
+Pista de Consulta (Búsqueda por Texto):
+
+Generated json
+{
+  "query": {
+    "multi_match": {
+      "query": "Av Heroe de Nacozari Sur 2301 Aguascalientes",
+      "fields": [
+        "DIRECCION_COMPLETA^3",
+        "NOM_MUN",
+        "NOM_ENT"
+      ],
+      "type": "best_fields",
+      "fuzziness": "AUTO"
+    }
+  }
+}
+IGNORE_WHEN_COPYING_START
+content_copy
+download
+Use code with caution.
+Json
+IGNORE_WHEN_COPYING_END
+
+Funcionalidad 2: Búsqueda por Clic en el Mapa
+
+El usuario debe poder hacer clic en cualquier lugar del mapa.
+
+Al detectar un clic, la aplicación debe capturar las coordenadas (latitud y longitud) de ese punto.
+
+Usando esas coordenadas, debe ejecutar una consulta _geo_distance a Elasticsearch para encontrar las 3 direcciones más cercanas.
+
+La aplicación debe limpiar los marcadores anteriores y mostrar los 3 nuevos resultados como marcadores en el mapa. También puedes mostrar los nombres de las direcciones encontradas en la columna izquierda.
+
+Pista de Consulta (Búsqueda por Cercanía Geográfica):
+
+Generated json
+{
+  "size": 3,
+  "query": { "match_all": {} },
+  "sort": [
+    {
+      "_geo_distance": {
+        "location": {
+          "lat": 21.8800,
+          "lon": -102.2960
+        },
+        "order": "asc",
+        "unit": "km"
+      }
+    }
+  ]
+}
+IGNORE_WHEN_COPYING_START
+content_copy
+download
+Use code with caution.
+Json
+IGNORE_WHEN_COPYING_END
+Consideraciones Técnicas Importantes:
+
+Conexión: Conéctate a Elasticsearch usando Elasticsearch(['http://localhost:9200']).
+
+Formato de Coordenadas: ¡Atención! Al recuperar un documento de Elasticsearch, el campo location no será un diccionario, sino un string con el formato "latitud,longitud". Deberás procesar este string (por ejemplo, con .split(',')) para separar los valores y convertirlos a números (float) antes de poder usarlos en el mapa.
+
+Interactividad: Utiliza la librería streamlit-folium para mostrar el mapa y capturar los eventos de clic del usuario.
+
+Mantenimiento de Estado: Para que el mapa no se reinicie con cada acción, usa st.session_state para guardar la posición central del mapa y la lista de marcadores a mostrar.
+
+Entregable:
+
+Un único archivo de Python (app.py) que, al ser ejecutado con el comando streamlit run app.py, lance la aplicación web funcional descrita. El código debe estar limpio y, si es posible, comentado para explicar las partes más importantes.
+
+¡Mucha suerte