abxda commited on
Commit
0a834bf
·
verified ·
1 Parent(s): 3327341

Upload folder using huggingface_hub

Browse files
cuadernos/semana_4/container/02_CalculoVariablesDenueOxxo.ipynb CHANGED
@@ -53,7 +53,7 @@
53
  "print(\"» Paso 1: Configurando la sesión de Spark para un procesamiento geoespacial intensivo...\")\n",
54
  "spark = (\n",
55
  " SparkSession.builder.appName(\"FeatureEngineeringOXXO_HDFS\")\n",
56
- " .config(\"spark.driver.memory\", \"4g\")\n",
57
  " .config(\"spark.sql.shuffle.partitions\", \"200\") # Optimización para los joins\n",
58
  " .config(\n",
59
  " \"spark.jars.packages\",\n",
 
53
  "print(\"» Paso 1: Configurando la sesión de Spark para un procesamiento geoespacial intensivo...\")\n",
54
  "spark = (\n",
55
  " SparkSession.builder.appName(\"FeatureEngineeringOXXO_HDFS\")\n",
56
+ " .config(\"spark.driver.memory\", \"8g\")\n",
57
  " .config(\"spark.sql.shuffle.partitions\", \"200\") # Optimización para los joins\n",
58
  " .config(\n",
59
  " \"spark.jars.packages\",\n",
cuadernos/semana_4/container/04_PrediccionPorCoordenada.ipynb CHANGED
@@ -53,7 +53,7 @@
53
  "print(\"» Paso 1: Configurando la sesión de Spark para un procesamiento geoespacial...\")\n",
54
  "spark = (\n",
55
  " SparkSession.builder.appName(\"PrediccionOXXO_HDFS\")\n",
56
- " .config(\"spark.driver.memory\", \"4g\")\n",
57
  " .config(\n",
58
  " \"spark.jars.packages\",\n",
59
  " \"org.apache.sedona:sedona-spark-4.0_2.13:1.8.0,\"\n",
 
53
  "print(\"» Paso 1: Configurando la sesión de Spark para un procesamiento geoespacial...\")\n",
54
  "spark = (\n",
55
  " SparkSession.builder.appName(\"PrediccionOXXO_HDFS\")\n",
56
+ " .config(\"spark.driver.memory\", \"6g\")\n",
57
  " .config(\n",
58
  " \"spark.jars.packages\",\n",
59
  " \"org.apache.sedona:sedona-spark-4.0_2.13:1.8.0,\"\n",
cuadernos/semana_4/container/05_api.py CHANGED
@@ -49,7 +49,7 @@ HDFS_NAMENODE_PORT = "9000"
49
 
50
  spark = (
51
  SparkSession.builder.appName("API_PrediccionOXXO")
52
- .config("spark.driver.memory", "4g")
53
  .config(
54
  "spark.jars.packages",
55
  "org.apache.sedona:sedona-spark-4.0_2.13:1.8.0,"
 
49
 
50
  spark = (
51
  SparkSession.builder.appName("API_PrediccionOXXO")
52
+ .config("spark.driver.memory", "6g")
53
  .config(
54
  "spark.jars.packages",
55
  "org.apache.sedona:sedona-spark-4.0_2.13:1.8.0,"
cuadernos/semana_4/portable/01_ClasificacionNoSupervisada_KMeans.ipynb CHANGED
@@ -8,7 +8,7 @@
8
  "\n",
9
  "**Curso de Big Data · Dr. Abel Coronado** · Semana 4\n",
10
  "\n",
11
- "> ⚙️ **Esta variante es para: Portable (Windows nativo) — Spark 3.4 · Scala 2.12.** \n",
12
  "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
13
  "\n",
14
  "🎯 **Objetivo.** Agrupar manzanas del Censo en K=5 estratos con K-Means (no supervisado) y exportar el resultado.\n",
 
8
  "\n",
9
  "**Curso de Big Data · Dr. Abel Coronado** · Semana 4\n",
10
  "\n",
11
+ "> ⚙️ **Esta variante es para: Portable (Windows y macOS Apple Silicon) — Spark 3.4 · Scala 2.12.** \n",
12
  "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
13
  "\n",
14
  "🎯 **Objetivo.** Agrupar manzanas del Censo en K=5 estratos con K-Means (no supervisado) y exportar el resultado.\n",
cuadernos/semana_4/portable/02_CalculoVariablesDenueOxxo.ipynb CHANGED
@@ -8,7 +8,7 @@
8
  "\n",
9
  "**Curso de Big Data · Dr. Abel Coronado** · Semana 4\n",
10
  "\n",
11
- "> ⚙️ **Esta variante es para: Portable (Windows nativo) — Spark 3.4 · Scala 2.12.** \n",
12
  "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
13
  "\n",
14
  "🎯 **Objetivo.** Construir el dataset OXXO vs Abarrotes con features espaciales (buffers + spatial joins de DENUE y Censo con Sedona).\n",
@@ -53,7 +53,7 @@
53
  "print(\"» Paso 1: Configurando la sesión de Spark para un procesamiento geoespacial intensivo...\")\n",
54
  "spark = (\n",
55
  " SparkSession.builder.appName(\"FeatureEngineeringOXXO_HDFS\")\n",
56
- " .config(\"spark.driver.memory\", \"4g\")\n",
57
  " .config(\"spark.sql.shuffle.partitions\", \"200\") # Optimización para los joins\n",
58
  " .config(\n",
59
  " \"spark.jars.packages\",\n",
 
8
  "\n",
9
  "**Curso de Big Data · Dr. Abel Coronado** · Semana 4\n",
10
  "\n",
11
+ "> ⚙️ **Esta variante es para: Portable (Windows y macOS Apple Silicon) — Spark 3.4 · Scala 2.12.** \n",
12
  "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
13
  "\n",
14
  "🎯 **Objetivo.** Construir el dataset OXXO vs Abarrotes con features espaciales (buffers + spatial joins de DENUE y Censo con Sedona).\n",
 
53
  "print(\"» Paso 1: Configurando la sesión de Spark para un procesamiento geoespacial intensivo...\")\n",
54
  "spark = (\n",
55
  " SparkSession.builder.appName(\"FeatureEngineeringOXXO_HDFS\")\n",
56
+ " .config(\"spark.driver.memory\", \"8g\")\n",
57
  " .config(\"spark.sql.shuffle.partitions\", \"200\") # Optimización para los joins\n",
58
  " .config(\n",
59
  " \"spark.jars.packages\",\n",
cuadernos/semana_4/portable/03_ClasificacionSupervisada_GBT.ipynb CHANGED
@@ -8,7 +8,7 @@
8
  "\n",
9
  "**Curso de Big Data · Dr. Abel Coronado** · Semana 4\n",
10
  "\n",
11
- "> ⚙️ **Esta variante es para: Portable (Windows nativo) — Spark 3.4 · Scala 2.12.** \n",
12
  "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
13
  "\n",
14
  "🎯 **Objetivo.** Entrenar un GBTClassifier sobre el dataset balanceado, evaluar (Accuracy/F1/AUC/matriz) y guardar el modelo en HDFS.\n",
 
8
  "\n",
9
  "**Curso de Big Data · Dr. Abel Coronado** · Semana 4\n",
10
  "\n",
11
+ "> ⚙️ **Esta variante es para: Portable (Windows y macOS Apple Silicon) — Spark 3.4 · Scala 2.12.** \n",
12
  "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
13
  "\n",
14
  "🎯 **Objetivo.** Entrenar un GBTClassifier sobre el dataset balanceado, evaluar (Accuracy/F1/AUC/matriz) y guardar el modelo en HDFS.\n",
cuadernos/semana_4/portable/04_PrediccionPorCoordenada.ipynb CHANGED
@@ -8,7 +8,7 @@
8
  "\n",
9
  "**Curso de Big Data · Dr. Abel Coronado** · Semana 4\n",
10
  "\n",
11
- "> ⚙️ **Esta variante es para: Portable (Windows nativo) — Spark 3.4 · Scala 2.12.** \n",
12
  "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
13
  "\n",
14
  "🎯 **Objetivo.** Cargar el modelo y predecir OXXO vs Abarrotes para una coordenada nueva, recalculando sus features en vivo.\n",
@@ -53,7 +53,7 @@
53
  "print(\"» Paso 1: Configurando la sesión de Spark para un procesamiento geoespacial...\")\n",
54
  "spark = (\n",
55
  " SparkSession.builder.appName(\"PrediccionOXXO_HDFS\")\n",
56
- " .config(\"spark.driver.memory\", \"4g\")\n",
57
  " .config(\n",
58
  " \"spark.jars.packages\",\n",
59
  " \"org.apache.sedona:sedona-spark-3.4_2.12:1.7.2,\"\n",
 
8
  "\n",
9
  "**Curso de Big Data · Dr. Abel Coronado** · Semana 4\n",
10
  "\n",
11
+ "> ⚙️ **Esta variante es para: Portable (Windows y macOS Apple Silicon) — Spark 3.4 · Scala 2.12.** \n",
12
  "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
13
  "\n",
14
  "🎯 **Objetivo.** Cargar el modelo y predecir OXXO vs Abarrotes para una coordenada nueva, recalculando sus features en vivo.\n",
 
53
  "print(\"» Paso 1: Configurando la sesión de Spark para un procesamiento geoespacial...\")\n",
54
  "spark = (\n",
55
  " SparkSession.builder.appName(\"PrediccionOXXO_HDFS\")\n",
56
+ " .config(\"spark.driver.memory\", \"6g\")\n",
57
  " .config(\n",
58
  " \"spark.jars.packages\",\n",
59
  " \"org.apache.sedona:sedona-spark-3.4_2.12:1.7.2,\"\n",
cuadernos/semana_4/portable/05_api.py CHANGED
@@ -49,7 +49,7 @@ HDFS_NAMENODE_PORT = "9000"
49
 
50
  spark = (
51
  SparkSession.builder.appName("API_PrediccionOXXO")
52
- .config("spark.driver.memory", "4g")
53
  .config(
54
  "spark.jars.packages",
55
  "org.apache.sedona:sedona-spark-3.4_2.12:1.7.2,"
 
49
 
50
  spark = (
51
  SparkSession.builder.appName("API_PrediccionOXXO")
52
+ .config("spark.driver.memory", "6g")
53
  .config(
54
  "spark.jars.packages",
55
  "org.apache.sedona:sedona-spark-3.4_2.12:1.7.2,"
cuadernos/semana_4/portable/06_kafka_streaming.ipynb CHANGED
@@ -8,7 +8,7 @@
8
  "\n",
9
  "**Curso de Big Data · Dr. Abel Coronado** · Semana 4\n",
10
  "\n",
11
- "> ⚙️ **Esta variante es para: Portable (Windows nativo) — Spark 3.4 · Scala 2.12.** \n",
12
  "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
13
  "\n",
14
  "🎯 **Objetivo.** Leer un topic de Kafka con Spark Structured Streaming y agregar al vuelo.\n",
 
8
  "\n",
9
  "**Curso de Big Data · Dr. Abel Coronado** · Semana 4\n",
10
  "\n",
11
+ "> ⚙️ **Esta variante es para: Portable (Windows y macOS Apple Silicon) — Spark 3.4 · Scala 2.12.** \n",
12
  "> Comprueba tu versión con `import pyspark; pyspark.__version__`. Si NO coincide, usa la carpeta de tu plataforma (`container/` o `portable/`).\n",
13
  "\n",
14
  "🎯 **Objetivo.** Leer un topic de Kafka con Spark Structured Streaming y agregar al vuelo.\n",