abxda commited on
Commit
1ebd0a9
·
verified ·
1 Parent(s): e74f806

Upload cuadernos/cargar_datos_hdfs.sh with huggingface_hub

Browse files
Files changed (1) hide show
  1. cuadernos/cargar_datos_hdfs.sh +29 -0
cuadernos/cargar_datos_hdfs.sh ADDED
@@ -0,0 +1,29 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ #!/usr/bin/env bash
2
+ # Carga los datos nacionales del INEGI a HDFS (igual que en la verificación de Windows).
3
+ # Se ejecuta DENTRO del laboratorio (Container / Vagrant / Portable), donde existen
4
+ # los comandos `hdfs` y `curl`. En Container/Vagrant, córrelo como el usuario del lab.
5
+ #
6
+ # bash cargar_datos_hdfs.sh
7
+ #
8
+ set -e
9
+ BASE="https://huggingface.co/datasets/abxda/bdp-lab/resolve/main/datos"
10
+ TMP="${TMPDIR:-/tmp}/bdp_datos"
11
+ mkdir -p "$TMP"
12
+
13
+ echo "==> Descargando parquets nacionales desde Hugging Face (~2.7 GB, una sola vez)..."
14
+ for f in integrado_ne.parquet censo_2020_nacional.parquet denue_nacional.parquet; do
15
+ if [ -f "$TMP/$f" ]; then echo " $f ya está en $TMP"; else
16
+ echo " bajando $f ..."; curl -fL --retry 3 -o "$TMP/$f" "$BASE/$f"
17
+ fi
18
+ done
19
+
20
+ echo "==> Creando rutas y subiendo a HDFS..."
21
+ hdfs dfs -mkdir -p /data/raw/geocoder /data/raw/geodatos_mexico
22
+ hdfs dfs -put -f "$TMP/integrado_ne.parquet" /data/raw/geocoder/
23
+ hdfs dfs -put -f "$TMP/censo_2020_nacional.parquet" /data/raw/geodatos_mexico/
24
+ hdfs dfs -put -f "$TMP/denue_nacional.parquet" /data/raw/geodatos_mexico/
25
+
26
+ echo "==> Verificación:"
27
+ hdfs dfs -ls -h /data/raw/geocoder /data/raw/geodatos_mexico
28
+ echo ""
29
+ echo "✅ DATOS LISTOS EN HDFS. Ya puedes ejecutar los cuadernos de Semana 3 y 4."