Upload cuadernos/cargar_datos_hdfs.sh with huggingface_hub
Browse files
cuadernos/cargar_datos_hdfs.sh
ADDED
|
@@ -0,0 +1,29 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
#!/usr/bin/env bash
|
| 2 |
+
# Carga los datos nacionales del INEGI a HDFS (igual que en la verificación de Windows).
|
| 3 |
+
# Se ejecuta DENTRO del laboratorio (Container / Vagrant / Portable), donde existen
|
| 4 |
+
# los comandos `hdfs` y `curl`. En Container/Vagrant, córrelo como el usuario del lab.
|
| 5 |
+
#
|
| 6 |
+
# bash cargar_datos_hdfs.sh
|
| 7 |
+
#
|
| 8 |
+
set -e
|
| 9 |
+
BASE="https://huggingface.co/datasets/abxda/bdp-lab/resolve/main/datos"
|
| 10 |
+
TMP="${TMPDIR:-/tmp}/bdp_datos"
|
| 11 |
+
mkdir -p "$TMP"
|
| 12 |
+
|
| 13 |
+
echo "==> Descargando parquets nacionales desde Hugging Face (~2.7 GB, una sola vez)..."
|
| 14 |
+
for f in integrado_ne.parquet censo_2020_nacional.parquet denue_nacional.parquet; do
|
| 15 |
+
if [ -f "$TMP/$f" ]; then echo " $f ya está en $TMP"; else
|
| 16 |
+
echo " bajando $f ..."; curl -fL --retry 3 -o "$TMP/$f" "$BASE/$f"
|
| 17 |
+
fi
|
| 18 |
+
done
|
| 19 |
+
|
| 20 |
+
echo "==> Creando rutas y subiendo a HDFS..."
|
| 21 |
+
hdfs dfs -mkdir -p /data/raw/geocoder /data/raw/geodatos_mexico
|
| 22 |
+
hdfs dfs -put -f "$TMP/integrado_ne.parquet" /data/raw/geocoder/
|
| 23 |
+
hdfs dfs -put -f "$TMP/censo_2020_nacional.parquet" /data/raw/geodatos_mexico/
|
| 24 |
+
hdfs dfs -put -f "$TMP/denue_nacional.parquet" /data/raw/geodatos_mexico/
|
| 25 |
+
|
| 26 |
+
echo "==> Verificación:"
|
| 27 |
+
hdfs dfs -ls -h /data/raw/geocoder /data/raw/geodatos_mexico
|
| 28 |
+
echo ""
|
| 29 |
+
echo "✅ DATOS LISTOS EN HDFS. Ya puedes ejecutar los cuadernos de Semana 3 y 4."
|