Add chapter-03-data-pipelines/README.md

chapter-03-data-pipelines/README.md

@@ -0,0 +1,335 @@
+# Chương 3: Tích hợp Dữ liệu và Pipeline Tự động
+## Data Integration and Automated Pipelines
+
+---
+
+## 📚 Mục tiêu học tập (CLO2, CLO3, CLO9)
+
+Sau khi hoàn thành chương này, sinh viên có thể:
+- Phân biệt ETL và ELT, hiểu khi nào dùng cái nào
+- Implement Change Data Capture (CDC) simulation
+- Sử dụng dbt để transform dữ liệu
+- Phân biệt Batch vs Streaming ingestion
+- Hiểu Data Observability và monitoring pipeline health
+
+---
+
+## 3.1. ETL vs ELT: Sự chuyển dịch
+
+```
+    ETL (Truyền thống):                 ELT (Cloud-Native):
+    ┌────────┐                          ┌────────┐
+    │ Source  │                          │ Source  │
+    └───┬────┘                          └───┬────┘
+        │ Extract                           │ Extract
+        ▼                                   │
+    ┌────────┐                              │ Load (raw)
+    │Transform│ ← Xử lý TRƯỚC khi load     ▼
+    └───┬────┘                          ┌────────┐
+        │ Load                          │  Data  │ ← Load TRƯỚC
+        ▼                               │Warehouse│
+    ┌────────┐                          │  (ELT) │ ← Transform SAU
+    │  DWH   │                          └────────┘   bằng SQL/dbt
+    └────────┘
+
+    Khi nào dùng ETL:                   Khi nào dùng ELT:
+    - Data cần filter trước             - Cloud DW có compute mạnh
+    - Bandwidth giới hạn                - Cần audit trail (raw data)
+    - Legacy systems                    - Agile/iterative development
+    - Compliance (PII removal)          - Schema flexibility
+```
+
+### So sánh chi tiết:
+
+| Tiêu chí | ETL | ELT |
+|-----------|-----|-----|
+| Transform location | Staging server | Inside DWH |
+| Speed | Slower (extra hop) | Faster (leverage DWH compute) |
+| Data retention | Only transformed | Raw + transformed |
+| Scalability | Limited by ETL server | Scales with DWH |
+| Tools | Informatica, Talend, SSIS | dbt, Snowflake Tasks, Dataform |
+| Cost model | ETL server + DWH | DWH only (pay for compute) |
+
+---
+
+## 3.2. Change Data Capture (CDC)
+
+### Đồng bộ dữ liệu thời gian thực
+
+```
+    Source DB (OLTP)              CDC Engine              Target DWH
+    ┌──────────────┐         ┌──────────────┐         ┌──────────────┐
+    │  orders      │         │  Debezium /  │         │  Bronze      │
+    │  ┌────┐      │  WAL/   │  AWS DMS /   │  Events │  ┌────┐     │
+    │  │ I  │──────│─Binlog─→│  Fivetran    │────────→│  │ I  │     │
+    │  │ U  │      │         │              │  (JSON) │  │ U  │     │
+    │  │ D  │      │         │  Captures:   │         │  │ D  │     │
+    │  └────┘      │         │  INSERT      │         │  └────┘     │
+    └──────────────┘         │  UPDATE      │         └──────────────┘
+                             │  DELETE      │
+                             └──────────────┘
+    
+    CDC Event Structure:
+    {
+      "op": "u",              // c=create, u=update, d=delete, r=read
+      "before": {...},        // Row trước khi thay đổi
+      "after": {...},         // Row sau khi thay đổi
+      "source": {
+        "table": "orders",
+        "ts_ms": 1234567890
+      }
+    }
+```
+
+### Phương pháp CDC:
+
+| Method | Mô tả | Pros | Cons |
+|--------|--------|------|------|
+| **Log-based** | Đọc DB transaction log (WAL/Binlog) | Real-time, no impact on source | Complex setup |
+| **Trigger-based** | DB triggers ghi vào shadow table | Simple concept | Performance overhead |
+| **Timestamp-based** | Query WHERE updated_at > last_run | Simple to implement | Miss deletes, clock skew |
+| **Diff-based** | So sánh snapshot hiện tại vs trước | No schema change needed | Resource intensive |
+
+---
+
+## 3.3. Zero-ETL Integration
+
+### Tương lai không cần viết code ETL
+
+```
+    Zero-ETL: Source → Target tự động (Amazon Aurora → Redshift)
+    
+    ┌──────────────┐     Zero-ETL      ┌──────────────┐
+    │  Aurora      │  ═══════════════►  │  Redshift    │
+    │  (Source)    │    Auto-replicate  │  (Analytics) │
+    │              │    Near real-time  │              │
+    └──────────────┘    No ETL code     └──────────────┘
+    
+    Ví dụ:
+    - AWS Aurora → Redshift Zero-ETL
+    - Google BigQuery Omni (federated queries)
+    - Snowflake Dynamic Tables (auto-refresh)
+    - Databricks Delta Live Tables
+```
+
+---
+
+## 3.4. Orchestration & Scheduling
+
+### Quản lý DAG (Directed Acyclic Graph)
+
+```
+    Apache Airflow DAG Example:
+    
+    ┌─────────────┐     ┌─────────────┐     ┌─────────────┐
+    │ extract_    │────→│ transform_  │────→│ load_       │
+    │ orders      │     │ orders      │     │ gold_orders │
+    └─────────────┘     └──────┬──────┘     └─────────────┘
+                               │
+    ┌─────────────┐     ┌──────▼──────┐     ┌─────────────┐
+    │ extract_    │────→│ transform_  │────→│ load_gold_  │
+    │ customers   │     │ customers   │     │ customers   │
+    └─────────────┘     └─────────────┘     └──────┬──────┘
+                                                    │
+                                            ┌───────▼──────┐
+                                            │ build_       │
+                                            │ aggregates   │
+                                            └──────┬───────┘
+                                                   │
+                                            ┌──────▼───────┐
+                                            │ quality_     │
+                                            │ checks       │
+                                            └──────┬───────┘
+                                                   │
+                                            ┌──────▼───────┐
+                                            │ notify_      │
+                                            │ slack        │
+                                            └──────────────┘
+```
+
+### Công cụ Orchestration:
+
+| Tool | Type | Best for |
+|------|------|----------|
+| **Apache Airflow** | Python DAGs | Complex workflows, extensible |
+| **Prefect** | Python, cloud-native | Modern alternative to Airflow |
+| **Dagster** | Asset-based | Data-aware orchestration |
+| **dbt Cloud** | SQL transforms | dbt-specific scheduling |
+| **Snowflake Tasks** | Built-in | Simple Snowflake pipelines |
+
+---
+
+## 3.5. Batch vs Streaming Ingestion
+
+```
+    ┌──────────────────────────────────────────────────────────────┐
+    │                    INGESTION PATTERNS                        │
+    ├──────────────────────┬───────────────────────────────────────┤
+    │                      │                                       │
+    │   BATCH              │   STREAMING                           │
+    │                      │                                       │
+    │   ┌──────┐  ┌─────┐ │   ┌──────┐  ┌──────┐  ┌──────┐     │
+    │   │Source│→ │Batch│ │   │Source│→ │Kafka │→ │Stream│     │
+    │   │  DB  │  │ Job │ │   │Events│  │Topic │  │ Job  │     │
+    │   └──────┘  └──┬──┘ │   └──────┘  └──────┘  └──┬───┘     │
+    │                │     │                          │           │
+    │            ┌───▼──┐  │                     ┌────▼────┐     │
+    │            │ DWH  │  │                     │ DWH /   │     │
+    │            │(Load)│  │                     │ Realtime│     │
+    │            └──────┘  │                     └─────────┘     │
+    │                      │                                       │
+    │   Frequency:         │   Frequency:                          │
+    │   Hourly/Daily       │   Seconds/Minutes                     │
+    │                      │                                       │
+    │   Latency:           │   Latency:                            │
+    │   Hours              │   Seconds-Minutes                     │
+    │                      │                                       │
+    │   Use case:          │   Use case:                           │
+    │   Historical analysis│   Real-time dashboards               │
+    │   Large volumes      │   Anomaly detection                  │
+    │   Cost-efficient     │   Event-driven actions               │
+    └──────────────────────┴───────────────────────────────────────┘
+```
+
+---
+
+## 3.6. dbt (Data Build Tool)
+
+### Biến đổi dữ liệu hiện đại bằng SQL + Jinja
+
+```
+    dbt Project Structure:
+    
+    dbt_olist/
+    ├── dbt_project.yml           # Project config
+    ├── profiles.yml              # Connection config
+    ├── models/
+    │   ├── staging/              # Bronze → Silver
+    │   │   ├── stg_orders.sql
+    │   │   ├── stg_customers.sql
+    │   │   └── stg_order_items.sql
+    │   ├── intermediate/         # Silver transforms
+    │   │   ├── int_order_enriched.sql
+    │   │   └── int_customer_orders.sql
+    │   └── marts/                # Gold layer
+    │       ├── dim_customer.sql
+    │       ├── dim_product.sql
+    │       ├── fact_orders.sql
+    │       └── agg_daily_revenue.sql
+    ├── tests/                    # Data quality tests
+    │   ├── assert_positive_prices.sql
+    │   └── assert_valid_status.sql
+    └── macros/                   # Reusable SQL functions
+        └── date_utils.sql
+```
+
+### Ví dụ dbt model (staging):
+
+```sql
+-- models/staging/stg_orders.sql
+{{
+  config(
+    materialized='view',
+    tags=['staging', 'daily']
+  )
+}}
+
+WITH source AS (
+    SELECT * FROM {{ source('olist', 'raw_orders') }}
+),
+
+cleaned AS (
+    SELECT
+        order_id,
+        customer_id,
+        UPPER(TRIM(order_status)) AS order_status,
+        CAST(order_purchase_timestamp AS TIMESTAMP) AS purchased_at,
+        CAST(order_approved_at AS TIMESTAMP) AS approved_at,
+        CAST(order_delivered_carrier_date AS TIMESTAMP) AS shipped_at,
+        CAST(order_delivered_customer_date AS TIMESTAMP) AS delivered_at,
+        CAST(order_estimated_delivery_date AS TIMESTAMP) AS estimated_delivery_at,
+        
+        -- Derived
+        DATEDIFF('day', purchased_at, delivered_at) AS delivery_days,
+        DATEDIFF('day', delivered_at, estimated_delivery_at) AS days_vs_estimate
+        
+    FROM source
+    WHERE order_id IS NOT NULL
+      AND order_purchase_timestamp IS NOT NULL
+)
+
+SELECT * FROM cleaned
+```
+
+---
+
+## 3.7. Schema Evolution
+
+```
+    Scenario: Source thêm cột mới "discount_amount"
+    
+    Truyền thống:                      Hiện đại (Schema Evolution):
+    ┌────────────────────┐             ┌────────────────────┐
+    │ 1. Modify DDL      │             │ 1. Source thêm cột │
+    │ 2. Update ETL      │             │ 2. Auto-detected   │
+    │ 3. Backfill data   │             │ 3. Schema merged   │
+    │ 4. Test everything │             │ 4. NULL for old rows│
+    │ → Days/Weeks       │             │ → Minutes/Hours    │
+    └────────────────────┘             └────────────────────┘
+    
+    Delta Lake Schema Evolution:
+    spark.read.option("mergeSchema", "true").parquet("...")
+    
+    Iceberg Schema Evolution:
+    ALTER TABLE orders ADD COLUMN discount_amount DECIMAL(10,2);
+    -- Existing data gets NULL for new column
+```
+
+---
+
+## 3.8. Data Observability
+
+### Giám sát "sức khỏe" dữ liệu
+
+```
+    ┌──────────────────────────────────────────────────────────┐
+    │                DATA OBSERVABILITY PILLARS                 │
+    │                                                          │
+    │  ┌──────────┐  ┌──────────┐  ┌──────────┐  ┌─────────┐│
+    │  │Freshness │  │ Volume   │  │ Schema   │  │Lineage  ││
+    │  │          │  │          │  │          │  │         ││
+    │  │ Is data  │  │ Expected │  │ Did the  │  │ Where   ││
+    │  │ up to    │  │ row count│  │ schema   │  │ does    ││
+    │  │ date?    │  │ normal?  │  │ change?  │  │ data    ││
+    │  │          │  │          │  │          │  │ come    ││
+    │  │ SLA: <1hr│  │ ±10%     │  │ Alert on │  │ from?   ││
+    │  │          │  │          │  │ change   │  │         ││
+    │  └──────────┘  └──────────┘  └���─────────┘  └─────────┘│
+    │                                                          │
+    │  ┌──────────┐                                           │
+    │  │ Quality  │  Tools: Monte Carlo, Soda, Great          │
+    │  │          │  Expectations, Elementary, dbt tests       │
+    │  │ NULL%    │                                           │
+    │  │ Unique%  │                                           │
+    │  │ Range    │                                           │
+    │  └──────────┘                                           │
+    └──────────────────────────────────────────────────────────┘
+```
+
+---
+
+## 🔬 Labs
+
+- [`lab-03-elt-pipeline.py`](lab-03-elt-pipeline.py) — ELT Pipeline với Python
+- [`lab-03-cdc-simulation.py`](lab-03-cdc-simulation.py) — Change Data Capture Simulation
+- [`lab-03-streaming.py`](lab-03-streaming.py) — Batch vs Streaming comparison
+
+---
+
+## 📝 Câu hỏi ôn tập
+
+1. So sánh ETL và ELT. Khi nào dùng ETL, khi nào dùng ELT?
+2. CDC có 4 phương pháp chính, hãy so sánh ưu/nhược điểm.
+3. dbt hoạt động như thế nào? Tại sao nó trở thành standard cho data transformation?
+4. Data Observability có 5 trụ cột chính. Hãy liệt kê và giải thích.
+5. Schema Evolution giải quyết vấn đề gì? So sánh cách xử lý truyền thống vs hiện đại.