thanhtai435's picture
Add chapter-02-data-modeling/lab-02-scd.sql
6e8e30b verified
-- ==============================================================================
-- Lab 2c: Slowly Changing Dimensions (SCD)
-- ==============================================================================
-- BIM5021 - Nhà kho dữ liệu và Tích hợp
-- Chương 2: Mô hình hóa dữ liệu cho Cloud Warehousing
--
-- Mục tiêu:
-- - Hiểu và implement SCD Type 1, 2, 3
-- - Áp dụng cho dim_customer của Olist
-- - So sánh trade-offs giữa các SCD types
-- ==============================================================================
-- ============================================================
-- SCD TYPE 1: Overwrite (Không giữ lịch sử)
-- ============================================================
-- Scenario: Khách hàng chuyển từ São Paulo sang Rio de Janeiro
-- Initial state
INSERT INTO dim_customer (customer_id, customer_unique_id, city, state, zip_code_prefix)
VALUES ('cust_001', 'unique_001', 'Sao Paulo', 'SP', '01000');
-- SCD Type 1: Direct update
UPDATE dim_customer
SET city = 'Rio de Janeiro',
state = 'RJ',
zip_code_prefix = '20000',
updated_at = CURRENT_TIMESTAMP
WHERE customer_id = 'cust_001';
-- Result: Mất lịch sử! Không biết trước đây ở São Paulo
-- Use case: Khi lịch sử không quan trọng (fix typo, update email)
-- ============================================================
-- SCD TYPE 2: Add New Row (Giữ full lịch sử)
-- ============================================================
-- Create SCD2 table
CREATE TABLE IF NOT EXISTS dim_customer_scd2 (
customer_key SERIAL PRIMARY KEY,
customer_id VARCHAR(50) NOT NULL,
customer_unique_id VARCHAR(50) NOT NULL,
city VARCHAR(100),
state VARCHAR(5),
zip_code_prefix VARCHAR(10),
-- SCD2 columns
is_current BOOLEAN DEFAULT TRUE,
valid_from TIMESTAMP DEFAULT CURRENT_TIMESTAMP,
valid_to TIMESTAMP DEFAULT '9999-12-31 23:59:59'
);
-- Initial insert
INSERT INTO dim_customer_scd2 (customer_id, customer_unique_id, city, state, zip_code_prefix)
VALUES ('cust_002', 'unique_002', 'Sao Paulo', 'SP', '01000');
-- SCD Type 2: Close current row + Insert new row
-- Step 1: Close current record
UPDATE dim_customer_scd2
SET is_current = FALSE,
valid_to = CURRENT_TIMESTAMP
WHERE customer_id = 'cust_002' AND is_current = TRUE;
-- Step 2: Insert new record
INSERT INTO dim_customer_scd2 (customer_id, customer_unique_id, city, state, zip_code_prefix)
VALUES ('cust_002', 'unique_002', 'Rio de Janeiro', 'RJ', '20000');
-- Query: Tìm tất cả lịch sử của customer
SELECT customer_key, customer_id, city, state, is_current, valid_from, valid_to
FROM dim_customer_scd2
WHERE customer_id = 'cust_002'
ORDER BY valid_from;
-- Query: Tìm customer state tại thời điểm cụ thể (Point-in-time)
SELECT *
FROM dim_customer_scd2
WHERE customer_id = 'cust_002'
AND '2024-06-01'::TIMESTAMP BETWEEN valid_from AND valid_to;
-- Use case: Khi cần phân tích theo thời gian
-- VD: "Revenue theo state TẠI THỜI ĐIỂM mua hàng, không phải state hiện tại"
-- ============================================================
-- SCD TYPE 2: Stored Procedure (automation)
-- ============================================================
CREATE OR REPLACE PROCEDURE upsert_customer_scd2(
p_customer_id VARCHAR(50),
p_unique_id VARCHAR(50),
p_city VARCHAR(100),
p_state VARCHAR(5),
p_zip VARCHAR(10)
)
LANGUAGE plpgsql
AS $$
DECLARE
v_current_city VARCHAR(100);
v_current_state VARCHAR(5);
v_changed BOOLEAN := FALSE;
BEGIN
-- Check if customer exists and if changed
SELECT city, state INTO v_current_city, v_current_state
FROM dim_customer_scd2
WHERE customer_id = p_customer_id AND is_current = TRUE;
IF NOT FOUND THEN
-- New customer: INSERT
INSERT INTO dim_customer_scd2 (customer_id, customer_unique_id, city, state, zip_code_prefix)
VALUES (p_customer_id, p_unique_id, p_city, p_state, p_zip);
RAISE NOTICE 'NEW customer: %', p_customer_id;
ELSE
-- Check if anything changed
IF v_current_city != p_city OR v_current_state != p_state THEN
-- Close current record
UPDATE dim_customer_scd2
SET is_current = FALSE, valid_to = CURRENT_TIMESTAMP
WHERE customer_id = p_customer_id AND is_current = TRUE;
-- Insert new record
INSERT INTO dim_customer_scd2 (customer_id, customer_unique_id, city, state, zip_code_prefix)
VALUES (p_customer_id, p_unique_id, p_city, p_state, p_zip);
RAISE NOTICE 'UPDATED customer: % (% → %)', p_customer_id, v_current_city, p_city;
ELSE
RAISE NOTICE 'NO CHANGE for customer: %', p_customer_id;
END IF;
END IF;
END;
$$;
-- Usage:
-- CALL upsert_customer_scd2('cust_003', 'unique_003', 'Belo Horizonte', 'MG', '30000');
-- CALL upsert_customer_scd2('cust_003', 'unique_003', 'Curitiba', 'PR', '80000');
-- ============================================================
-- SCD TYPE 3: Add Column (Giữ 1 giá trị trước đó)
-- ============================================================
CREATE TABLE IF NOT EXISTS dim_customer_scd3 (
customer_key SERIAL PRIMARY KEY,
customer_id VARCHAR(50) NOT NULL UNIQUE,
customer_unique_id VARCHAR(50) NOT NULL,
-- Current values
city VARCHAR(100),
state VARCHAR(5),
-- Previous values (SCD3)
previous_city VARCHAR(100),
previous_state VARCHAR(5),
change_date TIMESTAMP,
-- Metadata
created_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP,
updated_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP
);
-- Initial insert
INSERT INTO dim_customer_scd3 (customer_id, customer_unique_id, city, state)
VALUES ('cust_004', 'unique_004', 'Sao Paulo', 'SP');
-- SCD Type 3: Save previous + update current
UPDATE dim_customer_scd3
SET previous_city = city,
previous_state = state,
city = 'Brasilia',
state = 'DF',
change_date = CURRENT_TIMESTAMP,
updated_at = CURRENT_TIMESTAMP
WHERE customer_id = 'cust_004';
-- Result:
-- city = 'Brasilia', previous_city = 'Sao Paulo'
-- Chỉ giữ được 1 phiên bản trước!
-- Use case: Khi chỉ cần so sánh "trước" và "hiện tại"
-- ============================================================
-- SO SÁNH SCD TYPES
-- ============================================================
/*
┌────────────┬──────────────────┬────────────────────────┬──────────────────┐
│ Feature │ SCD Type 1 │ SCD Type 2 │ SCD Type 3 │
├────────────┼──────────────────┼────────────────────────┼──────────────────┤
│ History │ Không giữ │ Giữ full │ Giữ 1 version │
│ Storage │ Thấp nhất │ Cao (nhiều rows) │ Trung bình │
│ Complexity │ Đơn giản │ Phức tạp │ Trung bình │
│ Query │ Đơn giản │ Cần WHERE is_current │ Đơn giản │
│ Use case │ Fix lỗi, email │ Thay đổi địa chỉ, │ So sánh before/ │
│ │ không quan trọng │ giá cả, trạng thái │ after │
└────────────┴──────────────────┴────────────────────────┴──────────────────┘
*/