verify.py

import pandas as pd
import os
def verify_parquet_regions(base_dir):
    print(f"--- BẮT ĐẦU KIỂM TRA TẠI: {base_dir} ---")
    # Danh sách các thư mục con dự kiến (North, Central, South)
    sub_folders = [f for f in os.listdir(base_dir) if os.path.isdir(os.path.join(base_dir, f))]  
    total_files = 0
    errors = 0
    for folder_name in sub_folders:
        folder_path = os.path.join(base_dir, folder_name)
        # Lấy danh sách các file .parquet trong folder miền này
        parquet_files = [f for f in os.listdir(folder_path) if f.endswith('.parquet')]
        
        print(f"\n[Miền {folder_name}] Đang kiểm tra {len(parquet_files)} file...")
        
        for file_name in parquet_files:
            total_files += 1
            file_path = os.path.join(folder_path, file_name)
            
            try:
                # Đọc tệp Parquet
                df = pd.read_parquet(file_path)
                # Lấy các giá trị duy nhất trong cột 'region'
                unique_regions = df['region'].unique()
                # KIỂM TRA:
                # 1. Cột 'region' chỉ được phép có duy nhất 1 giá trị
                # 2. Giá trị đó phải khớp với tên thư mục (folder_name)
                if len(unique_regions) == 1 and unique_regions[0] == folder_name:
                    print(f"  [OK] {file_name}: Pass.")
                else:
                    errors += 1
                    print(f"  [LỖI] {file_name}: Chứa giá trị {unique_regions} (Mong đợi: {folder_name})")
                    
            except Exception as e:
                errors += 1
                print(f"  [LỖI HỆ THỐNG] Không thể đọc {file_name}: {e}")

    print("\n" + "="*40)
    print(f"KẾT QUẢ TỔNG KẾT:")
    print(f"- Tổng số file đã kiểm tra: {total_files}")
    print(f"- Số file hợp lệ: {total_files - errors}")
    print(f"- Số file lỗi: {errors}")
    print("="*40)
if '__main__' == __name__: 
    root_directory = input(f'Chọn path muốn duyệt: ')
    verify_parquet_regions(f'pre-processing\processed_dataset\{root_directory}')