reigon_mapping.py

# Có thể bỏ qua code này vì đã xử lý xong


import pandas as pd
import glob
import os

def split_and_save_with_debug(input_folder, output_base_folder):
    # 1. Định nghĩa mapping vùng miền dựa trên mã tỉnh (https://aclanthology.org/2024.emnlp-main.426.pdf) bảng ở trang số 16-17

    region_mapping = {
        "North": [
            11, 12, 14, 15, 17, 18, 19, 20, 21, 22, 23, 24, 25, 
            26, 27, 28, 30, 34, 35, 88, 89, 90, 97, 98, 99
        ],
        "Central": [
            36, 37, 38, 43, 47, 48, 49, 73, 74, 75, 76, 77, 78, 
            79, 81, 82, 85, 86, 92
        ],
        "South": [
            59, 60, 61, 62, 63, 64, 65, 66, 67, 68, 69, 70, 71, 
            72, 83, 84, 93, 94, 95
        ]
    }

    code_to_region = {code: region for region, codes in region_mapping.items() for code in codes}
    
    # Tìm danh sách các file .parquet trong thư mục train
    parquet_files = glob.glob(os.path.join(input_folder, "*.parquet"))
    print(f"Bắt đầu xử lý {len(parquet_files)} file...\n")

    for file_path in sorted(parquet_files):
        source_parquet_name = os.path.basename(file_path)
        df = pd.read_parquet(file_path)
        
        # Ánh xạ vùng miền
        df['region'] = df['province_code'].map(code_to_region)
        #debug
        for _, row in df.iterrows():
            audio_filename = row['filename'] # Tên file .wav (ví dụ: 11_0001.wav)
            region_name = row['region']
            print(f"Đã lọc được file {source_parquet_name} có filename là {audio_filename} thuộc miền {region_name}")

        # 2. Phân tách và lưu vào thư mục theo quy tắc train_processed/<Miền>/
        for region in region_mapping.keys():
            region_df = df[df['region'] == region]
            
            if not region_df.empty:
                region_dir = os.path.join(output_base_folder, region)
                if not os.path.exists(region_dir):
                    os.makedirs(region_dir)
                
                # Lưu file parquet đã tách miền
                output_path = os.path.join(region_dir, source_parquet_name)
                region_df.to_parquet(output_path, index=False, engine='pyarrow')

    print(f"\n--- HOÀN THÀNH ---")
    print(f"Dữ liệu đã được tạo tại: {output_base_folder}")

# --- Cấu hình đường dẫn ---
input_dir = r'whisper-small\dataset\ViMD_Dataset\test'    # thư mục mình muốn map (train test valid)c ở dataset gốc
output_dir = r'pre-processing\processed_dataset\test_processed'  # Thư mục đích

# Chạy chương trình
split_and_save_with_debug(input_dir, output_dir)