split_dataset.py

#!/usr/bin/env python3
"""
Script để chia dataset thành train/val/test
"""

import os
import glob
import shutil
import random
from pathlib import Path

# Cấu hình
PROCESSED_DIR = "processed"
TRAIN_DIR = "train"
VAL_DIR = "val"
TEST_DIR = "test"

# Tỷ lệ chia dataset
TRAIN_RATIO = 0.8
VAL_RATIO = 0.1
TEST_RATIO = 0.1

def split_dataset(source_dir, train_dir, val_dir, test_dir, 
                  train_ratio=0.8, val_ratio=0.1, test_ratio=0.1, 
                  seed=42):
    """
    Chia dataset thành train/val/test
    
    Args:
        source_dir: Thư mục chứa dữ liệu đã xử lý
        train_dir: Thư mục lưu dữ liệu training
        val_dir: Thư mục lưu dữ liệu validation
        test_dir: Thư mục lưu dữ liệu test
        train_ratio: Tỷ lệ training (mặc định 0.8)
        val_ratio: Tỷ lệ validation (mặc định 0.1)
        test_ratio: Tỷ lệ test (mặc định 0.1)
        seed: Random seed để đảm bảo reproducibility
    """
    # Tạo thư mục nếu chưa có
    os.makedirs(train_dir, exist_ok=True)
    os.makedirs(val_dir, exist_ok=True)
    os.makedirs(test_dir, exist_ok=True)
    
    # Kiểm tra tỷ lệ
    if abs(train_ratio + val_ratio + test_ratio - 1.0) > 0.01:
        print("Cảnh báo: Tổng tỷ lệ không bằng 1.0, sẽ được chuẩn hóa")
        total = train_ratio + val_ratio + test_ratio
        train_ratio /= total
        val_ratio /= total
        test_ratio /= total
    
    # Lấy tất cả file .txt
    pattern = os.path.join(source_dir, "*.txt")
    files = glob.glob(pattern)
    
    if not files:
        print(f"Không tìm thấy file .txt trong {source_dir}")
        return
    
    # Shuffle với seed cố định
    random.seed(seed)
    random.shuffle(files)
    
    # Tính số file cho mỗi phần
    total_files = len(files)
    num_train = int(total_files * train_ratio)
    num_val = int(total_files * val_ratio)
    num_test = total_files - num_train - num_val  # Phần còn lại
    
    print(f"Tổng số file: {total_files}")
    print(f"Train: {num_train} files ({train_ratio*100:.1f}%)")
    print(f"Val: {num_val} files ({val_ratio*100:.1f}%)")
    print(f"Test: {num_test} files ({test_ratio*100:.1f}%)")
    
    # Chia file
    train_files = files[:num_train]
    val_files = files[num_train:num_train + num_val]
    test_files = files[num_train + num_val:]
    
    # Copy file vào thư mục tương ứng
    def copy_files(file_list, dest_dir, label):
        for file_path in file_list:
            filename = os.path.basename(file_path)
            dest_path = os.path.join(dest_dir, filename)
            shutil.copy2(file_path, dest_path)
        print(f"Đã copy {len(file_list)} file vào {dest_dir}/ ({label})")
    
    copy_files(train_files, train_dir, "train")
    copy_files(val_files, val_dir, "val")
    copy_files(test_files, test_dir, "test")
    
    print("\nHoàn thành chia dataset!")

def main():
    """Hàm chính"""
    # Kiểm tra thư mục processed
    if not os.path.exists(PROCESSED_DIR):
        print(f"Thư mục {PROCESSED_DIR} không tồn tại!")
        print("Vui lòng chạy process_data.py trước để xử lý dữ liệu.")
        return
    
    # Kiểm tra có file không
    pattern = os.path.join(PROCESSED_DIR, "*.txt")
    files = glob.glob(pattern)
    
    if not files:
        print(f"Không tìm thấy file .txt trong {PROCESSED_DIR}")
        print("Vui lòng chạy process_data.py trước để xử lý dữ liệu.")
        return
    
    # Chia dataset
    split_dataset(
        PROCESSED_DIR,
        TRAIN_DIR,
        VAL_DIR,
        TEST_DIR,
        TRAIN_RATIO,
        VAL_RATIO,
        TEST_RATIO
    )
    
    print(f"\nDataset đã được chia:")
    print(f"  - Training: {TRAIN_DIR}/")
    print(f"  - Validation: {VAL_DIR}/")
    print(f"  - Test: {TEST_DIR}/")

if __name__ == "__main__":
    main()