# Processed Data

Thư mục này chứa dữ liệu đã được xử lý và làm sạch.

## Quá trình xử lý:

1. **Làm sạch văn bản:**
   - Loại bỏ khoảng trắng thừa
   - Chuẩn hóa encoding
   - Loại bỏ ký tự đặc biệt không cần thiết

2. **Chuẩn hóa format:**
   - Tất cả file được chuyển sang .txt
   - Encoding UTF-8
   - Mỗi file là một tài liệu hoàn chỉnh hoặc một phần

3. **Chia nhỏ (nếu cần):**
   - Văn bản dài có thể được chia thành các file nhỏ hơn
   - Mỗi file không quá 2000-3000 ký tự (tùy chỉnh)

## Sử dụng:

Sau khi xử lý, sử dụng script `split_dataset.py` để chia thành train/val/test.