| # Processed Data | |
| Thư mục này chứa dữ liệu đã được xử lý và làm sạch. | |
| ## Quá trình xử lý: | |
| 1. **Làm sạch văn bản:** | |
| - Loại bỏ khoảng trắng thừa | |
| - Chuẩn hóa encoding | |
| - Loại bỏ ký tự đặc biệt không cần thiết | |
| 2. **Chuẩn hóa format:** | |
| - Tất cả file được chuyển sang .txt | |
| - Encoding UTF-8 | |
| - Mỗi file là một tài liệu hoàn chỉnh hoặc một phần | |
| 3. **Chia nhỏ (nếu cần):** | |
| - Văn bản dài có thể được chia thành các file nhỏ hơn | |
| - Mỗi file không quá 2000-3000 ký tự (tùy chỉnh) | |
| ## Sử dụng: | |
| Sau khi xử lý, sử dụng script `split_dataset.py` để chia thành train/val/test. | |