File size: 728 Bytes
3e6ca52 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 | # Processed Data
Thư mục này chứa dữ liệu đã được xử lý và làm sạch.
## Quá trình xử lý:
1. **Làm sạch văn bản:**
- Loại bỏ khoảng trắng thừa
- Chuẩn hóa encoding
- Loại bỏ ký tự đặc biệt không cần thiết
2. **Chuẩn hóa format:**
- Tất cả file được chuyển sang .txt
- Encoding UTF-8
- Mỗi file là một tài liệu hoàn chỉnh hoặc một phần
3. **Chia nhỏ (nếu cần):**
- Văn bản dài có thể được chia thành các file nhỏ hơn
- Mỗi file không quá 2000-3000 ký tự (tùy chỉnh)
## Sử dụng:
Sau khi xử lý, sử dụng script `split_dataset.py` để chia thành train/val/test.
|