Processed Data
Thư mục này chứa dữ liệu đã được xử lý và làm sạch.
Quá trình xử lý:
Làm sạch văn bản:
- Loại bỏ khoảng trắng thừa
- Chuẩn hóa encoding
- Loại bỏ ký tự đặc biệt không cần thiết
Chuẩn hóa format:
- Tất cả file được chuyển sang .txt
- Encoding UTF-8
- Mỗi file là một tài liệu hoàn chỉnh hoặc một phần
Chia nhỏ (nếu cần):
- Văn bản dài có thể được chia thành các file nhỏ hơn
- Mỗi file không quá 2000-3000 ký tự (tùy chỉnh)
Sử dụng:
Sau khi xử lý, sử dụng script split_dataset.py để chia thành train/val/test.