Update README.md

README.md

@@ -18,10 +18,24 @@ Dữ liệu được thu thập từ nhiều nguồn:
 - PhoMT: https://huggingface.co/datasets/ura-hcmut/PhoMT
 - VietAI: https://huggingface.co/datasets/wanhin/VietAI_MTet
 
-Dữ liệu đã trải qua quy trình lọc cơ bản
-Công cụ https://hplt-project.org/ giúp lọc rác cơ bản, lọc trùng lặp và model LaBSE đảm bảo mỗi cặp dịch có điểm >= 0.8, lọc ngôn ngữ lạ bằng fasttext ngưỡng 0.5  
+Dữ liệu đã trải qua quy trình lọc cơ bản  
+- Alpha_ratio: tỷ lệ chữ cái/tổng số kí tự và tỷ lệ tổng số từ/tổng lượng từ (cả 2 vế src và tgt) - 0.7
+- Deescape_special_chars & deescape_tsv: chuẩn hóa html empty thành cách kí tự thông thường.
+- Normalize_whitespace: chuẩn hóa khoảng trắng liên tiếp về một khoảng trắng.
+- Remove_empty_line
+- Currency_mismatch: loại bỏ dòng sai xót đơn vị tiền tệ
+- Num_mismatch: loại bỏ dòng sai về đơn vị số
+- Remove_control_char
+- Deduplicate: loại bỏ trùng lặp sử dụng mã hash
+- Url_mismatch: loại bỏ dòng sai lệch địa chỉ url
+- email_mismatch: loại bỏ dòng sai lệch về email
+
+Lọc nâng cao  
+- Sử dụng model fasttext lọc các dòng sai về ngôn ngữ
+- Sử dụng model laBSE lọc đi các cặp câu không tương đồng ý nghĩa > 0.8
+
+
 Bộ dữ liệu bao gồm <b>35,628,206</b> cặp câu song ngữ Anh-Việt.  
 Tổng số lượng token: <b>2,189,438,317</b> 
-Độ dài mỗi câu >= 5 và <= 250 token.
-(tính toán trên bộ từ điển cá nhân, kích thước 40 000, tỷ lệ nén 4.05).    
-Lưu ý: Bộ dữ liệu được sắp xếp theo thứ tự tăng dần về độ dài câu nguồn
+Độ dài mỗi câu >= 5 và <= 250 token. Sử dụng sentencepiece-unigram tạo bộ từ điển      
+Lưu ý: Bộ dữ liệu được sắp xếp theo thứ tự tăng dần về độ dài câu nguồn.