Tran1312 commited on
Commit
15bac9f
·
verified ·
1 Parent(s): 1247b48

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +2 -2
README.md CHANGED
@@ -20,5 +20,5 @@ Dữ liệu được thu thập từ nhiều nguồn:
20
 
21
  Dữ liệu đã trải qua quy trình lọc cơ bản
22
  Công cụ https://hplt-project.org/ giúp lọc rác cơ bản, lọc trùng lặp và model LaBSE đảm bảo mỗi cặp dịch có điểm >= 0.8, lọc ngôn ngữ lạ bằng fasttext ngưỡng 0.5
23
- Bộ dữ liệu bao gồm <b>37,447,496</b> cặp câu song ngữ Anh-Việt.
24
- Tổng số lượng token: <b>2,168,880,184</b> (tính toán trên bộ từ điển cá nhân, kích thước 40 000, tỷ lệ nén 4.05).
 
20
 
21
  Dữ liệu đã trải qua quy trình lọc cơ bản
22
  Công cụ https://hplt-project.org/ giúp lọc rác cơ bản, lọc trùng lặp và model LaBSE đảm bảo mỗi cặp dịch có điểm >= 0.8, lọc ngôn ngữ lạ bằng fasttext ngưỡng 0.5
23
+ Bộ dữ liệu bao gồm <b>35,628,206</b> cặp câu song ngữ Anh-Việt.
24
+ Tổng số lượng token: <b>2,189,438,317</b> (tính toán trên bộ từ điển cá nhân, kích thước 40 000, tỷ lệ nén 4.05).