Tran1312 commited on
Commit
e5725c8
·
verified ·
1 Parent(s): 15bac9f

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +3 -1
README.md CHANGED
@@ -21,4 +21,6 @@ Dữ liệu được thu thập từ nhiều nguồn:
21
  Dữ liệu đã trải qua quy trình lọc cơ bản
22
  Công cụ https://hplt-project.org/ giúp lọc rác cơ bản, lọc trùng lặp và model LaBSE đảm bảo mỗi cặp dịch có điểm >= 0.8, lọc ngôn ngữ lạ bằng fasttext ngưỡng 0.5
23
  Bộ dữ liệu bao gồm <b>35,628,206</b> cặp câu song ngữ Anh-Việt.
24
- Tổng số lượng token: <b>2,189,438,317</b> (tính toán trên bộ từ điển cá nhân, kích thước 40 000, tỷ lệ nén 4.05).
 
 
 
21
  Dữ liệu đã trải qua quy trình lọc cơ bản
22
  Công cụ https://hplt-project.org/ giúp lọc rác cơ bản, lọc trùng lặp và model LaBSE đảm bảo mỗi cặp dịch có điểm >= 0.8, lọc ngôn ngữ lạ bằng fasttext ngưỡng 0.5
23
  Bộ dữ liệu bao gồm <b>35,628,206</b> cặp câu song ngữ Anh-Việt.
24
+ Tổng số lượng token: <b>2,189,438,317</b>
25
+ Độ dài mỗi câu >= 5 và <= 250 token.
26
+ (tính toán trên bộ từ điển cá nhân, kích thước 40 000, tỷ lệ nén 4.05).