Datasets:
Update README.md
Browse files
README.md
CHANGED
|
@@ -20,5 +20,5 @@ Dữ liệu được thu thập từ nhiều nguồn:
|
|
| 20 |
|
| 21 |
Dữ liệu đã trải qua quy trình lọc cơ bản
|
| 22 |
Công cụ https://hplt-project.org/ giúp lọc rác cơ bản, lọc trùng lặp và model LaBSE đảm bảo mỗi cặp dịch có điểm >= 0.8, lọc ngôn ngữ lạ bằng fasttext ngưỡng 0.5
|
| 23 |
-
Bộ dữ liệu bao gồm <b>
|
| 24 |
-
Tổng số lượng token: <b>2,
|
|
|
|
| 20 |
|
| 21 |
Dữ liệu đã trải qua quy trình lọc cơ bản
|
| 22 |
Công cụ https://hplt-project.org/ giúp lọc rác cơ bản, lọc trùng lặp và model LaBSE đảm bảo mỗi cặp dịch có điểm >= 0.8, lọc ngôn ngữ lạ bằng fasttext ngưỡng 0.5
|
| 23 |
+
Bộ dữ liệu bao gồm <b>35,628,206</b> cặp câu song ngữ Anh-Việt.
|
| 24 |
+
Tổng số lượng token: <b>2,189,438,317</b> (tính toán trên bộ từ điển cá nhân, kích thước 40 000, tỷ lệ nén 4.05).
|