Datasets:
Update README.md
Browse files
README.md
CHANGED
|
@@ -21,4 +21,6 @@ Dữ liệu được thu thập từ nhiều nguồn:
|
|
| 21 |
Dữ liệu đã trải qua quy trình lọc cơ bản
|
| 22 |
Công cụ https://hplt-project.org/ giúp lọc rác cơ bản, lọc trùng lặp và model LaBSE đảm bảo mỗi cặp dịch có điểm >= 0.8, lọc ngôn ngữ lạ bằng fasttext ngưỡng 0.5
|
| 23 |
Bộ dữ liệu bao gồm <b>35,628,206</b> cặp câu song ngữ Anh-Việt.
|
| 24 |
-
Tổng số lượng token: <b>2,189,438,317</b>
|
|
|
|
|
|
|
|
|
| 21 |
Dữ liệu đã trải qua quy trình lọc cơ bản
|
| 22 |
Công cụ https://hplt-project.org/ giúp lọc rác cơ bản, lọc trùng lặp và model LaBSE đảm bảo mỗi cặp dịch có điểm >= 0.8, lọc ngôn ngữ lạ bằng fasttext ngưỡng 0.5
|
| 23 |
Bộ dữ liệu bao gồm <b>35,628,206</b> cặp câu song ngữ Anh-Việt.
|
| 24 |
+
Tổng số lượng token: <b>2,189,438,317</b>
|
| 25 |
+
Độ dài mỗi câu >= 5 và <= 250 token.
|
| 26 |
+
(tính toán trên bộ từ điển cá nhân, kích thước 40 000, tỷ lệ nén 4.05).
|