cleanup language list

ccmatrix_lang_pairs.py

@@ -1,8 +1,13 @@
-LANG_PAIRS = [
+"""
+Lang pairs found on http://data.statmt.org/cc-matrix/
+
+Note that 4 languages are ommitted because they didn't make the cut in NLLB200:
+    br (Breton), eu (Basque), fy(Western Frisian) and la (Latin).
+"""
+PAIRS = [
     ("af", "da"),
     ("af", "de"),
     ("af", "en"),
-    ("af", "fy"),
     ("af", "is"),
     ("af", "lb"),
     ("af", "nl"),
@@ -26,7 +31,6 @@ LANG_PAIRS = [
     ("ar", "eo"),
     ("ar", "es"),
     ("ar", "et"),
-    ("ar", "eu"),
     ("ar", "fa"),
     ("ar", "fi"),
     ("ar", "fr"),
@@ -42,7 +46,6 @@ LANG_PAIRS = [
     ("ar", "kk"),
     ("ar", "km"),
     ("ar", "ko"),
-    ("ar", "la"),
     ("ar", "lg"),
     ("ar", "lt"),
     ("ar", "lv"),
@@ -83,7 +86,6 @@ LANG_PAIRS = [
     ("ast", "fr"),
     ("ast", "gl"),
     ("ast", "it"),
-    ("ast", "la"),
     ("ast", "oc"),
     ("ast", "pt"),
     ("ast", "ro"),
@@ -137,7 +139,6 @@ LANG_PAIRS = [
     ("bg", "eo"),
     ("bg", "es"),
     ("bg", "et"),
-    ("bg", "eu"),
     ("bg", "fi"),
     ("bg", "fr"),
     ("bg", "he"),
@@ -183,11 +184,10 @@ LANG_PAIRS = [
     ("bn", "hi"),
     ("bn", "hu"),
     ("bn", "id"),
-    ("bn", "il"),
+    ("bn", "ilo"),
     ("bn", "it"),
     ("bn", "ja"),
     ("bn", "ko"),
-    ("bn", "la"),
     ("bn", "lt"),
     ("bn", "lv"),
     ("bn", "mg"),
@@ -215,15 +215,12 @@ LANG_PAIRS = [
     ("bn", "ur"),
     ("bn", "vi"),
     ("bn", "zh"),
-    ("br", "en"),
-    ("br", "nl"),
     ("ca", "da"),
     ("ca", "el"),
     ("ca", "en"),
     ("ca", "eo"),
     ("ca", "es"),
     ("ca", "et"),
-    ("ca", "eu"),
     ("ca", "fa"),
     ("ca", "fi"),
     ("ca", "fr"),
@@ -233,7 +230,6 @@ LANG_PAIRS = [
     ("ca", "hu"),
     ("ca", "id"),
     ("ca", "it"),
-    ("ca", "la"),
     ("ca", "lt"),
     ("ca", "lv"),
     ("ca", "no"),
@@ -251,7 +247,7 @@ LANG_PAIRS = [
     ("ceb", "en"),
     ("ceb", "hi"),
     ("ceb", "id"),
-    ("ceb", "il"),
+    ("ceb", "ilo"),
     ("ceb", "ja"),
     ("ceb", "jv"),
     ("ceb", "mg"),
@@ -304,11 +300,9 @@ LANG_PAIRS = [
     ("da", "eo"),
     ("da", "es"),
     ("da", "et"),
-    ("da", "eu"),
     ("da", "fa"),
     ("da", "fi"),
     ("da", "fr"),
-    ("da", "fy"),
     ("da", "gd"),
     ("da", "he"),
     ("da", "hr"),
@@ -347,14 +341,13 @@ LANG_PAIRS = [
     ("de", "fa"),
     ("de", "fi"),
     ("de", "fr"),
-    ("de", "fy"),
     ("de", "ha"),
     ("de", "he"),
     ("de", "hi"),
     ("de", "hr"),
     ("de", "hu"),
     ("de", "id"),
-    ("de", "il"),
+    ("de", "ilo"),
     ("de", "is"),
     ("de", "it"),
     ("de", "ja"),
@@ -392,7 +385,6 @@ LANG_PAIRS = [
     ("el", "eo"),
     ("el", "es"),
     ("el", "et"),
-    ("el", "eu"),
     ("el", "fa"),
     ("el", "fi"),
     ("el", "fr"),
@@ -403,7 +395,6 @@ LANG_PAIRS = [
     ("el", "it"),
     ("el", "ja"),
     ("el", "ko"),
-    ("el", "la"),
     ("el", "lt"),
     ("el", "lv"),
     ("el", "nl"),
@@ -426,11 +417,9 @@ LANG_PAIRS = [
     ("en", "eo"),
     ("en", "es"),
     ("en", "et"),
-    ("en", "eu"),
     ("en", "fa"),
     ("en", "fi"),
     ("en", "fr"),
-    ("en", "fy"),
     ("en", "ga"),
     ("en", "gd"),
     ("en", "gl"),
@@ -441,13 +430,12 @@ LANG_PAIRS = [
     ("en", "hu"),
     ("en", "id"),
     ("en", "ig"),
-    ("en", "il"),
+    ("en", "ilo"),
     ("en", "is"),
     ("en", "it"),
     ("en", "ja"),
     ("en", "jv"),
     ("en", "ko"),
-    ("en", "la"),
     ("en", "lb"),
     ("en", "lt"),
     ("en", "lv"),
@@ -486,7 +474,6 @@ LANG_PAIRS = [
     ("en", "zh"),
     ("eo", "es"),
     ("eo", "et"),
-    ("eo", "eu"),
     ("eo", "fa"),
     ("eo", "fi"),
     ("eo", "fr"),
@@ -508,7 +495,6 @@ LANG_PAIRS = [
     ("eo", "sw"),
     ("eo", "uk"),
     ("es", "et"),
-    ("es", "eu"),
     ("es", "fa"),
     ("es", "fi"),
     ("es", "fr"),
@@ -520,7 +506,6 @@ LANG_PAIRS = [
     ("es", "it"),
     ("es", "ja"),
     ("es", "ko"),
-    ("es", "la"),
     ("es", "lt"),
     ("es", "lv"),
     ("es", "mk"),
@@ -542,7 +527,6 @@ LANG_PAIRS = [
     ("es", "uk"),
     ("es", "vi"),
     ("es", "zh"),
-    ("et", "eu"),
     ("et", "fa"),
     ("et", "fi"),
     ("et", "fr"),
@@ -573,21 +557,6 @@ LANG_PAIRS = [
     ("et", "uk"),
     ("et", "vi"),
     ("et", "zh"),
-    ("eu", "fa"),
-    ("eu", "fi"),
-    ("eu", "he"),
-    ("eu", "hu"),
-    ("eu", "it"),
-    ("eu", "la"),
-    ("eu", "lt"),
-    ("eu", "lv"),
-    ("eu", "no"),
-    ("eu", "pt"),
-    ("eu", "sk"),
-    ("eu", "sl"),
-    ("eu", "sq"),
-    ("eu", "sr"),
-    ("eu", "tr"),
     ("fa", "fi"),
     ("fa", "fr"),
     ("fa", "he"),
@@ -598,7 +567,6 @@ LANG_PAIRS = [
     ("fa", "it"),
     ("fa", "ja"),
     ("fa", "ko"),
-    ("fa", "la"),
     ("fa", "lt"),
     ("fa", "lv"),
     ("fa", "ml"),
@@ -666,7 +634,6 @@ LANG_PAIRS = [
     ("fr", "it"),
     ("fr", "ja"),
     ("fr", "ko"),
-    ("fr", "la"),
     ("fr", "lt"),
     ("fr", "lv"),
     ("fr", "ml"),
@@ -689,16 +656,10 @@ LANG_PAIRS = [
     ("fr", "uk"),
     ("fr", "vi"),
     ("fr", "zh"),
-    ("fy", "is"),
-    ("fy", "lb"),
-    ("fy", "nl"),
-    ("fy", "no"),
-    ("fy", "yi"),
     ("ga", "nl"),
     ("gd", "nl"),
     ("gd", "no"),
     ("gl", "it"),
-    ("gl", "la"),
     ("gl", "oc"),
     ("gl", "pt"),
     ("gl", "ro"),
@@ -712,7 +673,6 @@ LANG_PAIRS = [
     ("he", "id"),
     ("he", "ja"),
     ("he", "ko"),
-    ("he", "la"),
     ("he", "lt"),
     ("he", "lv"),
     ("he", "mg"),
@@ -742,12 +702,11 @@ LANG_PAIRS = [
     ("he", "zh"),
     ("hi", "hu"),
     ("hi", "id"),
-    ("hi", "il"),
+    ("hi", "ilo"),
     ("hi", "it"),
     ("hi", "ja"),
     ("hi", "jv"),
     ("hi", "ko"),
-    ("hi", "la"),
     ("hi", "lt"),
     ("hi", "lv"),
     ("hi", "mg"),
@@ -823,7 +782,7 @@ LANG_PAIRS = [
     ("hy", "tr"),
     ("hy", "tt"),
     ("hy", "vi"),
-    ("id", "il"),
+    ("id", "ilo"),
     ("id", "it"),
     ("id", "ja"),
     ("id", "jv"),
@@ -871,7 +830,6 @@ LANG_PAIRS = [
     ("is", "yi"),
     ("it", "ja"),
     ("it", "ko"),
-    ("it", "la"),
     ("it", "lt"),
     ("it", "lv"),
     ("it", "nl"),
@@ -944,12 +902,6 @@ LANG_PAIRS = [
     ("ko", "uk"),
     ("ko", "vi"),
     ("ko", "zh"),
-    ("la", "oc"),
-    ("la", "pt"),
-    ("la", "ro"),
-    ("la", "sw"),
-    ("la", "ta"),
-    ("la", "tr"),
     ("lb", "nl"),
     ("lb", "no"),
     ("lb", "zh"),
@@ -1197,3 +1149,94 @@ LANG_PAIRS = [
     ("vi", "zh"),
     ("yi", "zh"),
 ]
+
+# Mapping from the language codes used in CCMatrix and the one used in NLLB200.
+# NLLB200 went for a more detailed nomenclature to avoid confusion between dialects.
+MAPPING = {
+    "af": "afr_Latn",
+    "am": "amh_Ethi",
+    "ar": "arb_Arab",
+    "ast": "ast_Latn",
+    "az": "azj_Latn",
+    "be": "bel_Cyrl",
+    "bg": "bul_Cyrl",
+    "bn": "ben_Beng",
+    "ca": "cat_Latn",
+    "ceb": "ceb_Latn",
+    "cs": "ces_Latn",
+    "cy": "cym_Latn",
+    "da": "dan_Latn",
+    "de": "deu_Latn",
+    "el": "ell_Grek",
+    "en": "eng_Latn",
+    "eo": "epo_Latn",
+    "es": "spa_Latn",
+    "et": "est_Latn",
+    "fa": "pes_Arab",
+    "fi": "fin_Latn",
+    "fr": "fra_Latn",
+    "ga": "gle_Latn",
+    "gd": "gla_Latn",
+    "gl": "glg_Latn",
+    "ha": "hau_Latn",
+    "he": "heb_Hebr",
+    "hi": "hin_Deva",
+    "hr": "hrv_Latn",
+    "hu": "hun_Latn",
+    "hy": "hye_Armn",
+    "id": "ind_Latn",
+    "ig": "ibo_Latn",
+    "ilo": "ilo_Latn",
+    "is": "isl_Latn",
+    "it": "ita_Latn",
+    "ja": "jpn_Jpan",
+    "jv": "jav_Latn",
+    "ka": "kat_Geor",
+    "kk": "kaz_Cyrl",
+    "km": "khm_Khmr",
+    "ko": "kor_Hang",
+    "lb": "ltz_Latn",
+    "lg": "lug_Latn",
+    "lt": "lit_Latn",
+    "lv": "lvs_Latn",
+    "mg": "plt_Latn",
+    "mk": "mkd_Cyrl",
+    "ml": "mal_Mlym",
+    "mr": "mar_Deva",
+    "ms": "zsm_Latn",
+    "my": "mya_Mymr",
+    "ne": "npi_Deva",
+    "nl": "nld_Latn",
+    "no": "nob_Latn",
+    "oc": "oci_Latn",
+    "om": "gaz_Latn",
+    "or": "ory_Orya",
+    "pl": "pol_Latn",
+    "pt": "por_Latn",
+    "ro": "ron_Latn",
+    "ru": "rus_Cyrl",
+    "sd": "snd_Arab",
+    "si": "sin_Sinh",
+    "sk": "slk_Latn",
+    "sl": "slv_Latn",
+    "so": "som_Latn",
+    "sq": "als_Latn",
+    "sr": "srp_Cyrl",
+    "su": "sun_Latn",
+    "sv": "swe_Latn",
+    "sw": "swh_Latn",
+    "ta": "tam_Taml",
+    "tl": "tgl_Latn",
+    "tr": "tur_Latn",
+    "tt": "tat_Cyrl",
+    "uk": "ukr_Cyrl",
+    "ur": "urd_Arab",
+    "uz": "uzn_Latn",
+    "vi": "vie_Latn",
+    "wo": "wol_Latn",
+    "xh": "xho_Latn",
+    "yi": "ydd_Hebr",
+    "yo": "yor_Latn",
+    "zh": "zho_Hans",
+    "zu": "zul_Latn",
+}