Update README.md

README.md

@@ -4,265 +4,333 @@ configs:
   data_files:
   - split: train
     path: data/afr_Latn-*.parquet
-
 - config_name: als_Latn
   data_files:
   - split: train
     path: data/als_Latn-*.parquet
-
 - config_name: azj_Latn
   data_files:
   - split: train
     path: data/azj_Latn-*.parquet
-
 - config_name: bos_Latn
   data_files:
   - split: train
     path: data/bos_Latn-*.parquet
-
 - config_name: cat_Latn
   data_files:
   - split: train
     path: data/cat_Latn-*.parquet
-
 - config_name: cos_Latn
   data_files:
   - split: train
     path: data/cos_Latn-*.parquet
-
 - config_name: cym_Latn
   data_files:
   - split: train
     path: data/cym_Latn-*.parquet
-
 - config_name: dan_Latn
   data_files:
   - split: train
     path: data/dan_Latn-*.parquet
-
 - config_name: deu_Latn
   data_files:
   - split: train
     path: data/deu_Latn-*.parquet
-
 - config_name: fao_Latn
   data_files:
   - split: train
     path: data/fao_Latn-*.parquet
-
 - config_name: fil_Latn
   data_files:
   - split: train
     path: data/fil_Latn-*.parquet
-
 - config_name: fin_Latn
   data_files:
   - split: train
     path: data/fin_Latn-*.parquet
-
 - config_name: fry_Latn
   data_files:
   - split: train
     path: data/fry_Latn-*.parquet
-
 - config_name: gla_Latn
   data_files:
   - split: train
     path: data/gla_Latn-*.parquet
-
 - config_name: gle_Latn
   data_files:
   - split: train
     path: data/gle_Latn-*.parquet
-
 - config_name: glg_Latn
   data_files:
   - split: train
     path: data/glg_Latn-*.parquet
-
 - config_name: gmh_Latn
   data_files:
   - split: train
     path: data/gmh_Latn-*.parquet
-
 - config_name: hat_Latn
   data_files:
   - split: train
     path: data/hat_Latn-*.parquet
-
 - config_name: hau_Latn
   data_files:
   - split: train
     path: data/hau_Latn-*.parquet
-
 - config_name: haw_Latn
   data_files:
   - split: train
     path: data/haw_Latn-*.parquet
-
 - config_name: hif_Latn
   data_files:
   - split: train
     path: data/hif_Latn-*.parquet
-
 - config_name: hin_Latn
   data_files:
   - split: train
     path: data/hin_Latn-*.parquet
-
 - config_name: hrv_Latn
   data_files:
   - split: train
     path: data/hrv_Latn-*.parquet
-
 - config_name: hun_Latn
   data_files:
   - split: train
     path: data/hun_Latn-*.parquet
-
 - config_name: ibo_Latn
   data_files:
   - split: train
     path: data/ibo_Latn-*.parquet
-
 - config_name: ind_Latn
   data_files:
   - split: train
     path: data/ind_Latn-*.parquet
-
 - config_name: isl_Latn
   data_files:
   - split: train
     path: data/isl_Latn-*.parquet
-
 - config_name: ita_Latn
   data_files:
   - split: train
     path: data/ita_Latn-*.parquet
-
 - config_name: jav_Latn
   data_files:
   - split: train
     path: data/jav_Latn-*.parquet
-
 - config_name: kin_Latn
   data_files:
   - split: train
     path: data/kin_Latn-*.parquet
-
 - config_name: kmr_Latn
   data_files:
   - split: train
     path: data/kmr_Latn-*.parquet
-
 - config_name: lit_Latn
   data_files:
   - split: train
     path: data/lit_Latn-*.parquet
-
 - config_name: ltz_Latn
   data_files:
   - split: train
     path: data/ltz_Latn-*.parquet
-
 - config_name: lus_Latn
   data_files:
   - split: train
     path: data/lus_Latn-*.parquet
-
 - config_name: lvs_Latn
   data_files:
   - split: train
     path: data/lvs_Latn-*.parquet
-
 - config_name: mlt_Latn
   data_files:
   - split: train
     path: data/mlt_Latn-*.parquet
-
 - config_name: mww_Latn
   data_files:
   - split: train
     path: data/mww_Latn-*.parquet
-
 - config_name: nob_Latn
   data_files:
   - split: train
     path: data/nob_Latn-*.parquet
-
 - config_name: plt_Latn
   data_files:
   - split: train
     path: data/plt_Latn-*.parquet
-
 - config_name: por_Latn
   data_files:
   - split: train
     path: data/por_Latn-*.parquet
-
 - config_name: ron_Latn
   data_files:
   - split: train
     path: data/ron_Latn-*.parquet
-
 - config_name: slv_Latn
   data_files:
   - split: train
     path: data/slv_Latn-*.parquet
-
 - config_name: smo_Latn
   data_files:
   - split: train
     path: data/smo_Latn-*.parquet
-
 - config_name: sot_Latn
   data_files:
   - split: train
     path: data/sot_Latn-*.parquet
-
 - config_name: srp_Latn
   data_files:
   - split: train
     path: data/srp_Latn-*.parquet
-
 - config_name: sun_Latn
   data_files:
   - split: train
     path: data/sun_Latn-*.parquet
-
 - config_name: swe_Latn
   data_files:
   - split: train
     path: data/swe_Latn-*.parquet
-
 - config_name: swh_Latn
   data_files:
   - split: train
     path: data/swh_Latn-*.parquet
-
 - config_name: tuk_Latn
   data_files:
   - split: train
     path: data/tuk_Latn-*.parquet
-
 - config_name: uzn_Latn
   data_files:
   - split: train
     path: data/uzn_Latn-*.parquet
-
 - config_name: vie_Latn
   data_files:
   - split: train
     path: data/vie_Latn-*.parquet
-
 - config_name: yor_Latn
   data_files:
   - split: train
     path: data/yor_Latn-*.parquet
-
 - config_name: zul_Latn
   data_files:
   - split: train
     path: data/zul_Latn-*.parquet
-
 ---
+
+FineWeb2 Datasets 
+
+## Load Dataset
+
+Load the entire dataset: 
+
+```python3
+from datasets import load_dataset
+import itertools
+
+ds = load_dataset(
+    "MultilingualUnigramLM/FineWeb2-10K",
+    streaming=True
+)
+
+```
+
+Load a specific language:
+```python3
+from datasets import load_dataset
+import itertools
+
+ds_ibo = load_dataset(
+    "MultilingualUnigramLM/FineWeb2-10K",
+    split="ibo_Latn",
+    streaming=True
+)
+
+```
+
+```python3
+# Print first N lines
+N = 5
+for i, ex in enumerate(itertools.islice(ds_ibo, N)):
+    print(f"\n--- line {i+1} ---")
+    print(ex["text"])
+```
+
+## Language Information
+```python3
+hf_lang_info = {
+    "afr_Latn": {"iso2": "af", "name": "Afrikaans"},
+    "als_Latn": {"iso2": "", "name": "Alemannic German"},
+    "azj_Latn": {"iso2": "az", "name": "Azerbaijani"},
+    "bos_Latn": {"iso2": "bs", "name": "Bosnian"},
+    "cat_Latn": {"iso2": "ca", "name": "Catalan"},
+    "cos_Latn": {"iso2": "co", "name": "Corsican"},
+    "cym_Latn": {"iso2": "cy", "name": "Welsh"},
+    "dan_Latn": {"iso2": "da", "name": "Danish"},
+    "deu_Latn": {"iso2": "de", "name": "German"},
+    "fao_Latn": {"iso2": "fo", "name": "Faroese"},
+    "fil_Latn": {"iso2": "tl", "name": "Filipino"},
+    "fin_Latn": {"iso2": "fi", "name": "Finnish"},
+    "fry_Latn": {"iso2": "fy", "name": "Frisian"},
+    "gla_Latn": {"iso2": "gd", "name": "Scottish Gaelic"},
+    "gle_Latn": {"iso2": "ga", "name": "Irish"},
+    "glg_Latn": {"iso2": "gl", "name": "Galician"},
+    "gmh_Latn": {"iso2": "", "name": "Middle High German"},
+    "hat_Latn": {"iso2": "ht", "name": "Haitian Creole"},
+    "hau_Latn": {"iso2": "ha", "name": "Hausa"},
+    "haw_Latn": {"iso2": "haw", "name": "Hawaiian"},
+    "hif_Latn": {"iso2": "", "name": "Fiji Hindi"},
+    "hin_Latn": {"iso2": "hi", "name": "Hindi"},
+    "hrv_Latn": {"iso2": "hr", "name": "Croatian"},
+    "hun_Latn": {"iso2": "hu", "name": "Hungarian"},
+    "ibo_Latn": {"iso2": "ig", "name": "Igbo"},
+    "ind_Latn": {"iso2": "id", "name": "Indonesian"},
+    "isl_Latn": {"iso2": "is", "name": "Icelandic"},
+    "ita_Latn": {"iso2": "it", "name": "Italian"},
+    "jav_Latn": {"iso2": "jv", "name": "Javanese"},
+    "kin_Latn": {"iso2": "rw", "name": "Kinyarwanda"},
+    "kmr_Latn": {"iso2": "", "name": "Kurmanji Kurdish"},
+    "lit_Latn": {"iso2": "lt", "name": "Lithuanian"},
+    "ltz_Latn": {"iso2": "lb", "name": "Luxembourgish"},
+    "lus_Latn": {"iso2": "", "name": "Lushai / Mizo"},
+    "lvs_Latn": {"iso2": "lv", "name": "Latvian"},
+    "mlt_Latn": {"iso2": "mt", "name": "Maltese"},
+    "mww_Latn": {"iso2": "", "name": "Hmong Daw"},
+    "nob_Latn": {"iso2": "nb", "name": "Norwegian Bokmål"},
+    "plt_Latn": {"iso2": "", "name": "Plautdietsch"},
+    "por_Latn": {"iso2": "pt", "name": "Portuguese"},
+    "ron_Latn": {"iso2": "ro", "name": "Romanian"},
+    "slv_Latn": {"iso2": "sl", "name": "Slovenian"},
+    "smo_Latn": {"iso2": "sm", "name": "Samoan"},
+    "sot_Latn": {"iso2": "st", "name": "Sotho"},
+    "srp_Latn": {"iso2": "sr", "name": "Serbian"},
+    "sun_Latn": {"iso2": "su", "name": "Sundanese"},
+    "swe_Latn": {"iso2": "sv", "name": "Swedish"},
+    "swh_Latn": {"iso2": "sw", "name": "Swahili"},
+    "tuk_Latn": {"iso2": "tk", "name": "Turkmen"},
+    "uzn_Latn": {"iso2": "uz", "name": "Uzbek"},
+    "vie_Latn": {"iso2": "vi", "name": "Vietnamese"},
+    "yor_Latn": {"iso2": "yo", "name": "Yoruba"},
+    "zul_Latn": {"iso2": "zu", "name": "Zulu"},
+}
+
+```
+
+## Resource Levels
+
+
+
+# --- LANGUAGE BUCKETS ---
+
+```python3
+lang_only_buckets = {
+    "80_reduced": ['ibo_Latn','lit_Latn'], 
+    "<80K": ['aai_Latn', 'aak_Latn', 'aau_Latn', 'aaz_Latn', 'aba_Latn', 'abs_Latn', 'abt_Latn', 'abx_Latn', 'aby_Latn', 'abz_Latn', 'aca_Latn', 'acd_Latn', 'ace_Latn', 'nach_Latn', 'acn_Latn', 'acr_Latn', 'acu_Latn', 'ada_Latn', 'ade_Latn', 'nadj_Latn', 'naeu_Latn', 'aey_Latn', 'agd_Latn', 'agg_Latn', 'agm_Latn', 'agn_Latn', 'agr_Latn', 'agt_Latn', 'agu_Latn', 'nahk_Latn', 'aia_Latn', 'najg_Latn', 'aji_Latn', 'nakb_Latn', 'nakp_Latn', 'naln_Latn', 'alp_Latn', 'alq_Latn', 'aly_Latn', 'alz_Latn', 'ame_Latn', 'amf_Latn', 'ami_Latn', 'amk_Latn', 'amm_Latn', 'amn_Latn', 'amp_Latn', 'namu_Latn', 'amx_Latn', 'ang_Latn', 'naoi_Latn', 'aoj_Latn', 'aom_Latn', 'napb_Latn', 'ape_Latn', 'napr_Latn', 'napu_Latn', 'apw_Latn', 'apy_Latn', 'apz_Latn', 'arb_Latn', 'narg_Latn', 'arl_Latn', 'arn_Latn', 'asm_Latn', 'aso_Latn', 'ast_Latn', 'ata_Latn', 'atb_Latn', 'atd_Latn', 'nati_Latn', 'atj_Latn', 'natt_Latn', 'auc_Latn', 'nauy_Latn', 'avk_Latn', 'navt_Latn', 'avu_Latn', 'awb_Latn', 'ayr_Latn', 'azg_Latn', 'azz_Latn', 'bam_Latn', 'ban_Latn', 'bao_Latn', 'bar_Latn', 'bas_Latn', 'nbba_Latn', 'bbb_Latn', 'bbc_Latn', 'nbbr_Latn', 'bch_Latn', 'bci_Latn', 'bcl_Latn', 'nbdd_Latn', 'bdh_Latn', 'nbea_Latn', 'bem_Latn', 'ben_Latn', 'nbfd_Latn', 'nbgr_Latn', 'bgs_Latn', 'bgt_Latn', 'bgz_Latn', 'bhg_Latn', 'bhl_Latn', 'bhp_Latn', 'bhw_Latn', 'nbib_Latn', 'big_Latn', 'bim_Latn', 'bin_Latn', 'bis_Latn', 'nbiv_Latn', 'bjn_Latn', 'bjp_Latn', 'bjr_Latn', 'bjv_Latn', 'nbkq_Latn', 'bku_Latn', 'nbla_Latn', 'blh_Latn', 'nblz_Latn', 'bmh_Latn', 'nbmr_Latn', 'bmu_Latn', 'nbno_Latn', 'bnp_Latn', 'boa_Latn', 'boj_Latn', 'nbon_Latn', 'nbox_Latn', 'bpr_Latn', 'bqc_Latn', 'nbqp_Latn', 'bre_Latn', 'bru_Latn', 'nbsn_Latn', 'bsp_Latn', 'bsq_Latn', 'bss_Latn', 'btd_Latn', 'nbts_Latn', 'nbtx_Latn', 'bud_Latn', 'nbuk_Latn', 'bum_Latn', 'bus_Latn', 'nbvd_Latn', 'bvr_Latn', 'bvz_Latn', 'nbwq_Latn', 'bwu_Latn', 'byr_Latn', 'nbyx_Latn', 'nbzh_Latn', 'ibzj_Latn', 'caa_Latn', 'cab_Latn', 'cac_Latn', 'caf_Latn', 'cag_Latn', 'ncao_Latn', 'cap_Latn', 'caq_Latn', 'car_Latn', 'cas_Latn', 'cav_Latn', 'cax_Latn', 'cbc_Latn', 'cbi_Latn', 'cbk_Latn', 'cbr_Latn', 'cbs_Latn', 'cbt_Latn', 'cbu_Latn', 'cbv_Latn', 'cce_Latn', 'cco_Latn', 'ceg_Latn', 'cfm_Latn', 'cgc_Latn', 'ncha_Latn', 'chd_Latn', 'chf_Latn', 'nchk_Latn', 'cho_Latn', 'chw_Latn', 'chz_Latn', 'ncjp_Latn', 'cjv_Latn', 'cko_Latn', 'lcle_Latn', 'clu_Latn', 'ncme_Latn', 'cmo_Latn', 'ncnh_Latn', 'cni_Latn', 'cnk_Latn', 'cnl_Latn', 'cnt_Latn', 'ncoe_Latn', 'ncok_Latn', 'cor_Latn', 'ncpa_Latn', 'ncpc_Latn', 'ncpy_Latn', 'crh_Latn', 'crk_Latn', 'scrn_Latn', 'crs_Latn', 'ncrx_Latn', 'csb_Latn', 'ncso_Latn', 'csw_Latn', 'csy_Latn', 'cta_Latn', 'ctd_Latn', 'cto_Latn', 'ctp_Latn', 'ctu_Latn', 'ncuc_Latn', 'cui_Latn', 'cuk_Latn', 'ncut_Latn', 'ncwt_Latn', 'cya_Latn', 'ndad_Latn', 'ndag_Latn', 'dah_Latn', 'dak_Latn', 'ddg_Latn', 'nded_Latn', 'des_Latn', 'dga_Latn', 'dgc_Latn', 'dgi_Latn', 'dgr_Latn', 'dgz_Latn', 'ndhv_Latn', 'ndig_Latn', 'dik_Latn', 'diq_Latn', 'ndjk_Latn', 'djr_Latn', 'dks_Latn', 'dnj_Latn', 'ndob_Latn', 'dop_Latn', 'ndru_Latn', 'dsb_Latn', 'ndtp_Latn', 'dts_Latn', 'adua_Latn', 'ndug_Latn', 'ndur_Latn', 'dwr_Latn', 'dww_Latn', 'dyi_Latn', 'dyo_Latn', 'dyu_Latn', 'nefi_Latn', 'eko_Latn', 'emi_Latn', 'eml_Latn', 'emp_Latn', 'enb_Latn', 'nenm_Latn', 'enq_Latn', 'nese_Latn', 'nesk_Latn', 'nesu_Latn', 'netr_Latn', 'ewe_Latn', 'ewo_Latn', 'ext_Latn', 'eza_Latn', 'nfai_Latn', 'fal_Latn', 'fan_Latn', 'far_Latn', 'fat_Latn', 'ffm_Latn', 'fij_Latn', 'fit_Latn', 'fkv_Latn', 'afon_Latn', 'frd_Latn', 'fro_Latn', 'frp_Latn', 'frr_Latn', 'nfue_Latn', 'fuf_Latn', 'fuh_Latn', 'nfur_Latn', 'bfuv_Latn', 'gaa_Latn', 'gag_Latn', 'ngai_Latn', 'ngaw_Latn', 'gaz_Latn', 'gbi_Latn', 'gbo_Latn', 'ngcf_Latn', 'gcr_Latn', 'gde_Latn', 'gdg_Latn', 'gdn_Latn', 'gdr_Latn', 'ngfk_Latn', 'ngil_Latn', 'ngkn_Latn', 'glv_Latn', 'gmv_Latn', 'ngnd_Latn', 'gng_Latn', 'gnn_Latn', 'gnw_Latn', 'gof_Latn', 'gog_Latn', 'goh_Latn', 'gom_Latn', 'gor_Latn', 'gos_Latn', 'gqr_Latn', 'gso_Latn', 'gsw_Latn', 'gub_Latn', 'guc_Latn', 'ngug_Latn', 'guh_Latn', 'gui_Latn', 'guj_Latn', 'gul_Latn', 'gum_Latn', 'gun_Latn', 'guo_Latn', 'ngur_Latn', 'nguw_Latn', 'gux_Latn', 'guz_Latn', 'ngvf_Latn', 'gvl_Latn', 'gvn_Latn', 'gwi_Latn', 'ngym_Latn', 'hae_Latn', 'hag_Latn', 'ihak_Latn', 'hav_Latn', 'hay_Latn', 'hch_Latn', 'heg_Latn', 'heh_Latn', 'her_Latn', 'hig_Latn', 'hil_Latn', 'nhla_Latn', 'hmo_Latn', 'hmr_Latn', 'hnj_Latn', 'hnn_Latn', 'hns_Latn', 'nhot_Latn', 'hra_Latn', 'hrx_Latn', 'hsb_Latn', 'hto_Latn', 'hub_Latn', 'hui_Latn', 'hus_Latn', 'nhuv_Latn', 'nhwc_Latn', 'ian_Latn', 'iba_Latn', 'icr_Latn', 'ido_Latn', 'idu_Latn', 'nifb_Latn', 'nifk_Latn', 'ifu_Latn', 'ify_Latn', 'ige_Latn', 'ikk_Latn', 'ikt_Latn', 'nile_Latn', 'ilo_Latn', 'imo_Latn', 'ina_Latn', 'inb_Latn', 'ino_Latn', 'iou_Latn', 'ipi_Latn', 'iqw_Latn', 'iri_Latn', 'irk_Latn', 'nisd_Latn', 'ish_Latn', 'iso_Latn', 'itv_Latn', 'ium_Latn', 'nivv_Latn', 'iws_Latn', 'ixl_Latn', 'izr_Latn', 'izz_Latn', 'njac_Latn', 'jae_Latn', 'jam_Latn', 'jbo_Latn', 'jbu_Latn', 'njiv_Latn', 'jra_Latn', 'ajvn_Latn', 'kaa_Latn', 'kab_Latn', 'kac_Latn', 'nkal_Latn', 'kam_Latn', 'kan_Latn', 'kao_Latn', 'kaq_Latn', 'kbc_Latn', 'kbh_Latn', 'kbm_Latn', 'nkbp_Latn', 'kbq_Latn', 'kbr_Latn', 'kcg_Latn', 'kck_Latn', 'nkde_Latn', 'nkdi_Latn', 'nkea_Latn', 'nkek_Latn', 'ken_Latn', 'keo_Latn', 'nkew_Latn', 'kez_Latn', 'ukgf_Latn', 'nkgp_Latn', 'nkha_Latn', 'khs_Latn', 'khz_Latn', 'nkij_Latn', 'kik_Latn', 'kiu_Latn', 'kix_Latn', 'kjs_Latn', 'kkc_Latn', 'kki_Latn', 'kkj_Latn', 'kkl_Latn', 'nklv_Latn', 'kmb_Latn', 'kmg_Latn', 'kmh_Latn', 'nkmo_Latn', 'kms_Latn', 'kmu_Latn', 'nknc_Latn', 'kne_Latn', 'knf_Latn', 'kng_Latn', 'knj_Latn', 'knk_Latn', 'nknv_Latn', 'koo_Latn', 'kos_Latn', 'kpe_Latn', 'kpf_Latn', 'kpg_Latn', 'nkpr_Latn', 'kpw_Latn', 'kpx_Latn', 'kpz_Latn', 'kqc_Latn', 'kqe_Latn', 'kqf_Latn', 'nkqn_Latn', 'nkqp_Latn', 'nkqw_Latn', 'kri_Latn', 'krj_Latn', 'krl_Latn', 'nksd_Latn', 'nksh_Latn', 'nkss_Latn', 'iktj_Latn', 'nkto_Latn', 'ktu_Latn', 'nkua_Latn', 'nkud_Latn', 'kue_Latn', 'kuj_Latn', 'kup_Latn', 'kus_Latn', 'nkvn_Latn', 'kwd_Latn', 'kwf_Latn', 'nkwj_Latn', 'kwn_Latn', 'kwy_Latn', 'nkyc_Latn', 'kyf_Latn', 'kyg_Latn', 'kyq_Latn', 'rkyz_Latn', 'kze_Latn', 'nkzj_Latn', 'lad_Latn', 'lai_Latn', 'nlam_Latn', 'lbb_Latn', 'tlbk_Latn', 'lcm_Latn', 'ldi_Latn', 'nlee_Latn', 'lef_Latn', 'leh_Latn', 'lem_Latn', 'leu_Latn', 'lew_Latn', 'lex_Latn', 'lfn_Latn', 'lgg_Latn', 'nlia_Latn', 'blij_Latn', 'lim_Latn', 'lin_Latn', 'lip_Latn', 'liv_Latn', 'ljp_Latn', 'nlld_Latn', 'llg_Latn', 'nlmo_Latn', 'lmp_Latn', 'nloz_Latn', 'nlsm_Latn', 'ltg_Latn', 'lua_Latn', 'lub_Latn', 'nlue_Latn', 'lug_Latn', 'nluo_Latn', 'nlww_Latn', 'maa_Latn', 'mad_Latn', 'mah_Latn', 'nmak_Latn', 'mal_Latn', 'mam_Latn', 'maq_Latn', 'mar_Latn', 'mas_Latn', 'mau_Latn', 'mav_Latn', 'nmaz_Latn', 'mbb_Latn', 'nmbh_Latn', 'mbi_Latn', 'nmbl_Latn', 'nmbt_Latn', 'nmcd_Latn', 'nmco_Latn', 'nmcq_Latn', 'mcu_Latn', 'med_Latn', 'mee_Latn', 'mej_Latn', 'mek_Latn', 'men_Latn', 'meq_Latn', 'mer_Latn', 'nmeu_Latn', 'nmfe_Latn', 'nmfi_Latn', 'nmfq_Latn', 'nmfz_Latn', 'nmgh_Latn', 'nmgr_Latn', 'nmhl_Latn', 'nmhy_Latn', 'nmif_Latn', 'mig_Latn', 'nmil_Latn', 'nmin_Latn', 'mio_Latn', 'mip_Latn', 'miq_Latn', 'mir_Latn', 'nmiy_Latn', 'nmjc_Latn', 'mjw_Latn', 'nmkn_Latn', 'mks_Latn', 'nmlp_Latn', 'nmmn_Latn', 'mmo_Latn', 'mmx_Latn', 'mna_Latn', 'mni_Latn', 'mnk_Latn', 'nmog_Latn', 'moh_Latn', 'mop_Latn', 'nmos_Latn', 'mox_Latn', 'nmpm_Latn', 'mpp_Latn', 'mps_Latn', 'nmpx_Latn', 'mqb_Latn', 'mqj_Latn', 'mrq_Latn', 'nmsb_Latn', 'nmsy_Latn', 'nmti_Latn', 'mto_Latn', 'mtp_Latn', 'nmuh_Latn', 'mui_Latn', 'mur_Latn', 'nmux_Latn', 'muy_Latn', 'mva_Latn', 'mvn_Latn', 'mvp_Latn', 'nmwl_Latn', 'mwm_Latn', 'mwn_Latn', 'nmwq_Latn', 'mwv_Latn', 'mxb_Latn', 'mxp_Latn', 'mxq_Latn', 'mxt_Latn', 'nmyk_Latn', 'myu_Latn', 'myw_Latn', 'nmyy_Latn', 'mzw_Latn', 'nnab_Latn', 'naf_Latn', 'nah_Latn', 'nak_Latn', 'nan_Latn', 'nap_Latn', 'naq_Latn', 'nas_Latn', 'nnba_Latn', 'nnbl_Latn', 'nbq_Latn', 'nbu_Latn', 'nca_Latn', 'nch_Latn', 'ncj_Latn', 'nncx_Latn', 'ndc_Latn', 'nde_Latn', 'ndh_Latn', 'nndo_Latn', 'nds_Latn', 'nfa_Latn', 'nfr_Latn', 'nngl_Latn', 'nngu_Latn', 'nnhe_Latn', 'nhg_Latn', 'nhi_Latn', 'nnhr_Latn', 'nhu_Latn', 'nhw_Latn', 'nhx_Latn', 'nhy_Latn', 'nia_Latn', 'nif_Latn', 'nii_Latn', 'nij_Latn', 'nim_Latn', 'nin_Latn', 'lniu_Latn', 'nnjn_Latn', 'njo_Latn', 'nnkf_Latn', 'nnmf_Latn', 'nnmz_Latn', 'nnb_Latn', 'nnoa_Latn', 'non_Latn', 'nop_Latn', 'not_Latn', 'nou_Latn', 'nov_Latn', 'npi_Latn', 'npl_Latn', 'nnpy_Latn', 'nnse_Latn', 'nnsn_Latn', 'nso_Latn', 'nss_Latn', 'nnsu_Latn', 'ntp_Latn', 'ntr_Latn', 'ntu_Latn', 'nuj_Latn', 'nus_Latn', 'nuy_Latn', 'nnwi_Latn', 'nyf_Latn', 'nnyn_Latn', 'nyo_Latn', 'nyu_Latn', 'nyy_Latn', 'nnzi_Latn', 'noci_Latn', 'ogo_Latn', 'nokv_Latn', 'nolo_Latn', 'nomw_Latn', 'nons_Latn', 'nopm_Latn', 'ory_Latn', 'note_Latn', 'otm_Latn', 'notq_Latn', 'ots_Latn', 'otw_Latn', 'nozm_Latn', 'pab_Latn', 'pad_Latn', 'pag_Latn', 'pah_Latn', 'pam_Latn', 'pan_Latn', 'pau_Latn', 'pcd_Latn', 'pck_Latn', 'pcm_Latn', 'pdc_Latn', 'pdt_Latn', 'pem_Latn', 'npfl_Latn', 'npio_Latn', 'pir_Latn', 'pis_Latn', 'pjt_Latn', 'pkb_Latn', 'plg_Latn', 'pls_Latn', 'plu_Latn', 'npma_Latn', 'pmf_Latn', 'pmq_Latn', 'pms_Latn', 'npoh_Latn', 'pon_Latn', 'npot_Latn', 'nppk_Latn', 'ppo_Latn', 'pps_Latn', 'prf_Latn', 'prg_Latn', 'pri_Latn', 'nptp_Latn', 'ptu_Latn', 'npwg_Latn', 'pwn_Latn', 'nqub_Latn', 'quc_Latn', 'quf_Latn', 'qug_Latn', 'quh_Latn', 'nqup_Latn', 'nquw_Latn', 'quy_Latn', 'quz_Latn', 'nqvc_Latn', 'qve_Latn', 'qvh_Latn', 'qvi_Latn', 'qvm_Latn', 'qvn_Latn', 'nqvs_Latn', 'qvw_Latn', 'qvz_Latn', 'qwh_Latn', 'qxh_Latn', 'nqxn_Latn', 'nqxr_Latn', 'rad_Latn', 'rai_Latn', 'nrar_Latn', 'raw_Latn', 'rcf_Latn', 'nrgu_Latn', 'nria_Latn', 'nrmc_Latn', 'nrml_Latn', 'rmn_Latn', 'rmo_Latn', 'rmq_Latn', 'rmy_Latn', 'rnd_Latn', 'rng_Latn', 'nroh_Latn', 'roo_Latn', 'rop_Latn', 'nrro_Latn', 'rtm_Latn', 'ruf_Latn', 'rug_Latn', 'run_Latn', 'rup_Latn', 'rwo_Latn', 'sab_Latn', 'sag_Latn', 'san_Latn', 'sas_Latn', 'sat_Latn', 'nsbe_Latn', 'sbl_Latn', 'nsby_Latn', 'scn_Latn', 'sco_Latn', 'nseh_Latn', 'ses_Latn', 'nsgb_Latn', 'sgc_Latn', 'lsgs_Latn', 'sgz_Latn', 'shi_Latn', 'shp_Latn', 'bsid_Latn', 'sig_Latn', 'sil_Latn', 'sim_Latn', 'sja_Latn', 'nskg_Latn', 'sll_Latn', 'sma_Latn', 'sme_Latn', 'smj_Latn', 'smk_Latn', 'sml_Latn', 'smn_Latn', 'sms_Latn', 'snc_Latn', 'snd_Latn', 'nsnn_Latn', 'snp_Latn', 'nsny_Latn', 'sop_Latn', 'soq_Latn', 'soy_Latn', 'nspl_Latn', 'spm_Latn', 'spp_Latn', 'sps_Latn', 'spy_Latn', 'srd_Latn', 'nsrm_Latn', 'srn_Latn', 'nssg_Latn', 'ssw_Latn', 'nstp_Latn', 'stq_Latn', 'sua_Latn', 'nsue_Latn', 'suk_Latn', 'sur_Latn', 'sus_Latn', 'nswc_Latn', 'swg_Latn', 'nswp_Latn', 'sxb_Latn', 'nsyb_Latn', 'gsyl_Latn', 'szl_Latn', 'szy_Latn', 'tac_Latn', 'tah_Latn', 'tam_Latn', 'ntaq_Latn', 'tar_Latn', 'tat_Latn', 'ntaw_Latn', 'tay_Latn', 'tbc_Latn', 'tbg_Latn', 'ntbo_Latn', 'ntby_Latn', 'tbz_Latn', 'tca_Latn', 'ntcf_Latn', 'tcs_Latn', 'tcz_Latn', 'ted_Latn', 'tee_Latn', 'tel_Latn', 'nteo_Latn', 'ntet_Latn', 'tew_Latn', 'tfr_Latn', 'ntgp_Latn', 'thk_Latn', 'ntim_Latn', 'tiv_Latn', 'tiy_Latn', 'ntkl_Latn', 'ntlf_Latn', 'tlh_Latn', 'ntll_Latn', 'tly_Latn', 'ntna_Latn', 'tnc_Latn', 'tnk_Latn', 'tnn_Latn', 'tnp_Latn', 'ntoc_Latn', 'ntog_Latn', 'toh_Latn', 'toi_Latn', 'toj_Latn', 'tok_Latn', 'ton_Latn', 'too_Latn', 'top_Latn', 'tos_Latn', 'ntpi_Latn', 'ntpp_Latn', 'tpt_Latn', 'ntpz_Latn', 'ntrc_Latn', 'trn_Latn', 'ntrp_Latn', 'ntrs_Latn', 'trv_Latn', 'tsc_Latn', 'tsg_Latn', 'tsn_Latn', 'tso_Latn', 'tsw_Latn', 'tsz_Latn', 'nttj_Latn', 'ttq_Latn', 'gtuc_Latn', 'tue_Latn', 'tuf_Latn', 'ntum_Latn', 'tuo_Latn', 'ntuv_Latn', 'tvk_Latn', 'tvl_Latn', 'twi_Latn', 'twu_Latn', 'ntxq_Latn', 'txu_Latn', 'tzh_Latn', 'tzj_Latn', 'tzo_Latn', 'ubr_Latn', 'ubu_Latn', 'udu_Latn', 'luig_Latn', 'umb_Latn', 'upv_Latn', 'ura_Latn', 'urd_Latn', 'urh_Latn', 'nusp_Latn', 'nuvl_Latn', 'vag_Latn', 'vap_Latn', 'nvec_Latn', 'ven_Latn', 'vep_Latn', 'vid_Latn', 'viv_Latn', 'vls_Latn', 'nvmw_Latn', 'vmy_Latn', 'vol_Latn', 'nvro_Latn', 'vun_Latn', 'nwaj_Latn', 'wal_Latn', 'nwar_Latn', 'nwbp_Latn', 'wed_Latn', 'wer_Latn', 'nwiu_Latn', 'wln_Latn', 'wls_Latn', 'wlv_Latn', 'nwmt_Latn', 'nwnc_Latn', 'wnu_Latn', 'wob_Latn', 'wol_Latn', 'wos_Latn', 'wrk_Latn', 'wrs_Latn', 'wuv_Latn', 'xav_Latn', 'xbi_Latn', 'xla_Latn', 'nxmv_Latn', 'xnn_Latn', 'xog_Latn', 'xon_Latn', 'xrb_Latn', 'nxsi_Latn', 'xsm_Latn', 'nxtd_Latn', 'xtm_Latn', 'nxuo_Latn', 'nyal_Latn', 'nyan_Latn', 'yao_Latn', 'yap_Latn', 'nyby_Latn', 'nyle_Latn', 'yli_Latn', 'yml_Latn', 'yom_Latn', 'yon_Latn', 'yrb_Latn', 'yre_Latn', 'nyss_Latn', 'yua_Latn', 'yuj_Latn', 'nyut_Latn', 'yuw_Latn', 'nzaa_Latn', 'zab_Latn', 'zac_Latn', 'zad_Latn', 'nzai_Latn', 'nzav_Latn', 'zaw_Latn', 'nzdj_Latn', 'zea_Latn', 'zia_Latn', 'ziw_Latn', 'zne_Latn', 'zom_Latn', 'zos_Latn', 'zpa_Latn', 'zpc_Latn', 'zpg_Latn', 'nzpl_Latn', 'nzpt_Latn', 'zpu_Latn', 'nzpz_Latn', 'nztq_Latn', 'zty_Latn', 'zyb_Latn', 'zyp_Latn'],  # truncated example, replace with full list
+    "80-100K": ['gmh_Latn', 'haw_Latn', 'hin_Latn', 'nibo_Latn', 'lus_Latn', 'nsna_Latn', 'sot_Latn', 'yor_Latn'],
+    "100-200K": ['cos_Latn', 'hif_Latn', 'jav_Latn', 'nmri_Latn', 'mww_Latn', 'nnya_Latn', 'npap_Latn', 'smo_Latn', 'sun_Latn', 'zul_Latn'],
+    "200-300K": ['nceb_Latn', 'fao_Latn', 'gla_Latn', 'hat_Latn', 'plt_Latn', 'tuk_Latn', 'nxho_Latn'],
+    "300-400K": ['nepo_Latn', 'fry_Latn', 'kin_Latn', 'ltz_Latn'],
+    "400-500K": ['nbew_Latn', 'kmr_Latn', 'mlt_Latn'],
+    ">500K": ['afr_Latn', 'als_Latn', 'azj_Latn', 'bos_Latn', 'cat_Latn', 'nces_Latn', 'cym_Latn', 'dan_Latn', 'deu_Latn', 'nekk_Latn', 'neus_Latn', 'fil_Latn', 'fin_Latn', 'nfra_Latn', 'gle_Latn', 'glg_Latn', 'hau_Latn', 'hrv_Latn', 'hun_Latn', 'ind_Latn', 'isl_Latn', 'ita_Latn', 'nlat_Latn', 'ulit_Latn', 'lvs_Latn', 'nnld_Latn', 'nnno_Latn', 'nob_Latn', 'nnrm_Latn', 'npol_Latn', 'por_Latn', 'ron_Latn', 'nslk_Latn', 'slv_Latn', 'nsom_Latn', 'srp_Latn', 'swe_Latn', 'swh_Latn', 'uzn_Latn', 'vie_Latn', 'bzsm_Latn']
+}
+```
+
+
+
+*Dataset prepared by [Suchir Salhan](https://huggingface.co/suchirsalhan)*