metadata
configs:
- config_name: afr_Latn
data_files:
- split: train
path: data/afr_Latn-*.parquet
- config_name: als_Latn
data_files:
- split: train
path: data/als_Latn-*.parquet
- config_name: azj_Latn
data_files:
- split: train
path: data/azj_Latn-*.parquet
- config_name: bos_Latn
data_files:
- split: train
path: data/bos_Latn-*.parquet
- config_name: cat_Latn
data_files:
- split: train
path: data/cat_Latn-*.parquet
- config_name: cos_Latn
data_files:
- split: train
path: data/cos_Latn-*.parquet
- config_name: cym_Latn
data_files:
- split: train
path: data/cym_Latn-*.parquet
- config_name: dan_Latn
data_files:
- split: train
path: data/dan_Latn-*.parquet
- config_name: zsm_Latn
data_files:
- split: train
path: data/zsm_Latn-*.parquet
- config_name: sna_Latn
data_files:
- split: train
path: data/sna_Latn-*.parquet
- config_name: nya_Latn
data_files:
- split: train
path: data/nya_Latn-*.parquet
- config_name: som_Latn
data_files:
- split: train
path: data/som_Latn-*.parquet
- config_name: default
data_files:
- split: afr_Latn
path: data/afr_Latn-*
- split: als_Latn
path: data/als_Latn-*
- split: azj_Latn
path: data/azj_Latn-*
- split: bos_Latn
path: data/bos_Latn-*
- split: cat_Latn
path: data/cat_Latn-*
- split: cos_Latn
path: data/cos_Latn-*
- split: cym_Latn
path: data/cym_Latn-*
- split: dan_Latn
path: data/dan_Latn-*
- split: deu_Latn
path: data/deu_Latn-*
- split: fao_Latn
path: data/fao_Latn-*
- split: fil_Latn
path: data/fil_Latn-*
- split: fin_Latn
path: data/fin_Latn-*
- split: fry_Latn
path: data/fry_Latn-*
- split: gla_Latn
path: data/gla_Latn-*
- split: gle_Latn
path: data/gle_Latn-*
- split: glg_Latn
path: data/glg_Latn-*
- split: gmh_Latn
path: data/gmh_Latn-*
- split: hat_Latn
path: data/hat_Latn-*
- split: hau_Latn
path: data/hau_Latn-*
- split: haw_Latn
path: data/haw_Latn-*
- split: hif_Latn
path: data/hif_Latn-*
- split: hin_Latn
path: data/hin_Latn-*
- split: hrv_Latn
path: data/hrv_Latn-*
- split: hun_Latn
path: data/hun_Latn-*
- split: ibo_Latn
path: data/ibo_Latn-*
- split: ind_Latn
path: data/ind_Latn-*
- split: isl_Latn
path: data/isl_Latn-*
- split: ita_Latn
path: data/ita_Latn-*
- split: jav_Latn
path: data/jav_Latn-*
- split: kin_Latn
path: data/kin_Latn-*
- split: kmr_Latn
path: data/kmr_Latn-*
- split: lit_Latn
path: data/lit_Latn-*
- split: ltz_Latn
path: data/ltz_Latn-*
- split: lus_Latn
path: data/lus_Latn-*
- split: lvs_Latn
path: data/lvs_Latn-*
- split: mlt_Latn
path: data/mlt_Latn-*
- split: mww_Latn
path: data/mww_Latn-*
- split: nob_Latn
path: data/nob_Latn-*
- split: plt_Latn
path: data/plt_Latn-*
- split: por_Latn
path: data/por_Latn-*
- split: ron_Latn
path: data/ron_Latn-*
- split: slv_Latn
path: data/slv_Latn-*
- split: smo_Latn
path: data/smo_Latn-*
- split: sot_Latn
path: data/sot_Latn-*
- split: srp_Latn
path: data/srp_Latn-*
- split: sun_Latn
path: data/sun_Latn-*
- split: swe_Latn
path: data/swe_Latn-*
- split: swh_Latn
path: data/swh_Latn-*
- split: tuk_Latn
path: data/tuk_Latn-*
- split: uzn_Latn
path: data/uzn_Latn-*
- split: vie_Latn
path: data/vie_Latn-*
- split: yor_Latn
path: data/yor_Latn-*
- split: zul_Latn
path: data/zul_Latn-*
- split: sna_Latn
path: data/sna_Latn-*
- split: nya_Latn
path: data/nya_Latn-*
- split: zsm_Latn
path: data/zsm_Latn-*
- split: som_Latn
path: data/som_Latn-*
- config_name: deu_Latn
data_files:
- split: train
path: data/deu_Latn-*.parquet
- config_name: fao_Latn
data_files:
- split: train
path: data/fao_Latn-*.parquet
- config_name: fil_Latn
data_files:
- split: train
path: data/fil_Latn-*.parquet
- config_name: fin_Latn
data_files:
- split: train
path: data/fin_Latn-*.parquet
- config_name: fry_Latn
data_files:
- split: train
path: data/fry_Latn-*.parquet
- config_name: gla_Latn
data_files:
- split: train
path: data/gla_Latn-*.parquet
- config_name: gle_Latn
data_files:
- split: train
path: data/gle_Latn-*.parquet
- config_name: glg_Latn
data_files:
- split: train
path: data/glg_Latn-*.parquet
- config_name: gmh_Latn
data_files:
- split: train
path: data/gmh_Latn-*.parquet
- config_name: hat_Latn
data_files:
- split: train
path: data/hat_Latn-*.parquet
- config_name: hau_Latn
data_files:
- split: train
path: data/hau_Latn-*.parquet
- config_name: haw_Latn
data_files:
- split: train
path: data/haw_Latn-*.parquet
- config_name: hif_Latn
data_files:
- split: train
path: data/hif_Latn-*.parquet
- config_name: hin_Latn
data_files:
- split: train
path: data/hin_Latn-*.parquet
- config_name: hrv_Latn
data_files:
- split: train
path: data/hrv_Latn-*.parquet
- config_name: hun_Latn
data_files:
- split: train
path: data/hun_Latn-*.parquet
- config_name: ibo_Latn
data_files:
- split: train
path: data/ibo_Latn-*.parquet
- config_name: ind_Latn
data_files:
- split: train
path: data/ind_Latn-*.parquet
- config_name: isl_Latn
data_files:
- split: train
path: data/isl_Latn-*.parquet
- config_name: ita_Latn
data_files:
- split: train
path: data/ita_Latn-*.parquet
- config_name: jav_Latn
data_files:
- split: train
path: data/jav_Latn-*.parquet
- config_name: kin_Latn
data_files:
- split: train
path: data/kin_Latn-*.parquet
- config_name: kmr_Latn
data_files:
- split: train
path: data/kmr_Latn-*.parquet
- config_name: lit_Latn
data_files:
- split: train
path: data/lit_Latn-*.parquet
- config_name: ltz_Latn
data_files:
- split: train
path: data/ltz_Latn-*.parquet
- config_name: lus_Latn
data_files:
- split: train
path: data/lus_Latn-*.parquet
- config_name: lvs_Latn
data_files:
- split: train
path: data/lvs_Latn-*.parquet
- config_name: mlt_Latn
data_files:
- split: train
path: data/mlt_Latn-*.parquet
- config_name: mww_Latn
data_files:
- split: train
path: data/mww_Latn-*.parquet
- config_name: nob_Latn
data_files:
- split: train
path: data/nob_Latn-*.parquet
- config_name: plt_Latn
data_files:
- split: train
path: data/plt_Latn-*.parquet
- config_name: por_Latn
data_files:
- split: train
path: data/por_Latn-*.parquet
- config_name: ron_Latn
data_files:
- split: train
path: data/ron_Latn-*.parquet
- config_name: slv_Latn
data_files:
- split: train
path: data/slv_Latn-*.parquet
- config_name: smo_Latn
data_files:
- split: train
path: data/smo_Latn-*.parquet
- config_name: sot_Latn
data_files:
- split: train
path: data/sot_Latn-*.parquet
- config_name: srp_Latn
data_files:
- split: train
path: data/srp_Latn-*.parquet
- config_name: sun_Latn
data_files:
- split: train
path: data/sun_Latn-*.parquet
- config_name: swe_Latn
data_files:
- split: train
path: data/swe_Latn-*.parquet
- config_name: swh_Latn
data_files:
- split: train
path: data/swh_Latn-*.parquet
- config_name: tuk_Latn
data_files:
- split: train
path: data/tuk_Latn-*.parquet
- config_name: uzn_Latn
data_files:
- split: train
path: data/uzn_Latn-*.parquet
- config_name: vie_Latn
data_files:
- split: train
path: data/vie_Latn-*.parquet
- config_name: yor_Latn
data_files:
- split: train
path: data/yor_Latn-*.parquet
- config_name: zul_Latn
data_files:
- split: train
path: data/zul_Latn-*.parquet
language:
- af
- az
- bs
- ca
- co
- cy
- da
- de
- fo
- tl
- fi
- fy
- gd
- ga
- gl
- ht
- ha
- hi
- hr
- hu
- ig
- id
- is
- it
- jv
- rw
- lt
- lb
- lv
- mt
- nb
- pt
- ro
- sl
- sm
- st
- sr
- su
- sv
- sw
- tk
- uz
- vi
- yo
- zu
- ms
- sn
- so
dataset_info:
features:
- name: text
dtype: string
- name: resource_level
dtype: string
splits:
- name: afr_Latn
num_bytes: 44991779
num_examples: 10000
- name: als_Latn
num_bytes: 32951825
num_examples: 10000
- name: azj_Latn
num_bytes: 28788946
num_examples: 10000
- name: bos_Latn
num_bytes: 38220635
num_examples: 10000
- name: cat_Latn
num_bytes: 29754814
num_examples: 10000
- name: cos_Latn
num_bytes: 37191283
num_examples: 10000
- name: cym_Latn
num_bytes: 28475925
num_examples: 10000
- name: dan_Latn
num_bytes: 28501365
num_examples: 10000
- name: deu_Latn
num_bytes: 30965030
num_examples: 10000
- name: fao_Latn
num_bytes: 20749250
num_examples: 10000
- name: fil_Latn
num_bytes: 39622711
num_examples: 10000
- name: fin_Latn
num_bytes: 34507658
num_examples: 10000
- name: fry_Latn
num_bytes: 18594783
num_examples: 10000
- name: gla_Latn
num_bytes: 35646974
num_examples: 10000
- name: gle_Latn
num_bytes: 31625931
num_examples: 10000
- name: glg_Latn
num_bytes: 28214424
num_examples: 10000
- name: gmh_Latn
num_bytes: 440036009
num_examples: 10000
- name: hat_Latn
num_bytes: 29370279
num_examples: 10000
- name: hau_Latn
num_bytes: 20297543
num_examples: 10000
- name: haw_Latn
num_bytes: 49583382
num_examples: 10000
- name: hif_Latn
num_bytes: 64188389
num_examples: 10000
- name: hin_Latn
num_bytes: 66467186
num_examples: 10000
- name: hrv_Latn
num_bytes: 58796311
num_examples: 10000
- name: hun_Latn
num_bytes: 54573065
num_examples: 10000
- name: ibo_Latn
num_bytes: 38179919
num_examples: 10000
- name: ind_Latn
num_bytes: 57286770
num_examples: 10000
- name: isl_Latn
num_bytes: 32839729
num_examples: 10000
- name: ita_Latn
num_bytes: 36253850
num_examples: 10000
- name: jav_Latn
num_bytes: 58082747
num_examples: 10000
- name: kin_Latn
num_bytes: 27887843
num_examples: 10000
- name: kmr_Latn
num_bytes: 29905092
num_examples: 10000
- name: lit_Latn
num_bytes: 36182068
num_examples: 10000
- name: ltz_Latn
num_bytes: 25642713
num_examples: 10000
- name: lus_Latn
num_bytes: 28428492
num_examples: 10000
- name: lvs_Latn
num_bytes: 33641009
num_examples: 10000
- name: mlt_Latn
num_bytes: 37662274
num_examples: 10000
- name: mww_Latn
num_bytes: 37323700
num_examples: 10000
- name: nob_Latn
num_bytes: 28999654
num_examples: 10000
- name: plt_Latn
num_bytes: 39062018
num_examples: 10000
- name: por_Latn
num_bytes: 39024948
num_examples: 10000
- name: ron_Latn
num_bytes: 54901191
num_examples: 10000
- name: slv_Latn
num_bytes: 32281500
num_examples: 10000
- name: smo_Latn
num_bytes: 39197229
num_examples: 10000
- name: sot_Latn
num_bytes: 41671673
num_examples: 10000
- name: srp_Latn
num_bytes: 45756474
num_examples: 10000
- name: sun_Latn
num_bytes: 42182628
num_examples: 10000
- name: swe_Latn
num_bytes: 30287525
num_examples: 10000
- name: swh_Latn
num_bytes: 30219657
num_examples: 10000
- name: tuk_Latn
num_bytes: 33330288
num_examples: 10000
- name: uzn_Latn
num_bytes: 38622665
num_examples: 10000
- name: vie_Latn
num_bytes: 65490656
num_examples: 10000
- name: yor_Latn
num_bytes: 37273450
num_examples: 10000
- name: zul_Latn
num_bytes: 41269856
num_examples: 10000
- name: sna_Latn
num_bytes: 39121870
num_examples: 10000
- name: nya_Latn
num_bytes: 40725746
num_examples: 10000
- name: zsm_Latn
num_bytes: 48575326
num_examples: 10000
- name: som_Latn
num_bytes: 25287430
num_examples: 10000
download_size: 1510672816
dataset_size: 2564713487
FineWeb2 Multilingual Datasets
10K lines of Latin Script languages from FineWeb2 for lightweight tokenizer adaptation experiments.
Load Dataset
Load the entire dataset:
from datasets import load_dataset
import itertools
ds = load_dataset(
"MultilingualUnigramLM/FineWeb2-10K",
streaming=True
)
Load a specific language:
from datasets import load_dataset
import itertools
ds_ibo = load_dataset(
"MultilingualUnigramLM/FineWeb2-10K",
split="ibo_Latn",
streaming=True
)
# Print first N lines
N = 5
for i, ex in enumerate(itertools.islice(ds_ibo, N)):
print(f"\n--- line {i+1} ---")
print(ex["text"])
Language Information
hf_lang_info = {
"afr_Latn": {"iso2": "af", "name": "Afrikaans"},
"als_Latn": {"iso2": "", "name": "Alemannic German"},
"azj_Latn": {"iso2": "az", "name": "Azerbaijani"},
"bos_Latn": {"iso2": "bs", "name": "Bosnian"},
"cat_Latn": {"iso2": "ca", "name": "Catalan"},
"cos_Latn": {"iso2": "co", "name": "Corsican"},
"cym_Latn": {"iso2": "cy", "name": "Welsh"},
"dan_Latn": {"iso2": "da", "name": "Danish"},
"deu_Latn": {"iso2": "de", "name": "German"},
"fao_Latn": {"iso2": "fo", "name": "Faroese"},
"fil_Latn": {"iso2": "tl", "name": "Filipino"},
"fin_Latn": {"iso2": "fi", "name": "Finnish"},
"fry_Latn": {"iso2": "fy", "name": "Frisian"},
"gla_Latn": {"iso2": "gd", "name": "Scottish Gaelic"},
"gle_Latn": {"iso2": "ga", "name": "Irish"},
"glg_Latn": {"iso2": "gl", "name": "Galician"},
"gmh_Latn": {"iso2": "", "name": "Middle High German"},
"hat_Latn": {"iso2": "ht", "name": "Haitian Creole"},
"hau_Latn": {"iso2": "ha", "name": "Hausa"},
"haw_Latn": {"iso2": "haw", "name": "Hawaiian"},
"hif_Latn": {"iso2": "", "name": "Fiji Hindi"},
"hin_Latn": {"iso2": "hi", "name": "Hindi"},
"hrv_Latn": {"iso2": "hr", "name": "Croatian"},
"hun_Latn": {"iso2": "hu", "name": "Hungarian"},
"ibo_Latn": {"iso2": "ig", "name": "Igbo"},
"ind_Latn": {"iso2": "id", "name": "Indonesian"},
"isl_Latn": {"iso2": "is", "name": "Icelandic"},
"ita_Latn": {"iso2": "it", "name": "Italian"},
"jav_Latn": {"iso2": "jv", "name": "Javanese"},
"kin_Latn": {"iso2": "rw", "name": "Kinyarwanda"},
"kmr_Latn": {"iso2": "", "name": "Kurmanji Kurdish"},
"lit_Latn": {"iso2": "lt", "name": "Lithuanian"},
"ltz_Latn": {"iso2": "lb", "name": "Luxembourgish"},
"lus_Latn": {"iso2": "", "name": "Lushai / Mizo"},
"lvs_Latn": {"iso2": "lv", "name": "Latvian"},
"mlt_Latn": {"iso2": "mt", "name": "Maltese"},
"mww_Latn": {"iso2": "", "name": "Hmong Daw"},
"nob_Latn": {"iso2": "nb", "name": "Norwegian Bokmål"},
"plt_Latn": {"iso2": "", "name": "Plautdietsch"},
"por_Latn": {"iso2": "pt", "name": "Portuguese"},
"ron_Latn": {"iso2": "ro", "name": "Romanian"},
"slv_Latn": {"iso2": "sl", "name": "Slovenian"},
"smo_Latn": {"iso2": "sm", "name": "Samoan"},
"sot_Latn": {"iso2": "st", "name": "Sotho"},
"srp_Latn": {"iso2": "sr", "name": "Serbian"},
"sun_Latn": {"iso2": "su", "name": "Sundanese"},
"swe_Latn": {"iso2": "sv", "name": "Swedish"},
"swh_Latn": {"iso2": "sw", "name": "Swahili"},
"tuk_Latn": {"iso2": "tk", "name": "Turkmen"},
"uzn_Latn": {"iso2": "uz", "name": "Uzbek"},
"vie_Latn": {"iso2": "vi", "name": "Vietnamese"},
"yor_Latn": {"iso2": "yo", "name": "Yoruba"},
"zul_Latn": {"iso2": "zu", "name": "Zulu"},
"zsm_Latn": {"iso2": "ms", "name": "Malay"},
"sna_Latn": {"iso2": "sn", "name": "Shona"},
"nya_Latn": {"iso2": "ny", "name": "Nyanja"},
"som_Latn": {"iso2": "so", "name": "Somali"},
}
Resource Levels
lang_only_buckets = {
"80_reduced": ['ibo_Latn','lit_Latn'],
"<80K": ['aai_Latn', 'aak_Latn', 'aau_Latn', 'aaz_Latn', 'aba_Latn', 'abs_Latn', 'abt_Latn', 'abx_Latn', 'aby_Latn', 'abz_Latn', 'aca_Latn', 'acd_Latn', 'ace_Latn', 'nach_Latn', 'acn_Latn', 'acr_Latn', 'acu_Latn', 'ada_Latn', 'ade_Latn', 'nadj_Latn', 'naeu_Latn', 'aey_Latn', 'agd_Latn', 'agg_Latn', 'agm_Latn', 'agn_Latn', 'agr_Latn', 'agt_Latn', 'agu_Latn', 'nahk_Latn', 'aia_Latn', 'najg_Latn', 'aji_Latn', 'nakb_Latn', 'nakp_Latn', 'naln_Latn', 'alp_Latn', 'alq_Latn', 'aly_Latn', 'alz_Latn', 'ame_Latn', 'amf_Latn', 'ami_Latn', 'amk_Latn', 'amm_Latn', 'amn_Latn', 'amp_Latn', 'namu_Latn', 'amx_Latn', 'ang_Latn', 'naoi_Latn', 'aoj_Latn', 'aom_Latn', 'napb_Latn', 'ape_Latn', 'napr_Latn', 'napu_Latn', 'apw_Latn', 'apy_Latn', 'apz_Latn', 'arb_Latn', 'narg_Latn', 'arl_Latn', 'arn_Latn', 'asm_Latn', 'aso_Latn', 'ast_Latn', 'ata_Latn', 'atb_Latn', 'atd_Latn', 'nati_Latn', 'atj_Latn', 'natt_Latn', 'auc_Latn', 'nauy_Latn', 'avk_Latn', 'navt_Latn', 'avu_Latn', 'awb_Latn', 'ayr_Latn', 'azg_Latn', 'azz_Latn', 'bam_Latn', 'ban_Latn', 'bao_Latn', 'bar_Latn', 'bas_Latn', 'nbba_Latn', 'bbb_Latn', 'bbc_Latn', 'nbbr_Latn', 'bch_Latn', 'bci_Latn', 'bcl_Latn', 'nbdd_Latn', 'bdh_Latn', 'nbea_Latn', 'bem_Latn', 'ben_Latn', 'nbfd_Latn', 'nbgr_Latn', 'bgs_Latn', 'bgt_Latn', 'bgz_Latn', 'bhg_Latn', 'bhl_Latn', 'bhp_Latn', 'bhw_Latn', 'nbib_Latn', 'big_Latn', 'bim_Latn', 'bin_Latn', 'bis_Latn', 'nbiv_Latn', 'bjn_Latn', 'bjp_Latn', 'bjr_Latn', 'bjv_Latn', 'nbkq_Latn', 'bku_Latn', 'nbla_Latn', 'blh_Latn', 'nblz_Latn', 'bmh_Latn', 'nbmr_Latn', 'bmu_Latn', 'nbno_Latn', 'bnp_Latn', 'boa_Latn', 'boj_Latn', 'nbon_Latn', 'nbox_Latn', 'bpr_Latn', 'bqc_Latn', 'nbqp_Latn', 'bre_Latn', 'bru_Latn', 'nbsn_Latn', 'bsp_Latn', 'bsq_Latn', 'bss_Latn', 'btd_Latn', 'nbts_Latn', 'nbtx_Latn', 'bud_Latn', 'nbuk_Latn', 'bum_Latn', 'bus_Latn', 'nbvd_Latn', 'bvr_Latn', 'bvz_Latn', 'nbwq_Latn', 'bwu_Latn', 'byr_Latn', 'nbyx_Latn', 'nbzh_Latn', 'ibzj_Latn', 'caa_Latn', 'cab_Latn', 'cac_Latn', 'caf_Latn', 'cag_Latn', 'ncao_Latn', 'cap_Latn', 'caq_Latn', 'car_Latn', 'cas_Latn', 'cav_Latn', 'cax_Latn', 'cbc_Latn', 'cbi_Latn', 'cbk_Latn', 'cbr_Latn', 'cbs_Latn', 'cbt_Latn', 'cbu_Latn', 'cbv_Latn', 'cce_Latn', 'cco_Latn', 'ceg_Latn', 'cfm_Latn', 'cgc_Latn', 'ncha_Latn', 'chd_Latn', 'chf_Latn', 'nchk_Latn', 'cho_Latn', 'chw_Latn', 'chz_Latn', 'ncjp_Latn', 'cjv_Latn', 'cko_Latn', 'lcle_Latn', 'clu_Latn', 'ncme_Latn', 'cmo_Latn', 'ncnh_Latn', 'cni_Latn', 'cnk_Latn', 'cnl_Latn', 'cnt_Latn', 'ncoe_Latn', 'ncok_Latn', 'cor_Latn', 'ncpa_Latn', 'ncpc_Latn', 'ncpy_Latn', 'crh_Latn', 'crk_Latn', 'scrn_Latn', 'crs_Latn', 'ncrx_Latn', 'csb_Latn', 'ncso_Latn', 'csw_Latn', 'csy_Latn', 'cta_Latn', 'ctd_Latn', 'cto_Latn', 'ctp_Latn', 'ctu_Latn', 'ncuc_Latn', 'cui_Latn', 'cuk_Latn', 'ncut_Latn', 'ncwt_Latn', 'cya_Latn', 'ndad_Latn', 'ndag_Latn', 'dah_Latn', 'dak_Latn', 'ddg_Latn', 'nded_Latn', 'des_Latn', 'dga_Latn', 'dgc_Latn', 'dgi_Latn', 'dgr_Latn', 'dgz_Latn', 'ndhv_Latn', 'ndig_Latn', 'dik_Latn', 'diq_Latn', 'ndjk_Latn', 'djr_Latn', 'dks_Latn', 'dnj_Latn', 'ndob_Latn', 'dop_Latn', 'ndru_Latn', 'dsb_Latn', 'ndtp_Latn', 'dts_Latn', 'adua_Latn', 'ndug_Latn', 'ndur_Latn', 'dwr_Latn', 'dww_Latn', 'dyi_Latn', 'dyo_Latn', 'dyu_Latn', 'nefi_Latn', 'eko_Latn', 'emi_Latn', 'eml_Latn', 'emp_Latn', 'enb_Latn', 'nenm_Latn', 'enq_Latn', 'nese_Latn', 'nesk_Latn', 'nesu_Latn', 'netr_Latn', 'ewe_Latn', 'ewo_Latn', 'ext_Latn', 'eza_Latn', 'nfai_Latn', 'fal_Latn', 'fan_Latn', 'far_Latn', 'fat_Latn', 'ffm_Latn', 'fij_Latn', 'fit_Latn', 'fkv_Latn', 'afon_Latn', 'frd_Latn', 'fro_Latn', 'frp_Latn', 'frr_Latn', 'nfue_Latn', 'fuf_Latn', 'fuh_Latn', 'nfur_Latn', 'bfuv_Latn', 'gaa_Latn', 'gag_Latn', 'ngai_Latn', 'ngaw_Latn', 'gaz_Latn', 'gbi_Latn', 'gbo_Latn', 'ngcf_Latn', 'gcr_Latn', 'gde_Latn', 'gdg_Latn', 'gdn_Latn', 'gdr_Latn', 'ngfk_Latn', 'ngil_Latn', 'ngkn_Latn', 'glv_Latn', 'gmv_Latn', 'ngnd_Latn', 'gng_Latn', 'gnn_Latn', 'gnw_Latn', 'gof_Latn', 'gog_Latn', 'goh_Latn', 'gom_Latn', 'gor_Latn', 'gos_Latn', 'gqr_Latn', 'gso_Latn', 'gsw_Latn', 'gub_Latn', 'guc_Latn', 'ngug_Latn', 'guh_Latn', 'gui_Latn', 'guj_Latn', 'gul_Latn', 'gum_Latn', 'gun_Latn', 'guo_Latn', 'ngur_Latn', 'nguw_Latn', 'gux_Latn', 'guz_Latn', 'ngvf_Latn', 'gvl_Latn', 'gvn_Latn', 'gwi_Latn', 'ngym_Latn', 'hae_Latn', 'hag_Latn', 'ihak_Latn', 'hav_Latn', 'hay_Latn', 'hch_Latn', 'heg_Latn', 'heh_Latn', 'her_Latn', 'hig_Latn', 'hil_Latn', 'nhla_Latn', 'hmo_Latn', 'hmr_Latn', 'hnj_Latn', 'hnn_Latn', 'hns_Latn', 'nhot_Latn', 'hra_Latn', 'hrx_Latn', 'hsb_Latn', 'hto_Latn', 'hub_Latn', 'hui_Latn', 'hus_Latn', 'nhuv_Latn', 'nhwc_Latn', 'ian_Latn', 'iba_Latn', 'icr_Latn', 'ido_Latn', 'idu_Latn', 'nifb_Latn', 'nifk_Latn', 'ifu_Latn', 'ify_Latn', 'ige_Latn', 'ikk_Latn', 'ikt_Latn', 'nile_Latn', 'ilo_Latn', 'imo_Latn', 'ina_Latn', 'inb_Latn', 'ino_Latn', 'iou_Latn', 'ipi_Latn', 'iqw_Latn', 'iri_Latn', 'irk_Latn', 'nisd_Latn', 'ish_Latn', 'iso_Latn', 'itv_Latn', 'ium_Latn', 'nivv_Latn', 'iws_Latn', 'ixl_Latn', 'izr_Latn', 'izz_Latn', 'njac_Latn', 'jae_Latn', 'jam_Latn', 'jbo_Latn', 'jbu_Latn', 'njiv_Latn', 'jra_Latn', 'ajvn_Latn', 'kaa_Latn', 'kab_Latn', 'kac_Latn', 'nkal_Latn', 'kam_Latn', 'kan_Latn', 'kao_Latn', 'kaq_Latn', 'kbc_Latn', 'kbh_Latn', 'kbm_Latn', 'nkbp_Latn', 'kbq_Latn', 'kbr_Latn', 'kcg_Latn', 'kck_Latn', 'nkde_Latn', 'nkdi_Latn', 'nkea_Latn', 'nkek_Latn', 'ken_Latn', 'keo_Latn', 'nkew_Latn', 'kez_Latn', 'ukgf_Latn', 'nkgp_Latn', 'nkha_Latn', 'khs_Latn', 'khz_Latn', 'nkij_Latn', 'kik_Latn', 'kiu_Latn', 'kix_Latn', 'kjs_Latn', 'kkc_Latn', 'kki_Latn', 'kkj_Latn', 'kkl_Latn', 'nklv_Latn', 'kmb_Latn', 'kmg_Latn', 'kmh_Latn', 'nkmo_Latn', 'kms_Latn', 'kmu_Latn', 'nknc_Latn', 'kne_Latn', 'knf_Latn', 'kng_Latn', 'knj_Latn', 'knk_Latn', 'nknv_Latn', 'koo_Latn', 'kos_Latn', 'kpe_Latn', 'kpf_Latn', 'kpg_Latn', 'nkpr_Latn', 'kpw_Latn', 'kpx_Latn', 'kpz_Latn', 'kqc_Latn', 'kqe_Latn', 'kqf_Latn', 'nkqn_Latn', 'nkqp_Latn', 'nkqw_Latn', 'kri_Latn', 'krj_Latn', 'krl_Latn', 'nksd_Latn', 'nksh_Latn', 'nkss_Latn', 'iktj_Latn', 'nkto_Latn', 'ktu_Latn', 'nkua_Latn', 'nkud_Latn', 'kue_Latn', 'kuj_Latn', 'kup_Latn', 'kus_Latn', 'nkvn_Latn', 'kwd_Latn', 'kwf_Latn', 'nkwj_Latn', 'kwn_Latn', 'kwy_Latn', 'nkyc_Latn', 'kyf_Latn', 'kyg_Latn', 'kyq_Latn', 'rkyz_Latn', 'kze_Latn', 'nkzj_Latn', 'lad_Latn', 'lai_Latn', 'nlam_Latn', 'lbb_Latn', 'tlbk_Latn', 'lcm_Latn', 'ldi_Latn', 'nlee_Latn', 'lef_Latn', 'leh_Latn', 'lem_Latn', 'leu_Latn', 'lew_Latn', 'lex_Latn', 'lfn_Latn', 'lgg_Latn', 'nlia_Latn', 'blij_Latn', 'lim_Latn', 'lin_Latn', 'lip_Latn', 'liv_Latn', 'ljp_Latn', 'nlld_Latn', 'llg_Latn', 'nlmo_Latn', 'lmp_Latn', 'nloz_Latn', 'nlsm_Latn', 'ltg_Latn', 'lua_Latn', 'lub_Latn', 'nlue_Latn', 'lug_Latn', 'nluo_Latn', 'nlww_Latn', 'maa_Latn', 'mad_Latn', 'mah_Latn', 'nmak_Latn', 'mal_Latn', 'mam_Latn', 'maq_Latn', 'mar_Latn', 'mas_Latn', 'mau_Latn', 'mav_Latn', 'nmaz_Latn', 'mbb_Latn', 'nmbh_Latn', 'mbi_Latn', 'nmbl_Latn', 'nmbt_Latn', 'nmcd_Latn', 'nmco_Latn', 'nmcq_Latn', 'mcu_Latn', 'med_Latn', 'mee_Latn', 'mej_Latn', 'mek_Latn', 'men_Latn', 'meq_Latn', 'mer_Latn', 'nmeu_Latn', 'nmfe_Latn', 'nmfi_Latn', 'nmfq_Latn', 'nmfz_Latn', 'nmgh_Latn', 'nmgr_Latn', 'nmhl_Latn', 'nmhy_Latn', 'nmif_Latn', 'mig_Latn', 'nmil_Latn', 'nmin_Latn', 'mio_Latn', 'mip_Latn', 'miq_Latn', 'mir_Latn', 'nmiy_Latn', 'nmjc_Latn', 'mjw_Latn', 'nmkn_Latn', 'mks_Latn', 'nmlp_Latn', 'nmmn_Latn', 'mmo_Latn', 'mmx_Latn', 'mna_Latn', 'mni_Latn', 'mnk_Latn', 'nmog_Latn', 'moh_Latn', 'mop_Latn', 'nmos_Latn', 'mox_Latn', 'nmpm_Latn', 'mpp_Latn', 'mps_Latn', 'nmpx_Latn', 'mqb_Latn', 'mqj_Latn', 'mrq_Latn', 'nmsb_Latn', 'nmsy_Latn', 'nmti_Latn', 'mto_Latn', 'mtp_Latn', 'nmuh_Latn', 'mui_Latn', 'mur_Latn', 'nmux_Latn', 'muy_Latn', 'mva_Latn', 'mvn_Latn', 'mvp_Latn', 'nmwl_Latn', 'mwm_Latn', 'mwn_Latn', 'nmwq_Latn', 'mwv_Latn', 'mxb_Latn', 'mxp_Latn', 'mxq_Latn', 'mxt_Latn', 'nmyk_Latn', 'myu_Latn', 'myw_Latn', 'nmyy_Latn', 'mzw_Latn', 'nnab_Latn', 'naf_Latn', 'nah_Latn', 'nak_Latn', 'nan_Latn', 'nap_Latn', 'naq_Latn', 'nas_Latn', 'nnba_Latn', 'nnbl_Latn', 'nbq_Latn', 'nbu_Latn', 'nca_Latn', 'nch_Latn', 'ncj_Latn', 'nncx_Latn', 'ndc_Latn', 'nde_Latn', 'ndh_Latn', 'nndo_Latn', 'nds_Latn', 'nfa_Latn', 'nfr_Latn', 'nngl_Latn', 'nngu_Latn', 'nnhe_Latn', 'nhg_Latn', 'nhi_Latn', 'nnhr_Latn', 'nhu_Latn', 'nhw_Latn', 'nhx_Latn', 'nhy_Latn', 'nia_Latn', 'nif_Latn', 'nii_Latn', 'nij_Latn', 'nim_Latn', 'nin_Latn', 'lniu_Latn', 'nnjn_Latn', 'njo_Latn', 'nnkf_Latn', 'nnmf_Latn', 'nnmz_Latn', 'nnb_Latn', 'nnoa_Latn', 'non_Latn', 'nop_Latn', 'not_Latn', 'nou_Latn', 'nov_Latn', 'npi_Latn', 'npl_Latn', 'nnpy_Latn', 'nnse_Latn', 'nnsn_Latn', 'nso_Latn', 'nss_Latn', 'nnsu_Latn', 'ntp_Latn', 'ntr_Latn', 'ntu_Latn', 'nuj_Latn', 'nus_Latn', 'nuy_Latn', 'nnwi_Latn', 'nyf_Latn', 'nnyn_Latn', 'nyo_Latn', 'nyu_Latn', 'nyy_Latn', 'nnzi_Latn', 'noci_Latn', 'ogo_Latn', 'nokv_Latn', 'nolo_Latn', 'nomw_Latn', 'nons_Latn', 'nopm_Latn', 'ory_Latn', 'note_Latn', 'otm_Latn', 'notq_Latn', 'ots_Latn', 'otw_Latn', 'nozm_Latn', 'pab_Latn', 'pad_Latn', 'pag_Latn', 'pah_Latn', 'pam_Latn', 'pan_Latn', 'pau_Latn', 'pcd_Latn', 'pck_Latn', 'pcm_Latn', 'pdc_Latn', 'pdt_Latn', 'pem_Latn', 'npfl_Latn', 'npio_Latn', 'pir_Latn', 'pis_Latn', 'pjt_Latn', 'pkb_Latn', 'plg_Latn', 'pls_Latn', 'plu_Latn', 'npma_Latn', 'pmf_Latn', 'pmq_Latn', 'pms_Latn', 'npoh_Latn', 'pon_Latn', 'npot_Latn', 'nppk_Latn', 'ppo_Latn', 'pps_Latn', 'prf_Latn', 'prg_Latn', 'pri_Latn', 'nptp_Latn', 'ptu_Latn', 'npwg_Latn', 'pwn_Latn', 'nqub_Latn', 'quc_Latn', 'quf_Latn', 'qug_Latn', 'quh_Latn', 'nqup_Latn', 'nquw_Latn', 'quy_Latn', 'quz_Latn', 'nqvc_Latn', 'qve_Latn', 'qvh_Latn', 'qvi_Latn', 'qvm_Latn', 'qvn_Latn', 'nqvs_Latn', 'qvw_Latn', 'qvz_Latn', 'qwh_Latn', 'qxh_Latn', 'nqxn_Latn', 'nqxr_Latn', 'rad_Latn', 'rai_Latn', 'nrar_Latn', 'raw_Latn', 'rcf_Latn', 'nrgu_Latn', 'nria_Latn', 'nrmc_Latn', 'nrml_Latn', 'rmn_Latn', 'rmo_Latn', 'rmq_Latn', 'rmy_Latn', 'rnd_Latn', 'rng_Latn', 'nroh_Latn', 'roo_Latn', 'rop_Latn', 'nrro_Latn', 'rtm_Latn', 'ruf_Latn', 'rug_Latn', 'run_Latn', 'rup_Latn', 'rwo_Latn', 'sab_Latn', 'sag_Latn', 'san_Latn', 'sas_Latn', 'sat_Latn', 'nsbe_Latn', 'sbl_Latn', 'nsby_Latn', 'scn_Latn', 'sco_Latn', 'nseh_Latn', 'ses_Latn', 'nsgb_Latn', 'sgc_Latn', 'lsgs_Latn', 'sgz_Latn', 'shi_Latn', 'shp_Latn', 'bsid_Latn', 'sig_Latn', 'sil_Latn', 'sim_Latn', 'sja_Latn', 'nskg_Latn', 'sll_Latn', 'sma_Latn', 'sme_Latn', 'smj_Latn', 'smk_Latn', 'sml_Latn', 'smn_Latn', 'sms_Latn', 'snc_Latn', 'snd_Latn', 'nsnn_Latn', 'snp_Latn', 'nsny_Latn', 'sop_Latn', 'soq_Latn', 'soy_Latn', 'nspl_Latn', 'spm_Latn', 'spp_Latn', 'sps_Latn', 'spy_Latn', 'srd_Latn', 'nsrm_Latn', 'srn_Latn', 'nssg_Latn', 'ssw_Latn', 'nstp_Latn', 'stq_Latn', 'sua_Latn', 'nsue_Latn', 'suk_Latn', 'sur_Latn', 'sus_Latn', 'nswc_Latn', 'swg_Latn', 'nswp_Latn', 'sxb_Latn', 'nsyb_Latn', 'gsyl_Latn', 'szl_Latn', 'szy_Latn', 'tac_Latn', 'tah_Latn', 'tam_Latn', 'ntaq_Latn', 'tar_Latn', 'tat_Latn', 'ntaw_Latn', 'tay_Latn', 'tbc_Latn', 'tbg_Latn', 'ntbo_Latn', 'ntby_Latn', 'tbz_Latn', 'tca_Latn', 'ntcf_Latn', 'tcs_Latn', 'tcz_Latn', 'ted_Latn', 'tee_Latn', 'tel_Latn', 'nteo_Latn', 'ntet_Latn', 'tew_Latn', 'tfr_Latn', 'ntgp_Latn', 'thk_Latn', 'ntim_Latn', 'tiv_Latn', 'tiy_Latn', 'ntkl_Latn', 'ntlf_Latn', 'tlh_Latn', 'ntll_Latn', 'tly_Latn', 'ntna_Latn', 'tnc_Latn', 'tnk_Latn', 'tnn_Latn', 'tnp_Latn', 'ntoc_Latn', 'ntog_Latn', 'toh_Latn', 'toi_Latn', 'toj_Latn', 'tok_Latn', 'ton_Latn', 'too_Latn', 'top_Latn', 'tos_Latn', 'ntpi_Latn', 'ntpp_Latn', 'tpt_Latn', 'ntpz_Latn', 'ntrc_Latn', 'trn_Latn', 'ntrp_Latn', 'ntrs_Latn', 'trv_Latn', 'tsc_Latn', 'tsg_Latn', 'tsn_Latn', 'tso_Latn', 'tsw_Latn', 'tsz_Latn', 'nttj_Latn', 'ttq_Latn', 'gtuc_Latn', 'tue_Latn', 'tuf_Latn', 'ntum_Latn', 'tuo_Latn', 'ntuv_Latn', 'tvk_Latn', 'tvl_Latn', 'twi_Latn', 'twu_Latn', 'ntxq_Latn', 'txu_Latn', 'tzh_Latn', 'tzj_Latn', 'tzo_Latn', 'ubr_Latn', 'ubu_Latn', 'udu_Latn', 'luig_Latn', 'umb_Latn', 'upv_Latn', 'ura_Latn', 'urd_Latn', 'urh_Latn', 'nusp_Latn', 'nuvl_Latn', 'vag_Latn', 'vap_Latn', 'nvec_Latn', 'ven_Latn', 'vep_Latn', 'vid_Latn', 'viv_Latn', 'vls_Latn', 'nvmw_Latn', 'vmy_Latn', 'vol_Latn', 'nvro_Latn', 'vun_Latn', 'nwaj_Latn', 'wal_Latn', 'nwar_Latn', 'nwbp_Latn', 'wed_Latn', 'wer_Latn', 'nwiu_Latn', 'wln_Latn', 'wls_Latn', 'wlv_Latn', 'nwmt_Latn', 'nwnc_Latn', 'wnu_Latn', 'wob_Latn', 'wol_Latn', 'wos_Latn', 'wrk_Latn', 'wrs_Latn', 'wuv_Latn', 'xav_Latn', 'xbi_Latn', 'xla_Latn', 'nxmv_Latn', 'xnn_Latn', 'xog_Latn', 'xon_Latn', 'xrb_Latn', 'nxsi_Latn', 'xsm_Latn', 'nxtd_Latn', 'xtm_Latn', 'nxuo_Latn', 'nyal_Latn', 'nyan_Latn', 'yao_Latn', 'yap_Latn', 'nyby_Latn', 'nyle_Latn', 'yli_Latn', 'yml_Latn', 'yom_Latn', 'yon_Latn', 'yrb_Latn', 'yre_Latn', 'nyss_Latn', 'yua_Latn', 'yuj_Latn', 'nyut_Latn', 'yuw_Latn', 'nzaa_Latn', 'zab_Latn', 'zac_Latn', 'zad_Latn', 'nzai_Latn', 'nzav_Latn', 'zaw_Latn', 'nzdj_Latn', 'zea_Latn', 'zia_Latn', 'ziw_Latn', 'zne_Latn', 'zom_Latn', 'zos_Latn', 'zpa_Latn', 'zpc_Latn', 'zpg_Latn', 'nzpl_Latn', 'nzpt_Latn', 'zpu_Latn', 'nzpz_Latn', 'nztq_Latn', 'zty_Latn', 'zyb_Latn', 'zyp_Latn'], # truncated example, replace with full list
"80-100K": ['gmh_Latn', 'haw_Latn', 'hin_Latn', 'nibo_Latn', 'lus_Latn', 'nsna_Latn', 'sot_Latn', 'yor_Latn'],
"100-200K": ['cos_Latn', 'hif_Latn', 'jav_Latn', 'nmri_Latn', 'mww_Latn', 'nnya_Latn', 'npap_Latn', 'smo_Latn', 'sun_Latn', 'zul_Latn'],
"200-300K": ['nceb_Latn', 'fao_Latn', 'gla_Latn', 'hat_Latn', 'plt_Latn', 'tuk_Latn', 'nxho_Latn'],
"300-400K": ['nepo_Latn', 'fry_Latn', 'kin_Latn', 'ltz_Latn'],
"400-500K": ['nbew_Latn', 'kmr_Latn', 'mlt_Latn'],
">500K": ['afr_Latn', 'als_Latn', 'azj_Latn', 'bos_Latn', 'cat_Latn', 'nces_Latn', 'cym_Latn', 'dan_Latn', 'deu_Latn', 'nekk_Latn', 'neus_Latn', 'fil_Latn', 'fin_Latn', 'nfra_Latn', 'gle_Latn', 'glg_Latn', 'hau_Latn', 'hrv_Latn', 'hun_Latn', 'ind_Latn', 'isl_Latn', 'ita_Latn', 'nlat_Latn', 'ulit_Latn', 'lvs_Latn', 'nnld_Latn', 'nnno_Latn', 'nob_Latn', 'nnrm_Latn', 'npol_Latn', 'por_Latn', 'ron_Latn', 'nslk_Latn', 'slv_Latn', 'nsom_Latn', 'srp_Latn', 'swe_Latn', 'swh_Latn', 'uzn_Latn', 'vie_Latn', 'bzsm_Latn']
}
Dataset prepared by Suchir Salhan