wiki13_tokenized_precision / dump_stats.json
kgrabko's picture
Add files using upload-large-folder tool
168d11d verified
Raw History Blame Contribute Delete
1.83 kB
{
"en": {
"articles": 6407814,
"pass_frac": 0.7806666666666666,
"tokens_per_article": 936.1673783091375,
"min_chars": 500
},
"zh": {
"articles": 1384748,
"pass_frac": 0.30933333333333335,
"tokens_per_article": 1517.2327586206898,
"min_chars": 500
},
"fr": {
"articles": 2564646,
"pass_frac": 0.8046666666666666,
"tokens_per_article": 1127.53314001657,
"min_chars": 500
},
"es": {
"articles": 1841155,
"pass_frac": 0.8,
"tokens_per_article": 1185.6683333333333,
"min_chars": 500
},
"pt": {
"articles": 1112246,
"pass_frac": 0.6533333333333333,
"tokens_per_article": 1042.2163265306122,
"min_chars": 500
},
"de": {
"articles": 2845308,
"pass_frac": 0.8566666666666667,
"tokens_per_article": 1159.4260700389104,
"min_chars": 500
},
"it": {
"articles": 1833639,
"pass_frac": 0.66,
"tokens_per_article": 1199.959090909091,
"min_chars": 500
},
"ru": {
"articles": 1945063,
"pass_frac": 0.8426666666666667,
"tokens_per_article": 1327.729825949367,
"min_chars": 500
},
"ja": {
"articles": 1389467,
"pass_frac": 0.7253333333333334,
"tokens_per_article": 1832.920955882353,
"min_chars": 500
},
"ko": {
"articles": 647897,
"pass_frac": 0.41533333333333333,
"tokens_per_article": 1379.7512038523275,
"min_chars": 500
},
"vi": {
"articles": 1288680,
"pass_frac": 0.207,
"tokens_per_article": 1057.6537842190016,
"min_chars": 500
},
"th": {
"articles": 159719,
"pass_frac": 0.7866666666666666,
"tokens_per_article": 1649.0309322033897,
"min_chars": 500
},
"ar": {
"articles": 1219201,
"pass_frac": 0.4613333333333333,
"tokens_per_article": 999.8359826589596,
"min_chars": 500
}
}