Download dump_stats.json from CMSManhattan/wiki13_tokenized_precision: direct link, hf CLI and curl.
- Browser
- Download file 1.83 kB
-
https://huggingface.co/datasets/CMSManhattan/wiki13_tokenized_precision/resolve/main/dump_stats.json
- Command line
-
hf download hf://datasets/CMSManhattan/wiki13_tokenized_precision/dump_stats.json
-
curl -L -o dump_stats.json https://huggingface.co/datasets/CMSManhattan/wiki13_tokenized_precision/resolve/main/dump_stats.json
1.83 kB
| { | |
| "en": { | |
| "articles": 6407814, | |
| "pass_frac": 0.7806666666666666, | |
| "tokens_per_article": 936.1673783091375, | |
| "min_chars": 500 | |
| }, | |
| "zh": { | |
| "articles": 1384748, | |
| "pass_frac": 0.30933333333333335, | |
| "tokens_per_article": 1517.2327586206898, | |
| "min_chars": 500 | |
| }, | |
| "fr": { | |
| "articles": 2564646, | |
| "pass_frac": 0.8046666666666666, | |
| "tokens_per_article": 1127.53314001657, | |
| "min_chars": 500 | |
| }, | |
| "es": { | |
| "articles": 1841155, | |
| "pass_frac": 0.8, | |
| "tokens_per_article": 1185.6683333333333, | |
| "min_chars": 500 | |
| }, | |
| "pt": { | |
| "articles": 1112246, | |
| "pass_frac": 0.6533333333333333, | |
| "tokens_per_article": 1042.2163265306122, | |
| "min_chars": 500 | |
| }, | |
| "de": { | |
| "articles": 2845308, | |
| "pass_frac": 0.8566666666666667, | |
| "tokens_per_article": 1159.4260700389104, | |
| "min_chars": 500 | |
| }, | |
| "it": { | |
| "articles": 1833639, | |
| "pass_frac": 0.66, | |
| "tokens_per_article": 1199.959090909091, | |
| "min_chars": 500 | |
| }, | |
| "ru": { | |
| "articles": 1945063, | |
| "pass_frac": 0.8426666666666667, | |
| "tokens_per_article": 1327.729825949367, | |
| "min_chars": 500 | |
| }, | |
| "ja": { | |
| "articles": 1389467, | |
| "pass_frac": 0.7253333333333334, | |
| "tokens_per_article": 1832.920955882353, | |
| "min_chars": 500 | |
| }, | |
| "ko": { | |
| "articles": 647897, | |
| "pass_frac": 0.41533333333333333, | |
| "tokens_per_article": 1379.7512038523275, | |
| "min_chars": 500 | |
| }, | |
| "vi": { | |
| "articles": 1288680, | |
| "pass_frac": 0.207, | |
| "tokens_per_article": 1057.6537842190016, | |
| "min_chars": 500 | |
| }, | |
| "th": { | |
| "articles": 159719, | |
| "pass_frac": 0.7866666666666666, | |
| "tokens_per_article": 1649.0309322033897, | |
| "min_chars": 500 | |
| }, | |
| "ar": { | |
| "articles": 1219201, | |
| "pass_frac": 0.4613333333333333, | |
| "tokens_per_article": 999.8359826589596, | |
| "min_chars": 500 | |
| } | |
| } |