Datasets:

adegier
/

tokenizer-fertility-pl

tokenizer stringclasses 70 values	label stringclasses 70 values	method stringclasses 2 values	group stringclasses 5 values	origin stringclasses 5 values	vocab_size float64 456 262k ⌀	polish_model bool 2 classes	bench_ref bool 2 classes	alias_of stringclasses 9 values	alias_label stringclasses 9 values	repo_used stringclasses 64 values	input_usd_per_m float64 0.03 2 ⌀	language stringclasses 25 values	language_pl stringclasses 25 values	language_en stringclasses 25 values	family stringclasses 8 values	script stringclasses 3 values	fertility float64 1.19 12.9	se float64 0 0.11 ⌀	n_blocks int64 1 6	chars_per_token float64 0.55 5.34	bytes_per_token float64 1 7.23
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	eng_Latn	angielski	English	germańskie	łaciński	1.21532	0.012883	5	5.006165	5.008967
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	spa_Latn	hiszpański	Spanish	romańskie	łaciński	1.332916	0.008291	6	4.592069	4.673973
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	fra_Latn	francuski	French	romańskie	łaciński	1.40322	0.011804	6	4.41087	4.569492
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	por_Latn	portugalski	Portuguese	romańskie	łaciński	1.383559	0.013825	5	4.434555	4.570219
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	ita_Latn	włoski	Italian	romańskie	łaciński	1.491987	0.007849	6	4.3621	4.389528
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	nld_Latn	niderlandzki	Dutch	germańskie	łaciński	1.556417	0.016381	5	4.156545	4.162646
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	deu_Latn	niemiecki	German	germańskie	łaciński	1.606112	0.02061	6	4.489226	4.559653
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	dan_Latn	duński	Danish	germańskie	łaciński	1.762961	0.02903	5	3.612541	3.686733
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	swe_Latn	szwedzki	Swedish	germańskie	łaciński	1.741344	0.015971	5	3.757435	3.911055
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	ron_Latn	rumuński	Romanian	romańskie	łaciński	1.650983	0.015804	5	3.825502	4.020701
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	pol_Latn	polski	Polish	słowiańskie	łaciński	1.893891	0.013999	5	3.79222	4.01726
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	gle_Latn	irlandzki	Irish	celtyckie	łaciński	2.142976	0.019476	6	2.784838	2.969838
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	ces_Latn	czeski	Czech	słowiańskie	łaciński	2.041109	0.015188	5	3.245879	3.618631
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	slv_Latn	słoweński	Slovenian	słowiańskie	łaciński	2.111993	0.010292	5	3.14662	3.216696
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	hrv_Latn	chorwacki	Croatian	słowiańskie	łaciński	2.124058	0.008667	5	3.168378	3.250896
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	bul_Cyrl	bułgarski	Bulgarian	słowiańskie	cyrylica	1.873582	0.016019	5	3.456842	6.242889
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	slk_Latn	słowacki	Slovak	słowiańskie	łaciński	2.142421	0.00951	5	3.175697	3.461766
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	ukr_Cyrl	ukraiński	Ukrainian	słowiańskie	cyrylica	2.163662	0.02601	5	3.277666	5.98201
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	hun_Latn	węgierski	Hungarian	ugrofińskie	łaciński	2.22074	0.010563	5	3.383032	3.726457
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	est_Latn	estoński	Estonian	ugrofińskie	łaciński	2.538317	0.028091	5	3.094966	3.186903
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	lit_Latn	litewski	Lithuanian	bałtyckie	łaciński	2.500673	0.026299	5	3.03581	3.238474
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	lvs_Latn	łotewski	Latvian	bałtyckie	łaciński	2.52662	0.036053	5	2.900095	3.168444
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	fin_Latn	fiński	Finnish	ugrofińskie	łaciński	2.704861	0.023886	5	3.286737	3.41232
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	ell_Grek	grecki	Greek	grecki	grecki	2.294584	0.014843	6	2.898489	5.270515
llama4_maverick	Llama 4 Maverick	local	global	USA	201,135	false	false	null	null	unsloth/Llama-4-Maverick-17B-128E-Instruct	null	mlt_Latn	maltański	Maltese	semickie	łaciński	3.223334	0.028864	5	2.394284	2.521514
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	eng_Latn	angielski	English	germańskie	łaciński	1.224206	0.008253	5	4.97734	4.980126
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	spa_Latn	hiszpański	Spanish	romańskie	łaciński	1.601544	0.005768	6	3.820298	3.888436
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	fra_Latn	francuski	French	romańskie	łaciński	1.652022	0.019391	6	3.737403	3.871807
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	por_Latn	portugalski	Portuguese	romańskie	łaciński	1.694204	0.009836	5	3.620113	3.730861
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	ita_Latn	włoski	Italian	romańskie	łaciński	1.828174	0.023137	6	3.547769	3.570077
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	nld_Latn	niderlandzki	Dutch	germańskie	łaciński	1.870812	0.021221	5	3.457954	3.463029
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	deu_Latn	niemiecki	German	germańskie	łaciński	1.99614	0.028433	6	3.616801	3.673541
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	dan_Latn	duński	Danish	germańskie	łaciński	2.001532	0.028808	5	3.183828	3.249215
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	swe_Latn	szwedzki	Swedish	germańskie	łaciński	2.069456	0.017555	5	3.163222	3.292548
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	ron_Latn	rumuński	Romanian	romańskie	łaciński	2.112492	0.012488	5	2.988887	3.141397
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	pol_Latn	polski	Polish	słowiańskie	łaciński	2.607447	0.020347	5	2.754919	2.918403
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	gle_Latn	irlandzki	Irish	celtyckie	łaciński	2.402419	0.026086	6	2.478493	2.643142
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	ces_Latn	czeski	Czech	słowiańskie	łaciński	2.096207	0.020119	5	3.152577	3.514615
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	slv_Latn	słoweński	Slovenian	słowiańskie	łaciński	2.453353	0.030088	5	2.714474	2.774926
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	hrv_Latn	chorwacki	Croatian	słowiańskie	łaciński	2.473885	0.018671	5	2.725144	2.796118
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	bul_Cyrl	bułgarski	Bulgarian	słowiańskie	cyrylica	2.579611	0.025894	5	2.509926	4.532805
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	slk_Latn	słowacki	Slovak	słowiańskie	łaciński	2.552471	0.01859	5	2.666169	2.90634
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	ukr_Cyrl	ukraiński	Ukrainian	słowiańskie	cyrylica	2.326747	0.028502	5	3.048211	5.563236
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	hun_Latn	węgierski	Hungarian	ugrofińskie	łaciński	3.082791	0.025563	5	2.439976	2.687667
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	est_Latn	estoński	Estonian	ugrofińskie	łaciński	3.021766	0.029753	5	2.601214	2.678484
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	lit_Latn	litewski	Lithuanian	bałtyckie	łaciński	3.340846	0.041393	5	2.269936	2.421471
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	lvs_Latn	łotewski	Latvian	bałtyckie	łaciński	3.389558	0.055823	5	2.158714	2.358462
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	fin_Latn	fiński	Finnish	ugrofińskie	łaciński	3.37408	0.04064	5	2.6346	2.735265
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	ell_Grek	grecki	Greek	grecki	grecki	2.529115	0.014432	6	2.630296	4.782841
llama33	Llama 3.3	local	global	USA	128,256	false	false	null	null	unsloth/Llama-3.3-70B-Instruct	null	mlt_Latn	maltański	Maltese	semickie	łaciński	3.395053	0.024323	5	2.272992	2.393777
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	eng_Latn	angielski	English	germańskie	łaciński	1.272718	0.017527	5	4.775125	4.777798
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	spa_Latn	hiszpański	Spanish	romańskie	łaciński	1.344355	0.007935	6	4.540995	4.621988
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	fra_Latn	francuski	French	romańskie	łaciński	1.436848	0.017078	6	4.297938	4.4525
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	por_Latn	portugalski	Portuguese	romańskie	łaciński	1.4457	0.018884	5	4.242487	4.372275
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	ita_Latn	włoski	Italian	romańskie	łaciński	1.536132	0.016569	6	4.225711	4.252281
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	nld_Latn	niderlandzki	Dutch	germańskie	łaciński	1.606688	0.021548	5	4.027002	4.032912
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	deu_Latn	niemiecki	German	germańskie	łaciński	1.608159	0.016311	6	4.467261	4.537344
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	dan_Latn	duński	Danish	germańskie	łaciński	1.77517	0.031031	5	3.588852	3.662557
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	swe_Latn	szwedzki	Swedish	germańskie	łaciński	1.787125	0.015118	5	3.661881	3.811594
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	ron_Latn	rumuński	Romanian	romańskie	łaciński	1.800371	0.02152	5	3.508678	3.687711
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	pol_Latn	polski	Polish	słowiańskie	łaciński	2.053634	0.020484	5	3.497367	3.70491
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	gle_Latn	irlandzki	Irish	celtyckie	łaciński	2.284455	0.029379	6	2.604202	2.777201
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	ces_Latn	czeski	Czech	słowiańskie	łaciński	2.140608	0.025264	5	3.092564	3.44771
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	slv_Latn	słoweński	Slovenian	słowiańskie	łaciński	2.187172	0.01278	5	3.036306	3.103926
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	hrv_Latn	chorwacki	Croatian	słowiańskie	łaciński	2.290277	0.008654	5	2.939182	3.015731
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	bul_Cyrl	bułgarski	Bulgarian	słowiańskie	cyrylica	2.094406	0.024512	5	3.090431	5.581168
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	slk_Latn	słowacki	Slovak	słowiańskie	łaciński	2.246211	0.016884	5	3.024046	3.296455
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	ukr_Cyrl	ukraiński	Ukrainian	słowiańskie	cyrylica	2.396466	0.031055	5	2.956127	5.395175
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	hun_Latn	węgierski	Hungarian	ugrofińskie	łaciński	2.455875	0.019222	5	3.057755	3.368159
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	est_Latn	estoński	Estonian	ugrofińskie	łaciński	2.696017	0.03611	5	2.91271	2.999232
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	lit_Latn	litewski	Lithuanian	bałtyckie	łaciński	2.590594	0.032389	5	2.928957	3.124487
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	lvs_Latn	łotewski	Latvian	bałtyckie	łaciński	2.708121	0.034606	5	2.705784	2.956153
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	fin_Latn	fiński	Finnish	ugrofińskie	łaciński	2.792154	0.040533	5	3.18397	3.305626
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	ell_Grek	grecki	Greek	grecki	grecki	2.633053	0.012853	6	2.525781	4.592794
gemma2	Gemma 2	local	global	USA	256,000	false	false	null	null	unsloth/gemma-2-27b	null	mlt_Latn	maltański	Maltese	semickie	łaciński	2.9417	0.047688	5	2.624137	2.763582
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	eng_Latn	angielski	English	germańskie	łaciński	1.211946	0.011652	5	5.023055	5.025867
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	spa_Latn	hiszpański	Spanish	romańskie	łaciński	1.341913	0.007303	6	4.556589	4.637859
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	fra_Latn	francuski	French	romańskie	łaciński	1.394127	0.01387	6	4.434172	4.593633
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	por_Latn	portugalski	Portuguese	romańskie	łaciński	1.378616	0.012617	5	4.449629	4.585754
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	ita_Latn	włoski	Italian	romańskie	łaciński	1.620489	0.016161	6	4.004323	4.029502
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	nld_Latn	niderlandzki	Dutch	germańskie	łaciński	1.443802	0.018483	5	4.480867	4.487444
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	deu_Latn	niemiecki	German	germańskie	łaciński	1.609023	0.016887	6	4.471122	4.541265
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	dan_Latn	duński	Danish	germańskie	łaciński	1.719973	0.028941	5	3.701474	3.777492
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	swe_Latn	szwedzki	Swedish	germańskie	łaciński	1.776619	0.012687	5	3.684044	3.834663
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	ron_Latn	rumuński	Romanian	romańskie	łaciński	1.818018	0.013368	5	3.472677	3.649873
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	pol_Latn	polski	Polish	słowiańskie	łaciński	2.22675	0.01547	5	3.226364	3.417824
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	gle_Latn	irlandzki	Irish	celtyckie	łaciński	1.928314	0.020808	6	3.099721	3.305639
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	ces_Latn	czeski	Czech	słowiańskie	łaciński	2.198384	0.021734	5	3.011935	3.357822
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	slv_Latn	słoweński	Slovenian	słowiańskie	łaciński	2.027694	0.002952	5	3.275643	3.348592
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	hrv_Latn	chorwacki	Croatian	słowiańskie	łaciński	2.024766	0.01092	5	3.323146	3.409694
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	bul_Cyrl	bułgarski	Bulgarian	słowiańskie	cyrylica	2.147678	0.024255	5	3.015079	5.445086
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	slk_Latn	słowacki	Slovak	słowiańskie	łaciński	2.290197	0.013389	5	2.968747	3.236174
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	ukr_Cyrl	ukraiński	Ukrainian	słowiańskie	cyrylica	2.457946	0.025253	5	2.883186	5.262051
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	hun_Latn	węgierski	Hungarian	ugrofińskie	łaciński	2.561822	0.016384	5	2.933998	3.231839
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	est_Latn	estoński	Estonian	ugrofińskie	łaciński	2.403204	0.026911	5	3.268242	3.365325
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	lit_Latn	litewski	Lithuanian	bałtyckie	łaciński	2.583721	0.031263	5	2.935613	3.131587
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	lvs_Latn	łotewski	Latvian	bałtyckie	łaciński	2.622076	0.034427	5	2.793023	3.051465
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	fin_Latn	fiński	Finnish	ugrofińskie	łaciński	2.621659	0.02959	5	3.390784	3.520342
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	ell_Grek	grecki	Greek	grecki	grecki	2.382508	0.015524	6	2.790923	5.074919
gpt4o	GPT-4o (o200k)	local	global	USA	200,019	false	false	null	null	o200k_base	null	mlt_Latn	maltański	Maltese	semickie	łaciński	2.618615	0.03728	5	2.947818	3.104463

End of preview. Expand in Data Studio

Ile tokenów na jedno słowo — polskie modele i 25 języków europejskich

Pomiary „podatku tokenowego” (tokeny na słowo) dla 52 unikalnych tokenizerów LLM i 4 enkoderów na SIB-200 (split testowy, 25 języków), z replikacją arXiv 2605.24718 dla polskich modeli. Raport z wykresami i kod: https://github.com/adgr3/tokenizer-tax-pl

Pliki

data/fertility_long.csv — jeden wiersz = tokenizer × język: fertility (średnia po blokach), se, n_blocks, chars_per_token, bytes_per_token, metoda (local / api:<dostawca>), alias_of (ten sam tokenizer co …).
data/replication.csv — tabela jak na wykresie z pracy, z kolumnami polskich modeli.
data/agg_*.csv — agregaty po językach, rodzinach, tokenizerach, pochodzeniu i wielkości słownika.
data/spearman_languages.csv — zgodność rankingu tokenizerów między językami.
data/bench_team.csv, data/nergal_encoders.csv, data/polish_registers.csv — tabele tematyczne.
data/summary.json, data/calibration.json — liczby raportu i kalibracja z danymi autora pracy.

Metoda

SIB-200 test (204 zdania), bloki ok. 6000 znaków, tokeny / słowa (podział po spacjach), średnia po blokach. Kalibracja z overthelex/tokenizer-fertility-map: Na 150 parach (tokenizer × język) średnia różnica wobec danych autora pracy to 0,014 tokenu na słowo, maksymalna 0,068 → kalibracja zaliczona.

Zbiór zawiera wyłącznie pomiary; nie zawiera tekstów SIB-200 ani polish-dynaword.

Cytowanie

Ovcharov V., „The Tokenizer Tax Across 25 European Languages”, arXiv:2605.24718 (2026). Pierwsza polska wersja wykresu: Dariusz Ciba. Ten zbiór: ArtSmol, 2026-11-01.

Pre-tokenizacja (praca 2)

data/regex_catalog.csv — jaki pre-tokenizer (regex / SentencePiece) ma każdy tokenizer i jak tnie sondy (liczby, skróty, camelCase, „Answer:A”, „(Łódź”, „ZUS-u”).
data/regex_stats_long.csv — SIB-200: kawałki na słowo, odsetek słów = 1 token, 25 języków.
data/regex_bench_*.csv — litera odpowiedzi i liczby (Bench Team), data/regex_nergal_*.csv — dane osobowe w tokenach i reguły scrub_pii.py NERGAL-a na identyfikatorach przetargowych.

Downloads last month: 145

Paper for adegier/tokenizer-fertility-pl

The Tokenizer Tax Across 25 European Languages: Domain Invariance, Cross-Lingual Few-Shot Effects, and the Ukrainian Penalty

Paper • 2605.24718 • Published May 23