---
language:
  - nl
license: cc-by-sa-4.0
pretty_name: kamoo tokenizer-benchmark
tags:
  - dutch
  - tokenizer
  - benchmark
  - reproducible
size_categories:
  - n<1K
---

# kamoo tokenizer-benchmark

**Dezelfde Nederlandse alinea door meerdere tokenizers. Minder tokens = meer
context in hetzelfde venster en lagere kosten per antwoord. Reken het na.**

Dit is het meetlog achter de tokenizer-claims van [kamoo.nl](https://kamoo.nl).
Alles in deze repo is genoeg om de meting zelf te herhalen: de testalinea,
het script en de uitkomsten.

## Meting (2026-07-06)

Testalinea: de eerste alinea van het Nederlandse Wikipedia-artikel
[Nederland](https://nl.wikipedia.org/wiki/Nederland) (CC-BY-SA, opgehaald
2026-07-06), 388 tekens. Bewust een publieke, door niemand van ons gekozen
tekst.

| tokenizer | vocabulaire | tokens | tekens per token |
|---|---|---|---|
| **kamoo-one (kamoo-bpe-32k)** | 32.768 | **73** | **5,32** |
| ChatGPT (o200k_base) | 200.019 | 88 | 4,41 |
| OLMo 2 | 100.278 | 115 | 3,37 |

Dezelfde Nederlandse alinea kost bij kamoo **17% minder tokens dan bij
ChatGPT** (o200k_base, de tokenizer van de GPT-4o/GPT-5-familie) en **36%
minder dan bij OLMo 2** — met een vocabulaire dat 6× kleiner is. Dat is het
effect van een tokenizer die puur op Nederlands is getraind.

## Zelf narekenen

```bash
pip install tokenizers tiktoken huggingface_hub
python measure.py
```

Het script laadt de kamoo-tokenizer rechtstreeks uit de gepubliceerde
model-repo ([kamoo-ai/kamoo-one-135m](https://huggingface.co/kamoo-ai/kamoo-one-135m)),
zodat de meting exact het uitgeleverde artefact test. Uitkomsten staan in
`resultaten.json`.

## Verantwoording

- Alleen tokenizers die scriptbaar en publiek beschikbaar zijn staan in de
  tabel. GPT-NL publiceert zijn tokenizer niet; in een eerdere handmeting
  via hun publieke tokenizer-demo (andere alinea, 629 tekens) speelde onze
  32k-tokenizer gelijk met hun 128k-vocabulaire (110 om 109 tokens). Die
  meting is niet scriptbaar en staat daarom niet in de tabel hierboven.
- Eén alinea is een steekproef, geen corpus-studie. De verhouding is stabiel
  over normale Nederlandse prozateksten; probeer het met je eigen tekst.

## Bestanden

- `alinea.txt` — de testalinea (bevroren)
- `measure.py` — het meetscript
- `resultaten.json` — machine-leesbare uitkomsten

*kamoo · [kamoo.nl](https://kamoo.nl) · open tot op de laatste token*