TurkMorfBench

Turkish morphology benchmark for language models — 466,517 items, 14 buckets, nonce-stem controls, per-bucket diagnosis, tokenizer analysis. Dil modelleri için Türkçe morfoloji kıyası — 466.517 madde, 14 kova, uydurma gövde kontrolü, kova bazında teşhis, tokenizer çözümlemesi.

eCloud Tech. · code Apache-2.0 · data CC BY 4.0 · data · code · frozen release 3.7.2

pip install turkmorfbench

turkmorfbench olc --model ecloudtech/Erk-32B                          # local weights
turkmorfbench olc --uc http://localhost:8000/v1 --model my-model     # OpenAI-compatible endpoint
turkmorfbench bilgi

A run does not return a score; it returns a diagnosis — which rule fails, on which stem-final sound, on real versus nonce stems, and whether the tokenizer kept the stem intact:

ZORUNLU SEÇİM   161 / 260   %61.9
GÖVDE TÜRÜ      gerçek 124/179 %69.3 · uydurma 37/81 %45.7
KOVA            istisna_uyum_kirici 0/12 · ek_zinciri 4/15 · cati 5/11 · ad_cekimi 33/48 · fiil_cekimi 10/10
SON SES         t 6/18 %33.3 · ç 4/10 %40.0 · p 6/12 %50.0 · ünlü 28/37 %75.7
HANGİ KURAL     uyum 28 · iyelik_unlu 22 · zamir_n 10

---

Türkçe

Ne ölçüyor

Türkçede ek seçimi katı kurallara bağlıdır: büyük ve küçük ünlü uyumu, ünsüz benzeşmesi, yumuşama, kaynaştırma. Üstüne sözlüksel istisnalar (burun → burnu, kalp → kalbi, ret → reddi) ve okunuşa bağlı ekler (TCDD'yi, 2026'da) biner. TurkMorfBench her birini ayrı ayrı ölçer ve hangisinde düştüğünü söyler.

Kova	Anahtar	Madde	Ne sınıyor
ad paradigma yuvaları	ad_yuva	283.360	çokluk + iyelik + hâl yığını, zamir n'si
ad çekimi	ad_cekimi	166.424	7 hâl, ünlü uyumu, benzeşme, yumuşama, kaynaştırma
ek zinciri	ek_zinciri	9.544	1'den 8'e derinlik, ek sırası
fiil çekimi	fiil_cekimi	1.792	7 zaman/kip, olumsuzluk, geniş zaman istisnaları
yapım eki	yapim_eki	1.477	-lIk, -CI, -lI, -sIz, -sAl, -lAş, -lA
özel ad	istisna_ozel_ad	1.200	kesme işareti, yumuşamama (Sinop'a)
birleşik isim	istisna_birlesik_isim	896	buzdolabına
çatı	cati	728	edilgen, dönüşlü, işteş, ettirgen
sayı	istisna_sayi	507	okunuşa göre ek (2026'da)
kısaltma	istisna_kisaltma	304	okunuşa göre ek (TCDD'yi)
ünlü düşmesi	istisna_unlu_dusmesi	177	burnu, aklı, nakdi · TDK doğrulamalı
uyum kırıcı alıntı	istisna_uyum_kirici	71	kalbi, rolü, kıraati · TDK doğrulamalı
ünsüz ikizleşmesi	istisna_ikizlesme	35	reddi, tıbbı, zıddı · TDK doğrulamalı
kaynaştırma istisnası	istisna_kaynastirma_istisna	2	suyu, neyi
toplam		466.517	14 kova

İki katman: cekirdek (1.836 madde, kova dengeli, dakikalar içinde koşar, teşhis için) ve tam (466.517 madde, tasarlanan kapsamın tamamı). Çekirdek bilerek kova dengelidir; tam kümenin yansız tahmini değildir, ikisi karşılaştırılmaz.

Tasarım

Uydurma (wug) gövdeler. Gerçek kelimede doğru eki üretmek ezberle mümkündür; zakak, vısep gibi gövdeler hiçbir külliyatta geçmez, doğru ek ancak kuralla üretilir. Kıyas her ses ortamında gerçek ve uydurma gövdeyi yan yana koyar.

Tasarlanmış kapsam. Ek seçimini belirleyen eksenler önce çaprazlanır — son ünlü (8) × son ses sınıfı (8) × hece sayısı (3) × iç uyum (2) = 320 hücre — gövdeler sonra bu hücreleri doldurmak için üretilir. 33 hücrede Türkçede gerçek kelime yoktur; kıyas oraları da sınar.

Altın veri. Kural motorundan gelir, hiçbir aşamada bir dil modelinden gelmez. Sözlüksel düzensizlik bayrakları Zemberek sözlüğünden alınır (Apache-2.0); çözümleyicisi kullanılmaz. Motorun 282 elle yazılmış altın iddiası vardır ve hepsi geçer. Üç istisna kovasının (ünlü düşmesi, uyum kırıcı, ikizleşme) 283 maddesinin tamamının altını TDK Güncel Türkçe Sözlük ile birebir doğrulanmıştır; TDK'nın biçim vermediği ya da birden fazla biçim verdiği gövdeler (hak → hakkı / hakki) kıyasa alınmaz.

Bağımsız dış sınav. Motor, Universal Dependencies Türkçe ağaç bankalarına (BOUN, IMST, Penn) karşı koşulur: üçünün aynı etiketlediği 25.681 (gövde, yuva) çiftinde yüzey biçimini birebir %91,5, yazım normalleştirilince %93,9 oranında yeniden üretir. Aradaki fark UD'nin kesme işareti ve düzeltme imi kullanımından gelir; iki sayı ayrı raporlanır.

Protokol

Zorunlu seçim birincil kiptir: altın biçim ile aynı derinlikte kural ihlali çeldiricileri arasından log-olasılıkla seçtirilir, çıktı ayrıştırılmaz. Şıklar madde kimliğinden türetilen bir sırayla karıştırılmıştır (altin_sira). Serbest üretim ikincil kiptir ve "okunamadı" ile "yanlış" ayrı sayılır.

Puanlama. Aday, log P(aday | istem) toplamının adayın karakter sayısına bölünmesiyle puanlanır (harf). Karakter sayısı tokenizer'dan bağımsızdır; jeton sayısına bölmek, kelimeyi kaç parçaya böldüğüne göre modelleri farklı cezalandırır. Kural, uzunluk yanlılığına göre seçilmiştir: adayların uzunluğu farklı olan maddelerde altın %29,9 oranında en kısadır, harf %39–43 oranında en kısayı seçer; kalan yanlılık raporlanır, gizlenmez. Yerel ve uzak arka uç aynı jeton sınırı kuralını uygular; uzak uç /v1/completions yanıtında text_offset döndürmek zorundadır, yoksa ölçüm durur.

Kurala duyarlılık. turkmorfbench.duyarlilik modeli bir kez koşturur ve altı kuralı aynı ham büyüklüklerden türetir: ham, jeton, harf, pmi, pmi_harf ve beş kuralın Copeland uzlaşısı esli. İki sistem karşılaştırılırken farkın yönünün kuraldan kurala değişip değişmediği raporlanır.

Güven aralığı. 466.517 madde 466.517 bağımsız gözlem değildir: bir gövde onlarca madde doğurur, bir fonolojik hücre yüzlerce gövdeyi aynı kurala bağlar. turkmorfbench.istatistik yeniden örnekleme birimini maddeden kümeye taşır (gövde: 32.140 küme · fonolojik hücre: 441 küme) ve her koşumda tasarım etkisini ölçüp bildirir. İki model, ayrı aralıkların çakışmasına bakılarak değil, eşli farkın kümeli önyüklemesiyle karşılaştırılır (esli_fark).

from turkmorfbench.istatistik import kume_bootstrap, esli_fark, tasarim_etkisi
from turkmorfbench.duyarlilik import bilesen_topla, karsilastir, rapor
s = kume_bootstrap(maddeler, dogru, anahtar="hucre")
f = esli_fark(maddeler, a_dogru, b_dogru, anahtar="hucre")
print(rapor(karsilastir(bilesen_topla(arka_a, maddeler), bilesen_topla(arka_b, maddeler), maddeler, "A", "B"), "A", "B"))

Bulgular

Gerçek ile uydurma gövde arasında 22–32 puan. Modeller ekleri büyük ölçüde kuraldan değil sözlüksel komşuluktan üretiyor. Gerçek kelimenin bulunmadığı 33 hücrede fark, ses bileşimi eşleştirildikten sonra bile 22–23 puandır.

Morfoloji ≠ genel yetenek. Aynı modeller aynı sabit betikle TurkishMMLU'nun 652 temiz sorusunda da ölçüldü (şık sırası dondurulmuş, kirli 113 soru dışarıda; beş şık, şans %20):

model	boyut	TurkMorfBench 3.6 çekirdek (3.7.0 puanlama)	TurkishMMLU (652)
turkish-gpt2-large	0,8B	79,1	18,4
kanarya-2b	2B	78,4	22,9
Kumru-2B	2B	76,2	19,6
Erk-32B	32B	75,0	71,0
Erk-14B	14B	75,4	67,2
Qwen3-32B (taban)	32B	73,4	67,6

Sıfırdan Türkçe külliyatla eğitilen küçük modeller morfolojide 32B ile istatistiksel olarak beraber, genel yetenekte şans düzeyinde. Kıyas akıl yürütmeyi değil Türkçe biçim bilgisini ölçer; sıralama bir genel yetenek ölçüsüyle birlikte okunmalıdır ve yayımlanan her tabloda o sütun yanında verilir.

Sonuç kurala bağlı değil. 15 modelde harf, ham ve jeton aynı uçları verir (ilk iki ve son üç sıra aynı); ham 1–4, jeton 2–16 puan aşağıda kalır. pmi ve pmi_harf 21–51 aralığına çöker: koşulsuz olasılıkla normalleştirmek, ortak gövdeyi paylaşan adaylar arasındaki ayrımı yok eder; bu iki kural görev için uygun değildir ve pakette okuyucunun görmesi için durur. Tasarım etkisi modelden modele 1,2× ile 4,1× arasındadır.

İnsan tavanı: %78,2 [%70,4 – %83,2]. Aynı maddeler ana dili Türkçe olan kişilere morf.e-cloud.web.tr üzerinden sorulur; 6 geçerli değerlendirici, 560 yargı, hücre kümeli aralık; toplama sürüyor. Katılımcı taraması önceden yazılı üç ölçütle yapılır ve sonuca bakılarak değiştirilmez: en az 10 cevap, soru başına medyan süre ≥ 3 s, kendi şans düzeyini tek yönlü binom testiyle (α = 0,001) geçme. 12 katılımcının 6'sı bu ölçütlerle elenmiştir. Model ile insan aynı maddelerde: eCloud Tech.'in AIGENCY V4 modeli aynı arayüzden 515 maddenin tamamına cevap verdi; AIGENCY V4 %69,9, geçerli insanlar %79,1. Bütün sayılar insan_ozet.py ile üretilir.

Tokenizer etkisi. Yerel ağırlıklarla koşulduğunda rapor, doğruluğu sözlüğün gövdeyi bütün tutup tutmadığına göre ayırır ve parçalanmanın puan maliyetini verir. Türkçede jeton başına bölen bir ölçüde tam sözcük jetonlu küçük modeller en çok kaybeder; harf bu yüzden birincil kuraldır.

Bilinen sınırlar

• ek_zinciri kovası 3.6 çekirdeğinde 15 modelin 13'ünde ≥%96: ayırt etmiyor. Kova hariç sıralama aynıdır; bir sonraki veri sürümünde çeldiriciler bağlamla uyuşmayan dilbilgisel zincirler olacak.
• istisna_kaynastirma_istisna iki maddedir (suyu, neyi); tek başına yorumlanmaz.
• İnsan tavanı ön okumadır; uydurma gövdede insan performansı için henüz iddia yok.
• Puanlama kuralının kalan uzunluk yanlılığı (%39–43, hedef %29,9) raporlanır.

Sürümler

3.7.2 dondurulmuş yayın sürümüdür (veri 3.6.0, puanlama 3.7.0). Veri ya da puanlama kodunu değiştiren her sürüm CHANGELOG.md'de gerekçesiyle kayıtlıdır; farklı veri sürümlerinin sayıları birbiriyle karşılaştırılmaz. Paket tutarlilik.py ile belge, veri ve yayımlanan paket arasında tutarlılık denetiminden geçer.

---

English

What it measures

Turkish suffix selection follows strict rules — two-way and four-way vowel harmony, consonant assimilation, lenition, buffer consonants — with lexical exceptions (burun → burnu, kalp → kalbi, ret → reddi) and pronunciation-driven suffixes (TCDD'yi, 2026'da) on top. TurkMorfBench measures each separately and reports which one fails (bucket table above).

Two tiers: cekirdek (1,836 items, bucket-balanced, runs in minutes, for diagnosis) and tam (466,517 items, the full designed coverage). The core tier is deliberately balanced, not an unbiased sample of the full set; do not compare the two.

Design

Nonce (wug) stems. A real word can be inflected from memory; zakak or vısep appear in no corpus and can only be inflected from the rule. Every phonological environment carries both real and nonce stems.

Designed coverage. The axes that determine suffix selection are crossed first — final vowel (8) × final-sound class (8) × syllable count (3) × internal harmony (2) = 320 cells — and stems are generated to fill them. 33 cells contain no real Turkish word; the benchmark tests them anyway.

Gold data. Generated by the rule engine, never by a language model. Lexical irregularity flags come from the Zemberek dictionary (Apache-2.0); its analyser is not used. The engine carries 282 hand-written gold assertions, all passing. All 283 items of the three exception buckets (vowel drop, inverse harmony, consonant doubling) are verified character-for-character against the TDK dictionary; stems for which TDK gives no form or more than one are excluded.

Independent external check. The engine is run against the Universal Dependencies Turkish treebanks (BOUN, IMST, Penn): on the 25,681 (lemma, slot) pairs all three annotate identically it reproduces the attested surface form 91.5% verbatim and 93.9% after spelling normalisation (apostrophes and circumflex usage differ between treebanks); both figures are reported.

Protocol

Forced choice is the primary mode: the gold form against same-depth rule-violation distractors, scored by log-likelihood, no output parsing. Options are shuffled by an item-derived permutation (altin_sira). Free generation is secondary and reports "unreadable" separately from "wrong".

Scoring. A candidate is scored by the sum of log P(candidate | prompt) divided by its character count (harf). Characters are tokenizer-independent; dividing by tokens penalises models by how many pieces they cut a word into. The rule was chosen for length bias: the gold is the shortest candidate in 29.9% of items with unequal lengths, and harf picks the shortest 39–43% of the time; the residual bias is reported, not hidden. Local and remote backends apply the same token-boundary rule; a remote /v1/completions endpoint must return text_offset, otherwise measurement stops.

Rule sensitivity. turkmorfbench.duyarlilik runs the model once and derives six rules from the same raw quantities: ham, jeton, harf, pmi, pmi_harf and esli, a Copeland consensus of the five. When two systems are compared it reports whether the sign of the difference changes from rule to rule.

Confidence intervals. 466,517 items are not 466,517 independent observations: a stem yields dozens of items and a phonological cell binds hundreds of stems to one rule. turkmorfbench.istatistik moves the resampling unit to the cluster (stem: 32,140 clusters · phonological cell: 441) and measures the design effect on every run. Two models are compared by a cluster bootstrap of the paired difference (esli_fark), not by overlap of separate intervals.

Findings

22–32 points between real and nonce stems. Models inflect largely from lexical neighbourhood, not from the rule. In the 33 cells with no real word the gap is 22–23 points even after matching phonological composition.

Morphology ≠ general capability. The same models, same pinned script, on the 652 clean TurkishMMLU questions (option order frozen, 113 contaminated items removed; five-way, chance 20%):

model	size	TurkMorfBench 3.6 core (3.7.0 scoring)	TurkishMMLU (652)
turkish-gpt2-large	0.8B	79.1	18.4
kanarya-2b	2B	78.4	22.9
Kumru-2B	2B	76.2	19.6
Erk-32B	32B	75.0	71.0
Erk-14B	14B	75.4	67.2
Qwen3-32B (base)	32B	73.4	67.6

Small models trained from scratch on Turkish are statistically tied with a 32B model on morphology and at chance on general capability. The benchmark measures Turkish form knowledge, not reasoning; a ranking must be read alongside a capability measure, and every published table carries that column.

The result does not depend on the rule. Across 15 models harf, ham and jeton give the same ends of the ranking (top two, bottom three); ham sits 1–4 and jeton 2–16 points lower. pmi and pmi_harf collapse to 21–51: normalising by the unconditional probability erases the distinction between candidates that share a stem; they are unsuitable for this task and stay in the package so readers can see it. The design effect ranges from 1.2× to 4.1× across models.

Human ceiling: 78.2% [70.4 – 83.2]. The same items are put to native speakers at morf.e-cloud.web.tr; 6 valid raters, 560 judgments, cell-clustered interval, collection ongoing. Raters are screened by three criteria fixed in advance and never adjusted after seeing the result: at least 10 answers, median time per question ≥ 3 s, and accuracy above the rater's own chance level on a one-sided binomial test (α = 0.001). 6 of 12 raters were removed by these criteria. Model and humans on the same items: eCloud Tech.'s AIGENCY V4 model answered all 515 items through the same interface; AIGENCY V4 69.9%, valid humans 79.1%. Every figure is produced by insan_ozet.py.

Tokenizer effect. With local weights the report splits accuracy by whether the vocabulary kept the stem intact and states the cost of fragmentation in points. Under a per-token score, small whole-word-token models lose the most; this is why harf is the primary rule.

Known limits

• ek_zinciri scores ≥96% for 13 of 15 models on the 3.6 core and does not discriminate; the ranking without it is identical. The next data release will use grammatical chains that disagree with the context as distractors.
• istisna_kaynastirma_istisna has two items (suyu, neyi); not interpreted alone.
• The human ceiling is a preliminary reading; no claim yet on nonce stems.
• The residual length bias of the scoring rule (39–43% vs 29.9%) is reported.

Versions

3.7.2 is the frozen release (data 3.6.0, scoring 3.7.0). Every change to data or scoring code is recorded with its rationale in CHANGELOG.md; figures from different data versions are not comparable. tutarlilik.py checks documentation, data and the published package against each other.

---

Citation

@software{turkmorfbench2026,
  title     = {TurkMorfBench: A Diagnostic Morphology Benchmark for Turkish Language Models},
  author    = {{eCloud Tech.}},
  year      = {2026},
  version   = {3.7.2},
  url       = {https://github.com/ecloudtechnology/turkmorfbench},
  note      = {Data: https://huggingface.co/datasets/ecloudtech/TurkMorfBench. A paper citation will replace this entry when published.}
}

Data: huggingface.co/datasets/ecloudtech/TurkMorfBench · Code: github.com/ecloudtechnology/turkmorfbench

Keywords: Turkish NLP, Türkçe doğal dil işleme, morphology benchmark, morfoloji kıyası, vowel harmony, ünlü uyumu, wug test, agglutinative languages, LLM evaluation, dil modeli değerlendirme, tokenizer analysis, subword segmentation.