Mustafa2735/karsilastirma

İİK-MCQ — Türk İcra ve İflas Hukuku Çoktan Seçmeli Benchmark

Türk icra ve iflas hukuku alanında dil modellerini değerlendirmek için hazırlanmış, dört şıklı 100 sorudan oluşan bir benchmark. Sorular İcra ve İflas Kanunu'na (Kanun No. 2004) dayanılarak elle hazırlanmıştır.

Açık uçlu eşi: İİK-Bench

Veri yapısı

{
  "id": 1,
  "soru": "Alacaklının haciz isteme hakkı ne kadar sürede düşer?",
  "secenekler": ["1 yıl", "6 ay", "2 yıl", "5 yıl"],
  "cevap": 0,
  "cevap_harf": "A",
  "bolum": "Haciz"
}

cevap doğru şıkkın indeksidir (0 = A). Şema, Türkçe MMLU veri setiyle uyumludur; aynı değerlendirme yaklaşımıyla kullanılabilir.

Kapsam

100 soru, 24 konu başlığı (konu başına 3-5 soru): icra teşkilatı ve şikayet, süreler, ilamlı ve ilamsız icra, itiraz yolları, mal beyanı, haciz, haczedilemeyen mallar, haciz ihbarnamesi, istihkak, hacze iştirak, satış ve ihale, kıymet takdiri, paraların paylaştırılması, rehin, kambiyo, iflas, konkordato, ihtiyati haciz, tasarrufun iptali, kira ve tahliye, tehiri icra, icra suçları, kanun yolları.

Tasarım kararları

Dengeli cevap anahtarı. A, B, C ve D şıklarının her biri tam 25 kez doğrudur. Bu, tüm sorulara aynı harfle yanıt veren modellerin tam %25 (rastgele beklenti) almasını sağlar; böylece şıklar arasında ayrım yapamayan modeller anında görünür hâle gelir.

İlk sürümde anahtar dengesizdi (A:30, B:26, C:17, D:27). Bu durumda tüm sorulara "A" diyen bir model %30, "C" diyen bir model %17 almış ve sıfır bilgi göstermelerine rağmen aralarında sahte bir sıralama oluşmuştu. Denge bu nedenle kurulmuştur.

Veri sızıntısı önlemi. Sorular, bu benchmark ile değerlendirilen fine-tune modelinin eğitim veri setinde kullanılmayan İİK maddelerinden seçilmiştir.

Kısa sorular. Sorular tek bir bilgiyi hedefler (ortalama ~56 karakter); uzun senaryolar yerine süre, merci, oran ve kavram gibi doğrulanabilir noktalara odaklanır.

Referans sonuçlar

Beş model, 100 sorunun tamamında değerlendirilmiştir. İki yöntem kullanılmıştır: üretim tabanlı (model harf üretir, okunur) ve logprob tabanlı (modelin ilk token olarak A/B/C/D'ye verdiği olasılıklar karşılaştırılır).

Model	Parametre	Üretim	Logprob	Rastgele üstü
unsloth/Qwen3-4B-Instruct-2507	4B	%38	%37	+12
unsloth/gemma-3-1b-it	1B	%28	%28	+3
Mustafa2735/hukukai (LoRA)	1B	%22	%25	0
unsloth/gemma-2-9b-it	9B	%0	%25	0
unsloth/Llama-3.2-3B-Instruct	3B	%29	%24	−1

Rastgele beklenti %25; n=100 için standart hata ±4.3 puan, anlamlılık eşiği yaklaşık %33.5. Yalnızca Qwen3-4B bu eşiği aşmaktadır.

Harf yanlılığı

Cevapların harf dağılımı incelendiğinde, beş modelin üçünün şıklar arasında hiç ayrım yapmadığı görülmüştür:

Model	Cevap dağılımı
Qwen3-4B	A:21, B:26, C:37, D:16
Llama-3.2-3B	A:1, B:3, C:37, D:59
gemma-3-1b	A:5, B:1, C:87, D:7
gemma-2-9b	A:100
hukukai (LoRA)	C:100

Tüm sorulara tek harfle yanıt veren modellerin skorları bilgilerini değil, cevap anahtarının yapısını yansıtır. Bu nedenle skorlar, harf dağılımıyla birlikte değerlendirilmelidir.

Kullanım

import json

sorular = [json.loads(l) for l in open("iik_mcq_100.jsonl", encoding="utf-8") if l.strip()]

harfler = ["A", "B", "C", "D"]
s = sorular[0]
istem = s["soru"] + "\n"
for i, secenek in enumerate(s["secenekler"]):
    istem += f"{harfler[i]}) {secenek}\n"
istem += "\nCevap:"

# Model yanıtındaki ilk A/B/C/D harfi, s["cevap_harf"] ile karşılaştırılır.

Sınırlamalar

Konu bazlı çıkarım yapılamaz. Her konuda yalnızca 3-5 soru bulunur; bu sayıda konu bazlı sonuçlar büyük ölçüde şansa bağlıdır. Yalnızca genel skorlar yorumlanmalıdır.

Format sınırı. Çoktan seçmeli test, modelin bilgiyi tanıma yeteneğini ölçer; aynı bilgiyi serbest metinde üretebilmesini ölçmez. İki yetenek birbirinden ayrılabilir: bu benchmark'ta en yüksek skoru alan model, açık uçlu İİK-Bench değerlendirmesinde temel modelin altında kalmıştır.

Kapsam. Benchmark İİK'nın tamamını değil, seçilmiş 24 konuyu kapsar ve sızıntıyı önlemek için bazı konular bilinçli olarak dışarıda bırakılmıştır.

Lisans ve uyarı

Sorular ve şıklar, İcra ve İflas Kanunu'nun resmî metnine dayanılarak özgün biçimde hazırlanmıştır. Kanun metinleri telife tabi değildir; bu veri seti CC BY 4.0 ile paylaşılmaktadır.

Bu benchmark eğitim ve değerlendirme amaçlıdır; içerdiği bilgiler hukuki tavsiye niteliği taşımaz.