license: cc-by-4.0
language:
- tr
task_categories:
- question-answering
- text-generation
tags:
- benchmark
- evaluation
- legal
- turkish
- icra-iflas
- law
size_categories:
- n<1K
İİK-Bench — Türk İcra ve İflas Hukuku Açık Uçlu Benchmark
Türk icra ve iflas hukuku alanında dil modellerini değerlendirmek için hazırlanmış, 41 açık uçlu sorudan oluşan bir benchmark. Bir ders ödevi kapsamında, alana özel fine-tune edilmiş bir modelin ölçülmesi amacıyla tasarlanmıştır.
Genel amaçlı benchmark'lar (örneğin MMLU), alana özel bir modelin hedeflendiği görevdeki performansını ölçemez. Bu benchmark, modelin hukuk asistanı olarak gerçekte yaptığı işi — düzyazı hukuki açıklama üretmeyi — değerlendirir.
Veri yapısı
Her kayıt bir soru ve onu değerlendirmek için gereken bilgileri içerir:
{
"id": 1,
"konu": "Gecikmiş itiraz",
"madde": "m.65",
"soru": "Borçlu, elinde olmayan bir engel nedeniyle ödeme emrine süresinde itiraz edememişse ne yapabilir?",
"referans_cevap": "Borçlu kusuru olmaksızın bir engel sebebiyle ...",
"anahtar_bilgiler": [
["gecikmiş itiraz", "gecikmis itiraz"],
["üç gün", "3 gün"],
["paraya çevirme", "satış tamamlanıncaya"],
["icra mahkemesi"],
["mazeret"]
],
"yanlis_isaretler": ["yedi gün içinde mazeret", "genel mahkeme", "süresiz olarak itiraz"]
}
| Alan | Açıklama |
|---|---|
soru |
Modele sorulacak açık uçlu soru |
referans_cevap |
İİK'nın resmî metninden doğrulanmış örnek cevap |
anahtar_bilgiler |
Cevapta bulunması gereken bilgiler; her biri kabul edilen yazım varyantlarının listesidir |
yanlis_isaretler |
Cevapta bulunmaması gereken, bilinen yanlış bilgiler |
konu, madde |
Sorunun konusu ve dayandığı İİK maddesi |
Tasarım kararları
1. Açık uçlu format
Hukuk asistanı olarak kullanılan bir model, düzyazı açıklama üretir. Çoktan seçmeli bir test, modelin bu yeteneğini değil "tek harf yazma" becerisini ölçer; üstelik alana özel fine-tune edilmiş modeller çoğu zaman kısa cevap talimatına uymakta zorlanır. Bu benchmark modeli doğal kullanımında değerlendirir.
2. Anahtar bilgi kontrolü (fact-checking)
Salt anlamsal benzerlik hukukta yanıltıcıdır: "süre yedi gündür" ile "süre on gündür" cümleleri birbirine çok benzer, ancak biri tamamen yanlıştır. Bu nedenle her soru için cevapta bulunması gereken bilgiler (süreler, oranlar, madde numaraları, merciler, kurumlar) ve bulunmaması gereken yanlış işaretler önceden tanımlanmıştır.
3. Veri sızıntısı önlemi
Sorular, değerlendirilen modelin eğitim verisinde kullanılmayan İİK maddelerinden seçilmiştir: gecikmiş itiraz (m.65), borçtan kurtulma davası (m.69), hacze iştirak (m.100), haczin kalkması (m.110), kira ve tahliye (m.269), taşınmaz teslimi (m.26), iflas tasfiyesi, konkordato mühletleri, icra suçları ve diğerleri. Böylece ölçülen şey ezber değil, genellemedir.
4. Referans doğrulama
Referans cevaplar, İcra ve İflas Kanunu'nun (Kanun No. 2004) resmî metninden doğrulanarak yazılmıştır. Benchmark'ın referansı hatalı olursa tüm ölçüm geçersiz olacağından bu adım ayrıca önemsenmiştir.
Kapsanan konular
41 farklı konu; her konudan bir soru:
İcra teşkilatı ve tutanaklar, ilamların icrası (taşınır teslimi, taşınmaz tahliyesi, bir işin yapılması), takip talebi, gecikmiş itiraz, borçtan kurtulma davası, takibin iptali/taliki, haciz talebi süresi, haczi caiz olmayan mallar, maaş haczi, hacze iştirak, haczin kalkması, yediemin sorumluluğu, şirket payının haczi, ortaklığın giderilmesi, taşınmaz satışında artırma şartları, ihalenin bozulmasında sorumluluk, paraların paylaştırılması, rehin açığı belgesi, kambiyo takibinde şikayet, kira alacağı ve tahliye, ihtiyati haczin tamamlanması ve itiraz, iflas yolları (depo kararı, doğrudan iflas, iflasın kaldırılması, alacak kaydı, itibarın iadesi), konkordato (geçici/kesin mühlet, komiser, alacaklı çoğunluğu), icra suçları, kanun yolları ve icranın iadesi.
Puanlama
kapsam = bulunan anahtar bilgi / toplam anahtar bilgi
ceza = yanlış işaret başına −0.25 (en fazla −1.0)
puan = max(0, kapsam + ceza)
skor = ortalama puan × 100
İki katılık düzeyi. Standart skor tüm anahtar bilgileri sayar. Katı skor yalnızca spesifik bilgileri (süre, oran, sayı) sayar; bunlar tesadüfen tutturulamayacağı için hukuki isabetin daha güvenilir göstergesidir. 41 sorunun 19'unda spesifik bilgi bulunur; toplam 25 spesifik anahtar bilgi vardır.
İkisi arasındaki açık, bir modelin hukuk terminolojisini kullanmayı öğrenirken spesifik hukuki bilgiyi edinip edinemediğini gösterir.
Referans sonuçlar
Aşağıdaki sonuçlar, iki model 41 sorunun tamamına aynı koşullarda
(max_new_tokens=300, greedy üretim, 4-bit yükleme, T4 GPU) yanıt verdiğinde
elde edilmiştir.
| Model | Standart skor | Katı skor | Spesifik bilgi isabeti | Yanlış işaret |
|---|---|---|---|---|
unsloth/gemma-3-1b-it |
13.21 | 3.51 | 2 / 25 (%8) | — |
| İcra-iflas fine-tune (LoRA, 1B) | 18.01 | 15.79 | 4 / 25 (%16) | 0 |
Yorum. Her iki modelin de mutlak performansı düşüktür. Modeller hukuk terminolojisine uygun, akıcı cevaplar üretmekte; ancak süre, oran ve madde gibi belirleyici bilgileri büyük ölçüde verememektedir. Fine-tune edilmiş model temel modelin üzerinde çıkmakla birlikte, spesifik bilgi isabetindeki fark yalnızca 2 isabettir ve permütasyon testinde p = 0.66 bulunmuştur; yani istatistiksel olarak anlamlı değildir. Bu sonuçlar, 1B büyüklüğündeki modellerin hukuk gibi ayrıntı gerektiren alanlarda yetersiz kaldığını göstermektedir.
Kullanım
import json
sorular = [json.loads(l) for l in open("iik_bench.jsonl", encoding="utf-8") if l.strip()]
def puanla(cevap, anahtar_bilgiler, yanlis_isaretler):
c = cevap.lower().replace("ı", "i")
bulunan = sum(
1 for varyantlar in anahtar_bilgiler
if any(v.lower().replace("ı", "i") in c for v in varyantlar)
)
kapsam = bulunan / len(anahtar_bilgiler)
yanlis = sum(1 for y in yanlis_isaretler if y.lower().replace("ı", "i") in c)
return max(0.0, kapsam - 0.25 * min(yanlis, 4))
# Her soru için modelden cevap alıp puanla, ortalamasını hesapla.
Sınırlamalar
Örneklem büyüklüğü. 41 soru, iki modelin eşleştirilmiş karşılaştırmasında yaklaşık ±6 puanlık bir belirsizlik payı bırakır. Bundan küçük farklar gürültü sayılmalıdır. Ayrıca her konuda tek soru bulunduğundan, konu bazlı çıkarımlar (örneğin "model konkordatoda zayıf") güvenilir değildir.
Puanlama yönteminin sınırı. Değerlendirme, anahtar ifadenin cevapta geçip geçmediğini denetler; o bilginin doğru bağlamda kullanılıp kullanılmadığını değerlendirmez. Bu nedenle hukuki terminoloji içeren ancak soruyu yanıtlamayan cevaplar kısmi puan alabilir. Katı skor bu etkiyi azaltır, ancak tamamen ortadan kaldırmaz. Daha kesin bir değerlendirme için insan değerlendirmesi veya daha güçlü bir modelle hakemlik (LLM-as-judge) yöntemleri kullanılabilir.
Kapsam. Benchmark, İİK'nın tamamını değil, seçilmiş 41 konuyu kapsar. Değerlendirilen modelin eğitim verisiyle çakışmayı önlemek amacıyla bazı temel konular (tasarrufun iptali, ihalenin feshi, istihkak, meskeniyet vb.) bilinçli olarak dışarıda bırakılmıştır. Bu nedenle benchmark, icra-iflas hukukunun dengeli bir temsili değil, sızıntısız bir alt kümesidir.
Kaynak ve lisans
Sorular ve referans cevaplar, İcra ve İflas Kanunu'nun (Kanun No. 2004) resmî metnine dayanılarak özgün biçimde hazırlanmıştır. Kanun metinleri telife tabi değildir; bu veri setindeki metinler CC BY 4.0 ile paylaşılmaktadır.
Bu benchmark eğitim ve değerlendirme amaçlıdır. İçerdiği bilgiler genel niteliktedir ve hukuki tavsiye niteliği taşımaz.