README.md

---
license: cc-by-4.0
language:
- tr
task_categories:
- question-answering
- text-generation
tags:
- benchmark
- evaluation
- legal
- turkish
- icra-iflas
- law
size_categories:
- n<1K
---

# İİK-Bench — Türk İcra ve İflas Hukuku Açık Uçlu Benchmark

Türk **icra ve iflas hukuku** alanında dil modellerini değerlendirmek için
hazırlanmış, **41 açık uçlu sorudan** oluşan bir benchmark. Bir ders ödevi
kapsamında, alana özel fine-tune edilmiş bir modelin ölçülmesi amacıyla
tasarlanmıştır.

Genel amaçlı benchmark'lar (örneğin MMLU), alana özel bir modelin hedeflendiği
görevdeki performansını ölçemez. Bu benchmark, modelin hukuk asistanı olarak
gerçekte yaptığı işi — düzyazı hukuki açıklama üretmeyi — değerlendirir.

## Veri yapısı

Her kayıt bir soru ve onu değerlendirmek için gereken bilgileri içerir:

```json
{
  "id": 1,
  "konu": "Gecikmiş itiraz",
  "madde": "m.65",
  "soru": "Borçlu, elinde olmayan bir engel nedeniyle ödeme emrine süresinde itiraz edememişse ne yapabilir?",
  "referans_cevap": "Borçlu kusuru olmaksızın bir engel sebebiyle ...",
  "anahtar_bilgiler": [
    ["gecikmiş itiraz", "gecikmis itiraz"],
    ["üç gün", "3 gün"],
    ["paraya çevirme", "satış tamamlanıncaya"],
    ["icra mahkemesi"],
    ["mazeret"]
  ],
  "yanlis_isaretler": ["yedi gün içinde mazeret", "genel mahkeme", "süresiz olarak itiraz"]
}
```

| Alan | Açıklama |
|---|---|
| `soru` | Modele sorulacak açık uçlu soru |
| `referans_cevap` | İİK'nın resmî metninden doğrulanmış örnek cevap |
| `anahtar_bilgiler` | Cevapta bulunması gereken bilgiler; her biri kabul edilen yazım varyantlarının listesidir |
| `yanlis_isaretler` | Cevapta bulunmaması gereken, bilinen yanlış bilgiler |
| `konu`, `madde` | Sorunun konusu ve dayandığı İİK maddesi |

## Tasarım kararları

### 1. Açık uçlu format

Hukuk asistanı olarak kullanılan bir model, düzyazı açıklama üretir. Çoktan
seçmeli bir test, modelin bu yeteneğini değil "tek harf yazma" becerisini ölçer;
üstelik alana özel fine-tune edilmiş modeller çoğu zaman kısa cevap talimatına
uymakta zorlanır. Bu benchmark modeli doğal kullanımında değerlendirir.

### 2. Anahtar bilgi kontrolü (fact-checking)

Salt anlamsal benzerlik hukukta yanıltıcıdır: *"süre yedi gündür"* ile *"süre on
gündür"* cümleleri birbirine çok benzer, ancak biri tamamen yanlıştır. Bu nedenle
her soru için cevapta bulunması gereken bilgiler (süreler, oranlar, madde
numaraları, merciler, kurumlar) ve bulunmaması gereken yanlış işaretler önceden
tanımlanmıştır.

### 3. Veri sızıntısı önlemi

Sorular, değerlendirilen modelin eğitim verisinde **kullanılmayan** İİK
maddelerinden seçilmiştir: gecikmiş itiraz (m.65), borçtan kurtulma davası
(m.69), hacze iştirak (m.100), haczin kalkması (m.110), kira ve tahliye (m.269),
taşınmaz teslimi (m.26), iflas tasfiyesi, konkordato mühletleri, icra suçları ve
diğerleri. Böylece ölçülen şey ezber değil, genellemedir.

### 4. Referans doğrulama

Referans cevaplar, İcra ve İflas Kanunu'nun (Kanun No. 2004) resmî metninden
doğrulanarak yazılmıştır. Benchmark'ın referansı hatalı olursa tüm ölçüm
geçersiz olacağından bu adım ayrıca önemsenmiştir.

## Kapsanan konular

41 farklı konu; her konudan bir soru:

İcra teşkilatı ve tutanaklar, ilamların icrası (taşınır teslimi, taşınmaz
tahliyesi, bir işin yapılması), takip talebi, gecikmiş itiraz, borçtan kurtulma
davası, takibin iptali/taliki, haciz talebi süresi, haczi caiz olmayan mallar,
maaş haczi, hacze iştirak, haczin kalkması, yediemin sorumluluğu, şirket payının
haczi, ortaklığın giderilmesi, taşınmaz satışında artırma şartları, ihalenin
bozulmasında sorumluluk, paraların paylaştırılması, rehin açığı belgesi,
kambiyo takibinde şikayet, kira alacağı ve tahliye, ihtiyati haczin tamamlanması
ve itiraz, iflas yolları (depo kararı, doğrudan iflas, iflasın kaldırılması,
alacak kaydı, itibarın iadesi), konkordato (geçici/kesin mühlet, komiser,
alacaklı çoğunluğu), icra suçları, kanun yolları ve icranın iadesi.

## Puanlama

```
kapsam = bulunan anahtar bilgi / toplam anahtar bilgi
ceza   = yanlış işaret başına −0.25 (en fazla −1.0)
puan   = max(0, kapsam + ceza)
skor   = ortalama puan × 100
```

**İki katılık düzeyi.** Standart skor tüm anahtar bilgileri sayar. Katı skor
yalnızca spesifik bilgileri (süre, oran, sayı) sayar; bunlar tesadüfen
tutturulamayacağı için hukuki isabetin daha güvenilir göstergesidir. 41 sorunun
19'unda spesifik bilgi bulunur; toplam 25 spesifik anahtar bilgi vardır.

İkisi arasındaki açık, bir modelin hukuk terminolojisini kullanmayı öğrenirken
spesifik hukuki bilgiyi edinip edinemediğini gösterir.

## Referans sonuçlar

Aşağıdaki sonuçlar, iki model 41 sorunun tamamına aynı koşullarda
(`max_new_tokens=300`, greedy üretim, 4-bit yükleme, T4 GPU) yanıt verdiğinde
elde edilmiştir.

| Model | Standart skor | Katı skor | Spesifik bilgi isabeti | Yanlış işaret |
|---|---|---|---|---|
| `unsloth/gemma-3-1b-it` | 13.21 | 3.51 | 2 / 25 (%8) | — |
| İcra-iflas fine-tune (LoRA, 1B) | 18.01 | 15.79 | 4 / 25 (%16) | 0 |

**Yorum.** Her iki modelin de mutlak performansı düşüktür. Modeller hukuk
terminolojisine uygun, akıcı cevaplar üretmekte; ancak süre, oran ve madde gibi
belirleyici bilgileri büyük ölçüde verememektedir. Fine-tune edilmiş model temel
modelin üzerinde çıkmakla birlikte, spesifik bilgi isabetindeki fark yalnızca
2 isabettir ve permütasyon testinde p = 0.66 bulunmuştur; yani istatistiksel
olarak anlamlı değildir. Bu sonuçlar, 1B büyüklüğündeki modellerin hukuk gibi
ayrıntı gerektiren alanlarda yetersiz kaldığını göstermektedir.

## Kullanım

```python
import json

sorular = [json.loads(l) for l in open("iik_bench.jsonl", encoding="utf-8") if l.strip()]

def puanla(cevap, anahtar_bilgiler, yanlis_isaretler):
    c = cevap.lower().replace("ı", "i")
    bulunan = sum(
        1 for varyantlar in anahtar_bilgiler
        if any(v.lower().replace("ı", "i") in c for v in varyantlar)
    )
    kapsam = bulunan / len(anahtar_bilgiler)
    yanlis = sum(1 for y in yanlis_isaretler if y.lower().replace("ı", "i") in c)
    return max(0.0, kapsam - 0.25 * min(yanlis, 4))

# Her soru için modelden cevap alıp puanla, ortalamasını hesapla.
```

## Sınırlamalar

**Örneklem büyüklüğü.** 41 soru, iki modelin eşleştirilmiş karşılaştırmasında
yaklaşık ±6 puanlık bir belirsizlik payı bırakır. Bundan küçük farklar gürültü
sayılmalıdır. Ayrıca her konuda tek soru bulunduğundan, konu bazlı çıkarımlar
(örneğin "model konkordatoda zayıf") güvenilir değildir.

**Puanlama yönteminin sınırı.** Değerlendirme, anahtar ifadenin cevapta geçip
geçmediğini denetler; o bilginin doğru bağlamda kullanılıp kullanılmadığını
değerlendirmez. Bu nedenle hukuki terminoloji içeren ancak soruyu yanıtlamayan
cevaplar kısmi puan alabilir. Katı skor bu etkiyi azaltır, ancak tamamen ortadan
kaldırmaz. Daha kesin bir değerlendirme için insan değerlendirmesi veya daha
güçlü bir modelle hakemlik (LLM-as-judge) yöntemleri kullanılabilir.

**Kapsam.** Benchmark, İİK'nın tamamını değil, seçilmiş 41 konuyu kapsar.
Değerlendirilen modelin eğitim verisiyle çakışmayı önlemek amacıyla bazı temel
konular (tasarrufun iptali, ihalenin feshi, istihkak, meskeniyet vb.) bilinçli
olarak dışarıda bırakılmıştır. Bu nedenle benchmark, icra-iflas hukukunun
dengeli bir temsili değil, sızıntısız bir alt kümesidir.

## Kaynak ve lisans

Sorular ve referans cevaplar, İcra ve İflas Kanunu'nun (Kanun No. 2004) resmî
metnine dayanılarak özgün biçimde hazırlanmıştır. Kanun metinleri telife tabi
değildir; bu veri setindeki metinler CC BY 4.0 ile paylaşılmaktadır.

Bu benchmark eğitim ve değerlendirme amaçlıdır. İçerdiği bilgiler genel
niteliktedir ve **hukuki tavsiye niteliği taşımaz**.