license: cc-by-4.0
language:
- tr
tags:
- rag
- retrieval
- turkish
- tax-law
- legal
- benchmark
- point-in-time
size_categories:
- 1K<n<10K
task_categories:
- question-answering
- text-retrieval
KDV RAG Benchmark
Türk KDV (Katma Değer Vergisi) mevzuatı için retrieval benchmark veri seti.
Diferansiyel: Point-in-Time Retrieval
Genel amaçlı LLM'ler "2019'da bu işlem KDV'den istisna mıydı?" sorusuna bugünkü kuralı döner. Bu benchmark, retrieval sistemlerini olay tarihinde yürürlükte olan madde versiyonunu bulabilme kapasitesine göre değerlendirir.
Dataset Yapısı
Splits
| Split | Kayıt | Dönem |
|---|---|---|
train |
728 | 2018–2023 |
test |
154 | 2024–2026 |
Split stratejisi: temporal — train ve test farklı zaman dilimlerinden. Data leakage riski minimuma indirilmiş.
Corpus
İki granülaritede sunuluyor — chunk edilmiş versiyon retrieval'da belirgin daha iyi sonuç veriyor (bkz. Baseline Skorlar):
| Config | Kayıt | İçerik |
|---|---|---|
corpus |
110 | KDV Kanunu (3065) maddeleri, bölünmemiş |
corpus_chunked |
174 | Aynı maddeler, 2000+ karakterlik 27 madde alt bölümlere ayrılmış |
Features
train / test:
id : int — GIB özelge ID
siteLink : string — kaynak URL (gib.gov.tr)
ozelgeNo : string — resmi özelge numarası
ozelgeTarih : string — yayın tarihi (YYYY-MM-DD)
baslik : string — özelge başlığı
kanunNo : string — 3065
soru : string — mükellefin sorusu
cevap : string — GIB'in cevabı
madde_atiflar : list — atıf yapılan maddeler [{id, title}]
corpus:
id : int — madde ID
title : string — "Madde 17 Sosyal ve Askeri Amaçlı İstisnalarla..."
metin : string — madde tam metni
siteLink : string — kaynak URL
priority : int — madde sırası
bolum : string — bölüm başlığı
corpus_chunked:
chunk_id : string — "MADDE_<article_id>_<part>"
article_id : int — corpus'taki madde id'si (ground truth eşleşmesi bununla yapılır)
title : string — madde başlığı
section : string? — alt bölüm başlığı (varsa)
part : int — madde içindeki sıra
metin : string — chunk metni
metin_len : int — karakter uzunluğu
Baseline Skorlar
Query: özelge sorusu · k=154 test · Ground truth: madde_atiflar (chunk config'te article_id ile eşleştirilir, çoklu chunk aynı maddeye denk gelirse ilk/en iyi rank kullanılır)
| Model | Boyut | corpus (article) recall@10 | corpus_chunked recall@10 |
|---|---|---|---|
| BM25 | — | 0.344 | 0.407 |
| e5-large | 560M | 0.285 | 0.353 |
| BGE-M3 | 560M | 0.272 | 0.388 |
| Qwen3-Embedding-0.6B | 0.6B | 0.377 | 0.316 |
| Qwen3-Embedding-4B | 4B | —¹ | 0.363 |
| Qwen3-Embedding-8B | 8B | —¹ | 0.515 |
| Nomic Embed v2-moe | 305M aktif (MoE) | —¹ | 0.602 |
Türkçe-native (trmteb) |
— | —¹ | 0.429 |
¹ article corpus'ta test edilmedi — bölünmemiş bazı maddeler (örn. Madde 17, 35K karakter) uzun-context modellerde tüm VRAM'i tüketip pratik olmayan sürelere yol açtı; chunk corpus zaten kesin daha iyi sonuç verdiği için (bkz. Bulgu 1) bu maliyeti göze almaya değmedi.
Bulgu 1: chunking (article → corpus_chunked), model değişikliğinden daha büyük etki yarattı — hatta Qwen3-Embedding-0.6B özelinde chunk'lamak recall'ı düşürdü (0.377 → 0.316), tek istisna; küçük modellerde bazen tüm maddeyi görmek parçalı bağlamdan daha faydalı olabiliyor.
Bulgu 2: madde_atiflar'ın %41'i konudan bağımsız, hemen her özelgede geçen 3 boilerplate maddeye (KDV oranı, verginin konusu, vergi sorumlusu) atıf yapıyor — bu sorgular içerik-eşleştirmeli retrieval ile yapısal olarak çözülemez. Bu sorgular çıkarılınca (kalan 91 sorgu) gerçek content-retrieval kalitesi çok daha yüksek çıkıyor: BM25 0.533, Nomic v2 0.626.
Bulgu 3: en küçük model (Nomic v2, 305M aktif param) MTEB liderlik tablosunun tepesindeki modelleri (Qwen3-Embedding-8B) geçti — ama istatistiksel testte (bootstrap) bu fark, boilerplate-hariç zor sorularda anlamsızlaşıyor. MTEB sıralaması bu tür spesifik/düşük-kaynaklı dil + küçük corpus görevlerine doğrudan yansımıyor.
Hibrit Rerank (BM25 + dense, Reciprocal Rank Fusion)
| Kombinasyon | Ham recall@10 (n=154) | Temiz recall@10 (n=91) |
|---|---|---|
| BM25 (tek başına) | 0.407 | 0.533 |
| Nomic v2 (tek başına) | 0.602 | 0.626 |
| Qwen3-Embedding-8B (tek başına) | 0.515 | 0.583 |
| BM25 + Nomic v2 (RRF) | 0.554 | 0.658 |
| BM25 + Qwen3-Embedding-8B (RRF) | 0.570 | 0.663 |
Bulgu 4: hibrit rerank (RRF, rrf_k=60) tek yönlü bir kazanç değil. Zayıf/genel-amaçlı modeli (Qwen3-8B) BM25 ile birleştirmek, temiz veri setinde istatistiksel olarak anlamlı bir iyileşme sağlıyor (%98 güven, bootstrap n=10000) ve modeli en güçlü standalone modelin (Nomic v2) seviyesine getiriyor. Ama zaten göreve-özel eğitilmiş güçlü modeli (Nomic v2) hibritlemek net katkı sağlamıyor (temiz veride %82 güven — anlamsız; ham veride hafif zarar — BM25'in boilerplate maddelerdeki zayıflığı Nomic'in oradaki gücünü sulandırıyor).
Pointwise Cross-Encoder Rerank
First-stage (Nomic v2 standalone dense) top-k aday havuzu (top-20/top-50) çıkarılıp cross-encoder ile yeniden sıralanıyor — first-stage'siz "tüm corpus'u rerank et" bilinçli olarak yapılmadı (corpus küçük diye first-stage'i atlamak, corpus büyüdüğünde üretimde asla ulaşılamayacak yapay bir tavan ölçer):
| Kombinasyon | Ham recall@10 (n=154) | Temiz recall@10 (n=91) |
|---|---|---|
| bge-reranker-v2-m3, pool20 | 0.580 | 0.631 |
| Qwen3-Reranker-8B, pool20 | 0.632 | 0.687 |
Bulgu 5: zayıf bir cross-encoder (bge, 568M) hiçbir varyantta standalone Nomic'i ya da hibrit RRF'yi istatistiksel olarak anlamlı geçemedi — cross-encoder mimarisi tek başına yeterli değil, modelin kendi kalitesi belirleyici. Güçlü bir cross-encoder (Qwen3-Reranker-8B) küçük veri setinde (91 sorgu) hem BM25'i hem Nomic standalone'u anlamlı farkla geçti — ama bkz. Bulgu 6, bu sonuç veri seti büyüyünce değişti.
Genişletilmiş/Temizlenmiş Baseline (Bulgu 6)
İki iyileştirme uygulandı: (1) madde_atiflar'daki bazı atıfların (76 benzersiz id) KDV Kanunu dışı bir kanuna (çoğunlukla Vergi Usul Kanunu — "Amortisman", "Şüpheli Alacaklar" gibi başlıklar) ait olup corpus'ta hiç bulunmadığı tespit edildi, bu yapısal olarak-imkansız atıflar ölçümden çıkarıldı; (2) istatistiksel güç için train split'i de (fine-tune YAPILMADAN, sadece ek eval sorgusu olarak) test'e eklendi — 154 → 813 ham / 270 temiz sorgu.
⚠️ Uyarı: Bu 813/270 sayıları sadece zero-shot/pretrained model karşılaştırması için geçerli (bu benchmark'ta hiçbir model train split'i ile fine-tune edilmedi). Eğer siz train split'inde fine-tune yapıyorsanız, değerlendirmeyi sadece orijinal 154-kayıtlı
testsplit'inde yapın — train'i eval'e katmak fine-tune edilmiş bir model için data leakage olur.
| Yöntem | Ham (n=813) | Temiz (n=270) |
|---|---|---|
| BM25 | 0.377 | 0.624 |
| Nomic v2 (standalone) | 0.593 | 0.646 |
| Hibrit BM25+Nomic (RRF) | 0.569 | 0.706 |
| Hibrit BM25+Qwen3-8B (RRF) | 0.559 | 0.698 |
| bge-reranker-v2-m3, pool20 | 0.618 | 0.653 |
| Qwen3-Reranker-8B, pool20 | 0.644 | 0.664 |
İstatistiksel güç artınca (91→270 "temiz" sorgu) sonuç tersine döndü: küçük veri setinde cross-encoder (Qwen3-Reranker-8B) hibridi geçiyordu, büyük/temiz sette hibrit RRF öne geçti (%98 güven, bootstrap n=10000). Olası sebep mimari değil, yapısal: cross-encoder tek bir first-stage retriever'ın (Nomic) top-k'sıyla sınırlı; hibrit RRF ise BM25 ve Nomic'in bağımsız tam sıralamalarını birleştirdiği için birinin kaçırdığını diğeri yakalayabiliyor. Ham (boilerplate-ağırlıklı) sette cross-encoder hâlâ öne geçiyor. Ders: küçük veri setinden çıkardığınız sonuca güvenmeyin, mümkünse istatistiksel gücü artırın.
Cross-Encoder First-Stage Havuzu: BM25 ∪ Nomic (Bulgu 7)
Bulgu 6'nın hipotezi test edildi: first-stage havuzu tek kaynak (Nomic top-20) yerine BM25 top-20 ∪ Nomic top-20 (iki kaynağın kendi kanıtlanmış top-k'sı küçültülmeden birleştiriliyor, ≤40 aday) olarak kuruldu. Reranker: Qwen3-Reranker-8B, pool20.
| Yöntem | Ham (n=813) | Temiz (n=270) |
|---|---|---|
| Hibrit BM25+Nomic (RRF) | 0.569 | 0.706 |
| Qwen3-Reranker-8B, sadece-Nomic havuz | 0.644 | 0.664 |
| Qwen3-Reranker-8B, BM25∪Nomic havuz | 0.664 | 0.725 |
Bulgu 7: hipotez doğrulandı. Union havuz hem ham hem temiz sette istatistiksel olarak anlamlı bir kazanç sağladı (sırasıyla %98 ve %100 güven, bootstrap n=10000) — önemli olan havuzu aynı kaynağın sıralamasında büyütmek değil, farklı kaynaktan aday eklemekmiş. Temiz sette Bulgu 6'daki kayıp kapandı: hibrit RRF'e karşı fark artık istatistiksel olarak anlamsız (%82 güven) — iki yöntem pratikte eşdeğer. Bedel: havuz artık sabit değil (≤40), sorgu başına süre kabaca 2x arttı. Yeni proje rekoru: temiz sette recall@10 = 0.725.
Query Rewriting: First-Stage Havuza LLM ile Yeniden Yazılmış Query (Bulgu 8)
Özelge sorusu günlük dilde, madde metni hukuki dilde ("teslim", "istisna", "matrah", "tevkifat") — bu asimetri LLM ile query rewriting'le ele alındı. Lokal bir LLM (Qwen3-8B, vLLM) sorguyu hukuki-dile yaklaştırarak yeniden yazdı (mükellefe özgü detaylar atılıp kavramsal çekirdek korunarak); rewrite, first-stage aday havuzuna bağımsız bir kaynak olarak eklendi (Nomic_orig ∪ BM25_orig ∪ Nomic_rewrite ∪ BM25_rewrite), reranker'a ise her zaman orijinal soru verildi — ground truth orijinal soru niyetine göre etiketlendiği için olası bir rewrite halüsinasyonunun etkisini zararsız first-stage'e hapsetmek için.
| Yöntem | Ham (n=809) | Temiz (n=269) |
|---|---|---|
| Qwen3-Reranker-8B, BM25∪Nomic havuz (Bulgu 7) | 0.665 | 0.724 |
| + rewrite-pool | 0.690 | 0.738 (nominal) |
Bulgu 8: karışık ama dürüst sonuç. İzolasyonda (standalone BM25/Nomic, rewrite ile query değiştirilerek) rewrite neredeyse evrensel işe yaradı — 4 kombinasyondan 3'ünde istatistiksel olarak anlamlı kazanç (BM25 ham +0.085, Nomic ham +0.037, Nomic temiz +0.045; tek istisna BM25 temiz'de küçük, istatistiksel olarak anlamsız bir gerileme). Ana deneyde ham sette kazanç istatistiksel olarak sağlam (%99 güven, bootstrap n=10000), temiz/zor sette ise nominal bir rekor kırılsa da bootstrap'ta kanıtlanamadı (%84 güven, CI sıfırı kesiyor) — örneklem küçük (n=269) ve şampiyon zaten güçlü bir taban olduğu için marjinal katkı gürültüye karışıyor. Bulgu 6→7'deki dersle tutarlı: nominal bir "yeni rekor" sayıya bakıp hemen sonuç çıkarmamak gerekiyor.
BM25, Nomic v2, BM25+dense hibrit ve BM25∪Nomic havuzlu Qwen3-Reranker-8B rerank (opsiyonel: + rewrite-pool, ham sette istatistiksel olarak kanıtlanmış bir kazanç) şu anki en güçlü başlangıç noktaları.
Point-in-Time Madde Versiyonları (Bulgu 9, v0 — kısmi kapsam)
Bu benchmark'ın asıl farkı point-in-time retrieval ("2019'da bu işlem KDV'den istisna mıydı?" → o tarihte yürürlükte olan madde versiyonu) ama şimdiye kadar bunu test edecek veri yoktu: madde değişiklik tarihleri biliniyordu, değişikliğin içeriği (eski metin) bilinmiyordu. İlk kez gerçek versiyon verisi üretildi:
Yöntem: mevzuat.gov.tr'nin KDV Kanunu sayfası, her değişikliği eski↔yeni ifade quote ederek açıklayan 131 footnote içeriyor ("... bu fıkrada yer alan 'X' ibaresi 'Y' şeklinde değiştirilmiştir" gibi) — buna GİB'in kendi metnindeki 47 satır-içi not eklendi. İkisi de yerel bir LLM (Qwen3.6-27B, NVFP4, vLLM) ile yapılandırılmış {edit_tipi, eski_ifade, yeni_ifade} kayıtlarına çevrildi — LLM çıktısına güvenilmedi, her kayıt LLM'siz programatik yöntemlerle (substring varlığı, çok-aşamalı zincir tespiti, konum-tabanlı forward-replay) doğrulandı. Doğrulanan kayıtlardan, madde başına güncel metinden geriye doğru (tarih-azalan sırayla) versiyon zinciri inşa edildi.
Kapsam (dürüstçe kısmi): 178 aday kayıttan sadece 54'ü (%30) otomatik doğrulamadan geçti — geri kalanı ya LLM'in kendi belirsizlik işareti, ya çok-aşamalı/zincirli değişiklik notu, ya da programatik testte tutarsızlık yüzünden elendi (uydurulmadı, sessizce atlandı). Sonuç: 8 madde (13, 16, 17, 24, 29, 36, 46, 58) için gerçek çok-versiyonlu tarihçe, 102 madde için tek versiyon (ya hiç değişmemiş ya da reconstruct edilemedi). Bilinen bir sınır: 166 body marker (çoğunlukla footnote'suz eski "yeni bent/fıkra eklendi" tipi değişiklikler) hâlâ kapsam dışı.
corpus_versioned (data/corpus_versioned/kdv_maddeler_versiyonlu.jsonl):
madde_id : int — corpus'taki madde id'si (article_id ile aynı uzay)
madde_no : string — kanun madde numarası ("13")
version : int — versiyon sırası (1 = en eski)
metin : string — o versiyondaki madde metni
valid_from : string? — bu versiyonun başladığı tarih (null = kanunun başından beri)
valid_until : string? — bu versiyonun bittiği tarih (null = hâlâ yürürlükte)
kaynak_edit_key: string? — bu versiyona geçişi tetikleyen edit kaydı (footnote:N / gib:N)
Önemli: bu veri train/test'teki mevcut recall@10 skorlarını değiştirmez — madde_atiflar hâlâ tarih-bağımsız güncel madde id'sine atıf yapıyor. Point-in-time'ı gerçekten ölçen bir eval metodolojisi (sorguya referans tarih atama + üç varyantlı karşılaştırma: tarih-körü / filtresiz-tüm-versiyon / tarih-filtreli) henüz yazılmadı — bu, ilk kez gerçek veriyle mümkün hale geldi.
Kullanım
from datasets import load_dataset
# Benchmark
train = load_dataset("er3nhf/kdv-rag-benchmark", "benchmark", split="train")
test = load_dataset("er3nhf/kdv-rag-benchmark", "benchmark", split="test")
# Corpus (bölünmemiş, 110 madde)
corpus = load_dataset("er3nhf/kdv-rag-benchmark", "corpus", split="train")
# Corpus (chunk'lanmış, 174 kayıt — retrieval'da daha iyi sonuç verir)
corpus_chunked = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_chunked", split="train")
# Point-in-time madde versiyonları (v0, sadece 8 madde çok-versiyonlu — bkz. Bulgu 9)
corpus_versioned = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_versioned", split="train")
Değerlendirme örneği
# Her test kaydı için:
# query = record["soru"]
# ground_truth = {a["id"] for a in record["madde_atiflar"]}
# retrieved = retrieval_system(query, corpus, top_k=10)
# recall@10 = len(ground_truth & set(retrieved[:10])) / len(ground_truth)
Veri Kaynağı
- Özelgeler: Gelir İdaresi Başkanlığı — KDV Kanunu özelge veritabanı
- Maddeler: mevzuat.gov.tr — 3065 sayılı KDV Kanunu
Ham metin değil, referans + etiket yayınlanmaktadır.
Lisans
CC BY 4.0 — Kaynak belirtilmesi koşuluyla kullanılabilir.
Kaynak veriler Türkiye Cumhuriyeti kamu kurumlarına ait açık verilerdir.