| --- |
| license: cc-by-4.0 |
| language: |
| - tr |
| tags: |
| - rag |
| - retrieval |
| - turkish |
| - tax-law |
| - legal |
| - benchmark |
| - point-in-time |
| size_categories: |
| - 1K<n<10K |
| task_categories: |
| - question-answering |
| - text-retrieval |
| --- |
| |
| # KDV RAG Benchmark |
|
|
| Türk KDV (Katma Değer Vergisi) mevzuatı için retrieval benchmark veri seti. |
|
|
| ## Diferansiyel: Point-in-Time Retrieval |
|
|
| Genel amaçlı LLM'ler "2019'da bu işlem KDV'den istisna mıydı?" sorusuna bugünkü kuralı döner. |
| Bu benchmark, retrieval sistemlerini **olay tarihinde yürürlükte olan** madde versiyonunu bulabilme kapasitesine göre değerlendirir. |
|
|
| ## Dataset Yapısı |
|
|
| ### Splits |
|
|
| | Split | Kayıt | Dönem | |
| |-------|-------|-------| |
| | `train` | 728 | 2018–2023 | |
| | `test` | 154 | 2024–2026 | |
|
|
| Split stratejisi: **temporal** — train ve test farklı zaman dilimlerinden. Data leakage riski minimuma indirilmiş. |
|
|
| ### Corpus |
|
|
| İki granülaritede sunuluyor — chunk edilmiş versiyon retrieval'da belirgin daha iyi sonuç veriyor (bkz. Baseline Skorlar): |
|
|
| | Config | Kayıt | İçerik | |
| |--------|-------|--------| |
| | `corpus` | 110 | KDV Kanunu (3065) maddeleri, bölünmemiş | |
| | `corpus_chunked` | 174 | Aynı maddeler, 2000+ karakterlik 27 madde alt bölümlere ayrılmış | |
|
|
| ### Features |
|
|
| **train / test:** |
| ``` |
| id : int — GIB özelge ID |
| siteLink : string — kaynak URL (gib.gov.tr) |
| ozelgeNo : string — resmi özelge numarası |
| ozelgeTarih : string — yayın tarihi (YYYY-MM-DD) |
| baslik : string — özelge başlığı |
| kanunNo : string — 3065 |
| soru : string — mükellefin sorusu |
| cevap : string — GIB'in cevabı |
| madde_atiflar : list — atıf yapılan maddeler [{id, title}] |
| ``` |
|
|
| **corpus:** |
| ``` |
| id : int — madde ID |
| title : string — "Madde 17 Sosyal ve Askeri Amaçlı İstisnalarla..." |
| metin : string — madde tam metni |
| siteLink : string — kaynak URL |
| priority : int — madde sırası |
| bolum : string — bölüm başlığı |
| ``` |
|
|
| **corpus_chunked:** |
| ``` |
| chunk_id : string — "MADDE_<article_id>_<part>" |
| article_id : int — corpus'taki madde id'si (ground truth eşleşmesi bununla yapılır) |
| title : string — madde başlığı |
| section : string? — alt bölüm başlığı (varsa) |
| part : int — madde içindeki sıra |
| metin : string — chunk metni |
| metin_len : int — karakter uzunluğu |
| ``` |
| |
| ## Baseline Skorlar |
| |
| Query: özelge sorusu · k=154 test · Ground truth: `madde_atiflar` (chunk config'te `article_id` ile eşleştirilir, çoklu chunk aynı maddeye denk gelirse ilk/en iyi rank kullanılır) |
| |
| | Model | Boyut | corpus (article) recall@10 | corpus_chunked recall@10 | |
| |---|---|---|---| |
| | BM25 | — | 0.344 | 0.407 | |
| | e5-large | 560M | 0.285 | 0.353 | |
| | BGE-M3 | 560M | 0.272 | 0.388 | |
| | Qwen3-Embedding-0.6B | 0.6B | 0.377 | 0.316 | |
| | Qwen3-Embedding-4B | 4B | —¹ | 0.363 | |
| | Qwen3-Embedding-8B | 8B | —¹ | 0.515 | |
| | **Nomic Embed v2-moe** | 305M aktif (MoE) | —¹ | **0.602** | |
| | Türkçe-native (`trmteb`) | — | —¹ | 0.429 | |
| |
| ¹ article corpus'ta test edilmedi — bölünmemiş bazı maddeler (örn. Madde 17, 35K karakter) uzun-context modellerde tüm VRAM'i tüketip pratik olmayan sürelere yol açtı; chunk corpus zaten kesin daha iyi sonuç verdiği için (bkz. Bulgu 1) bu maliyeti göze almaya değmedi. |
| |
| **Bulgu 1**: chunking (article → corpus_chunked), model değişikliğinden daha büyük etki yarattı — hatta Qwen3-Embedding-0.6B özelinde chunk'lamak recall'ı *düşürdü* (0.377 → 0.316), tek istisna; küçük modellerde bazen tüm maddeyi görmek parçalı bağlamdan daha faydalı olabiliyor. |
| |
| **Bulgu 2**: `madde_atiflar`'ın %41'i konudan bağımsız, hemen her özelgede geçen 3 boilerplate maddeye (KDV oranı, verginin konusu, vergi sorumlusu) atıf yapıyor — bu sorgular içerik-eşleştirmeli retrieval ile yapısal olarak çözülemez. Bu sorgular çıkarılınca (kalan 91 sorgu) gerçek content-retrieval kalitesi çok daha yüksek çıkıyor: BM25 0.533, Nomic v2 0.626. |
| |
| **Bulgu 3**: en küçük model (Nomic v2, 305M aktif param) MTEB liderlik tablosunun tepesindeki modelleri (Qwen3-Embedding-8B) geçti — ama istatistiksel testte (bootstrap) bu fark, boilerplate-hariç zor sorularda anlamsızlaşıyor. MTEB sıralaması bu tür spesifik/düşük-kaynaklı dil + küçük corpus görevlerine doğrudan yansımıyor. |
| |
| ### Hibrit Rerank (BM25 + dense, Reciprocal Rank Fusion) |
| |
| | Kombinasyon | Ham recall@10 (n=154) | Temiz recall@10 (n=91) | |
| |---|---|---| |
| | BM25 (tek başına) | 0.407 | 0.533 | |
| | Nomic v2 (tek başına) | 0.602 | 0.626 | |
| | Qwen3-Embedding-8B (tek başına) | 0.515 | 0.583 | |
| | BM25 + Nomic v2 (RRF) | 0.554 | 0.658 | |
| | BM25 + Qwen3-Embedding-8B (RRF) | 0.570 | **0.663** | |
| |
| **Bulgu 4**: hibrit rerank (RRF, `rrf_k=60`) tek yönlü bir kazanç değil. Zayıf/genel-amaçlı modeli (Qwen3-8B) BM25 ile birleştirmek, temiz veri setinde istatistiksel olarak anlamlı bir iyileşme sağlıyor (%98 güven, bootstrap n=10000) ve modeli en güçlü standalone modelin (Nomic v2) seviyesine getiriyor. Ama zaten göreve-özel eğitilmiş güçlü modeli (Nomic v2) hibritlemek net katkı sağlamıyor (temiz veride %82 güven — anlamsız; ham veride hafif zarar — BM25'in boilerplate maddelerdeki zayıflığı Nomic'in oradaki gücünü sulandırıyor). |
| |
| ### Pointwise Cross-Encoder Rerank |
| |
| First-stage (Nomic v2 standalone dense) top-k aday havuzu (top-20/top-50) çıkarılıp cross-encoder ile yeniden sıralanıyor — first-stage'siz "tüm corpus'u rerank et" bilinçli olarak yapılmadı (corpus küçük diye first-stage'i atlamak, corpus büyüdüğünde üretimde asla ulaşılamayacak yapay bir tavan ölçer): |
| |
| | Kombinasyon | Ham recall@10 (n=154) | Temiz recall@10 (n=91) | |
| |---|---|---| |
| | bge-reranker-v2-m3, pool20 | 0.580 | 0.631 | |
| | **Qwen3-Reranker-8B, pool20** | 0.632 | **0.687** | |
|
|
| **Bulgu 5**: zayıf bir cross-encoder (bge, 568M) hiçbir varyantta standalone Nomic'i ya da hibrit RRF'yi istatistiksel olarak anlamlı geçemedi — cross-encoder mimarisi tek başına yeterli değil, modelin kendi kalitesi belirleyici. Güçlü bir cross-encoder (Qwen3-Reranker-8B) küçük veri setinde (91 sorgu) hem BM25'i hem Nomic standalone'u anlamlı farkla geçti — ama bkz. Bulgu 6, bu sonuç veri seti büyüyünce değişti. |
|
|
| ### Genişletilmiş/Temizlenmiş Baseline (Bulgu 6) |
|
|
| İki iyileştirme uygulandı: (1) `madde_atiflar`'daki bazı atıfların (76 benzersiz id) KDV Kanunu dışı bir kanuna (çoğunlukla Vergi Usul Kanunu — "Amortisman", "Şüpheli Alacaklar" gibi başlıklar) ait olup corpus'ta hiç bulunmadığı tespit edildi, bu yapısal olarak-imkansız atıflar ölçümden çıkarıldı; (2) **istatistiksel güç için train split'i de (fine-tune YAPILMADAN, sadece ek eval sorgusu olarak) test'e eklendi** — 154 → 813 ham / 270 temiz sorgu. |
|
|
| > ⚠️ **Uyarı**: Bu 813/270 sayıları sadece **zero-shot/pretrained model karşılaştırması** için geçerli (bu benchmark'ta hiçbir model train split'i ile fine-tune edilmedi). Eğer siz train split'inde fine-tune yapıyorsanız, değerlendirmeyi **sadece orijinal 154-kayıtlı `test` split'inde** yapın — train'i eval'e katmak fine-tune edilmiş bir model için data leakage olur. |
|
|
| | Yöntem | Ham (n=813) | Temiz (n=270) | |
| |---|---|---| |
| | BM25 | 0.377 | 0.624 | |
| | Nomic v2 (standalone) | 0.593 | 0.646 | |
| | **Hibrit BM25+Nomic (RRF)** | 0.569 | **0.706** | |
| | Hibrit BM25+Qwen3-8B (RRF) | 0.559 | 0.698 | |
| | bge-reranker-v2-m3, pool20 | 0.618 | 0.653 | |
| | **Qwen3-Reranker-8B, pool20** | **0.644** | 0.664 | |
|
|
| İstatistiksel güç artınca (91→270 "temiz" sorgu) sonuç **tersine döndü**: küçük veri setinde cross-encoder (Qwen3-Reranker-8B) hibridi geçiyordu, büyük/temiz sette hibrit RRF öne geçti (%98 güven, bootstrap n=10000). Olası sebep mimari değil, yapısal: cross-encoder tek bir first-stage retriever'ın (Nomic) top-k'sıyla sınırlı; hibrit RRF ise BM25 ve Nomic'in bağımsız tam sıralamalarını birleştirdiği için birinin kaçırdığını diğeri yakalayabiliyor. Ham (boilerplate-ağırlıklı) sette cross-encoder hâlâ öne geçiyor. **Ders**: küçük veri setinden çıkardığınız sonuca güvenmeyin, mümkünse istatistiksel gücü artırın. |
|
|
| ### Cross-Encoder First-Stage Havuzu: BM25 ∪ Nomic (Bulgu 7) |
|
|
| Bulgu 6'nın hipotezi test edildi: first-stage havuzu tek kaynak (Nomic top-20) yerine **BM25 top-20 ∪ Nomic top-20** (iki kaynağın kendi kanıtlanmış top-k'sı küçültülmeden birleştiriliyor, ≤40 aday) olarak kuruldu. Reranker: Qwen3-Reranker-8B, pool20. |
|
|
| | Yöntem | Ham (n=813) | Temiz (n=270) | |
| |---|---|---| |
| | Hibrit BM25+Nomic (RRF) | 0.569 | 0.706 | |
| | Qwen3-Reranker-8B, sadece-Nomic havuz | 0.644 | 0.664 | |
| | **Qwen3-Reranker-8B, BM25∪Nomic havuz** | **0.664** | **0.725** | |
|
|
| **Bulgu 7**: hipotez doğrulandı. Union havuz hem ham hem temiz sette istatistiksel olarak anlamlı bir kazanç sağladı (sırasıyla %98 ve %100 güven, bootstrap n=10000) — önemli olan havuzu aynı kaynağın sıralamasında büyütmek değil, farklı kaynaktan aday eklemekmiş. Temiz sette Bulgu 6'daki kayıp kapandı: hibrit RRF'e karşı fark artık istatistiksel olarak anlamsız (%82 güven) — iki yöntem pratikte eşdeğer. Bedel: havuz artık sabit değil (≤40), sorgu başına süre kabaca 2x arttı. Yeni proje rekoru: temiz sette recall@10 = 0.725. |
|
|
| ### Query Rewriting: First-Stage Havuza LLM ile Yeniden Yazılmış Query (Bulgu 8) |
|
|
| Özelge sorusu günlük dilde, madde metni hukuki dilde ("teslim", "istisna", "matrah", "tevkifat") — bu asimetri LLM ile query rewriting'le ele alındı. Lokal bir LLM (Qwen3-8B, vLLM) sorguyu hukuki-dile yaklaştırarak yeniden yazdı (mükellefe özgü detaylar atılıp kavramsal çekirdek korunarak); rewrite, first-stage aday havuzuna **bağımsız bir kaynak** olarak eklendi (Nomic_orig ∪ BM25_orig ∪ Nomic_rewrite ∪ BM25_rewrite), reranker'a ise **her zaman orijinal soru** verildi — ground truth orijinal soru niyetine göre etiketlendiği için olası bir rewrite halüsinasyonunun etkisini zararsız first-stage'e hapsetmek için. |
|
|
| | Yöntem | Ham (n=809) | Temiz (n=269) | |
| |---|---|---| |
| | Qwen3-Reranker-8B, BM25∪Nomic havuz (Bulgu 7) | 0.665 | 0.724 | |
| | **+ rewrite-pool** | **0.690** | **0.738** (nominal) | |
|
|
| **Bulgu 8**: karışık ama dürüst sonuç. İzolasyonda (standalone BM25/Nomic, rewrite ile query değiştirilerek) rewrite neredeyse evrensel işe yaradı — 4 kombinasyondan 3'ünde istatistiksel olarak anlamlı kazanç (BM25 ham +0.085, Nomic ham +0.037, Nomic temiz +0.045; tek istisna BM25 temiz'de küçük, istatistiksel olarak anlamsız bir gerileme). Ana deneyde ham sette kazanç istatistiksel olarak sağlam (%99 güven, bootstrap n=10000), temiz/zor sette ise nominal bir rekor kırılsa da bootstrap'ta kanıtlanamadı (%84 güven, CI sıfırı kesiyor) — örneklem küçük (n=269) ve şampiyon zaten güçlü bir taban olduğu için marjinal katkı gürültüye karışıyor. Bulgu 6→7'deki dersle tutarlı: nominal bir "yeni rekor" sayıya bakıp hemen sonuç çıkarmamak gerekiyor. |
|
|
| BM25, Nomic v2, BM25+dense hibrit ve BM25∪Nomic havuzlu Qwen3-Reranker-8B rerank (opsiyonel: + rewrite-pool, ham sette istatistiksel olarak kanıtlanmış bir kazanç) şu anki en güçlü başlangıç noktaları. |
|
|
| ### Point-in-Time Madde Versiyonları (Bulgu 9, v0 — kısmi kapsam) |
|
|
| Bu benchmark'ın asıl farkı point-in-time retrieval ("2019'da bu işlem KDV'den istisna mıydı?" → o tarihte yürürlükte olan madde versiyonu) ama şimdiye kadar bunu test edecek veri yoktu: madde değişiklik *tarihleri* biliniyordu, değişikliğin *içeriği* (eski metin) bilinmiyordu. İlk kez gerçek versiyon verisi üretildi: |
|
|
| **Yöntem**: mevzuat.gov.tr'nin KDV Kanunu sayfası, her değişikliği eski↔yeni ifade quote ederek açıklayan 131 footnote içeriyor ("... bu fıkrada yer alan 'X' ibaresi 'Y' şeklinde değiştirilmiştir" gibi) — buna GİB'in kendi metnindeki 47 satır-içi not eklendi. İkisi de yerel bir LLM (Qwen3.6-27B, NVFP4, vLLM) ile yapılandırılmış `{edit_tipi, eski_ifade, yeni_ifade}` kayıtlarına çevrildi — **LLM çıktısına güvenilmedi**, her kayıt LLM'siz programatik yöntemlerle (substring varlığı, çok-aşamalı zincir tespiti, konum-tabanlı forward-replay) doğrulandı. Doğrulanan kayıtlardan, madde başına güncel metinden geriye doğru (tarih-azalan sırayla) versiyon zinciri inşa edildi. |
|
|
| **Kapsam (dürüstçe kısmi)**: 178 aday kayıttan sadece 54'ü (%30) otomatik doğrulamadan geçti — geri kalanı ya LLM'in kendi belirsizlik işareti, ya çok-aşamalı/zincirli değişiklik notu, ya da programatik testte tutarsızlık yüzünden elendi (uydurulmadı, sessizce atlandı). Sonuç: **8 madde** (13, 16, 17, 24, 29, 36, 46, 58) için gerçek çok-versiyonlu tarihçe, 102 madde için tek versiyon (ya hiç değişmemiş ya da reconstruct edilemedi). Bilinen bir sınır: 166 body marker (çoğunlukla footnote'suz eski "yeni bent/fıkra eklendi" tipi değişiklikler) hâlâ kapsam dışı. |
|
|
| `corpus_versioned` (`data/corpus_versioned/kdv_maddeler_versiyonlu.jsonl`): |
| ``` |
| madde_id : int — corpus'taki madde id'si (article_id ile aynı uzay) |
| madde_no : string — kanun madde numarası ("13") |
| version : int — versiyon sırası (1 = en eski) |
| metin : string — o versiyondaki madde metni |
| valid_from : string? — bu versiyonun başladığı tarih (null = kanunun başından beri) |
| valid_until : string? — bu versiyonun bittiği tarih (null = hâlâ yürürlükte) |
| kaynak_edit_key: string? — bu versiyona geçişi tetikleyen edit kaydı (footnote:N / gib:N) |
| ``` |
|
|
| **Önemli**: bu veri `train`/`test`'teki mevcut `recall@10` skorlarını değiştirmez — `madde_atiflar` hâlâ tarih-bağımsız güncel madde id'sine atıf yapıyor. Point-in-time'ı gerçekten ölçen bir eval metodolojisi (sorguya referans tarih atama + üç varyantlı karşılaştırma: tarih-körü / filtresiz-tüm-versiyon / tarih-filtreli) henüz yazılmadı — bu, ilk kez gerçek veriyle mümkün hale geldi. |
|
|
| ## Kullanım |
|
|
| ```python |
| from datasets import load_dataset |
| |
| # Benchmark |
| train = load_dataset("er3nhf/kdv-rag-benchmark", "benchmark", split="train") |
| test = load_dataset("er3nhf/kdv-rag-benchmark", "benchmark", split="test") |
| |
| # Corpus (bölünmemiş, 110 madde) |
| corpus = load_dataset("er3nhf/kdv-rag-benchmark", "corpus", split="train") |
| |
| # Corpus (chunk'lanmış, 174 kayıt — retrieval'da daha iyi sonuç verir) |
| corpus_chunked = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_chunked", split="train") |
| |
| # Point-in-time madde versiyonları (v0, sadece 8 madde çok-versiyonlu — bkz. Bulgu 9) |
| corpus_versioned = load_dataset("er3nhf/kdv-rag-benchmark", "corpus_versioned", split="train") |
| ``` |
|
|
| ### Değerlendirme örneği |
|
|
| ```python |
| # Her test kaydı için: |
| # query = record["soru"] |
| # ground_truth = {a["id"] for a in record["madde_atiflar"]} |
| # retrieved = retrieval_system(query, corpus, top_k=10) |
| # recall@10 = len(ground_truth & set(retrieved[:10])) / len(ground_truth) |
| ``` |
|
|
| ## Veri Kaynağı |
|
|
| - **Özelgeler**: [Gelir İdaresi Başkanlığı](https://gib.gov.tr) — KDV Kanunu özelge veritabanı |
| - **Maddeler**: [mevzuat.gov.tr](https://www.mevzuat.gov.tr) — 3065 sayılı KDV Kanunu |
|
|
| Ham metin değil, referans + etiket yayınlanmaktadır. |
|
|
| ## Lisans |
|
|
| [CC BY 4.0](https://creativecommons.org/licenses/by/4.0/) — Kaynak belirtilmesi koşuluyla kullanılabilir. |
|
|
| Kaynak veriler Türkiye Cumhuriyeti kamu kurumlarına ait açık verilerdir. |
|
|
