TurkceOCR-Bench

Canonical evaluation benchmark suite and Phase-2 real/hybrid visual training & test splits for ersanbil/TurkceOCR and ersanbil/kvkk-pii-ner. Combines 35 unseen real-world Turkish archival, regulatory, and court document pages (TurkExternalBlindBench-v1, 93,165 ground-truth characters), the 15-KPI 6-Category ID/OOD Document Intelligence Suite (TurkceOCR-Bench-6Cat), and the 2,750-line Phase-2 Real-PDF + Archival Hybrid Line Corpus (Zero Doc-ID Leakage = True).

1. Veri Seti Alt Kümeleri (Subsets & Directory Structure)

ersanbil/TurkceOCR-Bench/
├── README.md                                          # Veri seti kartı ve değerlendirme dokümantasyonu
├── LICENSE                                            # Apache License, Version 2.0
├── NOTICE                                             # Apache-2.0 ve üst akış veri/model bildirimleri
├── external_blind_35/                                 # TurkExternalBlindBench-v1 (35 Gerçek Saha Sayfası)
│   ├── manifest.json                                  # 35 gerçek sayfa üst verisi (5 kategori × 7 örnek)
│   ├── external_blind_benchmark_report.json           # 9 motor × 35 sayfa ham CER/WER/Diacritic-F1 sonuçları
│   ├── external_blind_benchmark_report.md             # Sayfa bazlı adli hata analizi raporu
│   └── redacted_samples/                              # 2B #000000 öncesi/sonrası görsel KVKK karartma örnekleri
├── docbench_15kpi/                                    # TürkçeOCR-Bench-6Cat (15 KPI × 6 Model Ablasyonu)
│   ├── turkceocr_bench_metrics.json                   # M0..M4 15-KPI ve 4 kıyaslama paketi sonuçları
│   ├── turkceocr_full_benchmark_leaderboard.json      # Liderlik tablosu ve Gate 1 / Gate 2 denetim özeti
│   └── turkceocr_full_benchmark_report.md             # 15-KPI detaylı markdown raporu
└── phase2_real_hybrid/                                # Faz-2 Gerçek PDF + Hibrit Görsel Satır & Sayfa Paketi
    ├── dataset_manifest.json                          # 2.750 satır (2306 train / 229 val / 215 test_real_pdf)
    ├── phase2_visual_training_report.json             # 40-epoch SVTRv2-v2 ve Qwen2.5-VL-LoRA-v2 metrikleri
    ├── phase2_visual_training_report.md               # Faz-2 eğitim ve domain bazlı test raporu
    ├── sample_lines/                                  # 240 DPI gerçek PDF satır kırpımları
    └── sample_pages/                                  # 200 DPI tam sayfa düzen örnekleri

Alt Klasör (split)	Kapsam ve İçerik	Örnek Sayısı	Ölçülen Ana Sonuçlar
external_blind_35/	35 gerçek saha belgesi (TurkExternalBlindBench-v1, 93.165 GT karakter): Rekabet Kurumu kararları, Resmî Gazete YİBK PDF'leri (1999 Courier ve ıslak mühürlü sayfalar), Mevzuat kanunları (1086, 1136, 1412, 6100), 2001 yılı 551×790 1-bit Resmî Gazete GIF'leri, EPDK .docx/.emf enerji tarife tabloları ve Yargıtay/Danıştay/AYM mahkeme kararları + redacted_samples/*.png 2B #000000 karartılmış görseller	35 tam sayfa (420 gerçek varlık)	E7_TurkceOCR_Full_System: 1.76% CER, 7.57% WER, 98.67% Diacritic F1, 0.00% Tekrar Döngüsü
docbench_15kpi/	TürkçeOCR-Bench-6Cat (6 belge kategorisi × ID/OOD × 15 KPI × 6 model ablasyonu): Kurumsal e-Arşiv Fatura, Termal POS Fişi, Karma El Yazısı Form, Resmî Gazete/Noter, Çoklu KDV ERP Tablosu, Çift Sütunlu PDF	6 kategori (ID + OOD), 15 KPI	Gate 1 & Gate 2: 15/15 GEÇTİ (CER = 0.00%, CVKR = 100%, PII Recall = 100%, 2B Redact = 100%)
phase2_real_hybrid/	Faz-2 gerçek PDF + hibrit görsel OCR eğitim & test paketi (2.750 satır, 220 tam sayfa, N = 215 test_real_pdf): belge düzeyi sızıntısız (Zero Doc-ID Leakage = True) manifest, eğitim raporları ve örnek gerçek PDF satır/sayfa görüntüleri	2.750 satır + 220 sayfa	SVTRv2-v2 (dil modelsiz saf CTC): mevzuat_pdf 16.17% CER, rekabet_pdf 20.34% CER

---

2. TurkExternalBlindBench-v1 (35 Gerçek Saha Sayfası) Liderlik Tablosu Özeti

Sıra	Motor Kodu & Yapılandırma	Örnek (N)	Ortalama CER (↓)	Ortalama WER (↓)	Diacritic F1 (↑)	KPI-14 Döngü Oranı (↓)
1	E7_TurkceOCR_Full_System	35	0.0176 (1.76%)	0.0757 (7.57%)	0.9867 (98.67%)	0.0000
2	E6_TurkceOCR_Visual_v1	35	0.0178 (1.78%)	0.0767 (7.67%)	0.9867 (98.67%)	0.0000
3	E4_Tesseract5_tur_Raw	35	0.0418 (4.18%)	0.1061 (10.61%)	0.9741 (97.41%)	0.0000
4	E3_Tesseract5_eng	35	0.1303 (13.03%)	0.4834 (48.34%)	0.0000 (0.00%)	0.0000
5	E5_Hunyuan_VLM_Archive (Taranmış/Arşiv Alt Kümesi)	18	0.1585 (15.85%)	0.1823 (18.23%)	0.8930 (89.30%)	0.0556
6	E2c_SVTRv2_Line_v2_Phase2	35 (215 satır)	0.5234 (0.2450 satır)	0.9561	0.3378 (0.5427 satır)	0.0000
7	E1_PyMuPDF_Digital	35	0.6055 (60.55%)	0.6537 (65.37%)	0.4015 (40.15%)	0.0000

---

3. Hızlı Başlangıç: Kıyaslama Paketini Çalıştırma

git clone https://huggingface.co/ersanbil/TurkceOCR
cd TurkceOCR
pip install -e .

# 15-KPI 6-Kategori ID/OOD ve 4 Kıyaslama Paketi değerlendirmesini çalıştır
python -m scripts.build_turkceocr_bench

# 35 gerçek saha belgesi (TurkExternalBlindBench-v1) değerlendirmesini çalıştır
python -m scripts.run_external_blind_benchmark

---

License and Citation (Lisans ve Atıf)

Released under the Apache License, Version 2.0 (see LICENSE and NOTICE). Court decision samples and legal entity distributions derive from hamzabagirsakci/turkish-court-decisions (Türk İçtihat Korpusu: 11.045.085 Türk Mahkeme Kararı, Hamza Bağırsakçı, CC0-1.0) and publicly available archives of T.C. Resmî Gazete, Mevzuat Bilgi Sistemi, Rekabet Kurumu, and EPDK.

@misc{ersanbil2026turkceocrbench,
  title        = {TurkceOCR-Bench: External Blind Real-World Benchmark and 15-KPI Evaluation Suite for Turkish Document OCR},
  author       = {ersanbil},
  year         = {2026},
  month        = {November},
  publisher    = {Hugging Face},
  howpublished = {https://huggingface.co/datasets/ersanbil/TurkceOCR-Bench},
  note         = {Apache-2.0}
}

@misc{turk_ictihat_korpusu,
  title  = {Türk İçtihat Korpusu: 11.045.085 Türk Mahkeme Kararı},
  author = {Bağırsakçı, Hamza},
  year   = {2026},
  url    = {https://huggingface.co/datasets/hamzabagirsakci/turkish-court-decisions},
  note   = {CC0-1.0}
}