Datasets:
License:
metadata
license: apache-2.0
language:
- tr
- en
task_categories:
- image-to-text
- token-classification
- document-question-answering
tags:
- ocr
- turkish
- benchmark
- legal-ocr
- kvkk
- visual-redaction
- turkceocr
TurkceOCR-Bench
Canonical evaluation benchmark suite and Phase-2 real/hybrid visual training & test splits for ersanbil/TurkceOCR and ersanbil/kvkk-pii-ner.
Combines 35 unseen real-world Turkish archival, regulatory, and court document pages (TurkExternalBlindBench-v1, 93,165 ground-truth characters), the 15-KPI 6-Category ID/OOD Document Intelligence Suite (TurkceOCR-Bench-6Cat), and the 2,750-line Phase-2 Real-PDF + Archival Hybrid Line Corpus (Zero Doc-ID Leakage = True).
1. Veri Seti Alt Kümeleri (Subsets & Directory Structure)
ersanbil/TurkceOCR-Bench/
├── README.md # Veri seti kartı ve değerlendirme dokümantasyonu
├── LICENSE # Apache License, Version 2.0
├── NOTICE # Apache-2.0 ve üst akış veri/model bildirimleri
├── external_blind_35/ # TurkExternalBlindBench-v1 (35 Gerçek Saha Sayfası)
│ ├── manifest.json # 35 gerçek sayfa üst verisi (5 kategori × 7 örnek)
│ ├── external_blind_benchmark_report.json # 9 motor × 35 sayfa ham CER/WER/Diacritic-F1 sonuçları
│ ├── external_blind_benchmark_report.md # Sayfa bazlı adli hata analizi raporu
│ └── redacted_samples/ # 2B #000000 öncesi/sonrası görsel KVKK karartma örnekleri
├── docbench_15kpi/ # TürkçeOCR-Bench-6Cat (15 KPI × 6 Model Ablasyonu)
│ ├── turkceocr_bench_metrics.json # M0..M4 15-KPI ve 4 kıyaslama paketi sonuçları
│ ├── turkceocr_full_benchmark_leaderboard.json # Liderlik tablosu ve Gate 1 / Gate 2 denetim özeti
│ └── turkceocr_full_benchmark_report.md # 15-KPI detaylı markdown raporu
└── phase2_real_hybrid/ # Faz-2 Gerçek PDF + Hibrit Görsel Satır & Sayfa Paketi
├── dataset_manifest.json # 2.750 satır (2306 train / 229 val / 215 test_real_pdf)
├── phase2_visual_training_report.json # 40-epoch SVTRv2-v2 ve Qwen2.5-VL-LoRA-v2 metrikleri
├── phase2_visual_training_report.md # Faz-2 eğitim ve domain bazlı test raporu
├── sample_lines/ # 240 DPI gerçek PDF satır kırpımları
└── sample_pages/ # 200 DPI tam sayfa düzen örnekleri
Alt Klasör (split) |
Kapsam ve İçerik | Örnek Sayısı | Ölçülen Ana Sonuçlar |
|---|---|---|---|
external_blind_35/ |
35 gerçek saha belgesi (TurkExternalBlindBench-v1, 93.165 GT karakter): Rekabet Kurumu kararları, Resmî Gazete YİBK PDF'leri (1999 Courier ve ıslak mühürlü sayfalar), Mevzuat kanunları (1086, 1136, 1412, 6100), 2001 yılı 551×790 1-bit Resmî Gazete GIF'leri, EPDK .docx/.emf enerji tarife tabloları ve Yargıtay/Danıştay/AYM mahkeme kararları + redacted_samples/*.png 2B #000000 karartılmış görseller |
35 tam sayfa (420 gerçek varlık) |
E7_TurkceOCR_Full_System: 1.76% CER, 7.57% WER, 98.67% Diacritic F1, 0.00% Tekrar Döngüsü |
docbench_15kpi/ |
TürkçeOCR-Bench-6Cat (6 belge kategorisi × ID/OOD × 15 KPI × 6 model ablasyonu): Kurumsal e-Arşiv Fatura, Termal POS Fişi, Karma El Yazısı Form, Resmî Gazete/Noter, Çoklu KDV ERP Tablosu, Çift Sütunlu PDF |
6 kategori (ID + OOD), 15 KPI |
Gate 1 & Gate 2: 15/15 GEÇTİ (CER = 0.00%, CVKR = 100%, PII Recall = 100%, 2B Redact = 100%) |
phase2_real_hybrid/ |
Faz-2 gerçek PDF + hibrit görsel OCR eğitim & test paketi (2.750 satır, 220 tam sayfa, N = 215 test_real_pdf): belge düzeyi sızıntısız (Zero Doc-ID Leakage = True) manifest, eğitim raporları ve örnek gerçek PDF satır/sayfa görüntüleri |
2.750 satır + 220 sayfa |
SVTRv2-v2 (dil modelsiz saf CTC): mevzuat_pdf 16.17% CER, rekabet_pdf 20.34% CER |
2. TurkExternalBlindBench-v1 (35 Gerçek Saha Sayfası) Liderlik Tablosu Özeti
| Sıra | Motor Kodu & Yapılandırma | Örnek (N) |
Ortalama CER (↓) | Ortalama WER (↓) | Diacritic F1 (↑) | KPI-14 Döngü Oranı (↓) |
|---|---|---|---|---|---|---|
| 1 | E7_TurkceOCR_Full_System |
35 |
0.0176 (1.76%) |
0.0757 (7.57%) |
0.9867 (98.67%) |
0.0000 |
| 2 | E6_TurkceOCR_Visual_v1 |
35 |
0.0178 (1.78%) |
0.0767 (7.67%) |
0.9867 (98.67%) |
0.0000 |
| 3 | E4_Tesseract5_tur_Raw |
35 |
0.0418 (4.18%) |
0.1061 (10.61%) |
0.9741 (97.41%) |
0.0000 |
| 4 | E3_Tesseract5_eng |
35 |
0.1303 (13.03%) |
0.4834 (48.34%) |
0.0000 (0.00%) |
0.0000 |
| 5 | E5_Hunyuan_VLM_Archive (Taranmış/Arşiv Alt Kümesi) |
18 |
0.1585 (15.85%) |
0.1823 (18.23%) |
0.8930 (89.30%) |
0.0556 |
| 6 | E2c_SVTRv2_Line_v2_Phase2 |
35 (215 satır) |
0.5234 (0.2450 satır) |
0.9561 |
0.3378 (0.5427 satır) |
0.0000 |
| 7 | E1_PyMuPDF_Digital |
35 |
0.6055 (60.55%) |
0.6537 (65.37%) |
0.4015 (40.15%) |
0.0000 |
3. Hızlı Başlangıç: Kıyaslama Paketini Çalıştırma
git clone https://huggingface.co/ersanbil/TurkceOCR
cd TurkceOCR
pip install -e .
# 15-KPI 6-Kategori ID/OOD ve 4 Kıyaslama Paketi değerlendirmesini çalıştır
python -m scripts.build_turkceocr_bench
# 35 gerçek saha belgesi (TurkExternalBlindBench-v1) değerlendirmesini çalıştır
python -m scripts.run_external_blind_benchmark
License and Citation (Lisans ve Atıf)
Released under the Apache License, Version 2.0 (see LICENSE and NOTICE).
Court decision samples and legal entity distributions derive from hamzabagirsakci/turkish-court-decisions (Türk İçtihat Korpusu: 11.045.085 Türk Mahkeme Kararı, Hamza Bağırsakçı, CC0-1.0) and publicly available archives of T.C. Resmî Gazete, Mevzuat Bilgi Sistemi, Rekabet Kurumu, and EPDK.
@misc{ersanbil2026turkceocrbench,
title = {TurkceOCR-Bench: External Blind Real-World Benchmark and 15-KPI Evaluation Suite for Turkish Document OCR},
author = {ersanbil},
year = {2026},
month = {November},
publisher = {Hugging Face},
howpublished = {https://huggingface.co/datasets/ersanbil/TurkceOCR-Bench},
note = {Apache-2.0}
}
@misc{turk_ictihat_korpusu,
title = {Türk İçtihat Korpusu: 11.045.085 Türk Mahkeme Kararı},
author = {Bağırsakçı, Hamza},
year = {2026},
url = {https://huggingface.co/datasets/hamzabagirsakci/turkish-court-decisions},
note = {CC0-1.0}
}