BelegBench 🇨🇭 🇩🇪 🇦🇹

BelegBench ist der Benchmark hinter Belegant — On-Prem Beleg-AI für den DACH-Raum. Von den Machern von German-OCR.

v2: Drei Teile — CH (Swiss-QR-Rechnungen, DE/FR/IT), DE (Rechnungen nach § 14 UStG, GiroCode) und AT (Rechnungen nach § 11 UStG, „Zahlen mit Code") — zusammen 10002 Belege, 100 % synthetisch, mit vollständiger, arithmetisch konsistenter Ground Truth, prüfsummen-korrekten Kennungen und echten, scannbaren QR-Codes.

Config	Belege	Sprachen	Rechnung / Gutschrift / Kleinbetrag	mit QR-Code	Scan-Degradation
ch	3334	DE 2090 / FR 826 / IT 418	2823 / 160 / 351	72 %	26 %
de	3334	DE 3334	2789 / 164 / 381	38 %	26 %
at	3334	DE 3334	2772 / 189 / 373	43 %	24 %
ch-v1 (v1, Referenz)	300	DE / FR / IT	300 / 0 / 0	100 %	0 %

Was ist drin

• Bild (image): A4-Rendering bei 150 dpi (PNG) — oder als Treuhänder-Scan degradiert (JPEG: Rauschen, Schräglage, Stempel, Kaffeefleck, Kugelschreiber; der QR-Code bleibt scannbar).
• Ground Truth (ground_truth, JSON): 35 Felder — Rechnungssteller/-empfänger, IBAN/BIC, Betrag, Referenz (QRR/SCOR/NON), Verwendungszweck, Rechnungs-/Leistungs-/Fälligkeitsdatum, USt-IdNr./UID/Steuernummer, Kunden-/Auftragsnummer, Positionen (Menge, Einheit, Einzelpreis, Satz, Total), MwSt-Aufschlüsselung, Netto/Steuer/Brutto, Skonto, Steuerhinweis (Kleinunternehmer / Reverse Charge / befreit), Lohnanteil § 35a EStG.
• QR-Payload (qr_payload): Swiss QR (SPC) bzw. EPC-QR (BCD) als Text — das kostenlose Oracle für die Zahlfelder.
• Meta: country, language, document_type, industry (42 Branchen), layout (12 Layout-Familien), degraded.

Die Regel, die den Benchmark hart macht

Die Ground Truth enthält nur, was auf dem Beleg gedruckt ist. Fehlt das Fälligkeitsdatum, ist due_date null. Steht kein Verwendungszweck auf dem Beleg, ist payment_reference null. Ein Modell, das solche Felder „ergänzt", halluziniert — und genau das misst die Halluzinationsrate (erfundene Werte / Felder, die null sein müssen). Für Treuhänder, Steuerberater und Buchhaltungen ist das die entscheidende Metrik: lieber ein ehrliches null als eine erfundene IBAN. Definitionen: Bei steuerfreien Belegen gilt der gedruckte Gesamtbetrag zugleich als subtotal; „Leistungsdatum entspricht Rechnungsdatum" setzt service_date; bei Brutto-Belegen ohne Netto-Zeile bleibt subtotal null.

Landesspezifika, die abgedeckt sind

• CH: Swiss-QR-Zahlteil nach Swiss Payment Standards 2.3 (nur strukturierte Adressen), QR-IBAN + QR-Referenz (Modulo-10 rekursiv), SCOR (ISO 11649), Swico-S1-Rechnungsinformationen, MWST 8.1 / 2.6 / 3.8 %, CHE-UID (mod-11), Apostroph-Tausender, kein „ß", DE/FR/IT.
• DE: Pflichtangaben nach § 14 Abs. 4 UStG, Kleinbetragsrechnung ≤ 250 € (§ 33 UStDV), USt-IdNr. (ISO 7064 MOD 11,10) und Steuernummer in allen 16 Landesformaten, HRA/HRB + Amtsgericht, Kleinunternehmer (§ 19 UStG), Reverse Charge (§ 13b UStG), § 35a-Lohnanteil, DIN-5008-Briefe, GiroCode (EPC069-12), 19 / 7 %.
• AT: Rechnungsmerkmale nach § 11 UStG, Kleinbetragsrechnung ≤ 400 €, UID (ATU + Prüfziffer), Steuernummer (FA-Nummer + Prüfziffer), Firmenbuch FN + Gericht, UID des Empfängers bei Rechnungen über 10 000 €, Kleinunternehmer (§ 6 Abs 1 Z 27), Übergang der Steuerschuld (§ 19), „Zahlen mit Code" (EPC-QR), 20 / 10 / 13 %, „Jänner".
• Reale Stammdaten: PLZ/Ort-Paare (GeoNames), Bankleitzahlen/BIC (Deutsche Bundesbank, OeNB), Schweizer Institutsnummern — alles andere (Firmen, Personen, Nummern) ist erfunden.

Herkunft & Qualitätssicherung

• 100 % synthetisch: Firmen, Personen, Positionen und Texte sind frei erfunden und je Branche und Region kuratiert — 42 Branchen, alle Bundesländer bzw. Kantone, drei Sprachen. Keine echten Personen- oder Kundendaten.
• Alles Rechnerische ist deterministisch und geprüft: Beträge, MwSt-Aufschlüsselung, IBAN, QR-Referenz, Creditor Reference, UID/USt-IdNr./Steuernummer tragen gültige Prüfsummen; Summen sind arithmetisch konsistent; jeder QR-Code wurde nach dem Rendern maschinell zurückgelesen und gegen die Ground Truth abgeglichen.
• Lizenz: Apache-2.0.

Ergebnisse

Modus verified = Belegant-Pipeline (Schema + QR-Oracle + deterministischer Verifier), je Config n = 100, Seed 1.

Modell	Modus	Config	n	Field-EM	Halluzinationsrate	Parse-Fehler
German-OCR-3-8	verified	ch	97	95.8 %	6.7 %	0/97
German-OCR-3-8	verified	de	100	95.5 %	4.7 %	0/100
German-OCR-3-8	verified	at	100	95.3 %	5.0 %	0/100

Field-EM = exakte Treffer über alle gedruckten Felder; Halluzinationsrate = erfundene Werte für Felder, die auf dem Beleg nicht stehen.

Benchmark laufen lassen

pip install belegbench
python -m belegbench.run_eval --model <modell> --base-url http://localhost:11434/v1 --config de --n 300 --mode verified

Modi: raw (freies JSON), schema (Constrained Decoding), verified (Schema + QR-Oracle + deterministischer Verifier — die Belegant-Pipeline). Metriken: Field-EM, Halluzinationsrate, Verify-Catch-Rate, Parse-Fehler, Latenz — auch je Feld. Code & Metriken: github.com/Keyvanhardani/belegbench

Schema (ground_truth)

{
  "country": "DE", "language": "de", "document_type": "invoice",
  "creditor": {"name": "…", "address": "Straße Nr", "building": null, "zip": "80331", "city": "München", "country": "DE"},
  "creditor_iban": "DE…", "creditor_bic": "…|null", "amount": 1234.56, "currency": "EUR",
  "reference_type": "QRR|SCOR|NON", "reference": "…|null", "payment_reference": "…|null",
  "ultimate_debtor": {…}, "debtor_vat_id": "…|null", "additional_info": "…|null", "billing_info": "…|null",
  "invoice_number": "…", "invoice_date": "2026-03-18", "due_date": "…|null",
  "service_date": "…|null", "service_period_start": "…|null", "service_period_end": "…|null",
  "supplier_vat_uid": "DE123456789|ATU12345678|CHE-123.456.789 MWST|null", "supplier_tax_number": "…|null",
  "customer_number": "…|null", "order_number": "…|null",
  "line_items": [{"description": "…", "quantity": 2.0, "unit": "Std.", "unit_price": 85.0, "vat_rate": 19.0, "total": 170.0}],
  "line_items_gross": false, "vat_breakdown": [{"rate": 19.0, "net": 170.0, "tax": 32.3}],
  "subtotal": 170.0, "vat_total": 32.3, "total": 202.3,
  "discount_percent": 2.0, "discount_days": 7, "vat_note": "small_business|reverse_charge|exempt|null", "labor_share": null
}

Versionen

• v2 (2026-08) — CH / DE / AT, 10002 Belege, 12 Layout-Familien, 42 Branchen, Scan-Degradation, Kleinbetragsrechnungen & Gutschriften, Swiss-QR und EPC-QR.
• v1 (2026-07) — 300 Schweizer QR-Rechnungen (Config ch-v1, unverändert; Referenzergebnis Belegant-4B: 84.7 % Field-EM, 0.0 % Halluzinationsrate).

Von den Machern von German-OCR.