| --- |
| base_model: Qwen/Qwen3.5-4B |
| language: |
| - de |
| - fr |
| - it |
| license: apache-2.0 |
| pipeline_tag: image-text-to-text |
| library_name: gguf |
| tags: |
| - ocr |
| - invoice |
| - qr-bill |
| - gguf |
| - belege |
| - swiss-qr-bill |
| - vision |
| --- |
| |
| <p align="center"> |
| <img src="logo.png" alt="Belegant" width="420"/> |
| </p> |
|
|
| <h1 align="center">Belegant-4B</h1> |
|
|
| <p align="center">🇨🇭 🇩🇪 🇫🇷 🇮🇹 🇦🇹 · Schweizer Belege & QR-Rechnungen → sauberes JSON</p> |
|
|
| Belegant-4B ist eine spezialisierte, professionell paketierte GGUF-Distribution für die |
| strukturierte Extraktion von Schweizer Belegen, Rechnungen und QR-Rechnungen. Aus dem Bild |
| eines Belegs entsteht striktes, schema-treues JSON – in Deutsch, Französisch und Italienisch. |
| Belegant-4B ist multimodal (`image-text-to-text`) und liest Text und Bild. |
|
|
| Der Fokus liegt auf Belastbarkeit statt Raten: Belegant setzt harte Regeln für den Schweizer |
| Zahlungsverkehr durch – QR-IBAN- und Referenz-Logik (QRR / SCOR / NON), Schweizer Zahlenformat |
| (`1'234.50`), gültige MWST-Sätze (8.1 / 2.6 / 3.8 / 0) – und erzwingt NULL-Disziplin: Was nicht |
| eindeutig im Bild steht, wird `null`, nie erfunden. |
|
|
| --- |
|
|
| ## 📦 Quantisierungen |
|
|
| | Quant | Größe | Empfehlung | |
| |-------|------:|------------| |
| | `belegant-4b-Q3_K_M.gguf` | ≈ 2.2 GB | Kleinster Footprint, für knappe RAM-/Edge-Setups | |
| | `belegant-4b-Q4_K_M.gguf` | ≈ 2.6 GB | Empfohlen – bestes Verhältnis Größe ↔ Qualität | |
| | `belegant-4b-Q5_K_M.gguf` | ≈ 3.0 GB | Etwas höhere Genauigkeit, moderat größer | |
| | `belegant-4b-Q6_K.gguf` | ≈ 3.4 GB | Nahe F16-Qualität, für anspruchsvolle Belege | |
| | `belegant-4b-Q8_0.gguf` | ≈ 4.3 GB | Höchste Treue, Referenz-/Abnahme-Läufe | |
| | `mmproj-belegant-4b-f16.gguf` | ≈ 642 MB | Vision-Projektor (mmproj) – für Bild-Eingabe zwingend | |
|
|
| > Für Bild-Eingabe wird der `mmproj`-Projektor zusätzlich zur gewählten Quant-Datei geladen. |
|
|
| --- |
|
|
| ## 📊 BelegBench v1 |
|
|
| Field-Level Exact-Match (Field-EM) über Schweizer Beleg-/QR-Rechnungs-Bilder, DE / FR / IT. |
|
|
| | Modell | Field-EM | Halluzination | |
| |--------|---------:|--------------:| |
| | Belegant-4B | **84.7 %** | **0 %** | |
| | Qwen3.5-4B (roh) | 75.8 % | – | |
| | gemma3:4b | 16.5 % | – | |
|
|
| Kernaussage: in der 4B-Klasse +8.9 Punkte Field-EM und 0 % Halluzination – entscheidend im |
| Zahlungsverkehr, wo eine erfundene IBAN oder ein falscher Betrag teurer ist als ein `null`. |
| Trilingual: DE 84.7 % · FR 81.4 % · IT 83.0 %. |
|
|
| > 📊 Gemessen mit BelegBench — dem offenen Benchmark für Schweizer QR-Rechnungen: https://huggingface.co/datasets/Keyven/belegbench |
|
|
| --- |
|
|
| ## 🚀 Verwendung |
|
|
| Gewünschte Quant-Datei plus den Vision-Projektor laden: |
|
|
| ```bash |
| huggingface-cli download Keyven/belegant-4b \ |
| belegant-4b-Q4_K_M.gguf mmproj-belegant-4b-f16.gguf Modelfile \ |
| --local-dir belegant-4b |
| cd belegant-4b |
| ``` |
|
|
| ### llama.cpp — Bild → JSON (Vision, empfohlen) |
|
|
| ```bash |
| llama-mtmd-cli \ |
| -m belegant-4b-Q4_K_M.gguf \ |
| --mmproj mmproj-belegant-4b-f16.gguf \ |
| --image beleg.jpg \ |
| --temp 0 --top-k 1 --top-p 1 \ |
| -p "Extrahiere die Belegfelder exakt als JSON nach Schema. Was nicht lesbar ist: null." |
| ``` |
|
|
| ### Ollama |
|
|
| ```bash |
| ollama create belegant-4b -f Modelfile |
| ollama run belegant-4b "./beleg.jpg" |
| ``` |
|
|
| ### Ziel-Schema (Auszug) |
|
|
| ```json |
| { |
| "creditor": {"name": null, "address": null, "zip": null, "city": null, "country": null}, |
| "creditor_iban": null, "amount": null, "currency": null, |
| "reference_type": null, "reference": null, |
| "invoice_number": null, "invoice_date": null, "due_date": null, "supplier_vat_uid": null, |
| "line_items": [{"description": null, "quantity": null, "unit_price": null, "vat_rate": null, "total": null}], |
| "vat_breakdown": [{"rate": null, "net": null, "tax": null}], |
| "subtotal": null, "vat_total": null, "total": null, "language": null |
| } |
| ``` |
|
|
| --- |
|
|
| ## 🙏 Credits |
|
|
| Basiert auf Qwen3.5-4B von Alibaba Cloud · Qwen Team — Dank ans Qwen-Team. Apache-2.0. |
|
|
| ## 📄 Lizenz |
|
|
| Apache License 2.0. |
|
|
