| --- |
| language: |
| - de |
| license: other |
| license_name: statikbench-commercial-1.0 |
| license_link: LICENSE.md |
| pretty_name: StatikBench |
| tags: |
| - civil-engineering |
| - structural-engineering |
| - eurocode |
| - din |
| - baunormen |
| - tragwerksplanung |
| - benchmark |
| - llm-evaluation |
| - german |
| - dach |
| - commercial-license |
| task_categories: |
| - question-answering |
| size_categories: |
| - n<1K |
| configs: |
| - config_name: default |
| data_files: data/statikbench_v0_2.jsonl |
| extra_gated_heading: StatikBench — Zugang beantragen |
| extra_gated_description: >- |
| StatikBench ist ein kostenpflichtig lizenziertes Werk. Die Freigabe dieses |
| Zugangs dient allein der Prüfung, ob eine Lizenz erworben werden soll — sie |
| räumt kein Nutzungsrecht ein. Jede Nutzung, Weitergabe, Veröffentlichung von |
| Ergebnissen sowie jede Verwendung als Trainings- oder Evaluationsdaten setzt |
| eine gesonderte, entgeltliche Lizenz voraus (LICENSE.md, PREISE.md). |
| extra_gated_prompt: >- |
| Ich habe die Lizenzbedingungen (LICENSE.md) gelesen und erkenne sie an. Mir |
| ist bekannt, dass der Zugang kein Nutzungsrecht begründet, dass für Text und |
| Data Mining ein Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt ist und dass |
| jede über die Kenntnisnahme hinausgehende Nutzung eine entgeltliche Lizenz |
| erfordert. |
| extra_gated_fields: |
| Name: text |
| Organisation: text |
| E-Mail für Lizenzanfragen: text |
| Verwendungszweck: text |
| Angestrebte Lizenzart: |
| type: select |
| options: |
| - A — Evaluierung |
| - B — Forschung (akademisch) |
| - C — Unternehmen (interne Modellbewertung) |
| - D — Publikation von Ergebnissen |
| - E — KI-Training / Feinabstimmung |
| - F — OEM / Integration |
| - noch offen |
| Ich erkenne die Lizenzbedingungen an: checkbox |
| Ich bestätige, den Datensatz ohne KI-Trainingslizenz (Lizenzart E) nicht für Training zu verwenden: checkbox |
| extra_gated_button_content: Zugang beantragen |
| --- |
| |
| <p align="center"> |
| <img src="assets/statikbench-banner.png" alt="StatikBench" width="100%"> |
| </p> |
|
|
| # StatikBench v0.2 (private Preview) |
|
|
| > **Zugang nur per Access Request.** Die Freigabe dient der Prüfung vor einem |
| > Lizenzerwerb und räumt kein Nutzungsrecht ein — jede Nutzung setzt eine |
| > kostenpflichtige Lizenz voraus ([LICENSE.md](LICENSE.md) · [PREISE.md](PREISE.md)). |
|
|
| **Der erste deutschsprachige LLM-Benchmark für Baunormen und normbasierte |
| Tragwerksbemessung (DE · AT · CH)** — ein **[Statika](https://statika.ai)**-Projekt, |
| von den Machern von German-OCR und BelegBench. |
|
|
| Es gibt Benchmarks für chinesische Baunormen (AECBench), US-Codes (PE Civil |
| Bench) und dänische Bauordnungen (BR18) — für DIN, Eurocode-NA, ÖNORM und SIA |
| gab es bisher keinen. StatikBench schließt die Lücke: **900 Items, 100 % |
| synthetisch, seed-reproduzierbar**, jede Ground Truth deterministisch vom |
| Statika-Rechenkern berechnet und gegen analytische Anker verifiziert |
| (qL²/8 · 5qL⁴/384EI · π²EI/L²). Kein Norm-Wortlaut im Dataset — Normen werden |
| ausschließlich referenziert (siehe [LEGAL.md](LEGAL.md)). |
|
|
| ## Tracks |
|
|
| | Track | Subtracks | Jurisdiktion | |
| |---|---|---| |
| | **Lastannahmen** | Wind (EC1-1-4/NA) · Schnee (EC1-1-3/NA) · Erdbeben (EC8/NA) | DE | |
| | **Balkenstatik** | Einfeldträger · Kragarm · Zweifeld-Durchlaufträger | DACH (reine Mechanik) | |
| | **Bemessung** | EC3-Biegeknicken · EC5-Holz · EC2-Stahlbeton | DE | |
|
|
| **126 Negativ-Items (14 %):** Eine zur Lösung nötige Angabe fehlt bewusst — die |
| korrekte Antwort ist `null`. Ein Modell, das trotzdem Werte liefert, |
| halluziniert Lastannahmen. Das speist die **Halluzinationsrate**, die |
| Sicherheitsmetrik für Ingenieur:innen. |
|
|
| ## Erste Ergebnisse |
|
|
| <p align="center"> |
| <img src="assets/leaderboard-v0.png" alt="StatikBench-Leaderboard: Statika AI 96,9 % Field-EM, 0,0 % Halluzination" width="92%"> |
| </p> |
|
|
| | Modell / Modus | Field-EM | Halluzinationsrate | Verify-Catch | Latenz | Parse-Fehler | |
| |---|---:|---:|---:|---:|---:| |
| | Qwen3.6:35B (roh) | 22,8 % | 42,1 % | 26,7 % | 1,8 s | 0/576 | |
| | Qwen3.6:35B (roh) · Reasoning | 58,0 % | 23,1 % | 11,3 % | 73,6 s | 11/600 | |
| | Qwen3.6:27B (roh)¹ | 23,0 % | 33,3 % | 30,4 % | 5,0 s | 0/120 | |
| | Qwen3.6:27B (roh)¹ · Reasoning² | 75,2 % | 20,0 % | 12,6 % | 353 s | 0/79 | |
| | Gemma 4 26B (roh)¹ | 21,7 % | 44,4 % | 28,7 % | 25,3 s | 2/120 | |
| | Gemma 4 26B (roh)¹ · Reasoning | 35,6 % | 55,6 % | 14,9 % | 122,9 s | 49/120 | |
| | **Statika AI** | **96,9 %** | **0,0 %** | 31,1 % | 2,9 s | **0/600** | |
|
|
| *¹ n = 120 (track-balanciertes Subset). ² 41 von 120 Anfragen im Timeout (900 s) — |
| gewertet n = 79; die Zahl ist dadurch eher optimistisch. |
| Kandidaten-Parameter: Qwen3.6:27B = dense, 27 Mrd. · Gemma 4 26B = MoE, 25,2 Mrd. |
| gesamt / 3,8 Mrd. aktiv. Statika AI: Parameter nicht veröffentlicht.* |
|
|
| Rohe Sprachmodelle scheitern an normbasierter Tragwerksplanung (22,8 %) und |
| erfinden bei fehlenden Angaben in 4 von 10 Fällen Werte; Reasoning hebt die |
| Genauigkeit auf 58 %, löst aber weder Wissens- noch Sicherheitsproblem. **Statika AI |
| erreicht 96,9 % Feld-Genauigkeit bei 0,0 % Halluzination und 2,9 s** — ohne |
| einen einzigen Parse-Fehler über alle 600 Aufgaben. |
|
|
| ## Spalten |
|
|
| | Spalte | Typ | Inhalt | |
| |---|---|---| |
| | `item_id`, `track`, `subtrack`, `jurisdiction` | str | Identität & Einordnung (`DE` oder `DACH`) | |
| | `seed` | int | Generator-Seed (Item vollständig reproduzierbar) | |
| | `negative` | bool | Angabe fehlt bewusst → betroffene GT-Felder sind `null` | |
| | `prompt` | str | vollständige deutsche Aufgabe inkl. Antwort-JSON-Schema | |
| | `fields` | str (JSON) | Feld-Spezifikationen: `name`, `kind`, `rtol`/`atol`, `choices`, Einheit | |
| | `ground_truth` | str (JSON) | Musterlösung (deterministisch berechnet) | |
| | `inputs` | str (JSON) | maschinenlesbare Aufgaben-Eingaben (für den Physik-Verifier) | |
| | `norm_refs` | list[str] | referenzierte Normabschnitte (nur Referenzen, nie Wortlaut) | |
| | `provenance` | str | Herkunft der Ground Truth | |
|
|
| ## Bewertung |
|
|
| Feldweise 5-Status-Klassifikation (correct / wrong / missed / hallucinated / |
| true_null) mit ingenieurgerechten Toleranzen (relativ 2–5 % je Feld, |
| Dezimalkomma-tolerant). Dazu ein deterministischer **Physik-Verifier** |
| (Gleichgewicht ΣR = ΣF, w_e = c_pe·q_p, N_b,Rd = χ·A·f_y/γ_M1, η ↔ Verdikt), |
| der Modellfehler ohne Kenntnis der Lösung fängt → Verify-Catch-Rate. |
| Eval-Harness: privates Repo `statikbench` (Release mit v1.0 geplant). |
| |
| ## Fassungen |
| |
| | Datei | Fassung | Items | Status | |
| |---|---|---:|---| |
| | `data/statikbench_v0_2.jsonl` | v0.2 | 900 | **aktuell** — Standard-Config | |
| | `data/statikbench_v0.jsonl` | v0.1 | 600 | Vorgängerfassung, nur zur Reproduktion früherer Auswertungen | |
|
|
| ## Lizenz |
|
|
| **StatikBench ist kostenpflichtig lizenziert.** Der Zugang über die |
| Zugriffsanfrage dient der Prüfung — ein Nutzungsrecht entsteht daraus nicht. |
|
|
| Der Datensatz ist als Datenbank nach §§ 87a ff. UrhG geschützt; die Rechte des |
| Datenbankherstellers werden ausdrücklich geltend gemacht. Für Text und Data |
| Mining ist der Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt — die |
| gesetzliche Schranke greift damit nicht, Training bedarf einer Lizenz. |
|
|
| | Lizenz | Für | |
| |---|---| |
| | **A — Evaluierung** | befristete interne Prüfung | |
| | **B — Forschung** | Hochschulen, nicht-kommerziell, mit Publikationsrecht | |
| | **C — Unternehmen** | interne Bewertung eigener Modelle | |
| | **D — Publikation** | Veröffentlichung von Ergebnissen und Ranglisten | |
| | **E — KI-Training** | Training, Feinabstimmung, Destillation | |
| | **F — OEM** | Einbettung in eigene Produkte, Weitergabe | |
|
|
| Bedingungen: [LICENSE.md](LICENSE.md) · Konditionen: [PREISE.md](PREISE.md) · |
| Anfragen über [statika.ai](https://statika.ai) |
|
|
| Der Datensatz ist ein Messinstrument für Sprachmodelle. Er ist **keine Grundlage |
| für Tragwerksplanung** oder Nachweisführung an realen Bauwerken. Leitplanken der |
| Item-Konstruktion: [LEGAL.md](LEGAL.md) |
|
|
| --- |
|
|
| <p align="center"> |
| <b><a href="https://statika.ai">Statika</a></b> — 3D-FEM Berechnung & Bemessung, Eurocode/DIN-nativ.<br> |
| StatikBench ist der Benchmark hinter Statika AI. |
| </p> |
|
|
