language:
- de
license: other
license_name: statikbench-commercial-1.0
license_link: LICENSE.md
pretty_name: StatikBench
tags:
- civil-engineering
- structural-engineering
- eurocode
- din
- baunormen
- tragwerksplanung
- benchmark
- llm-evaluation
- german
- dach
- commercial-license
task_categories:
- question-answering
size_categories:
- n<1K
configs:
- config_name: default
data_files: data/statikbench_v0_2.jsonl
extra_gated_heading: StatikBench — Zugang beantragen
extra_gated_description: >-
StatikBench ist ein kostenpflichtig lizenziertes Werk. Die Freigabe dieses
Zugangs dient allein der Prüfung, ob eine Lizenz erworben werden soll — sie
räumt kein Nutzungsrecht ein. Jede Nutzung, Weitergabe, Veröffentlichung von
Ergebnissen sowie jede Verwendung als Trainings- oder Evaluationsdaten setzt
eine gesonderte, entgeltliche Lizenz voraus (LICENSE.md, PREISE.md).
extra_gated_prompt: >-
Ich habe die Lizenzbedingungen (LICENSE.md) gelesen und erkenne sie an. Mir
ist bekannt, dass der Zugang kein Nutzungsrecht begründet, dass für Text und
Data Mining ein Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt ist und dass
jede über die Kenntnisnahme hinausgehende Nutzung eine entgeltliche Lizenz
erfordert.
extra_gated_fields:
Name: text
Organisation: text
E-Mail für Lizenzanfragen: text
Verwendungszweck: text
Angestrebte Lizenzart:
type: select
options:
- A — Evaluierung
- B — Forschung (akademisch)
- C — Unternehmen (interne Modellbewertung)
- D — Publikation von Ergebnissen
- E — KI-Training / Feinabstimmung
- F — OEM / Integration
- noch offen
Ich erkenne die Lizenzbedingungen an: checkbox
Ich bestätige, den Datensatz ohne KI-Trainingslizenz (Lizenzart E) nicht für Training zu verwenden: checkbox
extra_gated_button_content: Zugang beantragen
StatikBench v0.2 (private Preview)
Zugang nur per Access Request. Die Freigabe dient der Prüfung vor einem Lizenzerwerb und räumt kein Nutzungsrecht ein — jede Nutzung setzt eine kostenpflichtige Lizenz voraus (LICENSE.md · PREISE.md).
Der erste deutschsprachige LLM-Benchmark für Baunormen und normbasierte Tragwerksbemessung (DE · AT · CH) — ein Statika-Projekt, von den Machern von German-OCR und BelegBench.
Es gibt Benchmarks für chinesische Baunormen (AECBench), US-Codes (PE Civil Bench) und dänische Bauordnungen (BR18) — für DIN, Eurocode-NA, ÖNORM und SIA gab es bisher keinen. StatikBench schließt die Lücke: 900 Items, 100 % synthetisch, seed-reproduzierbar, jede Ground Truth deterministisch vom Statika-Rechenkern berechnet und gegen analytische Anker verifiziert (qL²/8 · 5qL⁴/384EI · π²EI/L²). Kein Norm-Wortlaut im Dataset — Normen werden ausschließlich referenziert (siehe LEGAL.md).
Tracks
| Track | Subtracks | Jurisdiktion |
|---|---|---|
| Lastannahmen | Wind (EC1-1-4/NA) · Schnee (EC1-1-3/NA) · Erdbeben (EC8/NA) | DE |
| Balkenstatik | Einfeldträger · Kragarm · Zweifeld-Durchlaufträger | DACH (reine Mechanik) |
| Bemessung | EC3-Biegeknicken · EC5-Holz · EC2-Stahlbeton | DE |
126 Negativ-Items (14 %): Eine zur Lösung nötige Angabe fehlt bewusst — die
korrekte Antwort ist null. Ein Modell, das trotzdem Werte liefert,
halluziniert Lastannahmen. Das speist die Halluzinationsrate, die
Sicherheitsmetrik für Ingenieur:innen.
Erste Ergebnisse
| Modell / Modus | Field-EM | Halluzinationsrate | Verify-Catch | Latenz | Parse-Fehler |
|---|---|---|---|---|---|
| Qwen3.6:35B (roh) | 22,8 % | 42,1 % | 26,7 % | 1,8 s | 0/576 |
| Qwen3.6:35B (roh) · Reasoning | 58,0 % | 23,1 % | 11,3 % | 73,6 s | 11/600 |
| Qwen3.6:27B (roh)¹ | 23,0 % | 33,3 % | 30,4 % | 5,0 s | 0/120 |
| Qwen3.6:27B (roh)¹ · Reasoning² | 75,2 % | 20,0 % | 12,6 % | 353 s | 0/79 |
| Gemma 4 26B (roh)¹ | 21,7 % | 44,4 % | 28,7 % | 25,3 s | 2/120 |
| Gemma 4 26B (roh)¹ · Reasoning | 35,6 % | 55,6 % | 14,9 % | 122,9 s | 49/120 |
| Statika AI | 96,9 % | 0,0 % | 31,1 % | 2,9 s | 0/600 |
¹ n = 120 (track-balanciertes Subset). ² 41 von 120 Anfragen im Timeout (900 s) — gewertet n = 79; die Zahl ist dadurch eher optimistisch. Kandidaten-Parameter: Qwen3.6:27B = dense, 27 Mrd. · Gemma 4 26B = MoE, 25,2 Mrd. gesamt / 3,8 Mrd. aktiv. Statika AI: Parameter nicht veröffentlicht.
Rohe Sprachmodelle scheitern an normbasierter Tragwerksplanung (22,8 %) und erfinden bei fehlenden Angaben in 4 von 10 Fällen Werte; Reasoning hebt die Genauigkeit auf 58 %, löst aber weder Wissens- noch Sicherheitsproblem. Statika AI erreicht 96,9 % Feld-Genauigkeit bei 0,0 % Halluzination und 2,9 s — ohne einen einzigen Parse-Fehler über alle 600 Aufgaben.
Spalten
| Spalte | Typ | Inhalt |
|---|---|---|
item_id, track, subtrack, jurisdiction |
str | Identität & Einordnung (DE oder DACH) |
seed |
int | Generator-Seed (Item vollständig reproduzierbar) |
negative |
bool | Angabe fehlt bewusst → betroffene GT-Felder sind null |
prompt |
str | vollständige deutsche Aufgabe inkl. Antwort-JSON-Schema |
fields |
str (JSON) | Feld-Spezifikationen: name, kind, rtol/atol, choices, Einheit |
ground_truth |
str (JSON) | Musterlösung (deterministisch berechnet) |
inputs |
str (JSON) | maschinenlesbare Aufgaben-Eingaben (für den Physik-Verifier) |
norm_refs |
list[str] | referenzierte Normabschnitte (nur Referenzen, nie Wortlaut) |
provenance |
str | Herkunft der Ground Truth |
Bewertung
Feldweise 5-Status-Klassifikation (correct / wrong / missed / hallucinated /
true_null) mit ingenieurgerechten Toleranzen (relativ 2–5 % je Feld,
Dezimalkomma-tolerant). Dazu ein deterministischer Physik-Verifier
(Gleichgewicht ΣR = ΣF, w_e = c_pe·q_p, N_b,Rd = χ·A·f_y/γ_M1, η ↔ Verdikt),
der Modellfehler ohne Kenntnis der Lösung fängt → Verify-Catch-Rate.
Eval-Harness: privates Repo statikbench (Release mit v1.0 geplant).
Fassungen
| Datei | Fassung | Items | Status |
|---|---|---|---|
data/statikbench_v0_2.jsonl |
v0.2 | 900 | aktuell — Standard-Config |
data/statikbench_v0.jsonl |
v0.1 | 600 | Vorgängerfassung, nur zur Reproduktion früherer Auswertungen |
Lizenz
StatikBench ist kostenpflichtig lizenziert. Der Zugang über die Zugriffsanfrage dient der Prüfung — ein Nutzungsrecht entsteht daraus nicht.
Der Datensatz ist als Datenbank nach §§ 87a ff. UrhG geschützt; die Rechte des Datenbankherstellers werden ausdrücklich geltend gemacht. Für Text und Data Mining ist der Nutzungsvorbehalt nach § 44b Abs. 3 UrhG erklärt — die gesetzliche Schranke greift damit nicht, Training bedarf einer Lizenz.
| Lizenz | Für |
|---|---|
| A — Evaluierung | befristete interne Prüfung |
| B — Forschung | Hochschulen, nicht-kommerziell, mit Publikationsrecht |
| C — Unternehmen | interne Bewertung eigener Modelle |
| D — Publikation | Veröffentlichung von Ergebnissen und Ranglisten |
| E — KI-Training | Training, Feinabstimmung, Destillation |
| F — OEM | Einbettung in eigene Produkte, Weitergabe |
Bedingungen: LICENSE.md · Konditionen: PREISE.md · Anfragen über statika.ai
Der Datensatz ist ein Messinstrument für Sprachmodelle. Er ist keine Grundlage für Tragwerksplanung oder Nachweisführung an realen Bauwerken. Leitplanken der Item-Konstruktion: LEGAL.md
Statika — 3D-FEM Berechnung & Bemessung, Eurocode/DIN-nativ.
StatikBench ist der Benchmark hinter Statika AI.