JevBench-DE

227 deutsche Entscheidungsaufgaben in 191 Aufgabengruppen, übertragen aus den öffentlichen Aufgaben von fstandhartinger/jevbench. Version 1.0.0, vom Herausgeber zur Veröffentlichung freigegeben.

Umfang	Aufgaben
Einfach	47
Standard	72
Schwierig	108
Test-Split	227

Die 72 Standardaufgaben bilden 36 Paraphrasenpaare. Insgesamt wurden alle 231 öffentlichen Originalfälle übersetzt; vier problematische Originalfälle sind mit Einzelfallbegründung von der Wertung ausgeschlossen. Sie bleiben zur Nachvollziehbarkeit im Quell- und Übersetzungsarchiv erhalten. Dies ist eine abgeleitete deutsche Fassung, keine offizielle Veröffentlichung der Originalautoren und keine Reproduktion ihres vollständigen Leaderboards.

Laden

import json
from datasets import load_dataset

ds = load_dataset("johannhartmann/jevbench-de", split="test", revision="v1.0.0")
row = ds[0]
state = json.loads(row["state"])
questions = json.loads(row["questions"])
gold = json.loads(row["gold"])

Der Parquet-Export verwendet das Decisions-Format. Alle sieben Spalten sind Strings:

Spalte	Inhalt
id	Stabile deutsche Aufgaben-ID mit Original-ID
source	Aufgabenfamilie
upstream	Originalrepository, fester Commit und Original-ID
license	mit
state	JSON-kodierter Sachverhalt, Text oder Objekt
questions	JSON-kodierte Frage, Typ und Kriterien unter decision
gold	JSON-kodierte Referenzantwort und Zielverteilung

data/benchmark.jsonl enthält zusätzlich Gruppen, Tier, Herkunft, Lokalisierungshinweise und die kanonischen JevBench-Labels. data/inputs.de.jsonl enthält deutsche Eingaben ohne Referenzantworten. Nur state und questions an das zu prüfende Modell senden. Die englischen Paralleleingaben liegen separat in data/inputs.en.jsonl.

Auswerten

Nach Download des Repositories:

hf download johannhartmann/jevbench-de --type dataset --revision v1.0.0 --local-dir jevbench-de
cd jevbench-de
python tools/score.py --predictions predictions.jsonl --output metrics.json

Eine Prediction pro Aufgaben-ID, mit Wahrscheinlichkeiten für sämtliche kanonischen labels aus data/benchmark.jsonl:

{"id":"jevbench-de:ORIGINAL-ID","probabilities":{"option_a":0.2,"option_b":0.8}}

Explizite Anfragefehler können als {"id":"…","error":"timeout"} erfasst werden. Fehlende, zusätzliche und doppelte IDs werden zurückgewiesen. Fehler zählen bei der Genauigkeit als falsch; Wahrscheinlichkeitsmetriken weisen ihren Nenner separat aus.

Bei noul verwendet JSONL no/yes, der Decisions-Parquet-Export entsprechend den Kriterien false/true. Adapter müssen diese Zuordnung berücksichtigen. score verwendet String-Indizes 0, 1, … in der ursprünglichen Reihenfolge. Die zehn Wahrscheinlichkeitsaufgaben behalten die ursprünglichen Zielverteilungen.

Der Scorer berichtet Genauigkeit, Familien- und Gruppenmittel, Brier-Score, Kreuzentropie und Fehlerquote getrennt. Paraphrasen werden beim Gruppen-Bootstrap zusammengehalten. Der Score entspricht nicht dem offiziellen JevBench-Gesamtscore. tools/order_probe.py bietet zusätzlich einen Vergleich mit umgeordneten Choice- Optionen; diese Varianten sind keine zusätzlichen unabhängigen Testfälle.

Herkunft, Übersetzung und Qualität

Die Originaldateien samt MIT-Lizenz liegen unverändert unter source/. Die Quelle ist auf Commit 609a664e81f46e03731600bd7bd9f1b7a61257c5 festgeschrieben. Jede Übersetzung ist über Original-ID und Prüfsummen nachvollziehbar.

Die deutsche Fassung erhält Regeln, Zahlen, Informationslücken, Negationen, Optionen und Ablenkungen. Kulturelle Anpassungen sind fallbezogen dokumentiert; ausländische Institutionen werden nicht pauschal in deutsche Rechtsbegriffe umbenannt.

Alle zugelassenen Fälle haben eine dokumentierte KI-Prüfung: eine Lösung ohne Gold mit Sonnet sowie einen gesonderten Vergleich von Original, Übersetzung und Gold mit Opus. Konkrete Befunde wurden einzeln entschieden und korrigierte Eingaben erneut geprüft. Tatsächlich beobachtete Prüfmodelle: claude-sonnet-5-5 und claude-opus-5-5. Opus hat auch einen Teil der Übersetzungen erstellt; die Vergleichsprüfung ist daher nicht durchgehend unabhängig von der Übersetzung.

Der Herausgeber hat diesen Stand für die Veröffentlichung freigegeben. Es wurden keine zusätzlichen strukturierten menschlichen Einzelannotationen erhoben. KI-Prüferantworten sind keine unabhängigen Benchmark-Ergebnisse.

Freigabestand · Prüfbericht vor Veröffentlichung · Aufbau und Methodik · Ausschlüsse

Einsatzgrenzen

• Als Evaluationsdatensatz verwenden, nicht gleichzeitig zum Training des getesteten Modells.
• Öffentliche Originale können im Vortraining enthalten sein. Übersetzung erzeugt keinen versiegelten Test.
• Der lokale Abgleich mit johannhartmann/decisions-de fand keine exakten Treffer; einfache Intent-Aufgaben haben dennoch ähnliche Trainingsformulierungen. Semantische Nachbarn sind Suchhinweise, keine bestätigten Duplikate.
• Lange Aufgaben vollständig auswerten: Mit dem dokumentierten Gemma-Tokenizer benötigen zehn Fälle mehr als 4096 Tokens, das Maximum beträgt 5610 einschließlich Schema.
• Die vollständige Parserprüfung verarbeitete alle 227 Aufgaben ohne Fehler.

Lizenz

MIT. Copyright- und Lizenzhinweise der Originalautoren stehen in LICENSE. Die deutschsprachige Ableitung wird unter derselben Lizenz veröffentlicht.