Datasets:
ArXiv:
License:
metadata
license: cc-by-nc-4.0
SteuerEx Benchmark Dataset
Overview
The SteuerEx Benchmark is an evaluation framework for assessing language model performance on German tax law questions. This benchmark uses a rigorous bootstrap-based evaluation methodology to ensure reliable and reproducible results. This benchmark is based on the SteuerLLM paper (SteuerLLM: Local specialized large language model for German tax law analysis).
Official Server: https://steuerllm.i5.ai.fau.de/benchmark SteuerLLM Demo: https://steuerllm.i5.ai.fau.de
Dataset
The benchmark consists of 115 questions covering various aspects of German tax law. All questions are evaluated using the same bootstrap methodology used in the original paper.
Question Categories (click to expand)
| Category | Exam Name | Subtopic (German) | Subtopic (English) | Questions [n] | Max. Points |
|---|---|---|---|---|---|
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS18 | Gewerbesteuer | Trade tax | 1 | 12.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS18 | Körperschaftsteuer | Corporate income tax | 4 | 36.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS18 | Umwandlungssteuer | Reorganization tax | 2 | 6.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS19 | Gewerbesteuer | Trade tax | 1 | 13.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS19 | Körperschaftsteuer | Corporate income tax | 6 | 34.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS19 | Umwandlungssteuer | Reorganization tax | 1 | 6.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS20 | Gewerbesteuer | Trade tax | 1 | 19.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS20 | Körperschaftsteuer | Corporate income tax | 5 | 30.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS20 | Umwandlungssteuer | Reorganization tax | 1 | 7.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS22 | Gewerbesteuer | Trade tax | 1 | 10.5 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS22 | Körperschaftsteuer | Corporate income tax | 10 | 36.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS22 | Umwandlungssteuer | Reorganization tax | 3 | 6.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS23 | Körperschaftsteuer | Corporate income tax | 4 | 20.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS23 | Körperschaft- & Gewerbesteuer | Corporate & trade tax | 3 | 24.0 |
| Corporate tax (Unternehmensbesteuerung) | UnternehmenSt SS23 | Umwandlungssteuer | Reorganization tax | 1 | 2.0 |
| Fundamentals of tax law (Grundlagen des Steuerrechts) | GrldStR WS23/24 | International tax law | International tax law | 1 | 7.0 |
| Fundamentals of tax law (Grundlagen des Steuerrechts) | GrldStR WS23/24 | Umsatzsteuer | Value-added tax | 4 | 20.0 |
@article{steuerllm,
author = {Wind, Sebastian and Sopa, Jeta and Schmid, Laurin and Jackl, Quirin and Kiefer, Sebastian and Wu, Fei and Mayr, Martin and Köstler, Harald and Wellein, Gerhard and Maier, Andreas and Tayebi Arasteh, Soroosh},
title = {SteuerLLM: Local specialized large language model for German tax law analysis},
year = {2026},
journal = {arXiv preprint arXiv:2602.11081},
url = {https://arxiv.org/abs/2602.11081}
}
License
cc-by-nc-4.0 research only