README.md

---
license: cc-by-4.0
language:
- de
task_categories:
- question-answering
- text-generation
tags:
- reasoning
- wordplay
- german
- benchmark
- synthetic
pretty_name: 'GRIPS: German Reasoning, Idioms, Puzzles & Wordplay (Sprachspiel)'
size_categories:
- n<1K
dataset_info:
  features:
  - name: question
    dtype: string
  - name: cot
    dtype: string
  - name: answer
    dtype: string
  - name: explanation
    dtype: string
  - name: mechanic
    dtype: string
  - name: verification
    dtype: string
  - name: hard
    dtype: bool
  - name: id
    dtype: string
  splits:
  - name: test
    num_bytes: 1615945
    num_examples: 1861
  download_size: 825466
  dataset_size: 1615945
configs:
- config_name: default
  data_files:
  - split: test
    path: data/test-*
---

# **GRIPS**: **G**erman **R**easoning, **I**dioms, **P**uzzles & Wordplay (**S**prachspiel)

*GRIPS* is the German word for **wits / brains** (*„Streng deinen Grips an!“*) and it describes the capability this benchmark probes: **G**erman **R**easoning, **I**dioms, **P**uzzles & Wordplay (**S**prachspiel).

Many questions reward precise reading, counting, and multi-step reasoning, and several categories (e.g. Schüttelreim, combination-lock deduction) are only reliably solved by frontier reasoning models.

The public benchmark data contains **1,861 German-language** quiz questions spanning **96 distinct puzzle mechanics**: wordplay, anagrams, hidden words, idioms, puns, arithmetic word problems, and multi-step logic deduction. Every item was synthetically generated, **programmatically verified**, and **human reviewed** to have the keyed answer; the `verification` column records the exact mechanic and solution for each item.

## Leaderboard

Models are ranked on a **held-out private companion** of the public GRIPS data. The items published in this repo are an open **reference of the problem types** (see [Mechanics](#mechanics)), not the scored set. Responses are graded by the recommended `gpt-5.4-mini` judge (see [Evaluation](#evaluation)).

![GRIPS leaderboard](assets/grips_leaderboard.png)

**GRIPS-hard**: The *hard* subset contains more difficult examples (for models, not necessarily harder to solve for humans).

![GRIPS-hard leaderboard](assets/grips_leaderboard_hard.png)

## Dataset statistics

| | |
|---|---|
| Items | 1861 |
| Mechanics | 96 |
| Language | German |
| Modality | text only |
| Multiple-choice items | 668 |
| Open-answer items | 1193 |
| Hard subset (`hard=true`) | 109 |

<sub>The public set ships its own `hard` flag (100 model-selected items) as a harder slice for evaluating on the public data; the leaderboard's hard subset above is a separate held-out set.</sub>

## Mechanics

All 96 mechanics, with a short description and one example each.

| mechanic | n | description | example question | answer |
|---|---|---|---|---|
| `multiple_choice` | 82 | Mixed wordplay/joke items kept as multiple choice - riddle-jokes (Scherzfragen), flat jokes, three-meaning homonyms, puns, portmanteaus (Kofferwörter) and rebuses - where the options are integral to the puzzle. | Scherzfrage: Was macht ein Clown im Büro? A: Kopien B: Termine C: Notizen D: Faxen | D, Faxen |
| `idiom_meaning` | 28 | Choose the correct meaning of a German idiom. | Was bedeutet die Redewendung „die Katze im Sack kaufen“? A: etwas ungeprüft / ungesehen kaufen B: sich ein Haustier anschaffen C: ein echtes Schnäppchen machen | A, etwas ungeprüft / ungesehen kaufen |
| `idiom_complete` | 26 | Complete a German idiom or proverb. | Vervollständige diese Redewendung bzw. dieses Sprichwort: „Lügen haben kurze ___.“ | Beine |
| `egal_wie_pun` | 24 | Complete an 'Egal wie…' joke with a name that sounds like the missing word (homophone pun). | Vervollständige dieses Wortspiel. Gesucht ist ein Name, der wie das fehlende Wort klingt: „Egal wie viel Curry du isst, Freddie ist ___.“ | Mercury |
| `char_count` | 20 | Count how often a given letter occurs in a sentence (case-insensitive). | Wie oft kommt der Buchstabe „L“ – ob groß oder klein geschrieben – im folgenden Satz vor? „Lulu malt lila Blumen auf das helle Plakat.“ | 9-mal |
| `compound_word` | 20 | Find the word that forms a valid German compound with each of the given word parts. | Welches Wort ergibt vor jedem dieser Wortteile ein sinnvolles zusammengesetztes Wort? -mann -ball -flocke -sturm | Schnee |
| `cyclic_position` | 20 | Find the element at position n of a repeating cycle (modular arithmetic). | Reihenfolge: Montag, Dienstag, Mittwoch, Donnerstag, Freitag, Samstag, Sonntag (dann wieder von vorn). Tag 1 ist ein Montag, Tag 2 ein Dienstag … Welcher Woc… | Dienstag |
| `sort_letters` | 20 | Write all letters of a word in alphabetical order as one string. | Schreibe alle Buchstaben des Wortes „SOMMER“ in alphabetischer Reihenfolge – als eine zusammenhängende Buchstabenfolge. | EMMORS |
| `hidden_name` | 18 | Find which listed name is hidden as a contiguous letter sequence inside a sentence. | Welcher dieser Vornamen versteckt sich – als Buchstabenfolge – im folgenden Satz? A: Felix B: Lukas C: Nora D: Sophie „Vom Gipfel aus genossen wir ein grandi… | C, Nora |
| `teekesselchen` | 18 | Name the single German word that carries all the listed meanings (a 'Teekesselchen' homonym). | Welches Wort hat diese beiden Bedeutungen (ein „Teekesselchen“)? (1) ein Geldinstitut (2) eine Sitzgelegenheit im Park | Bank |
| `arithmetic` | 16 | Multi-step time/quantity arithmetic featuring distractor numbers (e.g. transfer times). | Ein IC verlässt Hamburg um 08:08 Uhr und hält um 10:52 Uhr in Essen. Dort steigt Lena in einen ICE, der Essen um 11:00 Uhr verlässt und um 11:21 Uhr in Düsse… | 8 Minuten |
| `fewest_distinct` | 14 | Pick the word that uses the fewest distinct letters. | Welches dieser Wörter kommt mit den wenigsten verschiedenen Buchstaben aus? A: OTTO B: EMMA C: ANJA | A, OTTO |
| `stated_remainder` | 14 | Notice the remainder is already stated in the question ('all but k') - the answer is k. | In einem Korb liegen 30 Eier. Alle bis auf 7 werden zum Backen verbraucht. Wie viele bleiben übrig? | 7 |
| `anagram_open` | 13 | Rearrange all letters of a given word into a different meaningful German word matching a clue. | Aus genau den Buchstaben von „LAMPE“ lässt sich – in anderer Reihenfolge – ein neues, sinnvolles deutsches Wort bilden: ein Verkehrssignal. Wie lautet es? | AMPEL |
| `handshakes` | 13 | Compute the number of pairwise handshakes among n people: n·(n−1)/2. | 6 Personen sind in einem Raum. Jede begrüßt jede andere genau einmal per Handschlag. Wie viele Handschläge sind das insgesamt? | 15 |
| `answer_key_deduction` | 12 | Reconstruct a test's answer key from known scores, then score the remaining taker. | Max, Pia, Nik und Eva füllen denselben Multiple-Choice-Test mit 3 Fragen aus. Pro Frage gibt es nur die Antworten A und B, für jede richtige Antwort 10 Punkt… | 0 Punkte |
| `boundary_word_assignment` | 12 | Match words so each row's left-word end + right-word start spell an animal. | Ordnen Sie die Wörter der zweiten Spalte den Zeilen der ersten Spalte so zu, dass in jeder Zeile das Ende des linken und der Anfang des rechten Wortes zusamm… | B: BRATEN, BERGE, BRAUT, STERNE |
| `hidden_category_triple` | 12 | Find the word triple hiding, in order, an animal, a number word and a colour. | In genau einer der vier Dreiergruppen verstecken sich – als Buchstabenfolge und in dieser Reihenfolge – im ersten Wort ein Tier, im zweiten Wort ein Zahlwort… | B |
| `hidden_numbers_code` | 12 | Extract the number word hidden in each word and concatenate their digits into a code. | In jedem der folgenden Wörter steckt ein Zahlwort (von eins bis neun) als Buchstabenfolge. Liest man die Zahlwörter der Reihe nach, ergeben ihre Ziffern eine… | 9185 |
| `idiom_oddone` | 12 | Identify the invented (non-existent) idiom among real ones. | Welche dieser drei Redewendungen gibt es im Deutschen NICHT (welche ist erfunden)? A: den Aal im Baum suchen B: die Katze im Sack kaufen C: ins Gras beißen | A, „den Aal im Baum suchen“ (erfunden) |
| `initial_sequence` | 12 | Recognise a well-known series from its initial letters and supply the missing initial. | Diese Buchstaben sind jeweils der erste Buchstabe einer bekannten Reihe. Welcher Buchstabe gehört an die Stelle des Fragezeichens? ? Z D V F S S A N Z | E |
| `insert_one_letter` | 12 | Insert a single letter into a word to form a new word matching a clue. | Welchen einzelnen Buchstaben muss man in „Alt“ einfügen, um ein Stopp zu erhalten? | H (→ Halt) |
| `lock_deduction` | 12 | Crack a numeric combination lock from 'correct digit / correct place' clues by elimination. | Wie lautet die Zahlenkombination für dieses dreistellige Zahlenschloss? 267: Eine Ziffer ist korrekt, steht aber an der falschen Position. 468: Eine Ziffer i… | 820 |
| `middle_letters` | 12 | Take the middle letter of each short word to spell a new word. | Nimmt man von jedem dieser kurzen Wörter nur den mittleren Buchstaben, ergeben sie zusammen ein neues Wort. Welches? ARM, REH, OHR | REH |
| `most_letters` | 12 | Pick the word with the most letters. | Welches dieser Wörter hat die meisten Buchstaben? (Genau nachzählen!) A: Nilpferd B: Elefant C: Leopard | Nilpferd |
| `name_compound_initials` | 12 | Derive a dish from a name using a letter-mapping rule inferred from the examples. | Theo Brock mag Obstkuchen, Adam Prent mag Mandeltorte und Anne Prent mag Erdbeertorte. Welche leckere Spezialität mag nach demselben Muster Marlene Krebs? A:… | B, Eierschecke |
| `number_word_transform` | 12 | Continue a series of truncated, consecutive number words. | Diese Reihe besteht aus eingekürzten, aufeinanderfolgenden Zahlwörtern. Ergänzen Sie sie um eine Stelle! NEU - SEC - EIN - ZWE - * | DRE |
| `spot_typo` | 12 | Find the single word in a sentence that contains a letter-swap typo. | In genau einem Wort dieses Satzes hat sich ein Buchstabendreh-/-tippfehler eingeschlichen. In welchem? „Der Anlger sitzt geduldig am ruhigen Ufer.“ | „Anlger“ (richtig: „Angler“) |
| `string_interleave` | 12 | Two words are interleaved order-preservingly; given one, recover the other. | In dieser Buchstabenfolge stecken zwei ineinander verwobene Wörter; die Reihenfolge der Buchstaben jedes Wortes bleibt dabei erhalten. FSTENUSHTERL Ein Wort … | FENSTER |
| `strip_concat` | 12 | Drop the first and last letter of each word and concatenate the remainders in order. | Streiche bei jedem dieser Wörter den ersten und den letzten Buchstaben und hänge die übrig bleibenden Buchstaben in dieser Reihenfolge aneinander. Wie lautet… | PFEIRN |
| `substitution_cipher` | 12 | Infer a fixed monoalphabetic substitution from examples and encrypt a new word. | Bei einer Geheimschrift wird jeder Buchstabe immer durch denselben anderen Buchstaben ersetzt. Aus diesen Beispielen lässt sich die Ersetzung ableiten: KEMPT… | D |
| `three_tier_liar` | 12 | With never-/always-/sometimes-liars, find the statement that is guaranteed true. | In einem Dorf gibt es drei Sorten von Bewohnern: Nie-Lügner sagen immer die Wahrheit, Immer-Lügner lügen immer, und Gelegenheitslügner sagen mal die Wahrheit… | B |
| `transitive` | 12 | Follow a chain of size/order comparisons to find the extreme element. | Ein Bach ist kleiner als ein Fluss, ein Fluss kleiner als ein Strom und ein Strom kleiner als das Meer. Was ist am größten? | Meer |
| `transitive_order` | 12 | Combine relative-age statements into a total order to find the extreme person. | Vergleiche die Altersangaben mehrerer Personen: Ida ist 12 Jahre älter als Paula. Lukas ist genauso alt wie Mia. David ist 13 Jahre älter als Mia. Jonas ist … | Jonas |
| `truthteller_liar` | 12 | A constant truth-teller or liar makes a claim; deduce the actual state. | Mia lügt grundsätzlich immer. Sie sagt: „Im Korb sind Äpfel.“ Was ist wirklich drin (Äpfel oder Birnen)? | Birnen |
| `weekday_offset` | 12 | Given one date's weekday, compute a later date's weekday from the day count between them. | Der 1. November fällt auf einen Sonntag. Auf welchen Wochentag fällt dann der 1. Dezember (im selben, gewöhnlichen Jahr)? | Dienstag |
| `homophone_pair` | 11 | Name the pair of identically pronounced but differently spelled words matching two clues. | Zwei Wörter klingen genau gleich, werden aber verschieden geschrieben. Welches Schreibweisen-Paar ist gemeint? (1) ein rund geformtes Brot (2) der Körper (ge… | Laib und Leib |
| `interval_count` | 11 | Count intervals rather than items (n doses leave n−1 gaps). | Du sollst 5 Tabletten einnehmen: die erste sofort, danach alle 30 Minuten eine weitere. Nach wie vielen Minuten nimmst du die letzte Tablette? | nach 120 Minuten |
| `alternating_direction` | 10 | Pick the variant in which every second word is consistently written backwards. | In welcher Variante sind die Wörter abwechselnd vorwärts und rückwärts geschrieben (1. Wort vorwärts, 2. Wort rückwärts, 3. vorwärts, …)? Nur eine Variante f… | A |
| `namecode` | 10 | Names sound like letter pairs; convert a name to a digit code via alphabet positions. | „Bea“ klingt wie die Buchstaben B–A und ergibt darum den Code 0201. „Elli“ ergibt nach demselben Muster 1209. Welchen Code hat dann „Effi“? | 0609 |
| `palindrome` | 10 | Pick the word that reads the same forwards and backwards. | Welches dieser Wörter liest sich vorwärts wie rückwärts gleich? A: Otmar B: Oskar C: Otto | C, Otto |
| `pigeonhole` | 10 | Apply the pigeonhole principle (worst-case draws needed to guarantee a match). | In einer Schublade liegen 3 grüne Socken, 3 blaue Socken, 11 rote Socken. Im Dunkeln nimmt man blind Socken heraus. Wie viele Socken muss man mindestens hera… | 4 |
| `rectangle_border` | 10 | Count the border pieces of a rectangular grid: 2·w + 2·h − 4. | Ein Puzzle ist 66 Teile breit und 19 Teile hoch. Aus wie vielen Puzzleteilen besteht der äußere Rand? | 166 |
| `scrambled_number_word` | 10 | Unscramble syllables of number words and pick the largest resulting number. | Bei diesen Zahlen sind die Silben durcheinandergeraten, doch jede lässt sich zu genau einer sinnvollen Zahl zusammensetzen. Welche ist die größte? A: NEUNUND… | A (neunundneunzig = 99) |
| `caesar` | 9 | Infer the Caesar letter-shift from a worked example and apply it to another word. | Bei diesem Code wird „HUND“ zu „GTMC“. Wie lautet nach demselben Muster der Code für „MOPS“ (ein Haustier)? | LNOR |
| `power_strip` | 9 | Compute the max devices powered by chained power strips (each strip nets slots−1). | In einem Zimmer gibt es nur eine einzige Steckdose. Daran wird eine Kette aus 2 Mehrfachstecker mit 3 und 5 Steckplätzen angeschlossen, wobei jeder Mehrfachs… | 7 |
| `alphabetical_order` | 8 | Answer a question about items placed in alphabetical order (e.g. which comes last). | Ordnet man die sieben Wochentage alphabetisch, welcher Tag steht an letzter Stelle? | Sonntag |
| `days_in_month` | 8 | Find the missing value in the sequence of days-per-month. | Welche Zahl gehört an die Stelle des Fragezeichens? 31, 28, 31, 30, 31, 30, 31, 31, 30, 31, ?, 31 | 30 |
| `idiom_reverse` | 8 | Choose the idiom that matches a given meaning. | Welche Redewendung bedeutet „jemanden betrügen“? A: jemanden übers Ohr hauen B: jemandem die Leviten lesen C: jemandem reinen Wein einschenken | A, jemanden übers Ohr hauen |
| `missing_letter` | 8 | Find which of the listed letters does NOT appear in a sentence. | Welcher dieser Buchstaben kommt im folgenden Satz NICHT vor? „Der schnelle Hund springt über den braunen Zaun.“ A: F B: E C: N | A: F |
| `reversal` | 8 | Pick the word that becomes a different valid word when read backwards. | Welches dieser Wörter ergibt rückwärts gelesen ein neues, sinnvolles Wort? A: NETZ B: BALL C: TOR | C, TOR (rückwärts: ROT) |
| `spellable_from` | 8 | Pick the word spellable using only the letters (with multiplicity) of a given name. | Welches dieser Wörter lässt sich allein aus den Buchstaben des Namens „KONSTANTIN“ bilden (jeder Buchstabe nur so oft, wie er im Namen vorkommt)? A: TAKT B: … | A, TAKT |
| `syllable_open` | 8 | Reorder the given syllables to form a single German word. | Bringe diese Silben in die richtige Reihenfolge. Welches deutsche Wort ergibt sich? LING TER SCHMET | Schmetterling |
| `conceptual` | 7 | A classic lateral-thinking / insight puzzle (e.g. doubling lily pads). | Ein Teich mit Seerosen, die täglich ihre Fläche verdoppeln, ist nach 30 Tagen vollständig bedeckt. Nach wie vielen Tagen war erst die Hälfte bedeckt? | nach 29 Tagen |
| `painted_cube` | 7 | Count the small cubes with a given number of painted faces after a painted cube is sliced. | Ein Würfel wird außen vollständig angemalt und dann in 3×3×3 = 27 gleich große kleine Würfel zersägt. Wie viele dieser kleinen Würfel haben genau 3 angemalte… | 8 |
| `schuettelreim` | 7 | Complete a Schüttelreim by swapping the initial consonants of the two stressed syllables. | Vervollständige diesen Schüttelreim: „Es klapperten die Klapperschlangen, bis ihre Klappern ___ ___.“ | schlapper klangen |
| `unit_chain` | 7 | Decode a chain of unit conversions to recover the missing unit's initial. | In dieser verschlüsselten Kette steht jeweils „‹Anzahl›‹Anfangsbuchstabe›s 1 ‹nächster Buchstabe›“. Welcher Buchstabe gehört an die Stelle des Fragezeichens?… | M |
| `chess_count` | 6 | Count how many moves land on a black square (colour flips with odd dx+dy). | Eine Figur macht nacheinander diese Züge (jeder beginnt neu auf dem genannten Feld). Auf wie vielen der Zielfelder landet sie auf einem SCHWARZEN Feld? 1) vo… | 4 |
| `correct_spelling` | 6 | Pick the only correctly spelled option. | Welche Schreibweise ist die einzig richtige? A: Buchstabendreher B: Buchstabenderher C: Buchstabendrehre | A, Buchstabendreher |
| `count_hidden_numbers` | 6 | Count how many distinct number words are hidden as contiguous letters in a string. | Wie viele verschiedene Zahlwörter (von „eins“ bis „zwölf“) stecken als zusammenhängende Buchstabenfolge in diesem Wort? EINSZWEIDREIVIERFÜNF | 5 |
| `idiom_origin` | 6 | Choose the correct historical origin of an idiom. | Woher stammt die Redewendung „auf dem Holzweg sein“? A: von mittelalterlichen „Holzwegen“, die nur zum Abtransport von Bäumen dienten und im Wald im Nichts e… | A, von mittelalterlichen „Holzwegen“, die nur zum Abtrans… |
| `letter_length_sequence` | 6 | Continue a word series in which each word is exactly one letter longer than the last. | Welches Wort setzt diese Reihe von Städten fort? Ulm, Bonn, Essen, Berlin, Hamburg, Mannheim, ...? A: Stuttgart B: Köln C: Leipzig | A, Stuttgart |
| `letter_value_sum` | 6 | Infer a hidden letter→value scoring rule from examples and apply it (intentionally under-determined). | Nach einer bestimmten Logik gilt: Ulm = 22; Unna = 42; Uslar = 43. Welchen Wert hat dann „Usedom“? | 63 (alternativ auch 43) |
| `most_frequent` | 6 | Find the most frequent vowel in a sentence. | Welcher der fünf Vokale (a, e, i, o, u) kommt im folgenden Satz am häufigsten vor? „Anna sah am Strand drei kleine graue Krabben.“ | a |
| `probability` | 6 | Compute a simple dice / combinatorial probability. | Man wirft zwei Würfel und addiert die Augen. Wie hoch ist die Wahrscheinlichkeit für eine gerade Summe? A: 25 % B: 50 % C: 75 % | B, 50 % |
| `ambiguous_split` | 5 | Split one word two different ways, each into two meaningful words. | Das Wort „URINSTINKT“ lässt sich auf zwei Arten in jeweils zwei sinnvolle Wörter zerlegen. Wie? | UR-INSTINKT bzw. URIN-STINKT |
| `insert_word_twice` | 5 | Insert a short word twice into a frame to spell a longer word. | Welches kurze Wort muss man zweimal einsetzen, um eine Süßspeise zu erhalten? SP __ SE __ S | EI (→ SPEISEEIS) |
| `letter_frame` | 5 | Pick the letter frame that forms a valid word with every given fragment. | Welcher Rahmen ergibt mit JEDER dieser Buchstabenkombinationen ein sinnvolles Wort? _ _ N N _ , _ _ R T _ , _ _ T Z _ A: L O _ _ E B: K A _ _ E C: R E _ _ E | B, KA _ _ E |
| `longest_avoiding` | 5 | Find the longest word in a sentence that contains none of a given set of letters. | Welches Wort in diesem Satz ist das längste, das KEINEN Buchstaben des Wortes „BLOCK“ enthält? „Die Maschine steht seit heute im Internet.“ | Internet |
| `mapping_arithmetic` | 5 | Compute a number, then map it to a labelled item (e.g. the month at that index). | Wenn „6 + 6 = Dezember“, „10 - 9 = Januar“ gilt, was ist dann „2 + 2“? | April |
| `most_shared_letters` | 5 | Pick the word that shares the most distinct letters with a given word. | Mit welchem dieser Wörter hat „MONIKA“ die meisten gemeinsamen Buchstaben? A: MAXI B: NIKO C: OLLI | B, NIKO |
| `negation_parity` | 5 | Decide whether nested negations net to an affirmation or a negation (parity of negations). | Ergibt dieser Satz im Kern eine Bejahung (etwas Positives) oder eine Verneinung (etwas Negatives)? „Das ergibt keinen Sinn.“ | Verneinung (im Kern negativ) |
| `only_repeated_letters` | 5 | Pick the word built only from letters that occur at least twice in a given phrase. | Welcher Name lässt sich NUR aus Buchstaben bilden, die in „HANNA OTTO“ mehrfach (mindestens zweimal) vorkommen? A: HASE B: KIND C: RABE D: OTTO | D, OTTO |
| `mirror_symmetry` | 4 | Find the letter that lacks vertical mirror symmetry. | Welcher Buchstabe in dieser Reihe ist als Einziger NICHT spiegelsymmetrisch (sieht senkrecht gespiegelt anders aus)? T U V W X Y X W V U T G | G |
| `remove_substring` | 4 | Remove a given substring from a word to reveal another word matching a clue. | Nimm aus dem BEICHTEN das „ich“ heraus – was tut man dann nur noch? | beten |
| `restore_swaps` | 4 | Identify which two swaps restore a regular repeating pattern. | Diese Reihe sollte einem klaren, sich wiederholenden Muster folgen, aber zwei Paare wurden vertauscht. Welche zwei Tausche stellen das Muster wieder her? 1: … | A: 3↔4 und 9↔10 |
| `row_layout` | 4 | Deduce the total number of objects in a row from positional constraints. | In einer Reihe stehen einige Objekte: genau zwei Ampeln, der Rest sind Laternen. Eine Ampel steht ganz links, die andere ist die vierte von rechts; dazwische… | 7 |
| `typoglyph` | 4 | Read text whose word-internal letters are scrambled, then answer the embedded question. | Bei diesen Wörtern sind nur die inneren Buchstaben verdreht. Lies die Frage und beantworte sie: Wie vleie Bniee hat enie ghcilnhöwee Snnipe ? | acht |
| `vowel_omission` | 4 | Identify the single vowel still written in an otherwise de-voweled text. | Dieser Text wurde fast vollständig „entvokalt“. Welcher Vokal steht hier noch wirklich geschrieben? V_RS_CH_ D__S_N TEXT TR_TZD_M Z_ L_S_N | E |
| `format_mismatch` | 3 | Find the option whose rendering contradicts the meaning of its word. | Bei welcher Antwort stimmt die Darstellung NICHT mit ihrer Bedeutung überein? A: vorwärts B: <b>fett</b> C: sträwkcür D: <u>kursiv</u> | D |
| `grid_fill` | 3 | Read a letter grid row by row to reveal a sentence and supply the missing letter. | Liest man dieses Gitter Zeile für Zeile, ergibt sich ein Satz. Welcher Buchstabe gehört ins letzte (leere) Feld? F I N D E D E N L E T Z T E N B U C H S T A … | N |
| `palindrome_date` | 3 | Pick the date whose digit string reads identically forwards and backwards. | Welches dieser Datumsangaben kann man als Ziffernfolge vorwärts wie rückwärts gleich lesen? A: 02.02.2020 B: 12.03.2021 C: 20.02.2021 | A, 02.02.2020 |
| `syllable_sum` | 3 | Infer that the result equals the total syllable count of the number words involved. | Nach einer „ausgesprochen logischen“ Rechenweise gilt: 13 + 2 = 3, 5 + 5 = 2, 7 + 1 = 3. Was ist dann 13 + 7? | 4 |
| `two_letter_fill` | 3 | Fill all blanks using only two distinct letters to spell the target word. | Füllen Sie die Lücken so, dass ein Wohlfühl-Trend entsteht – Sie brauchen dafür nur zwei verschiedene Buchstaben: W _ _ _ N _ SS | Wellness |
| `digit_word_filter` | 2 | Filter digits by their individual German digit words, then arrange all matching digits to form the requested largest or smallest number. | Gesucht ist die größtmögliche Zahl aus genau den Ziffern, bei denen das Zahlwort der einzelnen Ziffer den Buchstaben „e“ enthält. Jede passende Ziffer wird g… | 9764321 |
| `hidden_numbers` | 2 | Identify the number words hidden as letter sequences inside each word. | Was verbirgt sich in jedem dieser Wörter? Klavier, Schachtel, verzweigt, Helfer | Zahlen (vier, acht, zwei, elf) |
| `number_word_constraint` | 2 | Find the smallest number whose German spelling uses only an allowed letter range. | Was ist die niedrigste Zahl, die man ausgeschrieben (auf Deutsch) nur mit Buchstaben aus dem Bereich A bis O bilden kann? | 11 (elf) |
| `remove_letters` | 2 | Strike the letters of one hidden word to reveal another word. | Welche Buchstaben muss man streichen, um ein Heißgetränk zu erhalten? TKAASFSFEEE | TASSE streichen -> KAFFEE |
| `hidden_bodyparts` | 1 | Identify the body parts hidden as letter sequences inside each word. | Was verbirgt sich in jedem dieser Wörter? Marmelade, Vormund, Bohrer, beinhaltet | Körperteile (Arm, Mund, Ohr, Bein) |
| `hidden_colors` | 1 | Identify the colours hidden as letter sequences inside each word. | Was verbirgt sich in jedem dieser Wörter? Brotzeit, Spiegelbild, Vorangehen, Prosa | Farben (Rot, Gelb, Orange, Rosa) |
| `page_flips` | 1 | Count the physical page-turns (leaves) needed to reach a target page. | Ein Buch ist so aufgeschlagen, dass man die Seiten 24 und 25 sieht. Wie oft muss man Seite für Seite umblättern, um bei Seite 32 weiterzulesen? | 4-mal |
| `self_descriptive_number` | 1 | Find the number word whose letter count equals its own value. | Welches Zahlwort von Null bis Zehn hat genau so viele Buchstaben, wie sein Wert angibt? | Vier |
| `sum_check` | 1 | Resolve an 'all but' riddle and give the consistent counts. | Ein Bauer hat 17 Tiere. Bis auf 9 sind es alles Hühner, bis auf 8 alles Kühe. Kann das stimmen, und wie viele Hühner hat er? | 8 Hühner (und 9 Kühe) |
| `sum_equals_product` | 1 | Pick the number trio whose sum equals its product. | Bei welchem dieser Zahlen-Trios ist die Summe genauso groß wie das Produkt? A: 1, 2, 3 B: 2, 3, 4 C: 1, 3, 5 | A, 1, 2, 3 |
| `weighted_count` | 1 | Multiply and add the relevant quantities while ignoring distractor numbers. | Ein Oktopus hat drei Herzen und neun Gehirne. Wie viele Gehirne befinden sich im Becken, wenn dort drei Oktopusse und zwei Tierpflegerinnen sind? | 29 |
| `word_half` | 1 | Identify a word that forms one half of a longer given word. | Welcher nachtaktive Vogel bildet die zweite Hälfte des Wortes WALDKAUZ? | Kauz |

## Schema

| column | type | description |
|---|---|---|
| `question` | string | The full quiz question (German). |
| `cot` | string | Chain-of-thought: a step-by-step derivation that solves the item from scratch and ends with `Antwort: <answer>`. Choice-agnostic (no option labels), so it also applies to the free-form questions. |
| `answer` | string | Reference answer. |
| `explanation` | string | Worked solution / why the answer is correct. |
| `mechanic` | string | Puzzle mechanic (see table below). |
| `verification` | string | JSON-encoded object with the mechanic type and the machine-checkable solution. |
| `hard` | bool | Member of the model-selected **hard subset** (100 items). |
| `id` | string | SHA-256 hex digest of the question text (unique). |

## Evaluation

Answers are free-form (and for some items multiple choice). We recommend **LLM-as-judge** grading against the reference `answer` + `explanation` rather than string matching. In our runs **`gpt-5.4-mini` is a reliable, cheap judge** for this dataset. The full evaluation harness (collect, judge, score) used for the leaderboard is open-sourced at [`ellamind/grips-eval`](https://github.com/ellamind/grips-eval).

### Recommended judge prompt

```
Decide whether the candidate answer is correct relative to the reference answer.
Accept semantically equivalent variants, minor spelling/case/punctuation differences, and either an answer letter or answer text for multiple-choice questions.
If the candidate gives a correct final answer with extra explanation, mark correct.
If the candidate gives contradictory answers or no clear answer, mark incorrect.
Use the explanation only to understand the intended answer; do not require the candidate to include the explanation.

Return only a JSON object that matches the enforced schema:
{
  "rating": "YES" | "NO",
  "rationale": short string
}

Use rating YES only when the candidate answer should be accepted as correct.
Use rating NO for wrong answers, unclear answers, contradictory answers, or answers that do not clearly select a final answer.

Question:
{question}

Reference answer:
{answer}

Reference explanation:
{explanation}

Candidate answer:
{candidate}
```

The judge returns a strict-JSON object `{"rating": "YES"|"NO", "rationale": ...}`; `YES` counts as correct.

### Judge Implementation

Given a dataset `item` and a model `response` (collected beforehand), this is the
function we use to produce a verdict:

```python
import json, os
from openai import OpenAI

JUDGE_MODEL = "openai/gpt-5.4-mini"   # recommended judge
client = OpenAI(base_url="https://openrouter.ai/api/v1", api_key=os.environ["OPENROUTER_API_KEY"])

JUDGE_SCHEMA = {"type": "json_schema", "json_schema": {"name": "rating", "strict": True,
    "schema": {"type": "object", "additionalProperties": False,
        "properties": {"rating": {"type": "string", "enum": ["YES", "NO"]},
                       "rationale": {"type": "string"}},
        "required": ["rating", "rationale"]}}}

JUDGE_PROMPT = """Decide whether the candidate answer is correct relative to the reference answer.
Accept semantically equivalent variants, minor spelling/case/punctuation differences, and either an answer letter or answer text for multiple-choice questions.
If the candidate gives a correct final answer with extra explanation, mark correct.
If the candidate gives contradictory answers or no clear answer, mark incorrect.
Use the explanation only to understand the intended answer; do not require the candidate to include the explanation.

Return only a JSON object: {{"rating": "YES" | "NO", "rationale": short string}}

Question:
{question}

Reference answer:
{answer}

Reference explanation:
{explanation}

Candidate answer:
{candidate}
"""

def judge(item, response):
    """Grade a model `response` (str) for a dataset `item` (dict).

    Returns {"is_correct": bool, "rating": "YES"|"NO", "rationale": str}.
    """
    prompt = JUDGE_PROMPT.format(
        question=item["question"],
        answer=item["answer"],
        explanation=item["explanation"] or "None provided.",
        candidate=response,
    )
    verdict = client.chat.completions.create(
        model=JUDGE_MODEL,
        messages=[{"role": "user", "content": prompt}],
        response_format=JUDGE_SCHEMA,
    ).choices[0].message.content
    result = json.loads(verdict)
    return {"is_correct": result["rating"] == "YES", **result}
```

Run it over your collected responses and average `is_correct` for the benchmark score:

```python
from datasets import load_dataset

ds = load_dataset("ellamind/grips", split="test")
verdicts = [judge(item, responses[item["id"]]) for item in ds]   # responses: {id -> model output}
accuracy = sum(v["is_correct"] for v in verdicts) / len(verdicts)
```

## Citation

If you use GRIPS, please cite the Hugging Face artifact:

```bibtex
@misc{grips2026,
  title = {GRIPS: German Reasoning, Idioms, Puzzles \& Wordplay (Sprachspiel)},
  author = {{ellamind}},
  year = {2026},
  howpublished = {\url{https://huggingface.co/datasets/ellamind/grips}},
  note = {Hugging Face dataset}
}
```

## Acknowledgements

* This project is supported by the OpenEuroLLM project, co-funded by the Digital Europe Programme under GA no. 101195233.
* This project is supported by the LLMs4EU project, co-funded by the Digital Europe Programme under GA no. 101198470. For more information see LLMs4EU website.
* This project is supported by the German Federal Ministry for Economic Affairs and Energy (BMWE) through EU-SAI/SOOFI: Sovereign Open Source Foundation Models for European Intelligence (grant number 13IPC040J).
* This project is supported by the Ministry of Economic Affairs, Industry, Climate Action and Energy
of the State of North Rhine-Westphalia and the European Union through LLM4KMU: Optimierter Einsatz von Open Source Large Language Models in KMU (grant number EFRE-20801077).