Datasets:
Languages:
English
Size:
1K<n<10K
ArXiv:
Tags:
temporal-reasoning
knowledge-graph
question-answering
benchmark
retrieval-augmented-generation
DOI:
License:
| > **Nota sulla traduzione.** Questo documento è la traduzione italiana di | |
| > `annotation-guidelines.md`. **In caso di qualsiasi discrepanza fa fede | |
| > l'originale inglese.** Tutti i valori delle etichette (`VALID`, `INVALID`, | |
| > `CORRECT`, `WRONG_DATE`, `NO_DATE`), i codici di errore (`AMB`, `UNANS`, | |
| > `WRONG_HOP`, `UNNATURAL`, `WRONG_ANS`), il flag `y`, i nomi delle colonne e i | |
| > nomi dei fogli (`Annotation`, `Instructions`) sono lasciati **deliberatamente | |
| > in inglese**: vanno digitati o cercati nel foglio di calcolo esattamente così | |
| > come compaiono qui. Anche il testo delle domande riportate come esempio resta | |
| > in inglese, perché le domande che annoterai sono in inglese e il giudizio | |
| > sulla loro formulazione dipende dalla forma inglese. I numeri conservano la | |
| > notazione dell'originale (virgola per le migliaia): `8,710` significa | |
| > ottomilasettecentodieci. La numerazione delle sezioni è identica | |
| > all'originale, così i due documenti si possono leggere affiancati. | |
| --- | |
| # TempBench: linee guida per l'annotazione umana | |
| **Versione 1.1** | **Revisione: 10 agosto 2026** _(la v1.0 di aprile 2026 | |
| descriveva un ciclo diverso e molto più ampio — vedi §1 per l'ambito attuale.)_ | |
| > **EN / IT — questo pacchetto è bilingue.** L'originale inglese è | |
| > `annotation-guidelines.md`. Lavora con la versione che preferisci — entrambi | |
| > gli annotatori ricevono entrambe. **In caso di qualsiasi discrepanza prevale | |
| > la versione inglese**, e i valori delle etichette (`VALID`, `INVALID`, `AMB`, | |
| > `NO_DATE`, …) restano in inglese in entrambe, perché vanno digitati alla | |
| > lettera nel foglio di calcolo. | |
| > | |
| > _This packet is bilingual. The English original is `annotation-guidelines.md`. | |
| > In case of any discrepancy, the English version governs._ | |
| --- | |
| ## 1. Introduzione e panoramica del compito | |
| ### Che cos'è TempBench? | |
| TempBench è un dataset di benchmark per valutare il ragionamento temporale | |
| multi-hop su grafi di conoscenza (knowledge graph, KG) che evolvono nel tempo. | |
| Il benchmark completo contiene **8,710 domande** costruite a partire da Wikidata | |
| (il sottoinsieme tkgl-smallpedia), stratificate per complessità di ragionamento | |
| — a 1 salto (hop; una singola relazione), a 2 salti (catena di due relazioni) e | |
| a 3+ salti (tre o più) — e divise 70/10/20 in train/dev/test. | |
| **Stai annotando un campione di 120 domande dello split di test**, non l'intero | |
| benchmark. Il campione è stratificato per livello di complessità e per i quattro | |
| tipi di operatore temporale, ed esclude deliberatamente tutte le domande usate in | |
| un precedente ciclo di validazione. | |
| Ogni domanda è ancorata a uno specifico punto di interrogazione temporale (t_query), il che richiede ai sistemi di recuperare la risposta corretta così com'era in quel preciso momento. Questo distingue il benchmark dai benchmark di QA statica, perché richiede sia capacità di ragionamento multi-hop sia consapevolezza della validità temporale. | |
| ### Il tuo compito di annotazione | |
| Ti stiamo chiedendo di **fare un controllo di qualità sulle domande del benchmark**, non di crearle. Il tuo ruolo è verificare che ogni domanda sia ben formata, risolvibile ed etichettata correttamente. In concreto, per ogni domanda esprimerai due giudizi indipendenti: | |
| 1. **Validità della domanda** — è una domanda chiara, non ambigua, con una risposta corretta verificabile? | |
| 2. **Validità temporale** — il punto di interrogazione temporale (t_query) è corretto e coerente con la domanda? | |
| Questo passaggio di controllo qualità è fondamentale. Anche piccoli errori nel benchmark (domande ambigue, timestamp sbagliati, conteggi di salti mal etichettati) possono introdurre rumore che degrada sia le prestazioni dei baseline sia l'analisi a valle. Sono i tuoi 120 giudizi, confrontati con quelli dell'altro annotatore, a permettere al paper di riportare una stima onesta dell'affidabilità delle etichette del benchmark. | |
| ### Stime di tempo e carico di lavoro | |
| > **Ambito di *questo* ciclo: 120 domande.** _(Una versione precedente di questo | |
| > documento descriveva un programma da 1,500 domande / ~125 ore. Quello era il | |
| > piano originale e **non** è ciò che ti stiamo chiedendo di fare.)_ | |
| Il tuo file contiene **120 domande**: 50 a un salto, 50 a due salti, 20 a tre o più salti. | |
| Il tempo di annotazione varia con la complessità: | |
| - **Domande a 1 salto:** ~2–3 minuti ciascuna → 50 item ≈ 2 ore | |
| - **Domande a 2 salti:** ~4–5 minuti ciascuna → 50 item ≈ 4 ore | |
| - **Domande a 3+ salti:** ~7–10 minuti ciascuna → 20 item ≈ 3 ore | |
| **In totale: circa 9 ore di annotazione, più un'ora circa per leggere questo | |
| documento — diciamo 10 ore.** Si divide comodamente in due o tre sessioni; non | |
| c'è alcun obbligo di farlo in un'unica passata, e farlo di fretta ne vanifica lo | |
| scopo. | |
| **Compenso:** questo lavoro è **non retribuito**. Non c'è una tariffa a domanda | |
| e non c'è alcun bonus legato all'accordo — deliberatamente, perché pagare per | |
| l'accordo distorcerebbe esattamente il numero che stiamo cercando di misurare. | |
| **Cosa ricevi in cambio:** un ringraziamento nominale nel paper (CIKM 2026, | |
| Roma). Per essere diretti sul perché si tratta di un ringraziamento e non di una | |
| co-autoria: la conferenza ha congelato la lista degli autori alla versione | |
| accettata e non sono ammesse aggiunte in fase di camera-ready, quindi la | |
| co-autoria non è qualcosa che possiamo offrire, a prescindere dai meriti. Se | |
| preferisci non essere nominato/a, dimmelo e ti ringrazieremo in forma anonima. | |
| **Come viene usato il tuo lavoro:** le etichette dei due annotatori vengono | |
| confrontate per produrre una statistica di accordo tra annotatori (κ di Cohen). | |
| Il paper dichiarerà esplicitamente che entrambi gli annotatori non sono autori, | |
| che le due passate sono state cieche e indipendenti, e che il lavoro non è stato | |
| retribuito. | |
| --- | |
| ## 2. Interfaccia di annotazione | |
| **Non c'è alcun portale web — lavori in un foglio di calcolo.** Ti è stata | |
| inviata una cartella di lavoro (workbook), `rater_A_validation_120.xlsx` oppure | |
| `rater_B_validation_120.xlsx` (120 righe; i due file contengono gli **stessi | |
| item nello stesso ordine**). | |
| Aprila in Excel, LibreOffice o Google Sheets, compila una riga per domanda e | |
| **restituiscila in formato `.xlsx`** — per favore mantieni il formato della | |
| cartella di lavoro invece di esportare in CSV o di incollare i dati in un altro | |
| strumento. Le colonne dei giudizi sono a tendina, e il salvataggio in CSV le | |
| elimina: le etichette tornano indietro digitate a mano e vanno normalizzate | |
| manualmente prima di poter essere confrontate. | |
| > **⚠️ Compila il foglio `Annotation`, non il foglio `Instructions`.** La | |
| > cartella di lavoro ha due schede; la seconda contiene i dati. Le colonne | |
| > grigie sono quelle già fornite — per favore lasciale come sono. Le colonne | |
| > gialle sono le tue. Le colonne dei giudizi sono a tendina: scegli dall'elenco | |
| > invece di digitare, così le etichette restano leggibili dal codice. | |
| > **Lavora in autonomia.** I due annotatori hanno file identici di proposito: il | |
| > senso di questo ciclo è misurare quanto due persone concordano *senza* | |
| > consultarsi. Per favore non discutere i singoli item con l'altro annotatore e | |
| > non confrontare i file finché entrambi non sono stati restituiti. | |
| Ogni riga ti arriva con questi campi già compilati: | |
| | Colonna | Contenuto | | |
| |---|---| | |
| | `row` | 1–120, l'ordine in cui lavori | | |
| | `question_id` | Identificatore univoco, es. `q_004664` | | |
| | `question` | La domanda in linguaggio naturale — è questo che valuti | | |
| | `t_query` | Il punto di riferimento temporale rispetto al quale la domanda è posta | | |
| | `stated_answer` | La risposta registrata dal benchmark — sei tu a giudicare se è giusta | | |
| | `stated_hops` | Il numero di salti dichiarato dal benchmark: `1`, `2` o `3+`. **È questo il riferimento rispetto a cui si valuta `WRONG_HOP`** — conta le relazioni che la domanda richiede davvero e confronta | | |
| | `supporting_chain` | La catena di evidenze di riferimento, una riga per salto, nel formato `subject -[relation]-> object (years)` (soggetto, relazione, oggetto, anni di validità). È da qui che la risposta dovrebbe discendere — usala per verificare `stated_answer` e per contare i salti | | |
| > **Due note su come leggere gli esempi svolti del §4.** | |
| > 1. Gli esempi stampano la catena in una **notazione compatta su una sola | |
| > riga** (`a:REL→b:REL→c`) perché sono stati scritti prima che esistesse il | |
| > foglio di calcolo. Il tuo file mostra le *stesse informazioni* un salto per | |
| > riga, con gli anni di validità. Una cella a 1 salto si presenta così: | |
| > | |
| > ``` | |
| > Daniel Kahneman -[employer]-> University of British Columbia (1983) | |
| > ``` | |
| > | |
| > e una cella a 2 salti così — **due righe dentro un'unica cella**, dove | |
| > l'oggetto del primo salto diventa il soggetto del secondo: | |
| > | |
| > ``` | |
| > Leo Königsberger -[doctoral student]-> Karl Bopp (1902) | |
| > Karl Bopp -[doctoral advisor]-> Moritz Cantor (1902) | |
| > ``` | |
| > | |
| > Conta le righe per verificare `stated_hops`. Se una cella sembra avere una | |
| > riga sola ma te ne aspetti di più, allarga la riga aumentandone l'altezza — | |
| > Excel nasconde il resto. | |
| > 2. Gli esempi mostrano anche una riga **"Supporting Facts"** di prosa | |
| > esplicativa (in questa traduzione è indicata come **Fatti di supporto**). | |
| > **Il tuo file non ce l'ha** — la tua evidenza è la catena. | |
| > Ovunque queste linee guida dicano di verificare qualcosa "rispetto ai fatti | |
| > di supporto", leggi **rispetto a `supporting_chain`**. | |
| **Colonne che compili tu:** | |
| 1. `judgment_A_validity` — `VALID` oppure `INVALID` | |
| 2. `error_code_if_invalid` — se INVALID: `AMB`, `UNANS`, `WRONG_HOP`, `UNNATURAL` o `WRONG_ANS` | |
| 3. `judgment_B_temporal` — `CORRECT`, `WRONG_DATE` oppure `NO_DATE` | |
| 4. `naturalness_1_to_5` — quanto la domanda sembra qualcosa che una persona | |
| scriverebbe davvero. Valuta **solo la formulazione**, mai se la risposta è | |
| corretta. Tutti e cinque i punti sono ancorati: | |
| | | | | |
| |---|---| | |
| | **1** | A stento comprensibile; hai dovuto rileggerla per capire che cosa chiede | | |
| | **2** | Comprensibile ma chiaramente prodotta da una macchina — possessivi impilati (`X's Y's Z`), formulazione da template | | |
| | **3** | Goffa ma utilizzabile; una persona di fretta potrebbe scriverla così | | |
| | **4** | Si legge in modo naturale, con una piccola rigidità o stranezza | | |
| | **5** | Indistinguibile da una domanda che porrebbe una persona | | |
| Lunga non vuol dire innaturale: una domanda a 3 salti genuinamente complessa | |
| può essere un 4 o un 5 se la formulazione è pulita. | |
| 5. `low_confidence` — metti `y` se non sei sicuro/a, altrimenti lascia vuoto | |
| 6. `notes` — testo libero facoltativo per i casi limite | |
| Hai un dubbio su un item? Metti `low_confidence = y`, aggiungi una nota e vai | |
| avanti. **Non arrovellarti**: gli item segnalati vengono rivisti a parte, e un | |
| "non sono sicuro/a" rapido e onesto è più utile di un tentativo lento. | |
| --- | |
| ## 2a. Niente assistenza AI — leggi qui, questo punto conta davvero | |
| **Non usare ChatGPT, Claude, Copilot, Gemini o qualunque altro assistente AI per | |
| produrre o controllare queste etichette.** Né per i giudizi, né per verificare se | |
| un fatto è vero, né per scrivere le note. | |
| Non è una preferenza generica di policy. Questo benchmark esiste per misurare se | |
| i sistemi di AI recuperano correttamente evidenza temporalmente valida. Se si usa | |
| l'output di un'AI per validarlo, la validazione finisce per misurare lo stesso | |
| sistema che dovrebbe controllare, e il risultato non vale nulla — il paper | |
| starebbe riportando una macchina che è d'accordo con sé stessa. Un giudizio umano | |
| incerto qui vale *molto* di più di un giudizio automatico sicuro di sé. | |
| Cercare direttamente su Wikipedia o su Wikidata va benissimo, anzi è | |
| incoraggiato. Usare un **motore di ricerca** va bene. Chiedere a un **chatbot** | |
| no. | |
| **Per favore conferma nella tua risposta, quando restituisci il file:** | |
| > "Ho completato questa annotazione senza usare assistenti AI, e i giudizi sono | |
| > miei." | |
| > | |
| > ("I completed this annotation without using AI assistants, and the judgments | |
| > are my own.") | |
| Due note pratiche, così questo non resta solo un sistema basato sulla fiducia: | |
| - Un piccolo numero di item nel tuo file sono **domande volutamente difettose, | |
| inserite di proposito** come controlli di attenzione (attention check). Servono | |
| a confermare che il compito è stato svolto con attenzione, non a metterti in | |
| difficoltà. | |
| - Per favore **annota all'incirca quando inizi e quando finisci** ogni sessione | |
| di lavoro (basta una riga nella tua risposta — "martedì sera, ~1h, righe | |
| 1–40"). I tempi per item aiutano a distinguere il lavoro accurato dal lavoro | |
| frettoloso, e tutelano te tanto quanto tutelano i dati. | |
| --- | |
| ## 3. Il compito di annotazione vero e proprio | |
| Il tuo compito di annotazione prevede due giudizi indipendenti ma complementari. Per ogni domanda, esprimili in questo ordine. | |
| ### Giudizio A: validità della domanda | |
| Chiediti: **è una domanda ben formata e risolvibile, che richiede il numero di salti dichiarato e che ha una risposta corretta unica e verificabile al t_query?** | |
| **VALID** — scegli questa opzione se: | |
| - La domanda è grammaticalmente chiara e non ambigua | |
| - La domanda chiede una risposta singola e ben definita (non più risposte possibili) | |
| - Il numero di salti dichiarato corrisponde alla complessità del ragionamento richiesto | |
| - La risposta di riferimento (gold answer) è corretta data la catena di supporto nel KG al t_query dichiarato | |
| - La domanda non dipende da informazioni odierne che non erano vere al t_query | |
| **INVALID** — scegli uno di questi codici di errore se la domanda non soddisfa uno dei criteri qui sopra: | |
| | Codice di errore | Definizione | Esempio | | |
| |------------|-----------|---------| | |
| | **AMB** | **Ambigua** — al t_query esistono più risposte valide | "Who was the leader of Germany in 2010?" (potrebbe essere Merkel, ma il suo titolo è cambiato nel tempo; troppo vago) | | |
| | **UNANS** | **Senza risposta** — al t_query non esiste alcuna risposta in Wikidata | "What was the stock price of Company X on 1980-01-01?" (i dati storici sui prezzi azionari non sono presenti in Wikidata in modo affidabile) | | |
| | **WRONG_HOP** | **Etichetta sbagliata sul numero di salti** — il ragionamento effettivamente richiesto è diverso da quello dichiarato dall'etichetta | Domanda etichettata "2 salti" ma che per rispondere ne richiede solo 1 | | |
| | **UNNATURAL** | **Grammaticalmente innaturale o incomprensibile** — la domanda è difficile da interpretare o usa una formulazione goffa | "What did person X have entity Y relation-wise in 2005?" (poco chiara, sgrammaticata) | | |
| | **WRONG_ANS** | **La risposta di riferimento è sbagliata** — la risposta fornita non corrisponde alla catena nel KG oppure non risponde alla domanda | La domanda chiede "Who won?" ma la risposta di riferimento indica il secondo classificato | | |
| Per ogni domanda, seleziona il **codice di errore principale** — il problema più rilevante. (Una domanda può avere più problemi: segnala quello più critico.) | |
| ### Giudizio B: validità temporale | |
| Chiediti: **il t_query dichiarato è corretto e coerente con quello che la domanda sta chiedendo?** | |
| **CORRECT** — scegli questa opzione se: | |
| - Il timestamp t_query corrisponde all'ancora temporale della domanda (es. "in 2008" → t_query = 2008-XX-XX è ragionevole) | |
| - Per domande senza un anno esplicito ma che chiedono di uno stato o di un ruolo (es. "Who was CEO in the year X?"), il t_query è fissato a una data valida all'interno di quell'anno | |
| - Per i "fatti stabili" (stale fact, cioè fatti che restano validi fino a oggi, come "è nato/a…"), il t_query è impostato in modo appropriato e la risposta viene recuperata correttamente in quel punto | |
| **WRONG_DATE** — scegli questa opzione se: | |
| - Il t_query non è allineato con l'ancora temporale della domanda (es. la domanda dice "in 2015" ma t_query = 2010-01-01) | |
| - Il timestamp è sfasato in modo significativo (per gli eventi sensibili al tempo contano i giorni, mentre nelle interrogazioni storiche uno scarto di un mese è di norma accettabile; usa il tuo giudizio) | |
| - Il t_query è successivo al momento in cui il fatto ha smesso di essere valido (es. si chiede del ruolo di CEO di qualcuno a una data in cui aveva già lasciato l'incarico) | |
| **NO_DATE** — scegli questa opzione se: | |
| - La domanda non ha alcuna ancora temporale e non dovrebbe stare in un benchmark temporale (es. "Who founded Company X?" senza alcun riferimento temporale) | |
| - Il t_query è mancante o non valorizzato (errore di inserimento dati) | |
| --- | |
| ## 4. Esempi svolti | |
| I sei esempi dettagliati che seguono (due per livello di complessità) illustrano annotazioni corrette e scorrette. | |
| ### Esempio 1a: 1 salto — VALID | |
| | Campo | Valore | | |
| |-------|-------| | |
| | **ID domanda** | tgb-001-1hop-001 | | |
| | **Domanda** | Who was the mayor of Paris in 2010? | | |
| | **t_query** | 2010-06-15 | | |
| | **Numero di salti dichiarato** | 1 | | |
| | **Risposta di riferimento** | Bertrand Delanoë | | |
| | **Catena di supporto nel KG** | paris:MAYOR→bertrand_delanoë (2001-2014) | | |
| | **Fatti di supporto** | Bertrand Delanoë è stato sindaco di Parigi dal 2001 al 2014. | | |
| **Decisione di annotazione:** | |
| - **Giudizio A (validità):** `VALID` | |
| - La domanda è chiara e non ambigua. | |
| - Chiede una singola entità (il sindaco) in un momento preciso. | |
| - Il numero di salti è corretto: 1 salto (paris → mayor → persona). | |
| - La risposta di riferimento (Bertrand Delanoë) è corretta al t_query. | |
| - La domanda è naturale e risolvibile. | |
| - **Giudizio B (validità temporale):** `CORRECT` | |
| - La domanda specifica il 2010; il t_query è fissato a giugno 2010. | |
| - Bertrand Delanoë è stato sindaco per tutto il 2010 (in carica dal 2001 al 2014). | |
| - Il timestamp rientra nell'intervallo di validità. | |
| --- | |
| ### Esempio 1b: 1 salto — INVALID | |
| | Campo | Valore | | |
| |-------|-------| | |
| | **ID domanda** | tgb-001-1hop-002 | | |
| | **Domanda** | Who is the current mayor of Paris? | | |
| | **t_query** | 2020-01-15 | | |
| | **Numero di salti dichiarato** | 1 | | |
| | **Risposta di riferimento** | Anne Hidalgo | | |
| | **Catena di supporto nel KG** | paris:MAYOR→anne_hidalgo (2014-present) | | |
| | **Fatti di supporto** | Anne Hidalgo è diventata sindaca di Parigi nel 2014 ed è l'attuale sindaca. | | |
| **Decisione di annotazione:** | |
| - **Giudizio A (validità):** `INVALID` — Codice di errore: `AMB` | |
| - La domanda usa "is the current mayor", un'ancora temporale *relativa*: punta ad "adesso", non a un punto storico fisso. | |
| - Quale "adesso"? Letta rispetto a `t_query` (2020) la risposta è Anne Hidalgo; letta come "oggi" è chiunque ricopra la carica nel momento in cui la domanda viene posta. **La domanda ammette più di una risposta difendibile**, ed è esattamente il criterio di `AMB`. | |
| - **Attenzione al codice.** Questo *non* è `UNNATURAL`: la frase è perfettamente grammaticale e suona come qualcosa che una persona direbbe davvero. `UNNATURAL` riguarda le formulazioni che un parlante fluente non produrrebbe. Valuta le due cose separatamente — una domanda può essere scorrevole e ambigua allo stesso tempo, e questa lo è. | |
| - **Correzione:** riformularla come "Who was the mayor of Paris in 2020?" per fissare il riferimento temporale. | |
| - **Giudizio B (validità temporale):** `CORRECT` | |
| - `t_query` = 2020 è una data valida e Anne Hidalgo era effettivamente sindaca allora, quindi il *timestamp* è giusto. | |
| - **I due giudizi sono indipendenti.** Una domanda può fallire il Giudizio A e superare comunque il Giudizio B — registra quello che vedi davvero in ciascuno dei due, e non lasciare che un verdetto si trascini dietro l'altro. | |
| --- | |
| ### Esempio 2a: 2 salti — VALID | |
| | Campo | Valore | | |
| |-------|-------| | |
| | **ID domanda** | tgb-002-2hop-001 | | |
| | **Domanda** | Who was the spouse of the CEO of Microsoft in 1998? | | |
| | **t_query** | 1998-06-15 | | |
| | **Numero di salti dichiarato** | 2 | | |
| | **Risposta di riferimento** | Melinda Gates | | |
| | **Catena di supporto nel KG** | microsoft:HAS_CEO→bill_gates:SPOUSE→melinda_gates | | |
| | **Fatti di supporto** | Bill Gates è stato CEO di Microsoft dal 1975 al 2000. Bill Gates ha sposato Melinda French nel 1994 ed è rimasto sposato per tutto il 1998. | | |
| **Decisione di annotazione:** | |
| - **Giudizio A (validità):** `VALID` | |
| - La domanda è chiara e chiede una risposta singola e ben definita. | |
| - Il numero di salti è corretto: 2 salti. | |
| - La risposta di riferimento è corretta: Melinda Gates era sposata con Bill Gates, che era CEO nel 1998. | |
| - **Giudizio B (validità temporale):** `CORRECT` | |
| - t_query=1998-06-15 è allineato con "in 1998" della domanda. | |
| - Bill Gates era CEO in quel momento, e Melinda era sua moglie. | |
| --- | |
| ### Esempio 2b: 2 salti — INVALID | |
| | Campo | Valore | | |
| |-------|-------| | |
| | **ID domanda** | tgb-002-2hop-002 | | |
| | **Domanda** | What country was the birthplace of the spouse of the CEO of Apple in 2005? | | |
| | **t_query** | 2005-06-15 | | |
| | **Numero di salti dichiarato** | 2 | | |
| | **Risposta di riferimento** | United States | | |
| | **Catena di supporto nel KG** | apple:HAS_CEO→steve_jobs:SPOUSE→laurene_powell:BIRTHPLACE→united_states | | |
| | **Fatti di supporto** | Steve Jobs era CEO di Apple nel 2005. Steve Jobs ha sposato Laurene Powell nel 1991. Laurene Powell è nata negli Stati Uniti. | | |
| **Decisione di annotazione:** | |
| - **Giudizio A (validità):** `INVALID` — Codice di errore: `WRONG_HOP` | |
| - La domanda chiede il luogo di nascita del coniuge di Steve Jobs. | |
| - La catena è: Apple → CEO (Steve Jobs) → coniuge (Laurene Powell) → luogo di nascita (Stati Uniti). | |
| - In realtà sono **3 salti**, non 2 come indicato dall'etichetta. | |
| - Il numero di salti dichiarato è sbagliato. | |
| - **Giudizio B (validità temporale):** `CORRECT` | |
| - t_query=2005-06-15 è allineato con l'ancora temporale della domanda (2005). | |
| - Steve Jobs era CEO in quel momento. | |
| --- | |
| ### Esempio 3a: 3+ salti — VALID | |
| | Campo | Valore | | |
| |-------|-------| | |
| | **ID domanda** | tgb-003-3hop-001 | | |
| | **Domanda** | In what year was the employer of the winner of the 1992 Nobel Prize in Physics founded? | | |
| | **t_query** | 1992-12-10 | | |
| | **Numero di salti dichiarato** | 3+ | | |
| | **Risposta di riferimento** | 1954 | | |
| | **Catena di supporto nel KG** | nobel_physics_1992:AWARDED_TO→georges_charpak:EMPLOYER→cern:INCEPTION→1954 | | |
| | **Fatti di supporto** | Georges Charpak è stato l'unico vincitore del premio Nobel per la fisica del 1992. Lavorava al CERN. Il CERN è stato fondato nel 1954. | | |
| **Decisione di annotazione:** | |
| - **Giudizio A (validità):** `VALID` | |
| - La domanda è lunga ma grammaticalmente sensata e chiede una sola risposta ben definita (un anno). | |
| - **La catena risponde alla domanda che è stata effettivamente posta.** Ripercorrila: premio → vincitore → datore di lavoro → anno di fondazione. Ogni salto è un salto che la domanda richiede, e il punto di arrivo (1954) è la risposta di riferimento. | |
| - `stated_answer` (1954) è esattamente il punto in cui la catena si chiude. **Controllalo ogni volta:** se la risposta dichiarata e `supporting_chain` sono in disaccordo, il codice è `WRONG_ANS`, per quanto plausibile possa sembrare la risposta presa da sola. | |
| - Il vincitore non è ambiguo: il Nobel per la fisica del 1992 è stato assegnato a una sola persona. **Se il premio fosse stato condiviso**, "the winner" avrebbe più di un referente possibile e la domanda sarebbe `AMB`. | |
| - Il numero di salti 3+ è corretto: si percorrono tre relazioni. | |
| - **Giudizio B (validità temporale):** `CORRECT` | |
| - `t_query` = 1992-12-10 corrisponde all'ancora della domanda (1992). | |
| - Nota che l'ancora fissa *quale vincitore* è oggetto della domanda, non l'anno di fondazione — la data di fondazione del CERN non cambia al variare di `t_query`. | |
| --- | |
| ### Esempio 3b: 3+ salti — INVALID | |
| | Campo | Valore | | |
| |-------|-------| | |
| | **ID domanda** | tgb-003-3hop-002 | | |
| | **Domanda** | What is the nationality of the child of the colleague of the mentor of the researcher who published a paper on topic X in 2015? | | |
| | **t_query** | 2015-06-15 | | |
| | **Numero di salti dichiarato** | 3+ | | |
| | **Risposta di riferimento** | [Non chiaramente specificata] | | |
| | **Catena di supporto nel KG** | [Catena complessa e poco chiara, con più relazioni non definite] | | |
| | **Fatti di supporto** | Un ricercatore ha pubblicato sul tema X nel 2015... [dettagli vaghi] | | |
| **Decisione di annotazione:** | |
| - **Giudizio A (validità):** `INVALID` — Codice di errore: `UNNATURAL` | |
| - La domanda è estremamente contorta e difficile da interpretare. | |
| - Le relazioni non sono ben definite (che cosa conta come "colleague"? quanti livelli di mentorship?). | |
| - La risposta di riferimento è vaga o poco chiara. | |
| - Anche se tecnicamente potrebbe esistere una catena di ragionamento, la domanda non è risolvibile in modo naturale senza chiarimenti sostanziali. | |
| - **Giudizio B (validità temporale):** `CORRECT` (ma irrilevante, dato il giudizio INVALID) | |
| - Il t_query è allineato con l'anno della domanda (2015), ma è una questione secondaria. | |
| --- | |
| ## 5. Casi limite e regole di decisione | |
| Questa sezione codifica le regole per i casi limite specifici che è probabile ti capitino. | |
| ### Alias di entità | |
| **Situazione:** una domanda si riferisce a un'entità con un nome (es. "Deutsche Bank") mentre il KG usa un alias diverso (es. "Deutsche Bank AG"). | |
| **Regola:** trattale come la **stessa entità**. Non segnare INVALID per questo motivo. Gli alias sono normali in Wikidata e nei grafi di conoscenza. Se la catena di supporto si riferisce chiaramente alla stessa entità, la domanda è valida. | |
| **Esempio:** | |
| - Domanda: "Who was the CEO of Deutsche Bank in 2010?" | |
| - Il KG usa: "Deutsche Bank AG" | |
| - **Giudizio:** VALID — i nomi si riferiscono alla stessa organizzazione. | |
| --- | |
| ### Timestamp impliciti | |
| **Situazione:** una domanda contiene un riferimento temporale che non è una data precisa (es. "during the financial crisis", "after the Cold War", "in the 1990s"). | |
| **Regola:** verifica che il t_query sia **ragionevole e coerente** con l'ancora temporale implicita. | |
| - Se il t_query cade chiaramente all'interno del periodo storico a cui si fa riferimento, segna `CORRECT`. | |
| - Se il t_query è precedente al periodo o ben successivo, segna `WRONG_DATE`. | |
| - Se l'ancora implicita è troppo vaga per essere fissata a una data precisa (es. "in recent times"), segna `NO_DATE`. | |
| **Esempio:** | |
| - Domanda: "Who was the CEO of Lehman Brothers at the onset of the financial crisis?" | |
| - t_query: 2008-08-15 | |
| - La crisi finanziaria è esplosa davvero a settembre 2008, quindi il 15 agosto è leggermente in anticipo ma ragionevole (la crisi si stava già preparando). Segna `CORRECT`. | |
| --- | |
| ### Fatti tuttora validi (stale fact) | |
| **Situazione:** un fatto che resta valido "fino a oggi" (es. "Barack Obama è nato nel 1961"). Il KG lo segna con `t_end = present` oppure `t_end = null`. | |
| **Regola:** questi fatti sono validi per **qualsiasi t_query fino al limite di | |
| copertura del grafo di partenza, che è il 2024** (il benchmark è costruito su | |
| uno snapshot di Wikidata che copre il periodo 1900–2024). Sono i cosiddetti | |
| "stale fact" — una volta veri, veri per sempre (es. date di nascita, eventi | |
| storici). | |
| - Se il t_query è pari o precedente al 2024 e il fatto è registrato come tuttora in corso, segna `CORRECT`. | |
| - Se il t_query è successivo al 2024, il grafo non può garantire quel fatto — segna `WRONG_DATE`. | |
| > **Una nota sul termine.** Qui "stale fact" significa *permanentemente valido* | |
| > — un nome infelice, e altrove in questo progetto la stessa espressione indica | |
| > il contrario (un fatto che *era* vero ma è superato al momento | |
| > dell'interrogazione). In questo documento indica sempre il tipo permanente. | |
| **Esempio:** | |
| - Domanda: "In what year was Malala Yousafzai born?" | |
| - t_query: 2015-01-01 (o qualsiasi data passata) | |
| - Risposta di riferimento: 1997 | |
| - Fatto nel KG: nata il 1997-07-12 (segnato come permanente/immutabile) | |
| - **Giudizio:** VALID e `CORRECT` — la nascita è uno stale fact, valido a qualsiasi t_query. | |
| --- | |
| ### Più ruoli in contemporanea | |
| **Situazione:** una persona ricopriva più ruoli nello stesso momento (es. "la persona X nel 2008 era sia CEO sia presidente del consiglio di amministrazione"). La domanda chiede di uno dei ruoli, e la risposta lo soddisfa. | |
| **Regola:** segna **VALID** se la risposta soddisfa correttamente la domanda, **anche se erano validi anche altri ruoli**. | |
| **Esempio:** | |
| - Domanda: "Who was the CEO of Company X in 2008?" | |
| - Il KG mostra: la persona Y nel 2008 era CEO *e* presidente del consiglio di amministrazione. | |
| - Risposta di riferimento: persona Y | |
| - **Giudizio:** VALID — la persona Y era effettivamente CEO nel 2008, anche se ricopriva pure un'altra carica. | |
| --- | |
| ### Relazioni di successione e vincoli | |
| **Situazione:** una domanda contiene un vincolo del tipo "before X became Y" oppure "after Z left position W". Il t_query e la risposta devono rispettare questo ordinamento temporale. | |
| **Regola:** verifica che il t_query **non violi** il vincolo temporale. Se lo viola, segna `WRONG_DATE`. | |
| **Esempio:** | |
| - Domanda: "Who was the CEO of Microsoft before Steve Ballmer became CEO?" | |
| - Vincolo: il t_query deve essere precedente alla data di inizio di Ballmer (che è gennaio 2000). | |
| - Se t_query = 1999-06-15 e la risposta di riferimento è Bill Gates, il giudizio è `CORRECT`. | |
| - Se t_query = 2005-06-15 (dopo il subentro di Ballmer), il giudizio è `WRONG_DATE`. | |
| --- | |
| ### Domande basate su eventi e domande basate su stati | |
| **Situazione:** alcune domande riguardano eventi ("When did X win the election?"), altre riguardano stati ("Who was in office in year Y?"). Richiedono tipi di risposta diversi. | |
| **Regola:** entrambi i tipi sono **validi**. Distinguili, ma non penalizzare una domanda basata su uno stato per il fatto di essere tale, né viceversa. | |
| **Esempio:** | |
| - Domanda A: "When did John Smith become mayor of Boston?" (evento) | |
| - Tipo di risposta: data | |
| - Chiede uno specifico punto di transizione. | |
| - Domanda B: "Who was the mayor of Boston in 1990?" (stato) | |
| - Tipo di risposta: nome di persona | |
| - Chiede un'istantanea in un momento nel tempo. | |
| Entrambe sono valide per un benchmark di QA temporale. | |
| --- | |
| ### Fatti retroattivi e premi postumi | |
| **Situazione:** un fatto viene assegnato retroattivamente (es. un premio conferito postumo, la riassegnazione storica di un ruolo). | |
| **Regola:** sono **casi limite**. Segna la domanda come `VALID` ma **usa il campo note a testo libero** per segnalarne la natura retroattiva. Questo aiuta l'analisi a valle a capire perché la catena può apparire anomala. | |
| **Esempio:** | |
| - Domanda: "Who won the 2005 Fields Medal?" (non è un anno reale di assegnazione della Medaglia Fields, ma serve da illustrazione) | |
| - Risposta di riferimento: il matematico Z (deceduto nel 2010) | |
| - È valida perché la risposta era determinabile al t_query=2005, anche se una commemorazione o un riconoscimento ufficiale successivo è avvenuto postumo. | |
| - **Giudizio:** VALID, e aggiungi una nota: "Premio retroattivo (se applicabile)." | |
| --- | |
| ### Domande senza risposta determinabile in Wikidata | |
| **Situazione:** la domanda è ben formata e chiara, ma Wikidata semplicemente non contiene l'informazione necessaria per rispondere al t_query. | |
| **Regola:** segna `INVALID` con il codice di errore **UNANS** (senza risposta). | |
| **Esempio:** | |
| - Domanda: "What was the closing stock price of Microsoft on January 1, 1990?" | |
| - Wikidata non contiene in modo affidabile dati storici sui prezzi azionari. | |
| - **Giudizio:** INVALID — UNANS. La domanda è naturale e chiara, ma il dato non esiste nel KG. | |
| --- | |
| ## 6. Standard di qualità e accordo | |
| ### A che cosa serve il numero di accordo | |
| Le tue etichette e quelle dell'altro annotatore vengono confrontate per produrre | |
| una statistica di accordo tra annotatori, che il paper riporta come prova del | |
| fatto che le etichette del benchmark sono affidabili. | |
| **Deliberatamente non indicato qui: il livello di accordo che ci auguriamo.** | |
| Conoscere l'obiettivo ti darebbe un motivo, per quanto inconsapevole, di provare | |
| a indovinare che cosa direbbe l'altro annotatore invece di registrare quello che | |
| pensi davvero — che è precisamente ciò che la statistica dovrebbe misurare. Un | |
| disaccordo genuino fra due lettori attenti è un risultato utile; un accordo | |
| fabbricato perché entrambi puntate a un numero non lo è. | |
| Quindi: giudica ogni item per quello che è, segnala l'incertezza con onestà, e | |
| lascia che il numero sia quello che è. | |
| ### Protocollo di doppia annotazione | |
| **Tutte le domande di questo ciclo sono annotate in doppio.** Entrambi gli | |
| annotatori ricevono gli stessi identici 120 item, e il confronto fra i due | |
| insiemi di etichette è l'accordo tra annotatori (inter-annotator agreement, IAA) | |
| che il paper riporta. Non c'è alcun sottoinsieme nascosto e non c'è nulla di | |
| selezionato per un esame particolare — la misurazione è l'intero file. | |
| Lavora al tuo standard abituale dall'inizio alla fine. L'unica cosa che conta è | |
| che i giudizi siano **tuoi**: per favore non discutere i singoli item con l'altro | |
| annotatore e non confrontare i file finché entrambi non sono stati restituiti. | |
| ### Gestione dell'incertezza | |
| Se non sei sicuro/a di un giudizio, **non tirare a indovinare**. Invece: | |
| 1. Metti `y` nella colonna `low_confidence`. | |
| 2. Scrivi una breve nota nella colonna `notes` spiegando che cosa non è chiaro (es. "La catena di supporto sembra avere due possibili terminazioni; non è chiaro quale sia quella principale"). | |
| 3. Passa alla domanda successiva. | |
| I flag di incertezza sono utili per individuare domande che potrebbero aver bisogno di chiarimenti o di essere riscritte. **Non** vengono penalizzati: l'incertezza è preferibile agli errori espressi con sicurezza. | |
| ### Escalation e domande | |
| Se ti imbatti in una domanda che secondo te ha un errore di fondo, o se ti serve un chiarimento sulle linee guida, **non dedicarci troppo tempo**. Metti `y` in `low_confidence`, scrivi in `notes` che cosa non va, e vai avanti. Le righe segnalate vengono riviste a parte. | |
| **Per domande durante l'annotazione:** rispondi alla email con cui ti è stato | |
| inviato questo documento. ⚠️ Tieni presente che sarò **via dall'11 al 17 agosto | |
| senza computer**, quindi i messaggi che arrivano in quella finestra non avranno | |
| risposta prima del 18. È esattamente per questo che la regola qui sopra conta: se | |
| qualcosa non è chiaro, metti `low_confidence = y`, aggiungi una nota e vai avanti | |
| invece di restare in attesa di una risposta. Gli item segnalati vengono rivisti a | |
| parte e non si perde nulla nel segnalarli. | |
| --- | |
| ## 7. Checklist per l'annotatore | |
| Usa questa checklist per **ogni domanda** prima di consegnare la tua annotazione. | |
| ### Checklist pre-annotazione | |
| - [ ] Ho letto con attenzione il testo della domanda. | |
| - [ ] Ho capito che cosa chiede la domanda (tipo di entità, relazione, ancora temporale). | |
| - [ ] Ho letto `stated_answer` e `supporting_chain`. | |
| - [ ] Ho verificato se `supporting_chain` porta davvero a `stated_answer`. | |
| ### Giudizio A: validità — checklist | |
| - [ ] La domanda è grammaticalmente chiara e naturale. | |
| - [ ] La domanda chiede una risposta singola e ben definita (non più risposte possibili). | |
| - [ ] Il numero di salti dichiarato corrisponde alla complessità del ragionamento. | |
| - [ ] `stated_answer` è corretta rispetto a `supporting_chain`. | |
| - [ ] La domanda non dipende da informazioni odierne non conoscibili al t_query. | |
| - [ ] Se sto segnando INVALID, ho selezionato l'unico codice di errore più rilevante. | |
| ### Giudizio B: validità temporale — checklist | |
| - [ ] Il t_query è valorizzato (non mancante né null). | |
| - [ ] Il t_query corrisponde all'ancora temporale della domanda. | |
| - [ ] La risposta di riferimento è vera/valida al t_query (non prima né dopo). | |
| - [ ] Per i riferimenti temporali impliciti (es. "during the crisis"), ho verificato che il t_query sia ragionevole. | |
| - [ ] Ho selezionato uno tra: CORRECT, WRONG_DATE o NO_DATE. | |
| ### Checklist su confidenza e note | |
| - [ ] Se avevo dei dubbi, ho messo `y` in `low_confidence` (lascia vuoto quando sei sicuro/a — non esiste una via di mezzo). | |
| - [ ] Se ho segnato `low_confidence`, ho aggiunto una nota che dice che cosa non era chiaro. | |
| - [ ] Se mi sono imbattuto/a in un caso limite (fatti retroattivi, alias, più ruoli), l'ho documentato in `notes`. | |
| ### Checklist per singola domanda | |
| - [ ] `judgment_A_validity` compilato, più `error_code_if_invalid` se il verdetto è INVALID. | |
| - [ ] `judgment_B_temporal` compilato. | |
| - [ ] `naturalness_1_to_5` compilato. | |
| ### Prima di restituire il file | |
| - [ ] Tutte le 120 righe hanno il Giudizio A, il Giudizio B e un punteggio di naturalezza. | |
| - [ ] Ho lavorato sul foglio **Annotation**, non sul foglio Instructions. | |
| - [ ] Non mi sono consultato/a con l'altro annotatore. | |
| - [ ] La mia risposta include la frase di conferma sul non uso di AI (§2a) e un'indicazione di massima di quando ho lavorato. | |
| --- | |
| ## 8. Glossario | |
| Questa sezione definisce i termini chiave usati in tutte le linee guida. | |
| **Entità di ancoraggio (Anchor Entity)** | |
| L'entità iniziale di una domanda multi-hop, da cui si percorrono le relazioni. In "Who was the spouse of the CEO of Microsoft in 1998?", l'entità di ancoraggio è Microsoft. | |
| **Componibilità (Composability)** | |
| La proprietà per cui ogni salto di una catena multi-hop si costruisce sul risultato precedente. Una domanda a 3 salti è componibile se ogni risultato intermedio (a 1 salto, a 2 salti) è un'entità valida e recuperabile. | |
| **Risposta di riferimento (Gold Answer)** — nel tuo foglio di calcolo è la | |
| colonna `stated_answer`. I due termini indicano la stessa cosa: "risposta di | |
| riferimento" è l'espressione che queste linee guida usano nella prosa, | |
| `stated_answer` è l'intestazione della colonna. Nota che il nome della colonna | |
| dice *stated* — dichiarata — e non *correct*: giudicare se **sia** corretta è il | |
| tuo compito. | |
| La risposta corretta a una domanda, quella assunta come verità di riferimento (ground truth), così come verificata dalla catena nel KG. Per esempio, se la domanda è "Who was the CEO of Apple in 2010?", la risposta di riferimento è "Steve Jobs". | |
| **Numero di salti (Hop Count)** | |
| Il numero di relazioni percorse nel KG per rispondere a una domanda. Una domanda a 1 salto richiede di percorrere un arco. Una domanda a 2 salti ne richiede due. Le catene di ragionamento multi-hop sono più complesse e richiedono di comporre più passaggi. | |
| **Accordo tra annotatori (Inter-Annotator Agreement, IAA)** | |
| Una misura statistica di quanto spesso due annotatori indipendenti esprimono lo stesso giudizio. Un accordo più alto indica che le etichette del benchmark sono chiare e non ambigue. | |
| **Catena multi-hop (Multi-Hop Chain)** | |
| Una sequenza di relazioni nel grafo di conoscenza che insieme rispondono a una domanda. Per esempio: Apple → (HAS_CEO) → Steve Jobs → (HAS_SPOUSE) → Laurene Powell è una catena a 2 salti che termina con il nome del coniuge. | |
| **Fatto stabile (Stale Fact)** | |
| Un fatto che, una volta stabilito, non cambia nel tempo — date di nascita, date | |
| di fondazione, eventi storici. Valido per qualsiasi t_query successivo al | |
| momento in cui il fatto è avvenuto **e pari o precedente al limite del 2024 del | |
| grafo** (vedi §5, che spiega anche perché il nome è fuorviante: qui significa | |
| *permanentemente valido*, il contrario di ciò che "stale" significa altrove in | |
| questo progetto). | |
| **Catena di supporto (Supporting Chain)** | |
| Il percorso attraverso il grafo di conoscenza (Wikidata) che giustifica la risposta di riferimento. Ti viene mostrato per la verifica e deve essere coerente con la domanda e con il t_query. | |
| **Fatti di supporto (Supporting Facts)** | |
| Prosa esplicativa che compare solo negli esempi svolti del §4. **Non è una | |
| colonna del tuo file** — la tua evidenza è `supporting_chain`. Dove queste linee | |
| guida dicono "fatti di supporto", leggi `supporting_chain`. | |
| **t_query** | |
| Il punto di interrogazione temporale — un timestamp preciso (es. 2008-06-15) al quale la domanda chiede la risposta. È la "fetta di tempo" interrogata. | |
| **Grafo di conoscenza temporale (Temporal Knowledge Graph)** | |
| Un grafo di conoscenza in cui i fatti sono associati a finestre di validità temporale (t_start, t_end). A differenza dei KG statici, i KG temporali tracciano esplicitamente quando i fatti sono veri, rendendo possibile un ragionamento consapevole del tempo. | |
| **Finestra di validità temporale (Temporal Validity Window)** | |
| L'intervallo di tempo durante il quale un fatto è vero. Per esempio, "Steve Jobs era CEO di Apple" ha una finestra temporale che va dal 1997 al 2011 (all'incirca). Le risposte vanno verificate rispetto a questa finestra. | |
| **Risposta non ambigua (Unambiguous Answer)** | |
| Una risposta singola e ben definita a una domanda, che non ha alternative concorrenti al t_query. Per esempio, "Who was the only mayor of Boston in 1995?" dovrebbe avere una risposta unica (o chiaramente nessuna, se c'è stato un interregno). | |
| **Validità (Validity)** | |
| La proprietà per cui una domanda è ben formata, chiara, risolvibile e ancorata al KG del benchmark. Le domande valide hanno risposte non ambigue e conteggi dei salti corretti. | |
| **Wikidata** | |
| Una grande base di conoscenza multilingue, redatta dalla comunità, che contiene fatti strutturati su entità (persone, organizzazioni, eventi ecc.) e sulle loro relazioni. TempBench è costruito a partire da un sottoinsieme chiamato tkgl-smallpedia. | |
| --- | |
| ## Conclusione | |
| Grazie per l'attenzione con cui annoterai queste domande. Il tuo lavoro è essenziale per costruire un benchmark di alta qualità, che verrà usato per valutare i sistemi di ragionamento temporale negli anni a venire. Lavora in modo sistematico, segnala i dubbi e non esitare a scrivere se hai domande. | |
| **In bocca al lupo, e grazie per la cura che ci metterai!** | |
| --- | |
| **Versione del documento:** 1.1 | **Ultimo aggiornamento:** 10 agosto 2026 | |