Datasets:

Guen
/

tempbench

Nota sulla traduzione. Questo documento è la traduzione italiana di annotation-guidelines.md. In caso di qualsiasi discrepanza fa fede l'originale inglese. Tutti i valori delle etichette (VALID, INVALID, CORRECT, WRONG_DATE, NO_DATE), i codici di errore (AMB, UNANS, WRONG_HOP, UNNATURAL, WRONG_ANS), il flag y, i nomi delle colonne e i nomi dei fogli (Annotation, Instructions) sono lasciati deliberatamente in inglese: vanno digitati o cercati nel foglio di calcolo esattamente così come compaiono qui. Anche il testo delle domande riportate come esempio resta in inglese, perché le domande che annoterai sono in inglese e il giudizio sulla loro formulazione dipende dalla forma inglese. I numeri conservano la notazione dell'originale (virgola per le migliaia): 8,710 significa ottomilasettecentodieci. La numerazione delle sezioni è identica all'originale, così i due documenti si possono leggere affiancati.

TempBench: linee guida per l'annotazione umana

Versione 1.1 | Revisione: 10 agosto 2026 (la v1.0 di aprile 2026 descriveva un ciclo diverso e molto più ampio — vedi §1 per l'ambito attuale.)

EN / IT — questo pacchetto è bilingue. L'originale inglese è annotation-guidelines.md. Lavora con la versione che preferisci — entrambi gli annotatori ricevono entrambe. In caso di qualsiasi discrepanza prevale la versione inglese, e i valori delle etichette (VALID, INVALID, AMB, NO_DATE, …) restano in inglese in entrambe, perché vanno digitati alla lettera nel foglio di calcolo.

This packet is bilingual. The English original is annotation-guidelines.md. In case of any discrepancy, the English version governs.

1. Introduzione e panoramica del compito

Che cos'è TempBench?

TempBench è un dataset di benchmark per valutare il ragionamento temporale multi-hop su grafi di conoscenza (knowledge graph, KG) che evolvono nel tempo. Il benchmark completo contiene 8,710 domande costruite a partire da Wikidata (il sottoinsieme tkgl-smallpedia), stratificate per complessità di ragionamento — a 1 salto (hop; una singola relazione), a 2 salti (catena di due relazioni) e a 3+ salti (tre o più) — e divise 70/10/20 in train/dev/test.

Stai annotando un campione di 120 domande dello split di test, non l'intero benchmark. Il campione è stratificato per livello di complessità e per i quattro tipi di operatore temporale, ed esclude deliberatamente tutte le domande usate in un precedente ciclo di validazione.

Ogni domanda è ancorata a uno specifico punto di interrogazione temporale (t_query), il che richiede ai sistemi di recuperare la risposta corretta così com'era in quel preciso momento. Questo distingue il benchmark dai benchmark di QA statica, perché richiede sia capacità di ragionamento multi-hop sia consapevolezza della validità temporale.

Il tuo compito di annotazione

Ti stiamo chiedendo di fare un controllo di qualità sulle domande del benchmark, non di crearle. Il tuo ruolo è verificare che ogni domanda sia ben formata, risolvibile ed etichettata correttamente. In concreto, per ogni domanda esprimerai due giudizi indipendenti:

Validità della domanda — è una domanda chiara, non ambigua, con una risposta corretta verificabile?
Validità temporale — il punto di interrogazione temporale (t_query) è corretto e coerente con la domanda?

Questo passaggio di controllo qualità è fondamentale. Anche piccoli errori nel benchmark (domande ambigue, timestamp sbagliati, conteggi di salti mal etichettati) possono introdurre rumore che degrada sia le prestazioni dei baseline sia l'analisi a valle. Sono i tuoi 120 giudizi, confrontati con quelli dell'altro annotatore, a permettere al paper di riportare una stima onesta dell'affidabilità delle etichette del benchmark.

Stime di tempo e carico di lavoro

Ambito di questo ciclo: 120 domande. (Una versione precedente di questo documento descriveva un programma da 1,500 domande / ~125 ore. Quello era il piano originale e non è ciò che ti stiamo chiedendo di fare.)

Il tuo file contiene 120 domande: 50 a un salto, 50 a due salti, 20 a tre o più salti.

Il tempo di annotazione varia con la complessità:

Domande a 1 salto: ~2–3 minuti ciascuna → 50 item ≈ 2 ore
Domande a 2 salti: ~4–5 minuti ciascuna → 50 item ≈ 4 ore
Domande a 3+ salti: ~7–10 minuti ciascuna → 20 item ≈ 3 ore

In totale: circa 9 ore di annotazione, più un'ora circa per leggere questo documento — diciamo 10 ore. Si divide comodamente in due o tre sessioni; non c'è alcun obbligo di farlo in un'unica passata, e farlo di fretta ne vanifica lo scopo.

Compenso: questo lavoro è non retribuito. Non c'è una tariffa a domanda e non c'è alcun bonus legato all'accordo — deliberatamente, perché pagare per l'accordo distorcerebbe esattamente il numero che stiamo cercando di misurare.

Cosa ricevi in cambio: un ringraziamento nominale nel paper (CIKM 2026, Roma). Per essere diretti sul perché si tratta di un ringraziamento e non di una co-autoria: la conferenza ha congelato la lista degli autori alla versione accettata e non sono ammesse aggiunte in fase di camera-ready, quindi la co-autoria non è qualcosa che possiamo offrire, a prescindere dai meriti. Se preferisci non essere nominato/a, dimmelo e ti ringrazieremo in forma anonima.

Come viene usato il tuo lavoro: le etichette dei due annotatori vengono confrontate per produrre una statistica di accordo tra annotatori (κ di Cohen). Il paper dichiarerà esplicitamente che entrambi gli annotatori non sono autori, che le due passate sono state cieche e indipendenti, e che il lavoro non è stato retribuito.

2. Interfaccia di annotazione

Non c'è alcun portale web — lavori in un foglio di calcolo. Ti è stata inviata una cartella di lavoro (workbook), rater_A_validation_120.xlsx oppure rater_B_validation_120.xlsx (120 righe; i due file contengono gli stessi item nello stesso ordine).

Aprila in Excel, LibreOffice o Google Sheets, compila una riga per domanda e restituiscila in formato .xlsx — per favore mantieni il formato della cartella di lavoro invece di esportare in CSV o di incollare i dati in un altro strumento. Le colonne dei giudizi sono a tendina, e il salvataggio in CSV le elimina: le etichette tornano indietro digitate a mano e vanno normalizzate manualmente prima di poter essere confrontate.

⚠️ Compila il foglio Annotation, non il foglio Instructions. La cartella di lavoro ha due schede; la seconda contiene i dati. Le colonne grigie sono quelle già fornite — per favore lasciale come sono. Le colonne gialle sono le tue. Le colonne dei giudizi sono a tendina: scegli dall'elenco invece di digitare, così le etichette restano leggibili dal codice.

Lavora in autonomia. I due annotatori hanno file identici di proposito: il senso di questo ciclo è misurare quanto due persone concordano senza consultarsi. Per favore non discutere i singoli item con l'altro annotatore e non confrontare i file finché entrambi non sono stati restituiti.

Ogni riga ti arriva con questi campi già compilati:

Colonna	Contenuto
`row`	1–120, l'ordine in cui lavori
`question_id`	Identificatore univoco, es. `q_004664`
`question`	La domanda in linguaggio naturale — è questo che valuti
`t_query`	Il punto di riferimento temporale rispetto al quale la domanda è posta
`stated_answer`	La risposta registrata dal benchmark — sei tu a giudicare se è giusta
`stated_hops`	Il numero di salti dichiarato dal benchmark: `1`, `2` o `3+`. È questo il riferimento rispetto a cui si valuta `WRONG_HOP` — conta le relazioni che la domanda richiede davvero e confronta
`supporting_chain`	La catena di evidenze di riferimento, una riga per salto, nel formato `subject -[relation]-> object (years)` (soggetto, relazione, oggetto, anni di validità). È da qui che la risposta dovrebbe discendere — usala per verificare `stated_answer` e per contare i salti

Due note su come leggere gli esempi svolti del §4.
Gli esempi stampano la catena in una notazione compatta su una sola riga (a:REL→b:REL→c) perché sono stati scritti prima che esistesse il foglio di calcolo. Il tuo file mostra le stesse informazioni un salto per riga, con gli anni di validità. Una cella a 1 salto si presenta così:
Daniel Kahneman -[employer]-> University of British Columbia (1983)
e una cella a 2 salti così — due righe dentro un'unica cella, dove l'oggetto del primo salto diventa il soggetto del secondo:
Leo Königsberger -[doctoral student]-> Karl Bopp (1902)
Karl Bopp -[doctoral advisor]-> Moritz Cantor (1902)
Conta le righe per verificare stated_hops. Se una cella sembra avere una riga sola ma te ne aspetti di più, allarga la riga aumentandone l'altezza — Excel nasconde il resto.
Gli esempi mostrano anche una riga "Supporting Facts" di prosa esplicativa (in questa traduzione è indicata come Fatti di supporto). Il tuo file non ce l'ha — la tua evidenza è la catena. Ovunque queste linee guida dicano di verificare qualcosa "rispetto ai fatti di supporto", leggi rispetto a supporting_chain.

Colonne che compili tu:

judgment_A_validity — VALID oppure INVALID
error_code_if_invalid — se INVALID: AMB, UNANS, WRONG_HOP, UNNATURAL o WRONG_ANS
judgment_B_temporal — CORRECT, WRONG_DATE oppure NO_DATE

naturalness_1_to_5 — quanto la domanda sembra qualcosa che una persona scriverebbe davvero. Valuta solo la formulazione, mai se la risposta è corretta. Tutti e cinque i punti sono ancorati:


1	A stento comprensibile; hai dovuto rileggerla per capire che cosa chiede
2	Comprensibile ma chiaramente prodotta da una macchina — possessivi impilati (`X's Y's Z`), formulazione da template
3	Goffa ma utilizzabile; una persona di fretta potrebbe scriverla così
4	Si legge in modo naturale, con una piccola rigidità o stranezza
5	Indistinguibile da una domanda che porrebbe una persona

Lunga non vuol dire innaturale: una domanda a 3 salti genuinamente complessa può essere un 4 o un 5 se la formulazione è pulita.

low_confidence — metti y se non sei sicuro/a, altrimenti lascia vuoto
notes — testo libero facoltativo per i casi limite

Hai un dubbio su un item? Metti low_confidence = y, aggiungi una nota e vai avanti. Non arrovellarti: gli item segnalati vengono rivisti a parte, e un "non sono sicuro/a" rapido e onesto è più utile di un tentativo lento.

2a. Niente assistenza AI — leggi qui, questo punto conta davvero

Non usare ChatGPT, Claude, Copilot, Gemini o qualunque altro assistente AI per produrre o controllare queste etichette. Né per i giudizi, né per verificare se un fatto è vero, né per scrivere le note.

Non è una preferenza generica di policy. Questo benchmark esiste per misurare se i sistemi di AI recuperano correttamente evidenza temporalmente valida. Se si usa l'output di un'AI per validarlo, la validazione finisce per misurare lo stesso sistema che dovrebbe controllare, e il risultato non vale nulla — il paper starebbe riportando una macchina che è d'accordo con sé stessa. Un giudizio umano incerto qui vale molto di più di un giudizio automatico sicuro di sé.

Cercare direttamente su Wikipedia o su Wikidata va benissimo, anzi è incoraggiato. Usare un motore di ricerca va bene. Chiedere a un chatbot no.

Per favore conferma nella tua risposta, quando restituisci il file:

"Ho completato questa annotazione senza usare assistenti AI, e i giudizi sono miei."

("I completed this annotation without using AI assistants, and the judgments are my own.")

Due note pratiche, così questo non resta solo un sistema basato sulla fiducia:

Un piccolo numero di item nel tuo file sono domande volutamente difettose, inserite di proposito come controlli di attenzione (attention check). Servono a confermare che il compito è stato svolto con attenzione, non a metterti in difficoltà.
Per favore annota all'incirca quando inizi e quando finisci ogni sessione di lavoro (basta una riga nella tua risposta — "martedì sera, ~1h, righe 1–40"). I tempi per item aiutano a distinguere il lavoro accurato dal lavoro frettoloso, e tutelano te tanto quanto tutelano i dati.

3. Il compito di annotazione vero e proprio

Il tuo compito di annotazione prevede due giudizi indipendenti ma complementari. Per ogni domanda, esprimili in questo ordine.

Giudizio A: validità della domanda

Chiediti: è una domanda ben formata e risolvibile, che richiede il numero di salti dichiarato e che ha una risposta corretta unica e verificabile al t_query?

VALID — scegli questa opzione se:

La domanda è grammaticalmente chiara e non ambigua
La domanda chiede una risposta singola e ben definita (non più risposte possibili)
Il numero di salti dichiarato corrisponde alla complessità del ragionamento richiesto
La risposta di riferimento (gold answer) è corretta data la catena di supporto nel KG al t_query dichiarato
La domanda non dipende da informazioni odierne che non erano vere al t_query

INVALID — scegli uno di questi codici di errore se la domanda non soddisfa uno dei criteri qui sopra:

Codice di errore	Definizione	Esempio
AMB	Ambigua — al t_query esistono più risposte valide	"Who was the leader of Germany in 2010?" (potrebbe essere Merkel, ma il suo titolo è cambiato nel tempo; troppo vago)
UNANS	Senza risposta — al t_query non esiste alcuna risposta in Wikidata	"What was the stock price of Company X on 1980-01-01?" (i dati storici sui prezzi azionari non sono presenti in Wikidata in modo affidabile)
WRONG_HOP	Etichetta sbagliata sul numero di salti — il ragionamento effettivamente richiesto è diverso da quello dichiarato dall'etichetta	Domanda etichettata "2 salti" ma che per rispondere ne richiede solo 1
UNNATURAL	Grammaticalmente innaturale o incomprensibile — la domanda è difficile da interpretare o usa una formulazione goffa	"What did person X have entity Y relation-wise in 2005?" (poco chiara, sgrammaticata)
WRONG_ANS	La risposta di riferimento è sbagliata — la risposta fornita non corrisponde alla catena nel KG oppure non risponde alla domanda	La domanda chiede "Who won?" ma la risposta di riferimento indica il secondo classificato

Per ogni domanda, seleziona il codice di errore principale — il problema più rilevante. (Una domanda può avere più problemi: segnala quello più critico.)

Giudizio B: validità temporale

Chiediti: il t_query dichiarato è corretto e coerente con quello che la domanda sta chiedendo?

CORRECT — scegli questa opzione se:

Il timestamp t_query corrisponde all'ancora temporale della domanda (es. "in 2008" → t_query = 2008-XX-XX è ragionevole)
Per domande senza un anno esplicito ma che chiedono di uno stato o di un ruolo (es. "Who was CEO in the year X?"), il t_query è fissato a una data valida all'interno di quell'anno
Per i "fatti stabili" (stale fact, cioè fatti che restano validi fino a oggi, come "è nato/a…"), il t_query è impostato in modo appropriato e la risposta viene recuperata correttamente in quel punto

WRONG_DATE — scegli questa opzione se:

Il t_query non è allineato con l'ancora temporale della domanda (es. la domanda dice "in 2015" ma t_query = 2010-01-01)
Il timestamp è sfasato in modo significativo (per gli eventi sensibili al tempo contano i giorni, mentre nelle interrogazioni storiche uno scarto di un mese è di norma accettabile; usa il tuo giudizio)
Il t_query è successivo al momento in cui il fatto ha smesso di essere valido (es. si chiede del ruolo di CEO di qualcuno a una data in cui aveva già lasciato l'incarico)

NO_DATE — scegli questa opzione se:

La domanda non ha alcuna ancora temporale e non dovrebbe stare in un benchmark temporale (es. "Who founded Company X?" senza alcun riferimento temporale)
Il t_query è mancante o non valorizzato (errore di inserimento dati)

4. Esempi svolti

I sei esempi dettagliati che seguono (due per livello di complessità) illustrano annotazioni corrette e scorrette.

Esempio 1a: 1 salto — VALID

Campo	Valore
ID domanda	tgb-001-1hop-001
Domanda	Who was the mayor of Paris in 2010?
t_query	2010-06-15
Numero di salti dichiarato	1
Risposta di riferimento	Bertrand Delanoë
Catena di supporto nel KG	paris:MAYOR→bertrand_delanoë (2001-2014)
Fatti di supporto	Bertrand Delanoë è stato sindaco di Parigi dal 2001 al 2014.

Decisione di annotazione:

Giudizio A (validità): VALID
- La domanda è chiara e non ambigua.
- Chiede una singola entità (il sindaco) in un momento preciso.
- Il numero di salti è corretto: 1 salto (paris → mayor → persona).
- La risposta di riferimento (Bertrand Delanoë) è corretta al t_query.
- La domanda è naturale e risolvibile.
Giudizio B (validità temporale): CORRECT
- La domanda specifica il 2010; il t_query è fissato a giugno 2010.
- Bertrand Delanoë è stato sindaco per tutto il 2010 (in carica dal 2001 al 2014).
- Il timestamp rientra nell'intervallo di validità.

Esempio 1b: 1 salto — INVALID

Campo	Valore
ID domanda	tgb-001-1hop-002
Domanda	Who is the current mayor of Paris?
t_query	2020-01-15
Numero di salti dichiarato	1
Risposta di riferimento	Anne Hidalgo
Catena di supporto nel KG	paris:MAYOR→anne_hidalgo (2014-present)
Fatti di supporto	Anne Hidalgo è diventata sindaca di Parigi nel 2014 ed è l'attuale sindaca.

Decisione di annotazione:

Giudizio A (validità): INVALID — Codice di errore: AMB
- La domanda usa "is the current mayor", un'ancora temporale relativa: punta ad "adesso", non a un punto storico fisso.
- Quale "adesso"? Letta rispetto a t_query (2020) la risposta è Anne Hidalgo; letta come "oggi" è chiunque ricopra la carica nel momento in cui la domanda viene posta. La domanda ammette più di una risposta difendibile, ed è esattamente il criterio di AMB.
- Attenzione al codice. Questo non è UNNATURAL: la frase è perfettamente grammaticale e suona come qualcosa che una persona direbbe davvero. UNNATURAL riguarda le formulazioni che un parlante fluente non produrrebbe. Valuta le due cose separatamente — una domanda può essere scorrevole e ambigua allo stesso tempo, e questa lo è.
- Correzione: riformularla come "Who was the mayor of Paris in 2020?" per fissare il riferimento temporale.
Giudizio B (validità temporale): CORRECT
- t_query = 2020 è una data valida e Anne Hidalgo era effettivamente sindaca allora, quindi il timestamp è giusto.
- I due giudizi sono indipendenti. Una domanda può fallire il Giudizio A e superare comunque il Giudizio B — registra quello che vedi davvero in ciascuno dei due, e non lasciare che un verdetto si trascini dietro l'altro.

Esempio 2a: 2 salti — VALID

Campo	Valore
ID domanda	tgb-002-2hop-001
Domanda	Who was the spouse of the CEO of Microsoft in 1998?
t_query	1998-06-15
Numero di salti dichiarato	2
Risposta di riferimento	Melinda Gates
Catena di supporto nel KG	microsoft:HAS_CEO→bill_gates:SPOUSE→melinda_gates
Fatti di supporto	Bill Gates è stato CEO di Microsoft dal 1975 al 2000. Bill Gates ha sposato Melinda French nel 1994 ed è rimasto sposato per tutto il 1998.

Decisione di annotazione:

Giudizio A (validità): VALID
- La domanda è chiara e chiede una risposta singola e ben definita.
- Il numero di salti è corretto: 2 salti.
- La risposta di riferimento è corretta: Melinda Gates era sposata con Bill Gates, che era CEO nel 1998.
Giudizio B (validità temporale): CORRECT
- t_query=1998-06-15 è allineato con "in 1998" della domanda.
- Bill Gates era CEO in quel momento, e Melinda era sua moglie.

Esempio 2b: 2 salti — INVALID

Campo	Valore
ID domanda	tgb-002-2hop-002
Domanda	What country was the birthplace of the spouse of the CEO of Apple in 2005?
t_query	2005-06-15
Numero di salti dichiarato	2
Risposta di riferimento	United States
Catena di supporto nel KG	apple:HAS_CEO→steve_jobs:SPOUSE→laurene_powell:BIRTHPLACE→united_states
Fatti di supporto	Steve Jobs era CEO di Apple nel 2005. Steve Jobs ha sposato Laurene Powell nel 1991. Laurene Powell è nata negli Stati Uniti.

Decisione di annotazione:

Giudizio A (validità): INVALID — Codice di errore: WRONG_HOP
- La domanda chiede il luogo di nascita del coniuge di Steve Jobs.
- La catena è: Apple → CEO (Steve Jobs) → coniuge (Laurene Powell) → luogo di nascita (Stati Uniti).
- In realtà sono 3 salti, non 2 come indicato dall'etichetta.
- Il numero di salti dichiarato è sbagliato.
Giudizio B (validità temporale): CORRECT
- t_query=2005-06-15 è allineato con l'ancora temporale della domanda (2005).
- Steve Jobs era CEO in quel momento.

Esempio 3a: 3+ salti — VALID

Campo	Valore
ID domanda	tgb-003-3hop-001
Domanda	In what year was the employer of the winner of the 1992 Nobel Prize in Physics founded?
t_query	1992-12-10
Numero di salti dichiarato	3+
Risposta di riferimento	1954
Catena di supporto nel KG	nobel_physics_1992:AWARDED_TO→georges_charpak:EMPLOYER→cern:INCEPTION→1954
Fatti di supporto	Georges Charpak è stato l'unico vincitore del premio Nobel per la fisica del 1992. Lavorava al CERN. Il CERN è stato fondato nel 1954.

Decisione di annotazione:

Giudizio A (validità): VALID
- La domanda è lunga ma grammaticalmente sensata e chiede una sola risposta ben definita (un anno).
- La catena risponde alla domanda che è stata effettivamente posta. Ripercorrila: premio → vincitore → datore di lavoro → anno di fondazione. Ogni salto è un salto che la domanda richiede, e il punto di arrivo (1954) è la risposta di riferimento.
- stated_answer (1954) è esattamente il punto in cui la catena si chiude. Controllalo ogni volta: se la risposta dichiarata e supporting_chain sono in disaccordo, il codice è WRONG_ANS, per quanto plausibile possa sembrare la risposta presa da sola.
- Il vincitore non è ambiguo: il Nobel per la fisica del 1992 è stato assegnato a una sola persona. Se il premio fosse stato condiviso, "the winner" avrebbe più di un referente possibile e la domanda sarebbe AMB.
- Il numero di salti 3+ è corretto: si percorrono tre relazioni.
Giudizio B (validità temporale): CORRECT
- t_query = 1992-12-10 corrisponde all'ancora della domanda (1992).
- Nota che l'ancora fissa quale vincitore è oggetto della domanda, non l'anno di fondazione — la data di fondazione del CERN non cambia al variare di t_query.

Esempio 3b: 3+ salti — INVALID

Campo	Valore
ID domanda	tgb-003-3hop-002
Domanda	What is the nationality of the child of the colleague of the mentor of the researcher who published a paper on topic X in 2015?
t_query	2015-06-15
Numero di salti dichiarato	3+
Risposta di riferimento	[Non chiaramente specificata]
Catena di supporto nel KG	[Catena complessa e poco chiara, con più relazioni non definite]
Fatti di supporto	Un ricercatore ha pubblicato sul tema X nel 2015... [dettagli vaghi]

Decisione di annotazione:

Giudizio A (validità): INVALID — Codice di errore: UNNATURAL
- La domanda è estremamente contorta e difficile da interpretare.
- Le relazioni non sono ben definite (che cosa conta come "colleague"? quanti livelli di mentorship?).
- La risposta di riferimento è vaga o poco chiara.
- Anche se tecnicamente potrebbe esistere una catena di ragionamento, la domanda non è risolvibile in modo naturale senza chiarimenti sostanziali.
Giudizio B (validità temporale): CORRECT (ma irrilevante, dato il giudizio INVALID)
- Il t_query è allineato con l'anno della domanda (2015), ma è una questione secondaria.

5. Casi limite e regole di decisione

Questa sezione codifica le regole per i casi limite specifici che è probabile ti capitino.

Alias di entità

Situazione: una domanda si riferisce a un'entità con un nome (es. "Deutsche Bank") mentre il KG usa un alias diverso (es. "Deutsche Bank AG").

Regola: trattale come la stessa entità. Non segnare INVALID per questo motivo. Gli alias sono normali in Wikidata e nei grafi di conoscenza. Se la catena di supporto si riferisce chiaramente alla stessa entità, la domanda è valida.

Esempio:

Domanda: "Who was the CEO of Deutsche Bank in 2010?"
Il KG usa: "Deutsche Bank AG"
Giudizio: VALID — i nomi si riferiscono alla stessa organizzazione.

Timestamp impliciti

Situazione: una domanda contiene un riferimento temporale che non è una data precisa (es. "during the financial crisis", "after the Cold War", "in the 1990s").

Regola: verifica che il t_query sia ragionevole e coerente con l'ancora temporale implicita.

Se il t_query cade chiaramente all'interno del periodo storico a cui si fa riferimento, segna CORRECT.
Se il t_query è precedente al periodo o ben successivo, segna WRONG_DATE.
Se l'ancora implicita è troppo vaga per essere fissata a una data precisa (es. "in recent times"), segna NO_DATE.

Esempio:

Domanda: "Who was the CEO of Lehman Brothers at the onset of the financial crisis?"
t_query: 2008-08-15
La crisi finanziaria è esplosa davvero a settembre 2008, quindi il 15 agosto è leggermente in anticipo ma ragionevole (la crisi si stava già preparando). Segna CORRECT.

Fatti tuttora validi (stale fact)

Situazione: un fatto che resta valido "fino a oggi" (es. "Barack Obama è nato nel 1961"). Il KG lo segna con t_end = present oppure t_end = null.

Regola: questi fatti sono validi per qualsiasi t_query fino al limite di copertura del grafo di partenza, che è il 2024 (il benchmark è costruito su uno snapshot di Wikidata che copre il periodo 1900–2024). Sono i cosiddetti "stale fact" — una volta veri, veri per sempre (es. date di nascita, eventi storici).

Se il t_query è pari o precedente al 2024 e il fatto è registrato come tuttora in corso, segna CORRECT.
Se il t_query è successivo al 2024, il grafo non può garantire quel fatto — segna WRONG_DATE.

Una nota sul termine. Qui "stale fact" significa permanentemente valido — un nome infelice, e altrove in questo progetto la stessa espressione indica il contrario (un fatto che era vero ma è superato al momento dell'interrogazione). In questo documento indica sempre il tipo permanente.

Esempio:

Domanda: "In what year was Malala Yousafzai born?"
t_query: 2015-01-01 (o qualsiasi data passata)
Risposta di riferimento: 1997
Fatto nel KG: nata il 1997-07-12 (segnato come permanente/immutabile)
Giudizio: VALID e CORRECT — la nascita è uno stale fact, valido a qualsiasi t_query.

Più ruoli in contemporanea

Situazione: una persona ricopriva più ruoli nello stesso momento (es. "la persona X nel 2008 era sia CEO sia presidente del consiglio di amministrazione"). La domanda chiede di uno dei ruoli, e la risposta lo soddisfa.

Regola: segna VALID se la risposta soddisfa correttamente la domanda, anche se erano validi anche altri ruoli.

Esempio:

Domanda: "Who was the CEO of Company X in 2008?"
Il KG mostra: la persona Y nel 2008 era CEO e presidente del consiglio di amministrazione.
Risposta di riferimento: persona Y
Giudizio: VALID — la persona Y era effettivamente CEO nel 2008, anche se ricopriva pure un'altra carica.

Relazioni di successione e vincoli

Situazione: una domanda contiene un vincolo del tipo "before X became Y" oppure "after Z left position W". Il t_query e la risposta devono rispettare questo ordinamento temporale.

Regola: verifica che il t_query non violi il vincolo temporale. Se lo viola, segna WRONG_DATE.

Esempio:

Domanda: "Who was the CEO of Microsoft before Steve Ballmer became CEO?"
Vincolo: il t_query deve essere precedente alla data di inizio di Ballmer (che è gennaio 2000).
Se t_query = 1999-06-15 e la risposta di riferimento è Bill Gates, il giudizio è CORRECT.
Se t_query = 2005-06-15 (dopo il subentro di Ballmer), il giudizio è WRONG_DATE.

Domande basate su eventi e domande basate su stati

Situazione: alcune domande riguardano eventi ("When did X win the election?"), altre riguardano stati ("Who was in office in year Y?"). Richiedono tipi di risposta diversi.

Regola: entrambi i tipi sono validi. Distinguili, ma non penalizzare una domanda basata su uno stato per il fatto di essere tale, né viceversa.

Esempio:

Domanda A: "When did John Smith become mayor of Boston?" (evento)
- Tipo di risposta: data
- Chiede uno specifico punto di transizione.
Domanda B: "Who was the mayor of Boston in 1990?" (stato)
- Tipo di risposta: nome di persona
- Chiede un'istantanea in un momento nel tempo.

Entrambe sono valide per un benchmark di QA temporale.

Fatti retroattivi e premi postumi

Situazione: un fatto viene assegnato retroattivamente (es. un premio conferito postumo, la riassegnazione storica di un ruolo).

Regola: sono casi limite. Segna la domanda come VALID ma usa il campo note a testo libero per segnalarne la natura retroattiva. Questo aiuta l'analisi a valle a capire perché la catena può apparire anomala.

Esempio:

Domanda: "Who won the 2005 Fields Medal?" (non è un anno reale di assegnazione della Medaglia Fields, ma serve da illustrazione)
Risposta di riferimento: il matematico Z (deceduto nel 2010)
È valida perché la risposta era determinabile al t_query=2005, anche se una commemorazione o un riconoscimento ufficiale successivo è avvenuto postumo.
Giudizio: VALID, e aggiungi una nota: "Premio retroattivo (se applicabile)."

Domande senza risposta determinabile in Wikidata

Situazione: la domanda è ben formata e chiara, ma Wikidata semplicemente non contiene l'informazione necessaria per rispondere al t_query.

Regola: segna INVALID con il codice di errore UNANS (senza risposta).

Esempio:

Domanda: "What was the closing stock price of Microsoft on January 1, 1990?"
Wikidata non contiene in modo affidabile dati storici sui prezzi azionari.
Giudizio: INVALID — UNANS. La domanda è naturale e chiara, ma il dato non esiste nel KG.

6. Standard di qualità e accordo

A che cosa serve il numero di accordo

Le tue etichette e quelle dell'altro annotatore vengono confrontate per produrre una statistica di accordo tra annotatori, che il paper riporta come prova del fatto che le etichette del benchmark sono affidabili.

Deliberatamente non indicato qui: il livello di accordo che ci auguriamo. Conoscere l'obiettivo ti darebbe un motivo, per quanto inconsapevole, di provare a indovinare che cosa direbbe l'altro annotatore invece di registrare quello che pensi davvero — che è precisamente ciò che la statistica dovrebbe misurare. Un disaccordo genuino fra due lettori attenti è un risultato utile; un accordo fabbricato perché entrambi puntate a un numero non lo è.

Quindi: giudica ogni item per quello che è, segnala l'incertezza con onestà, e lascia che il numero sia quello che è.

Protocollo di doppia annotazione

Tutte le domande di questo ciclo sono annotate in doppio. Entrambi gli annotatori ricevono gli stessi identici 120 item, e il confronto fra i due insiemi di etichette è l'accordo tra annotatori (inter-annotator agreement, IAA) che il paper riporta. Non c'è alcun sottoinsieme nascosto e non c'è nulla di selezionato per un esame particolare — la misurazione è l'intero file.

Lavora al tuo standard abituale dall'inizio alla fine. L'unica cosa che conta è che i giudizi siano tuoi: per favore non discutere i singoli item con l'altro annotatore e non confrontare i file finché entrambi non sono stati restituiti.

Gestione dell'incertezza

Se non sei sicuro/a di un giudizio, non tirare a indovinare. Invece:

Metti y nella colonna low_confidence.
Scrivi una breve nota nella colonna notes spiegando che cosa non è chiaro (es. "La catena di supporto sembra avere due possibili terminazioni; non è chiaro quale sia quella principale").
Passa alla domanda successiva.

I flag di incertezza sono utili per individuare domande che potrebbero aver bisogno di chiarimenti o di essere riscritte. Non vengono penalizzati: l'incertezza è preferibile agli errori espressi con sicurezza.

Escalation e domande

Se ti imbatti in una domanda che secondo te ha un errore di fondo, o se ti serve un chiarimento sulle linee guida, non dedicarci troppo tempo. Metti y in low_confidence, scrivi in notes che cosa non va, e vai avanti. Le righe segnalate vengono riviste a parte.

Per domande durante l'annotazione: rispondi alla email con cui ti è stato inviato questo documento. ⚠️ Tieni presente che sarò via dall'11 al 17 agosto senza computer, quindi i messaggi che arrivano in quella finestra non avranno risposta prima del 18. È esattamente per questo che la regola qui sopra conta: se qualcosa non è chiaro, metti low_confidence = y, aggiungi una nota e vai avanti invece di restare in attesa di una risposta. Gli item segnalati vengono rivisti a parte e non si perde nulla nel segnalarli.

7. Checklist per l'annotatore

Usa questa checklist per ogni domanda prima di consegnare la tua annotazione.

Checklist pre-annotazione

Ho letto con attenzione il testo della domanda.
Ho capito che cosa chiede la domanda (tipo di entità, relazione, ancora temporale).
Ho letto stated_answer e supporting_chain.
Ho verificato se supporting_chain porta davvero a stated_answer.

Giudizio A: validità — checklist

La domanda è grammaticalmente chiara e naturale.
La domanda chiede una risposta singola e ben definita (non più risposte possibili).
Il numero di salti dichiarato corrisponde alla complessità del ragionamento.
stated_answer è corretta rispetto a supporting_chain.
La domanda non dipende da informazioni odierne non conoscibili al t_query.
Se sto segnando INVALID, ho selezionato l'unico codice di errore più rilevante.

Giudizio B: validità temporale — checklist

Il t_query è valorizzato (non mancante né null).
Il t_query corrisponde all'ancora temporale della domanda.
La risposta di riferimento è vera/valida al t_query (non prima né dopo).
Per i riferimenti temporali impliciti (es. "during the crisis"), ho verificato che il t_query sia ragionevole.
Ho selezionato uno tra: CORRECT, WRONG_DATE o NO_DATE.

Checklist su confidenza e note

Se avevo dei dubbi, ho messo y in low_confidence (lascia vuoto quando sei sicuro/a — non esiste una via di mezzo).
Se ho segnato low_confidence, ho aggiunto una nota che dice che cosa non era chiaro.
Se mi sono imbattuto/a in un caso limite (fatti retroattivi, alias, più ruoli), l'ho documentato in notes.

Checklist per singola domanda

judgment_A_validity compilato, più error_code_if_invalid se il verdetto è INVALID.
judgment_B_temporal compilato.
naturalness_1_to_5 compilato.

Prima di restituire il file

Tutte le 120 righe hanno il Giudizio A, il Giudizio B e un punteggio di naturalezza.
Ho lavorato sul foglio Annotation, non sul foglio Instructions.
Non mi sono consultato/a con l'altro annotatore.
La mia risposta include la frase di conferma sul non uso di AI (§2a) e un'indicazione di massima di quando ho lavorato.

8. Glossario

Questa sezione definisce i termini chiave usati in tutte le linee guida.

Entità di ancoraggio (Anchor Entity) L'entità iniziale di una domanda multi-hop, da cui si percorrono le relazioni. In "Who was the spouse of the CEO of Microsoft in 1998?", l'entità di ancoraggio è Microsoft.

Componibilità (Composability) La proprietà per cui ogni salto di una catena multi-hop si costruisce sul risultato precedente. Una domanda a 3 salti è componibile se ogni risultato intermedio (a 1 salto, a 2 salti) è un'entità valida e recuperabile.

Risposta di riferimento (Gold Answer) — nel tuo foglio di calcolo è la colonna stated_answer. I due termini indicano la stessa cosa: "risposta di riferimento" è l'espressione che queste linee guida usano nella prosa, stated_answer è l'intestazione della colonna. Nota che il nome della colonna dice stated — dichiarata — e non correct: giudicare se sia corretta è il tuo compito.

La risposta corretta a una domanda, quella assunta come verità di riferimento (ground truth), così come verificata dalla catena nel KG. Per esempio, se la domanda è "Who was the CEO of Apple in 2010?", la risposta di riferimento è "Steve Jobs".

Numero di salti (Hop Count) Il numero di relazioni percorse nel KG per rispondere a una domanda. Una domanda a 1 salto richiede di percorrere un arco. Una domanda a 2 salti ne richiede due. Le catene di ragionamento multi-hop sono più complesse e richiedono di comporre più passaggi.

Accordo tra annotatori (Inter-Annotator Agreement, IAA) Una misura statistica di quanto spesso due annotatori indipendenti esprimono lo stesso giudizio. Un accordo più alto indica che le etichette del benchmark sono chiare e non ambigue.

Catena multi-hop (Multi-Hop Chain) Una sequenza di relazioni nel grafo di conoscenza che insieme rispondono a una domanda. Per esempio: Apple → (HAS_CEO) → Steve Jobs → (HAS_SPOUSE) → Laurene Powell è una catena a 2 salti che termina con il nome del coniuge.

Fatto stabile (Stale Fact) Un fatto che, una volta stabilito, non cambia nel tempo — date di nascita, date di fondazione, eventi storici. Valido per qualsiasi t_query successivo al momento in cui il fatto è avvenuto e pari o precedente al limite del 2024 del grafo (vedi §5, che spiega anche perché il nome è fuorviante: qui significa permanentemente valido, il contrario di ciò che "stale" significa altrove in questo progetto).

Catena di supporto (Supporting Chain) Il percorso attraverso il grafo di conoscenza (Wikidata) che giustifica la risposta di riferimento. Ti viene mostrato per la verifica e deve essere coerente con la domanda e con il t_query.

Fatti di supporto (Supporting Facts) Prosa esplicativa che compare solo negli esempi svolti del §4. Non è una colonna del tuo file — la tua evidenza è supporting_chain. Dove queste linee guida dicono "fatti di supporto", leggi supporting_chain.

t_query Il punto di interrogazione temporale — un timestamp preciso (es. 2008-06-15) al quale la domanda chiede la risposta. È la "fetta di tempo" interrogata.

Grafo di conoscenza temporale (Temporal Knowledge Graph) Un grafo di conoscenza in cui i fatti sono associati a finestre di validità temporale (t_start, t_end). A differenza dei KG statici, i KG temporali tracciano esplicitamente quando i fatti sono veri, rendendo possibile un ragionamento consapevole del tempo.

Finestra di validità temporale (Temporal Validity Window) L'intervallo di tempo durante il quale un fatto è vero. Per esempio, "Steve Jobs era CEO di Apple" ha una finestra temporale che va dal 1997 al 2011 (all'incirca). Le risposte vanno verificate rispetto a questa finestra.

Risposta non ambigua (Unambiguous Answer) Una risposta singola e ben definita a una domanda, che non ha alternative concorrenti al t_query. Per esempio, "Who was the only mayor of Boston in 1995?" dovrebbe avere una risposta unica (o chiaramente nessuna, se c'è stato un interregno).

Validità (Validity) La proprietà per cui una domanda è ben formata, chiara, risolvibile e ancorata al KG del benchmark. Le domande valide hanno risposte non ambigue e conteggi dei salti corretti.

Wikidata Una grande base di conoscenza multilingue, redatta dalla comunità, che contiene fatti strutturati su entità (persone, organizzazioni, eventi ecc.) e sulle loro relazioni. TempBench è costruito a partire da un sottoinsieme chiamato tkgl-smallpedia.

Conclusione

Grazie per l'attenzione con cui annoterai queste domande. Il tuo lavoro è essenziale per costruire un benchmark di alta qualità, che verrà usato per valutare i sistemi di ragionamento temporale negli anni a venire. Lavora in modo sistematico, segnala i dubbi e non esitare a scrivere se hai domande.

In bocca al lupo, e grazie per la cura che ci metterai!

Versione del documento: 1.1 | Ultimo aggiornamento: 10 agosto 2026