Mvanypersele/hotpotqa-fr-abstracts

HotpotQA-fr — variante « abstract only »

Questions multi-sauts (multi-hop) en français, construites directement sur Wikipédia français sans traduction, au schéma HotpotQA (Yang et al., 2018). L'annotation humaine du papier original est remplacée par une génération LLM suivie d'une validation automatique par ablations isolées.

162 questions bridge : 130 train / 16 validation / 16 test.

Schéma

Identique à HotpotQA, plus deux champs additionnels ignorés par les outils d'évaluation standard.

Champ	Type	Description
_id	string	identifiant hexadécimal (24 caractères)
question	string	la question, en français
answer	string	réponse extractive, span verbatim d'un document gold
supporting_facts	list[[title, sent_id]]	phrases justificatives
context	list[[title, list[sentence]]]	10 paragraphes : 2 gold + 8 distracteurs, mélangés
type	string	toujours "bridge"
level	string	toujours "pilot" — voir Limites
bridge_entity	string	(hors schéma HotpotQA) titre de l'entité-pont
category	string	(hors schéma HotpotQA) thème de l'entité-pont

from datasets import load_dataset
ds = load_dataset("Mvanypersele/hotpotqa-fr-abstracts")

Construction

L'entité-pont b est tirée uniformément parmi les Articles vitaux niveau 4 de Wikipédia FR (~10 000 articles, équivalent français des 591 catégories WikiProject curées dans le papier), puis le document a uniformément parmi les articles dont l'abstract pointe vers b — c'est l'Algorithme 1 du papier, branche bridge. Les entités trop citées sont écartées.

Corpus : wikimedia/structured-wikipedia (snapshot frwiki, 2,87 M articles, hyperliens préservés).

Distracteurs : top-8 par tf-idf bigrammes sur les abstracts de tout le corpus, la question servant de requête — comme le distractor setting du papier.

Splits répartis par entité-pont, sans partage entre train, validation et test : un modèle ne peut pas mémoriser un pont vu à l'entraînement.

Validation — ce qui remplace les annotateurs

Chaque question doit survivre à des appels LLM indépendants :

1. réponse extractive, span verbatim re-canonisé depuis le texte ;
2. la question ne nomme pas l'entité-pont (sinon le pont est court-circuité) ;
3. supporting facts dans les bornes, au moins un par document ;
4. ablations : répondable avec A+B, et explicitement IMPOSSIBLE avec A seul, avec B seul, et sans aucun document ;
5. déduplication tf-idf et heuristique de langue.

162 questions sur 1 029 générées survivent (16 %). Rejets dominants : ablation_AB_echoue 304, ablation_single_hop 224, ablation_A_seul_non_impossible 127, reponse_non_extractive 103.

Pourquoi « abstract only »

Les deux documents gold sont des abstracts, bornés au même budget que les huit distracteurs : les dix paragraphes du contexte sont de même nature et de longueur comparable.

Une version antérieure utilisait la page complète tronquée pour le document portant la réponse, afin d'élargir l'espace des réponses possibles. Mesuré sur le jeu produit, l'effet de bord était rédhibitoire :

	Page complète	Abstract only
Paragraphe le plus long = gold	99 % (117/118)	44 % (72/162)
Les 2 plus longs = les 2 gold	34 %	15 %
Phrases/paragraphe, gold vs distracteur	17 vs 3	7 vs 3
Contexte total (médiane)	13 630 car.	4 539 car.

Le hasard donnerait 20 % sur la première ligne. À 99 %, le document contenant la réponse se désignait par sa seule longueur : le setting distractor était neutralisé. À titre de comparaison, un contexte HotpotQA fait ~5 000 caractères.

Limites

• Volume : 162 exemples, contre 112 779 pour HotpotQA. C'est un pilote.
• Type : bridge uniquement. Pas de questions de comparaison (20 % de l'original) ni de réponses oui/non (6 %) : elles demandent des listes curées d'entités comparables et une mécanique de validation distincte.
• level vaut "pilot", valeur absente du vocabulaire d'origine (easy/medium/hard). Dans le papier ce label est relatif à un modèle — easy = single-hop, medium = multi-hop résolu avec forte confiance par leur modèle de référence, hard = le reste — et n'est donc pas reproductible à l'identique. Tout code filtrant sur level == "hard" renverra vide.
• Raccourci de longueur résiduel : 44 % contre 20 % attendus au hasard. Les entités-pont sont des Articles vitaux (abstract médian 1 036 caractères) quand les distracteurs sont des articles quelconques (229 caractères) ; l'asymétrie de population survit à l'égalisation des budgets de troncature.
• Questions générées par un LLM, validées automatiquement : aucun audit humain systématique n'a été mené. Un échantillon de revue accompagne le code.

Licence et provenance

Textes dérivés de Wikipédia français, sous CC BY-SA 4.0. Questions et réponses générées par un modèle de langue puis filtrées automatiquement.

Citation du travail original

@inproceedings{yang2018hotpotqa,
  title={{HotpotQA}: A Dataset for Diverse, Explainable Multi-hop Question Answering},
  author={Yang, Zhilin and Qi, Peng and Zhang, Saizheng and Bengio, Yoshua
          and Cohen, William W. and Salakhutdinov, Ruslan and Manning, Christopher D.},
  booktitle={EMNLP},
  year={2018}
}