Mvanypersele/hotpotqa-fr-abstracts

HotpotQA-fr (abstracts)

65 565 questions multi-sauts en français, au format de HotpotQA (Yang et al., 2018). Les questions sont construites directement sur Wikipédia français, sans traduction. L'annotation humaine du jeu original est remplacée par une génération par modèle de langue suivie d'une validation automatique par ablations.

Chaque contexte contient dix paragraphes : les deux abstracts nécessaires à la réponse et huit distracteurs. Tous les paragraphes sont des abstracts, ce qui évite que le document portant la réponse se distingue par sa longueur.

from datasets import load_dataset

ds = load_dataset("Mvanypersele/hotpotqa-fr-abstracts")               # 65 565 questions
ds = load_dataset("Mvanypersele/hotpotqa-fr-abstracts", "filtered")   # 41 980 questions filtrées
ds = load_dataset("Mvanypersele/hotpotqa-fr-abstracts", "filtered_qwen")  # 91 861 questions, autre corpus
ds = load_dataset("Mvanypersele/hotpotqa-fr-abstracts", "filtered_qwen_v2")   # 30 965 questions, sous-ensemble de filtered_qwen
corpus = load_dataset("Mvanypersele/hotpotqa-fr-abstracts", "corpus")  # 822 270 abstracts, pour le RAG
corpus = load_dataset("Mvanypersele/hotpotqa-fr-abstracts", "corpus_filtered_qwen_v2")  # 158 836 abstracts des contextes de filtered_qwen_v2

La configuration filtered est un sous-ensemble strict de la configuration par défaut, obtenu par deux filtres décrits plus bas. Les exemples conservés sont identiques à l'octet près.

La configuration filtered_qwen n'est pas un sous-ensemble de la configuration par défaut : elle provient d'une production ultérieure et plus large, de 120 000 questions, dont 47,7 % des identifiants coïncident avec ceux de la configuration par défaut. Pour ces identifiants communs le contenu est identique à l'octet près. Voir la section qui lui est consacrée.

La configuration filtered_qwen_v2 est un sous-ensemble strict de filtered_qwen, obtenu par deux juges ciblés et validé contre des annotations de Claude Opus. Les exemples conservés sont identiques à l'octet près.

Split	Exemples
train	62 735
validation	1 417
test	1 413

Snapshot Wikipédia 20240916.fr. Graine de tirage 20260731.

Schéma

Champ	Type	Description
_id	string	identifiant hexadécimal de 24 caractères
question	string	la question
answer	string	réponse extractive, reprise verbatim d'un document gold
supporting_facts	list[[title, sent_id]]	phrases justificatives
context	list[[title, list[sentence]]]	10 paragraphes, mélangés
type	string	toujours bridge
level	string	toujours hard, voir Limites

Les documents sont répartis entre les splits avant la construction du graphe. Aucun document n'apparaît dans deux splits.

Construction

Le corpus source est wikimedia/structured-wikipedia, dont les hyperliens sont préservés, restreint aux abstracts.

L'entité-pont b est tirée parmi les Articles vitaux de niveau 4 de Wikipédia FR, soit environ 10 000 articles. Le document source a est tiré parmi les articles dont l'abstract contient un lien vers b. C'est l'algorithme 1 du papier original, branche bridge. Les entités trop citées sont écartées.

Le graphe compte 1 913 063 arêtes candidates. 134 783 sont retirées parce que l'alias de b n'y apparaît qu'au sein d'une énumération, par exemple « des peintres tels que X, Y et Z ». Une telle phrase ne porte aucune relation entre les deux articles, et les questions qui en dérivent sont vides de contenu. Il reste 1 778 280 arêtes, dont 200 000 paires ont été tirées pour ce jeu.

Les huit distracteurs sont les meilleurs résultats d'un tf-idf de bigrammes calculé sur les abstracts du corpus, la question servant de requête. Ils sont tirés du même split que les documents gold, et tout document contenant la réponse en est exclu.

La génération utilise Mistral-Small-3.2-24B-Instruct-2506-FP8, avec trois questions demandées par paire.

Validation

Chaque question passe d'abord des contrôles locaux : réponse présente verbatim dans un document gold, question ne nommant pas l'entité-pont, indices de phrases justificatives dans les bornes et au moins un par document, réponse d'au plus dix mots et soixante-dix caractères, pas d'énumération ni de proposition complète.

Elle est ensuite soumise à quatre ablations indépendantes, jugées par le même modèle.

Documents fournis au juge	Réponse attendue
A et B	la réponse
A seul	IMPOSSIBLE
B seul	IMPOSSIBLE
aucun	IMPOSSIBLE

Une question n'est retenue que si les quatre ablations se comportent comme attendu. Les ablations sont exécutées en cascade et une déduplication est appliquée avant le juge, ce qui réduit d'environ la moitié le nombre d'appels.

Paires tirées	200 000
Questions générées	324 944
Écartées avant le juge	43 722
Jugées	281 119
Retenues	65 565
Appels de juge	590 596

Les rejets se répartissent principalement entre l'ablation A+B qui échoue (136 975), B seul qui suffit à répondre (48 674), les plafonds de deux questions par entité-pont et trois par document source (32 900), et A seul qui suffit à répondre (25 607).

Audit

Cinq invariants ont été vérifiés sur les 65 565 exemples, sans aucune violation : taille du contexte, absence de document dupliqué dans un contexte, présence des deux documents gold, absence de la réponse dans les distracteurs, absence de document partagé entre splits.

Un classifieur est entraîné à retrouver les documents gold à partir de leurs seules propriétés de surface, sans lire le texte : longueur, nombre de phrases, degré entrant, rangs relatifs, densité de chiffres et de ponctuation. Son AUC est de 0,6165, moyenne de cinq répétitions, pour un seuil d'acceptation fixé à 0,62 avant la production. Le document gold est le paragraphe le plus long du contexte dans 6,09 % des cas, contre 20 % attendus au hasard.

Un audit manuel a porté sur 30 exemples, avec deux annotateurs (une personne et un modèle) et sans arbitrage des désaccords : factualité 96,7 %, précision des phrases justificatives 80,0 %, ambiguïté 16,7 %. Les seuils fixés avant la production étaient respectivement 95 %, 98 % et 3 %. Les deux derniers ne sont pas atteints.

Configuration filtered

À la relecture, deux défauts reviennent dans la configuration par défaut : la phrase du document A qui cite l'entité-pont en cite aussi d'autres, si bien que la périphrase de la question ne désigne pas un B unique, et la question est mal formulée. Aucune des quatre ablations ne teste le premier point : une question ambiguë reste résoluble avec A et B, et impossible avec l'un des deux seul.

Split	Défaut	filtered	Conservé
train	62 735	40 179	64,0 %
validation	1 417	887	62,6 %
test	1 413	914	64,7 %
total	65 565	41 980	64,0 %

Filtre 1 : résolution du premier saut

Une cinquième ablation. Le juge reçoit le document A et la question, sans B, et doit nommer l'entité que la périphrase désigne. Le nom rendu est comparé au titre de B et à son alias. Seules les questions dont le premier saut mène à B sont conservées.

Verdict	Questions	Part
mène à B, conservée	42 987	65,6 %
désigne une autre entité	16 985	25,9 %
plusieurs entités conviennent	2 847	4,3 %
A n'établit pas la propriété	2 729	4,2 %
réponse illisible	17	0,0 %

Juge Mistral-Small-3.2-24B-Instruct-2506-FP8, température 0, un appel par question. La forme générative est délibérée : un contrôle qui montre B au juge et lui demande de valider le saut a été essayé et ne sépare pas les bonnes questions des mauvaises.

Filtre 2 : deux règles mécaniques

Appliquées aux 42 987 questions conservées par le filtre 1.

Règle	Écartées
la question demande une année, la réponse donne un mois, deux années, un siècle ou aucun chiffre	397
la question désigne le document lui-même : « selon son abstract », « mentionné dans le texte sur X »	615

Effet mesuré

Le filtre 1 a été évalué avant la production sur 120 questions de cette release, tirées à moitié parmi celles qu'il conserve et à moitié parmi celles qu'il rejette, mélangées et présentées sans verdict. Chaque question est jugée sur six critères : réponse correcte, pont établi par A, réponse établie par B, les deux documents nécessaires, question claire, réponse minimale.

Les annotateurs sont deux modèles de langue, Claude Sonnet et Claude Opus, qui ont annoté les 120 questions indépendamment. Sonnet atteint un kappa de 0,63 avec un annotateur humain sur un autre lot du projet. Aucun humain n'a vu ce lot-ci.

Annotateur	Valides parmi les conservées	Valides parmi les rejetées	Odds ratio	p (Fisher)
Sonnet	80,0 %	53,3 %	3,50	0,003
Opus	63,3 %	33,3 %	3,45	0,002

Les deux annotateurs placent le seuil de validité à des niveaux différents, mais séparent les deux groupes avec la même force. Ramené à la population, cela correspond pour Sonnet à une validité qui passe d'environ 72 % à environ 80 %. Ces niveaux absolus sont indicatifs : la sévérité d'un même modèle annotateur varie d'une session à l'autre, et seul l'écart entre les deux groupes est robuste. L'effet du filtre 2 n'a pas été mesuré séparément.

Ce que le filtrage coûte

• Le filtre rejette aussi de bonnes questions : parmi les rejetées du lot annoté, Sonnet en juge encore la moitié valides, Opus un tiers. Le plus souvent, le juge répond à la question finale au lieu de nommer l'entité intermédiaire, ou s'arrête à une catégorie.
• Il laisse passer des défauts. Environ la moitié des ponts ambigus restent, et les questions mal formulées dont le pont est correct ne sont pas visées.
• La répartition thématique change. Le taux de conservation va de 71 % en géographie et 67 % pour les personnalités à 48 % en sciences, 49 % en santé et 40 % en mathématiques.

Le répertoire provenance/filtered/ contient le manifeste, avec la révision source et les sommes SHA-256, et la décision prise pour chacune des 65 565 questions.

Configuration filtered_qwen

Cette configuration ne dérive pas de la configuration par défaut. Elle vient d'une production ultérieure, menée avec le même prompt et le même générateur mais sur l'ensemble du vivier de paires : 616 900 paires tirées, 999 040 questions générées, 136 822 retenues par les quatre ablations, dont 120 000 empaquetées. Sur ces 120 000, 57 211 identifiants — 47,7 % — apparaissent déjà dans la configuration par défaut, avec un contenu identique à l'octet près, parce que les deux productions partagent le même cache de génération.

Les questions ont ensuite été annotées une par une par Qwen3.8-27B, sur six critères binaires : réponse correcte, pont établi par A, fait terminal établi par B, les deux documents nécessaires, question claire, réponse minimale. Une question n'est retenue que si les six critères sont satisfaits.

Questions du corpus	120 000
Annotées	101 863
Retenues	91 861
Écartées	10 002
Échecs de lecture de la réponse	0

Split	Exemples
train	88 361
validation	1 770
test	1 730
total	91 861

Annotation à température 0, raisonnement désactivé par chat_template_kwargs.enable_thinking = false, un appel par question, 102,8 millions de jetons.

Critères et motifs

Critère non satisfait	Part des annotées
réponse correcte	6,62 %
fait terminal établi par B	4,56 %
question claire	2,71 %
réponse minimale	2,60 %
pont établi par A	2,14 %
les deux documents nécessaires	0,91 %

Motifs de rejet les plus fréquents : réponse fausse (5 717), phrase justificative de B inadéquate (4 054), question ambiguë (2 760), portée de la réponse inadaptée (2 602), pont ambigu (2 098).

Deux réserves importantes

La couverture est partielle. 18 137 des 120 000 questions n'ont pas été annotées — l'annotation a été interrompue avant la fin. Elles sont absentes de cette configuration sans pour autant avoir été jugées mauvaises. filtered_qwen n'est donc pas « le corpus moins les rejets », mais « les questions retenues parmi celles qui ont été examinées ».

L'annotateur est indulgent. Le même modèle a été relancé avec son raisonnement actif sur 150 questions du même échantillon, le même jour. Sur les 142 questions annotées par les deux régimes :

Régime	Valides	Intervalle de Wilson
raisonnement désactivé, celui utilisé ici	94,4 %	89,3 – 97,1
raisonnement actif	78,2 %	70,7 – 84,2

L'écart est de 16,2 points, avec 26 questions validées sans raisonnement et rejetées avec, contre 3 dans l'autre sens : McNemar exact p = 1,5 × 10⁻⁵. Le kappa de Cohen entre les deux régimes n'est que de 0,183.

L'écart se concentre presque entièrement sur un critère : le régime raisonnant juge la question peu claire dans 16,2 % des cas, contre 2,8 % sans raisonnement. Les motifs ambiguous_question et unnatural_french passent de 4 à 24 cas. Autrement dit, ce filtre écarte correctement les réponses fausses, mais laisse passer une part importante des questions mal formulées.

Le régime raisonnant n'a pas été retenu pour la production parce qu'il coûte 55 secondes par question, soit environ 76 heures pour le corpus entier, contre 5 secondes sans raisonnement. Plafonner le budget de raisonnement n'est pas une solution intermédiaire : le modèle est alors tronqué en pleine réflexion et ne produit plus de verdict du tout, dans 40 % des cas sur un plafond de 700 jetons.

Le répertoire provenance/filtered_qwen/ contient le manifeste et la décision prise pour chacune des 101 863 questions annotées, critère par critère.

Configuration filtered_qwen_v2

Sous-ensemble strict de filtered_qwen. Il répond aux deux faiblesses relevées ci-dessus : l'annotation à six critères laisse passer des ponts ambigus et des questions mal formulées. Plutôt qu'un juge généraliste, deux juges ciblés sont appliqués l'un après l'autre.

1. pont. Le juge recopie le descripteur de la question qui doit désigner l'entité-pont, relit tout le document A et liste toutes les entités de A que ce descripteur pourrait désigner. La question n'est gardée que si B est l'unique candidat, si A affirme bien la relation décrite et si la question ne désigne pas déjà B à elle seule.
2. langue. Le juge contrôle le français de la question, l'unicité de ses référents, l'absence de formulation méta (« mentionné dans le texte ») et le type et la portée de la réponse.

Juges : Qwen3.8-27B pour pont sur 37 915 questions et Qwen3.5-35B-A3B-FP8 sur les autres ; Qwen3.5-35B-A3B-FP8 pour langue. Les deux modèles tournent avec le raisonnement désactivé (enable_thinking = false), à température 0. Le prompt fait écrire au juge une analyse courte avant son verdict.

Questions de filtered_qwen	91 861
Écartées par pont	33 736
Écartées par langue	8 377
Sans verdict (échec du juge)	28
Écartées par le score de publiabilité (train)	17 197
Écartées par le contrôle des descripteurs (train)	1 512
Sans verdict du contrôle des descripteurs (train)	46
Retenues	30 965

Split	Exemples
train	29 080
validation	929
test	956

Validation

Claude Opus a annoté, en aveugle et selon le protocole à six critères, trois lots neufs de 240 questions tirées au hasard dans filtered_qwen. Les prompts et la règle de combinaison avaient été fixés sur 180 autres questions avant la lecture de ces étiquettes.

Sur les 720 questions	Gardées	Valides selon Opus parmi les gardées	Valides d'Opus conservées
sans filtre (filtered_qwen)	100 %	51,1 %	100 %
pont 27B puis langue 35B	54,7 %	73,1 %	78,3 %
pont 35B puis langue 35B	49,7 %	72,1 %	70,1 %

Le filtre pont seul est significatif sur chacun des trois lots (Fisher, p entre 8 × 10⁻⁸ et 4 × 10⁻¹⁴). Le taux absolu de validité dépend de la sévérité de l'annotateur, qui varie d'une session à l'autre ; l'écart entre gardées et écartées d'un même lot est la mesure fiable.

Les deux juges pont ont jugé 7 385 questions en commun sur le corpus. Ils y concordent à 77,2 % (kappa 0,507), soit le même accord que sur les 720 questions annotées (77,2 %, kappa 0,504) : les lots de validation sont représentatifs du corpus.

Qwen3.8-27B en mode raisonnant a été essayé pour pont sur un lot de 240 : cinq points de précision en plus, pour un débit six fois plus faible. Il n'a pas été retenu.

Réserve. Environ une question retenue sur quatre reste jugée non valide par Opus.

Le répertoire provenance/filtered_qwen_v2/ contient le manifeste et, pour chacune des 91 861 questions de filtered_qwen, les verdicts et motifs des deux juges.

Corpus de recherche (corpus)

La configuration corpus contient les 822 270 abstracts dont sont tirés tous les documents gold et distracteurs du jeu. Elle sert à évaluer un système de recherche ou un RAG complet dans le setting fullwiki de HotpotQA : la question seule est fournie, et le système doit retrouver lui-même les deux documents gold dans l'ensemble du corpus.

Le corpus est découpé selon le split attribué à chaque document avant la construction du graphe. Les documents gold et distracteurs d'une question appartiennent tous au split de cette question.

Split	Documents
train	690 957
validation	65 341
test	65 972
total	822 270

Champ	Type	Description
id	string	24 premiers caractères hexadécimaux du SHA-256 du titre
title	string	titre de l'article, unique dans le corpus
text	string	l'abstract
sentences	list[string]	l'abstract découpé en phrases
qid	string	identifiant Wikidata, ou null

Les titres sont ceux de context et de supporting_facts. Le découpage en phrases est celui des contextes publiés, si bien qu'un indice de phrase justificative pointe directement dans sentences. Ce point a été vérifié sur les quatre configurations et les trois splits : chacun des 1 883 910 paragraphes de contexte se retrouve dans le corpus avec des phrases identiques, et aucune phrase justificative n'est hors bornes. text est égal à la jointure de sentences par une espace, aux blancs près.

Construction, à partir de wikimedia/structured-wikipedia (snapshot 20240916.fr) : abstract d'au moins 300 caractères et de deux phrases au moins, un seul abstract par titre, exclusion des listes, chronologies, index, glossaires, pages d'années ou de dates et pages d'homonymie.

La validation garantit qu'une question n'est pas résoluble avec un seul des deux documents gold. Elle ne garantit pas qu'aucun autre abstract du corpus ne contient la réponse. Le rappel des documents gold peut donc sous-estimer un système qui trouve un autre chemin. L'exactitude de la réponse reste la mesure de référence.

Configuration corpus_filtered_qwen_v2

Sous-ensemble de corpus réduit aux abstracts qui apparaissent dans les contextes de filtered_qwen_v2, documents gold et distracteurs, avec le même schéma. Chaque split contient les dix paragraphes de contexte de toutes les questions du split correspondant de filtered_qwen_v2.

Split	Documents	dont gold	dont distracteurs seulement
train	148 057	48 665	99 392
validation	5 367	1 649	3 718
test	5 412	1 667	3 745
total	158 836	51 981	106 855

Un document est compté comme gold s'il est gold pour au moins une question ; il peut être distracteur pour d'autres.

Limites

• Questions de type bridge uniquement. Le jeu original comporte aussi des questions de comparaison, environ 20 %, et des réponses oui/non, environ 6 %.
• Le champ level vaut toujours hard. C'est une valeur d'empaquetage et non une difficulté mesurée : dans le papier original ce label est relatif à un modèle de référence et n'est pas reproductible.
• La précision des phrases justificatives et le taux d'ambiguïté mesurés à l'audit manuel restent sous les seuils visés. En pratique, une question sur cinq environ a des phrases justificatives incomplètes ou surnuméraires, et une sur six admet plus d'une lecture.
• Le même modèle génère et juge, ce qui peut favoriser les formulations qu'il sait lui-même résoudre. Un contrôle partiel a été fait en régénérant 1 100 paires avec Qwen3.5-35B-A3B-FP8 : soumises au même juge, elles donnent des taux d'ablation à moins de deux points. Le contrôle symétrique, faire juger ces questions par un autre modèle, n'a pas abouti.
• Les réponses sont courtes par construction, ce qui rend le jeu plus extractif que HotpotQA.
• Le classifieur de surface reste au-dessus du hasard. Un signal structurel résiduel subsiste, probablement lié à l'asymétrie de population entre les articles vitaux et les articles quelconques.

Provenance et licence

Les textes sont dérivés de Wikipédia français et distribués sous CC BY-SA 4.0. Les questions et réponses sont produites par un modèle de langue puis filtrées automatiquement.

Le répertoire provenance/abstract_v1/ contient le manifeste de la release, avec les sommes SHA-256 des trois fichiers, et un échantillon de 200 exemples destiné à la relecture. provenance/filtered/ documente la configuration filtered, provenance/filtered_qwen/ la configuration filtered_qwen et provenance/filtered_qwen_v2/ la configuration filtered_qwen_v2, provenance/corpus/ le corpus de recherche et provenance/corpus_filtered_qwen_v2/ son sous-ensemble.

Citation

Le format et la méthode viennent du papier original :

@inproceedings{yang2018hotpotqa,
  title={{HotpotQA}: A Dataset for Diverse, Explainable Multi-hop Question Answering},
  author={Yang, Zhilin and Qi, Peng and Zhang, Saizheng and Bengio, Yoshua
          and Cohen, William W. and Salakhutdinov, Ruslan and Manning, Christopher D.},
  booktitle={EMNLP},
  year={2018}
}