Sadou/medai-rural-dataset

🩺 MedAI Rural Dataset — Q/A Médical pour Médecins en Zone Rurale

Dataset de 1298 paires question-réponse médicales en français, conçu pour le fine-tuning d'un assistant médical IA destiné aux médecins en zone rurale (Afrique francophone).

🎯 Objectif

Entraîner un LLM compact (Qwen 2.5-1.5B prévu) à servir d'assistant médical RAG-aware pour :

• Médecins exerçant en zones reculées avec moyens limités
• Agents de santé communautaires
• Étudiants en médecine en formation continue

📚 Sources

Le dataset est généré à partir de deux guides cliniques en accès libre de Médecins Sans Frontières :

Document	Année	ISBN	Licence	Chunks
Guide clinique et thérapeutique	2024	978-2-37585-279-8	CC BY-SA	1350
Tuberculose — Guide pratique	2025	978-2-37585-262-0	CC BY-NC	1189

Total : 2539 chunks enrichis avec métadonnées académiques (citation, ISBN, section, URL).

🛠️ Méthodologie de création

Pipeline complet en 5 étapes

ÉTAPE 1 : Extraction PDF → Markdown
ÉTAPE 2 : Reconstruction hiérarchie + Chunking
ÉTAPE 3 : Enrichissement métadonnées académiques
ÉTAPE 4 : Génération Q/A multi-modale
ÉTAPE 5 : Validation et publication

ÉTAPE 1 — Extraction des PDFs

Les deux guides PDF ont été extraits en Markdown structuré via une API Modal déployée avec GPU T4 (pipeline docling + fallback pymupdf4llm). Cette étape préserve la hiérarchie des chapitres, sections et sous-sections.

ÉTAPE 2 — Reconstruction hiérarchique + Chunking

• Reconstruction adaptative : diagnostic du markdown (FLAT, MISSING_H1, SPARSE) et reconstruction statistique des niveaux H1/H2/H3/H4.
• Chunking : découpage en chunks de ~1500 caractères avec overlap de 150, conservation du chemin hiérarchique complet (Chapitre > Section > Sous-section).

ÉTAPE 3 — Enrichissement métadonnées

Chaque chunk est enrichi avec :

• document : identifiant du guide source
• publisher : "Médecins Sans Frontières"
• isbn : ISBN du guide
• year : année de publication
• url : URL officielle de consultation
• last_update : date de dernière mise à jour (extraite via regex quand disponible, 2.1% des chunks)
• section_full : chemin complet de la section
• citation : citation académique formatée (ex: "MSF (2024). Guide clinique et thérapeutique, Chapitre 4 > Érysipèle. ISBN 978-2-37585-279-8.")

ÉTAPE 4 — Génération Q/A multi-modale

Deux modes complémentaires sont utilisés pour créer un dataset équilibré.

Mode "mono" (Phase 1) — 794 Q/A

Pour chaque chunk, GPT-4o-mini génère directement 3 paires Q/A à partir du contenu du chunk uniquement.

• Modèle : OpenAI GPT-4o-mini
• Échantillonnage : 10% des chunks (seed=42)
• Distribution : 60% clinical_medecin / 25% public_health / 15% education
• Format : Alpaca (instruction + input + output JSON)
• Coût : ~$0.15

Mode "rag" (Phase 1.5) — 504 Q/A RAG-aware 🌟

Pipeline en 3 sous-étapes pour produire des Q/A réalistes reflétant le fonctionnement réel d'un RAG en production :

Étape 1.5a — Génération des 504 questions naturelles

GPT-4o-mini parcourt les sections (pas les chunks) des deux guides et génère des questions au style médecin de terrain rural :

• "Mon patient de 35 ans..."
• "J'ai un enfant qui convulse..."
• "On a une rupture d'artésunate, plan B ?"
• "Je le garde ou je le réfère ?"

Distribution : Guide clinique (350) + Guide TB (150) — répartition selon couverture des chapitres.

Étape 1.5b — Recherche hybride (HybridSearcher)

Pour chaque question, un searcher hybride récupère le top 5 des chunks les plus pertinents :

• BM25 (lexical) avec tokenisation française
• Dense : embeddings intfloat/multilingual-e5-base
• Fusion RRF (Reciprocal Rank Fusion, k=60)

Étape 1.5c — Génération filtrée

GPT-4o-mini reçoit la question + les 5 chunks et :

1. Analyse la pertinence de chaque passage (tres_pertinent / moyennement_pertinent / non_pertinent)
2. Identifie les passages utilisés et ignorés
3. Génère une réponse citant uniquement les passages pertinents (ex: "Selon [1] et [3]...")

Coût total Phase 1.5 : ~$0.45

ÉTAPE 5 — Validation et split

• Validation automatique : vérification des champs requis, longueur des réponses, distribution des types et niveaux de fiabilité, détection de doublons (hash question).
• Split : 90% train / 10% test (stratifié par mode).
• Publication : dataset uploadé sur Hugging Face Hub.

📦 Composition du dataset

Splits

Split	Entrées
train	~1168
test	~130

Modes

Mode	Entrées	Description
mono	794	Q/A générées depuis 1 chunk (Phase 1)
rag	504	Q/A RAG-aware avec top 5 chunks (Phase 1.5)

Types de questions

Type	Count	Description
clinical_medecin	~1022	Questions cliniques pour médecins
public_health	~265	Santé publique et prévention
education	~11	Formation et éducation médicale

📋 Format (Alpaca)

Chaque entrée contient trois champs :

Format Mode "mono"

{
  "instruction": "Tu es un assistant médical pour médecins en zone rurale francophone. Réponds à la question en te basant uniquement sur les passages fournis. Cite les sources. Si l'info n'est pas dans les passages, dis-le clairement.",
  "input": "Question: <Q>\n\nPassages disponibles:\n[1] [Section] <chunk_1>",
  "output": "{\"reponse\": \"...\", \"posologie\": \"...\", \"precautions\": \"...\", \"quand_referer\": \"...\", \"sources\": [\"[1]\"], \"fiabilite\": \"haute\", \"type\": \"clinical_medecin\", \"mode\": \"mono\"}"
}

Format Mode "rag"

{
  "instruction": "Tu es un assistant médical pour médecins en zone rurale francophone. Identifie les passages pertinents, ignore le bruit, et cite uniquement les passages utilisés.",
  "input": "Question: <Q>\n\nPassages disponibles:\n[1] ... [2] ... [3] ... [4] ... [5] ...",
  "output": "{\"analyse_pertinence\": {...}, \"passages_utilises\": [\"[1]\", \"[3]\"], \"passages_ignores\": [\"[2]\", \"[4]\", \"[5]\"], \"raisonnement\": \"...\", \"reponse\": \"Selon [1] et [3]...\", \"posologie\": \"...\", \"precautions\": \"...\", \"quand_referer\": \"...\", \"fiabilite\": \"haute\", \"type\": \"clinical_medecin\", \"mode\": \"rag\"}"
}

Champs de sortie

Champ	Type	Description
reponse	string	Réponse clinique précise (max 200 mots)
posologie	string | null	Médicament, dose, voie, fréquence, durée
precautions	string | null	Contre-indications, effets indésirables
quand_referer	string | null	Critères de référence à l'hôpital
sources	list[string]	Sources citées (ex: ["[1]", "[3]"])
fiabilite	enum	haute / moyenne / partielle / hors_corpus
type	enum	clinical_medecin / public_health / education
mode	enum	mono / rag
passages_utilises	list (rag)	Index des passages cités
passages_ignores	list (rag)	Index des passages ignorés (bruit)

🎯 Caractéristiques notables

✅ Questions réalistes de terrain (mode rag)

Les questions du mode rag sont générées au style médecin de terrain, pas en style QCM scolaire :

❌ "Quelle est la définition de l'érysipèle ?"
✅ "Mon patient de 35 ans est en consultation depuis 2h avec fièvre 
   à 39,5°C et des taches sur les jambes. Je le garde ou je le réfère ?"

✅ Filtrage du bruit (mode rag)

En mode rag, le modèle voit 5 chunks dont certains ne sont pas pertinents. Il apprend à :

• Identifier les passages utiles (analyse_pertinence)
• Citer sélectivement (passages_utilises)
• Ignorer le bruit (passages_ignores)
• Expliquer son raisonnement (raisonnement)

Cela reflète exactement le fonctionnement d'un RAG en production où 2-3 chunks sur 5 sont souvent pertinents.

✅ Citations académiques traçables

Chaque chunk source contient une citation au format académique avec ISBN, ce qui permet :

• La traçabilité médicale complète
• L'explicabilité des recommandations
• La conformité réglementaire pour usage médical

🚀 Utilisation

Chargement

from datasets import load_dataset

dataset = load_dataset("Sadou/medai-rural-dataset")

# Accès aux splits
train = dataset["train"]
test = dataset["test"]

# Filtrage par mode
mono_only = train.filter(lambda x: '"mode": "mono"' in x["output"])
rag_only = train.filter(lambda x: '"mode": "rag"' in x["output"])

Fine-tuning (exemple Qwen 2.5)

from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import LoraConfig, get_peft_model
import torch

# Modèle de base
model_name = "Qwen/Qwen2.5-1.5B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16)

# Configuration LoRA pour fine-tuning économe
lora_config = LoraConfig(
    r=16, lora_alpha=32, target_modules=["q_proj", "v_proj"],
    lora_dropout=0.05, task_type="CAUSAL_LM"
)
model = get_peft_model(model, lora_config)

# Fine-tuning sur le dataset Alpaca (instruction/input/output)
# ... (utiliser SFTTrainer de TRL ou Axolotl)

⚖️ Licence et usage

CC-BY-NC-4.0 — Usage non commercial uniquement.

Les données proviennent du Guide clinique et du Guide Tuberculose de MSF, distribués sous licences ouvertes (CC BY-SA et CC BY-NC).

Citation suggérée

Si vous utilisez ce dataset, merci de citer :

@dataset{barry2026medai_rural,
  author = {Barry, Sadou},
  title = {MedAI Rural Dataset: Synthetic Q/A for Rural Francophone Medical Assistant},
  year = {2026},
  publisher = {Hugging Face},
  url = {https://huggingface.co/datasets/Sadou/medai-rural-dataset},
  note = {Generated from MSF Clinical Guide (2024, ISBN 978-2-37585-279-8) 
          and MSF Tuberculosis Guide (2025, ISBN 978-2-37585-262-0)}
}

⚠️ Limitations importantes

1. Données synthétiques

Questions ET réponses sont générées par GPT-4o-mini. Le guide MSF sert de source de vérité : le modèle ne peut produire que des réponses ancrées dans les passages fournis. Cependant :

• Le langage final reste généré par un LLM, pas validé manuellement
• Les Q/A n'ont pas été revues par un médecin avant publication
• Des erreurs subtiles peuvent subsister malgré la validation automatique

2. Couverture limitée

Le dataset couvre uniquement :

• Les pathologies présentes dans 2 guides MSF (médecine générale + tuberculose)
• Un contexte rural sub-saharien francophone (ressources limitées)
• Une approche clinique (peu de questions biomoléculaires, oncologiques, etc.)

3. Pas d'usage en pratique clinique réelle

⚠️ Ce dataset est destiné UNIQUEMENT à la recherche et au fine-tuning de modèles. Il ne doit pas être utilisé en production sans :

• Validation médicale par des professionnels
• Tests de sécurité approfondis
• Cadre réglementaire approprié (CE, FDA, etc.)

4. Biais potentiels

Possibles biais hérités :

• Du corpus source (perspective MSF/humanitaire)
• Du LLM générateur (GPT-4o-mini, biais OpenAI)
• De la distribution (60% clinical, 25% public_health, 15% education)

🔬 Reproductibilité

Le pipeline complet est documenté et le code source est disponible :

• Lib medrag : https://github.com/Sadoubar/Med_Rag
• Modèle d'embeddings : intfloat/multilingual-e5-base
• Modèle générateur : OpenAI GPT-4o-mini
• Seeds : random.seed(42) pour mono / random.seed(1) à seed(20) pour batches rag

🙏 Remerciements

• Médecins Sans Frontières pour la mise à disposition des guides cliniques en accès libre
• Anthropic (Claude pour l'assistance au design)
• OpenAI (GPT-4o-mini pour la génération)
• Hugging Face (hébergement du dataset)

📞 Contact

Pour questions, contributions ou collaborations :

• Email : sadoubarry1za@gmail.com
• GitHub : @Sadoubar

---

Note : ce dataset constitue la Phase 1 + 1.5 d'un projet plus large. Des extensions sont prévues :

• Phase 2 : Génération sur 100% des chunks (~7500 Q/A)
• Phase 3 : Q/A multi-chunks complexes avec filtrage avancé
• Phase 4 : Fine-tuning Qwen 2.5-1.5B + benchmarks (FrenchMedMCQA, MedQA-FR)