README.md

metadata

language:
  - fr
license: cc-by-sa-4.0
size_categories:
  - n < 1M
task_categories:
  - text-generation
  - fill-mask

Dataset Card for Wiki-General-FR

Ce jeu de données contient des extraits textuels nettoyés provenant de Wikipédia en français, couvrant une large variété de domaines (concepts, disciplines scientifiques, théories, phénomènes, etc.).

Construction du Dataset

Le dataset a été construit selon une pipeline automatisée en plusieurs étapes :

1. Sélection des Pages (SPARQL)

Les pages ont été sélectionnées via une requête SPARQL sur Wikidata pour cibler des articles de Wikipédia en français liés à des concepts fondamentaux (Q11344), des disciplines scientifiques (Q11862829), des théories (Q7184903), des phénomènes (Q16722960), etc.

Requête principale :

SELECT DISTINCT ?article WHERE {
  ?article schema:about ?item ;
           schema:inLanguage "fr" .
  { ?item wdt:P31 wd:Q11344 . }
  UNION { ?item wdt:P279* wd:Q11344 . }
  UNION { ?item wdt:P31 wd:Q11862829 . }
  # ... (autres critères de domaines)
}

2. Téléchargement

Le contenu brut a été récupéré via l'API MediaWiki (action=query&prop=extracts&explaintext=True), garantissant un format texte sans balises HTML. Seuls les extraits de plus de 500 caractères ont été conservés.

3. Nettoyage et Filtrage

Le texte a subi un nettoyage rigoureux :

• Suppression des appels de notes (ex: [1]).
• Suppression du "bruit" (lignes avec trop de chiffres, symboles mathématiques complexes, ou caractères spéciaux).
• Exclusion des listes à puces et des titres de sections.
• Découpage en paragraphes de 4 phrases maximum pour la lisibilité.
• Filtrage par longueur : seuls les paragraphes de plus de 60 mots sont gardés.

4. Détection de Langue

Une validation finale a été effectuée avec fasttext (lid.176.ftz) pour s'assurer que chaque paragraphe est bien en français avec un score de confiance > 0.90.

Format des Données

Les données sont au format JSONL. Chaque ligne contient :

• lang: La langue du texte (fr).
• domain: Le domaine (generale).
• source: La source (wikipedia).
• text: Le contenu textuel du paragraphe.

Exemple :

{"lang": "fr", "domain": "generale", "source": "wikipedia", "text": "Le texte du paragraphe ici..."}

Licence

Le contenu original provient de Wikipédia et est distribué sous licence CC BY-SA 4.0.