Upload README_wiki.md with huggingface_hub

README_wiki.md

@@ -0,0 +1,63 @@
+---
+language:
+- fr
+license: cc-by-sa-4.0
+size_categories:
+- n < 1M
+task_categories:
+- text-generation
+- fill-mask
+---
+
+# Dataset Card for Wiki-General-FR
+
+Ce jeu de données contient des extraits textuels nettoyés provenant de Wikipédia en français, couvrant une large variété de domaines (concepts, disciplines scientifiques, théories, phénomènes, etc.).
+
+## Construction du Dataset
+
+Le dataset a été construit selon une pipeline automatisée en plusieurs étapes :
+
+### 1. Sélection des Pages (SPARQL)
+Les pages ont été sélectionnées via une requête SPARQL sur Wikidata pour cibler des articles de Wikipédia en français liés à des concepts fondamentaux (`Q11344`), des disciplines scientifiques (`Q11862829`), des théories (`Q7184903`), des phénomènes (`Q16722960`), etc.
+
+**Requête principale :**
+```sparql
+SELECT DISTINCT ?article WHERE {
+  ?article schema:about ?item ;
+           schema:inLanguage "fr" .
+  { ?item wdt:P31 wd:Q11344 . }
+  UNION { ?item wdt:P279* wd:Q11344 . }
+  UNION { ?item wdt:P31 wd:Q11862829 . }
+  # ... (autres critères de domaines)
+}
+```
+
+### 2. Téléchargement
+Le contenu brut a été récupéré via l'API MediaWiki (`action=query&prop=extracts&explaintext=True`), garantissant un format texte sans balises HTML. Seuls les extraits de plus de 500 caractères ont été conservés.
+
+### 3. Nettoyage et Filtrage
+Le texte a subi un nettoyage rigoureux :
+- Suppression des appels de notes (ex: `[1]`).
+- Suppression du "bruit" (lignes avec trop de chiffres, symboles mathématiques complexes, ou caractères spéciaux).
+- Exclusion des listes à puces et des titres de sections.
+- Découpage en paragraphes de 4 phrases maximum pour la lisibilité.
+- Filtrage par longueur : seuls les paragraphes de plus de 60 mots sont gardés.
+
+### 4. Détection de Langue
+Une validation finale a été effectuée avec `fasttext` (`lid.176.ftz`) pour s'assurer que chaque paragraphe est bien en français avec un score de confiance > 0.90.
+
+## Format des Données
+
+Les données sont au format JSONL. Chaque ligne contient :
+- `lang`: La langue du texte (`fr`).
+- `domain`: Le domaine (`generale`).
+- `source`: La source (`wikipedia`).
+- `text`: Le contenu textuel du paragraphe.
+
+Exemple :
+```json
+{"lang": "fr", "domain": "generale", "source": "wikipedia", "text": "Le texte du paragraphe ici..."}
+```
+
+## Licence
+Le contenu original provient de Wikipédia et est distribué sous licence **CC BY-SA 4.0**.