Upload README.md with huggingface_hub

README.md

@@ -3,60 +3,61 @@ language:
 - fr
 license: cc-by-sa-4.0
 size_categories:
-- n < 100K
+- n < 1M
 task_categories:
 - text-generation
 - fill-mask
-tags:
-- physics
-- science
 ---
 
-# Dataset Card for Wiki-Physique-FR
+# Dataset Card for Wiki-General-FR
 
-Ce jeu de données est une version spécialisée ciblant exclusivement le domaine de la **physique** au sein de Wikipédia en français. Il est idéal pour le fine-tuning de modèles de langage sur des connaissances scientifiques.
+Ce jeu de données contient des extraits textuels nettoyés provenant de Wikipédia en français, couvrant une large variété de domaines (concepts, disciplines scientifiques, théories, phénomènes, etc.).
 
 ## Construction du Dataset
 
-La méthode de construction suit la même pipeline que le dataset général, mais avec un filtrage thématique strict dès l'étape SPARQL.
+Le dataset a été construit selon une pipeline automatisée en plusieurs étapes :
 
-### 1. Sélection Thématique
-La sélection s'est basée sur la hiérarchie Wikidata pour la classe **Physique** (`Q413`).
+### 1. Sélection des Pages (SPARQL)
+Les pages ont été sélectionnées via une requête SPARQL sur Wikidata pour cibler des articles de Wikipédia en français liés à des concepts fondamentaux (`Q11344`), des disciplines scientifiques (`Q11862829`), des théories (`Q7184903`), des phénomènes (`Q16722960`), etc.
 
-**Requête SPARQL :**
+**Requête principale :**
 ```sparql
-SELECT ?article WHERE {
-  ?article schema:about ?item .
-  ?item wdt:P279* wd:Q413 .
-  ?article schema:inLanguage "fr" .
+SELECT DISTINCT ?article WHERE {
+  ?article schema:about ?item ;
+           schema:inLanguage "fr" .
+  { ?item wdt:P31 wd:Q11344 . }
+  UNION { ?item wdt:P279* wd:Q11344 . }
+  UNION { ?item wdt:P31 wd:Q11862829 . }
+  # ... (autres critères de domaines)
 }
 ```
-*Note : Cette requête récupère toutes les entités qui héritent (directement ou par transition) de la classe "Physique".*
 
-### 2. Pipeline de Traitement
-Toutes les étapes de téléchargement, nettoyage et validation sont identiques au dataset général :
-- **Extraction plein texte** via API MediaWiki.
-- **Suppression du bruit** (formules LaTeX trop complexes, références, méta-données).
-- **Segmentation** en paragraphes cohérents de 60 à 600 mots.
-- **Validation linguistique** via `FastText` (seuil de confiance 0.90).
+### 2. Téléchargement
+Le contenu brut a été récupéré via l'API MediaWiki (`action=query&prop=extracts&explaintext=True`), garantissant un format texte sans balises HTML. Seuls les extraits de plus de 500 caractères ont été conservés.
 
-## Caractéristiques Techniques
+### 3. Nettoyage et Filtrage
+Le texte a subi un nettoyage rigoureux :
+- Suppression des appels de notes (ex: `[1]`).
+- Suppression du "bruit" (lignes avec trop de chiffres, symboles mathématiques complexes, ou caractères spéciaux).
+- Exclusion des listes à puces et des titres de sections.
+- Découpage en paragraphes de 4 phrases maximum pour la lisibilité.
+- Filtrage par longueur : seuls les paragraphes de plus de 60 mots sont gardés.
 
-- **Langue** : Français (FR)
-- **Domaine** : Physique (générale, théorique, appliquée)
-- **Source** : Wikipedia (via extraction structurée)
-- **Format** : JSONL (un objet JSON par ligne)
+### 4. Détection de Langue
+Une validation finale a été effectuée avec `fasttext` (`lid.176.ftz`) pour s'assurer que chaque paragraphe est bien en français avec un score de confiance > 0.90.
 
-Exemple d'enregistrement :
+## Format des Données
+
+Les données sont au format JSONL. Chaque ligne contient :
+- `lang`: La langue du texte (`fr`).
+- `domain`: Le domaine (`generale`).
+- `source`: La source (`wikipedia`).
+- `text`: Le contenu textuel du paragraphe.
+
+Exemple :
 ```json
-{"lang": "fr", "domain": "physique_generale", "source": "wikipedia", "text": "Les ondes de basse fréquence (inférieure à un hertz) sont généralement qualifiées de microséismes..."}
+{"lang": "fr", "domain": "generale", "source": "wikipedia", "text": "Le texte du paragraphe ici..."}
 ```
 
-## Utilisation PRÉVUE
-Ce dataset est particulièrement adapté pour :
-- Entraîner des "Small Language Models" (SLM) spécialisés.
-- Augmenter les capacités de raisonnement scientifique d'un modèle généraliste.
-- Tâches de RAG (Retrieval Augmented Generation) dans le domaine scientifique.
-
 ## Licence
-Conformément aux conditions de Wikipédia, ce dataset est disponible sous licence **CC BY-SA 4.0**.
+Le contenu original provient de Wikipédia et est distribué sous licence **CC BY-SA 4.0**.