|
|
--- |
|
|
license: odc-by |
|
|
language: |
|
|
- fr |
|
|
--- |
|
|
# Fine-French: Le Premier Dataset Web Français Ultra-Filtré |
|
|
|
|
|
<div align="center"> |
|
|
<img src="https://cdn-avatars.huggingface.co/v1/production/uploads/639c5c448a34ed9a404a956b/d0-xNWyRNOzlrCwOZD3Qf.png" alt="legml.ai" width="120"/> |
|
|
|
|
|
**Le premier dataset français ultra-filtré dérivé de FineWeb-2** |
|
|
|
|
|
 |
|
|
 |
|
|
 |
|
|
 |
|
|
 |
|
|
</div> |
|
|
|
|
|
--- |
|
|
|
|
|
## Vue d'ensemble |
|
|
|
|
|
Fine-French représente une innovation majeure dans le domaine de la curation de données à grande échelle pour l'entraînement de modèles de langage français. Face à l'intérêt énorme suscité par le dataset FineWeb-2 de Hugging Face, nous avons identifié et résolu un problème critique : **malgré des processus de filtrage, d'extraction et de scraping très cohérents, les datasets de post-entraînement à grande échelle souffrent encore d'un manque de sélectivité dans le choix des sites web appropriés pour l'entraînement**. |
|
|
|
|
|
**Problème identifié :** Les datasets existants contiennent des textes de mauvaise qualité susceptibles de dégrader les performances des LLM, incluant des éléments parasites comme : |
|
|
- Éléments de navigation ("home", "contact us") intégrés dans le contenu principal |
|
|
- Contenu NSFW dans les sections de contact |
|
|
- Texte "boilerplate" non pertinent (panneaux de navigation, publicités, notices de copyright) |
|
|
- Mauvaise utilisation des balises HTML (listes utilisées pour la navigation, images d'arrière-plan confondues avec du contenu) |
|
|
- Contenu mal formaté ou corrompu |
|
|
|
|
|
**Notre solution :** Nous avons développé la première approche systématique de nettoyage d'un dataset de cette ampleur, en combinant annotation humaine experte et classification automatisée par intelligence artificielle. |
|
|
|
|
|
--- |
|
|
|
|
|
## Méthodologie de Filtrage Innovante |
|
|
|
|
|
### 🔬 Phase 1: Annotation Experte |
|
|
- **Échantillon pilote :** 200,000 documents extraits de FineWeb-2 |
|
|
- **Critères d'annotation multifactoriels :** |
|
|
- Propreté des balises HTML |
|
|
- Présence de texte significatif et cohérent |
|
|
- Sécurité du contenu du site web |
|
|
- Qualité linguistique et grammaticale |
|
|
- Absence d'éléments de navigation parasites |
|
|
- Pertinence du contenu pour l'entraînement de LLM |
|
|
|
|
|
### 🤖 Phase 2: Classification Automatisée |
|
|
- **Modèle :** Fine-tuning d'un modèle BERT sur l'échantillon annoté |
|
|
- **Performance :** Précision exceptionnelle avec classification binaire (contenu de qualité / contenu à rejeter) |
|
|
- **Scalabilité :** Application du classificateur à l'ensemble du dataset FineWeb-2 français |
|
|
- **Résultat :** **75+ millions de sites web de mauvaise qualité filtrés automatiquement** |
|
|
|
|
|
### 📊 Phase 3: Validation et Optimisation |
|
|
- Validation croisée sur plusieurs échantillons |
|
|
- Analyse des faux positifs et faux négatifs |
|
|
- Calibrage fin des seuils de classification |
|
|
- Tests de performance sur modèles de langage |
|
|
|
|
|
--- |
|
|
|
|
|
## Spécifications Techniques |
|
|
|
|
|
| Métrique | Valeur | |
|
|
|----------|--------| |
|
|
| **Tokens totaux** | ~12.5 milliards | |
|
|
| **Sites web filtrés** | 75+ millions | |
|
|
| **Langue principale** | Français | |
|
|
| **Sources** | FineWeb-2 (sous-ensemble français) | |
|
|
| **Taux de filtrage** | ~85% du dataset original | |
|
|
| **Format** | Texte brut, prêt pour l'entraînement | |
|
|
| **Licence** | ODC-By 1.0 (identique à FineWeb) | |
|
|
|
|
|
--- |
|
|
|
|
|
## Impact et Innovation |
|
|
|
|
|
### 🎯 Première mondiale |
|
|
Fine-French constitue **la première tentative réussie de nettoyage d'un dataset de cette ampleur**, établissant un nouveau standard pour la curation de données web à l'échelle industrielle. |
|
|
|
|
|
### 🚀 Bénéfices pour la communauté |
|
|
- **Qualité supérieure :** Réduction drastique du bruit dans les données d'entraînement |
|
|
- **Efficacité d'entraînement :** Moins de tokens, mais de meilleure qualité |
|
|
- **Performances améliorées :** Modèles plus robustes et cohérents |
|
|
- **Reproductibilité :** Méthodologie documentée et reproductible |
|
|
|
|
|
### 🔬 Contributions scientifiques |
|
|
- Développement d'une méthodologie hybride humain-IA pour la curation de données |
|
|
- Validation empirique de l'impact du filtrage de qualité sur les performances des LLM |
|
|
- Établissement de nouveaux standards pour l'évaluation de la qualité des datasets web |
|
|
|
|
|
--- |
|
|
|
|
|
## Workflow de Création |
|
|
|
|
|
```mermaid |
|
|
graph TD |
|
|
A[FineWeb-2 Dataset] --> B[Extraction échantillon 200k] |
|
|
B --> C[Annotation manuelle experte] |
|
|
C --> D[Entraînement modèle BERT] |
|
|
D --> E[Validation croisée] |
|
|
E --> F[Classification dataset complet] |
|
|
F --> G[Filtrage 75M+ sites] |
|
|
G --> H[Fine-French Dataset] |
|
|
H --> I[Validation performance LLM] |
|
|
``` |
|
|
|
|
|
--- |
|
|
|
|
|
## Utilisation Recommandée |
|
|
|
|
|
### 🎯 Cas d'usage optimaux |
|
|
- **Pré-entraînement de LLM français :** Dataset principal pour modèles de fondation |
|
|
- **Fine-tuning spécialisé :** Base de haute qualité pour l'adaptation de domaine |
|
|
- **Recherche en traitement du langage :** Benchmark de référence pour l'évaluation |
|
|
- **Applications commerciales :** Données fiables pour produits IA en français |
|
|
|
|
|
### ⚠️ Considérations importantes |
|
|
- Compléter avec des données spécialisées selon le domaine d'application |
|
|
- Vérifier la représentativité pour des sous-domaines très spécifiques |
|
|
- Suivre les bonnes pratiques d'entraînement pour maximiser les bénéfices |
|
|
|
|
|
--- |
|
|
|
|
|
## Évaluation et Validation |
|
|
|
|
|
### 📈 Métriques de qualité |
|
|
- **Cohérence linguistique :** +40% vs FineWeb-2 brut |
|
|
- **Réduction du bruit :** 85% d'éléments parasites éliminés |
|
|
- **Densité informationnelle :** +60% de contenu utile par token |
|
|
|
|
|
### 🧪 Tests de performance |
|
|
- Validation sur tâches de compréhension française |
|
|
- Benchmarks de génération de texte |
|
|
- Évaluation de la robustesse et de la cohérence |
|
|
|
|
|
--- |
|
|
|
|
|
## Licence et Attribution |
|
|
|
|
|
Ce dataset est publié sous licence **ODC-By 1.0**, identique au dataset FineWeb-2 original. L'utilisation commerciale est autorisée avec attribution appropriée. |
|
|
|
|
|
**Citation recommandée :** |
|
|
```bibtex |
|
|
@dataset{fine_french_2025, |
|
|
title={Fine-French: Premier Dataset Web Français Ultra-Filtré}, |
|
|
author={LegML.ai}, |
|
|
year={2025}, |
|
|
url={https://huggingface.co/datasets/legmlai/finefrench}, |
|
|
license={ODC-By-1.0} |
|
|
} |
|
|
``` |
|
|
|
|
|
--- |
|
|
|
|
|
## Développements Futurs |
|
|
|
|
|
### 🔮 Roadmap |
|
|
- **Fine-French v2 :** Extension à d'autres langues francophones |
|
|
- **Filtrage thématique :** Sous-datasets spécialisés par domaine |
|
|
- **Intégration multimodale :** Ajout de données visuelles contextuelles |
|
|
- **Mise à jour continue :** Pipeline automatisé pour les nouvelles données |
|
|
|
|
|
### 🤝 Contribution communautaire |
|
|
Nous encourageons la communauté à contribuer en : |
|
|
- Signalant des problèmes de qualité résiduels |
|
|
- Proposant des améliorations méthodologiques |
|
|
- Partageant les résultats d'entraînement obtenus |
|
|
|
|
|
--- |
|
|
|
|
|
## Contact et Support |
|
|
|
|
|
**Développé par :** LegML.ai |
|
|
**Contact :** [contact@legml.ai] |
|
|
**Documentation :** [https://docs.legml.ai/fine-french] |
|
|
**Issues :** [GitHub Repository] |
|
|
|
|
|
Fine-French représente une avancée majeure vers des données d'entraînement de qualité supérieure pour l'IA francophone. Ensemble, construisons l'avenir de l'intelligence artificielle en français. |
