Update README.md

README.md

@@ -12,7 +12,8 @@ tags:
 size_categories:
 - 1M<n<10M
 ---
-# English-French Translation Dataset
+<details>
+<summary>English-French Translation Dataset</summary>
 
 This dataset provides a large collection of English-French translation pairs. It was downloaded from the [OPUS collection](https://opus.nlpl.eu/) on 2025-02-26.
 
@@ -46,7 +47,7 @@ Each row in the JSONL files is a JSON object with the following fields:
 ### Example Row
 
 Note that the French non-ASCII characters have been escaped:
-```
+```json
 {
   "id": 625153,
   "english": "And we also sampled the outdoor air.",
@@ -74,4 +75,71 @@ The following table shows the class distribution across the training and test se
 
 ## Intended Uses
 
-This dataset is suitable for training and evaluating machine translation models, as well as for research in natural language processing, cross-lingual understanding, and related fields.  The `translation_quality` and `readability_grade` fields can be used for filtering and analysis.
+This dataset is suitable for training and evaluating machine translation models, as well as for research in natural language processing, cross-lingual understanding, and related fields.  The `translation_quality` and `readability_grade` fields can be used for filtering and analysis.
+</details>
+<details>
+<summary>Ensemble de données de traduction anglais-français</summary>
+
+Cet ensemble de données contient une vaste collection de paires de traduction anglais-français. Il a été téléchargé à partir de la [collection OPUS](https://opus.nlpl.eu/) le 26/02/2025.
+
+Les ensembles de données couvrent divers domaines tels que le français courant, les actualités, les présentations (comme les conférences TED et les conférences académiques) ainsi que les vidéos éducatives. Cela permet d'éviter le biais en faveur de contenus juridiques, administratifs et bureaucratiques souvent présents dans des ensembles de données comme Europarl et ECB.
+
+## Traitement des données
+
+* **Normalisation :** les puces, les mots composés, les guillemets, les caractères Unicode et les espaces ont été normalisés.
+* **Remplacement des espaces réservés :** les e-mails, les émojis, les hashtags, les numéros de téléphone, les URL et les identifiants d'utilisateur ont été remplacés par des espaces réservés pour protéger la confidentialité et préserver l'intégrité des données.
+* **Déduplication :** les paires en double (anglais, français) ont été supprimées.
+
+## Structure de l'ensemble de données
+
+* `raw.jsonl` : contient toutes les paires de traduction dédupliquées au format JSON Lines.
+* `train.jsonl` : fichier contenant les données d'apprentissage (80 % des données filtrées).
+* `test.jsonl` : fichier contenant les données de test (20 % des données filtrées).
+
+Les ensembles d'apprentissage et de test ont été créés après filtrage en fonction des scores de qualité de traduction > 0,8 et ont été stratifiés par ensemble de données source pour garantir une représentation équilibrée entre les différentes sources.
+
+## Champs de données
+
+Chaque ligne des fichiers JSONL est un objet JSON avec les champs suivants :
+
+* `id` : un identifiant unique pour chaque paire de traduction.
+* `english` : le texte en anglais.
+* `french` : la traduction en français.
+* `source` : l'ensemble de données d'origine d'où provient la paire.
+* `translation_quality` : un score représentant la qualité de la traduction, calculé à l'aide de la similarité cosinus LaBSE. Des valeurs plus élevées indiquent une meilleure qualité de traduction.
+* `readability_grade` : score de lisibilité évalué à l'aide du modèle [agentlans/deberta-v3-base-zyda-2-readability](agentlans/deberta-v3-base-zyda-2-readability) sur le texte en anglais. Cela indique le niveau scolaire requis pour comprendre le texte.
+
+### Exemple de ligne
+
+Notez que les caractères non-ASCII en français ont été échappés :
+
+```json
+{
+  "id": 625153,
+  "english": "And we also sampled the outdoor air.",
+  "french": "Enfin, nous avons aussi pr\\u00e9lev\\u00e9 l'air ext\\u00e9rieur.",
+  "source": "TED2020",
+  "translation_quality": 0.8045,
+  "readability_grade": 3.12
+}
+```
+
+## Statistiques de l'ensemble de données
+
+Le tableau suivant présente la répartition des classes dans les ensembles d'entraînement et de test :
+
+| Source                        | Entraînement | Test    | Total   |
+| ----------------------------- | -----------: | -------:| -------:|
+| ELRC-1118-CORDIS_News         | 97 866       | 24 467  | 122 333 |
+| ELRC-5067-SciPar              | 626 727      | 156 682 | 783 409 |
+| Voix mondiales                | 119 330      | 29 832  | 149 162 |
+| Actualités-Commentaire        | 90 026       | 22 507  | 112 533 |
+| CQED                          | 301 807      | 75 452  | 377 259 |
+| TED2020                       | 249 578      | 62 395  | 311 973 |
+| Tatoeba                       | 201 522      | 50 380  | 251 902 |
+| **Total**                     | **1 686 856**| **421 715**| **2 108 571** |
+
+## Utilisations prévues
+
+Cet ensemble de données est destiné à la formation et à l'évaluation de modèles de traduction automatique, ainsi qu'à la recherche dans les domaines du traitement du langage naturel, de la compréhension interlinguistique et d'autres domaines connexes. Les champs `translation_quality` et `readability_grade` peuvent être utilisés pour le filtrage et l'analyse.
+</details>