--- task_categories: - translation - text-classification language: - en - fr tags: - English - French - smt size_categories: - 1M English-French Translation Dataset This dataset provides a large collection of English-French translation pairs. It was downloaded from the [OPUS collection](https://opus.nlpl.eu/) on 2025-02-26. These datasets cover basic French, news, presentations (like TED talks and academic conferences), and educational videos. This helps avoid the bias towards legal, administrative, and bureaucratic content found in datasets like Europarl and ECB. ## Data Processing * **Normalization:** Bullet points, hyphenated words, quotation marks, Unicode characters, and whitespace have been normalized. * **Placeholder Replacement:** E-mails, emojis, hashtags, phone numbers, URLs, and user handles have been replaced with placeholders to protect privacy and maintain data integrity. * **Deduplication:** Duplicate (English, French) pairs have been removed. ## Dataset Structure * `raw.jsonl`: Contains all deduplicated translation pairs in JSON Lines format. * `train.jsonl`: File containing the training split (80% of the filtered data). * `test.jsonl`: File containing the test split (20% of the filtered data). The training and test splits were created after filtering for translation quality scores > 0.8 and stratified by the source dataset to ensure representation across different sources. ## Data Fields Each row in the JSONL files is a JSON object with the following fields: * `id`: A unique identifier for each translation pair. * `english`: The English text. * `french`: The French translation. * `source`: The original dataset from which the pair was extracted. * `translation_quality`: A score representing the quality of the translation, calculated using LaBSE cosine similarity. Higher values indicate better translation quality. * `readability_grade`: A readability score assessed using [agentlans/deberta-v3-base-zyda-2-readability](agentlans/deberta-v3-base-zyda-2-readability) on the English text. This indicates the grade level required to understand the text. ### Example Row Note that the French non-ASCII characters have been escaped: ```json { "id": 625153, "english": "And we also sampled the outdoor air.", "french": "Enfin, nous avons aussi pr\\u00e9lev\\u00e9 l'air ext\\u00e9rieur.", "source": "TED2020", "translation_quality": 0.8045, "readability_grade": 3.12 } ``` ## Dataset Statistics The following table shows the class distribution across the training and test sets: | Source | Train | Test | Total | | -------------------------- | --------:| ------:| --------:| | ELRC-1118-CORDIS\_News | 97866 | 24467 | 122333 | | ELRC-5067-SciPar | 626727 | 156682 | 783409 | | GlobalVoices | 119330 | 29832 | 149162 | | News-Commentary | 90026 | 22507 | 112533 | | QED | 301807 | 75452 | 377259 | | TED2020 | 249578 | 62395 | 311973 | | Tatoeba | 201522 | 50380 | 251902 | | **Total** | **1686856** | **421715** | **2108571** | ## Intended Uses This dataset is suitable for training and evaluating machine translation models, as well as for research in natural language processing, cross-lingual understanding, and related fields. The `translation_quality` and `readability_grade` fields can be used for filtering and analysis.
Ensemble de données de traduction anglais-français Cet ensemble de données contient une vaste collection de paires de traduction anglais-français. Il a été téléchargé à partir de la [collection OPUS](https://opus.nlpl.eu/) le 26/02/2025. Les ensembles de données couvrent divers domaines tels que le français courant, les actualités, les présentations (comme les conférences TED et les conférences académiques) ainsi que les vidéos éducatives. Cela permet d'éviter le biais en faveur de contenus juridiques, administratifs et bureaucratiques souvent présents dans des ensembles de données comme Europarl et ECB. ## Traitement des données * **Normalisation :** les puces, les mots composés, les guillemets, les caractères Unicode et les espaces ont été normalisés. * **Remplacement des espaces réservés :** les e-mails, les émojis, les hashtags, les numéros de téléphone, les URL et les identifiants d'utilisateur ont été remplacés par des espaces réservés pour protéger la confidentialité et préserver l'intégrité des données. * **Déduplication :** les paires en double (anglais, français) ont été supprimées. ## Structure de l'ensemble de données * `raw.jsonl` : contient toutes les paires de traduction dédupliquées au format JSON Lines. * `train.jsonl` : fichier contenant les données d'apprentissage (80 % des données filtrées). * `test.jsonl` : fichier contenant les données de test (20 % des données filtrées). Les ensembles d'apprentissage et de test ont été créés après filtrage en fonction des scores de qualité de traduction > 0,8 et ont été stratifiés par ensemble de données source pour garantir une représentation équilibrée entre les différentes sources. ## Champs de données Chaque ligne des fichiers JSONL est un objet JSON avec les champs suivants : * `id` : un identifiant unique pour chaque paire de traduction. * `english` : le texte en anglais. * `french` : la traduction en français. * `source` : l'ensemble de données d'origine d'où provient la paire. * `translation_quality` : un score représentant la qualité de la traduction, calculé à l'aide de la similarité cosinus LaBSE. Des valeurs plus élevées indiquent une meilleure qualité de traduction. * `readability_grade` : score de lisibilité évalué à l'aide du modèle [agentlans/deberta-v3-base-zyda-2-readability](agentlans/deberta-v3-base-zyda-2-readability) sur le texte en anglais. Cela indique le niveau scolaire requis pour comprendre le texte. ### Exemple de ligne Notez que les caractères non-ASCII en français ont été échappés : ```json { "id": 625153, "english": "And we also sampled the outdoor air.", "french": "Enfin, nous avons aussi pr\\u00e9lev\\u00e9 l'air ext\\u00e9rieur.", "source": "TED2020", "translation_quality": 0.8045, "readability_grade": 3.12 } ``` ## Statistiques de l'ensemble de données Le tableau suivant présente la répartition des classes dans les ensembles d'entraînement et de test : | Source | Entraînement | Test | Total | | ----------------------------- | -----------: | -------:| -------:| | ELRC-1118-CORDIS_News | 97 866 | 24 467 | 122 333 | | ELRC-5067-SciPar | 626 727 | 156 682 | 783 409 | | Voix mondiales | 119 330 | 29 832 | 149 162 | | Actualités-Commentaire | 90 026 | 22 507 | 112 533 | | CQED | 301 807 | 75 452 | 377 259 | | TED2020 | 249 578 | 62 395 | 311 973 | | Tatoeba | 201 522 | 50 380 | 251 902 | | **Total** | **1 686 856**| **421 715**| **2 108 571** | ## Utilisations prévues Cet ensemble de données est destiné à la formation et à l'évaluation de modèles de traduction automatique, ainsi qu'à la recherche dans les domaines du traitement du langage naturel, de la compréhension interlinguistique et d'autres domaines connexes. Les champs `translation_quality` et `readability_grade` peuvent être utilisés pour le filtrage et l'analyse.