README.md

metadata

task_categories:
  - translation
  - text-classification
language:
  - en
  - fr
tags:
  - English
  - French
  - smt
size_categories:
  - 1M<n<10M

English-French Translation Dataset

This dataset provides a large collection of English-French translation pairs. It was downloaded from the OPUS collection on 2025-02-26.

These datasets cover basic French, news, presentations (like TED talks and academic conferences), and educational videos. This helps avoid the bias towards legal, administrative, and bureaucratic content found in datasets like Europarl and ECB.

Data Processing

• Normalization: Bullet points, hyphenated words, quotation marks, Unicode characters, and whitespace have been normalized.
• Placeholder Replacement: E-mails, emojis, hashtags, phone numbers, URLs, and user handles have been replaced with placeholders to protect privacy and maintain data integrity.
• Deduplication: Duplicate (English, French) pairs have been removed.

Dataset Structure

• raw.jsonl: Contains all deduplicated translation pairs in JSON Lines format.
• train.jsonl: File containing the training split (80% of the filtered data).
• test.jsonl: File containing the test split (20% of the filtered data).

The training and test splits were created after filtering for translation quality scores > 0.8 and stratified by the source dataset to ensure representation across different sources.

Data Fields

Each row in the JSONL files is a JSON object with the following fields:

• id: A unique identifier for each translation pair.
• english: The English text.
• french: The French translation.
• source: The original dataset from which the pair was extracted.
• translation_quality: A score representing the quality of the translation, calculated using LaBSE cosine similarity. Higher values indicate better translation quality.
• readability_grade: A readability score assessed using agentlans/deberta-v3-base-zyda-2-readability on the English text. This indicates the grade level required to understand the text.

Example Row

Note that the French non-ASCII characters have been escaped:

{
  "id": 625153,
  "english": "And we also sampled the outdoor air.",
  "french": "Enfin, nous avons aussi pr\\u00e9lev\\u00e9 l'air ext\\u00e9rieur.",
  "source": "TED2020",
  "translation_quality": 0.8045,
  "readability_grade": 3.12
}

Dataset Statistics

The following table shows the class distribution across the training and test sets:

Source	Train	Test	Total
ELRC-1118-CORDIS_News	97866	24467	122333
ELRC-5067-SciPar	626727	156682	783409
GlobalVoices	119330	29832	149162
News-Commentary	90026	22507	112533
QED	301807	75452	377259
TED2020	249578	62395	311973
Tatoeba	201522	50380	251902
Total	1686856	421715	2108571

Intended Uses

This dataset is suitable for training and evaluating machine translation models, as well as for research in natural language processing, cross-lingual understanding, and related fields. The translation_quality and readability_grade fields can be used for filtering and analysis.

Ensemble de données de traduction anglais-français

Cet ensemble de données contient une vaste collection de paires de traduction anglais-français. Il a été téléchargé à partir de la collection OPUS le 26/02/2025.

Les ensembles de données couvrent divers domaines tels que le français courant, les actualités, les présentations (comme les conférences TED et les conférences académiques) ainsi que les vidéos éducatives. Cela permet d'éviter le biais en faveur de contenus juridiques, administratifs et bureaucratiques souvent présents dans des ensembles de données comme Europarl et ECB.

Traitement des données

• Normalisation : les puces, les mots composés, les guillemets, les caractères Unicode et les espaces ont été normalisés.
• Remplacement des espaces réservés : les e-mails, les émojis, les hashtags, les numéros de téléphone, les URL et les identifiants d'utilisateur ont été remplacés par des espaces réservés pour protéger la confidentialité et préserver l'intégrité des données.
• Déduplication : les paires en double (anglais, français) ont été supprimées.

Structure de l'ensemble de données

• raw.jsonl : contient toutes les paires de traduction dédupliquées au format JSON Lines.
• train.jsonl : fichier contenant les données d'apprentissage (80 % des données filtrées).
• test.jsonl : fichier contenant les données de test (20 % des données filtrées).

Les ensembles d'apprentissage et de test ont été créés après filtrage en fonction des scores de qualité de traduction > 0,8 et ont été stratifiés par ensemble de données source pour garantir une représentation équilibrée entre les différentes sources.

Champs de données

Chaque ligne des fichiers JSONL est un objet JSON avec les champs suivants :

• id : un identifiant unique pour chaque paire de traduction.
• english : le texte en anglais.
• french : la traduction en français.
• source : l'ensemble de données d'origine d'où provient la paire.
• translation_quality : un score représentant la qualité de la traduction, calculé à l'aide de la similarité cosinus LaBSE. Des valeurs plus élevées indiquent une meilleure qualité de traduction.
• readability_grade : score de lisibilité évalué à l'aide du modèle agentlans/deberta-v3-base-zyda-2-readability sur le texte en anglais. Cela indique le niveau scolaire requis pour comprendre le texte.

Exemple de ligne

Notez que les caractères non-ASCII en français ont été échappés :

{
  "id": 625153,
  "english": "And we also sampled the outdoor air.",
  "french": "Enfin, nous avons aussi pr\\u00e9lev\\u00e9 l'air ext\\u00e9rieur.",
  "source": "TED2020",
  "translation_quality": 0.8045,
  "readability_grade": 3.12
}

Statistiques de l'ensemble de données

Le tableau suivant présente la répartition des classes dans les ensembles d'entraînement et de test :

Source	Entraînement	Test	Total
ELRC-1118-CORDIS_News	97 866	24 467	122 333
ELRC-5067-SciPar	626 727	156 682	783 409
Voix mondiales	119 330	29 832	149 162
Actualités-Commentaire	90 026	22 507	112 533
CQED	301 807	75 452	377 259
TED2020	249 578	62 395	311 973
Tatoeba	201 522	50 380	251 902
Total	1 686 856	421 715	2 108 571

Utilisations prévues

Cet ensemble de données est destiné à la formation et à l'évaluation de modèles de traduction automatique, ainsi qu'à la recherche dans les domaines du traitement du langage naturel, de la compréhension interlinguistique et d'autres domaines connexes. Les champs translation_quality et readability_grade peuvent être utilisés pour le filtrage et l'analyse.