Datasets:
metadata
language:
- en
- ar
license: mit
task_categories:
- translation
tags:
- scientific
- economics
- unctad
pretty_name: Scientific EN-AR Parallel Corpus
Curated by Bader44
Ce dataset contient 1 573 paires de phrases parallèles extraites de rapports scientifiques et économiques de l'UNCTAD. Il est optimisé pour l'entraînement de modèles de traduction spécialisés.
- Extraction : Utilisation de PyMuPDF pour extraire le texte des PDF techniques.
- Alignement : Matching sémantique par IA avec un seuil de similarité de 0.88 pour garantir une précision maximale.
- Nettoyage : Filtrage automatique des phrases incohérentes et des erreurs de segmentation.
Idéal pour le Fine-Tuning de modèles comme Opus-MT ou mBART afin d'améliorer la traduction arabe dans les domaines financiers et scientifiques.