Bader44's picture
Update README.md
70c96e0 verified
metadata
language:
  - en
  - ar
license: mit
task_categories:
  - translation
tags:
  - scientific
  - economics
  - unctad
pretty_name: Scientific EN-AR Parallel Corpus

Curated by Bader44

Ce dataset contient 1 573 paires de phrases parallèles extraites de rapports scientifiques et économiques de l'UNCTAD. Il est optimisé pour l'entraînement de modèles de traduction spécialisés.

  • Extraction : Utilisation de PyMuPDF pour extraire le texte des PDF techniques.
  • Alignement : Matching sémantique par IA avec un seuil de similarité de 0.88 pour garantir une précision maximale.
  • Nettoyage : Filtrage automatique des phrases incohérentes et des erreurs de segmentation.

Idéal pour le Fine-Tuning de modèles comme Opus-MT ou mBART afin d'améliorer la traduction arabe dans les domaines financiers et scientifiques.