datasets-CNRS/corpus-taln

Dataset origin: https://www.ortolang.fr/market/corpora/corpus-taln

Description

Le corpus TALN rassemble les articles des conférences TALN et RÉCITAL des années 1997 à 2019.

Il se compose de 1602 articles scientifiques en français qui traitent du domaine du traitement automatique des langues (TAL) pour un total de 5,8 millions de mots.

Les articles sont au format TEI et leur structure contient les éléments suivants :

• métadonnées : titre ; nom des auteurs ; année ; éditeur ; lieu de la conférence ; résumé (en français et en anglais) ; mots-clés (en français et en anglais). Un identifiant unique est attribué à chaque article, indiquant notamment la conférence (TALN/RECITAL) et le type d'article (long, court, poster, invité, démonstration, etc.)
• cosrps du texte : sections et sous-sections, numéro, titre, type principal ; figures et tables (numéro et légende), notes de bas de page. Les paragraphes sont marqués à titre indicatif, et correspondent généralement aux segments de texte séparés par une marque structurelle parmi les précédentes ou un saut de page. La liste des références bibliographiques est indiquée mais non analysée (pas de découpage en items).

Nous avons converti les fichiers PDF au format TXT puis XML grâce à des outils opensource de conversion (pdfminer de python : https://github.com/pdfminer/pdfminer.six) et de structuration (toolkit ParsCit : https://github.com/knmnyn/ParsCit) pour extraire le contenu textuel et pertinent des articles.

Un premier travail a ensuite été effectué pour nettoyer les fichiers et annoter leur structure interne Un deuxième travail de nettoyage manuel et semi-automatique du corpus a permis de récupérer les portions manquantes d'articles, une vérification de la structure XML ainsi qu'une conversion au format TEI.

Ce corpus a été constitué dans le cadre du projet ANR ADDICTE avec pour objectif l'apprentissage de modèles d'analyse distributionnelle en domaine de spécialité, et notamment pour étudier l'impact de la structure logique des documents.

Citation

@misc{11403/corpus-taln/v1,
    title = {Corpus TALN},
    author = {CLLE},
    url = {https://hdl.handle.net/11403/corpus-taln/v1},
    note = {{ORTOLANG} ({Open} {Resources} {and} {TOols} {for} {LANGuage}) \textendash www.ortolang.fr},
    copyright = {ATALA},
    year = {2020}
}