README.md

metadata

pretty_name: Sajaniemi Variable Dataset Large
language:
  - code
tags:
  - code
  - variable-roles
  - sajaniemi

Sajaniemi Variable Dataset Large

Corpus de code C, C++, JavaScript et Python pour l'étude et la prédiction des rôles de variables de Sajaniemi. La sélection finale comprend 2 171 fichiers et 47 016 annotations de variables avec rôle, répartis en train (1 086 fichiers), validation (434) et test (651). Les variables sans rôle attribué sont fournies séparément. Les annotations sont produites par un pipeline automatique ; elles ne doivent pas être considérées comme des étiquettes vérifiées manuellement.

Organisation

• code/{train,validation,test}/{C,C++,JavaScript,Python}/ : fichiers source de la sélection finale.
• code/annotations/{train,validation,test}.jsonl : une variable avec rôle par ligne, avec identifiant, emplacement et vues de code ; les fichiers *_no_role.jsonl contiennent les variables sans rôle attribué.
• code/source_manifest.jsonl : provenance, empreintes et informations de licence des fichiers sélectionnés ; code/report.* et code/provenance_report.json résument la sélection et la provenance.
• pool/ : corpus candidat organisé en shards, avec index et manifestes ; pool_annotations/ et pool_graph/ conservent les annotations et données intermédiaires.
• selection/, calibration_features.parquet, thresholds.json et logs/ : affectation aux partitions, rapports et artefacts de préparation.

Les sources proviennent de codeparrot/github-code. Les licences peuvent varier selon le dépôt d'origine : consulter le champ license de code/source_manifest.jsonl avant toute réutilisation des fichiers source.