Pendigard's picture
Upload folder using huggingface_hub
4559903 verified
|
Raw History Blame Contribute Delete
1.72 kB
---
pretty_name: Sajaniemi Variable Dataset Large
language:
- code
tags:
- code
- variable-roles
- sajaniemi
---
# Sajaniemi Variable Dataset Large
Corpus de code C, C++, JavaScript et Python pour l'étude et la prédiction des rôles de variables de Sajaniemi. La sélection finale comprend 2 171 fichiers et 47 016 annotations de variables avec rôle, répartis en `train` (1 086 fichiers), `validation` (434) et `test` (651). Les variables sans rôle attribué sont fournies séparément. Les annotations sont produites par un pipeline automatique ; elles ne doivent pas être considérées comme des étiquettes vérifiées manuellement.
## Organisation
- `code/{train,validation,test}/{C,C++,JavaScript,Python}/` : fichiers source de la sélection finale.
- `code/annotations/{train,validation,test}.jsonl` : une variable avec rôle par ligne, avec identifiant, emplacement et vues de code ; les fichiers `*_no_role.jsonl` contiennent les variables sans rôle attribué.
- `code/source_manifest.jsonl` : provenance, empreintes et informations de licence des fichiers sélectionnés ; `code/report.*` et `code/provenance_report.json` résument la sélection et la provenance.
- `pool/` : corpus candidat organisé en shards, avec index et manifestes ; `pool_annotations/` et `pool_graph/` conservent les annotations et données intermédiaires.
- `selection/`, `calibration_features.parquet`, `thresholds.json` et `logs/` : affectation aux partitions, rapports et artefacts de préparation.
Les sources proviennent de `codeparrot/github-code`. Les licences peuvent varier selon le dépôt d'origine : consulter le champ `license` de `code/source_manifest.jsonl` avant toute réutilisation des fichiers source.