Datasets:
File size: 3,223 Bytes
26ca9dc | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 | ---
language:
- fr
- bci
- dyu
license: cc-by-4.0
task_categories:
- text-generation
tags:
- kouman
- code
- sft
- python
- javascript
- html
- baoulé
- dioula
- french
- west-africa
- ivory-coast
pretty_name: "Kouman IA — Corpus de Programmation SFT 3.375M"
size_categories:
- 1M<n<10M
---
# 🇨🇮 Kouman IA — Corpus de Programmation SFT (3 375 000 dialogues)
Corpus massif d'entraînement supervisé (**SFT**) orienté vers le code et l'ingénierie logicielle pour le modèle souverain africain **Kouman IA** développé par **Tree IA labs**.
## 📊 Structure & Répartition
Le corpus est structuré en **135 shards** compressés en gzip (`.jsonl.gz`), totalisant **3 375 000 paires instruction/code** réparties de manière rigoureusement équilibrée : **exactement 25 000 exemples par cellule**.
| Dimension | Nombre | Exemples | Détails |
|---|---:|---:|---|
| **Familles applicatives** | 5 | 675 000 chacune | Sites web, calculatrices, scripts Python, jeux Python, applications avec architecture complète |
| **Paires linguistiques** | 9 | 375 000 chacune | `fr_fr`, `dyu_dyu`, `bci_bci`, `dyu_fr`, `bci_fr`, `fr_dyu`, `fr_bci`, `dyu_bci`, `bci_dyu` |
| **Niveaux de difficulté** | 3 | 1 125 000 chacun | Débutant, Intermédiaire, Avancé |
| **Total cellules** | **135** | **25 000 chacune** | **3 375 000 dialogues au total** |
## 🛠 Format des données
Chaque exemple est un objet JSON conforme à la structure conversationnelle Kouman IA :
```json
{
"messages": [
{"role": "user", "content": "..."},
{"role": "assistant", "content": "```python\n...\n```"}
],
"metadata": {
"family": "script_python",
"language_pair": "fr_bci",
"difficulty": "intermediaire",
"task_id": "...",
"human_reviewed": false
}
}
```
## 🔍 Validation & Contrôles Qualité
- **Scan intégral (3 375 000 lignes)** : 0 erreur de syntaxe JSON, aucun message vide, rôles `user`/`assistant` alternés sans rôle système.
- **Syntaxe du code** : Validée sur 540 échantillons représentatifs via `ast.parse` (Python), `HTMLParser` (HTML) et Node.js (JavaScript).
- **Unicité** : Unicité textuelle exacte vérifiée au sein de chaque cellule.
- **Traductions locales (Baoulé & Dioula)** : Produites par traduction automatique, en attente de validation native par des locuteurs certifiés (`human_reviewed: false`).
## 🚀 Utilisation avec Python & Datasets
### Lecture directe en streaming (sans décompresser tout le corpus)
```python
import gzip, json, glob
def charger_dialogues(repertoire="."):
for chemin in sorted(glob.glob(f"{repertoire}/*.jsonl.gz")):
with gzip.open(chemin, "rt", encoding="utf-8") as f:
for ligne in f:
yield json.loads(ligne)
```
## 📜 Empreintes & Traçabilité
- **SHA-256 `manifest.json`** : `38177ba9abe845998b3b9320bf621b9367ce1abc38151bacb09c412721a9e2b7`
- **Volume total compressé** : 197 112 841 octets (~188 Mo sur 135 shards)
## 🏛 Licence & Crédits
- **Concepteur & Développeur :** [Tree IA labs](https://huggingface.co/Tree-AI-lab)
- **Licence :** CC BY 4.0
|