Tree-AI-lab/kouman-code-sft-3.3m

🇨🇮 Kouman IA — Corpus de Programmation SFT (3 375 000 dialogues)

Corpus massif d'entraînement supervisé (SFT) orienté vers le code et l'ingénierie logicielle pour le modèle souverain africain Kouman IA développé par Tree IA labs.

📊 Structure & Répartition

Le corpus est structuré en 135 shards compressés en gzip (.jsonl.gz), totalisant 3 375 000 paires instruction/code réparties de manière rigoureusement équilibrée : exactement 25 000 exemples par cellule.

Dimension	Nombre	Exemples	Détails
Familles applicatives	5	675 000 chacune	Sites web, calculatrices, scripts Python, jeux Python, applications avec architecture complète
Paires linguistiques	9	375 000 chacune	fr_fr, dyu_dyu, bci_bci, dyu_fr, bci_fr, fr_dyu, fr_bci, dyu_bci, bci_dyu
Niveaux de difficulté	3	1 125 000 chacun	Débutant, Intermédiaire, Avancé
Total cellules	135	25 000 chacune	3 375 000 dialogues au total

🛠 Format des données

Chaque exemple est un objet JSON conforme à la structure conversationnelle Kouman IA :

{
  "messages": [
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "```python\n...\n```"}
  ],
  "metadata": {
    "family": "script_python",
    "language_pair": "fr_bci",
    "difficulty": "intermediaire",
    "task_id": "...",
    "human_reviewed": false
  }
}

🔍 Validation & Contrôles Qualité

• Scan intégral (3 375 000 lignes) : 0 erreur de syntaxe JSON, aucun message vide, rôles user/assistant alternés sans rôle système.
• Syntaxe du code : Validée sur 540 échantillons représentatifs via ast.parse (Python), HTMLParser (HTML) et Node.js (JavaScript).
• Unicité : Unicité textuelle exacte vérifiée au sein de chaque cellule.
• Traductions locales (Baoulé & Dioula) : Produites par traduction automatique, en attente de validation native par des locuteurs certifiés (human_reviewed: false).

🚀 Utilisation avec Python & Datasets

Lecture directe en streaming (sans décompresser tout le corpus)

import gzip, json, glob

def charger_dialogues(repertoire="."):
    for chemin in sorted(glob.glob(f"{repertoire}/*.jsonl.gz")):
        with gzip.open(chemin, "rt", encoding="utf-8") as f:
            for ligne in f:
                yield json.loads(ligne)

📜 Empreintes & Traçabilité

• SHA-256 manifest.json : 38177ba9abe845998b3b9320bf621b9367ce1abc38151bacb09c412721a9e2b7
• Volume total compressé : 197 112 841 octets (~188 Mo sur 135 shards)

🏛 Licence & Crédits

• Concepteur & Développeur : Tree IA labs
• Licence : CC BY 4.0