| ---
|
| language:
|
| - fr
|
| - bci
|
| - dyu
|
| license: cc-by-4.0
|
| task_categories:
|
| - text-generation
|
| tags:
|
| - kouman
|
| - code
|
| - sft
|
| - python
|
| - javascript
|
| - html
|
| - baoulé
|
| - dioula
|
| - french
|
| - west-africa
|
| - ivory-coast
|
| pretty_name: "Kouman IA — Corpus de Programmation SFT 3.375M"
|
| size_categories:
|
| - 1M<n<10M
|
| ---
|
|
|
| # 🇨🇮 Kouman IA — Corpus de Programmation SFT (3 375 000 dialogues)
|
|
|
| Corpus massif d'entraînement supervisé (**SFT**) orienté vers le code et l'ingénierie logicielle pour le modèle souverain africain **Kouman IA** développé par **Tree IA labs**.
|
|
|
| ## 📊 Structure & Répartition
|
|
|
| Le corpus est structuré en **135 shards** compressés en gzip (`.jsonl.gz`), totalisant **3 375 000 paires instruction/code** réparties de manière rigoureusement équilibrée : **exactement 25 000 exemples par cellule**.
|
|
|
| | Dimension | Nombre | Exemples | Détails |
|
| |---|---:|---:|---|
|
| | **Familles applicatives** | 5 | 675 000 chacune | Sites web, calculatrices, scripts Python, jeux Python, applications avec architecture complète |
|
| | **Paires linguistiques** | 9 | 375 000 chacune | `fr_fr`, `dyu_dyu`, `bci_bci`, `dyu_fr`, `bci_fr`, `fr_dyu`, `fr_bci`, `dyu_bci`, `bci_dyu` |
|
| | **Niveaux de difficulté** | 3 | 1 125 000 chacun | Débutant, Intermédiaire, Avancé |
|
| | **Total cellules** | **135** | **25 000 chacune** | **3 375 000 dialogues au total** |
|
|
|
| ## 🛠 Format des données
|
|
|
| Chaque exemple est un objet JSON conforme à la structure conversationnelle Kouman IA :
|
|
|
| ```json
|
| {
|
| "messages": [
|
| {"role": "user", "content": "..."},
|
| {"role": "assistant", "content": "```python\n...\n```"}
|
| ],
|
| "metadata": {
|
| "family": "script_python",
|
| "language_pair": "fr_bci",
|
| "difficulty": "intermediaire",
|
| "task_id": "...",
|
| "human_reviewed": false
|
| }
|
| }
|
| ```
|
|
|
| ## 🔍 Validation & Contrôles Qualité
|
|
|
| - **Scan intégral (3 375 000 lignes)** : 0 erreur de syntaxe JSON, aucun message vide, rôles `user`/`assistant` alternés sans rôle système.
|
| - **Syntaxe du code** : Validée sur 540 échantillons représentatifs via `ast.parse` (Python), `HTMLParser` (HTML) et Node.js (JavaScript).
|
| - **Unicité** : Unicité textuelle exacte vérifiée au sein de chaque cellule.
|
| - **Traductions locales (Baoulé & Dioula)** : Produites par traduction automatique, en attente de validation native par des locuteurs certifiés (`human_reviewed: false`).
|
|
|
| ## 🚀 Utilisation avec Python & Datasets
|
|
|
| ### Lecture directe en streaming (sans décompresser tout le corpus)
|
|
|
| ```python
|
| import gzip, json, glob
|
|
|
| def charger_dialogues(repertoire="."):
|
| for chemin in sorted(glob.glob(f"{repertoire}/*.jsonl.gz")):
|
| with gzip.open(chemin, "rt", encoding="utf-8") as f:
|
| for ligne in f:
|
| yield json.loads(ligne)
|
| ```
|
|
|
| ## 📜 Empreintes & Traçabilité
|
|
|
| - **SHA-256 `manifest.json`** : `38177ba9abe845998b3b9320bf621b9367ce1abc38151bacb09c412721a9e2b7`
|
| - **Volume total compressé** : 197 112 841 octets (~188 Mo sur 135 shards)
|
|
|
| ## 🏛 Licence & Crédits
|
|
|
| - **Concepteur & Développeur :** [Tree IA labs](https://huggingface.co/Tree-AI-lab)
|
| - **Licence :** CC BY 4.0
|
|
|
