Upload 4 files

README.md

@@ -0,0 +1,66 @@
+---
+language:
+- fr
+license: mit
+size_categories:
+- n<1K
+task_categories:
+- text-retrieval
+tags:
+- RAG
+- NLP
+- jobs
+- recruitment
+- nouvelle-caledonie
+- opt-nc
+pretty_name: Référentiel Métiers & Compétences OPT-NC (Expert RAG)
+---
+
+# 🚀 Référentiel Métiers & Compétences OPT-NC (Expert RAG)
+
+Ce dataset est une version enrichie et optimisée du référentiel GPEC de l'**OPT-NC** (Office des Postes et Télécommunications de Nouvelle-Calédonie). 
+
+Il a été conçu spécifiquement pour la **recherche sémantique** et le **RAG (Retrieval-Augmented Generation)**.
+
+## 🌟 Points Forts
+- **Fusion Intégrale** : Combine les métiers, les compétences et leurs descriptions comportementales détaillées (niveaux 1 à 4).
+- **Sémantique Enrichie** : Inclusion de **verbatims métiers** (missions quotidiennes) pour lever les ambiguïtés (ex: distinguer le "conteneur" informatique du "conteneur" logistique).
+- **Format IA-Ready** : Disponible en **Parquet** (performance) et **JSONL** (flexibilité).
+- **Optimisé pour les LLM** : Découpage intelligent (chunking) pour respecter la limite de tokens des modèles d'embedding standards (512 tokens).
+
+## 📊 Structure des Données
+Chaque ligne représente un métier ou un morceau de métier (chunk) :
+- `id` : Code métier unique (ex: `OP066`).
+- `title` : Nom officiel du métier.
+- `text` : Corps de la fiche en **Markdown** (incluant Famille, Missions quotidiennes, et Profil de compétences détaillé).
+- `famille` : Catégorie (Systèmes d'information, Logistique, RH, Pilotage, etc.).
+- `chunk_index` : Index du morceau (pour les métiers longs dont la fiche a été scindée).
+
+## 🛠️ Utilisation Rapide
+
+### Avec la librairie `datasets`
+```python
+from datasets import load_dataset
+
+# Chargement instantané (utilise le fichier Parquet par défaut)
+ds = load_dataset("votre-username/odata-referentiel-metiers", split="train")
+
+# Accéder à la fiche de l'Administrateur d'application
+admin_app = ds.filter(lambda x: x['id'] == 'OP066')
+print(admin_app[0]["text"])
+```
+
+## 🧠 Modèles d'Embeddings recommandés
+Pour une précision maximale en recherche sémantique française et technique :
+1. **`BAAI/bge-m3`** (State-of-the-Art, gère parfaitement les verbatims techniques).
+2. **`sentence-transformers/paraphrase-multilingual-mpnet-base-v2`** (Excellent compromis performance/vitesse).
+
+## 📁 Contenu du Dépôt
+- `metiers_rag.parquet` : Le dataset optimisé pour l'usage machine.
+- `metiers_rag.jsonl` : Le dataset au format texte pour inspection humaine.
+- `metiers_verbatims.csv` : La source des phrases d'exemples utilisées pour enrichir le modèle.
+- `scripts/` : Scripts Python ayant servi à la fusion et au nettoyage des données.
+
+---
+**Source des données** : Open Data OPT-NC.
+**Transformation** : Pipeline "Expert RAG" (Fusion triple CSV + Enrichment + Markdown Formatting).

metiers_rag.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3b48545be1e04b18f3ade27210e4049becdd28d4224d93c4b8a86fc0cef147ff
+size 62355

metiers_verbatims.csv

@@ -0,0 +1,15 @@
+id_metier,verbatim
+OP066,"Je gère le déploiement de conteneurs avec Podman et Docker."
+OP066,"Je mets en place des pipelines de CI/CD pour automatiser les mises à jour."
+OP066,"Je supervise le cycle de vie des applications en production."
+OP066,"Je configure l'automatisation des déploiements DevOps."
+OP063,"Je conçois des architectures logicielles basées sur Java et Angular."
+OP063,"Je définis les standards de programmation et les frameworks à utiliser."
+OP063,"Je travaille sur le design de micro-services complexes."
+OP084,"Je crée des tableaux de bord et des KPIs pour le pilotage de l'activité."
+OP084,"J'analyse les données brutes pour en extraire des tendances stratégiques."
+OP084,"J'utilise des outils de data visualisation pour présenter les résultats."
+OP065,"Je gère l'infrastructure des serveurs et la virtualisation."
+OP065,"Je m'occupe de la sécurité et de la performance des systèmes d'exploitation."
+OP019,"Je conçois les futurs réseaux de télécommunications et la fibre."
+OP019,"Je planifie l'évolution technique des services télécoms."