| --- |
| language: |
| - fr |
| license: mit |
| size_categories: |
| - n<1K |
| task_categories: |
| - text-retrieval |
| tags: |
| - RAG |
| - NLP |
| - jobs |
| - recruitment |
| - nouvelle-caledonie |
| - opt-nc |
| pretty_name: Référentiel Métiers & Compétences OPT-NC (Expert RAG) |
| --- |
| |
| # 🚀 Référentiel Métiers & Compétences OPT-NC (Expert RAG) |
|
|
| Ce dataset est une version enrichie et optimisée du référentiel GPEC de l'**OPT-NC** (Office des Postes et Télécommunications de Nouvelle-Calédonie). |
|
|
| Il a été conçu spécifiquement pour la **recherche sémantique** et le **RAG (Retrieval-Augmented Generation)**. |
|
|
| ## 🌟 Points Forts |
| - **Fusion Intégrale** : Combine les métiers, les compétences et leurs descriptions comportementales détaillées (niveaux 1 à 4). |
| - **Sémantique Enrichie** : Inclusion de **verbatims métiers** (missions quotidiennes) pour lever les ambiguïtés (ex: distinguer le "conteneur" informatique du "conteneur" logistique). |
| - **Format IA-Ready** : Disponible en **Parquet** (performance) et **JSONL** (flexibilité). |
| - **Optimisé pour les LLM** : Découpage intelligent (chunking) pour respecter la limite de tokens des modèles d'embedding standards (512 tokens). |
|
|
| ## 📊 Structure des Données |
| Chaque ligne représente un métier ou un morceau de métier (chunk) : |
| - `id` : Code métier unique (ex: `OP066`). |
| - `title` : Nom officiel du métier. |
| - `text` : Corps de la fiche en **Markdown** (incluant Famille, Missions quotidiennes, et Profil de compétences détaillé). |
| - `famille` : Catégorie (Systèmes d'information, Logistique, RH, Pilotage, etc.). |
| - `chunk_index` : Index du morceau (pour les métiers longs dont la fiche a été scindée). |
|
|
| ## 🛠️ Utilisation Rapide |
|
|
| ### Avec la librairie `datasets` |
| ```python |
| from datasets import load_dataset |
| |
| # Chargement instantané (utilise le fichier Parquet par défaut) |
| ds = load_dataset("votre-username/odata-referentiel-metiers", split="train") |
| |
| # Accéder à la fiche de l'Administrateur d'application |
| admin_app = ds.filter(lambda x: x['id'] == 'OP066') |
| print(admin_app[0]["text"]) |
| ``` |
|
|
| ## 🧠 Modèles d'Embeddings recommandés |
| Pour une précision maximale en recherche sémantique française et technique : |
| 1. **`BAAI/bge-m3`** (State-of-the-Art, gère parfaitement les verbatims techniques). |
| 2. **`sentence-transformers/paraphrase-multilingual-mpnet-base-v2`** (Excellent compromis performance/vitesse). |
|
|
| ## 📁 Contenu du Dépôt |
| - `metiers_rag.parquet` : Le dataset optimisé pour l'usage machine. |
| - `metiers_rag.jsonl` : Le dataset au format texte pour inspection humaine. |
| - `metiers_verbatims.csv` : La source des phrases d'exemples utilisées pour enrichir le modèle. |
| - `scripts/` : Scripts Python ayant servi à la fusion et au nettoyage des données. |
|
|
| --- |
| **Source des données** : Open Data OPT-NC. |
| **Transformation** : Pipeline "Expert RAG" (Fusion triple CSV + Enrichment + Markdown Formatting). |
|
|
