---
language:
- fr
license: mit
size_categories:
- n<1K
task_categories:
- text-retrieval
tags:
- RAG
- NLP
- jobs
- recruitment
- nouvelle-caledonie
- opt-nc
pretty_name: Référentiel Métiers & Compétences OPT-NC (Expert RAG)
---

# 🚀 Référentiel Métiers & Compétences OPT-NC (Expert RAG)

Ce dataset est une version enrichie et optimisée du référentiel GPEC de l'**OPT-NC** (Office des Postes et Télécommunications de Nouvelle-Calédonie). 

Il a été conçu spécifiquement pour la **recherche sémantique** et le **RAG (Retrieval-Augmented Generation)**.

## 🌟 Points Forts
- **Fusion Intégrale** : Combine les métiers, les compétences et leurs descriptions comportementales détaillées (niveaux 1 à 4).
- **Sémantique Enrichie** : Inclusion de **verbatims métiers** (missions quotidiennes) pour lever les ambiguïtés (ex: distinguer le "conteneur" informatique du "conteneur" logistique).
- **Format IA-Ready** : Disponible en **Parquet** (performance) et **JSONL** (flexibilité).
- **Optimisé pour les LLM** : Découpage intelligent (chunking) pour respecter la limite de tokens des modèles d'embedding standards (512 tokens).

## 📊 Structure des Données
Chaque ligne représente un métier ou un morceau de métier (chunk) :
- `id` : Code métier unique (ex: `OP066`).
- `title` : Nom officiel du métier.
- `text` : Corps de la fiche en **Markdown** (incluant Famille, Missions quotidiennes, et Profil de compétences détaillé).
- `famille` : Catégorie (Systèmes d'information, Logistique, RH, Pilotage, etc.).
- `chunk_index` : Index du morceau (pour les métiers longs dont la fiche a été scindée).

## 🛠️ Utilisation Rapide

### Avec la librairie `datasets`
```python
from datasets import load_dataset

# Chargement instantané (utilise le fichier Parquet par défaut)
ds = load_dataset("votre-username/odata-referentiel-metiers", split="train")

# Accéder à la fiche de l'Administrateur d'application
admin_app = ds.filter(lambda x: x['id'] == 'OP066')
print(admin_app[0]["text"])
```

## 🧠 Modèles d'Embeddings recommandés
Pour une précision maximale en recherche sémantique française et technique :
1. **`BAAI/bge-m3`** (State-of-the-Art, gère parfaitement les verbatims techniques).
2. **`sentence-transformers/paraphrase-multilingual-mpnet-base-v2`** (Excellent compromis performance/vitesse).

## 📁 Contenu du Dépôt
- `metiers_rag.parquet` : Le dataset optimisé pour l'usage machine.
- `metiers_rag.jsonl` : Le dataset au format texte pour inspection humaine.
- `metiers_verbatims.csv` : La source des phrases d'exemples utilisées pour enrichir le modèle.
- `scripts/` : Scripts Python ayant servi à la fusion et au nettoyage des données.

---
**Source des données** : Open Data OPT-NC.
**Transformation** : Pipeline "Expert RAG" (Fusion triple CSV + Enrichment + Markdown Formatting).