Hugging Face's logo

Datasets:
opt-nc
/
metiers

Tasks:
Text Retrieval
Modalities:
Text
Formats:
parquet
Languages:
French
Size:
< 1K
Tags:
RAG
NLP
jobs
recruitment
nouvelle-caledonie
opt-nc
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community
1
metiers / README.md
rastadidi's picture
rastadidi
Upload 4 files
2e8d9e6 verified
preview code
|
raw
history blame contribute delete
2.87 kB
metadata 
language:
  - fr
license: mit
size_categories:
  - n<1K
task_categories:
  - text-retrieval
tags:
  - RAG
  - NLP
  - jobs
  - recruitment
  - nouvelle-caledonie
  - opt-nc
pretty_name: Référentiel Métiers & Compétences OPT-NC (Expert RAG)

🚀 Référentiel Métiers & Compétences OPT-NC (Expert RAG)

Ce dataset est une version enrichie et optimisée du référentiel GPEC de l'OPT-NC (Office des Postes et Télécommunications de Nouvelle-Calédonie).

Il a été conçu spécifiquement pour la recherche sémantique et le RAG (Retrieval-Augmented Generation).

🌟 Points Forts

  • Fusion Intégrale : Combine les métiers, les compétences et leurs descriptions comportementales détaillées (niveaux 1 à 4).
  • Sémantique Enrichie : Inclusion de verbatims métiers (missions quotidiennes) pour lever les ambiguïtés (ex: distinguer le "conteneur" informatique du "conteneur" logistique).
  • Format IA-Ready : Disponible en Parquet (performance) et JSONL (flexibilité).
  • Optimisé pour les LLM : Découpage intelligent (chunking) pour respecter la limite de tokens des modèles d'embedding standards (512 tokens).

📊 Structure des Données

Chaque ligne représente un métier ou un morceau de métier (chunk) :

  • id : Code métier unique (ex: OP066).
  • title : Nom officiel du métier.
  • text : Corps de la fiche en Markdown (incluant Famille, Missions quotidiennes, et Profil de compétences détaillé).
  • famille : Catégorie (Systèmes d'information, Logistique, RH, Pilotage, etc.).
  • chunk_index : Index du morceau (pour les métiers longs dont la fiche a été scindée).

🛠️ Utilisation Rapide

Avec la librairie datasets 

from datasets import load_dataset

# Chargement instantané (utilise le fichier Parquet par défaut)
ds = load_dataset("votre-username/odata-referentiel-metiers", split="train")

# Accéder à la fiche de l'Administrateur d'application
admin_app = ds.filter(lambda x: x['id'] == 'OP066')
print(admin_app[0]["text"])

🧠 Modèles d'Embeddings recommandés

Pour une précision maximale en recherche sémantique française et technique :

  1. BAAI/bge-m3 (State-of-the-Art, gère parfaitement les verbatims techniques).
  2. sentence-transformers/paraphrase-multilingual-mpnet-base-v2 (Excellent compromis performance/vitesse).

📁 Contenu du Dépôt

  • metiers_rag.parquet : Le dataset optimisé pour l'usage machine.
  • metiers_rag.jsonl : Le dataset au format texte pour inspection humaine.
  • metiers_verbatims.csv : La source des phrases d'exemples utilisées pour enrichir le modèle.
  • scripts/ : Scripts Python ayant servi à la fusion et au nettoyage des données.

Source des données : Open Data OPT-NC. Transformation : Pipeline "Expert RAG" (Fusion triple CSV + Enrichment + Markdown Formatting).