Datasets:

opt-nc
/

avps

language:
  - fr
license: cc-by-4.0
tags:
  - employment
  - job-posting
  - nouvelle-calédonie
  - opt-nc
  - embeddings
  - sentence-transformers
size_categories:
  - n<1K
task_categories:
  - sentence-similarity
  - text-retrieval
pretty_name: AVPS OPT-NC - Avis de Vacances de Poste

📋 AVPS OPT-NC - Avis de Vacances de Poste

Dataset des Avis de Vacances de Poste de l'Office des Postes et Télécommunications de Nouvelle-Calédonie (OPT-NC), enrichi avec embeddings sémantiques.

🔗 Site web : https://opt-nc.github.io/avps/
📊 Source : data.gouv.nc
💻 Dépôt GitHub : opt-nc/avps

📦 Contenu du Dataset

Fichiers disponibles

Fichier	Description	Format
`avp_opt_with_embeddings.parquet`	Dataset principal avec embeddings BAAI/bge-m3 (dim: 1024)	Parquet
`avp_opt_enrichi.csv`	CSV enrichi avec données calculées (ville, direction, service)	CSV
`avp_opt_embeddings.jsonl`	Format JSONL avec texte structuré et métadonnées	JSONL

Structure des données

Colonnes principales :

id : Numéro AVP (ex: "26-0672")
text : Texte structuré pour embeddings (titre + missions + compétences)
embedding : Vecteur d'embedding (float32[1024]) généré par BAAI/bge-m3
titre : Intitulé du poste
corps_grade : Corps ou grade du poste
direction_interne : Direction OPT-NC (libellé complet)
direction_interne_acronyme : Acronyme (DT, DPSP, DSI, etc.)
service : Service interne (si applicable)
ville : Ville normalisée (Nouméa, Koné, etc.)
lieu_travail : Adresse complète du lieu de travail
date_cloture : Date limite de candidature
disponible_immediatement : Boolean - poste disponible immédiatement
url : Lien vers la page web de l'offre
url_pdf : Lien vers le PDF original

🚀 Utilisation

Charger le dataset avec embeddings

from datasets import load_dataset
import pandas as pd

# Charger le dataset
dataset = load_dataset("opt-nc/avps", data_files="avp_opt_with_embeddings.parquet")
df = dataset['train'].to_pandas()

# Accéder aux embeddings
embeddings = df['embedding'].tolist()
print(f"Dimension des embeddings : {len(embeddings[0])}")

Recherche sémantique

from sentence_transformers import SentenceTransformer
import numpy as np
from sklearn.metrics.pairwise import cosine_similarity

# Charger le modèle
model = SentenceTransformer('BAAI/bge-m3')

# Requête utilisateur
query = "Poste de directeur avec compétences en marketing et management"
query_embedding = model.encode([query], normalize_embeddings=True)[0]

# Calculer similarités
embeddings_matrix = np.array(df['embedding'].tolist())
similarities = cosine_similarity([query_embedding], embeddings_matrix)[0]

# Top 5 résultats
top_indices = similarities.argsort()[-5:][::-1]
for idx in top_indices:
    print(f"{df.iloc[idx]['titre']} (score: {similarities[idx]:.3f})")
    print(f"  Direction: {df.iloc[idx]['direction_interne']}")
    print(f"  Ville: {df.iloc[idx]['ville']}")
    print(f"  URL: {df.iloc[idx]['url']}\n")

Analyse exploratoire

# Statistiques par direction
print(df['direction_interne'].value_counts())

# Postes par ville
print(df['ville'].value_counts())

# Postes disponibles immédiatement
print(f"Postes immédiats : {df['disponible_immediatement'].sum()}")

🤖 Modèle d'Embeddings

Modèle : BAAI/bge-m3
Dimension : 1024
Normalisation : Oui (cosine similarity ready)
Langue : Multilingue (optimisé français)

Pourquoi bge-m3 ?

✅ SOTA pour le retrieval multilingue
✅ Excellent sur le français
✅ Performances supérieures aux alternatives (e5, mpnet)
✅ Normalisé pour similarity search

📊 Statistiques

Nombre d'offres : ~30 (mis à jour quotidiennement)
Période : Offres en cours de publication
Fréquence de mise à jour : Quotidienne via GitHub Actions
Couverture : Tous les postes OPT-NC publiés sur data.gouv.nc

🔄 Pipeline de Traitement

Extraction depuis data.gouv.nc (format Parquet)
Conversion PDF → Markdown via marker-pdf
Enrichissement : normalisation ville, extraction direction/service
Structuration : extraction sections clés (missions, compétences, activités)
Génération embeddings avec BAAI/bge-m3
Export CSV, JSONL, Parquet avec embeddings
Publication automatique sur HuggingFace

📜 Licence

CC-BY-4.0 - Creative Commons Attribution 4.0 International

Attribution requise :

© Office des Postes et Télécommunications de Nouvelle-Calédonie (OPT-NC)
Source : data.gouv.nc
Dataset enrichi disponible sous CC-BY-4.0

🤝 Contribution

Ce dataset est généré automatiquement. Pour signaler une erreur ou suggérer une amélioration :

GitHub Issues : opt-nc/avps/issues
Contact : via le dépôt GitHub

🔗 Liens Utiles

🌐 Site web des AVPS : https://opt-nc.github.io/avps/
💾 Source originale : data.gouv.nc - AVP
💻 Code source : opt-nc/avps sur GitHub
🏢 OPT-NC : www.opt.nc

📅 Dernière mise à jour

Mis à jour automatiquement quotidiennement via GitHub Actions.

Tags: #emploi #job-search #nouvelle-caledonie #opt-nc #embeddings #semantic-search #french #retrieval