--- language: - fr license: cc-by-4.0 tags: - employment - job-posting - nouvelle-calédonie - opt-nc - embeddings - sentence-transformers size_categories: - n<1K task_categories: - sentence-similarity - text-retrieval pretty_name: "AVPS OPT-NC - Avis de Vacances de Poste" --- # 📋 AVPS OPT-NC - Avis de Vacances de Poste Dataset des **Avis de Vacances de Poste** de l'**Office des Postes et Télécommunications de Nouvelle-Calédonie** (OPT-NC), enrichi avec embeddings sémantiques. 🔗 **Site web :** [https://opt-nc.github.io/avps/](https://opt-nc.github.io/avps/) 📊 **Source :** [data.gouv.nc](https://data.gouv.nc/explore/dataset/avis-de-vacances-de-poste-avp-drhfpnc/) 💻 **Dépôt GitHub :** [opt-nc/avps](https://github.com/opt-nc/avps) --- ## 📦 Contenu du Dataset ### Fichiers disponibles | Fichier | Description | Format | |---------|-------------|--------| | `avp_opt_with_embeddings.parquet` | **Dataset principal** avec embeddings BAAI/bge-m3 (dim: 1024) | Parquet | | `avp_opt_enrichi.csv` | CSV enrichi avec données calculées (ville, direction, service) | CSV | | `avp_opt_embeddings.jsonl` | Format JSONL avec texte structuré et métadonnées | JSONL | ### Structure des données **Colonnes principales :** - `id` : Numéro AVP (ex: "26-0672") - `text` : Texte structuré pour embeddings (titre + missions + compétences) - `embedding` : Vecteur d'embedding (float32[1024]) généré par BAAI/bge-m3 - `titre` : Intitulé du poste - `corps_grade` : Corps ou grade du poste - `direction_interne` : Direction OPT-NC (libellé complet) - `direction_interne_acronyme` : Acronyme (DT, DPSP, DSI, etc.) - `service` : Service interne (si applicable) - `ville` : Ville normalisée (Nouméa, Koné, etc.) - `lieu_travail` : Adresse complète du lieu de travail - `date_cloture` : Date limite de candidature - `disponible_immediatement` : Boolean - poste disponible immédiatement - `url` : Lien vers la page web de l'offre - `url_pdf` : Lien vers le PDF original --- ## 🚀 Utilisation ### Charger le dataset avec embeddings ```python from datasets import load_dataset import pandas as pd # Charger le dataset dataset = load_dataset("opt-nc/avps", data_files="avp_opt_with_embeddings.parquet") df = dataset['train'].to_pandas() # Accéder aux embeddings embeddings = df['embedding'].tolist() print(f"Dimension des embeddings : {len(embeddings[0])}") ``` ### Recherche sémantique ```python from sentence_transformers import SentenceTransformer import numpy as np from sklearn.metrics.pairwise import cosine_similarity # Charger le modèle model = SentenceTransformer('BAAI/bge-m3') # Requête utilisateur query = "Poste de directeur avec compétences en marketing et management" query_embedding = model.encode([query], normalize_embeddings=True)[0] # Calculer similarités embeddings_matrix = np.array(df['embedding'].tolist()) similarities = cosine_similarity([query_embedding], embeddings_matrix)[0] # Top 5 résultats top_indices = similarities.argsort()[-5:][::-1] for idx in top_indices: print(f"{df.iloc[idx]['titre']} (score: {similarities[idx]:.3f})") print(f" Direction: {df.iloc[idx]['direction_interne']}") print(f" Ville: {df.iloc[idx]['ville']}") print(f" URL: {df.iloc[idx]['url']}\n") ``` ### Analyse exploratoire ```python # Statistiques par direction print(df['direction_interne'].value_counts()) # Postes par ville print(df['ville'].value_counts()) # Postes disponibles immédiatement print(f"Postes immédiats : {df['disponible_immediatement'].sum()}") ``` --- ## 🤖 Modèle d'Embeddings **Modèle :** [BAAI/bge-m3](https://huggingface.co/BAAI/bge-m3) **Dimension :** 1024 **Normalisation :** Oui (cosine similarity ready) **Langue :** Multilingue (optimisé français) ### Pourquoi bge-m3 ? - ✅ SOTA pour le retrieval multilingue - ✅ Excellent sur le français - ✅ Performances supérieures aux alternatives (e5, mpnet) - ✅ Normalisé pour similarity search --- ## 📊 Statistiques - **Nombre d'offres :** ~30 (mis à jour quotidiennement) - **Période :** Offres en cours de publication - **Fréquence de mise à jour :** Quotidienne via GitHub Actions - **Couverture :** Tous les postes OPT-NC publiés sur data.gouv.nc --- ## 🔄 Pipeline de Traitement 1. **Extraction** depuis data.gouv.nc (format Parquet) 2. **Conversion PDF → Markdown** via marker-pdf 3. **Enrichissement** : normalisation ville, extraction direction/service 4. **Structuration** : extraction sections clés (missions, compétences, activités) 5. **Génération embeddings** avec BAAI/bge-m3 6. **Export** CSV, JSONL, Parquet avec embeddings 7. **Publication** automatique sur HuggingFace --- ## 📜 Licence **CC-BY-4.0** - Creative Commons Attribution 4.0 International ### Attribution requise : ``` © Office des Postes et Télécommunications de Nouvelle-Calédonie (OPT-NC) Source : data.gouv.nc Dataset enrichi disponible sous CC-BY-4.0 ``` --- ## 🤝 Contribution Ce dataset est généré automatiquement. Pour signaler une erreur ou suggérer une amélioration : - **GitHub Issues :** [opt-nc/avps/issues](https://github.com/opt-nc/avps/issues) - **Contact :** via le dépôt GitHub --- ## 🔗 Liens Utiles - 🌐 **Site web des AVPS :** [https://opt-nc.github.io/avps/](https://opt-nc.github.io/avps/) - 💾 **Source originale :** [data.gouv.nc - AVP](https://data.gouv.nc/explore/dataset/avis-de-vacances-de-poste-avp-drhfpnc/) - 💻 **Code source :** [opt-nc/avps sur GitHub](https://github.com/opt-nc/avps) - 🏢 **OPT-NC :** [www.opt.nc](https://www.opt.nc) --- ## 📅 Dernière mise à jour Mis à jour automatiquement quotidiennement via GitHub Actions. --- **Tags:** #emploi #job-search #nouvelle-caledonie #opt-nc #embeddings #semantic-search #french #retrieval