Update README.md

README.md

@@ -1,3 +1,191 @@
 ---
+language:
+- fr
 license: cc-by-4.0
+tags:
+- employment
+- job-posting
+- nouvelle-calédonie
+- opt-nc
+- embeddings
+- sentence-transformers
+size_categories:
+- n<1K
+task_categories:
+- sentence-similarity
+- text-retrieval
+pretty_name: "AVPS OPT-NC - Avis de Vacances de Poste"
 ---
+
+# 📋 AVPS OPT-NC - Avis de Vacances de Poste
+
+Dataset des **Avis de Vacances de Poste** de l'**Office des Postes et Télécommunications de Nouvelle-Calédonie** (OPT-NC), enrichi avec embeddings sémantiques.
+
+🔗 **Site web :** [https://opt-nc.github.io/avps/](https://opt-nc.github.io/avps/)  
+📊 **Source :** [data.gouv.nc](https://data.gouv.nc/explore/dataset/avis-de-vacances-de-poste-avp-drhfpnc/)  
+💻 **Dépôt GitHub :** [opt-nc/avps](https://github.com/opt-nc/avps)
+
+---
+
+## 📦 Contenu du Dataset
+
+### Fichiers disponibles
+
+| Fichier | Description | Format |
+|---------|-------------|--------|
+| `avp_opt_with_embeddings.parquet` | **Dataset principal** avec embeddings BAAI/bge-m3 (dim: 1024) | Parquet |
+| `avp_opt_enrichi.csv` | CSV enrichi avec données calculées (ville, direction, service) | CSV |
+| `avp_opt_embeddings.jsonl` | Format JSONL avec texte structuré et métadonnées | JSONL |
+
+### Structure des données
+
+**Colonnes principales :**
+- `id` : Numéro AVP (ex: "26-0672")
+- `text` : Texte structuré pour embeddings (titre + missions + compétences)
+- `embedding` : Vecteur d'embedding (float32[1024]) généré par BAAI/bge-m3
+- `titre` : Intitulé du poste
+- `corps_grade` : Corps ou grade du poste
+- `direction_interne` : Direction OPT-NC (libellé complet)
+- `direction_interne_acronyme` : Acronyme (DT, DPSP, DSI, etc.)
+- `service` : Service interne (si applicable)
+- `ville` : Ville normalisée (Nouméa, Koné, etc.)
+- `lieu_travail` : Adresse complète du lieu de travail
+- `date_cloture` : Date limite de candidature
+- `disponible_immediatement` : Boolean - poste disponible immédiatement
+- `url` : Lien vers la page web de l'offre
+- `url_pdf` : Lien vers le PDF original
+
+---
+
+## 🚀 Utilisation
+
+### Charger le dataset avec embeddings
+
+```python
+from datasets import load_dataset
+import pandas as pd
+
+# Charger le dataset
+dataset = load_dataset("opt-nc/avps", data_files="avp_opt_with_embeddings.parquet")
+df = dataset['train'].to_pandas()
+
+# Accéder aux embeddings
+embeddings = df['embedding'].tolist()
+print(f"Dimension des embeddings : {len(embeddings[0])}")
+```
+
+### Recherche sémantique
+
+```python
+from sentence_transformers import SentenceTransformer
+import numpy as np
+from sklearn.metrics.pairwise import cosine_similarity
+
+# Charger le modèle
+model = SentenceTransformer('BAAI/bge-m3')
+
+# Requête utilisateur
+query = "Poste de directeur avec compétences en marketing et management"
+query_embedding = model.encode([query], normalize_embeddings=True)[0]
+
+# Calculer similarités
+embeddings_matrix = np.array(df['embedding'].tolist())
+similarities = cosine_similarity([query_embedding], embeddings_matrix)[0]
+
+# Top 5 résultats
+top_indices = similarities.argsort()[-5:][::-1]
+for idx in top_indices:
+    print(f"{df.iloc[idx]['titre']} (score: {similarities[idx]:.3f})")
+    print(f"  Direction: {df.iloc[idx]['direction_interne']}")
+    print(f"  Ville: {df.iloc[idx]['ville']}")
+    print(f"  URL: {df.iloc[idx]['url']}\n")
+```
+
+### Analyse exploratoire
+
+```python
+# Statistiques par direction
+print(df['direction_interne'].value_counts())
+
+# Postes par ville
+print(df['ville'].value_counts())
+
+# Postes disponibles immédiatement
+print(f"Postes immédiats : {df['disponible_immediatement'].sum()}")
+```
+
+---
+
+## 🤖 Modèle d'Embeddings
+
+**Modèle :** [BAAI/bge-m3](https://huggingface.co/BAAI/bge-m3)  
+**Dimension :** 1024  
+**Normalisation :** Oui (cosine similarity ready)  
+**Langue :** Multilingue (optimisé français)  
+
+### Pourquoi bge-m3 ?
+- ✅ SOTA pour le retrieval multilingue
+- ✅ Excellent sur le français
+- ✅ Performances supérieures aux alternatives (e5, mpnet)
+- ✅ Normalisé pour similarity search
+
+---
+
+## 📊 Statistiques
+
+- **Nombre d'offres :** ~30 (mis à jour quotidiennement)
+- **Période :** Offres en cours de publication
+- **Fréquence de mise à jour :** Quotidienne via GitHub Actions
+- **Couverture :** Tous les postes OPT-NC publiés sur data.gouv.nc
+
+---
+
+## 🔄 Pipeline de Traitement
+
+1. **Extraction** depuis data.gouv.nc (format Parquet)
+2. **Conversion PDF → Markdown** via marker-pdf
+3. **Enrichissement** : normalisation ville, extraction direction/service
+4. **Structuration** : extraction sections clés (missions, compétences, activités)
+5. **Génération embeddings** avec BAAI/bge-m3
+6. **Export** CSV, JSONL, Parquet avec embeddings
+7. **Publication** automatique sur HuggingFace
+
+---
+
+## 📜 Licence
+
+**CC-BY-4.0** - Creative Commons Attribution 4.0 International
+
+### Attribution requise :
+```
+© Office des Postes et Télécommunications de Nouvelle-Calédonie (OPT-NC)
+Source : data.gouv.nc
+Dataset enrichi disponible sous CC-BY-4.0
+```
+
+---
+
+## 🤝 Contribution
+
+Ce dataset est généré automatiquement. Pour signaler une erreur ou suggérer une amélioration :
+- **GitHub Issues :** [opt-nc/avps/issues](https://github.com/opt-nc/avps/issues)
+- **Contact :** via le dépôt GitHub
+
+---
+
+## 🔗 Liens Utiles
+
+- 🌐 **Site web des AVPS :** [https://opt-nc.github.io/avps/](https://opt-nc.github.io/avps/)
+- 💾 **Source originale :** [data.gouv.nc - AVP](https://data.gouv.nc/explore/dataset/avis-de-vacances-de-poste-avp-drhfpnc/)
+- 💻 **Code source :** [opt-nc/avps sur GitHub](https://github.com/opt-nc/avps)
+- 🏢 **OPT-NC :** [www.opt.nc](https://www.opt.nc)
+
+---
+
+## 📅 Dernière mise à jour
+
+Mis à jour automatiquement quotidiennement via GitHub Actions.
+
+---
+
+**Tags:** #emploi #job-search #nouvelle-caledonie #opt-nc #embeddings #semantic-search #french #retrieval