Update README.md
Browse files
README.md
CHANGED
|
@@ -32,7 +32,7 @@ size_categories:
|
|
| 32 |
|
| 33 |
## Description
|
| 34 |
|
| 35 |
-
Ce dataset constitue le **dictionnaire terminologique Pulaar/Fulfulde le plus complet disponible en accès libre**. Il compile **9
|
| 36 |
|
| 37 |
Le Pulaar/Fulfulde est parlé par plus de **40 millions de locuteurs** en Afrique de l'Ouest et Centrale — Sénégal, Mauritanie, Mali, Guinée, Burkina Faso, Niger, Cameroun, Nigeria, Soudan et diaspora mondiale. Il reste à ce jour une **langue à très faibles ressources numériques**, ce qui rend ce dictionnaire particulièrement précieux pour la recherche en NLP et le développement d'outils linguistiques.
|
| 38 |
|
|
@@ -42,9 +42,9 @@ Le Pulaar/Fulfulde est parlé par plus de **40 millions de locuteurs** en Afriqu
|
|
| 42 |
|
| 43 |
| Indicateur | Valeur |
|
| 44 |
|---|---|
|
| 45 |
-
| **Total entrées** | **9
|
| 46 |
-
| Paires Français → Pulaar | 9
|
| 47 |
-
| Entrées trilingues (+ Anglais) | 3
|
| 48 |
| Entrées quadrilingues (+ Arabe) | 303 |
|
| 49 |
| Nombre de domaines | 29 |
|
| 50 |
| Nombre de sources | 34 |
|
|
@@ -55,19 +55,20 @@ Le Pulaar/Fulfulde est parlé par plus de **40 millions de locuteurs** en Afriqu
|
|
| 55 |
|
| 56 |
| Domaine | Entrées |
|
| 57 |
|---|---|
|
| 58 |
-
| Encyclopédique général |
|
| 59 |
-
| Informatique — terminologie |
|
| 60 |
-
| Informatique — interfaces |
|
| 61 |
| Informatique — général | 984 |
|
| 62 |
-
| Sciences de la nature |
|
| 63 |
| Histoire et géographie | 439 |
|
| 64 |
-
| Mathématiques |
|
| 65 |
| Banque et finances | 399 |
|
| 66 |
| Politique et droit | 386 |
|
| 67 |
| Droit et administration | 303 |
|
| 68 |
| Associations et organisations | 268 |
|
| 69 |
| Citoyenneté et droit | 180 |
|
| 70 |
| Électricité et physique | 177 |
|
|
|
|
| 71 |
| Constitution mauritanienne | 163 |
|
| 72 |
| Adjectifs, états et émotions | 157 |
|
| 73 |
| Santé et médecine | 123 |
|
|
@@ -79,7 +80,6 @@ Le Pulaar/Fulfulde est parlé par plus de **40 millions de locuteurs** en Afriqu
|
|
| 79 |
| Réseaux sociaux | 63 |
|
| 80 |
| Logiciels informatiques | 56 |
|
| 81 |
| Terminologie ARPRIM | 37 |
|
| 82 |
-
| Physique | 28 |
|
| 83 |
| Pédagogie | 23 |
|
| 84 |
| Couleurs et nature | 12 |
|
| 85 |
| Santé mentale et psychiatrie | 12 |
|
|
@@ -96,11 +96,11 @@ Chaque entrée est un objet JSON :
|
|
| 96 |
```json
|
| 97 |
{
|
| 98 |
"id": "ARPRIM_00001",
|
| 99 |
-
"domaine": "
|
| 100 |
-
"francais": "
|
| 101 |
-
"pulaar": "
|
| 102 |
-
"
|
| 103 |
-
"source": "
|
| 104 |
}
|
| 105 |
```
|
| 106 |
|
|
@@ -112,13 +112,13 @@ Chaque entrée est un objet JSON :
|
|
| 112 |
| `domaine` | Catégorie thématique | Toutes |
|
| 113 |
| `francais` | Terme en français | Toutes* |
|
| 114 |
| `pulaar` | Terme en Pulaar/Fulfulde | Toutes |
|
| 115 |
-
| `anglais` | Terme en anglais | 3
|
| 116 |
| `arabe` | Terme en arabe | 303 entrées |
|
| 117 |
-
| `pulaar_alt` | Variante dialectale | Optionnel |
|
| 118 |
| `note` | Note ou contexte | Optionnel |
|
| 119 |
| `source` | Source documentaire | Toutes |
|
| 120 |
|
| 121 |
-
*Certaines entrées d'interface numérique (G-Search) ont l'anglais comme langue source
|
| 122 |
|
| 123 |
---
|
| 124 |
|
|
@@ -126,18 +126,19 @@ Chaque entrée est un objet JSON :
|
|
| 126 |
|
| 127 |
| Source | Domaine | Entrées |
|
| 128 |
|---|---|---|
|
| 129 |
-
| autresC_BAB | Encyclopédique général |
|
| 130 |
-
| G-Search | Interfaces numériques |
|
| 131 |
-
| Pootle2010
|
| 132 |
| kelme1ereTrad_BAB | Informatique général | 984 |
|
| 133 |
-
| Livre3-SN_ILN_v2 | Sciences de la nature | 487 |
|
| 134 |
| Feuil2_Terminology | Trilingue EN/FR/Pulaar | 536 |
|
|
|
|
| 135 |
| livre1-HG_ILN | Histoire et géographie | 439 |
|
| 136 |
| hiisa-ILN_v2 | Mathématiques (mise à jour) | 408 |
|
| 137 |
| Faggudu | Banque et finances | 399 |
|
| 138 |
| laabi-ARPRIM | Politique et droit (v5) | 375 |
|
| 139 |
| AR-FR-FF | Droit — trilingue AR/FR/PU | 303 |
|
| 140 |
| PACDM-II | Associations | 268 |
|
|
|
|
| 141 |
| Citoy | Citoyenneté | 180 |
|
| 142 |
| Yiite_ACaam | Électricité | 177 |
|
| 143 |
| Doosgal_RIM_FBPM | Constitution mauritanienne | 163 |
|
|
@@ -146,7 +147,7 @@ Chaque entrée est un objet JSON :
|
|
| 146 |
| HIISIWAL_GFW | Maths et physique | 109 |
|
| 147 |
| ngaynaaka | Élevage et nature | 99 |
|
| 148 |
| G5-Sahel | Sécurité et défense | 97 |
|
| 149 |
-
| +
|
| 150 |
|
| 151 |
---
|
| 152 |
|
|
@@ -157,62 +158,28 @@ Chaque entrée est un objet JSON :
|
|
| 157 |
```python
|
| 158 |
import json
|
| 159 |
|
| 160 |
-
# JSON complet
|
| 161 |
with open("ARPRIM_terminologies_v5.json", encoding="utf-8") as f:
|
| 162 |
data = json.load(f)
|
| 163 |
|
| 164 |
print(f"{len(data)} entrées chargées")
|
| 165 |
-
|
| 166 |
-
# JSONL (ligne par ligne)
|
| 167 |
-
data = []
|
| 168 |
-
with open("ARPRIM_terminologies_v5.jsonl", encoding="utf-8") as f:
|
| 169 |
-
for line in f:
|
| 170 |
-
data.append(json.loads(line))
|
| 171 |
```
|
| 172 |
|
| 173 |
### Filtres utiles
|
| 174 |
|
| 175 |
```python
|
| 176 |
-
|
| 177 |
maths = [e for e in data if e["domaine"] == "mathematiques"]
|
| 178 |
sciences = [e for e in data if e["domaine"] == "sciences_nature"]
|
| 179 |
-
|
| 180 |
-
|
| 181 |
-
# Trilingues uniquement
|
| 182 |
-
trilingues = [e for e in data if e.get("anglais")]
|
| 183 |
-
|
| 184 |
-
# Avec arabe
|
| 185 |
-
quadrilingues = [e for e in data if e.get("arabe")]
|
| 186 |
-
|
| 187 |
-
# Recherche plein texte
|
| 188 |
-
resultats = [e for e in data if "soleil" in e.get("francais", "").lower()]
|
| 189 |
```
|
| 190 |
|
| 191 |
### Avec HuggingFace Datasets
|
| 192 |
|
| 193 |
```python
|
| 194 |
from datasets import load_dataset
|
| 195 |
-
|
| 196 |
ds = load_dataset("ARPRIM/Pulaar_Dictionary",
|
| 197 |
data_files="ARPRIM_terminologies_v5.json",
|
| 198 |
split="train")
|
| 199 |
-
|
| 200 |
-
# Filtrer par domaine
|
| 201 |
-
maths = ds.filter(lambda x: x["domaine"] == "mathematiques")
|
| 202 |
-
print(f"{len(maths)} termes mathématiques")
|
| 203 |
-
```
|
| 204 |
-
|
| 205 |
-
### Construction d'un lexique bilingue
|
| 206 |
-
|
| 207 |
-
```python
|
| 208 |
-
# Dictionnaire FR → Pulaar
|
| 209 |
-
fr_to_pu = {e["francais"]: e["pulaar"] for e in data if e.get("francais") and e.get("pulaar")}
|
| 210 |
-
|
| 211 |
-
# Dictionnaire Pulaar → FR
|
| 212 |
-
pu_to_fr = {e["pulaar"]: e["francais"] for e in data if e.get("pulaar") and e.get("francais")}
|
| 213 |
-
|
| 214 |
-
print(f"FR→PU : {len(fr_to_pu)} entrées")
|
| 215 |
-
print(f"PU→FR : {len(pu_to_fr)} entrées")
|
| 216 |
```
|
| 217 |
|
| 218 |
---
|
|
@@ -232,8 +199,8 @@ L'orthographe Pulaar utilisée suit la norme panafricaine établie lors de l'**A
|
|
| 232 |
| v1 | 7 719 | Publication initiale — 27 domaines, 28 sources |
|
| 233 |
| v2 | 9 317 | +1 598 entrées (Pootle2010, terminologies EN/FR/PU) |
|
| 234 |
| v3 | 9 318 | Mise à jour terminologie émotions (83 termes corrigés) |
|
| 235 |
-
| v4 | 10 224 | +906 entrées : physique (Balliwal), sciences de la nature
|
| 236 |
-
| **v5** | **9
|
| 237 |
|
| 238 |
---
|
| 239 |
|
|
@@ -241,7 +208,7 @@ L'orthographe Pulaar utilisée suit la norme panafricaine établie lors de l'**A
|
|
| 241 |
|
| 242 |
| Dataset | Contenu | Entrées |
|
| 243 |
|---|---|---|
|
| 244 |
-
| **Ce dataset** | Dictionnaire terminologique | 9
|
| 245 |
| ARPRIM/pulaar_fulfulde (corpus) | Textes alignés FR/Pulaar | 1 020+ |
|
| 246 |
| ARPRIM/Pulaar_Fulfulde_Corpus | Corpus général | — |
|
| 247 |
| ARPRIM/Pulaar_Fulfulde_Model | Modèle de langue | — |
|
|
@@ -250,7 +217,7 @@ L'orthographe Pulaar utilisée suit la norme panafricaine établie lors de l'**A
|
|
| 250 |
|
| 251 |
## Accès web
|
| 252 |
|
| 253 |
-
La page de consultation interactive est disponible sur **[pulaar.org](https://pulaar.org)** — recherche plein texte FR/Pulaar/Anglais, filtres par domaine (29 catégories),
|
| 254 |
|
| 255 |
---
|
| 256 |
|
|
@@ -271,7 +238,7 @@ La page de consultation interactive est disponible sur **[pulaar.org](https://pu
|
|
| 271 |
publisher = {HuggingFace},
|
| 272 |
url = {https://huggingface.co/datasets/ARPRIM/Pulaar_Dictionary},
|
| 273 |
license = {cc-by-4.0},
|
| 274 |
-
note = {9
|
| 275 |
}
|
| 276 |
```
|
| 277 |
|
|
|
|
| 32 |
|
| 33 |
## Description
|
| 34 |
|
| 35 |
+
Ce dataset constitue le **dictionnaire terminologique Pulaar/Fulfulde le plus complet disponible en accès libre**. Il compile **9,779 entrées lexicales** extraites de 34 sources académiques, institutionnelles et communautaires, couvrant 29 domaines thématiques allant de l'informatique aux mathématiques, en passant par le droit, la santé, l'élevage et les sciences de la nature.
|
| 36 |
|
| 37 |
Le Pulaar/Fulfulde est parlé par plus de **40 millions de locuteurs** en Afrique de l'Ouest et Centrale — Sénégal, Mauritanie, Mali, Guinée, Burkina Faso, Niger, Cameroun, Nigeria, Soudan et diaspora mondiale. Il reste à ce jour une **langue à très faibles ressources numériques**, ce qui rend ce dictionnaire particulièrement précieux pour la recherche en NLP et le développement d'outils linguistiques.
|
| 38 |
|
|
|
|
| 42 |
|
| 43 |
| Indicateur | Valeur |
|
| 44 |
|---|---|
|
| 45 |
+
| **Total entrées** | **9,779** |
|
| 46 |
+
| Paires Français → Pulaar | 9,779 |
|
| 47 |
+
| Entrées trilingues (+ Anglais) | 3,827 |
|
| 48 |
| Entrées quadrilingues (+ Arabe) | 303 |
|
| 49 |
| Nombre de domaines | 29 |
|
| 50 |
| Nombre de sources | 34 |
|
|
|
|
| 55 |
|
| 56 |
| Domaine | Entrées |
|
| 57 |
|---|---|
|
| 58 |
+
| Encyclopédique général | 1552 |
|
| 59 |
+
| Informatique — terminologie | 1536 |
|
| 60 |
+
| Informatique — interfaces | 1333 |
|
| 61 |
| Informatique — général | 984 |
|
| 62 |
+
| Sciences de la nature | 508 |
|
| 63 |
| Histoire et géographie | 439 |
|
| 64 |
+
| Mathématiques | 428 |
|
| 65 |
| Banque et finances | 399 |
|
| 66 |
| Politique et droit | 386 |
|
| 67 |
| Droit et administration | 303 |
|
| 68 |
| Associations et organisations | 268 |
|
| 69 |
| Citoyenneté et droit | 180 |
|
| 70 |
| Électricité et physique | 177 |
|
| 71 |
+
| Physique | 175 |
|
| 72 |
| Constitution mauritanienne | 163 |
|
| 73 |
| Adjectifs, états et émotions | 157 |
|
| 74 |
| Santé et médecine | 123 |
|
|
|
|
| 80 |
| Réseaux sociaux | 63 |
|
| 81 |
| Logiciels informatiques | 56 |
|
| 82 |
| Terminologie ARPRIM | 37 |
|
|
|
|
| 83 |
| Pédagogie | 23 |
|
| 84 |
| Couleurs et nature | 12 |
|
| 85 |
| Santé mentale et psychiatrie | 12 |
|
|
|
|
| 96 |
```json
|
| 97 |
{
|
| 98 |
"id": "ARPRIM_00001",
|
| 99 |
+
"domaine": "physique",
|
| 100 |
+
"francais": "Énergie",
|
| 101 |
+
"pulaar": "Caasam",
|
| 102 |
+
"pulaar_alt": "Yakawere / semmbe",
|
| 103 |
+
"source": "balliwal_MFS"
|
| 104 |
}
|
| 105 |
```
|
| 106 |
|
|
|
|
| 112 |
| `domaine` | Catégorie thématique | Toutes |
|
| 113 |
| `francais` | Terme en français | Toutes* |
|
| 114 |
| `pulaar` | Terme en Pulaar/Fulfulde | Toutes |
|
| 115 |
+
| `anglais` | Terme en anglais | 3,827 entrées |
|
| 116 |
| `arabe` | Terme en arabe | 303 entrées |
|
| 117 |
+
| `pulaar_alt` | Variante dialectale ou synonyme | Optionnel |
|
| 118 |
| `note` | Note ou contexte | Optionnel |
|
| 119 |
| `source` | Source documentaire | Toutes |
|
| 120 |
|
| 121 |
+
*Certaines entrées d'interface numérique (G-Search) ont l'anglais comme langue source.
|
| 122 |
|
| 123 |
---
|
| 124 |
|
|
|
|
| 126 |
|
| 127 |
| Source | Domaine | Entrées |
|
| 128 |
|---|---|---|
|
| 129 |
+
| autresC_BAB | Encyclopédique général | 1552 |
|
| 130 |
+
| G-Search | Interfaces numériques | 1301 |
|
| 131 |
+
| Pootle2010 | Informatique | 986 |
|
| 132 |
| kelme1ereTrad_BAB | Informatique général | 984 |
|
|
|
|
| 133 |
| Feuil2_Terminology | Trilingue EN/FR/Pulaar | 536 |
|
| 134 |
+
| Livre3-SN_ILN_v2 | Sciences de la nature | 487 |
|
| 135 |
| livre1-HG_ILN | Histoire et géographie | 439 |
|
| 136 |
| hiisa-ILN_v2 | Mathématiques (mise à jour) | 408 |
|
| 137 |
| Faggudu | Banque et finances | 399 |
|
| 138 |
| laabi-ARPRIM | Politique et droit (v5) | 375 |
|
| 139 |
| AR-FR-FF | Droit — trilingue AR/FR/PU | 303 |
|
| 140 |
| PACDM-II | Associations | 268 |
|
| 141 |
+
| balliwal_MFS | Physique (v5 — balliwal) | 209 |
|
| 142 |
| Citoy | Citoyenneté | 180 |
|
| 143 |
| Yiite_ACaam | Électricité | 177 |
|
| 144 |
| Doosgal_RIM_FBPM | Constitution mauritanienne | 163 |
|
|
|
|
| 147 |
| HIISIWAL_GFW | Maths et physique | 109 |
|
| 148 |
| ngaynaaka | Élevage et nature | 99 |
|
| 149 |
| G5-Sahel | Sécurité et défense | 97 |
|
| 150 |
+
| + 13 autres sources | Divers domaines | — |
|
| 151 |
|
| 152 |
---
|
| 153 |
|
|
|
|
| 158 |
```python
|
| 159 |
import json
|
| 160 |
|
|
|
|
| 161 |
with open("ARPRIM_terminologies_v5.json", encoding="utf-8") as f:
|
| 162 |
data = json.load(f)
|
| 163 |
|
| 164 |
print(f"{len(data)} entrées chargées")
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 165 |
```
|
| 166 |
|
| 167 |
### Filtres utiles
|
| 168 |
|
| 169 |
```python
|
| 170 |
+
physique = [e for e in data if e["domaine"] == "physique"]
|
| 171 |
maths = [e for e in data if e["domaine"] == "mathematiques"]
|
| 172 |
sciences = [e for e in data if e["domaine"] == "sciences_nature"]
|
| 173 |
+
variantes = [e for e in data if e.get("pulaar_alt")]
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 174 |
```
|
| 175 |
|
| 176 |
### Avec HuggingFace Datasets
|
| 177 |
|
| 178 |
```python
|
| 179 |
from datasets import load_dataset
|
|
|
|
| 180 |
ds = load_dataset("ARPRIM/Pulaar_Dictionary",
|
| 181 |
data_files="ARPRIM_terminologies_v5.json",
|
| 182 |
split="train")
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 183 |
```
|
| 184 |
|
| 185 |
---
|
|
|
|
| 199 |
| v1 | 7 719 | Publication initiale — 27 domaines, 28 sources |
|
| 200 |
| v2 | 9 317 | +1 598 entrées (Pootle2010, terminologies EN/FR/PU) |
|
| 201 |
| v3 | 9 318 | Mise à jour terminologie émotions (83 termes corrigés) |
|
| 202 |
+
| v4 | 10 224 | +906 entrées : physique (Balliwal), sciences de la nature, mathématiques |
|
| 203 |
+
| **v5** | **9,779** | **Corrections qualité : 626 entrées corrompues supprimées (sciences_nature/ILN), 54 corrections mathématiques (+M.F, hiisa-ILN_v2), refonte politique et droit (laabi-ARPRIM), physique entièrement corrigé et enrichi depuis balliwal_MFS (+181 entrées, 63 variantes pulaar_alt, 0 entrée MFS ou ILN résiduelle)** |
|
| 204 |
|
| 205 |
---
|
| 206 |
|
|
|
|
| 208 |
|
| 209 |
| Dataset | Contenu | Entrées |
|
| 210 |
|---|---|---|
|
| 211 |
+
| **Ce dataset** | Dictionnaire terminologique | 9,779 |
|
| 212 |
| ARPRIM/pulaar_fulfulde (corpus) | Textes alignés FR/Pulaar | 1 020+ |
|
| 213 |
| ARPRIM/Pulaar_Fulfulde_Corpus | Corpus général | — |
|
| 214 |
| ARPRIM/Pulaar_Fulfulde_Model | Modèle de langue | — |
|
|
|
|
| 217 |
|
| 218 |
## Accès web
|
| 219 |
|
| 220 |
+
La page de consultation interactive est disponible sur **[pulaar.org](https://pulaar.org)** — recherche plein texte FR/Pulaar/Anglais, filtres par domaine (29 catégories), variantes dialectales et traductions arabes.
|
| 221 |
|
| 222 |
---
|
| 223 |
|
|
|
|
| 238 |
publisher = {HuggingFace},
|
| 239 |
url = {https://huggingface.co/datasets/ARPRIM/Pulaar_Dictionary},
|
| 240 |
license = {cc-by-4.0},
|
| 241 |
+
note = {9,779 entrées · 29 domaines · 34 sources · FR/Pulaar/EN/AR}
|
| 242 |
}
|
| 243 |
```
|
| 244 |
|