muttaar commited on
Commit
2d4e503
·
verified ·
1 Parent(s): 747570e

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +31 -64
README.md CHANGED
@@ -32,7 +32,7 @@ size_categories:
32
 
33
  ## Description
34
 
35
- Ce dataset constitue le **dictionnaire terminologique Pulaar/Fulfulde le plus complet disponible en accès libre**. Il compile **9 598 entrées lexicales** extraites de 34 sources académiques, institutionnelles et communautaires, couvrant 29 domaines thématiques allant de l'informatique aux mathématiques, en passant par le droit, la santé, l'élevage et les sciences de la nature.
36
 
37
  Le Pulaar/Fulfulde est parlé par plus de **40 millions de locuteurs** en Afrique de l'Ouest et Centrale — Sénégal, Mauritanie, Mali, Guinée, Burkina Faso, Niger, Cameroun, Nigeria, Soudan et diaspora mondiale. Il reste à ce jour une **langue à très faibles ressources numériques**, ce qui rend ce dictionnaire particulièrement précieux pour la recherche en NLP et le développement d'outils linguistiques.
38
 
@@ -42,9 +42,9 @@ Le Pulaar/Fulfulde est parlé par plus de **40 millions de locuteurs** en Afriqu
42
 
43
  | Indicateur | Valeur |
44
  |---|---|
45
- | **Total entrées** | **9 598** |
46
- | Paires Français → Pulaar | 9 598 |
47
- | Entrées trilingues (+ Anglais) | 3 827 |
48
  | Entrées quadrilingues (+ Arabe) | 303 |
49
  | Nombre de domaines | 29 |
50
  | Nombre de sources | 34 |
@@ -55,19 +55,20 @@ Le Pulaar/Fulfulde est parlé par plus de **40 millions de locuteurs** en Afriqu
55
 
56
  | Domaine | Entrées |
57
  |---|---|
58
- | Encyclopédique général | 1 552 |
59
- | Informatique — terminologie | 1 524 |
60
- | Informatique — interfaces | 1 333 |
61
  | Informatique — général | 984 |
62
- | Sciences de la nature | 487 |
63
  | Histoire et géographie | 439 |
64
- | Mathématiques | 427 |
65
  | Banque et finances | 399 |
66
  | Politique et droit | 386 |
67
  | Droit et administration | 303 |
68
  | Associations et organisations | 268 |
69
  | Citoyenneté et droit | 180 |
70
  | Électricité et physique | 177 |
 
71
  | Constitution mauritanienne | 163 |
72
  | Adjectifs, états et émotions | 157 |
73
  | Santé et médecine | 123 |
@@ -79,7 +80,6 @@ Le Pulaar/Fulfulde est parlé par plus de **40 millions de locuteurs** en Afriqu
79
  | Réseaux sociaux | 63 |
80
  | Logiciels informatiques | 56 |
81
  | Terminologie ARPRIM | 37 |
82
- | Physique | 28 |
83
  | Pédagogie | 23 |
84
  | Couleurs et nature | 12 |
85
  | Santé mentale et psychiatrie | 12 |
@@ -96,11 +96,11 @@ Chaque entrée est un objet JSON :
96
  ```json
97
  {
98
  "id": "ARPRIM_00001",
99
- "domaine": "mathematiques",
100
- "francais": "Intégrale",
101
- "pulaar": "Hiisannde",
102
- "anglais": "Integral",
103
- "source": "hiisa-ILN_v2"
104
  }
105
  ```
106
 
@@ -112,13 +112,13 @@ Chaque entrée est un objet JSON :
112
  | `domaine` | Catégorie thématique | Toutes |
113
  | `francais` | Terme en français | Toutes* |
114
  | `pulaar` | Terme en Pulaar/Fulfulde | Toutes |
115
- | `anglais` | Terme en anglais | 3 827 entrées |
116
  | `arabe` | Terme en arabe | 303 entrées |
117
- | `pulaar_alt` | Variante dialectale | Optionnel |
118
  | `note` | Note ou contexte | Optionnel |
119
  | `source` | Source documentaire | Toutes |
120
 
121
- *Certaines entrées d'interface numérique (G-Search) ont l'anglais comme langue source à la place du français.
122
 
123
  ---
124
 
@@ -126,18 +126,19 @@ Chaque entrée est un objet JSON :
126
 
127
  | Source | Domaine | Entrées |
128
  |---|---|---|
129
- | autresC_BAB | Encyclopédique général | 1 552 |
130
- | G-Search | Interfaces numériques | 1 301 |
131
- | Pootle2010 (Umar Gongore Bah / Bookara BA) | Informatique | 986 |
132
  | kelme1ereTrad_BAB | Informatique général | 984 |
133
- | Livre3-SN_ILN_v2 | Sciences de la nature | 487 |
134
  | Feuil2_Terminology | Trilingue EN/FR/Pulaar | 536 |
 
135
  | livre1-HG_ILN | Histoire et géographie | 439 |
136
  | hiisa-ILN_v2 | Mathématiques (mise à jour) | 408 |
137
  | Faggudu | Banque et finances | 399 |
138
  | laabi-ARPRIM | Politique et droit (v5) | 375 |
139
  | AR-FR-FF | Droit — trilingue AR/FR/PU | 303 |
140
  | PACDM-II | Associations | 268 |
 
141
  | Citoy | Citoyenneté | 180 |
142
  | Yiite_ACaam | Électricité | 177 |
143
  | Doosgal_RIM_FBPM | Constitution mauritanienne | 163 |
@@ -146,7 +147,7 @@ Chaque entrée est un objet JSON :
146
  | HIISIWAL_GFW | Maths et physique | 109 |
147
  | ngaynaaka | Élevage et nature | 99 |
148
  | G5-Sahel | Sécurité et défense | 97 |
149
- | + 14 autres sources | Divers domaines | 413 |
150
 
151
  ---
152
 
@@ -157,62 +158,28 @@ Chaque entrée est un objet JSON :
157
  ```python
158
  import json
159
 
160
- # JSON complet
161
  with open("ARPRIM_terminologies_v5.json", encoding="utf-8") as f:
162
  data = json.load(f)
163
 
164
  print(f"{len(data)} entrées chargées")
165
-
166
- # JSONL (ligne par ligne)
167
- data = []
168
- with open("ARPRIM_terminologies_v5.jsonl", encoding="utf-8") as f:
169
- for line in f:
170
- data.append(json.loads(line))
171
  ```
172
 
173
  ### Filtres utiles
174
 
175
  ```python
176
- # Par domaine
177
  maths = [e for e in data if e["domaine"] == "mathematiques"]
178
  sciences = [e for e in data if e["domaine"] == "sciences_nature"]
179
- info = [e for e in data if "informatique" in e.get("domaine", "")]
180
-
181
- # Trilingues uniquement
182
- trilingues = [e for e in data if e.get("anglais")]
183
-
184
- # Avec arabe
185
- quadrilingues = [e for e in data if e.get("arabe")]
186
-
187
- # Recherche plein texte
188
- resultats = [e for e in data if "soleil" in e.get("francais", "").lower()]
189
  ```
190
 
191
  ### Avec HuggingFace Datasets
192
 
193
  ```python
194
  from datasets import load_dataset
195
-
196
  ds = load_dataset("ARPRIM/Pulaar_Dictionary",
197
  data_files="ARPRIM_terminologies_v5.json",
198
  split="train")
199
-
200
- # Filtrer par domaine
201
- maths = ds.filter(lambda x: x["domaine"] == "mathematiques")
202
- print(f"{len(maths)} termes mathématiques")
203
- ```
204
-
205
- ### Construction d'un lexique bilingue
206
-
207
- ```python
208
- # Dictionnaire FR → Pulaar
209
- fr_to_pu = {e["francais"]: e["pulaar"] for e in data if e.get("francais") and e.get("pulaar")}
210
-
211
- # Dictionnaire Pulaar → FR
212
- pu_to_fr = {e["pulaar"]: e["francais"] for e in data if e.get("pulaar") and e.get("francais")}
213
-
214
- print(f"FR→PU : {len(fr_to_pu)} entrées")
215
- print(f"PU→FR : {len(pu_to_fr)} entrées")
216
  ```
217
 
218
  ---
@@ -232,8 +199,8 @@ L'orthographe Pulaar utilisée suit la norme panafricaine établie lors de l'**A
232
  | v1 | 7 719 | Publication initiale — 27 domaines, 28 sources |
233
  | v2 | 9 317 | +1 598 entrées (Pootle2010, terminologies EN/FR/PU) |
234
  | v3 | 9 318 | Mise à jour terminologie émotions (83 termes corrigés) |
235
- | v4 | 10 224 | +906 entrées : physique (Balliwal), sciences de la nature (Livre3-SN), mathématiques (hiisa-ILN) |
236
- | **v5** | **9 598** | **Corrections qualité : suppression de 626 entrées corrompues (colonnes inversées, sciences_nature/ILN), 54 corrections mathématiques (codes morphologiques +M.F et erreurs hiisa-ILN_v2), refonte domaine politique et droit (source laabi-ARPRIM, 375 termes révisés)** |
237
 
238
  ---
239
 
@@ -241,7 +208,7 @@ L'orthographe Pulaar utilisée suit la norme panafricaine établie lors de l'**A
241
 
242
  | Dataset | Contenu | Entrées |
243
  |---|---|---|
244
- | **Ce dataset** | Dictionnaire terminologique | 9 598 |
245
  | ARPRIM/pulaar_fulfulde (corpus) | Textes alignés FR/Pulaar | 1 020+ |
246
  | ARPRIM/Pulaar_Fulfulde_Corpus | Corpus général | — |
247
  | ARPRIM/Pulaar_Fulfulde_Model | Modèle de langue | — |
@@ -250,7 +217,7 @@ L'orthographe Pulaar utilisée suit la norme panafricaine établie lors de l'**A
250
 
251
  ## Accès web
252
 
253
- La page de consultation interactive est disponible sur **[pulaar.org](https://pulaar.org)** — recherche plein texte FR/Pulaar/Anglais, filtres par domaine (29 catégories), affichage des variantes dialectales et traductions arabes.
254
 
255
  ---
256
 
@@ -271,7 +238,7 @@ La page de consultation interactive est disponible sur **[pulaar.org](https://pu
271
  publisher = {HuggingFace},
272
  url = {https://huggingface.co/datasets/ARPRIM/Pulaar_Dictionary},
273
  license = {cc-by-4.0},
274
- note = {9 598 entrées · 29 domaines · 34 sources · FR/Pulaar/EN/AR}
275
  }
276
  ```
277
 
 
32
 
33
  ## Description
34
 
35
+ Ce dataset constitue le **dictionnaire terminologique Pulaar/Fulfulde le plus complet disponible en accès libre**. Il compile **9,779 entrées lexicales** extraites de 34 sources académiques, institutionnelles et communautaires, couvrant 29 domaines thématiques allant de l'informatique aux mathématiques, en passant par le droit, la santé, l'élevage et les sciences de la nature.
36
 
37
  Le Pulaar/Fulfulde est parlé par plus de **40 millions de locuteurs** en Afrique de l'Ouest et Centrale — Sénégal, Mauritanie, Mali, Guinée, Burkina Faso, Niger, Cameroun, Nigeria, Soudan et diaspora mondiale. Il reste à ce jour une **langue à très faibles ressources numériques**, ce qui rend ce dictionnaire particulièrement précieux pour la recherche en NLP et le développement d'outils linguistiques.
38
 
 
42
 
43
  | Indicateur | Valeur |
44
  |---|---|
45
+ | **Total entrées** | **9,779** |
46
+ | Paires Français → Pulaar | 9,779 |
47
+ | Entrées trilingues (+ Anglais) | 3,827 |
48
  | Entrées quadrilingues (+ Arabe) | 303 |
49
  | Nombre de domaines | 29 |
50
  | Nombre de sources | 34 |
 
55
 
56
  | Domaine | Entrées |
57
  |---|---|
58
+ | Encyclopédique général | 1552 |
59
+ | Informatique — terminologie | 1536 |
60
+ | Informatique — interfaces | 1333 |
61
  | Informatique — général | 984 |
62
+ | Sciences de la nature | 508 |
63
  | Histoire et géographie | 439 |
64
+ | Mathématiques | 428 |
65
  | Banque et finances | 399 |
66
  | Politique et droit | 386 |
67
  | Droit et administration | 303 |
68
  | Associations et organisations | 268 |
69
  | Citoyenneté et droit | 180 |
70
  | Électricité et physique | 177 |
71
+ | Physique | 175 |
72
  | Constitution mauritanienne | 163 |
73
  | Adjectifs, états et émotions | 157 |
74
  | Santé et médecine | 123 |
 
80
  | Réseaux sociaux | 63 |
81
  | Logiciels informatiques | 56 |
82
  | Terminologie ARPRIM | 37 |
 
83
  | Pédagogie | 23 |
84
  | Couleurs et nature | 12 |
85
  | Santé mentale et psychiatrie | 12 |
 
96
  ```json
97
  {
98
  "id": "ARPRIM_00001",
99
+ "domaine": "physique",
100
+ "francais": "Énergie",
101
+ "pulaar": "Caasam",
102
+ "pulaar_alt": "Yakawere / semmbe",
103
+ "source": "balliwal_MFS"
104
  }
105
  ```
106
 
 
112
  | `domaine` | Catégorie thématique | Toutes |
113
  | `francais` | Terme en français | Toutes* |
114
  | `pulaar` | Terme en Pulaar/Fulfulde | Toutes |
115
+ | `anglais` | Terme en anglais | 3,827 entrées |
116
  | `arabe` | Terme en arabe | 303 entrées |
117
+ | `pulaar_alt` | Variante dialectale ou synonyme | Optionnel |
118
  | `note` | Note ou contexte | Optionnel |
119
  | `source` | Source documentaire | Toutes |
120
 
121
+ *Certaines entrées d'interface numérique (G-Search) ont l'anglais comme langue source.
122
 
123
  ---
124
 
 
126
 
127
  | Source | Domaine | Entrées |
128
  |---|---|---|
129
+ | autresC_BAB | Encyclopédique général | 1552 |
130
+ | G-Search | Interfaces numériques | 1301 |
131
+ | Pootle2010 | Informatique | 986 |
132
  | kelme1ereTrad_BAB | Informatique général | 984 |
 
133
  | Feuil2_Terminology | Trilingue EN/FR/Pulaar | 536 |
134
+ | Livre3-SN_ILN_v2 | Sciences de la nature | 487 |
135
  | livre1-HG_ILN | Histoire et géographie | 439 |
136
  | hiisa-ILN_v2 | Mathématiques (mise à jour) | 408 |
137
  | Faggudu | Banque et finances | 399 |
138
  | laabi-ARPRIM | Politique et droit (v5) | 375 |
139
  | AR-FR-FF | Droit — trilingue AR/FR/PU | 303 |
140
  | PACDM-II | Associations | 268 |
141
+ | balliwal_MFS | Physique (v5 — balliwal) | 209 |
142
  | Citoy | Citoyenneté | 180 |
143
  | Yiite_ACaam | Électricité | 177 |
144
  | Doosgal_RIM_FBPM | Constitution mauritanienne | 163 |
 
147
  | HIISIWAL_GFW | Maths et physique | 109 |
148
  | ngaynaaka | Élevage et nature | 99 |
149
  | G5-Sahel | Sécurité et défense | 97 |
150
+ | + 13 autres sources | Divers domaines | |
151
 
152
  ---
153
 
 
158
  ```python
159
  import json
160
 
 
161
  with open("ARPRIM_terminologies_v5.json", encoding="utf-8") as f:
162
  data = json.load(f)
163
 
164
  print(f"{len(data)} entrées chargées")
 
 
 
 
 
 
165
  ```
166
 
167
  ### Filtres utiles
168
 
169
  ```python
170
+ physique = [e for e in data if e["domaine"] == "physique"]
171
  maths = [e for e in data if e["domaine"] == "mathematiques"]
172
  sciences = [e for e in data if e["domaine"] == "sciences_nature"]
173
+ variantes = [e for e in data if e.get("pulaar_alt")]
 
 
 
 
 
 
 
 
 
174
  ```
175
 
176
  ### Avec HuggingFace Datasets
177
 
178
  ```python
179
  from datasets import load_dataset
 
180
  ds = load_dataset("ARPRIM/Pulaar_Dictionary",
181
  data_files="ARPRIM_terminologies_v5.json",
182
  split="train")
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
183
  ```
184
 
185
  ---
 
199
  | v1 | 7 719 | Publication initiale — 27 domaines, 28 sources |
200
  | v2 | 9 317 | +1 598 entrées (Pootle2010, terminologies EN/FR/PU) |
201
  | v3 | 9 318 | Mise à jour terminologie émotions (83 termes corrigés) |
202
+ | v4 | 10 224 | +906 entrées : physique (Balliwal), sciences de la nature, mathématiques |
203
+ | **v5** | **9,779** | **Corrections qualité : 626 entrées corrompues supprimées (sciences_nature/ILN), 54 corrections mathématiques (+M.F, hiisa-ILN_v2), refonte politique et droit (laabi-ARPRIM), physique entièrement corrigé et enrichi depuis balliwal_MFS (+181 entrées, 63 variantes pulaar_alt, 0 entrée MFS ou ILN résiduelle)** |
204
 
205
  ---
206
 
 
208
 
209
  | Dataset | Contenu | Entrées |
210
  |---|---|---|
211
+ | **Ce dataset** | Dictionnaire terminologique | 9,779 |
212
  | ARPRIM/pulaar_fulfulde (corpus) | Textes alignés FR/Pulaar | 1 020+ |
213
  | ARPRIM/Pulaar_Fulfulde_Corpus | Corpus général | — |
214
  | ARPRIM/Pulaar_Fulfulde_Model | Modèle de langue | — |
 
217
 
218
  ## Accès web
219
 
220
+ La page de consultation interactive est disponible sur **[pulaar.org](https://pulaar.org)** — recherche plein texte FR/Pulaar/Anglais, filtres par domaine (29 catégories), variantes dialectales et traductions arabes.
221
 
222
  ---
223
 
 
238
  publisher = {HuggingFace},
239
  url = {https://huggingface.co/datasets/ARPRIM/Pulaar_Dictionary},
240
  license = {cc-by-4.0},
241
+ note = {9,779 entrées · 29 domaines · 34 sources · FR/Pulaar/EN/AR}
242
  }
243
  ```
244