muttaar commited on
Commit
60364a6
·
verified ·
1 Parent(s): 7e3f3a1

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +100 -159
README.md CHANGED
@@ -2,192 +2,133 @@
2
  language:
3
  - ff
4
  - fr
 
5
  tags:
6
  - pulaar
 
7
  - fulfulde
8
- - fulani
9
- - parallel-corpus
10
- - sentence-alignment
11
- - health
12
- - NLP
13
  - low-resource
14
  - translation
15
- license: cc-by-4.0
16
- task_categories:
17
- - translation
18
- - text-generation
19
- pretty_name: ARPRIM — Corpus de phrases alignées Français/Pulaar (Santé & Société)
20
  size_categories:
21
- - n<1K
22
- ---
23
-
24
- # ARPRIM — Corpus de phrases alignées Français / Pulaar
25
- ## Santé publique & Société — SOS Pairs Éducateurs
26
-
27
- **Projet ARPRIM** | [pulaar.org](https://pulaar.org) | [HuggingFace/ARPRIM](https://huggingface.co/ARPRIM)
28
-
29
  ---
30
 
31
- ## Description
32
-
33
- Ce dataset contient **232 paires de phrases alignées** Français ↔ Pulaar/Fulfulde, issues des scripts de sensibilisation de l'**Association SOS Pairs Éducateurs** (Mauritanie), produits en collaboration avec la Commune de N'Diago, BP et ses partenaires, World Vision, les Nations Unies et le Ministère de la Santé mauritanien.
34
 
35
- Il s'agit de **phrases complètes, contextualisées**, couvrant des thèmes de santé publique et de cohésion sociale un type de données rare et précieux pour les langues à faibles ressources comme le Pulaar/Fulfulde.
36
-
37
- ---
38
 
39
  ## Statistiques
40
 
41
- | Indicateur | Valeur |
42
  |---|---|
43
- | Total paires alignées | 232 |
44
- | Langue source | Français |
45
- | Langue cible | Pulaar / Fulfulde |
46
- | Nombre de thèmes | 15 |
47
- | Type de contenu | Phrases complètes (sensibilisation) |
48
- | Longueur moyenne FR | ~120 caractères |
49
- | Longueur moyenne Pulaar | ~130 caractères |
50
 
51
- ---
52
 
53
- ## Thèmes couverts
54
 
55
- | Thème | Paires |
56
  |---|---|
57
- | VIH / Sida | 38 |
58
- | Vaccination COVID-19 | 33 |
59
- | Suivi de grossesse | 27 |
60
- | Confinement COVID-19 | 25 |
61
- | Lèpre (Baras) | 20 |
62
- | Extrémisme et radicalisation | 20 |
63
- | Autotest VIH | 14 |
64
- | Grippe aviaire | 12 |
65
- | Lutte contre la drogue | 10 |
66
- | Discipline personnelle | 10 |
67
- | Fièvre Vallée du Rift | 6 |
68
- | Poliomyélite | 6 |
69
- | Fièvre Crimée-Congo | 4 |
70
- | Hépatite B | 4 |
71
- | Général | 3 |
72
- | **TOTAL** | **232** |
73
-
74
- ---
75
-
76
- ## Format des données (JSONL)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
77
 
78
- Chaque ligne est un objet JSON avec les champs suivants :
79
-
80
- ```json
81
- {
82
- "id": "SOS_0001",
83
- "theme": "Vaccination COVID-19",
84
- "francais": "Durant les 12 derniers mois, nous avons tous vécu dans l'angoisse et la peur d'être contaminés par la Covid-19.",
85
- "pulaar": "Lebbi 12 kuurɗi, eɗen ngondi, enen e wondiiɓe men, e kulol raaɓeede Cowid 19.",
86
- "domaine": "sante_societe",
87
- "source": "SOS_Pairs_Educateurs_Mauritanie"
88
- }
89
- ```
90
-
91
- ---
92
-
93
- ## Usages possibles
94
-
95
- ### 1. Entraînement / fine-tuning de modèles de traduction
96
  ```python
97
  from datasets import load_dataset
98
- ds = load_dataset("ARPRIM/pulaar_fulfulde", data_files="SOS_PAIRS_paires.jsonl")
99
-
100
- # Formater pour la traduction
101
- def format_translation(example):
102
- return {
103
- "input": f"Traduire en Pulaar : {example['francais']}",
104
- "output": example['pulaar']
105
- }
106
- ds = ds.map(format_translation)
107
- ```
108
-
109
- ### 2. Évaluation de modèles existants
110
- ```python
111
- # Tester un modèle de traduction sur ce corpus
112
- from transformers import pipeline
113
- translator = pipeline("translation", model="Helsinki-NLP/opus-mt-fr-ff")
114
-
115
- for pair in ds['train']:
116
- pred = translator(pair['francais'])[0]['translation_text']
117
- ref = pair['pulaar']
118
- # calcul BLEU, chrF, etc.
119
- ```
120
-
121
- ### 3. Extraction de vocabulaire médical
122
- ```python
123
- import json
124
- with open("SOS_PAIRS_paires.json", encoding="utf-8") as f:
125
- data = json.load(f)
126
 
127
- # Filtrer par thème
128
- sante = [p for p in data if p['theme'] in ['VIH / Sida', 'Hépatite B', 'Lèpre (Baras)']]
129
- print(f"{len(sante)} phrases sur la santé")
 
 
 
 
 
 
 
 
130
  ```
131
 
132
- ### 4. Augmentation de données (back-translation)
133
- Ce corpus peut servir de corpus de départ pour générer des données augmentées via back-translation FR→Pulaar→FR.
134
-
135
- ### 5. Intégration dans un système RAG (Retrieval-Augmented Generation)
136
- Les paires alignées permettent de construire un index vectoriel pour un assistant de santé communautaire en Pulaar.
137
-
138
- ---
139
-
140
- ## Orthographe de référence
141
-
142
- L'orthographe du Pulaar utilisée dans ce corpus suit la variante mauritanienne (**Pulaar de Mauritanie / Halpulaar**), proche de la norme de Bamako 2010 (ACALAN-UA).
143
-
144
- Caractères spéciaux utilisés : **ɓ ɗ ƴ ñ ŋ ɗ** — encodés en UTF-8.
145
-
146
- ---
147
-
148
- ## Source et crédits
149
-
150
- | Élément | Détail |
151
- |---|---|
152
- | Producteur des scripts | Association SOS Pairs Éducateurs (Mauritanie) |
153
- | Partenaires | Commune de N'Diago, BP, World Vision, Nations Unies, Ministère de la Santé RIM |
154
- | Compilation ARPRIM | Projet ARPRIM — pulaar.org |
155
- | Langue source | Français |
156
- | Langue cible | Pulaar / Fulfulde (variante mauritanienne) |
157
-
158
- ---
159
-
160
- ## Licence
161
 
162
- **CC BY 4.0** Utilisation libre avec attribution :
163
- > *Projet ARPRIM / SOS Pairs Éducateurs Mauritanie pulaar.org*
164
-
165
- ---
166
 
167
  ## Citation
168
 
169
  ```bibtex
170
- @dataset{ARPRIM_SOSPairs_2025,
171
- title = {ARPRIMCorpus de phrases alignées Français/Pulaar : Santé \& Société},
172
- author = {Projet ARPRIM and SOS Pairs Éducateurs},
173
- year = {2025},
174
- publisher = {HuggingFace},
175
- url = {https://huggingface.co/datasets/ARPRIM/pulaar_fulfulde},
176
- license = {cc-by-4.0},
177
- note = {232 paires alignées, 15 thèmes de santé publique et société}
178
  }
179
  ```
180
-
181
- ---
182
-
183
- ## Datasets connexes ARPRIM
184
-
185
- | Dataset | Description | Entrées |
186
- |---|---|---|
187
- | ARPRIM/Pulaar_Dictionary | Terminologies multidomaines | 7 719 |
188
- | ARPRIM/Pulaar_Fulfulde_Corpus | Corpus général | — |
189
- | **Ce dataset** | Phrases alignées Santé & Société | 232 |
190
-
191
- ---
192
-
193
- *Pulaar/Fulfulde — 40+ millions de locuteurs — Sénégal · Mauritanie · Mali · Guinée · Burkina Faso · Niger · Cameroun · Nigeria · Soudan*
 
2
  language:
3
  - ff
4
  - fr
5
+ - en
6
  tags:
7
  - pulaar
8
+ - fula
9
  - fulfulde
10
+ - dictionary
11
+ - multilingual
 
 
 
12
  - low-resource
13
  - translation
14
+ pretty_name: Saggitorde — Dictionnaire Pulaar/Français/Anglais
 
 
 
 
15
  size_categories:
16
+ - 1K<n<10K
 
 
 
 
 
 
 
17
  ---
18
 
19
+ # Saggitorde — Dictionnaire Pulaar / Français / Anglais
 
 
20
 
21
+ Dictionnaire multilingue Pulaar Français Anglais extrait et enrichi à partir du **Saggitorde** de **Ceerno Abuu Sih**, enrichi par les terminologies de l'ARPRIM, ILN, MFS et d'autres sources spécialisées.
 
 
22
 
23
  ## Statistiques
24
 
25
+ | Statistique | Valeur |
26
  |---|---|
27
+ | Nombre total d'entrées | 1862 |
28
+ | Nombre de domaines | 24 |
29
+ | Nombre de sources | 24 |
30
+ | Langues | Pulaar (ff), Français (fr), Anglais (en) |
 
 
 
31
 
32
+ ## Structure des données
33
 
34
+ Chaque entrée contient les champs suivants :
35
 
36
+ | Champ | Description |
37
  |---|---|
38
+ | `id` | Identifiant unique de l'entrée (ex: `ARPRIM_00001`) |
39
+ | `domaine` | Domaine thématique |
40
+ | `source` | Source / corpus d'origine |
41
+ | `francais` | Terme en français |
42
+ | `anglais` | Terme en anglais (si disponible) |
43
+ | `pulaar` | Traduction en pulaar (principale) |
44
+ | `pulaar_alt` | Traduction alternative en pulaar (si disponible) |
45
+
46
+ ## Domaines thématiques (24)
47
+
48
+ - `adjectifs_etats_emotions`
49
+ - `associations_organisations`
50
+ - `banque_finances`
51
+ - `citoyennete_droit`
52
+ - `constitution_mauritanie`
53
+ - `couleurs_nature`
54
+ - `droit_administration`
55
+ - `elevage_botanique`
56
+ - `elevage_nature`
57
+ - `general_encyclopedique`
58
+ - `general_informatique`
59
+ - `histoire_geographie`
60
+ - `informatique_interface`
61
+ - `informatique_logiciels`
62
+ - `mathematiques`
63
+ - `mathematiques_physique`
64
+ - `pedagogie`
65
+ - `physique`
66
+ - `politique_droit`
67
+ - `reseaux_sociaux`
68
+ - `sante_medecine`
69
+ - `sciences_nature`
70
+ - `securite_defense`
71
+ - `terminologie_ARPRIM`
72
+
73
+ ## Sources (24)
74
+
75
+ - `AR-FR-FF`
76
+ - `Abiword-IMS`
77
+ - `Citoy`
78
+ - `Doosgal_RIM_FBPM`
79
+ - `Faggudu`
80
+ - `G5-Sahel`
81
+ - `GIYL`
82
+ - `HIISIWAL_GFW`
83
+ - `ILN-ARPRIM`
84
+ - `Livre2-Pol_ILN`
85
+ - `Livre3-SN_kesi_xlsx`
86
+ - `MSM`
87
+ - `PACDM-II`
88
+ - `Terminologie_emotions_ARPRIM`
89
+ - `autresC_BAB`
90
+ - `balliwal_MFS`
91
+ - `elevage_ASB`
92
+ - `facebook`
93
+ - `hiisa-iln-Math_kesi_xlsx`
94
+ - `kelme1ereTrad_BAB`
95
+ - `livre1-HG_ILN`
96
+ - `ngaynaaka`
97
+ - `noordi`
98
+ - `pedagogie`
99
+
100
+ ## Exemple d'utilisation
101
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
102
  ```python
103
  from datasets import load_dataset
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
104
 
105
+ ds = load_dataset("json", data_files="train.jsonl")
106
+ print(ds["train"][0])
107
+ # {
108
+ # 'id': 'ARPRIM_00001',
109
+ # 'domaine': 'adjectifs_etats_emotions',
110
+ # 'source': 'Terminologie_emotions_ARPRIM',
111
+ # 'francais': 'Apeuré',
112
+ # 'anglais': 'Afraid',
113
+ # 'pulaar': 'kulɗo',
114
+ # 'pulaar_alt': 'kulɗo'
115
+ # }
116
  ```
117
 
118
+ ## Cas d'usage
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
119
 
120
+ - Traduction automatique Pulaar Français / Anglais
121
+ - Entraînement de modèles de langue pour le Pulaar (langue à faibles ressources)
122
+ - Construction de lexiques spécialisés
123
+ - Recherche en TAL sur les langues africaines
124
 
125
  ## Citation
126
 
127
  ```bibtex
128
+ @misc{saggitorde2025,
129
+ title={SaggitordeDictionnaire Pulaar-Français-Anglais},
130
+ author={Ceerno Abuu Sih and ARPRIM},
131
+ year={2025},
132
+ note={Enrichi et corrigé par la communauté}
 
 
 
133
  }
134
  ```