Hugging Face's logo

Datasets:
Basma2423
/
Arabic-Terminologies-and-Definitions

Modalities:
Text
Formats:
parquet
Languages:
Arabic
Size:
100K - 1M
Libraries:
Datasets
pandas
License:
Dataset card Data Studio Files
xet
Community
1
Basma commited on
Commit
29d6a57
·
verified ·
1 Parent(s): 8df86ab

Upload preprocess.ipynb

Browse files
Files changed (1) hide show
  1. preprocess.ipynb +773 -0
preprocess.ipynb ADDED
@@ -0,0 +1,773 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "cells": [
3
+ {
4
+ "cell_type": "code",
5
+ "execution_count": null,
6
+ "metadata": {},
7
+ "outputs": [],
8
+ "source": [
9
+ "!pip install pandas lxml tqdm datasets huggingface_hub\n",
10
+ "\n",
11
+ "import xml.etree.ElementTree as ET\n",
12
+ "import pandas as pd\n",
13
+ "import unicodedata\n",
14
+ "\n",
15
+ "import re\n",
16
+ "\n",
17
+ "from huggingface_hub import login\n",
18
+ "from datasets import load_dataset, Dataset\n",
19
+ "\n",
20
+ "login(token=\"X\")"
21
+ ]
22
+ },
23
+ {
24
+ "cell_type": "code",
25
+ "execution_count": 9,
26
+ "metadata": {},
27
+ "outputs": [],
28
+ "source": [
29
+ "def normalize_arabic(text):\n",
30
+ " if text:\n",
31
+ " return unicodedata.normalize(\"NFKC\", text) # Normalize Unicode form\n",
32
+ " return \"\"\n",
33
+ "\n",
34
+ "# Define your XML file path\n",
35
+ "xml_file = \"LMF-Cont.xml\"\n",
36
+ "\n",
37
+ "# Initialize list to store data\n",
38
+ "data = []\n",
39
+ "\n",
40
+ "# Parse XML efficiently\n",
41
+ "context = ET.iterparse(xml_file, events=(\"start\", \"end\"))\n",
42
+ "_, root = next(context) # Get root element"
43
+ ]
44
+ },
45
+ {
46
+ "cell_type": "code",
47
+ "execution_count": 10,
48
+ "metadata": {},
49
+ "outputs": [],
50
+ "source": [
51
+ "for event, elem in context:\n",
52
+ " if event == \"end\" and elem.tag == \"Sense\": \n",
53
+ " sense_id = elem.attrib.get(\"id\", \"\") # Get Sense ID\n",
54
+ "\n",
55
+ " # Extract and normalize definition\n",
56
+ " definition_elem = elem.find(\"Definition/feat[@att='text']\")\n",
57
+ " definition = normalize_arabic(definition_elem.attrib.get(\"val\", \"\")) if definition_elem is not None else \"\"\n",
58
+ "\n",
59
+ " # Extract example sentences (if multiple exist)\n",
60
+ " examples = [normalize_arabic(ex.attrib.get(\"val\", \"\")) for ex in elem.findall(\"SenseExample/feat[@att='text']\")]\n",
61
+ "\n",
62
+ " # Append extracted data\n",
63
+ " data.append({\n",
64
+ " \"Sense_ID\": sense_id,\n",
65
+ " \"Definition\": definition,\n",
66
+ " \"Examples\": \" | \".join(examples) # Join multiple examples\n",
67
+ " })\n",
68
+ "\n",
69
+ " # Clear processed elements to save memory\n",
70
+ " elem.clear()"
71
+ ]
72
+ },
73
+ {
74
+ "cell_type": "code",
75
+ "execution_count": 11,
76
+ "metadata": {},
77
+ "outputs": [
78
+ {
79
+ "name": "stdout",
80
+ "output_type": "stream",
81
+ "text": [
82
+ "Saved 113069 entries to arabic_reverse_dictionary_cleaned.csv\n"
83
+ ]
84
+ }
85
+ ],
86
+ "source": [
87
+ "df = pd.DataFrame(data)\n",
88
+ "\n",
89
+ "# Save to CSV\n",
90
+ "csv_file = \"arabic_reverse_dictionary_cleaned.csv\"\n",
91
+ "df.to_csv(csv_file, index=False, encoding=\"utf-8\")\n",
92
+ "\n",
93
+ "print(f\"Saved {len(df)} entries to {csv_file}\")"
94
+ ]
95
+ },
96
+ {
97
+ "cell_type": "code",
98
+ "execution_count": 14,
99
+ "metadata": {},
100
+ "outputs": [
101
+ {
102
+ "data": {
103
+ "text/html": [
104
+ "<div>\n",
105
+ "<style scoped>\n",
106
+ " .dataframe tbody tr th:only-of-type {\n",
107
+ " vertical-align: middle;\n",
108
+ " }\n",
109
+ "\n",
110
+ " .dataframe tbody tr th {\n",
111
+ " vertical-align: top;\n",
112
+ " }\n",
113
+ "\n",
114
+ " .dataframe thead th {\n",
115
+ " text-align: right;\n",
116
+ " }\n",
117
+ "</style>\n",
118
+ "<table border=\"1\" class=\"dataframe\">\n",
119
+ " <thead>\n",
120
+ " <tr style=\"text-align: right;\">\n",
121
+ " <th></th>\n",
122
+ " <th>Sense_ID</th>\n",
123
+ " <th>Definition</th>\n",
124
+ " <th>Examples</th>\n",
125
+ " </tr>\n",
126
+ " </thead>\n",
127
+ " <tbody>\n",
128
+ " <tr>\n",
129
+ " <th>0</th>\n",
130
+ " <td>أ2D1</td>\n",
131
+ " <td></td>\n",
132
+ " <td></td>\n",
133
+ " </tr>\n",
134
+ " <tr>\n",
135
+ " <th>1</th>\n",
136
+ " <td>أ2D2</td>\n",
137
+ " <td>حرف نداء للقريب حقيقة، أو القريب في الذِّهن .</td>\n",
138
+ " <td>أبُنَيَّ لا تخشَ كلمة الحقّ | أَمَنْ هُوَ قَان...</td>\n",
139
+ " </tr>\n",
140
+ " <tr>\n",
141
+ " <th>2</th>\n",
142
+ " <td>أ2D3</td>\n",
143
+ " <td>حرف استفهام يُستفهم به عن وقوع الشيء أو عدم وق...</td>\n",
144
+ " <td>أسافر أخوك؟ نعم سافر أخي | أسافر أخوك؟ لا لم ي...</td>\n",
145
+ " </tr>\n",
146
+ " <tr>\n",
147
+ " <th>3</th>\n",
148
+ " <td>أ2D4</td>\n",
149
+ " <td>حرف استفهام يُراد به تعيين القائم بالفعل، ويجا...</td>\n",
150
+ " <td>أمحمَّد حاضر أم عليّ؟ مُحمَّد | وَإِنْ أَدْرِي...</td>\n",
151
+ " </tr>\n",
152
+ " <tr>\n",
153
+ " <th>4</th>\n",
154
+ " <td>أ2D5</td>\n",
155
+ " <td>حرف استفهام للتسوية، يأتي بعد سوا�� أو سيَّان .</td>\n",
156
+ " <td>سواءٌ عليَّ أسافرت أم لم تسافر | إِنَّ الَّذِي...</td>\n",
157
+ " </tr>\n",
158
+ " <tr>\n",
159
+ " <th>5</th>\n",
160
+ " <td>أ2D6</td>\n",
161
+ " <td>حرف يكون في أوّل الفعل المضارع للدلالة على الم...</td>\n",
162
+ " <td>أقرأُ</td>\n",
163
+ " </tr>\n",
164
+ " <tr>\n",
165
+ " <th>6</th>\n",
166
+ " <td>أ2D7</td>\n",
167
+ " <td>أحد أحرف الزيادة .</td>\n",
168
+ " <td>أكرمَ</td>\n",
169
+ " </tr>\n",
170
+ " <tr>\n",
171
+ " <th>7</th>\n",
172
+ " <td>أ2D8</td>\n",
173
+ " <td>حرف يزاد في أوّل الفعل الثلاثيّ المجرّد الماضي...</td>\n",
174
+ " <td>أجلستُ خالدًا | أفهمتُ التلميذَ الدرسَ | أعلمت...</td>\n",
175
+ " </tr>\n",
176
+ " <tr>\n",
177
+ " <th>8</th>\n",
178
+ " <td>أ2D9</td>\n",
179
+ " <td>حرف استفهام خرج عن معناه الحقيقيّ يفيد التعجّب .</td>\n",
180
+ " <td>أَلَمْ تَرَ إِلَى رَبِّكَ كَيْفَ مَدَّ الظِّلَّ</td>\n",
181
+ " </tr>\n",
182
+ " <tr>\n",
183
+ " <th>9</th>\n",
184
+ " <td>أ2D10</td>\n",
185
+ " <td>حرف استفهام خرج عن معناه الحقيقيّ يفيد التهكّم .</td>\n",
186
+ " <td>أَصَلاَتُكَ تَأْمُرُكَ أَنْ نَتْرُكَ مَا يَعْ...</td>\n",
187
+ " </tr>\n",
188
+ " <tr>\n",
189
+ " <th>10</th>\n",
190
+ " <td>أ2D11</td>\n",
191
+ " <td>حرف استفهام خرج عن معناه الحقيقيّ يفيد الاستبط...</td>\n",
192
+ " <td>أَلَمْ يَأْنِ لِلَّذِينَ ءَامَنُوا أَنْ تَخْش...</td>\n",
193
+ " </tr>\n",
194
+ " <tr>\n",
195
+ " <th>11</th>\n",
196
+ " <td>أ2D12</td>\n",
197
+ " <td>حرف استفهام خرج عن معناه الحقيقيّ يفيد التوبيخ .</td>\n",
198
+ " <td>أَتَعْبُدُونَ مَا تَنْحِتُونَ</td>\n",
199
+ " </tr>\n",
200
+ " <tr>\n",
201
+ " <th>12</th>\n",
202
+ " <td>أ2D13</td>\n",
203
+ " <td>حرف استفهام خرج عن معناه الحقيقيّ يفيد التقرير...</td>\n",
204
+ " <td>أكسرت الكرسيّ؟: إذا كان المراد أن يُقِرَّ بالك...</td>\n",
205
+ " </tr>\n",
206
+ " <tr>\n",
207
+ " <th>13</th>\n",
208
+ " <td>أ2D14</td>\n",
209
+ " <td>حرف استفهام خرج عن معناه الحقيقيّ يفيد الإنكار...</td>\n",
210
+ " <td>أَفَأَصْفَاكُمْ رَبُّكُمْ بِالْبَنِينَ وَاتَّ...</td>\n",
211
+ " </tr>\n",
212
+ " <tr>\n",
213
+ " <th>14</th>\n",
214
+ " <td>أ2D15</td>\n",
215
+ " <td>حرف استفهام يُعَدُّ شرطا في اكتفاء المشتقّ بمر...</td>\n",
216
+ " <td>أمسافر محمد؟ | أمحمودة سيرته؟ | أَحَسَنٌ فِعْل...</td>\n",
217
+ " </tr>\n",
218
+ " <tr>\n",
219
+ " <th>15</th>\n",
220
+ " <td>آD1</td>\n",
221
+ " <td>حرف نداء للبعيد أو ما هو في حُكْمه كالنائم وال...</td>\n",
222
+ " <td></td>\n",
223
+ " </tr>\n",
224
+ " <tr>\n",
225
+ " <th>16</th>\n",
226
+ " <td>آبD1</td>\n",
227
+ " <td>الشّهر الثّامن من شهور السَّنة الشَّمسيَّة، يأ...</td>\n",
228
+ " <td></td>\n",
229
+ " </tr>\n",
230
+ " <tr>\n",
231
+ " <th>17</th>\n",
232
+ " <td>آبD2</td>\n",
233
+ " <td>الأُقْنُوم أو الأصل الأوَّل من الثَّالوث الأقد...</td>\n",
234
+ " <td></td>\n",
235
+ " </tr>\n",
236
+ " <tr>\n",
237
+ " <th>18</th>\n",
238
+ " <td>آبنوسD1</td>\n",
239
+ " <td>(نت) أبنوس،شجر مثمر من الفصيلة الآبنوسيّة، أو...</td>\n",
240
+ " <td></td>\n",
241
+ " </tr>\n",
242
+ " <tr>\n",
243
+ " <th>19</th>\n",
244
+ " <td>آبنوسيةD1</td>\n",
245
+ " <td></td>\n",
246
+ " <td></td>\n",
247
+ " </tr>\n",
248
+ " <tr>\n",
249
+ " <th>20</th>\n",
250
+ " <td>آبنوسيَّةD2</td>\n",
251
+ " <td>اسم مؤنَّث منسوب إلى آبَنُوسُ/ آبُنُوسُ/ آبِنُ...</td>\n",
252
+ " <td></td>\n",
253
+ " </tr>\n",
254
+ " <tr>\n",
255
+ " <th>21</th>\n",
256
+ " <td>آبنوسيَّةD3</td>\n",
257
+ " <td>مادّة صُلبة سوداء، غير موصِّلة للكهرباء، تنتج ...</td>\n",
258
+ " <td></td>\n",
259
+ " </tr>\n",
260
+ " <tr>\n",
261
+ " <th>22</th>\n",
262
+ " <td>آجرD1</td>\n",
263
+ " <td>المفرد آجُرَّة: لَبِن محروق مُعدٌّ للبناء، وتت...</td>\n",
264
+ " <td></td>\n",
265
+ " </tr>\n",
266
+ " <tr>\n",
267
+ " <th>23</th>\n",
268
+ " <td>آحD1</td>\n",
269
+ " <td>بياض البيض الذي يؤكل، والماحُ صُفْرتُه .</td>\n",
270
+ " <td>في الآح شيءٌ من البروتين</td>\n",
271
+ " </tr>\n",
272
+ " <tr>\n",
273
+ " <th>24</th>\n",
274
+ " <td>آحD2</td>\n",
275
+ " <td>مادّة نشويّة أو بروتينيّة أو دُهنيّة في البذرة...</td>\n",
276
+ " <td></td>\n",
277
+ " </tr>\n",
278
+ " <tr>\n",
279
+ " <th>25</th>\n",
280
+ " <td>آدمD1</td>\n",
281
+ " <td>أبو البشر، خلقه الله من طين وأمر الملائكة أن ت...</td>\n",
282
+ " <td></td>\n",
283
+ " </tr>\n",
284
+ " <tr>\n",
285
+ " <th>26</th>\n",
286
+ " <td>آدَمُD2</td>\n",
287
+ " <td>بروز غضروفيّ ناتئ أعلى الرقبة، يتحرَّك أثناء ا...</td>\n",
288
+ " <td></td>\n",
289
+ " </tr>\n",
290
+ " <tr>\n",
291
+ " <th>27</th>\n",
292
+ " <td>آذارD1</td>\n",
293
+ " <td>الشّهر الثّالث من شهور السّنة الشّمسيَّة، يأتي...</td>\n",
294
+ " <td></td>\n",
295
+ " </tr>\n",
296
+ " <tr>\n",
297
+ " <th>28</th>\n",
298
+ " <td>آراميونD1</td>\n",
299
+ " <td>المفرد آراميّ</td>\n",
300
+ " <td></td>\n",
301
+ " </tr>\n",
302
+ " <tr>\n",
303
+ " <th>29</th>\n",
304
+ " <td>آرامِيّونD2</td>\n",
305
+ " <td>شعب ساميّ عاش بين القرنين الثَّامن عشر والثَّا...</td>\n",
306
+ " <td></td>\n",
307
+ " </tr>\n",
308
+ " <tr>\n",
309
+ " <th>30</th>\n",
310
+ " <td>آريD1</td>\n",
311
+ " <td></td>\n",
312
+ " <td></td>\n",
313
+ " </tr>\n",
314
+ " <tr>\n",
315
+ " <th>31</th>\n",
316
+ " <td>آريّD2</td>\n",
317
+ " <td>جنس تجمعه بعض الخصائص اللُّغويَّة والجنسيَّة، ...</td>\n",
318
+ " <td>الجنس الآريّ</td>\n",
319
+ " </tr>\n",
320
+ " <tr>\n",
321
+ " <th>32</th>\n",
322
+ " <td>آريّD3</td>\n",
323
+ " <td>من ينتمي إلى الجنس الآريّ .</td>\n",
324
+ " <td>رجل آريّ</td>\n",
325
+ " </tr>\n",
326
+ " <tr>\n",
327
+ " <th>33</th>\n",
328
+ " <td>آريةD1</td>\n",
329
+ " <td></td>\n",
330
+ " <td></td>\n",
331
+ " </tr>\n",
332
+ " <tr>\n",
333
+ " <th>34</th>\n",
334
+ " <td>آريّةD2</td>\n",
335
+ " <td>لغة يُقال إنّها أصل اللغات الهندوأوربيّة.</td>\n",
336
+ " <td></td>\n",
337
+ " </tr>\n",
338
+ " <tr>\n",
339
+ " <th>35</th>\n",
340
+ " <td>آريّةD3</td>\n",
341
+ " <td>فكرة تقول بتفوّق الجنس الآريّ، وقد استندت إليه...</td>\n",
342
+ " <td></td>\n",
343
+ " </tr>\n",
344
+ " <tr>\n",
345
+ " <th>36</th>\n",
346
+ " <td>آزرD1</td>\n",
347
+ " <td>اسم أبي إبراهيم، أو لقب له، أو اسم عمّه، وكان ...</td>\n",
348
+ " <td></td>\n",
349
+ " </tr>\n",
350
+ " <tr>\n",
351
+ " <th>37</th>\n",
352
+ " <td>آزوتD1</td>\n",
353
+ " <td>(كم) غاز شفّاف لا لون له ولا رائحة ولا طعم يُع...</td>\n",
354
+ " <td></td>\n",
355
+ " </tr>\n",
356
+ " <tr>\n",
357
+ " <th>38</th>\n",
358
+ " <td>آزوتيD1</td>\n",
359
+ " <td>اسم منسوب إلى آزوتّ: محتوٍ على الآزوتّ (انظر: ...</td>\n",
360
+ " <td></td>\n",
361
+ " </tr>\n",
362
+ " <tr>\n",
363
+ " <th>39</th>\n",
364
+ " <td>آزوتّيّD2</td>\n",
365
+ " <td>سائل لا لون له، يُطلق أبخرة خانقة في الهواء، ي...</td>\n",
366
+ " <td></td>\n",
367
+ " </tr>\n",
368
+ " <tr>\n",
369
+ " <th>40</th>\n",
370
+ " <td>آس1D1</td>\n",
371
+ " <td>المفرد آسَة: (نت) شجر دائم الخضرة، بيضيّالورق...</td>\n",
372
+ " <td></td>\n",
373
+ " </tr>\n",
374
+ " <tr>\n",
375
+ " <th>41</th>\n",
376
+ " <td>آس2D1</td>\n",
377
+ " <td>ورقة من أوراق اللعب ذات نقطة أو علامة واحدة.</td>\n",
378
+ " <td></td>\n",
379
+ " </tr>\n",
380
+ " <tr>\n",
381
+ " <th>42</th>\n",
382
+ " <td>آسياD1</td>\n",
383
+ " <td>أَسْيا، أكبر القارات وأ��ثرها سكَّانًا، إذ تبلغ...</td>\n",
384
+ " <td></td>\n",
385
+ " </tr>\n",
386
+ " <tr>\n",
387
+ " <th>43</th>\n",
388
+ " <td>آسيويD1</td>\n",
389
+ " <td>اسم منسوب إلى آسْيا/ آسِيا.</td>\n",
390
+ " <td></td>\n",
391
+ " </tr>\n",
392
+ " <tr>\n",
393
+ " <th>44</th>\n",
394
+ " <td>آمينD1</td>\n",
395
+ " <td>اسم فعل أمر، ومعناه: اللّهمَّ استجبْ، أو ليكن ...</td>\n",
396
+ " <td></td>\n",
397
+ " </tr>\n",
398
+ " <tr>\n",
399
+ " <th>45</th>\n",
400
+ " <td>آنسونD1</td>\n",
401
+ " <td>(نت) أنيسون، يانسون؛ نبات حوليّ من فصيلة الخيم...</td>\n",
402
+ " <td></td>\n",
403
+ " </tr>\n",
404
+ " <tr>\n",
405
+ " <th>46</th>\n",
406
+ " <td>آنكD1</td>\n",
407
+ " <td>رصاص أسود، أو أبيض \"مَنْ جَلَس إِلى قَيْنَةٍ ل...</td>\n",
408
+ " <td></td>\n",
409
+ " </tr>\n",
410
+ " <tr>\n",
411
+ " <th>47</th>\n",
412
+ " <td>آهD1</td>\n",
413
+ " <td>(انظر: أ و هـ - آهْ/ آهِ/ آهٍ).</td>\n",
414
+ " <td></td>\n",
415
+ " </tr>\n",
416
+ " <tr>\n",
417
+ " <th>48</th>\n",
418
+ " <td>آيD1</td>\n",
419
+ " <td></td>\n",
420
+ " <td></td>\n",
421
+ " </tr>\n",
422
+ " <tr>\n",
423
+ " <th>49</th>\n",
424
+ " <td>آيْD2</td>\n",
425
+ " <td>حرف نداء للبعيد .</td>\n",
426
+ " <td>آيْ محمد</td>\n",
427
+ " </tr>\n",
428
+ " </tbody>\n",
429
+ "</table>\n",
430
+ "</div>"
431
+ ],
432
+ "text/plain": [
433
+ " Sense_ID Definition \\\n",
434
+ "0 أ2D1 \n",
435
+ "1 أ2D2 حرف نداء للقريب حقيقة، أو القريب في الذِّهن . \n",
436
+ "2 أ2D3 حرف استفهام يُستفهم به عن وقوع الشيء أو عدم وق... \n",
437
+ "3 أ2D4 حرف استفهام يُراد به تعيين القائم بالفعل، ويجا... \n",
438
+ "4 أ2D5 حرف استفهام للتسوية، يأتي بعد سواء أو سيَّان . \n",
439
+ "5 أ2D6 حرف يكون في أوّل الفعل المضارع للدلالة على الم... \n",
440
+ "6 أ2D7 أحد أحرف الزيادة . \n",
441
+ "7 أ2D8 حرف يزاد في أوّل الفعل الثلاثيّ المجرّد الماضي... \n",
442
+ "8 أ2D9 حرف استفهام خرج عن معناه الحقيقيّ يفيد التعجّب . \n",
443
+ "9 أ2D10 حرف استفهام خرج عن معناه الحقيقيّ يفيد التهكّم . \n",
444
+ "10 أ2D11 حرف استفهام خرج عن معناه الحقيقيّ يفيد الاستبط... \n",
445
+ "11 أ2D12 حرف استفهام خرج عن معناه الحقيقيّ يفيد التوبيخ . \n",
446
+ "12 أ2D13 حرف استفهام خرج عن معناه الحقيقيّ يفيد التقرير... \n",
447
+ "13 أ2D14 حرف استفهام خرج عن معناه الحقيقيّ يفيد الإنكار... \n",
448
+ "14 أ2D15 حرف استفهام يُعَدُّ شرطا في اكتفاء المشتقّ بمر... \n",
449
+ "15 آD1 حرف نداء للبعيد أو ما هو في حُكْمه كالنائم وال... \n",
450
+ "16 آبD1 الشّهر الثّامن من شهور السَّنة الشَّمسيَّة، يأ... \n",
451
+ "17 آبD2 الأُقْنُوم أو الأصل الأوَّل من الثَّالوث الأقد... \n",
452
+ "18 آبنوسD1 (نت) أبنوس،شجر مثمر من الفصيلة الآبنوسيّة، أو... \n",
453
+ "19 آبنوسيةD1 \n",
454
+ "20 آبنوسيَّةD2 اسم مؤنَّث منسوب إلى آبَنُوسُ/ آبُنُوسُ/ آبِنُ... \n",
455
+ "21 آبنوسيَّةD3 مادّة صُلبة سوداء، غير موصِّلة للكهرباء، تنتج ... \n",
456
+ "22 آجرD1 المفرد آجُرَّة: لَبِن محروق مُعدٌّ للبناء، وتت... \n",
457
+ "23 آحD1 بياض البيض الذي يؤكل، والماحُ صُفْرتُه . \n",
458
+ "24 آحD2 مادّة نشويّة أو بروتينيّة أو دُهنيّة في البذرة... \n",
459
+ "25 آدمD1 أبو البشر، خلقه الله من طين وأمر الملائكة أن ت... \n",
460
+ "26 آدَمُD2 بروز غضروفيّ ناتئ أعلى الرقبة، يتحرَّك أثناء ا... \n",
461
+ "27 آذارD1 الشّهر الثّالث من شهور السّنة الشّمسيَّة، يأتي... \n",
462
+ "28 آراميونD1 المفرد آراميّ \n",
463
+ "29 آرامِيّونD2 شعب ساميّ عاش بين القرنين الثَّامن عشر والثَّا... \n",
464
+ "30 آريD1 \n",
465
+ "31 آريّD2 جنس تجمعه بعض الخصائص اللُّغويَّة والجنسيَّة، ... \n",
466
+ "32 آريّD3 من ينتمي إلى الجنس الآريّ . \n",
467
+ "33 آريةD1 \n",
468
+ "34 آريّةD2 لغة يُقال إنّها أصل اللغات الهندوأوربيّة. \n",
469
+ "35 آريّةD3 فكرة تقول بتفوّق الجنس الآريّ، وقد استندت إليه... \n",
470
+ "36 آزرD1 اسم أبي إبراهيم، أو لقب له، أو اسم عمّه، وكان ... \n",
471
+ "37 آزوتD1 (كم) غاز شفّاف لا لون له ولا رائحة ولا طعم يُع... \n",
472
+ "38 آزوتيD1 اسم منسوب إلى آزوتّ: محتوٍ على الآزوتّ (انظر: ... \n",
473
+ "39 آزوتّيّD2 سائل لا لون له، يُطلق أبخرة خانقة في الهواء، ي... \n",
474
+ "40 آس1D1 المفرد آسَة: (نت) شجر دائم الخضرة، بيضيّالورق... \n",
475
+ "41 آس2D1 ورقة من أوراق اللعب ذات نقطة أو علامة واحدة. \n",
476
+ "42 آسياD1 أَسْيا، أكبر القارات وأكثرها سكَّانًا، إذ تبلغ... \n",
477
+ "43 آسيويD1 اسم منسوب إلى آسْيا/ آسِيا. \n",
478
+ "44 آمينD1 اسم فعل أمر، ومعناه: اللّهمَّ استجبْ، أو ليكن ... \n",
479
+ "45 آنسونD1 (نت) أنيسون، يانسون؛ نبات حوليّ من فصيلة الخيم... \n",
480
+ "46 آنكD1 رصاص أسود، أو أبيض \"مَنْ جَلَس إِلى قَيْنَةٍ ل... \n",
481
+ "47 آهD1 (انظر: أ و هـ - آهْ/ آهِ/ آهٍ). \n",
482
+ "48 آيD1 \n",
483
+ "49 آيْD2 حرف نداء للبعيد . \n",
484
+ "\n",
485
+ " Examples \n",
486
+ "0 \n",
487
+ "1 أبُنَيَّ لا تخشَ كلمة الحقّ | أَمَنْ هُوَ قَان... \n",
488
+ "2 أسافر أخوك؟ نعم سافر أخي | أسافر أخوك؟ لا لم ي... \n",
489
+ "3 أمحمَّد حاضر أم عليّ؟ مُحمَّد | وَإِنْ أَدْرِي... \n",
490
+ "4 سواءٌ عليَّ أسافرت أم لم تسافر | إِنَّ الَّذِي... \n",
491
+ "5 أقرأُ \n",
492
+ "6 أكرمَ \n",
493
+ "7 أجلستُ خالدًا | أفهمتُ التلميذَ الدرسَ | أعلمت... \n",
494
+ "8 أَلَمْ تَرَ إِلَى رَبِّكَ كَيْفَ مَدَّ الظِّلَّ \n",
495
+ "9 أَصَلاَتُكَ تَأْمُرُكَ أَنْ نَتْرُكَ مَا يَعْ... \n",
496
+ "10 أَلَمْ يَأْنِ لِلَّذِينَ ءَامَنُوا أَنْ تَخْش... \n",
497
+ "11 أَتَعْبُدُونَ مَا تَنْحِتُونَ \n",
498
+ "12 أكسرت الكرسيّ؟: إذا كان المراد أن يُقِرَّ بالك... \n",
499
+ "13 أَفَأَصْفَاكُمْ رَبُّكُمْ بِالْبَنِينَ وَاتَّ... \n",
500
+ "14 أمسافر محمد؟ | أمحمودة سيرته؟ | أَحَسَنٌ فِعْل... \n",
501
+ "15 \n",
502
+ "16 \n",
503
+ "17 \n",
504
+ "18 \n",
505
+ "19 \n",
506
+ "20 \n",
507
+ "21 \n",
508
+ "22 \n",
509
+ "23 في الآح شيءٌ من البروتين \n",
510
+ "24 \n",
511
+ "25 \n",
512
+ "26 \n",
513
+ "27 \n",
514
+ "28 \n",
515
+ "29 \n",
516
+ "30 \n",
517
+ "31 الجنس الآريّ \n",
518
+ "32 رجل آريّ \n",
519
+ "33 \n",
520
+ "34 \n",
521
+ "35 \n",
522
+ "36 \n",
523
+ "37 \n",
524
+ "38 \n",
525
+ "39 \n",
526
+ "40 \n",
527
+ "41 \n",
528
+ "42 \n",
529
+ "43 \n",
530
+ "44 \n",
531
+ "45 \n",
532
+ "46 \n",
533
+ "47 \n",
534
+ "48 \n",
535
+ "49 آيْ محمد "
536
+ ]
537
+ },
538
+ "execution_count": 14,
539
+ "metadata": {},
540
+ "output_type": "execute_result"
541
+ }
542
+ ],
543
+ "source": [
544
+ "df.head(50)"
545
+ ]
546
+ },
547
+ {
548
+ "cell_type": "code",
549
+ "execution_count": 15,
550
+ "metadata": {},
551
+ "outputs": [
552
+ {
553
+ "name": "stdout",
554
+ "output_type": "stream",
555
+ "text": [
556
+ "Sense_ID column cleaned successfully, diacritics preserved!\n"
557
+ ]
558
+ }
559
+ ],
560
+ "source": [
561
+ "def clean_sense_id(sense_id):\n",
562
+ " return re.sub(r\"[^ء-يًٌٍَُِّْ]\", \"\", sense_id) # Keeps Arabic letters and diacritics\n",
563
+ "\n",
564
+ "# Apply the function to clean the column\n",
565
+ "df[\"Sense_ID\"] = df[\"Sense_ID\"].apply(clean_sense_id)\n",
566
+ "\n",
567
+ "# Save the cleaned data\n",
568
+ "df.to_csv(\"arabic_reverse_dictionary_cleaned.csv\", index=False, encoding=\"utf-8\")\n",
569
+ "\n",
570
+ "print(\"Sense_ID column cleaned successfully, diacritics preserved!\")"
571
+ ]
572
+ },
573
+ {
574
+ "cell_type": "code",
575
+ "execution_count": 19,
576
+ "metadata": {},
577
+ "outputs": [
578
+ {
579
+ "data": {
580
+ "text/plain": [
581
+ "Sense_ID أ\n",
582
+ "Definition حرف نداء للقريب حقيقة، أو القريب في الذِّهن .\n",
583
+ "Examples أبُنَيَّ لا تخشَ كلمة الحقّ | أَمَنْ هُوَ قَان...\n",
584
+ "Name: 1, dtype: object"
585
+ ]
586
+ },
587
+ "execution_count": 19,
588
+ "metadata": {},
589
+ "output_type": "execute_result"
590
+ }
591
+ ],
592
+ "source": [
593
+ "df.iloc[1]"
594
+ ]
595
+ },
596
+ {
597
+ "cell_type": "code",
598
+ "execution_count": 22,
599
+ "metadata": {},
600
+ "outputs": [
601
+ {
602
+ "name": "stdout",
603
+ "output_type": "stream",
604
+ "text": [
605
+ "Number of empty rows: 0/ 113069\n",
606
+ "Empty DataFrame\n",
607
+ "Columns: [Sense_ID, Definition, Examples]\n",
608
+ "Index: []\n"
609
+ ]
610
+ }
611
+ ],
612
+ "source": [
613
+ "# Find rows where Sense_ID or Definition is empty or NaN\n",
614
+ "empty_rows = df[(df[\"Definition\"].isna()) | (df[\"Definition\"] == \"\")]\n",
615
+ "\n",
616
+ "# Print the number of empty rows found\n",
617
+ "print(f\"Number of empty rows: {len(empty_rows)}/ {len(df)}\")\n",
618
+ "\n",
619
+ "# Display the first few empty rows (if any)\n",
620
+ "print(empty_rows.head())"
621
+ ]
622
+ },
623
+ {
624
+ "cell_type": "code",
625
+ "execution_count": null,
626
+ "metadata": {},
627
+ "outputs": [
628
+ {
629
+ "name": "stdout",
630
+ "output_type": "stream",
631
+ "text": [
632
+ "106432\n",
633
+ "Number of empty rows: 0/ 106432\n"
634
+ ]
635
+ }
636
+ ],
637
+ "source": [
638
+ "# remove rows with no definition\n",
639
+ "df = df[~(df[\"Definition\"].isna() | (df[\"Definition\"] == \"\"))]\n",
640
+ "\n",
641
+ "print(len(df))\n",
642
+ "\n",
643
+ "# check again\n",
644
+ "empty_rows = df[(df[\"Definition\"].isna()) | (df[\"Definition\"] == \"\")]\n",
645
+ "print(f\"Number of empty rows: {len(empty_rows)}/ {len(df)}\")"
646
+ ]
647
+ },
648
+ {
649
+ "cell_type": "code",
650
+ "execution_count": null,
651
+ "metadata": {},
652
+ "outputs": [],
653
+ "source": [
654
+ "# rename the Sense_ID column to Terminology\n",
655
+ "df.rename(columns={\"Sense_ID\": \"Terminology\"}, inplace=True)"
656
+ ]
657
+ },
658
+ {
659
+ "cell_type": "code",
660
+ "execution_count": 25,
661
+ "metadata": {},
662
+ "outputs": [
663
+ {
664
+ "name": "stdout",
665
+ "output_type": "stream",
666
+ "text": [
667
+ "Requirement already satisfied: datasets in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (3.2.0)\n",
668
+ "Requirement already satisfied: huggingface_hub in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (0.24.7)\n",
669
+ "Requirement already satisfied: filelock in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (3.13.1)\n",
670
+ "Requirement already satisfied: numpy>=1.17 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (1.24.3)\n",
671
+ "Requirement already satisfied: pyarrow>=15.0.0 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (19.0.0)\n",
672
+ "Requirement already satisfied: dill<0.3.9,>=0.3.0 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (0.3.8)\n",
673
+ "Requirement already satisfied: pandas in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (2.2.2)\n",
674
+ "Requirement already satisfied: requests>=2.32.2 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (2.32.3)\n",
675
+ "Requirement already satisfied: tqdm>=4.66.3 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (4.67.1)\n",
676
+ "Requirement already satisfied: xxhash in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (3.5.0)\n",
677
+ "Requirement already satisfied: multiprocess<0.70.17 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (0.70.16)\n",
678
+ "Requirement already satisfied: fsspec<=2024.9.0,>=2023.1.0 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from fsspec[http]<=2024.9.0,>=2023.1.0->datasets) (2023.10.0)\n",
679
+ "Requirement already satisfied: aiohttp in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (3.9.3)\n",
680
+ "Requirement already satisfied: packaging in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (23.1)\n",
681
+ "Requirement already satisfied: pyyaml>=5.1 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (6.0.1)\n",
682
+ "Requirement already satisfied: typing-extensions>=3.7.4.3 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from huggingface_hub) (4.9.0)\n",
683
+ "Requirement already satisfied: aiosignal>=1.1.2 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from aiohttp->datasets) (1.2.0)\n",
684
+ "Requirement already satisfied: attrs>=17.3.0 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from aiohttp->datasets) (23.1.0)\n",
685
+ "Requirement already satisfied: frozenlist>=1.1.1 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from aiohttp->datasets) (1.4.0)\n",
686
+ "Requirement already satisfied: multidict<7.0,>=4.5 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from aiohttp->datasets) (6.0.4)\n",
687
+ "Requirement already satisfied: yarl<2.0,>=1.0 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from aiohttp->datasets) (1.9.3)\n",
688
+ "Requirement already satisfied: charset-normalizer<4,>=2 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from requests>=2.32.2->datasets) (2.0.4)\n",
689
+ "Requirement already satisfied: idna<4,>=2.5 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from requests>=2.32.2->datasets) (3.4)\n",
690
+ "Requirement already satisfied: urllib3<3,>=1.21.1 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from requests>=2.32.2->datasets) (2.0.7)\n",
691
+ "Requirement already satisfied: certifi>=2017.4.17 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from requests>=2.32.2->datasets) (2024.8.30)\n",
692
+ "Requirement already satisfied: python-dateutil>=2.8.2 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from pandas->datasets) (2.8.2)\n",
693
+ "Requirement already satisfied: pytz>=2020.1 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from pandas->datasets) (2023.3.post1)\n",
694
+ "Requirement already satisfied: tzdata>=2022.7 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from pandas->datasets) (2023.3)\n",
695
+ "Requirement already satisfied: six>=1.5 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from python-dateutil>=2.8.2->pandas->datasets) (1.16.0)\n",
696
+ "\n",
697
+ "\u001b[1m[\u001b[0m\u001b[34;49mnotice\u001b[0m\u001b[1;39;49m]\u001b[0m\u001b[39;49m A new release of pip is available: \u001b[0m\u001b[31;49m24.3.1\u001b[0m\u001b[39;49m -> \u001b[0m\u001b[32;49m25.0\u001b[0m\n",
698
+ "\u001b[1m[\u001b[0m\u001b[34;49mnotice\u001b[0m\u001b[1;39;49m]\u001b[0m\u001b[39;49m To update, run: \u001b[0m\u001b[32;49mpip install --upgrade pip\u001b[0m\n",
699
+ "The token has not been saved to the git credentials helper. Pass `add_to_git_credential=True` in this function directly or `--add-to-git-credential` if using via `huggingface-cli` if you want to set the git credential as well.\n",
700
+ "Token is valid (permission: fineGrained).\n",
701
+ "Your token has been saved to /home/floubsy2423/.cache/huggingface/token\n",
702
+ "Login successful\n"
703
+ ]
704
+ },
705
+ {
706
+ "data": {
707
+ "application/vnd.jupyter.widget-view+json": {
708
+ "model_id": "5aa454235d6f457aa22729422ed004b1",
709
+ "version_major": 2,
710
+ "version_minor": 0
711
+ },
712
+ "text/plain": [
713
+ "Uploading the dataset shards: 0%| | 0/1 [00:00<?, ?it/s]"
714
+ ]
715
+ },
716
+ "metadata": {},
717
+ "output_type": "display_data"
718
+ },
719
+ {
720
+ "data": {
721
+ "application/vnd.jupyter.widget-view+json": {
722
+ "model_id": "dc902e4888444a41a308b3381aa07518",
723
+ "version_major": 2,
724
+ "version_minor": 0
725
+ },
726
+ "text/plain": [
727
+ "Creating parquet from Arrow format: 0%| | 0/107 [00:00<?, ?ba/s]"
728
+ ]
729
+ },
730
+ "metadata": {},
731
+ "output_type": "display_data"
732
+ },
733
+ {
734
+ "data": {
735
+ "text/plain": [
736
+ "CommitInfo(commit_url='https://huggingface.co/datasets/FlouBsy/Arabic-Terminologies-and-Definitions/commit/0b0c924884f0beb8f7ad2c76ae699cc8cffd54ff', commit_message='Upload dataset', commit_description='', oid='0b0c924884f0beb8f7ad2c76ae699cc8cffd54ff', pr_url=None, pr_revision=None, pr_num=None)"
737
+ ]
738
+ },
739
+ "execution_count": 25,
740
+ "metadata": {},
741
+ "output_type": "execute_result"
742
+ }
743
+ ],
744
+ "source": [
745
+ "# upload to hugging face\n",
746
+ "dataset = Dataset.from_pandas(df)\n",
747
+ "\n",
748
+ "dataset.push_to_hub(\"FlouBsy/Arabic-Terminologies-and-Definitions\")"
749
+ ]
750
+ }
751
+ ],
752
+ "metadata": {
753
+ "kernelspec": {
754
+ "display_name": "base",
755
+ "language": "python",
756
+ "name": "python3"
757
+ },
758
+ "language_info": {
759
+ "codemirror_mode": {
760
+ "name": "ipython",
761
+ "version": 3
762
+ },
763
+ "file_extension": ".py",
764
+ "mimetype": "text/x-python",
765
+ "name": "python",
766
+ "nbconvert_exporter": "python",
767
+ "pygments_lexer": "ipython3",
768
+ "version": "3.11.7"
769
+ }
770
+ },
771
+ "nbformat": 4,
772
+ "nbformat_minor": 2
773
+ }