{ "cells": [ { "cell_type": "code", "execution_count": null, "metadata": {}, "outputs": [], "source": [ "!pip install pandas lxml tqdm datasets huggingface_hub\n", "\n", "import xml.etree.ElementTree as ET\n", "import pandas as pd\n", "import unicodedata\n", "\n", "import re\n", "\n", "from huggingface_hub import login\n", "from datasets import load_dataset, Dataset\n", "\n", "login(token=\"X\")" ] }, { "cell_type": "code", "execution_count": 9, "metadata": {}, "outputs": [], "source": [ "def normalize_arabic(text):\n", " if text:\n", " return unicodedata.normalize(\"NFKC\", text) # Normalize Unicode form\n", " return \"\"\n", "\n", "# Define your XML file path\n", "xml_file = \"LMF-Cont.xml\"\n", "\n", "# Initialize list to store data\n", "data = []\n", "\n", "# Parse XML efficiently\n", "context = ET.iterparse(xml_file, events=(\"start\", \"end\"))\n", "_, root = next(context) # Get root element" ] }, { "cell_type": "code", "execution_count": 10, "metadata": {}, "outputs": [], "source": [ "for event, elem in context:\n", " if event == \"end\" and elem.tag == \"Sense\": \n", " sense_id = elem.attrib.get(\"id\", \"\") # Get Sense ID\n", "\n", " # Extract and normalize definition\n", " definition_elem = elem.find(\"Definition/feat[@att='text']\")\n", " definition = normalize_arabic(definition_elem.attrib.get(\"val\", \"\")) if definition_elem is not None else \"\"\n", "\n", " # Extract example sentences (if multiple exist)\n", " examples = [normalize_arabic(ex.attrib.get(\"val\", \"\")) for ex in elem.findall(\"SenseExample/feat[@att='text']\")]\n", "\n", " # Append extracted data\n", " data.append({\n", " \"Sense_ID\": sense_id,\n", " \"Definition\": definition,\n", " \"Examples\": \" | \".join(examples) # Join multiple examples\n", " })\n", "\n", " # Clear processed elements to save memory\n", " elem.clear()" ] }, { "cell_type": "code", "execution_count": 11, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "Saved 113069 entries to arabic_reverse_dictionary_cleaned.csv\n" ] } ], "source": [ "df = pd.DataFrame(data)\n", "\n", "# Save to CSV\n", "csv_file = \"arabic_reverse_dictionary_cleaned.csv\"\n", "df.to_csv(csv_file, index=False, encoding=\"utf-8\")\n", "\n", "print(f\"Saved {len(df)} entries to {csv_file}\")" ] }, { "cell_type": "code", "execution_count": 14, "metadata": {}, "outputs": [ { "data": { "text/html": [ "
\n", "\n", "\n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", " \n", "
Sense_IDDefinitionExamples
0أ2D1
1أ2D2حرف نداء للقريب حقيقة، أو القريب في الذِّهن .أبُنَيَّ لا تخشَ كلمة الحقّ | أَمَنْ هُوَ قَان...
2أ2D3حرف استفهام يُستفهم به عن وقوع الشيء أو عدم وق...أسافر أخوك؟ نعم سافر أخي | أسافر أخوك؟ لا لم ي...
3أ2D4حرف استفهام يُراد به تعيين القائم بالفعل، ويجا...أمحمَّد حاضر أم عليّ؟ مُحمَّد | وَإِنْ أَدْرِي...
4أ2D5حرف استفهام للتسوية، يأتي بعد سواء أو سيَّان .سواءٌ عليَّ أسافرت أم لم تسافر | إِنَّ الَّذِي...
5أ2D6حرف يكون في أوّل الفعل المضارع للدلالة على الم...أقرأُ
6أ2D7أحد أحرف الزيادة .أكرمَ
7أ2D8حرف يزاد في أوّل الفعل الثلاثيّ المجرّد الماضي...أجلستُ خالدًا | أفهمتُ التلميذَ الدرسَ | أعلمت...
8أ2D9حرف استفهام خرج عن معناه الحقيقيّ يفيد التعجّب .أَلَمْ تَرَ إِلَى رَبِّكَ كَيْفَ مَدَّ الظِّلَّ
9أ2D10حرف استفهام خرج عن معناه الحقيقيّ يفيد التهكّم .أَصَلاَتُكَ تَأْمُرُكَ أَنْ نَتْرُكَ مَا يَعْ...
10أ2D11حرف استفهام خرج عن معناه الحقيقيّ يفيد الاستبط...أَلَمْ يَأْنِ لِلَّذِينَ ءَامَنُوا أَنْ تَخْش...
11أ2D12حرف استفهام خرج عن معناه الحقيقيّ يفيد التوبيخ .أَتَعْبُدُونَ مَا تَنْحِتُونَ
12أ2D13حرف استفهام خرج عن معناه الحقيقيّ يفيد التقرير...أكسرت الكرسيّ؟: إذا كان المراد أن يُقِرَّ بالك...
13أ2D14حرف استفهام خرج عن معناه الحقيقيّ يفيد الإنكار...أَفَأَصْفَاكُمْ رَبُّكُمْ بِالْبَنِينَ وَاتَّ...
14أ2D15حرف استفهام يُعَدُّ شرطا في اكتفاء المشتقّ بمر...أمسافر محمد؟ | أمحمودة سيرته؟ | أَحَسَنٌ فِعْل...
15آD1حرف نداء للبعيد أو ما هو في حُكْمه كالنائم وال...
16آبD1الشّهر الثّامن من شهور السَّنة الشَّمسيَّة، يأ...
17آبD2الأُقْنُوم أو الأصل الأوَّل من الثَّالوث الأقد...
18آبنوسD1(نت) أبنوس،شجر مثمر من الفصيلة الآبنوسيّة، أو...
19آبنوسيةD1
20آبنوسيَّةD2اسم مؤنَّث منسوب إلى آبَنُوسُ/ آبُنُوسُ/ آبِنُ...
21آبنوسيَّةD3مادّة صُلبة سوداء، غير موصِّلة للكهرباء، تنتج ...
22آجرD1المفرد آجُرَّة: لَبِن محروق مُعدٌّ للبناء، وتت...
23آحD1بياض البيض الذي يؤكل، والماحُ صُفْرتُه .في الآح شيءٌ من البروتين
24آحD2مادّة نشويّة أو بروتينيّة أو دُهنيّة في البذرة...
25آدمD1أبو البشر، خلقه الله من طين وأمر الملائكة أن ت...
26آدَمُD2بروز غضروفيّ ناتئ أعلى الرقبة، يتحرَّك أثناء ا...
27آذارD1الشّهر الثّالث من شهور السّنة الشّمسيَّة، يأتي...
28آراميونD1المفرد آراميّ
29آرامِيّونD2شعب ساميّ عاش بين القرنين الثَّامن عشر والثَّا...
30آريD1
31آريّD2جنس تجمعه بعض الخصائص اللُّغويَّة والجنسيَّة، ...الجنس الآريّ
32آريّD3من ينتمي إلى الجنس الآريّ .رجل آريّ
33آريةD1
34آريّةD2لغة يُقال إنّها أصل اللغات الهندوأوربيّة.
35آريّةD3فكرة تقول بتفوّق الجنس الآريّ، وقد استندت إليه...
36آزرD1اسم أبي إبراهيم، أو لقب له، أو اسم عمّه، وكان ...
37آزوتD1(كم) غاز شفّاف لا لون له ولا رائحة ولا طعم يُع...
38آزوتيD1اسم منسوب إلى آزوتّ: محتوٍ على الآزوتّ (انظر: ...
39آزوتّيّD2سائل لا لون له، يُطلق أبخرة خانقة في الهواء، ي...
40آس1D1المفرد آسَة: (نت) شجر دائم الخضرة، بيضيّالورق...
41آس2D1ورقة من أوراق اللعب ذات نقطة أو علامة واحدة.
42آسياD1أَسْيا، أكبر القارات وأكثرها سكَّانًا، إذ تبلغ...
43آسيويD1اسم منسوب إلى آسْيا/ آسِيا.
44آمينD1اسم فعل أمر، ومعناه: اللّهمَّ استجبْ، أو ليكن ...
45آنسونD1(نت) أنيسون، يانسون؛ نبات حوليّ من فصيلة الخيم...
46آنكD1رصاص أسود، أو أبيض \"مَنْ جَلَس إِلى قَيْنَةٍ ل...
47آهD1(انظر: أ و هـ - آهْ/ آهِ/ آهٍ).
48آيD1
49آيْD2حرف نداء للبعيد .آيْ محمد
\n", "
" ], "text/plain": [ " Sense_ID Definition \\\n", "0 أ2D1 \n", "1 أ2D2 حرف نداء للقريب حقيقة، أو القريب في الذِّهن . \n", "2 أ2D3 حرف استفهام يُستفهم به عن وقوع الشيء أو عدم وق... \n", "3 أ2D4 حرف استفهام يُراد به تعيين القائم بالفعل، ويجا... \n", "4 أ2D5 حرف استفهام للتسوية، يأتي بعد سواء أو سيَّان . \n", "5 أ2D6 حرف يكون في أوّل الفعل المضارع للدلالة على الم... \n", "6 أ2D7 أحد أحرف الزيادة . \n", "7 أ2D8 حرف يزاد في أوّل الفعل الثلاثيّ المجرّد الماضي... \n", "8 أ2D9 حرف استفهام خرج عن معناه الحقيقيّ يفيد التعجّب . \n", "9 أ2D10 حرف استفهام خرج عن معناه الحقيقيّ يفيد التهكّم . \n", "10 أ2D11 حرف استفهام خرج عن معناه الحقيقيّ يفيد الاستبط... \n", "11 أ2D12 حرف استفهام خرج عن معناه الحقيقيّ يفيد التوبيخ . \n", "12 أ2D13 حرف استفهام خرج عن معناه الحقيقيّ يفيد التقرير... \n", "13 أ2D14 حرف استفهام خرج عن معناه الحقيقيّ يفيد الإنكار... \n", "14 أ2D15 حرف استفهام يُعَدُّ شرطا في اكتفاء المشتقّ بمر... \n", "15 آD1 حرف نداء للبعيد أو ما هو في حُكْمه كالنائم وال... \n", "16 آبD1 الشّهر الثّامن من شهور السَّنة الشَّمسيَّة، يأ... \n", "17 آبD2 الأُقْنُوم أو الأصل الأوَّل من الثَّالوث الأقد... \n", "18 آبنوسD1 (نت) أبنوس،شجر مثمر من الفصيلة الآبنوسيّة، أو... \n", "19 آبنوسيةD1 \n", "20 آبنوسيَّةD2 اسم مؤنَّث منسوب إلى آبَنُوسُ/ آبُنُوسُ/ آبِنُ... \n", "21 آبنوسيَّةD3 مادّة صُلبة سوداء، غير موصِّلة للكهرباء، تنتج ... \n", "22 آجرD1 المفرد آجُرَّة: لَبِن محروق مُعدٌّ للبناء، وتت... \n", "23 آحD1 بياض البيض الذي يؤكل، والماحُ صُفْرتُه . \n", "24 آحD2 مادّة نشويّة أو بروتينيّة أو دُهنيّة في البذرة... \n", "25 آدمD1 أبو البشر، خلقه الله من طين وأمر الملائكة أن ت... \n", "26 آدَمُD2 بروز غضروفيّ ناتئ أعلى الرقبة، يتحرَّك أثناء ا... \n", "27 آذارD1 الشّهر الثّالث من شهور السّنة الشّمسيَّة، يأتي... \n", "28 آراميونD1 المفرد آراميّ \n", "29 آرامِيّونD2 شعب ساميّ عاش بين القرنين الثَّامن عشر والثَّا... \n", "30 آريD1 \n", "31 آريّD2 جنس تجمعه بعض الخصائص اللُّغويَّة والجنسيَّة، ... \n", "32 آريّD3 من ينتمي إلى الجنس الآريّ . \n", "33 آريةD1 \n", "34 آريّةD2 لغة يُقال إنّها أصل اللغات الهندوأوربيّة. \n", "35 آريّةD3 فكرة تقول بتفوّق الجنس الآريّ، وقد استندت إليه... \n", "36 آزرD1 اسم أبي إبراهيم، أو لقب له، أو اسم عمّه، وكان ... \n", "37 آزوتD1 (كم) غاز شفّاف لا لون له ولا رائحة ولا طعم يُع... \n", "38 آزوتيD1 اسم منسوب إلى آزوتّ: محتوٍ على الآزوتّ (انظر: ... \n", "39 آزوتّيّD2 سائل لا لون له، يُطلق أبخرة خانقة في الهواء، ي... \n", "40 آس1D1 المفرد آسَة: (نت) شجر دائم الخضرة، بيضيّالورق... \n", "41 آس2D1 ورقة من أوراق اللعب ذات نقطة أو علامة واحدة. \n", "42 آسياD1 أَسْيا، أكبر القارات وأكثرها سكَّانًا، إذ تبلغ... \n", "43 آسيويD1 اسم منسوب إلى آسْيا/ آسِيا. \n", "44 آمينD1 اسم فعل أمر، ومعناه: اللّهمَّ استجبْ، أو ليكن ... \n", "45 آنسونD1 (نت) أنيسون، يانسون؛ نبات حوليّ من فصيلة الخيم... \n", "46 آنكD1 رصاص أسود، أو أبيض \"مَنْ جَلَس إِلى قَيْنَةٍ ل... \n", "47 آهD1 (انظر: أ و هـ - آهْ/ آهِ/ آهٍ). \n", "48 آيD1 \n", "49 آيْD2 حرف نداء للبعيد . \n", "\n", " Examples \n", "0 \n", "1 أبُنَيَّ لا تخشَ كلمة الحقّ | أَمَنْ هُوَ قَان... \n", "2 أسافر أخوك؟ نعم سافر أخي | أسافر أخوك؟ لا لم ي... \n", "3 أمحمَّد حاضر أم عليّ؟ مُحمَّد | وَإِنْ أَدْرِي... \n", "4 سواءٌ عليَّ أسافرت أم لم تسافر | إِنَّ الَّذِي... \n", "5 أقرأُ \n", "6 أكرمَ \n", "7 أجلستُ خالدًا | أفهمتُ التلميذَ الدرسَ | أعلمت... \n", "8 أَلَمْ تَرَ إِلَى رَبِّكَ كَيْفَ مَدَّ الظِّلَّ \n", "9 أَصَلاَتُكَ تَأْمُرُكَ أَنْ نَتْرُكَ مَا يَعْ... \n", "10 أَلَمْ يَأْنِ لِلَّذِينَ ءَامَنُوا أَنْ تَخْش... \n", "11 أَتَعْبُدُونَ مَا تَنْحِتُونَ \n", "12 أكسرت الكرسيّ؟: إذا كان المراد أن يُقِرَّ بالك... \n", "13 أَفَأَصْفَاكُمْ رَبُّكُمْ بِالْبَنِينَ وَاتَّ... \n", "14 أمسافر محمد؟ | أمحمودة سيرته؟ | أَحَسَنٌ فِعْل... \n", "15 \n", "16 \n", "17 \n", "18 \n", "19 \n", "20 \n", "21 \n", "22 \n", "23 في الآح شيءٌ من البروتين \n", "24 \n", "25 \n", "26 \n", "27 \n", "28 \n", "29 \n", "30 \n", "31 الجنس الآريّ \n", "32 رجل آريّ \n", "33 \n", "34 \n", "35 \n", "36 \n", "37 \n", "38 \n", "39 \n", "40 \n", "41 \n", "42 \n", "43 \n", "44 \n", "45 \n", "46 \n", "47 \n", "48 \n", "49 آيْ محمد " ] }, "execution_count": 14, "metadata": {}, "output_type": "execute_result" } ], "source": [ "df.head(50)" ] }, { "cell_type": "code", "execution_count": 15, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "Sense_ID column cleaned successfully, diacritics preserved!\n" ] } ], "source": [ "def clean_sense_id(sense_id):\n", " return re.sub(r\"[^ء-يًٌٍَُِّْ]\", \"\", sense_id) # Keeps Arabic letters and diacritics\n", "\n", "# Apply the function to clean the column\n", "df[\"Sense_ID\"] = df[\"Sense_ID\"].apply(clean_sense_id)\n", "\n", "# Save the cleaned data\n", "df.to_csv(\"arabic_reverse_dictionary_cleaned.csv\", index=False, encoding=\"utf-8\")\n", "\n", "print(\"Sense_ID column cleaned successfully, diacritics preserved!\")" ] }, { "cell_type": "code", "execution_count": 19, "metadata": {}, "outputs": [ { "data": { "text/plain": [ "Sense_ID أ\n", "Definition حرف نداء للقريب حقيقة، أو القريب في الذِّهن .\n", "Examples أبُنَيَّ لا تخشَ كلمة الحقّ | أَمَنْ هُوَ قَان...\n", "Name: 1, dtype: object" ] }, "execution_count": 19, "metadata": {}, "output_type": "execute_result" } ], "source": [ "df.iloc[1]" ] }, { "cell_type": "code", "execution_count": 22, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "Number of empty rows: 0/ 113069\n", "Empty DataFrame\n", "Columns: [Sense_ID, Definition, Examples]\n", "Index: []\n" ] } ], "source": [ "# Find rows where Sense_ID or Definition is empty or NaN\n", "empty_rows = df[(df[\"Definition\"].isna()) | (df[\"Definition\"] == \"\")]\n", "\n", "# Print the number of empty rows found\n", "print(f\"Number of empty rows: {len(empty_rows)}/ {len(df)}\")\n", "\n", "# Display the first few empty rows (if any)\n", "print(empty_rows.head())" ] }, { "cell_type": "code", "execution_count": null, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "106432\n", "Number of empty rows: 0/ 106432\n" ] } ], "source": [ "# remove rows with no definition\n", "df = df[~(df[\"Definition\"].isna() | (df[\"Definition\"] == \"\"))]\n", "\n", "print(len(df))\n", "\n", "# check again\n", "empty_rows = df[(df[\"Definition\"].isna()) | (df[\"Definition\"] == \"\")]\n", "print(f\"Number of empty rows: {len(empty_rows)}/ {len(df)}\")" ] }, { "cell_type": "code", "execution_count": null, "metadata": {}, "outputs": [], "source": [ "# rename the Sense_ID column to Terminology\n", "df.rename(columns={\"Sense_ID\": \"Terminology\"}, inplace=True)" ] }, { "cell_type": "code", "execution_count": 25, "metadata": {}, "outputs": [ { "name": "stdout", "output_type": "stream", "text": [ "Requirement already satisfied: datasets in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (3.2.0)\n", "Requirement already satisfied: huggingface_hub in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (0.24.7)\n", "Requirement already satisfied: filelock in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (3.13.1)\n", "Requirement already satisfied: numpy>=1.17 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (1.24.3)\n", "Requirement already satisfied: pyarrow>=15.0.0 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (19.0.0)\n", "Requirement already satisfied: dill<0.3.9,>=0.3.0 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (0.3.8)\n", "Requirement already satisfied: pandas in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (2.2.2)\n", "Requirement already satisfied: requests>=2.32.2 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (2.32.3)\n", "Requirement already satisfied: tqdm>=4.66.3 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (4.67.1)\n", "Requirement already satisfied: xxhash in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (3.5.0)\n", "Requirement already satisfied: multiprocess<0.70.17 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (0.70.16)\n", "Requirement already satisfied: fsspec<=2024.9.0,>=2023.1.0 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from fsspec[http]<=2024.9.0,>=2023.1.0->datasets) (2023.10.0)\n", "Requirement already satisfied: aiohttp in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (3.9.3)\n", "Requirement already satisfied: packaging in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (23.1)\n", "Requirement already satisfied: pyyaml>=5.1 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from datasets) (6.0.1)\n", "Requirement already satisfied: typing-extensions>=3.7.4.3 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from huggingface_hub) (4.9.0)\n", "Requirement already satisfied: aiosignal>=1.1.2 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from aiohttp->datasets) (1.2.0)\n", "Requirement already satisfied: attrs>=17.3.0 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from aiohttp->datasets) (23.1.0)\n", "Requirement already satisfied: frozenlist>=1.1.1 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from aiohttp->datasets) (1.4.0)\n", "Requirement already satisfied: multidict<7.0,>=4.5 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from aiohttp->datasets) (6.0.4)\n", "Requirement already satisfied: yarl<2.0,>=1.0 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from aiohttp->datasets) (1.9.3)\n", "Requirement already satisfied: charset-normalizer<4,>=2 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from requests>=2.32.2->datasets) (2.0.4)\n", "Requirement already satisfied: idna<4,>=2.5 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from requests>=2.32.2->datasets) (3.4)\n", "Requirement already satisfied: urllib3<3,>=1.21.1 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from requests>=2.32.2->datasets) (2.0.7)\n", "Requirement already satisfied: certifi>=2017.4.17 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from requests>=2.32.2->datasets) (2024.8.30)\n", "Requirement already satisfied: python-dateutil>=2.8.2 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from pandas->datasets) (2.8.2)\n", "Requirement already satisfied: pytz>=2020.1 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from pandas->datasets) (2023.3.post1)\n", "Requirement already satisfied: tzdata>=2022.7 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from pandas->datasets) (2023.3)\n", "Requirement already satisfied: six>=1.5 in /home/floubsy2423/Programs/anaconda3/lib/python3.11/site-packages (from python-dateutil>=2.8.2->pandas->datasets) (1.16.0)\n", "\n", "\u001b[1m[\u001b[0m\u001b[34;49mnotice\u001b[0m\u001b[1;39;49m]\u001b[0m\u001b[39;49m A new release of pip is available: \u001b[0m\u001b[31;49m24.3.1\u001b[0m\u001b[39;49m -> \u001b[0m\u001b[32;49m25.0\u001b[0m\n", "\u001b[1m[\u001b[0m\u001b[34;49mnotice\u001b[0m\u001b[1;39;49m]\u001b[0m\u001b[39;49m To update, run: \u001b[0m\u001b[32;49mpip install --upgrade pip\u001b[0m\n", "The token has not been saved to the git credentials helper. Pass `add_to_git_credential=True` in this function directly or `--add-to-git-credential` if using via `huggingface-cli` if you want to set the git credential as well.\n", "Token is valid (permission: fineGrained).\n", "Your token has been saved to /home/floubsy2423/.cache/huggingface/token\n", "Login successful\n" ] }, { "data": { "application/vnd.jupyter.widget-view+json": { "model_id": "5aa454235d6f457aa22729422ed004b1", "version_major": 2, "version_minor": 0 }, "text/plain": [ "Uploading the dataset shards: 0%| | 0/1 [00:00