Upload folder using huggingface_hub

.gitattributes

@@ -33,3 +33,5 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.zip filter=lfs diff=lfs merge=lfs -text
 *.zst filter=lfs diff=lfs merge=lfs -text
 *tfevents* filter=lfs diff=lfs merge=lfs -text
+confusion_matrix.png filter=lfs diff=lfs merge=lfs -text
+performance_metrics.png filter=lfs diff=lfs merge=lfs -text

README.md

@@ -0,0 +1,13 @@
+---
+language: [ar]
+pipeline_tag: text-classification
+library_name: transformers
+tags:
+- sentiment-analysis
+- arabic
+base_model: UBC-NLP/MARBERTv2
+license: other
+---
+
+# Arabic Sentiment Analysis (MARBERTv2)
+نموذج لتحليل المشاعر بالعربية تم تدريبه على بيانات مخصّصة.

config.json

@@ -0,0 +1,41 @@
+{
+  "architectures": [
+    "BertForSequenceClassification"
+  ],
+  "attention_probs_dropout_prob": 0.2,
+  "classifier_dropout": null,
+  "directionality": "bidi",
+  "gradient_checkpointing": false,
+  "hidden_act": "gelu",
+  "hidden_dropout_prob": 0.2,
+  "hidden_size": 768,
+  "id2label": {
+    "0": "\u0633\u0644\u0628\u064a",
+    "1": "\u0645\u062d\u0627\u064a\u062f",
+    "2": "\u0625\u064a\u062c\u0627\u0628\u064a"
+  },
+  "initializer_range": 0.02,
+  "intermediate_size": 3072,
+  "label2id": {
+    "\u0625\u064a\u062c\u0627\u0628\u064a": 2,
+    "\u0633\u0644\u0628\u064a": 0,
+    "\u0645\u062d\u0627\u064a\u062f": 1
+  },
+  "layer_norm_eps": 1e-12,
+  "max_position_embeddings": 512,
+  "model_type": "bert",
+  "num_attention_heads": 12,
+  "num_hidden_layers": 12,
+  "pad_token_id": 0,
+  "pooler_fc_size": 768,
+  "pooler_num_attention_heads": 12,
+  "pooler_num_fc_layers": 3,
+  "pooler_size_per_head": 128,
+  "pooler_type": "first_token_transform",
+  "position_embedding_type": "absolute",
+  "torch_dtype": "float32",
+  "transformers_version": "4.54.1",
+  "type_vocab_size": 2,
+  "use_cache": true,
+  "vocab_size": 100000
+}

error_analysis.json

@@ -0,0 +1,134 @@
+{
+  "total_errors": 512,
+  "error_rate": 0.07246992215145082,
+  "error_types": {
+    "إيجابي → محايد": 149,
+    "سلبي → إيجابي": 47,
+    "محايد → إيجابي": 181,
+    "إيجابي → سلبي": 34,
+    "سلبي → محايد": 47,
+    "محايد → سلبي": 54
+  },
+  "sample_errors": [
+    {
+      "text": "{\"text_content\": \"وصول الرحال السعودي عبدالله السلمي إلى منفذ أبو سمرة الحدودي في قطر قادما من مدينة جدة مشيا على الأقدام لحضور كأس_العالم قطر2022 🇶🇦🇸🇦❤️💚 %url\"} 🇶🇦🇸🇦❤️💚",
+      "true_label": "إيجابي",
+      "pred_label": "محايد",
+      "text_length": 169
+    },
+    {
+      "text": "اليوم شلّيت الكاميرا بعد الدوام وطلعت أصور في . الأجواء كانت ممتازة ووجدت سائق توصيل محلي طلع يساعدني ينقل المعدات . لحجالشغل",
+      "true_label": "إيجابي",
+      "pred_label": "محايد",
+      "text_length": 125
+    },
+    {
+      "text": "{\"text_content\": \" فيديو | المهندسة مريم حمد المفتاح، المدير التنفيذي للاتصالات وتكنولوجيا المعلومات في اللجنة العليا للمشاريع والإرث: التكنولوجيا اصبحت بمثابة بنية تحتية للمونديال جريدة_الراية قطر2022 | %url\"}",
+      "true_label": "إيجابي",
+      "pred_label": "محايد",
+      "text_length": 210
+    },
+    {
+      "text": "{\"text_content\": \"😳 عبالي هدف لمنتخبنا في كأس_العالم \"} 😳",
+      "true_label": "سلبي",
+      "pred_label": "إيجابي",
+      "text_length": 57
+    },
+    {
+      "text": "بالعادة بفكّر مرتين قبل ما أطلب أونلاين ، بس المطر اليوم عم يخليني أجرب حظي بالتوصيل من هالموقع . يمكن يجي شي فستان بخصم حلو ! المهم نوصل الشوبينغ قبل ما نغطس بالشتا .",
+      "true_label": "محايد",
+      "pred_label": "إيجابي",
+      "text_length": 167
+    },
+    {
+      "text": "{\"text_content\": \" اكيد اصحاب هذه الشركات من الإيرانيين و اذنابهم من بلاد الشام خصوصا غزّاويّة حماس .. و من ينتهز هويّة قطر الوطنيّة من دول الجوار و جوار الجوار .. الذين لا يخافون الله في المساكين و جل همّهم جمع الأموال حسبنا الله ونعم الوكيل قطر قطر2022 السعودية_قطر \"}",
+      "true_label": "إيجابي",
+      "pred_label": "سلبي",
+      "text_length": 270
+    },
+    {
+      "text": "{\"text_content\": \"قطر مابين الماضي والحاضر: عندما تكون مصلحة الوطن هي الاولى هكذا تكون النتيجة لا شي مستحيل فقط هناك قيادة مخلصة وشعب متعاون قطر2022 🇶🇦🇶🇦 ساعه_استجابه حادثة_سطو_الجنادرية جنتل68 هالوين_الرياض كأس_العالم_قطر_2022 %url\"} 🇶🇦🇶🇦",
+      "true_label": "محايد",
+      "pred_label": "إيجابي",
+      "text_length": 239
+    },
+    {
+      "text": "{\"text_content\": \"كن سفيرا مع سفير حياكم سفير هويتي الحزم قطر2022 %url\"}",
+      "true_label": "محايد",
+      "pred_label": "إيجابي",
+      "text_length": 72
+    },
+    {
+      "text": "ليش الصبح بكّير أحلى وقت للنزهة بالجبل؟ مع إنه الواحد لسه مش مروق ، بس الجو حلو والهدوء بيريّح الراس . مين بيحب الطبيعة زيي؟",
+      "true_label": "محايد",
+      "pred_label": "إيجابي",
+      "text_length": 124
+    },
+    {
+      "text": "{\"text_content\": \"لحضور مباريات مونديال قطر.. الرحال السعودي عبد الله السلمي يصل منفذ أبو سمرة الحدودي سيرًا على الأقدام جريدة_الراية قطر2022 | %url\"}",
+      "true_label": "إيجابي",
+      "pred_label": "محايد",
+      "text_length": 150
+    },
+    {
+      "text": "{\"text_content\": \"ثم يرزقك الله شخص مُختلف ، يمكنه أن يسرق ثقل هذا العالم عن كتفيك دون أن تشعُر ♥️.. حياكم_قطر قطر2022 تصويري مدينة_لوسيل قطر_جميله %url\"} ♥️",
+      "true_label": "محايد",
+      "pred_label": "إيجابي",
+      "text_length": 157
+    },
+    {
+      "text": "{\"text_content\": \"قطر مستعد من سيحمل أول کأس عالم في بلد عربي قطر2022 كأس_العالم_قطر_2022 قطر_محلوة \"}",
+      "true_label": "إيجابي",
+      "pred_label": "محايد",
+      "text_length": 102
+    },
+    {
+      "text": "{\"text_content\": \"ثم يرزقك الله شخص مُختلف ، يمكنه أن يسرق ثقل هذا العالم عن كتفيك دون أن تشعُر ♥️.. حياكم_قطر قطر2022 تصويري مدينة_لوسيل قطر_جميله %url\"} ♥️",
+      "true_label": "محايد",
+      "pred_label": "إيجابي",
+      "text_length": 157
+    },
+    {
+      "text": "مفيش حاجة بتسعدني قبل الفجر غير لما أجيب فطار من عربية الفول وأقعد أقرأ الميمز والنكت . الحمد لله على النِعم اللي بتساعدنا نبدأ يومنا مبسوطين . صباحالخير",
+      "true_label": "محايد",
+      "pred_label": "إيجابي",
+      "text_length": 153
+    },
+    {
+      "text": "{\"text_content\": \"وفقًا لصحيفة \\\"لا جازيتا ديلو سبورت\\\" خواكين كوريا مهاجم إنتر_ميلان مهدد بالغياب عن منتخب الأرجنتين في كأس_العالم قطر2022 بسبب تراجع مستواه الفني والبدني %url\"}",
+      "true_label": "سلبي",
+      "pred_label": "محايد",
+      "text_length": 178
+    },
+    {
+      "text": "{\"text_content\": \"منتخبنا الوطني يواجه بنما يوم السبت ودياً في إطار استعداداته لبطولة كأس_العالم قطر2022 \"}",
+      "true_label": "إيجابي",
+      "pred_label": "محايد",
+      "text_length": 107
+    },
+    {
+      "text": "تزوج_الثانيه_ومهرك_علينا تعدد الزوجات شرع الله وهو حل جذري للمشكلة التي يعاني منها اغلب شعوب العالم الغير مسلم. ولكن التعدد ليس رفاهيه او وناسه هو مسئولية وامانه عظيمه. بعض الرجال والنساء لديهم القدرة على انجاح التعدد وكثير منهم يسببون كارثه بالتعدد الغير عادل. 🔴عدد ولكن بعدل🔴 🔴 🔴",
+      "true_label": "سلبي",
+      "pred_label": "إيجابي",
+      "text_length": 281
+    },
+    {
+      "text": "{\"text_content\": \"تزامنا مع كأس_العالم FIFA قطر2022 .. متاحف_قطر تكشف النقاب عن أعمال إبداعية لفنانين عالميين قرب موقعي الزبارة وعين محمد التراثيين قنا %url %url\"}",
+      "true_label": "محايد",
+      "pred_label": "إيجابي",
+      "text_length": 163
+    },
+    {
+      "text": "{\"text_content\": \" كلنا_قطر اقتربنا من التاريخ الفاصل 20/11/2022 الذي يسجل قطر2022 في موسوعة تنظيم كأس_العالم_2022 %url\"}",
+      "true_label": "محايد",
+      "pred_label": "إيجابي",
+      "text_length": 121
+    },
+    {
+      "text": "واقف عند عربية الفول على الكورنيش والنيل قدامي ، والدنيا زحمة الصبح هنا في . نفسي أجيب فطار بسرعة لكن مفيش فايدة ، الطوابير مالهاش نهاية . فطارالصبح",
+      "true_label": "سلبي",
+      "pred_label": "محايد",
+      "text_length": 148
+    }
+  ]
+}

evaluation_report.txt

@@ -0,0 +1,43 @@
+تقرير تقييم نموذج تحليل المشاعر المحسّن
+==================================================
+
+              precision    recall  f1-score   support
+
+        سلبي     0.9625    0.9601    0.9613      2355
+       محايد     0.9154    0.9002    0.9077      2355
+      إيجابي     0.9050    0.9223    0.9136      2355
+
+    accuracy                         0.9275      7065
+   macro avg     0.9276    0.9275    0.9275      7065
+weighted avg     0.9276    0.9275    0.9275      7065
+
+
+المقاييس الإجمالية:
+{
+  "test_accuracy": 0.9275300778485492,
+  "test_macro_f1": 0.9275342434551938,
+  "test_weighted_f1": 0.9275342434551938,
+  "test_macro_precision": 0.9276361932575578,
+  "test_macro_recall": 0.9275300778485492,
+  "n_test_samples": 7065,
+  "per_class_metrics": {
+    "سلبي": {
+      "precision": 0.9625372498935717,
+      "recall": 0.9600849256900212,
+      "f1-score": 0.9613095238095238,
+      "support": 2355.0
+    },
+    "محايد": {
+      "precision": 0.9153713298791019,
+      "recall": 0.9002123142250531,
+      "f1-score": 0.9077285377863412,
+      "support": 2355.0
+    },
+    "إيجابي": {
+      "precision": 0.905,
+      "recall": 0.9222929936305733,
+      "f1-score": 0.9135646687697161,
+      "support": 2355.0
+    }
+  }
+}

final_report.md

@@ -0,0 +1,81 @@
+
+# تقرير نموذج تحليل المشاعر العربية
+
+## 📊 معلومات عامة
+- **النموذج الأساسي**: UBC-NLP/MARBERTv2
+- **تاريخ التدريب**: 2025-08-01 03:54:05
+- **مدة التدريب**: 508.15 ثانية
+- **عدد العينات**: 
+  - التدريب: 32,970
+  - التحقق: 7,065
+  - الاختبار: 7,065
+
+## 📈 الأداء على مجموعة الاختبار
+- **الدقة الإجمالية**: 0.9275
+- **F1-Score (Macro)**: 0.9275
+- **F1-Score (Weighted)**: 0.9275
+
+## 🎭 الأداء حسب الفئة
+
+### سلبي:
+- Precision: 0.9625
+- Recall: 0.9601
+- F1-Score: 0.9613
+- عدد العينات: 2355.0
+
+### محايد:
+- Precision: 0.9154
+- Recall: 0.9002
+- F1-Score: 0.9077
+- عدد العينات: 2355.0
+
+### إيجابي:
+- Precision: 0.9050
+- Recall: 0.9223
+- F1-Score: 0.9136
+- عدد العينات: 2355.0
+
+## 🔍 تحليل الأخطاء
+- **معدل الخطأ**: 7.25%
+- **إجمالي الأخطاء**: 512
+
+### أنواع الأخطاء الرئيسية:
+- محايد → إيجابي: 181 (35.4%)
+- إيجابي → محايد: 149 (29.1%)
+- محايد → سلبي: 54 (10.5%)
+- سلبي → إيجابي: 47 (9.2%)
+- سلبي → محايد: 47 (9.2%)
+
+## 💾 الملفات المحفوظة
+1. **النموذج**: `pytorch_model.bin`
+2. **Tokenizer**: `tokenizer_config.json`, `special_tokens_map.json`, `vocab.txt`
+3. **معلومات التدريب**: `training_info.json`
+4. **تقرير التقييم**: `evaluation_report.txt`
+5. **مصفوفة الالتباس**: `confusion_matrix.png`
+6. **مقاييس الأداء**: `performance_metrics.png`
+7. **أمثلة الاختبار**: `test_examples.json`
+8. **تحليل الأخطاء**: `error_analysis.json`
+
+## 🚀 استخدام النموذج
+
+```python
+from transformers import pipeline
+
+# تحميل النموذج
+classifier = pipeline(
+    "text-classification",
+    model="/content/drive/MyDrive/Tweet_Project/Models/sentiment_marbert_v308_improved",
+    tokenizer="/content/drive/MyDrive/Tweet_Project/Models/sentiment_marbert_v308_improved"
+)
+
+# التنبؤ
+result = classifier("النص المراد تحليله")
+print(result)
+```
+
+## 📝 ملاحظات التحسين
+1. تم موازنة البيانات لتحسين الأداء على جميع الفئات
+2. تم استخدام تقنيات تنظيم (dropout, label smoothing) لتحسين التعميم
+3. تم تحسين معالجة النصوص مع الحفاظ على الإيموجيز والرموز التعبيرية
+4. تم استخدام dynamic padding لتحسين كفاءة التدريب
+5. تم تقليل MAX_LEN إلى 100 بناءً على تحليل البيانات

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2f9993f378c8d1f87b4fb13d40d4e2ed3f0bc583243118c3daee4b1a9edb5235
+size 651398148

special_tokens_map.json

@@ -0,0 +1,7 @@
+{
+  "cls_token": "[CLS]",
+  "mask_token": "[MASK]",
+  "pad_token": "[PAD]",
+  "sep_token": "[SEP]",
+  "unk_token": "[UNK]"
+}

test_examples.json

@@ -0,0 +1,106 @@
+{
+  "test_date": "2025-08-01 03:54:05",
+  "model_path": "/content/drive/MyDrive/Tweet_Project/Models/sentiment_marbert_v308_improved",
+  "examples": [
+    {
+      "text": "أحب هذا الفيلم كثيراً، إنه رائع جداً! 😍",
+      "predicted_sentiment": "إيجابي",
+      "confidence": 0.9534271955490112,
+      "all_scores": {
+        "إيجابي": 0.9534271955490112,
+        "سلبي": 0.02609867788851261,
+        "محايد": 0.020474091172218323
+      }
+    },
+    {
+      "text": "هذا المطعم سيء للغاية، لن أعود إليه مرة أخرى 😠",
+      "predicted_sentiment": "سلبي",
+      "confidence": 0.9604572653770447,
+      "all_scores": {
+        "سلبي": 0.9604572653770447,
+        "إيجابي": 0.020579680800437927,
+        "محايد": 0.018963059410452843
+      }
+    },
+    {
+      "text": "الطقس اليوم عادي، لا هو حار ولا بارد",
+      "predicted_sentiment": "محايد",
+      "confidence": 0.9473234415054321,
+      "all_scores": {
+        "محايد": 0.9473234415054321,
+        "سلبي": 0.02667488344013691,
+        "إيجابي": 0.026001665741205215
+      }
+    },
+    {
+      "text": "شكراً لك على المساعدة، أقدر جهودك كثيراً ❤️",
+      "predicted_sentiment": "إيجابي",
+      "confidence": 0.9037612676620483,
+      "all_scores": {
+        "إيجابي": 0.9037612676620483,
+        "سلبي": 0.06418748199939728,
+        "محايد": 0.032051265239715576
+      }
+    },
+    {
+      "text": "لا أعرف ماذا أقول عن هذا الموضوع",
+      "predicted_sentiment": "سلبي",
+      "confidence": 0.9166646599769592,
+      "all_scores": {
+        "سلبي": 0.9166646599769592,
+        "محايد": 0.05722469836473465,
+        "إيجابي": 0.026110703125596046
+      }
+    },
+    {
+      "text": "الخدمة كانت بطيئة لكن الطعام لذيذ",
+      "predicted_sentiment": "إيجابي",
+      "confidence": 0.9343199729919434,
+      "all_scores": {
+        "إيجابي": 0.9343199729919434,
+        "سلبي": 0.03325541689991951,
+        "محايد": 0.032424576580524445
+      }
+    },
+    {
+      "text": "أسوأ تجربة في حياتي! 😤",
+      "predicted_sentiment": "سلبي",
+      "confidence": 0.9537353515625,
+      "all_scores": {
+        "سلبي": 0.9537353515625,
+        "إيجابي": 0.024068130180239677,
+        "محايد": 0.0221964530646801
+      }
+    },
+    {
+      "text": "منتج عادي، لا يستحق السعر المدفوع",
+      "predicted_sentiment": "سلبي",
+      "confidence": 0.9510819911956787,
+      "all_scores": {
+        "سلبي": 0.9510819911956787,
+        "محايد": 0.025180647149682045,
+        "إيجابي": 0.023737328127026558
+      }
+    },
+    {
+      "text": "ممتاز! تجاوز كل توقعاتي 🌟",
+      "predicted_sentiment": "إيجابي",
+      "confidence": 0.9492729306221008,
+      "all_scores": {
+        "إيجابي": 0.9492729306221008,
+        "سلبي": 0.02549228072166443,
+        "محايد": 0.025234773755073547
+      }
+    },
+    {
+      "text": "المنتج وصل متأخراً ومعطوباً، خدمة العملاء لم تساعد",
+      "predicted_sentiment": "سلبي",
+      "confidence": 0.9535115957260132,
+      "all_scores": {
+        "سلبي": 0.9535115957260132,
+        "محايد": 0.02585621364414692,
+        "إيجابي": 0.020632220432162285
+      }
+    }
+  ]
+}

tokenizer_config.json

@@ -0,0 +1,58 @@
+{
+  "added_tokens_decoder": {
+    "0": {
+      "content": "[PAD]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "1": {
+      "content": "[UNK]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "2": {
+      "content": "[CLS]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "3": {
+      "content": "[SEP]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    },
+    "4": {
+      "content": "[MASK]",
+      "lstrip": false,
+      "normalized": false,
+      "rstrip": false,
+      "single_word": false,
+      "special": true
+    }
+  },
+  "clean_up_tokenization_spaces": true,
+  "cls_token": "[CLS]",
+  "do_basic_tokenize": true,
+  "do_lower_case": true,
+  "extra_special_tokens": {},
+  "mask_token": "[MASK]",
+  "model_max_length": 1000000000000000019884624838656,
+  "never_split": null,
+  "pad_token": "[PAD]",
+  "sep_token": "[SEP]",
+  "strip_accents": null,
+  "tokenize_chinese_chars": true,
+  "tokenizer_class": "BertTokenizer",
+  "unk_token": "[UNK]"
+}

training_args.bin

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f04a2f7437c08f2c9a81979723e09267225724fdd3f6b07c5ddd2bdd010a2936
+size 5432

training_info.json

@@ -0,0 +1,34 @@
+{
+  "id2label": {
+    "0": "سلبي",
+    "1": "محايد",
+    "2": "إيجابي"
+  },
+  "label2id": {
+    "سلبي": 0,
+    "محايد": 1,
+    "إيجابي": 2
+  },
+  "num_labels": 3,
+  "task": "sentiment_analysis",
+  "language": "arabic",
+  "model_name": "UBC-NLP/MARBERTv2",
+  "max_length": 100,
+  "training_samples": 32970,
+  "validation_samples": 7065,
+  "test_samples": 7065,
+  "train_runtime": 508.1498,
+  "train_samples_per_second": 324.412,
+  "train_loss": 0.4654327607154846,
+  "data_info": {
+    "original_samples": 45948,
+    "cleaned_samples": 45948,
+    "balanced_samples": 47100,
+    "avg_text_length": 151.8227176220807,
+    "sentiment_distribution": {
+      "1": 15700,
+      "2": 15700,
+      "0": 15700
+    }
+  }
+}