Update README.md
Browse files
README.md
CHANGED
|
@@ -6,6 +6,8 @@ language:
|
|
| 6 |
# <b>AceGPT</b>
|
| 7 |
AceGPT is a fully fine-tuned generative text model collection based on LlaMA2, particularly in the
|
| 8 |
Arabic language domain. This is the repository for the 7B pretrained model.
|
|
|
|
|
|
|
| 9 |
## Model Details
|
| 10 |
We have released the AceGPT family of large language models, which is a collection of fully fine-tuned
|
| 11 |
generative text models based on LlaMA2, ranging from 7B to 13B parameters. Our models include two main
|
|
@@ -23,4 +25,67 @@ and a -chat categorie.
|
|
| 23 |
## Input
|
| 24 |
Models input text only.
|
| 25 |
## Output
|
| 26 |
-
Models output text only.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 6 |
# <b>AceGPT</b>
|
| 7 |
AceGPT is a fully fine-tuned generative text model collection based on LlaMA2, particularly in the
|
| 8 |
Arabic language domain. This is the repository for the 7B pretrained model.
|
| 9 |
+
|
| 10 |
+
---
|
| 11 |
## Model Details
|
| 12 |
We have released the AceGPT family of large language models, which is a collection of fully fine-tuned
|
| 13 |
generative text models based on LlaMA2, ranging from 7B to 13B parameters. Our models include two main
|
|
|
|
| 25 |
## Input
|
| 26 |
Models input text only.
|
| 27 |
## Output
|
| 28 |
+
Models output text only.
|
| 29 |
+
|
| 30 |
+
## Model Evaluation Results
|
| 31 |
+
|
| 32 |
+
Experiments on Arabic MMLU and EXAMs. ' AverageBest ', ' STEM ', ' Humanities ', ' Social Sciences ' and ' Others (Business, Health, Misc)'
|
| 33 |
+
belong to Arabic MMLU. Best performance is in bold and the second best is underlined.
|
| 34 |
+
|
| 35 |
+
| Model | Average | STEM | Humanities | Social Sciences | Others (Business, Health, Misc) |EXAMs |
|
| 36 |
+
|-----------------|---------|------|------------|-----------------|---------------------------------|--------------|
|
| 37 |
+
| Bloomz Muennighoff et al. (2022) | 30.95 | 32.32 | 26.71 | 35.85 | 28.95 | 33.89 |
|
| 38 |
+
| Llama2-7B | 28.81 | 28.48 | 26.68 | 29.88 | 30.18 | 23.48 |
|
| 39 |
+
| Llama2-13B | 31.25 | 31.06 | 27.11 | 35.5 | 31.35 | 25.45 |
|
| 40 |
+
| Jais-13B-base | 30.01 | 27.85 | 25.42 | 39.7 | 27.06 | 35.67 |
|
| 41 |
+
| AceGPT-7B-base | 30.36 | 26.63 | 28.17 | 35.15 | 31.5 | 31.96 |
|
| 42 |
+
| AceGPT-13B-base | <u>37.26</u> | <u>35.16</u> | <u>30.3</u> | <u>47.34</u> | <u>36.25</u> | <u>36.63</u> |
|
| 43 |
+
| ChatGPT | <b>46.07</b> | <b>44.17</b> | <b>35.33/<b> | <b>61.26</b> | <b>43.52</b> | <b>45.63 </b> |
|
| 44 |
+
|
| 45 |
+
---
|
| 46 |
+
## Samples
|
| 47 |
+
#### Arabic MMLU (5-shot)
|
| 48 |
+
فيما يلي أسئلة الاختيار من متعدد (مع الإجابات) حول جبر تجريدي
|
| 49 |
+
سؤال: العثور على جميع قيم c في Z_3 بحيث يكون Z_3 [x]/(x^2+c) حقلًا.
|
| 50 |
+
A. 0
|
| 51 |
+
B. 1
|
| 52 |
+
C. 2
|
| 53 |
+
D. 3
|
| 54 |
+
إجابة: B
|
| 55 |
+
|
| 56 |
+
|
| 57 |
+
سؤال: البيان رقم 1 | إذا كان aH عنصرًا في مجموعة العوامل ، فإن | aH | يقسم | a |. البيان رقم 2 | إذا كانت H و K مجموعات فرعية لـ G ، فإن HK مجموعة فرعية لـ G.
|
| 58 |
+
A. صحيح ، صحيح
|
| 59 |
+
B. خطأ ، خطأ
|
| 60 |
+
C. صحيح ، خطأ
|
| 61 |
+
D. خطأ ، صحيح
|
| 62 |
+
إجابة: B
|
| 63 |
+
|
| 64 |
+
|
| 65 |
+
سؤال: العبارة 1 | كل عنصر من مجموعة يولد مجموعة دورية من المجموعة. العبارة 2 | المجموعة المتناظرة S_10 لديها 10 عناصر.
|
| 66 |
+
A. صحيح، صحيح
|
| 67 |
+
B. خطأ، خطأ
|
| 68 |
+
C. صحيح، خطأ
|
| 69 |
+
D. خطأ، صحيح
|
| 70 |
+
إجابة: C
|
| 71 |
+
|
| 72 |
+
سؤال: البيان 1| كل وظيفة من مجموعة محدودة على نفسها يجب أن تكون واحدة لكل مجموعة. البيان 2 | كل فرع فرعي لمجموعة أبيلية هو أبيلي.
|
| 73 |
+
A. صحيح, صحيح
|
| 74 |
+
B. خاطئ, خاطئ
|
| 75 |
+
C. صحيح, خاطئ
|
| 76 |
+
D. خاطئ, صحيح\nإجابة: A
|
| 77 |
+
|
| 78 |
+
سؤال: اعثر على خاصية الحلقة 2Z.
|
| 79 |
+
A. 0
|
| 80 |
+
B. 3
|
| 81 |
+
C. 12
|
| 82 |
+
D. 30
|
| 83 |
+
إجابة: A
|
| 84 |
+
|
| 85 |
+
سؤال: ما هو الدرجة للامتداد الميداني الناتج من Q(sqrt(2), sqrt(3), sqrt(18)) على Q؟
|
| 86 |
+
A. 0
|
| 87 |
+
B. 4
|
| 88 |
+
C. 2
|
| 89 |
+
D. 6
|
| 90 |
+
إجابة:",
|
| 91 |
+
# You can get more detail at https://github.com/FreedomIntelligence/AceGPT/tree/main
|