Upload 8 files

.gitattributes

@@ -1,55 +1,3 @@
-*.7z filter=lfs diff=lfs merge=lfs -text
-*.arrow filter=lfs diff=lfs merge=lfs -text
-*.bin filter=lfs diff=lfs merge=lfs -text
-*.bz2 filter=lfs diff=lfs merge=lfs -text
-*.ckpt filter=lfs diff=lfs merge=lfs -text
-*.ftz filter=lfs diff=lfs merge=lfs -text
-*.gz filter=lfs diff=lfs merge=lfs -text
-*.h5 filter=lfs diff=lfs merge=lfs -text
-*.joblib filter=lfs diff=lfs merge=lfs -text
-*.lfs.* filter=lfs diff=lfs merge=lfs -text
-*.lz4 filter=lfs diff=lfs merge=lfs -text
-*.mlmodel filter=lfs diff=lfs merge=lfs -text
-*.model filter=lfs diff=lfs merge=lfs -text
-*.msgpack filter=lfs diff=lfs merge=lfs -text
-*.npy filter=lfs diff=lfs merge=lfs -text
-*.npz filter=lfs diff=lfs merge=lfs -text
-*.onnx filter=lfs diff=lfs merge=lfs -text
-*.ot filter=lfs diff=lfs merge=lfs -text
-*.parquet filter=lfs diff=lfs merge=lfs -text
-*.pb filter=lfs diff=lfs merge=lfs -text
-*.pickle filter=lfs diff=lfs merge=lfs -text
-*.pkl filter=lfs diff=lfs merge=lfs -text
-*.pt filter=lfs diff=lfs merge=lfs -text
-*.pth filter=lfs diff=lfs merge=lfs -text
-*.rar filter=lfs diff=lfs merge=lfs -text
-*.safetensors filter=lfs diff=lfs merge=lfs -text
-saved_model/**/* filter=lfs diff=lfs merge=lfs -text
-*.tar.* filter=lfs diff=lfs merge=lfs -text
-*.tar filter=lfs diff=lfs merge=lfs -text
-*.tflite filter=lfs diff=lfs merge=lfs -text
-*.tgz filter=lfs diff=lfs merge=lfs -text
-*.wasm filter=lfs diff=lfs merge=lfs -text
-*.xz filter=lfs diff=lfs merge=lfs -text
-*.zip filter=lfs diff=lfs merge=lfs -text
-*.zst filter=lfs diff=lfs merge=lfs -text
-*tfevents* filter=lfs diff=lfs merge=lfs -text
-# Audio files - uncompressed
-*.pcm filter=lfs diff=lfs merge=lfs -text
-*.sam filter=lfs diff=lfs merge=lfs -text
-*.raw filter=lfs diff=lfs merge=lfs -text
-# Audio files - compressed
-*.aac filter=lfs diff=lfs merge=lfs -text
-*.flac filter=lfs diff=lfs merge=lfs -text
-*.mp3 filter=lfs diff=lfs merge=lfs -text
-*.ogg filter=lfs diff=lfs merge=lfs -text
-*.wav filter=lfs diff=lfs merge=lfs -text
-# Image files - uncompressed
-*.bmp filter=lfs diff=lfs merge=lfs -text
-*.gif filter=lfs diff=lfs merge=lfs -text
-*.png filter=lfs diff=lfs merge=lfs -text
-*.tiff filter=lfs diff=lfs merge=lfs -text
-# Image files - compressed
-*.jpg filter=lfs diff=lfs merge=lfs -text
-*.jpeg filter=lfs diff=lfs merge=lfs -text
-*.webp filter=lfs diff=lfs merge=lfs -text
+MSA_train.json filter=lfs diff=lfs merge=lfs -text
+spoken_train.json filter=lfs diff=lfs merge=lfs -text
+MSA_val.json filter=lfs diff=lfs merge=lfs -text

MSA_train.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f3bd005333678f5b57ecdb29a24fe4f2391f4dfd380cb856667963a5080ef45f
+size 134

MSA_val.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f8b50bc8af01148989819d153074647690e0b30fc0edb1121bbe816933647599
+size 12654174

README.md

@@ -1,106 +1,76 @@
----
-license: cc-by-4.0
-language:
-- ar
-- he
-size_categories:
-- 10K<n<100K
----
-ArQ: דאטה-סט של 30 אלף שאלות ותשובות בערבית של האזור
-
-ArQ (ר"ת Arabic QA) הוא דאטה-סט הכולל 32,625 שאלות ותשובות בערבית מדוברת של אזור הלבנט ובערבית ספרותית מודרנית סטנדרטית (Modern Standard Arabic: MSA) שהוכן על ידי חברת ווביקס עבור מפא"ת, כחלק מהתוכנית הלאומית לעיבוד שפה טבעית בעברית ובערבית (NNLP-IL), לצורך אימון, הערכה והשוואה של מודלי NLP שמבצעים משימות Reading Comprehension מסוג Extractive Question Answering. הדאטה-סט נבנה ע"פ הפורמט והמתודולוגיה של HeQ, דאטה-סט מקביל בשפה העברית שפורסם בינואר 2023 (Hebrew Questions and Answers Dataset). צוות מתייגים קיבל פסקאות בערבית מדוברת או ספרותית, והתבקש לכתוב שאלות בערבית מדוברת על כל פסקה ולסמן את התשובות בתוך הפסקה. ב-ArQ תויגו שני סוגים של שאלות: שאלות פתירות, שיש להן מענה בפסקה, ושאלות בלתי פתירות, שנאספו כדי לאמן מודלים לזהות מצבים שבהם אין בטקסט מענה לשאלה.
-ArQ נוצר בשאיפה לקדם את תחום ה-NLP בערבית מדוברת של אזור הלבנט, ולכן כל השאלות, בין שפסקת הקונטקסט כתובה בספרותית ובין שבמדוברת, נכתבו בערבית מדוברת של האזור. 
-
-במהלך בניית הדאטה-סט, הושם דגש על שלושה מאפיינים:
-א. היקף גדול: ArQ מכיל 32,625 "שלשות" (שאלה, תשובה ופסקת קונטקסט), מתוכן 16,846 שאלות (52%) שנכתבו על פסקאות בערבית ספרותית ו-15,779 שאלות (48%) שנכתבו על פסקאות מתומללות בערבית מדוברת. מספר גדול של שאלות מאפשר אימון של מודלים גדולים יותר ובעלי יכולת הכללה טובה יותר.
-ב. דאטה-סט מגוון:
-גיוון במקורות הטקסט: השאלות ב-ArQ תויגו על שני מקורות טקסטואליים שונים: (1) מאמרים מתוך אתר חדשות בערבית ספרותית ו-(2) תמלולים של סרטונים וראיונות בערבית מדוברת של אזור הלבנט.
-גיוון בדיאלקטים: בתוך החלק של ערבית מדוברת, נעשה ניסיון ליצור גיוון בייצוג הדיאלקטים המרכיבים את משפחת הדיאלקטים של אזור הלבנט: הראיונות המתומללים, שהיוו כ-40% מכלל החומר, כללו בעיקר ערבית מדוברת של ישראל. תמלולי הסרטונים (40%) היו מגוונים יותר וכללו גם ערבית לבנונית, סורית ומצרית. לצד אלו, נעשה שימוש גם בכ-200 פסקאות מתומללות מתוך פודקאסט בערבית מדוברת של לבנון (כ-20%).
-גיוון בסוגי השאלות: מלבד שאלות בעלות תשובה, ArQ מכיל גם כ-25% שאלות בלתי פתירות (שאלות שהתשובה עליהן לא מופיעה בטקסט), שילוב שאלות בלתי פתירות בדאטה-סטים של QA נמצא חיוני לשיפור יכולות הלמידה וההכללה של מודלים.
-גיוון בסגנון: במשימת התיוג השתתפו 12 מתייגים שונים, מה שאפשר גיוון סגנוני הן בניסוח ובאוצר מילים והן בדרך החשיבה שלפיה נכתבו השאלות.
-גיוון בנושאים: ריבוי המקורות אפשר גם גיוון בנושאים המהווים את הקונטקסט לכתיבת השאלות. הדאטה-סט מכסה מגוון רחב של נושאים, החל בפוליטיקה, בריאות וטכנולוגיה וכלה בהיסטוריה, רוח, הומור ויומיום, וכמו כן מגוון של סגנונות תחביריים (כתבות, סרטונים קצרים, פודקאסטים, ראיונות, ועוד).
-ג. איכות:
-תהליך בקרת איכות קפדני: במהלך התיוג של ArQ בוצע הליך קפדני של בקרת איכות, ומשוב על איכות העבודה הועבר למתייגים באופן שוטף.
-איזון משתנים נשלטים: במהלך בניית הדאטה-סט נעשה ניסיון להשיג איזון בין משתנים נשלטים, כגון מילות השאלה והיחס בין שאלות פתירות לבלתי פתירות.
-
-גיבוש מדריך ההנחיות 
-מדריך ההנחיות ומשתנים הקשורים לתיוג (כגון קצב התיוג) בוססו על העבודה שנעשתה בפרויקט HeQ. עבודת המחקר שנעשתה ע"י הילה מרחב (ווביקס), תרם להבנת החשיבות הרבה שבגיבוש מדריך הנחיות יעיל ורלוונטי על סמך ניתוח בעיות אמיתיות ונפוצות שנצפו אצל המשתתפים, וכן החשיבות של מתן משוב למתייגים, בשיפור קצב ואיכות העבודה.
-מדריך התיוג מוצג כאן בצורתו הסופית, אך במהלך העבודה פעל כמסמך "נושם" אשר נוספו לו הנחיות וחידודים במידת הצורך. כמו ב-HeQ, המדריך מחולק לשלושה פרקים: (1) הנחיות לניסוח שאלה פתירה, (2) הנחיות לניסוח שאלה בלתי-פתירה ו-(3) הנחיות לסימון תשובה. בנוסף, המדריך כולל שאלות נפוצות שנשאלו ע"י המתייגים וכן דוגמאות לשאלות שנפסלו (יחד עם הסיבה לפסילה).
-חלק מן ההנחיות משרטטות כללים למשימה ומבדילות בין תיוג תקין לתיוג פסול. בפרק סימון התשובות, למשל, ניתנה הגדרה חד-משמעית לטווח התשובה התקין: נקבע כי יש לסמן את התשובה הישירה עצמה, ולא משפט מלא או מקטע ארוך שניתן למצוא בתוכו את התשובה. לדוגמה, כתשובה לשאלה: ״מי היה הנשיא הראשון של ארה"ב?״ המתייגים נדרשים לסמן את שם הישות בלבד, ג'ורג' וושינגטון ולא את המשפט במלואו, ג'ורג' וושינגטון היה הנשיא הראשון של ארה"ב:
-
-
-הנחיות אחרות מעודדות את המתייגים לכתוב שאלות "טובות" (מעבר ל"עוברות סף" בלבד), בצירוף הצעות למגוון דרכים וטיפים איך לעשות זאת. ההנחיות והדגשים מלווים בדוגמאות בערבית, ובסוף המדריך מופיעות דוגמאות אמיתיות מעבודת המתייגים (בעילום שם כמובן).
-
-המתייגים
-המתייגים ב-ArQ היו  עובדים  של חברת ווביקס ושל  קבלן משנה של ווביקס (חברת באבקום). למיונים הוזמנו דוברי ערבית שפת אם בלבד, וצוות המתייגים נברר לאחר השתתפות במבחן כניסה, הזהה באופיו למשימת תיוג השאלות: המתייגים התבקשו לקרוא את מדריך ההנחיות (המתואר לעיל) לכתוב שאלות ולסמן תשובות על גבי פסקאות קונטקסט בספרותית ובמדוברת שנבחרו מראש לצורך המשימה.
-המשתתפים במבחן הכניסה נופו על סמך קריטריוני איכות שונים, שהמרכזיים בהם היו:
-טווח תשובה גדול מדי (מחרוזת התווים שסומנה בתור תשובה לא הייתה התשובה עצמה, אלא משפט מלא או מקטע ארוך שניתן למצוא בתוכו את התשובה).
-אי הבנת ההוראות (למשל, ההוראות הנוגעות לשאלות בלתי פתירות).
-רשלנות ניכרת (טעויות הקלדה רבות, בעיות ניסוח, תשובות חתוכות וכו').
-לאחר המיונים, 12 מתייגים לקחו חלק במשימת התיוג בסה"כ. ניהול משימות התיוג נערך תוך בקרה שוטפת על איכות עבודתם של המתייגים ועל ההספק שלהם. המתייגים קיבלו משוב אישי תקופתי באופן קבוע, שכלל הערות לשיפור ולשימור. מתייגים שלא השתפרו בביצועיהם ולא הצליחו ליישם את המשוב שניתן להם בהצלחה, נופו במהלך העבודה (סה"כ נופו 3 מתוך 12 מתייגים).
-
-בקרת איכות שוטפת
-ניהול משימות התיוג נערך תוך בקרה שוטפת על איכות עבודתם של המתייגים ועל ההספק שלהם. הבקרה כללה פסילה או טיוב של שאלות, ובמידת הצורך המתייגים קיבלו משוב אישי הכולל הערות לשיפור ולשימור. להלן דוגמה למשוב שקיבלה מתייגת:
-שאלה: شو لازم نعمل عشان نحافظ على الحماية الشخصية؟
-תרגום: מה אנחנו צריכים לעשות כדי לשמור על ההגנה האישית שלנו (בחורף)?
-תשובה שסומנה: ارتداء ملابس دافئة وواقية، مثل القفازات والقبعات الشتوية والأحذية المناسبة
-תרגום: ללבוש ביגוד חם ומגן, כגון כפפות, כובעי חורף ונעליים מתאימות
-פידבק: השאלה טובה, אבל שימי לב שלשאלה בעלת צריכה להיות רק תשובה אחת נכונה בפסקה. כאן יש שתי תשובות: بتجنب المشي على الأسطح الزلقة (הימנעות מהליכה על משטחים חלקים) והתשובה שאת סימנת, ارتداء ملابس دافئة وواقية، مثل القفازات والقبعات الشتوية والأحذية المناسبة (ללבוש ביגוד חם ומגן, כגון כפפות, כובעי חורף ונעליים מתאימות).
-אם שני המשפטים היו מופיעים בנפרד לאורך הפסקה, לא היינו יכולים לשאול את שהשאלה מכיוון שניתן לסמן רק תשובה אחת, אך היות ששתי התשובות מופיעות ברצף - אפשר היה לסמן את כל המשפט וזו הייתה תשובה מתקבלת. כלומר, מותר שהתשובה לשאלה "מה צריך לעשות…?" תהיה יותר מדבר אחד, כל עוד ניתן לסמן את הרשימה כרצף אחד.
-
-השאלות שנבדקו במהלך האיסוף קיבלו תוויות איכות:
-Verified – שאלות עוברות סף, אך אינן שאלות "טובות". למשל, שאלות שלא היו נשאלות מחוץ להקשר של תיוג הפסקה.
-Good – שאלות טובות, שעונות על ההנחיות ונשמעות כשאלות "טבעיות" (שאלות שדובר טבעי היה עשוי לשאול, בלי קשר לתיוג הפסקה).
-Gold – שאלות טובות במיוחד, שנדרש היסק מורכב כדי לענות עליהן.
-Rejected – שאלות פסולות, שלא עוברות את הסף.
-דוגמאות לשאלות לפי תווית איכות:
-Verified:
-שאלה: ايش بيسمو المرحله لثالثه؟ (איך קוראים לשלב השלישי?)
-תשובה: المساومه (התמקחות)
-קונטקסט: المرحله الثالثه بيسموها المساومه (לשלב השלישי קוראים התמקחות)
-
-Good:
-שאלה: بعد بقديش عرفو انو غشاش؟ (לאחר כמה זמן הבינו שהוא רמאי?)
-תשובה: باليوم الثاني (ביום השני)
-קונטקסט: وطبعا باليوم الثاني لحتى عرفو أنو هاد الشخص لا طبيب ولا بطيخ (וכמובן שביום השני כבר הבינו שהאיש הזה הוא לא רופא ולא בטיח)
-
-Gold:
-שאלה: شو اسم المغنية في عيله المتكلم الثاني؟ (איך קוראים לזמרת במשפחתו של הדובר השני?)
-תשובה: لارا خوري (לארה ח'ורי)
-קונטקסט: 
-متكلم 1: وفي عندكو بالعيلة حدا يلي بيعزف يعني؟
-متكلم 2: آه أختي بتغني أخوي، تعلم إيه أختي لارا خوري
-متكلم 2: آه، غني بروفيشنال
-(דובר 1: ויש מישהו במשפחה שלכם שמנגן כאילו?
-דובר 2: כן, אחותי שרה, אתה יודע, אחותי לארה ח'ורי
-דובר 1: שרה
-דובר 2: כן, שרה באופן מקצועי)
-
-Rejected:
-שאלה: لمين صباح لخير؟ (למי בוקר טוב?)
-תשובה:  للجميع (לכולם)
-קונטקסט: صباح الخير للجميع (בוקר טוב לכולם)
-
-מדדי דיוק
-בסוף שלב האיסוף נדגמו אקראית מהדאטה-סט כ-330 שאלות ותשובות. הסט הנדגם שימש להערכת איכות הדאטה-סט, אשר נמדדה באמצעות שני פרמטרים שנקבעו מראש:
-א. אחוז שאלות ותשובות תקינות (האם התשובה X אכן עונה לשאלה Y בהינתן פסקת הקונטקסט Z): כ-92% מהשאלות שנדגמו לצורך הבדיקה נמצאו תקינות.
-ב. אחוז תשובות בעלות טווח תשובה תקין מתוך השאלות שנמצאו תקינות (טווח תשובה תקין הוגדר בתור יחידת הטקסט המינימלית בפסקה שמספקת תשובה לשאלה): כ-97% מהשאלות התקינות היו בעלות טווח תשובה מינימלי.
-מתוך השאלות והתשובות שנדגמו בבדיקה זו, כ-71% היו טובות (good), כ-17% עברו סף (verified), כ-4% היו מעולות (gold) וכ-8% נפסלו (rejected).
-
-ניקוי הדאטה
-בסיום שלב האיסוף נערכו מספר פעולות ניקוי על הדאטה: נפסלו שאלות זהות, נמחקו רווחים מיותרים בסוף או בתחילת שאלה, נוסף סימן שאלה בשאלות שבהן היה חסר, נוקו תווים מיותרים מהשאלות והתשובות, תוקנו שאלות ללא מילת שאלה, תוקנו תשובות שנחתכו באמצע, ועוד. חשוב לציין שהתיקונים שנעשו היו של דברים שזוהו כארקטיפקטים טכניים שעלולים להפריע למודל. תופעות טבעיות, כמו שגיאות כתיב בשאלות, לא תוקנו.
-
-חלוקה לסטים
-לאחר שלב האיסוף, חולק הדאטה-סט לשלושה סטים: סט אימון (90%), סט ולידציה (5%) וסט מבחן (5%). החלוקה של השאלות לסטים הייתה אקראית-נשלטת, כאשר מספר אילוצים על ההתפלגות נקבעו מראש:
-א. כל השאלות שנשאלו על אותו ה"ערך" (כתבה חדשותית בספרותית או פסקה מתוך תמלול במדוברת) הוקצו לאותו סט, על מנת להימנע מאימון המודל על חומר שיהיה בסט המבחן ("זליגת מידע").
-ב. רוב השאלות שקיבלו תווית איכות "gold" במהלך בקרת האיכות הוקצו לתתי-הסטים של הוולידציה והמבחן (ואיתן כמובן הערכים שהכילו אותן בשלמותם). פרמטר זה תורם לאיכותם של תתי-סטים אלה.
-בין שלושת הסטים נשמר יחס קבוע ככל הניתן בין שאלות פתירות לבלתי פתירות, על מנת לא לתת משקל עודף לסוג מסוים של שאלה באחד הסטים. 
-לאחר החלוקה, סט המבחן וסט הוולידציה עברו עיבוד נוסף:
-א. בקרה הרמטית של איכות השאלות וטיוב שאלות באופן ידני במידת הצורך (כך שאין בסטים אלו שאלות לא תקינות).
-ב. סימון תשובות נוספות: במקרים שבהם את התשובה לשאלה ניתן לסמן במגוון דרכים נכונות, נוספו אפשרויות סימון נוספות אלו כדי להפוך את הסטים לרובסטיים יותר.
-לדוגמה: אם התשובה נתונה בתוך מרכאות, היא עשויה לכלול או שלא לכלול את המרכאות (ועדיין תהיה נכונה); תשובות עשויות לכלול או שלא לכלול מילות יחס המקדימות את תוכן התשובה (ב-, על-) או רכיבי תמורה ("הד"ר אחמד סעיד" או "אחמד סעיד") וכו'. לכל שאלה פתירה נוספו בין 0 ל-3 אפשרויות נוספות לסימון תשובה.
-
-סיכום
-ArQ הוא דאטה-סט גדול ואיכותי מסוג Question Answering הכולל 32,625 שאלות ותשובות בערבית מדוברת של אזור הלבנט ובערבית ספרותית מודרנית סטנדרטית (MSA). אנו תקווה ש-ArQ יתרום לקהילת ה-NLP, ולצד מאמצים נוספים שנעשים במסגרת תוכנית ה-NLP הלאומית, יאפשר לתרום לייצוג של ערבית מדוברת של אזור הלבנט בתחום ה-NLP. אנו מקווים שהדאטה-סט ישמש לקידום תשתיות וטכנולוגיות לעיבוד והבנת השפה הערבית, עליהן ניתן יהיה לבסס יישומים מתקדמים של עיבוד שפה טבעית (מנועי חיפוש, צ'טבוטים, וכיו"ב). בנוסף, אנחנו מקווים שהדאטה-סט שיצרנו, יחד עם הידע והכלים ששיתפנו, יתרמו למחקר בתחום ה-NLP, יהוו השראה ויסייעו ביצירת דאטה-סטים חדשים.
-
-תודות לכל השותפים שקצרה היריעה מלהכיל את כולם לפרוייקט חשוב זה
+# ArQ: Arabic Question Answering Dataset
+## Summary
+ArQ is a question answering dataset in Levantine Spoken Arabic and Modern Standard Arabic (MSA), consisting of 32,625 triplets (context-question-answer).
+
+## Introduction
+The dataset follows the format and methodology of HeQ (<a href="https://github.com/NNLP-IL/Hebrew-Question-Answering-Dataset">Hebrew Questions and Answers Dataset</a>). A team of annotators were given random context paragraphs in either spoken Arabic or MSA, and were asked to write relevant questions and mark the correct answers. The answer to each question was segment of text (span) included in the relevant paragraph.
+
+Paragraphs were sourced using two types of sources: (1) for MSA we used short news articles from an online Israeli-Arabic weekly newspaper, and (2) for spoken Arabic we used transcriptions of short videos and recorded interviews in Levantine Arabic.
+
+**Questions on both sources were written in Levantine Spoken Arabic (no MSA questions were written)**.
+
+## Question Features
+__Two types of questions were collected:__
+
+Answerable questions (24,124; 74%): Questions for which a single correct answer is present in the paragraph.
+
+Unanswerable questions (8,501; 26%): Questions related to the paragraph's content, where a correct answer is not present in the paragraph, but the paragraph provides a "plausible" incorrect answer in terms of logic.
+
+## Quality Labels
+As part of ongoing quality control during the collection process, and additional checks on the test and validation sets, approximately 12% of the final data was manually chekced for quality.
+
+Triplets received one of the following quality labels:
+
+*Verified*: Questions that passed the threshold and were relatively easy, with wording exactly or similar to the relevant sentence in the paragraph, or very common questions.
+
+*Good*: Questions with wording that was significantly different (lexically or syntactically) from the wording of the relevant sentence in the paragraph.
+
+*Gold*: Questions that involve more complex inference-making.
+
+*Rejected*: Questions that did not pass the threshold and therefore not indcluded in the published data.
+
+## Additional Answers
+After splitting the data, the test and validation subsets underwent additional processing. In cases where there were multiple correct answer spans for an answerable question, the additional possible answer spans were added by annotators to both subsets to enhance robustness.
+
+For example, if the answer appears in quotation marks, another possible answer could be the same answer without the quotation marks. Another example involves answers that may or may not include prepositions preceding the content or appositions. Each answerable question in the test and validation sets received 0 to 3 additional possible answers.
+
+## Dataset Statistics
+The table below shows the number of answerable and unanswerable questions, by source:
+
+|           | MSA   | Spoken | Total |
+|-----------|-------|--------|--------|
+| Answerable| 12421 | 11703  | 24124 (74%)  |
+| Unanswerable| 4425 | 4076  | 8501 (26%)  |
+
+The table below shows the number of triplets, by sub-set:
+
+|           | MSA   | Spoken | Total |
+|-----------|-------|--------|--------|
+| Train     | 15080 | 14197  | 29277 (90%)  |
+| Val       | 928   | 745    | 1673 (5%) |
+| Test      | 838   | 837    | 1675 (5%) |
+
+The table below shows the number of unique questions and paragraphs, by source:
+
+|           | MSA   | Spoken |
+|-----------|-------|--------|
+| Questions | 16846 (52%) | 15779 (48%)  |
+| Unique Paragraphs | 1016 | 1024  |
+
+The table below shows the question word distribution in the dataset:
+
+| What  | Who | How Much/Many | Which | Where | When | How | Why |
+|-------|-----|---------------|-------|-------|------|-----|-----|
+| 11517 (34%) | 7323 (22%) | 4451 (13%) | 4103 (12%) | 3293 (10%) | 1351 (4%) | 880 (3%) | 700 (2%) |
+
+## Code
+upcoming.
+
+## Model
+upcoming.
+
+## Contributors
+ArQ was annotated by Webiks for MAFAT, as part of <a href="https://github.com/NNLP-IL">NNLP-IL</a>, the Israeli national initiative in the field of NLP in Hebrew and Arabic.
+
+Contributors: Amir Shufaniya (Webiks), Carinne Cherf (Webiks) and Yossy Eizenrouah (MAFAT).
+

spoken_train.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:bb20a36986c27d87485248935b0d46d02917b7999f98465669b9b75b5f3f922d
+size 133