Update README.md

README.md

@@ -1,3 +1,106 @@
----
-license: cc-by-4.0
----
+---
+license: cc-by-4.0
+language:
+- ar
+- he
+size_categories:
+- 10K<n<100K
+---
+ArQ: דאטה-סט של 30 אלף שאלות ותשובות בערבית של האזור
+
+ArQ (ר"ת Arabic QA) הוא דאטה-סט הכולל 32,625 שאלות ותשובות בערבית מדוברת של אזור הלבנט ובערבית ספרותית מודרנית סטנדרטית (Modern Standard Arabic: MSA) שהוכן על ידי חברת ווביקס עבור מפא"ת, כחלק מהתוכנית הלאומית לעיבוד שפה טבעית בעברית ובערבית (NNLP-IL), לצורך אימון, הערכה והשוואה של מודלי NLP שמבצעים משימות Reading Comprehension מסוג Extractive Question Answering. הדאטה-סט נבנה ע"פ הפורמט והמתודולוגיה של HeQ, דאטה-סט מקביל בשפה העברית שפורסם בינואר 2023 (Hebrew Questions and Answers Dataset). צוות מתייגים קיבל פסקאות בערבית מדוברת או ספרותית, והתבקש לכתוב שאלות בערבית מדוברת על כל פסקה ולסמן את התשובות בתוך הפסקה. ב-ArQ תויגו שני סוגים של שאלות: שאלות פתירות, שיש להן מענה בפסקה, ושאלות בלתי פתירות, שנאספו כדי לאמן מודלים לזהות מצבים שבהם אין בטקסט מענה לשאלה.
+ArQ נוצר בשאיפה לקדם את תחום ה-NLP בערבית מדוברת של אזור הלבנט, ולכן כל השאלות, בין שפסקת הקונטקסט כתובה בספרותית ובין שבמדוברת, נכתבו בערבית מדוברת של האזור. 
+
+במהלך בניית הדאטה-סט, הושם דגש על שלושה מאפיינים:
+א. היקף גדול: ArQ מכיל 32,625 "שלשות" (שאלה, תשובה ופסקת קונטקסט), מתוכן 16,846 שאלות (52%) שנכתבו על פסקאות בערבית ספרותית ו-15,779 שאלות (48%) שנכתבו על פסקאות מתומללות בערבית מדוברת. מספר גדול של שאלות מאפשר אימון של מודלים גדולים יותר ובעלי יכולת הכללה טובה יותר.
+ב. דאטה-סט מגוון:
+גיוון במקורות הטקסט: השאלות ב-ArQ תויגו על שני מקורות טקסטואליים שונים: (1) מאמרים מתוך אתר חדשות בערבית ספרותית ו-(2) תמלולים של סרטונים וראיונות בערבית מדוברת של אזור הלבנט.
+גיוון בדיאלקטים: בתוך החלק של ערבית מדוברת, נעשה ניסיון ליצור גיוון בייצוג הדיאלקטים המרכיבים את משפחת הדיאלקטים של אזור הלבנט: הראיונות המתומללים, שהיוו כ-40% מכלל החומר, כללו בעיקר ערבית מדוברת של ישראל. תמלולי הסרטונים (40%) היו מגוונים יותר וכללו גם ערבית לבנונית, סורית ומצרית. לצד אלו, נעשה שימוש גם בכ-200 פסקאות מתומללות מתוך פודקאסט בערבית מדוברת של לבנון (כ-20%).
+גיוון בסוגי השאלות: מלבד שאלות בעלות תשובה, ArQ מכיל גם כ-25% שאלות בלתי פתירות (שאלות שהתשובה עליהן לא מופיעה בטקסט), שילוב שאלות בלתי פתירות בדאטה-סטים של QA נמצא חיוני לשיפור יכולות הלמידה וההכללה של מודלים.
+גיוון בסגנון: במשימת התיוג השתתפו 12 מתייגים שונים, מה שאפשר גיוון סגנוני הן בניסוח ובאוצר מילים והן בדרך החשיבה שלפיה נכתבו השאלות.
+גיוון בנושאים: ריבוי המקורות אפשר גם גיוון בנושאים המהווים את הקונטקסט לכתיבת השאלות. הדאטה-סט מכסה מגוון רחב של נושאים, החל בפוליטיקה, בריאות וטכנולוגיה וכלה בהיסטוריה, רוח, הומור ויומיום, וכמו כן מגוון של סגנונות תחביריים (כתבות, סרטונים קצרים, פודקאסטים, ראיונות, ועוד).
+ג. איכות:
+תהליך בקרת איכות קפדני: במהלך התיוג של ArQ בוצע הליך קפדני של בקרת איכות, ומשוב על איכות העבודה הועבר למתייגים באופן שוטף.
+איזון משתנים נשלטים: במהלך בניית הדאטה-סט נעשה ניסיון להשיג איזון בין משתנים נשלטים, כגון מילות השאלה והיחס בין שאלות פתירות לבלתי פתירות.
+
+גיבוש מדריך ההנחיות 
+מדריך ההנחיות ומשתנים הקשורים לתיוג (כגון קצב התיוג) בוססו על העבודה שנעשתה בפרויקט HeQ. עבודת המחק�� שנעשתה ע"י הילה מרחב (ווביקס), תרם להבנת החשיבות הרבה שבגיבוש מדריך הנחיות יעיל ורלוונטי על סמך ניתוח בעיות אמיתיות ונפוצות שנצפו אצל המשתתפים, וכן החשיבות של מתן משוב למתייגים, בשיפור קצב ואיכות העבודה.
+מדריך התיוג מוצג כאן בצורתו הסופית, אך במהלך העבודה פעל כמסמך "נושם" אשר נוספו לו הנחיות וחידודים במידת הצורך. כמו ב-HeQ, המדריך מחולק לשלושה פרקים: (1) הנחיות לניסוח שאלה פתירה, (2) הנחיות לניסוח שאלה בלתי-פתירה ו-(3) הנחיות לסימון תשובה. בנוסף, המדריך כולל שאלות נפוצות שנשאלו ע"י המתייגים וכן דוגמאות לשאלות שנפסלו (יחד עם הסיבה לפסילה).
+חלק מן ההנחיות משרטטות כללים למשימה ומבדילות בין תיוג תקין לתיוג פסול. בפרק סימון התשובות, למשל, ניתנה הגדרה חד-משמעית לטווח התשובה התקין: נקבע כי יש לסמן את התשובה הישירה עצמה, ולא משפט מלא או מקטע ארוך שניתן למצוא בתוכו את התשובה. לדוגמה, כתשובה לשאלה: ״מי היה הנשיא הראשון של ארה"ב?״ המתייגים נדרשים לסמן את שם הישות בלבד, ג'ורג' וושינגטון ולא את המשפט במלואו, ג'ורג' וושינגטון היה הנשיא הראשון של ארה"ב:
+
+
+הנחיות אחרות מעודדות את המתייגים לכתוב שאלות "טובות" (מעבר ל"עוברות סף" בלבד), בצירוף הצעות למגוון דרכים וטיפים איך לעשות זאת. ההנחיות והדגשים מלווים בדוגמאות בערבית, ובסוף המדריך מופיעות דוגמאות אמיתיות מעבודת המתייגים (בעילום שם כמובן).
+
+המתייגים
+המתייגים ב-ArQ היו  עובדים  של חברת ווביקס ושל  קבלן משנה של ווביקס (חברת באבקום). למיונים הוזמנו דוברי ערבית שפת אם בלבד, וצוות המתייגים נברר לאחר השתתפות במבחן כניסה, הזהה באופיו למשימת תיוג השאלות: המתייגים התבקשו לקרוא את מדריך ההנחיות (המתואר לעיל) לכתוב שאלות ולסמן תשובות על גבי פסקאות קונטקסט בספרותית ובמדוברת שנבחרו מראש לצורך המשימה.
+המשתתפים במבחן הכניסה נופו על סמך קריטריוני איכות שונים, שהמרכזיים בהם היו:
+טווח תשובה גדול מדי (מחרוזת התווים שסומנה בתור תשובה לא הייתה התשובה עצמה, אלא משפט מלא או מקטע ארוך שניתן למצוא בתוכו את התשובה).
+אי הבנת ההוראות (למשל, ההוראות הנוגעות לשאלות בלתי פתירות).
+רשלנות ניכרת (טעויות הקלדה רבות, בעיות ניסוח, תשובות חתוכות וכו').
+לאחר המיונים, 12 מתייגים לקחו חלק במשימת התיוג בסה"כ. ניהול משימות התיוג נערך תוך בקרה שוטפת על איכות עבודתם של המתייגים ועל ההספק שלהם. המתייגים קיבלו משוב אישי תקופתי באופן קבוע, שכלל הערות לשיפור ולשימור. מתייגים שלא השתפרו בביצועיהם ולא הצליחו ליישם את המשוב שניתן להם בהצלחה, נופו במהלך העבודה (סה"כ נופו 3 מתוך 12 מתייגים).
+
+בקרת איכות שוטפת
+ניהול משימות התיוג נערך תוך בקרה שוטפת על איכות עבודתם של המתייגים ועל ההספק שלהם. הבקרה כללה פסילה או טיוב של שאלות, ובמידת הצורך המתייגים קיבלו משוב אישי הכולל הערות לשיפור ולשימור. להלן דוגמה למשוב שקיבלה מתייגת:
+שאלה: شو لازم نعمل عشان نحافظ على الحماية الشخصية؟
+תרגום: מה אנחנו צריכים לעשות כדי לשמור על ההגנה האישית שלנו (בחורף)?
+תשובה שסומנה: ارتداء ملابس دافئة وواقية، مثل القفازات والقبعات الشتوية والأحذية المناسبة
+תרגום: ללבוש ביגוד חם ומגן, כגון כפפות, כובעי חורף ונעליים מתאימות
+פידבק: השאלה טובה, אבל שימי לב שלשאלה בעלת צריכה להיות רק תשובה אחת נכונה בפסקה. כאן יש שתי תשובות: بتجنب المشي على الأسطح الز��قة (הימנעות מהליכה על משטחים חלקים) והתשובה שאת סימנת, ارتداء ملابس دافئة وواقية، مثل القفازات والقبعات الشتوية والأحذية المناسبة (ללבוש ביגוד חם ומגן, כגון כפפות, כובעי חורף ונעליים מתאימות).
+אם שני המשפטים היו מופיעים בנפרד לאורך הפסקה, לא היינו יכולים לשאול את שהשאלה מכיוון שניתן לסמן רק תשובה אחת, אך היות ששתי התשובות מופיעות ברצף - אפשר היה לסמן את כל המשפט וזו הייתה תשובה מתקבלת. כלומר, מותר שהתשובה לשאלה "מה צריך לעשות…?" תהיה יותר מדבר אחד, כל עוד ניתן לסמן את הרשימה כרצף אחד.
+
+השאלות שנבדקו במהלך האיסוף קיבלו תוויות איכות:
+Verified – שאלות עוברות סף, אך אינן שאלות "טובות". למשל, שאלות שלא היו נשאלות מחוץ להקשר של תיוג הפסקה.
+Good – שאלות טובות, שעונות על ההנחיות ונשמעות כשאלות "טבעיות" (שאלות שדובר טבעי היה עשוי לשאול, בלי קשר לתיוג הפסקה).
+Gold – שאלות טובות במיוחד, שנדרש היסק מורכב כדי לענות עליהן.
+Rejected – שאלות פסולות, שלא עוברות את הסף.
+דוגמאות לשאלות לפי תווית איכות:
+Verified:
+שאלה: ايش بيسمو المرحله لثالثه؟ (איך קוראים לשלב השלישי?)
+תשובה: المساومه (התמקחות)
+קונטקסט: المرحله الثالثه بيسموها المساومه (לשלב השלישי קוראים התמקחות)
+
+Good:
+שאלה: بعد بقديش عرفو انو غشاش؟ (לאחר כמה זמן הבינו שהוא רמאי?)
+תשובה: باليوم الثاني (ביום השני)
+קונטקסט: وطبعا باليوم الثاني لحتى عرفو أنو هاد الشخص لا طبيب ولا بطيخ (וכמובן שביום השני כבר הבינו שהאיש הזה הוא לא רופא ולא בטיח)
+
+Gold:
+שאלה: شو اسم المغنية في عيله المتكلم الثاني؟ (איך קוראים לזמרת במשפחתו של הדובר השני?)
+תשובה: لارا خوري (לארה ח'ורי)
+קונטקסט: 
+متكلم 1: وفي عندكو بالعيلة حدا يلي بيعزف يعني؟
+متكلم 2: آه أختي بتغني أخوي، تعلم إيه أختي لارا خوري
+متكلم 2: آه، غني بروفيشنال
+(דובר 1: ויש מישהו במשפחה שלכם שמנגן כאילו?
+דובר 2: כן, אחותי שרה, אתה יודע, אחותי לארה ח'ורי
+דובר 1: שרה
+דובר 2: כן, שרה באופן מקצועי)
+
+Rejected:
+שאלה: لمين صباح لخير؟ (למי בוקר טוב?)
+תשובה:  للجميع (לכולם)
+קונטקסט: صباح الخير للجميع (בוקר טוב לכולם)
+
+מדדי דיוק
+בסוף שלב האיסוף נדגמו אקראית מהדאטה-סט כ-330 שאלות ותשובות. הסט הנדגם שימש להערכת איכות הדאטה-סט, אשר נמדדה באמצעות שני פרמטרים שנקבעו מראש:
+א. אחוז שאלות ותשובות תקינות (האם התשובה X אכן עונה לשאלה Y בהינתן פסקת הקונטקסט Z): כ-92% מהשאלות שנדגמו לצורך הבדיקה נמצאו תקינות.
+ב. אחוז תשובות בעלות טווח תשובה תקין מתוך השאלות שנמצאו תקינות (טווח תשובה תקין הוגדר בתור יחידת הטקסט המינימלית בפסקה שמספקת תשובה לשאלה): כ-97% מהשאלות התקינות היו בעלות טווח תשובה מינימלי.
+מתוך השאלות והתשובות שנדגמו בבדיקה זו, כ-71% היו טובות (good), כ-17% עברו סף (verified), כ-4% היו מעולות (gold) וכ-8% נפסלו (rejected).
+
+ניקוי הדאטה
+בסיום שלב האיסוף נערכו מספר פעולות ניקוי על הדאטה: נפסלו שאלות זהות, נמחקו רווחים מיותרים בסוף או בתחילת שאלה, נוסף סימן שאלה בשאלות שבהן היה חסר, נוקו תווים מיותרים מהשאלות והתשובות, תוקנו שאלות ללא מילת שאלה, תוקנו תשובות שנחתכו באמצע, ועוד. חשוב לציין שהתיקונים שנעשו היו של דברים שזוהו כארקטיפקטים טכניים שעלולים להפריע למודל. תופעות טבעיות, כמו שגיאות כתיב בשאלות, לא תוקנו.
+
+חלוקה לסטים
+לאחר שלב האיסוף, חולק הדאטה-סט לשלושה סטים: סט אימון (90%), סט ולידציה (5%) וסט מבח�� (5%). החלוקה של השאלות לסטים הייתה אקראית-נשלטת, כאשר מספר אילוצים על ההתפלגות נקבעו מראש:
+א. כל השאלות שנשאלו על אותו ה"ערך" (כתבה חדשותית בספרותית או פסקה מתוך תמלול במדוברת) הוקצו לאותו סט, על מנת להימנע מאימון המודל על חומר שיהיה בסט המבחן ("זליגת מידע").
+ב. רוב השאלות שקיבלו תווית איכות "gold" במהלך בקרת האיכות הוקצו לתתי-הסטים של הוולידציה והמבחן (ואיתן כמובן הערכים שהכילו אותן בשלמותם). פרמטר זה תורם לאיכותם של תתי-סטים אלה.
+בין שלושת הסטים נשמר יחס קבוע ככל הניתן בין שאלות פתירות לבלתי פתירות, על מנת לא לתת משקל עודף לסוג מסוים של שאלה באחד הסטים. 
+לאחר החלוקה, סט המבחן וסט הוולידציה עברו עיבוד נוסף:
+א. בקרה הרמטית של איכות השאלות וטיוב שאלות באופן ידני במידת הצורך (כך שאין בסטים אלו שאלות לא תקינות).
+ב. סימון תשובות נוספות: במקרים שבהם את התשובה לשאלה ניתן לסמן במגוון דרכים נכונות, נוספו אפשרויות סימון נוספות אלו כדי להפוך את הסטים לרובסטיים יותר.
+לדוגמה: אם התשובה נתונה בתוך מרכאות, היא עשויה לכלול או שלא לכלול את המרכאות (ועדיין תהיה נכונה); תשובות עשויות לכלול או שלא לכלול מילות יחס המקדימות את תוכן התשובה (ב-, על-) או רכיבי תמורה ("הד"ר אחמד סעיד" או "אחמד סעיד") וכו'. לכל שאלה פתירה נוספו בין 0 ל-3 אפשרויות נוספות לסימון תשובה.
+
+סיכום
+ArQ הוא דאטה-סט גדול ואיכותי מסוג Question Answering הכולל 32,625 שאלות ותשובות בערבית מדוברת של אזור הלבנט ובערבית ספרותית מודרנית סטנדרטית (MSA). אנו תקווה ש-ArQ יתרום לקהילת ה-NLP, ולצד מאמצים נוספים שנעשים במסגרת תוכנית ה-NLP הלאומית, יאפשר לתרום לייצוג של ערבית מדוברת של אזור הלבנט בתחום ה-NLP. אנו מקווים שהדאטה-סט ישמש לקידום תשתיות וטכנולוגיות לעיבוד והבנת השפה הערבית, עליהן ניתן יהיה לבסס יישומים מתקדמים של עיבוד שפה טבעית (מנועי חיפוש, צ'טבוטים, וכיו"ב). בנוסף, אנחנו מקווים שהדאטה-סט שיצרנו, יחד עם הידע והכלים ששיתפנו, יתרמו למחקר בתחום ה-NLP, יהוו השראה ויסייעו ביצירת דאטה-סטים חדשים.
+
+תודות לכל השותפים שקצרה היריעה מלהכיל את כולם לפרוייקט חשוב זה