hellaswagultra

_id stringclasses 10 values	prompt stringclasses 10 values	choices listlengths 4 4	label int64 0 3	local_background bool 2 classes	local_commonsense bool 2 classes	verified bool 1 class
validation_0	تحت أزيز المكيف الصاخب الذي يملأ الغرفة، وضعت نورة طبقاً آخر على الطاولة بحركة مدروسة. مدّ علي يده ببطء، ناولها شوكة واحدة دون أن يرفع نظره عن الطاولة. رفعت نورة صوتها قليلاً ليخترق الضجيج قائلة: "والملاعق". بجانب يده الساكنة، تلمّعت قطرات الماء المتكثفة على جدار الإبريق الزجاجي الفارغ في الضوء الخافت القادم من خلف الس...	[ "A", "B", "C", "D" ]	1	false	false	true
validation_1	في المجلس الفسيح، ارتفع صوت خالد الحماسي وهو يشرح خطط مشروعه على جهازه اللوحي، بينما كانت رائحة العود تتصاعد من المبخرة. مدّ أبو فيصل يده بهدوء نحو الدلة النحاسية اللامعة، وصبّ القهوة العربية مباشرةً في الفنجان الخزفي الصغير الموضوع أمام ضيفه. استمر الشاب في حديثه دون توقف، لكن عينيه كانتا تتابعان وجه أبو فيصل الذي ظل ...	[ "A", "B", "C", "D" ]	3	true	false	true
validation_2	وقف حاتم عند المنضدة الخشبية العتيقة بينما كان سالم العطّار يضبط بعناية الميزان النحاسي، يزن له حفنة من الكمون. تجاوزت نظرات حاتم كتف سالم لتستقر على بستانه، حيث ظلت أغلفة الطلع معقودة على جذوع النخيل تحت شمس الأصيل الساكنة. دفع حاتم أمامه كيساً ورقياً صغيراً وقال بصوت خافت: "أريد بعض البابونج." أومأ سالم برأسه بهدوء، ...	[ "A", "B", "C", "D" ]	0	true	true	true
validation_3	مال خالد بجسده ليصب القهوة من الدلة النحاسية في فنجان سامي الصغير، مُصدراً رنة خفيفة. أمسك سامي بالفنجان بِيَدٍ مرتعشة قليلاً، وعيناه لم تفارقا وجه أخيه وهو يعيد الدلة إلى الصينية محدثاً صوتاً معدنياً قطع الصمت. في زاوية الغرفة، استقرت سجادة الصلاة مفروشة باتجاه القبلة. "إلى متى سننتظر؟" سأل سامي أخيراً بصوت خافت. A. د...	[ "A", "B", "C", "D" ]	3	true	false	true
validation_4	وقفت ليلى عند طرف المطبخ وقالت: "إذن، نمرّ عليهم السبت الساعة السابعة؟"، وهي تقرّب مغناطيساً تذكارياً صغيراً من باب الثلاجة ثم تبعده. جلس أمير إلى مكتبه المقابل حيث يرقد حاسوبه المحمول مغلقًا، صامتاً تحت ضوء المصباح المكتبي. مرّر إصبعه ببطء على طول أحد فروع نبتة "المستحية" الموضوعة في أصيصها، فانكمشت أوراقها على نفسها....	[ "A", "B", "C", "D" ]	2	false	false	true
validation_5	أفرغ كريم حمولة العربة اليدوية بجانب كومة الخردة التي أخرجها من السقيفة، بينما كانت لينا تجلس على جذع شجرة قريب، تتأمل حقل دوار الشمس الممتد تحت شمس الظهيرة الصافية. التقط كريم قطعة خشب جافة من بين الأغراض، وسار بها خطوات قليلة نحو بركة الماء الهادئة. رمى الخشب في الماء، مُحدثاً تموجات صغيرة على سطحها الساكن. استدار مب...	[ "A", "B", "C", "D" ]	3	false	false	true
validation_6	أنهت نورة مكالمتها الهاتفية، ووضعت جهازها مقلوباً على المكتب الصغير في زاوية الغرفة. رفع سالم عينيه أخيراً عن هاتفه الذي كان يتصفحه، فأطفأ الشاشة ووضعه على طاولة القهوة. ساد صمتٌ ثقيل بينهما، لم يقطعه سوى وميض الألوان المنعكس من شاشة التلفاز الصامتة. نظرت إليه مباشرة وقالت بصوت خافت، "سالم." A. أدار سالم رأسه ببطء نحوه...	[ "A", "B", "C", "D" ]	0	false	false	true
validation_7	جلست أمينة بهدوء على الأريكة، وعيناها مثبتتان على صينية فناجين القهوة الفارغة التي وُضعت جانباً. تحرّك ابنها خالد ووقف بجانب الطاولة الصغيرة، ثم مدّ يده ببطء وأخذ قطعة العود الجافة. وضعها بعناية داخل المبخرة الفخارية الباردة تماماً، بينما كانت رائحة العود التي بخرت بها الغرفة قبل ساعة لا تزال عالقة في الهواء. ساد صمتٌ ...	[ "A", "B", "C", "D" ]	2	true	false	true
validation_8	تحت الإضاءة الفلورية، كان سامي يقلّب بعصبية الأوراق المبعثرة على الطاولة بجوار حاسوبه المحمول المفتوح بحثاً عن رسم بياني. وضعت والدته نادية، التي تتحرك ببطء، طبقاً به بقايا يخنة كثيفة في فرن الميكروويف القديم وضغطت زر التشغيل. وبينما كان سامي لا يزال منهمكاً، أخرجت نادية الطبق الساخن بعد لحظات. ثم وضعت مكانه كوب الماء ...	[ "A", "B", "C", "D" ]	3	true	false	true
validation_9	فتح طارق باب الثلاجة، فأغرق ضوؤها الأبيض المطبخ بينما استمر أزيزها المنخفض الذي لم يتوقف لساعات. بيدٍ واحدة، أزاح علب المربى وطبقاً من بقايا طعام الأمس، وعيناه تبحثان بضجر بين الأغلفة المكدسة. التفت إلى كوب قهوته الفارغ على الطاولة قبل أن يتمتم بصوت خافت: "يا سارة، أين الحليب؟". أخيراً، دفع بعلبة جبن إلى الخلف، فظهرت ع...	[ "A", "B", "C", "D" ]	1	false	false	true

🤯HellaSwagUltra

📘 Overview

HellaSwagUltra is a large-scale multilingual commonsense reasoning benchmark that covers 60+ languages and contains over 160k+ test instances, grounded in local cultural knowledge.
It aims to address the saturation of existing commonsense benchmarks (e.g., HellaSwag, StoryCloze) and the lack of culturally diverse, multilingual evaluation datasets.

Unlike conventional reasoning tests, HellaSwagUltra embeds two implicit commonsense or local-knowledge facts in each story context. Each answer choice subtly reflects whether these pieces of commonsense are violated, requiring models to reason about nuanced plausibility differences rather than simply follow instructions.

✨ Key Features

🌍 Multilingual coverage across 61 languages, spanning diverse language families and cultural contexts.
🧠 Implicit commonsense embedding: Each instance involves two distinct, implicitly embedded commonsense facts.
🔁 Fully automated construction pipeline, including knowledge extraction, structured commonsense generation, and story rollout.
🧩 Local cultural grounding: ~50% of samples contain clear language-specific or cultural elements, and ~30% require local commonsense for correct reasoning.
🧑‍🏫 Human-verified subset: HellaSwagUltra-Gold — expert-validated data for high-stakes evaluation.
📈 Challenging yet stable difficulty design, avoiding saturation for strong models and collapse for smaller ones.

🏗️ Construction Pipeline

The data construction process consists of three major stages:

Knowledge Extraction
- Filter local Wikidata entities using heuristic and LLM-based criteria.
- Select culturally relevant pages (~1,000 per language).
Structured Commonsense Generation
- Generate structured items with fields: description, premise, consequence, and confliction.
- Enforce logical independence and validate quality using an LLM-based 10-rule checklist.
Test Rollout
- Design natural story schemas integrating multiple commonsense items.
- Generate narrative contexts and plausible distractors.
- Apply human verification and local cultural annotation (Local Background, Local Commonsense).

📊 Dataset Statistics

Split	Total Samples	Verified	Local Background	Local Commonsense
ALL	163138	2926	112784	77713
VERIFIED
EN	2943	766	699	558
DE	2863	605	1095	1128
AR	2820	652	1561	1235
FR	2816	568	1115	1119
ID	2946	335	2274	1417

Ongoing updates ...

⚙️ Evaluation Protocol

Task: Select the most plausible continuation of a given context (NLI-style multiple choice).

Datasets follows the naming format:

{dataset}_{mode}_{lang}

where:

dataset ∈ {hellaswaggold, hellaswagultra}
mode specifies the evaluation variant:
- en_template — English instruction prompt with localized content.
- local_template — Fully localized prompt and content in the target language.
- [en|local]_template_cot — CoT prompt.
- lighteval — Reformatted for cloze-style evaluation harnesses.
Format:
- Base models: Cloze format (lighteval mode) — select the option with the lowest perplexity.
- Instruction-tuned models: Using template modes — assessing the model’s authentic question-answering capability.
Metric: Accuracy / Exact Match (EM).

Downloads last month: 123