Upload 2 files

persian-mmlu-categorized.py

@@ -0,0 +1,112 @@
+from datasets import load_dataset
+import datasets
+import os
+
+dataset = load_dataset('BaSalam/persian-mmlu')
+df = dataset['train'].to_pandas()
+
+task_category = list(set(dataset['train']['final_category_fa']))
+english_name_to_persian_name_list = {
+    'statistics_and_probability': ['آمار و احتمال دوره دوم متوسطه'],
+    'analytics': ['استعداد تحلیلی دوره اول متوسطه'],
+    'economy': ['اقتصاد دوره دوم متوسطه'],
+    'history': ['تاریخ دوره دوم متوسطه'],
+    'islamic_life': [
+        'دین و زندگی دوره دوم متوسطه',
+        'تعلیم و تربیت اسلامی دوره دوم ابتدایی',
+        'تعلیم و تربیت اسلامی دوره اول متوسطه',
+        'تعلیم و تربیت اسلامی دوره اول ابتدایی'
+    ],
+    'sociology': ['جامعه شناسی دوره دوم متوسطه'],
+    'geography': ['جغرافیا دوره دوم متوسطه'],
+    'logic': ['منطق دوره دوم متوسطه'],
+    'psychology': ['روانشناسی دوره دوم متوسطه'],
+    'math': [
+        'ریاضی دوره دوم متوسطه',
+        'ریاضی دوره اول متوسطه',
+        'ریاضی دوره دوم ابتدایی',
+        'ریاضی دوره اول ابتدایی',
+        'ریاضی و آمار دوره دوم متوسطه',
+        'حسابان دوره دوم متوسطه'
+    ],
+    'discrete_math': ['ریاضیات گسسته دوره دوم متوسطه'],
+    'persian_literature': [
+        'زبان و ادبیات فارسی دوره اول متوسطه',
+        'زبان و ادبیات فارسی دوره دوم ابتدایی',
+        'زبان و ادبیات فارسی دوره دوم متوسطه',
+        'زبان و ادبیات فارسی دوره اول ابتدایی'
+    ],
+    'geology': ['زمین شناسی دوره دوم متوسطه'],
+    'biology': ['زیست شناسی دوره دوم متوسطه'],
+    'chemistry': ['شیمی دوره دوم متوسطه'],
+    'social_studies': [
+        'مطالعات اجتماعی دوره اول ابتدایی',
+        'مطالعات اجتماعی دوره اول متوسطه',
+        'مطالعات اجتماعی دوره دوم ابتدایی'
+    ],
+    'science': [
+        'علوم تجربی دوره اول ابتدایی',
+        'علوم تجربی دوره اول متوسطه',
+        'علوم تجربی دوره دوم ابتدایی'
+    ],
+    'philosophy': ['فلسفه دوره دوم متوسطه'],
+    'physics': ['فیزیک دوره دوم متوسطه'],
+    'geometry': ['هندسه دوره دوم متوسطه'],
+    'intelligence': ['سرعت و دقت دوره دوم ابتدایی',
+                     'هوش کلامی و ادبی دوره دوم ابتدایی',
+                     'هوش ریاضی و منطقی دوره دوم ابتدایی'
+                     ],
+}
+
+df['options'] = df.apply(lambda row: [row['Choice 1'], row['Choice 2'], row['Choice 3'], row['Choice 4']], axis=1)
+df['label'] = df.apply(lambda row: int(row['Key'] - 1), axis=1)
+df.rename(columns={'Question Body': 'question'}, inplace=True)
+columns = ['question', 'options', 'label']
+# df = df[columns]
+
+tasks = {}
+for task, group_category in english_name_to_persian_name_list.items():
+    group_df = df[columns][df['final_category_fa'].isin(group_category)]
+    group_dict = group_df.to_dict(orient='records')
+    tasks[task] = group_dict
+tasks['all'] = df[columns].to_dict(orient='records')
+
+
+class PersianMMLU(datasets.GeneratorBasedBuilder):
+    BUILDER_CONFIGS = [
+        datasets.BuilderConfig(
+            name=sub, version=datasets.Version("1.0.0"), description=f"MMLU Subject {sub}"
+        )
+        for sub in tasks.keys()
+    ]
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description="Khayyam Challenge",
+            features=datasets.Features({
+                "question": datasets.Value("string"),
+                'options': datasets.Sequence(datasets.Value("string")),
+                "label": datasets.Value("int32")
+            }),
+
+            supervised_keys=None,
+            homepage="https://arxiv.org/abs/2404.06644",
+            citation="""@article{ghahroodi2024khayyam,
+                          title={Khayyam Challenge (PersianMMLU): Is Your LLM Truly Wise to The Persian Language?},
+                          author={Ghahroodi, Omid and Nouri, Marzia and Sanian, Mohammad Vali and Sahebi, Alireza and Dastgheib, Doratossadat and Asgari, Ehsaneddin and Baghshah, Mahdieh Soleymani and Rohban, Mohammad Hossein},
+                          journal={arXiv preprint arXiv:2404.06644},
+                          year={2024}
+                        }"""
+        )
+
+    def _split_generators(self, dl_manager):
+        return [
+            datasets.SplitGenerator(
+                name=datasets.Split.TEST,
+                gen_kwargs={"questions": tasks[self.config.name]}
+            )
+        ]
+
+    def _generate_examples(self, questions):
+        for ind, question in enumerate(questions):
+            yield ind, {"question": question["question"], 'options': question['options'], "label": question['label']}