from datasets import load_dataset
import datasets
import os

dataset = load_dataset('BaSalam/persian-mmlu')
df = dataset['train'].to_pandas()

task_category = list(set(dataset['train']['final_category_fa']))
english_name_to_persian_name_list = {
    'statistics_and_probability': ['آمار و احتمال دوره دوم متوسطه'],
    'analytics': ['استعداد تحلیلی دوره اول متوسطه'],
    'economy': ['اقتصاد دوره دوم متوسطه'],
    'history': ['تاریخ دوره دوم متوسطه'],
    'islamic_life': [
        'دین و زندگی دوره دوم متوسطه',
        'تعلیم و تربیت اسلامی دوره دوم ابتدایی',
        'تعلیم و تربیت اسلامی دوره اول متوسطه',
        'تعلیم و تربیت اسلامی دوره اول ابتدایی'
    ],
    'sociology': ['جامعه شناسی دوره دوم متوسطه'],
    'geography': ['جغرافیا دوره دوم متوسطه'],
    'logic': ['منطق دوره دوم متوسطه'],
    'psychology': ['روانشناسی دوره دوم متوسطه'],
    'math': [
        'ریاضی دوره دوم متوسطه',
        'ریاضی دوره اول متوسطه',
        'ریاضی دوره دوم ابتدایی',
        'ریاضی دوره اول ابتدایی',
        'ریاضی و آمار دوره دوم متوسطه',
        'حسابان دوره دوم متوسطه'
    ],
    'discrete_math': ['ریاضیات گسسته دوره دوم متوسطه'],
    'persian_literature': [
        'زبان و ادبیات فارسی دوره اول متوسطه',
        'زبان و ادبیات فارسی دوره دوم ابتدایی',
        'زبان و ادبیات فارسی دوره دوم متوسطه',
        'زبان و ادبیات فارسی دوره اول ابتدایی'
    ],
    'geology': ['زمین شناسی دوره دوم متوسطه'],
    'biology': ['زیست شناسی دوره دوم متوسطه'],
    'chemistry': ['شیمی دوره دوم متوسطه'],
    'social_studies': [
        'مطالعات اجتماعی دوره اول ابتدایی',
        'مطالعات اجتماعی دوره اول متوسطه',
        'مطالعات اجتماعی دوره دوم ابتدایی'
    ],
    'science': [
        'علوم تجربی دوره اول ابتدایی',
        'علوم تجربی دوره اول متوسطه',
        'علوم تجربی دوره دوم ابتدایی'
    ],
    'philosophy': ['فلسفه دوره دوم متوسطه'],
    'physics': ['فیزیک دوره دوم متوسطه'],
    'geometry': ['هندسه دوره دوم متوسطه'],
    'intelligence': ['سرعت و دقت دوره دوم ابتدایی',
                     'هوش کلامی و ادبی دوره دوم ابتدایی',
                     'هوش ریاضی و منطقی دوره دوم ابتدایی'
                     ],
}

df['options'] = df.apply(lambda row: [row['Choice 1'], row['Choice 2'], row['Choice 3'], row['Choice 4']], axis=1)
df['label'] = df.apply(lambda row: int(row['Key'] - 1), axis=1)
df.rename(columns={'Question Body': 'question'}, inplace=True)
columns = ['question', 'options', 'label']
# df = df[columns]

tasks = {}
for task, group_category in english_name_to_persian_name_list.items():
    group_df = df[columns][df['final_category_fa'].isin(group_category)]
    group_dict = group_df.to_dict(orient='records')
    tasks[task] = group_dict
tasks['all'] = df[columns].to_dict(orient='records')


class PersianMMLU(datasets.GeneratorBasedBuilder):
    BUILDER_CONFIGS = [
        datasets.BuilderConfig(
            name=sub, version=datasets.Version("1.0.0"), description=f"MMLU Subject {sub}"
        )
        for sub in tasks.keys()
    ]

    def _info(self):
        return datasets.DatasetInfo(
            description="Khayyam Challenge",
            features=datasets.Features({
                "question": datasets.Value("string"),
                'options': datasets.Sequence(datasets.Value("string")),
                "label": datasets.Value("int32")
            }),

            supervised_keys=None,
            homepage="https://arxiv.org/abs/2404.06644",
            citation="""@article{ghahroodi2024khayyam,
                          title={Khayyam Challenge (PersianMMLU): Is Your LLM Truly Wise to The Persian Language?},
                          author={Ghahroodi, Omid and Nouri, Marzia and Sanian, Mohammad Vali and Sahebi, Alireza and Dastgheib, Doratossadat and Asgari, Ehsaneddin and Baghshah, Mahdieh Soleymani and Rohban, Mohammad Hossein},
                          journal={arXiv preprint arXiv:2404.06644},
                          year={2024}
                        }"""
        )

    def _split_generators(self, dl_manager):
        return [
            datasets.SplitGenerator(
                name=datasets.Split.TEST,
                gen_kwargs={"questions": tasks[self.config.name]}
            )
        ]

    def _generate_examples(self, questions):
        for ind, question in enumerate(questions):
            yield ind, {"question": question["question"], 'options': question['options'], "label": question['label']}