Update app.py

app.py

@@ -2,32 +2,27 @@ import gradio as gr
 import pandas as pd
 from transformers import AutoTokenizer, AutoModelForCausalLM
 import torch
-
-# model, tokenizer 셋팅
-model_name = "meta-llama/Meta-Llama-3.1-8B-Instruct"
-tokenizer = AutoTokenizer.from_pretrained(model_name)
-model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16, device_map="auto")
-# 환경 변수에서 토큰을 가져오기
-hf_token = os.environ.get("HF_TOKEN",None)
-
-#hugging face 로그인 (토큰 가져오기 위해서)
 from huggingface_hub import login
 import os
+from datasets import load_dataset
 
+# 환경 변수에서 토큰을 가져오기
+hf_token = os.environ.get("HF_TOKEN", None)
 
-
-# 토큰을 사용하여 로그인
+# Hugging Face 로그인
 if hf_token:
     login(token=hf_token)
 else:
     print("HF_TOKEN 환경 변수가 설정되지 않았습니다.")
-    
-# KMMLU 데이터셋 로드 
-# 직접 불러오기 df = pd.read_csv("kmmlu_sample.csv")
 
-from datasets import load_dataset
+# model, tokenizer 셋팅
+model_name = "meta-llama/Llama-2-7b-chat-hf"
+tokenizer = AutoTokenizer.from_pretrained(model_name, token=hf_token)
+model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.float16, device_map="auto", token=hf_token)
 
-df = load_dataset("HAERAE-HUB/KMMLU", "Accounting")
+# KMMLU 데이터셋 로드
+dataset = load_dataset("HAERAE-HUB/KMMLU", "Accounting")
+df = dataset['test'].to_pandas()
 
 def evaluate_model(question, choices):
     prompt = f"질문: {question}\n\n선택지:\n"
@@ -68,11 +63,10 @@ def run_kmmlu_test(subject):
 subjects = df['subject'].unique().tolist()
 
 iface = gr.Interface(
-    
     fn=run_kmmlu_test,
     inputs=gr.Dropdown(choices=subjects, label="주제 선택"),
     outputs="text",
-    title="Llama 3을 이용한 KMMLU 테스트",
+    title="Llama 2를 이용한 KMMLU 테스트",
     description="선택한 주제에 대해 KMMLU 테스트를 실행합니다."
 )