Update app.py

app.py

@@ -4,6 +4,7 @@ from transformers import (
     AutoModelForCausalLM,
     AutoTokenizer,
     TextIteratorStreamer,
+    LlamaTokenizer,
 )
 import os
 from threading import Thread
@@ -21,6 +22,8 @@ subprocess.run(
 token = os.environ["HF_TOKEN"]
 
 # apple/OpenELM-270M 모델과 토크나이저 로드
+# 토크나이저가 오류나는 문제가 있어서 NousResearch/Llama-2-7b-hf를 씀 
+# 한국어 모델 토크나이저로 바꿔봄 beomi/llama-2-ko-7b
 model = AutoModelForCausalLM.from_pretrained(
     "apple/OpenELM-270M",
     token=token,
@@ -30,6 +33,7 @@ tok = AutoTokenizer.from_pretrained(
     "beomi/llama-2-ko-7b",
     token=token,
     trust_remote_code=True,
+    tokenizer_class=LlamaTokenizer,
 )
 
 # 종료 토큰 ID 설정