load model

src/streamlit_app.py

@@ -74,10 +74,8 @@ def preprocess_function(examples, tokenizer):
     return {key: tensor.to(device) for key, tensor in inputs.items()}
 
 def generate_q(context, answer):
-    # tokenizer = AutoTokenizer.from_pretrained('shnl/inst-qg-vinewsqa-vit5', cache_dir="/tmp/huggingface")
-    # model = AutoModelForSeq2SeqLM.from_pretrained('shnl/inst-qg-vinewsqa-vit5', cache_dir="/tmp/huggingface")
-    tokenizer = AutoTokenizer.from_pretrained('shnl/inst-qg-vinewsqa-vit5')
-    model = AutoModelForSeq2SeqLM.from_pretrained('shnl/inst-qg-vinewsqa-vit5')
+    tokenizer = AutoTokenizer.from_pretrained('shnl/inst-qg-vinewsqa-vit5', cache_dir="/tmp/huggingface")
+    model = AutoModelForSeq2SeqLM.from_pretrained('shnl/inst-qg-vinewsqa-vit5', cache_dir="/tmp/huggingface")
     instruction_qg = 'Hãy tạo ra câu hỏi từ nội dung của ngữ cảnh và câu trả lời dưới đây.',
     examples = {"input_seq": str("### Instruction: \n"
                                  f"{instruction_qg} \n\n"