Update app.py

app.py

@@ -30,6 +30,7 @@ def rnd_generate(prompt):
 @spaces.GPU
 def generate(prompt):
     result_length = len(prompt) + 4
+    prompt = prompt.split("<bos>")[1]
     inputs = tokenizer(prompt, return_tensors="pt").to('cuda') # 回傳的張量使用 Pytorch的格式。如果是 Tensorflow 格式的話，則指定為 "tf"。
     results = model.generate(inputs["input_ids"],
                        num_return_sequences=2, # 產生 2 個句子回來。