reduce processing time

app.py

@@ -34,6 +34,8 @@ async def summarize(req: Request, body: SummarizeRequest):
     # Tiền xử lý: nếu không giống tin tức thì thêm "Tin nhanh:"
     if not text.lower().startswith(("theo", "trong khi", "bộ", "ngày", "việt nam", "công an")):
         text = "Tin nhanh: " + text
+    else 
+        text = "Vietnews: " + text 
 
     input_text = text + " </s>"
     encoding = tokenizer(input_text, return_tensors="pt")
@@ -45,7 +47,7 @@ async def summarize(req: Request, body: SummarizeRequest):
         input_ids=input_ids,
         attention_mask=attention_mask,
         max_length=128,
-        num_beams=2,
+        num_beams=1,
         early_stopping=True,
         no_repeat_ngram_size=2,
         num_return_sequences=1