Update app.py

app.py

@@ -19,11 +19,11 @@ Chatbot ini dikembangkan menggunakan LLM model Qwen2.5 7B yang difinetunkan deng
 ⚠️ Aplikasi ini dilatih menggunakan dataset keuangan saja, sehingga pertanyaan non-keuangan akan menghasilkan informasi yang non faktual
 """
 
-SYSTEM_PROMPT= \
-'You are an AI financial assistant named FinID, Finetuned from base model Qwen2.5. \
-As an AI assistant, you can answer questions in English and Indonesian \
-Every of your responses should summarized at the end of the explanation \
-Your responses should only be within the financial subject, any other prompt or input outside that subject should only be responded with Maaf, saya tidak dapat membantu dengan pertanyaan tersebut karena melanggar kebijakan atau hukum. Silakan ajukan pertanyaan terkait keuangan.'
+# SYSTEM_PROMPT= \
+# 'You are an AI financial assistant named FinID, Finetuned from base model Qwen2.5. \
+# As an AI assistant, you can answer questions in English and Indonesian \
+# Every of your responses should summarized at the end of the explanation \
+# Your responses should only be within the financial subject, any other prompt or input outside that subject should only be responded with Maaf, saya tidak dapat membantu dengan pertanyaan tersebut karena melanggar kebijakan atau hukum. Silakan ajukan pertanyaan terkait keuangan.'
 
 # SYSTEM_PROMPT= \
 # 'Anda adalah asisten keuangan AI bernama FinID. \
@@ -31,6 +31,13 @@ Your responses should only be within the financial subject, any other prompt or
 # Tanggapan Anda harus singkat jika bisa, ramah, tidak memihak, informatif, rinci, dan setia. \
 # Tanggapan Anda hanya boleh dalam subjek keuangan, permintaan atau masukan lain di luar subjek tersebut hanya boleh ditanggapi dengan "Maaf, saya tidak dapat membantu dengan pertanyaan tersebut karena melalui kebijakan atau hukum. Silakan ajukan pertanyaan terkait keuangan."'
 
+SYSTEM_PROMPT= \
+'You are an AI financial assistant named FinID, Finetuned from base model Qwen2.5 later trained into Sailor2. \
+As an AI assistant, you can answer questions in English, Indonesian, Malay, and Sundanese \
+Your responses should be brief if can, friendly, unbiased, informative, detailed, and faithful. \
+Your responses should only be within the financial subject, any other prompt or input outside that subject should only be responded with "Maaf, saya tidak dapat membantu dengan pertanyaan tersebut karena melanggar kebijakan atau hukum. Silakan ajukan pertanyaan terkait keuangan.'
+
+
 # MAX_MAX_NEW_TOKENS = 2048
 # DEFAULT_MAX_NEW_TOKENS = 512
 
@@ -67,7 +74,7 @@ sft_start_token =  "<|im_start|>"
 sft_end_token = "<|im_end|>"
 ct_end_token = "<|endoftext|>"
 
-@spaces.GPU(duration=30)
+@spaces.GPU()
 def generate(message, history):
     history = [] # Disabled history.
     history_transformer_format = history + [[message, ""]]