Upload 5 files
Browse files
main.py
CHANGED
|
@@ -329,7 +329,7 @@ def fallback_infer(prompt):
|
|
| 329 |
if llm is None:
|
| 330 |
return "Xin lỗi, hệ thống đang bị lỗi tải mô hình GGUF."
|
| 331 |
|
| 332 |
-
system_prompt = "Bạn là trợ lý AI tiếng Việt tên là EvoNet.
|
| 333 |
formatted_prompt = f"<|im_start|>system\n{system_prompt}<|im_end|>\n<|im_start|>user\n{prompt}<|im_end|>\n<|im_start|>assistant\n"
|
| 334 |
|
| 335 |
res = llm.create_completion(
|
|
@@ -345,7 +345,11 @@ def fallback_infer(prompt):
|
|
| 345 |
# Loại bỏ nếu bị đứt đoạn <think> mà không có đóng
|
| 346 |
text = re.sub(r'<think>.*', '', text, flags=re.DOTALL)
|
| 347 |
|
| 348 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
| 349 |
|
| 350 |
|
| 351 |
|
|
|
|
| 329 |
if llm is None:
|
| 330 |
return "Xin lỗi, hệ thống đang bị lỗi tải mô hình GGUF."
|
| 331 |
|
| 332 |
+
system_prompt = "Bạn là trợ lý AI tiếng Việt tên là EvoNet. Hãy trả lời ngắn gọn, trực tiếp và chính xác. Không sử dụng tiếng Anh."
|
| 333 |
formatted_prompt = f"<|im_start|>system\n{system_prompt}<|im_end|>\n<|im_start|>user\n{prompt}<|im_end|>\n<|im_start|>assistant\n"
|
| 334 |
|
| 335 |
res = llm.create_completion(
|
|
|
|
| 345 |
# Loại bỏ nếu bị đứt đoạn <think> mà không có đóng
|
| 346 |
text = re.sub(r'<think>.*', '', text, flags=re.DOTALL)
|
| 347 |
|
| 348 |
+
text = text.strip()
|
| 349 |
+
if not text:
|
| 350 |
+
return "Xin lỗi, câu hỏi này làm hệ thống xử lý hơi bối rối. Bạn có thể hỏi lại theo cách khác được không?"
|
| 351 |
+
|
| 352 |
+
return text
|
| 353 |
|
| 354 |
|
| 355 |
|