Llama-3-8B-Hotel-Agent (Multi-Tenant & Zero-Hallucination)

Dự án AI Sale Agent chuyên biệt cho ngành khách sạn, được tinh chỉnh (Fine-tune) từ nền tảng Llama-3-8B-Instruct bằng công nghệ Unsloth.

Model được huấn luyện theo phương pháp Data-Agnostic (Không phụ thuộc dữ liệu cứng). AI không học vẹt thông tin của một khách sạn cụ thể, mà học kỹ năng giao tiếp, xử lý từ chối và chốt sale. Toàn bộ thông tin về phòng ốc, giá cả, dịch vụ sẽ được bơm động từ Backend vào System Prompt tại thời điểm chạy thực tế.

---

🎯 Các tính năng vượt trội đã được tối ưu

• Cá nhân hóa theo thời gian thực (Multi-Tenancy): Dùng duy nhất 1 model cho hàng trăm khách sạn khác nhau bằng cách thay đổi cấu hình đầu vào.
• Xử lý từ chối cực tốt (Objection Handling): Khi khách hàng chê giá đắt hoặc so sánh với các ứng dụng đặt phòng (Agoda, Booking...), AI biết tự động lôi các điểm mạnh (Bao gồm ăn sáng, không phí ẩn...) để bảo vệ giá.
• Bán chéo & Nâng hạng (Upsell/Cross-sell): Nhận diện ý định ẩn của khách để gợi ý các hạng phòng cao hơn hoặc dịch vụ đi kèm.
• Chống ảo giác thông tin (Zero-Hallucination): Tuyệt đối không tự bịa ra thông tin không có trong cấu hình. Tự động từ chối khéo léo hoặc bẻ lái khi khách hỏi lạc đề.

---

📑 Cấu trúc Prompt Chuẩn (Llama 3 Instruct Format)

Để AI hoạt động chính xác 100% như lúc huấn luyện, bạn bắt buộc phải truyền dữ liệu theo đúng định dạng cấu trúc dưới đây:

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

Bạn là Sale Agent chuyên nghiệp của khách sạn. Hãy dùng thông tin dưới đây để hỗ trợ khách hàng:
- Tên khách sạn: {hotel_name}
- Địa chỉ: {address}
- Hotline: {hotline}
- Thông tin phòng & Giá: {room_data}
- Tiện ích đi kèm: {amenities}

QUY TẮC: Trả lời ngắn gọn, lịch sự, xưng hô Dạ/Anh/Chị. Không tự bịa thông tin ngoài danh sách trên.<|eot_id|><|start_header_id|>user<|end_header_id|>

{câu_hỏi_của_khách_hàng}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

💻 Hướng dẫn chạy Model (Inference)

1. Nếu chạy file GGUF trên CPU (Dùng llama-cpp-python) Phù hợp deploy lên các môi trường giá rẻ, cấu hình thấp như Railway hoặc Render:

from llama_cpp import Llama

llm = Llama(
    model_path="hotel_agent_model.Q4_K_M.gguf",
    n_ctx=2048,
    n_threads=4
)

prompt = """<|begin_of_text|><|start_header_id|>system<|end_header_id|>\n\nBạn là Sale Agent khách sạn...<|eot_id|><|start_header_id|>user<|end_header_id|>\n\nPhòng Deluxe bên em có bồn tắm không?<|eot_id|><|start_header_id|>assistant<|end_header_id|>\n\n"""

output = llm(prompt, max_tokens=150, stop=["<|eot_id|>"])
print(output["choices"][0]["text"])

2. Nếu chạy định dạng Safetensors trên GPU (Dùng transformers) Phù hợp chạy trên Featherless AI, RunPod Serverless hoặc Together AI:

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "ten-tai-khoan-cua-ban/hotel-agent-8b-safetensors"

model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.bfloat16, device_map="auto")
tokenizer = AutoTokenizer.from_pretrained(model_id)

# Sử dụng vLLM hoặc pipeline chuẩn để gọi mô hình chat

📊 Thông số huấn luyện (Training Hyperparameters)

Dưới đây là các thông số cốt lõi được ghi nhận từ quá trình huấn luyện thực tế trên GPU NVIDIA RTX 4090: Thông số | Giá trị Kích thước Dataset | 15,000 mẫu hội thoại thực tế Số lượng Epochs | 1 Epoch Số lượng Steps | 500 Steps Batch Size (Per Device) | 1 Gradient Accumulation | 8 Optimizer | adamw_torch Tỷ lệ tham số LoRA | 0.52% (41,943,040 parameters)