vi-laya / usage_example.py
duclvQ's picture
Upload vi-laya-general
64a4f27 verified
Raw History Blame Contribute Delete
3.73 kB
import laya
from huggingface_hub import snapshot_download
agent = laya.Agent(snapshot_download("duclvQ/vi-laya"), device="cuda") # or "cpu"
question = {"match": {"type": "noul",
"instructions": agent.cfg["question"]["instructions"]}}
def rank(query, docs):
states = [{"query": query, "document": d} for d in docs]
scores = [r["answers"]["match"]["noul"] for r in agent.predict_batch(states, question, batch_size=8)]
print(query)
for s, d in sorted(zip(scores, docs), reverse=True):
print(f" {s:.3f} {d[:70]}")
# Each query: the answer + two hard negatives (same topic, do not answer the query).
rank("Tại sao bầu trời có màu xanh?", [
"Bầu trời có màu xanh do tán xạ Rayleigh: ánh sáng bước sóng ngắn (xanh lam) bị các phân tử khí tán xạ mạnh hơn ánh sáng đỏ.",
"Cầu vồng xuất hiện khi ánh sáng Mặt Trời bị khúc xạ, phản xạ và tán sắc trong các giọt nước mưa.",
"Khí quyển Trái Đất gồm khoảng 78% nitơ, 21% oxy và một lượng nhỏ các khí khác.",
])
rank("Trẻ em mấy tháng tuổi thì được tiêm vắc xin sởi?", [
"Theo lịch tiêm chủng mở rộng, trẻ được tiêm mũi vắc xin sởi đầu tiên lúc 9 tháng tuổi và tiêm nhắc vắc xin sởi – rubella lúc 18 tháng tuổi.",
"Vắc xin viêm gan B liều sơ sinh nên được tiêm trong vòng 24 giờ đầu sau sinh.",
"Sởi là bệnh truyền nhiễm cấp tính do virus, biểu hiện sốt, ho, chảy nước mũi, sau đó phát ban từ sau tai lan xuống toàn thân.",
])
rank("Đội tuyển Việt Nam vô địch AFF Cup lần đầu tiên vào năm nào?", [
"Đội tuyển bóng đá quốc gia Việt Nam lần đầu vô địch AFF Suzuki Cup vào năm 2008 dưới sự dẫn dắt của huấn luyện viên Henrique Calisto.",
"Năm 2018, U23 Việt Nam giành ngôi á quân Giải vô địch U23 châu Á tại Thường Châu, Trung Quốc.",
"SEA Games là đại hội thể thao dành cho các quốc gia Đông Nam Á, được tổ chức hai năm một lần.",
])
rank("Làm sao để ngủ ngon hơn vào ban đêm?", [
"Để ngủ ngon hơn, hãy đi ngủ và thức dậy vào giờ cố định, tránh cà phê sau buổi chiều và hạn chế dùng điện thoại trước khi ngủ.",
"Ngủ trưa khoảng 15–30 phút giúp cải thiện sự tỉnh táo vào buổi chiều.",
"Chứng ngáy ngủ xảy ra khi luồng không khí đi qua đường thở bị cản trở một phần.",
])
rank("Làm thế nào để giải phóng dung lượng bộ nhớ trên điện thoại Android?", [
"Vào Cài đặt > Bộ nhớ, xóa bộ nhớ đệm, gỡ ứng dụng không dùng và chuyển ảnh, video lên đám mây để giải phóng dung lượng.",
"Để tăng thời lượng pin, hãy giảm độ sáng màn hình và tắt Bluetooth, GPS khi không dùng.",
"RAM là bộ nhớ tạm thời giúp điện thoại chạy nhiều ứng dụng cùng lúc.",
])
rank("Người lao động được nghỉ phép năm bao nhiêu ngày?", [
"Người lao động làm việc đủ 12 tháng cho một người sử dụng lao động thì được nghỉ hằng năm, hưởng nguyên lương, 12 ngày làm việc đối với người làm công việc trong điều kiện bình thường.",
"Người lao động được nghỉ làm việc, hưởng nguyên lương trong những ngày lễ, tết: Tết Dương lịch 01 ngày, Tết Âm lịch 05 ngày.",
"Lao động nữ được nghỉ thai sản trước và sau khi sinh con là 06 tháng.",
])