phamluan/vn_msa_sar_v3

VN-MSASar v3 — Multilingual Aspect-Based Sentiment + Sarcasm (hotel & restaurant reviews)

Chia split ở mức review. 100% review thật — toàn bộ dữ liệu sinh bằng LLM của bản đầu (nguồn augmented, 7.659 dòng rải ở cả ba split) đã bị loại bỏ.

Không tương thích ngược với phamluan/vn_sar_msa. 71% câu trong test nằm trong train của bản cũ. Mọi checkpoint huấn luyện trên bản cũ đều đã nhìn thấy test này — phải huấn luyện lại từ đầu.

Splits

Split	Dòng	Review	Mỉa mai	· nền tảng	· other
train	60.406	14.536	1.841	152	1.689
validation	8.152	2.037	436	96	340
test	8.227	2.036	435	89	346

Báo cáo kết quả: hai con số, không phải một

Nguồn other gồm review thật thu thập có chủ đích để bù lớp mỉa mai (100% mỉa mai). Nó làm tỉ lệ mỉa mai của tập đánh giá cao hơn thực tế, mà precision thì phụ thuộc tỉ lệ lớp. Nên dùng cột source để tách:

test_tu_nhien = test.filter(lambda x: x["source"] != "other")   # 7.881 dòng, 89 mỉa mai
test_day_du   = test                                            # 8.227 dòng, 435 mỉa mai

• test_tu_nhien là kết quả chính — đúng phân bố triển khai, so sánh được giữa các bài.
• Tập đầy đủ dùng cho phân tích riêng lớp mỉa mai — 435 mẫu dương cho khoảng tin cậy 95% của recall khoảng ±4,7 điểm %, so với ±10,4 nếu chỉ có 89 mẫu.
• Ngưỡng phân loại dò trên validation[source != "other"] để khớp tỉ lệ lớp của kết quả chính.

Một dòng = một cặp (câu, khía cạnh). Một review sinh nhiều dòng.

Cột

Cột	Kiểu	Mô tả
review_id	string	Định danh review gốc. Đơn vị chia split — không review nào nằm ở 2 split.
source	string	Nền tảng thu thập: google_maps, booking, foody, other
place_type	string	hotel | restaurant
language	string	vi, en, ja, zh
sentence	string	Câu đã tách từ review
aspect	string	1 trong 9: overall, amenities, food, service, location, ambiance, room, price, cleanliness
sentiment	int64	Thang −3 … +3
sarcasm	int64	0 = không mỉa mai, 1 = mỉa mai

Nguồn dữ liệu

Nguồn	Dòng	Review	Mỉa mai	Tỉ lệ mỉa mai	Có ở split
google_maps	61.880	~12.400	301	0,49%
booking	6.881	~2.400	15	0,22%
foody	5.649	~1.300	21	0,37%
other	2.375	2.375	2.375	100%

other là review thật thu thập có chủ đích để bù lớp mỉa mai — trên ba nền tảng chính, mỉa mai chỉ chiếm dưới 0,5% nên nếu không bổ sung thì lớp dương gần như không học được. Nó được chia 70/15/15 theo cụm gần trùng, không phải theo câu.

Kiểm chứng

review_id trùng giữa các split                    : 0
câu train trùng val/test (sau chuẩn hoá hoa/thường
  và dấu câu — không chỉ so chuỗi thô)            : 0
cặp câu MỈA MAI train ↔ eval gần trùng            : 0
dòng trùng lặp trong cùng split                   : 0
ô rỗng                                            : 0

"Gần trùng" định nghĩa là cosine TF-IDF char 3–5 gram ≥ 0,65 hoặc bao hàm 4-gram ≥ 0,80 (câu ngắn hơn có ít nhất 6 gram). Tiêu chí bao hàm để bắt trường hợp câu ngắn nằm trọn trong câu dài — kiểu rò rỉ mà cosine hay bỏ sót.

(33 câu ngắn xuất hiện ở cả validation và test — trùng tự nhiên trong dữ liệu thật, không ảnh hưởng vì cả hai đều là tập đánh giá, không tập nào nằm trong train.)

Bộ đi kèm

phamluan/vn_hotel_res_aspect_v3 — nhãn phát hiện khía cạnh (9 nhãn nhị phân, mức câu), chia cùng review_id với bộ này. Dùng bộ đó thay cho vn_hotel_res_aspect, vì bản cũ chia độc lập nên 80% câu val/test nằm trong train của nó.

Cách dùng

from datasets import load_dataset
ds = load_dataset("phamluan/vn_msa_sar_v3")