data/ANNOTATION_GUIDELINE.md

Guideline gán nhãn lỗi — testbed ViMedAQA (finetune Qwen3-4B)

Bạn gán nhãn loại lỗi cho câu trả lời của model (pred) so với đoạn nguồn (context). Trục chấm chính: faithfulness — "context có kéo theo (ủng hộ) pred không?", tức context ⊨ pred. ref (đáp án vàng) chỉ để đối chiếu ý câu hỏi, KHÔNG phải chuẩn để so từng chữ.

Cây quyết định (áp dụng THEO THỨ TỰ, dừng ở nhánh đầu tiên khớp)

1. Context CÓ chứa thông tin cần để trả lời không?

   • KHÔNG (context hoàn toàn không nói về điều được hỏi) và pred vẫn đưa ra một câu trả lời nội dung → B = bịa (hallucination). y_nli = 1. Ví dụ: context chỉ liệt kê vị thuốc/cách sắc, không nêu bệnh; pred tự nói "trị viêm gan".

2. Context CÓ thông tin, nhưng pred nói SAI / lệch trọng tâm? Pred mâu thuẫn context, hoặc chọn nhầm câu/nhầm khía cạnh/nhầm con số/nhầm mục danh sách, hoặc đảo nghĩa câu hỏi phủ định → A = sai sự thật / lệch trọng tâm. y_nli = 1. Dấu hiệu: nội dung pred THUỘC chủ đề context nhưng SAI (đảo phủ định, nhầm nguyên nhân↔cơ chế, lấy nhầm số liệu, trả lời nhầm mục được hỏi).

3. Pred ĐÚNG hướng nhưng THIẾU?

   • Bỏ bớt phần tử danh sách / mệnh đề bổ nghĩa / lưu ý an toàn → C = thiếu ý. y_nli = -1 (trục NER).
   • Mất thực thể cụ thể: tên thuốc / con số / đơn vị (vd "10 vỉ mỗi vỉ 10 viên" → chỉ "10 vỉ") → D = mất thực thể. y_nli = -1 (trục NER).

4. Pred đúng & đủ nhưng QUÁ DÀI / đổ nguyên context / liệt kê thừa → E = quá dài. y_nli = 0.

5. Pred đúng, đủ, súc tích, trung thành với context → OK = on. y_nli = 0. (Echo lại câu hỏi hoặc paraphrase đúng vẫn là OK — đó không phải lỗi nội dung.)

Ánh xạ nhãn → y_nli (BẮT BUỘC đúng)

group	error_subtype	y_nli
A	sai su that	1
B	bia	1
C	thieu y	-1
D	mat thuc the	-1
E	qua dai	0
OK	on	0

Quy tắc ưu tiên khi nhiều lỗi cùng xuất hiện

• Lỗi faithfulness (A/B) thắng lỗi phủ (C/D) thắng độ dài (E). Nếu pred vừa SAI vừa dài → A.
• A vs B: câu test = "context có dữ liệu để trả lời không?". CÓ mà pred sai → A. KHÔNG mà pred bịa → B.
• A vs C: pred nói SAI → A. pred nói ĐÚNG nhưng thiếu → C.
• Phần lớn mẫu là OK (prevalence lỗi thật ~8%). Đừng gán lỗi khi pred thật sự đúng & đủ.

Định dạng output (CSV, UTF-8, có header, ĐÚNG các cột này, ĐÚNG thứ tự dòng như input)

question_idx,group,error_subtype,y_nli,confidence,evidence,rationale

• confidence: 0.0–1.0 (độ chắc của bạn).
• evidence: TRÍCH NGẮN (<=120 ký tự) câu/cụm trong context biện minh cho nhãn; bỏ dấu phẩy hoặc bọc trong dấu ".
• rationale: 1 câu ngắn lý do.
• Gán đủ MỌI dòng trong chunk, không bỏ sót, không thêm dòng. question_idx phải khớp input.