| # Guideline gán nhãn lỗi — testbed ViMedAQA (finetune Qwen3-4B) |
|
|
| Bạn gán nhãn loại lỗi cho câu trả lời của model (`pred`) so với **đoạn nguồn** (`context`). |
| Trục chấm chính: **faithfulness** — "context có kéo theo (ủng hộ) pred không?", tức `context ⊨ pred`. |
| `ref` (đáp án vàng) chỉ để **đối chiếu ý câu hỏi**, KHÔNG phải chuẩn để so từng chữ. |
|
|
| ## Cây quyết định (áp dụng THEO THỨ TỰ, dừng ở nhánh đầu tiên khớp) |
|
|
| 1. **Context CÓ chứa thông tin cần để trả lời không?** |
| - **KHÔNG** (context hoàn toàn không nói về điều được hỏi) và pred vẫn đưa ra một câu trả lời nội dung |
| → **B = bịa (hallucination)**. `y_nli = 1`. |
| *Ví dụ:* context chỉ liệt kê vị thuốc/cách sắc, không nêu bệnh; pred tự nói "trị viêm gan". |
| |
| 2. **Context CÓ thông tin, nhưng pred nói SAI / lệch trọng tâm?** |
| Pred mâu thuẫn context, hoặc chọn nhầm câu/nhầm khía cạnh/nhầm con số/nhầm mục danh sách, |
| hoặc đảo nghĩa câu hỏi phủ định → **A = sai sự thật / lệch trọng tâm**. `y_nli = 1`. |
| *Dấu hiệu:* nội dung pred THUỘC chủ đề context nhưng SAI (đảo phủ định, nhầm nguyên nhân↔cơ chế, |
| lấy nhầm số liệu, trả lời nhầm mục được hỏi). |
|
|
| 3. **Pred ĐÚNG hướng nhưng THIẾU?** |
| - Bỏ bớt phần tử danh sách / mệnh đề bổ nghĩa / lưu ý an toàn → **C = thiếu ý**. `y_nli = -1` (trục NER). |
| - Mất **thực thể** cụ thể: tên thuốc / con số / đơn vị (vd "10 vỉ mỗi vỉ 10 viên" → chỉ "10 vỉ") |
| → **D = mất thực thể**. `y_nli = -1` (trục NER). |
| |
| 4. **Pred đúng & đủ nhưng QUÁ DÀI / đổ nguyên context / liệt kê thừa** → **E = quá dài**. `y_nli = 0`. |
|
|
| 5. **Pred đúng, đủ, súc tích, trung thành với context** → **OK = on**. `y_nli = 0`. |
| (Echo lại câu hỏi hoặc paraphrase đúng vẫn là OK — đó không phải lỗi nội dung.) |
|
|
| ## Ánh xạ nhãn → y_nli (BẮT BUỘC đúng) |
| |
| | group | error_subtype | y_nli | |
| |---|---|---| |
| | A | `sai su that` | 1 | |
| | B | `bia` | 1 | |
| | C | `thieu y` | -1 | |
| | D | `mat thuc the` | -1 | |
| | E | `qua dai` | 0 | |
| | OK | `on` | 0 | |
| |
| ## Quy tắc ưu tiên khi nhiều lỗi cùng xuất hiện |
| |
| - Lỗi **faithfulness (A/B)** thắng lỗi phủ (C/D) thắng độ dài (E). Nếu pred vừa SAI vừa dài → **A**. |
| - **A vs B:** câu test = "context có dữ liệu để trả lời không?". CÓ mà pred sai → A. KHÔNG mà pred bịa → B. |
| - **A vs C:** pred nói SAI → A. pred nói ĐÚNG nhưng thiếu → C. |
| - Phần lớn mẫu là **OK** (prevalence lỗi thật ~8%). Đừng gán lỗi khi pred thật sự đúng & đủ. |
| |
| ## Định dạng output (CSV, UTF-8, có header, ĐÚNG các cột này, ĐÚNG thứ tự dòng như input) |
| |
| ``` |
| question_idx,group,error_subtype,y_nli,confidence,evidence,rationale |
| ``` |
| - `confidence`: 0.0–1.0 (độ chắc của bạn). |
| - `evidence`: TRÍCH NGẮN (<=120 ký tự) câu/cụm trong `context` biện minh cho nhãn; bỏ dấu phẩy hoặc bọc trong dấu ". |
| - `rationale`: 1 câu ngắn lý do. |
| - **Gán đủ MỌI dòng** trong chunk, không bỏ sót, không thêm dòng. `question_idx` phải khớp input. |
| |
