# Guideline gán nhãn lỗi — testbed ViMedAQA (finetune Qwen3-4B)

Bạn gán nhãn loại lỗi cho câu trả lời của model (`pred`) so với **đoạn nguồn** (`context`).
Trục chấm chính: **faithfulness** — "context có kéo theo (ủng hộ) pred không?", tức `context ⊨ pred`.
`ref` (đáp án vàng) chỉ để **đối chiếu ý câu hỏi**, KHÔNG phải chuẩn để so từng chữ.

## Cây quyết định (áp dụng THEO THỨ TỰ, dừng ở nhánh đầu tiên khớp)

1. **Context CÓ chứa thông tin cần để trả lời không?**
   - **KHÔNG** (context hoàn toàn không nói về điều được hỏi) và pred vẫn đưa ra một câu trả lời nội dung
     → **B = bịa (hallucination)**. `y_nli = 1`.
     *Ví dụ:* context chỉ liệt kê vị thuốc/cách sắc, không nêu bệnh; pred tự nói "trị viêm gan".

2. **Context CÓ thông tin, nhưng pred nói SAI / lệch trọng tâm?**
   Pred mâu thuẫn context, hoặc chọn nhầm câu/nhầm khía cạnh/nhầm con số/nhầm mục danh sách,
   hoặc đảo nghĩa câu hỏi phủ định → **A = sai sự thật / lệch trọng tâm**. `y_nli = 1`.
   *Dấu hiệu:* nội dung pred THUỘC chủ đề context nhưng SAI (đảo phủ định, nhầm nguyên nhân↔cơ chế,
   lấy nhầm số liệu, trả lời nhầm mục được hỏi).

3. **Pred ĐÚNG hướng nhưng THIẾU?**
   - Bỏ bớt phần tử danh sách / mệnh đề bổ nghĩa / lưu ý an toàn → **C = thiếu ý**. `y_nli = -1` (trục NER).
   - Mất **thực thể** cụ thể: tên thuốc / con số / đơn vị (vd "10 vỉ mỗi vỉ 10 viên" → chỉ "10 vỉ")
     → **D = mất thực thể**. `y_nli = -1` (trục NER).

4. **Pred đúng & đủ nhưng QUÁ DÀI / đổ nguyên context / liệt kê thừa** → **E = quá dài**. `y_nli = 0`.

5. **Pred đúng, đủ, súc tích, trung thành với context** → **OK = on**. `y_nli = 0`.
   (Echo lại câu hỏi hoặc paraphrase đúng vẫn là OK — đó không phải lỗi nội dung.)

## Ánh xạ nhãn → y_nli (BẮT BUỘC đúng)

| group | error_subtype | y_nli |
|---|---|---|
| A | `sai su that` | 1 |
| B | `bia` | 1 |
| C | `thieu y` | -1 |
| D | `mat thuc the` | -1 |
| E | `qua dai` | 0 |
| OK | `on` | 0 |

## Quy tắc ưu tiên khi nhiều lỗi cùng xuất hiện

- Lỗi **faithfulness (A/B)** thắng lỗi phủ (C/D) thắng độ dài (E). Nếu pred vừa SAI vừa dài → **A**.
- **A vs B:** câu test = "context có dữ liệu để trả lời không?". CÓ mà pred sai → A. KHÔNG mà pred bịa → B.
- **A vs C:** pred nói SAI → A. pred nói ĐÚNG nhưng thiếu → C.
- Phần lớn mẫu là **OK** (prevalence lỗi thật ~8%). Đừng gán lỗi khi pred thật sự đúng & đủ.

## Định dạng output (CSV, UTF-8, có header, ĐÚNG các cột này, ĐÚNG thứ tự dòng như input)

```
question_idx,group,error_subtype,y_nli,confidence,evidence,rationale
```
- `confidence`: 0.0–1.0 (độ chắc của bạn).
- `evidence`: TRÍCH NGẮN (<=120 ký tự) câu/cụm trong `context` biện minh cho nhãn; bỏ dấu phẩy hoặc bọc trong dấu ".
- `rationale`: 1 câu ngắn lý do.
- **Gán đủ MỌI dòng** trong chunk, không bỏ sót, không thêm dòng. `question_idx` phải khớp input.