{ "$schema": "https://json-schema.org/draft/2020-12/schema", "$id": "https://github.com/dvc-rag/eval/samples_schema.json", "title": "DVC-RAG Evaluation Sample", "description": "Schema chung cho toàn bộ sample đánh giá trong data/eval. Gồm 2 loại: (1) retrieval_qa — câu hỏi đơn lẻ có gold ma_thu_tuc, dùng cho exp01 (retrieval) và exp02 (generation/citation, subset); (2) memory_case — kịch bản hội thoại nhiều lượt cho exp03 (memory ablation). Mỗi dòng JSONL = một sample hợp lệ theo schema này.", "oneOf": [ { "$ref": "#/$defs/retrieval_qa" }, { "$ref": "#/$defs/memory_case" } ], "$defs": { "retrieval_qa": { "type": "object", "title": "Câu hỏi QA (exp01/exp02)", "description": "Một câu hỏi known-item: gold là mã thủ tục (ma_thu_tuc) trong corpus 5.208 thủ tục. Câu out_of_scope có gold rỗng.", "required": ["id", "sample_type", "q_type", "question", "gold_ma_thu_tuc"], "additionalProperties": false, "properties": { "id": { "type": "string", "description": "Định danh duy nhất: '-' (câu tự sinh), 'manual-NNN' (viết tay), 'oos-NNN' (ngoài phạm vi).", "pattern": "^(factual_lookup|paraphrase|scenario|aspect_hoso|aspect_phi_dk|keyword_short|manual|oos)-\\d{3}$", "examples": ["factual_lookup-000", "manual-001", "oos-000"] }, "sample_type": { "const": "retrieval_qa", "description": "Bộ phân biệt loại sample." }, "q_type": { "type": "string", "description": "Nhóm câu hỏi — mỗi nhóm kiểm một năng lực retrieval/generation khác nhau.", "enum": [ "factual_lookup", "paraphrase", "scenario", "aspect_hoso", "aspect_phi_dk", "keyword_short", "manual_inscope", "out_of_scope" ] }, "question": { "type": "string", "description": "Câu hỏi tiếng Việt của người dùng.", "minLength": 5 }, "gold_ma_thu_tuc": { "type": "array", "description": "Tập mã thủ tục được chấp nhận là đúng (các thủ tục trùng tên khác cấp được gộp). RỖNG khi q_type=out_of_scope.", "items": { "type": "string", "pattern": "^\\d+\\.\\d+(-\\w+)?$", "examples": ["1.002090", "1.014955-Xoa"] }, "uniqueItems": true }, "primary_ma_thu_tuc": { "type": ["string", "null"], "description": "Mã thủ tục nguồn dùng để sinh câu hỏi (null với out_of_scope).", "pattern": "^\\d+\\.\\d+(-\\w+)?$" }, "procedure_id": { "type": "string", "description": "UUID nội bộ của thủ tục nguồn trong corpus (chỉ có ở câu tự sinh).", "format": "uuid" }, "ten": { "type": ["string", "null"], "description": "Tên đầy đủ của thủ tục gold (null với out_of_scope)." }, "linh_vuc": { "type": "string", "description": "Lĩnh vực hành chính của thủ tục gold; '(ngoài phạm vi)' với out_of_scope." }, "generated_by": { "type": "string", "description": "Model/pipeline sinh câu hỏi (chỉ có ở lô GT mở rộng; lô gốc gpt-4o không ghi trường này).", "examples": ["claude-sonnet-5", "claude-code-agents"] }, "source_section": { "type": "string", "description": "Section corpus dùng để sinh câu hỏi (vd 'Trình tự thực hiện', 'Thành phần hồ sơ'); '(viết tay)' với câu manual/oos. Quyết định độ tin cậy checklist gold ở eval_completeness.", "examples": ["Trình tự thực hiện", "Thành phần hồ sơ", "Phí, lệ phí", "(viết tay)"] } }, "allOf": [ { "if": { "properties": { "q_type": { "const": "out_of_scope" } } }, "then": { "properties": { "gold_ma_thu_tuc": { "maxItems": 0 }, "primary_ma_thu_tuc": { "const": null }, "ten": { "const": null } } }, "else": { "properties": { "gold_ma_thu_tuc": { "minItems": 1 } }, "required": ["primary_ma_thu_tuc", "ten", "linh_vuc", "source_section"] } } ] }, "memory_case": { "type": "object", "title": "Kịch bản memory (exp03)", "description": "Hội thoại nhiều lượt + câu follow-up chứa tham chiếu ngầm ('thủ tục này', 'việc đó'). Đo coreference accuracy: câu viết lại sau contextualize phải chứa ≥1 từ khóa trong 'expected'. B1 kiểm Lớp A (summary-buffer, thực thể nằm ngoài cửa sổ WINDOW=2 của CÙNG hội thoại); B2 kiểm Lớp B (episodic, thực thể nằm ở HỘI THOẠI TRƯỚC, history hiện tại rỗng).", "required": ["id", "sample_type", "layer", "follow_up", "expected"], "additionalProperties": false, "properties": { "id": { "type": "string", "description": "Định danh duy nhất: 'mem-b1-NNN' hoặc 'mem-b2-NNN'.", "pattern": "^mem-b[12]-\\d{3}$", "examples": ["mem-b1-000", "mem-b2-002"] }, "sample_type": { "const": "memory_case", "description": "Bộ phân biệt loại sample." }, "layer": { "type": "string", "description": "Lớp memory được kiểm: B1_summary (Lớp A — tóm tắt trong hội thoại) hoặc B2_episodic (Lớp B — ký ức liên hội thoại).", "enum": ["B1_summary", "B2_episodic"] }, "history": { "type": "array", "description": "Các lượt (user, assistant) của HỘI THOẠI HIỆN TẠI — bắt buộc với B1 (thực thể chính ở lượt đầu, ngoài cửa sổ keep_recent); rỗng/vắng với B2.", "items": { "$ref": "#/$defs/turn" } }, "past": { "type": "array", "description": "Các lượt (user, assistant) của HỘI THOẠI TRƯỚC đã lưu vào episodic memory — bắt buộc với B2; vắng với B1.", "items": { "$ref": "#/$defs/turn" } }, "follow_up": { "type": "string", "description": "Câu hỏi tiếp theo chứa tham chiếu ngầm cần giải.", "minLength": 5 }, "expected": { "type": "array", "description": "Các biến thể từ khóa (so khớp không dấu, lowercase) mà câu viết lại ĐÚNG phải chứa ít nhất một.", "items": { "type": "string" }, "minItems": 1 } }, "allOf": [ { "if": { "properties": { "layer": { "const": "B1_summary" } } }, "then": { "required": ["history"], "properties": { "history": { "minItems": 1 } } }, "else": { "required": ["past"], "properties": { "past": { "minItems": 1 } } } } ] }, "turn": { "type": "array", "description": "Một lượt hội thoại: [câu người dùng, câu trả lời của bot].", "prefixItems": [ { "type": "string", "description": "user" }, { "type": "string", "description": "assistant" } ], "minItems": 2, "maxItems": 2, "items": { "type": "string" } } } }