| --- |
| license: other |
| language: |
| - vi |
| task_categories: |
| - question-answering |
| - text-retrieval |
| tags: |
| - vietnam |
| - administrative-procedures |
| - rag |
| - evaluation |
| - benchmark |
| pretty_name: DVC ARC — Eval Dataset (thủ tục hành chính công VN) |
| --- |
| |
| # DVC ARC — Eval Dataset |
|
|
| Bộ dữ liệu đánh giá của dự án **DVC ARC** — chatbot RAG hướng dẫn thủ tục hành chính công Việt Nam. Gồm **1.124 samples** trong `samples_all.jsonl` (JSONL, mỗi dòng một sample), dùng cho các thí nghiệm retrieval, generation/citation và memory ablation của dự án. |
|
|
| ## Nguồn corpus |
|
|
| Câu hỏi được sinh (gpt-4o / claude, có kiểm soát chống rò rỉ từ khóa) và gắn gold từ corpus **5.208 thủ tục hành chính** crawl từ Cổng Dịch vụ công Quốc gia (dichvucong.gov.vn): |
|
|
| - Corpus nguồn (raw JSON + Markdown + chunks): [`MinhTriet/thu-tuc-hanh-chinh-dvc-data`](https://huggingface.co/datasets/MinhTriet/thu-tuc-hanh-chinh-dvc-data) |
| - Index đã embed (text-embedding-3-large, 3072d): [`MinhTriet/dvc-rag-embeddings`](https://huggingface.co/datasets/MinhTriet/dvc-rag-embeddings) |
|
|
| ## Schema (`samples_schema.json`) |
| |
| JSON Schema draft 2020-12, `oneOf` phân biệt bằng trường `sample_type`: |
|
|
| **`retrieval_qa`** — câu hỏi known-item, gold là mã thủ tục: |
| - `id` (`<q_type>-NNN`), `q_type` (8 nhóm: `factual_lookup`, `paraphrase`, `scenario`, `aspect_hoso`, `aspect_phi_dk`, `keyword_short`, `manual_inscope`, `out_of_scope`), `question` |
| - `gold_ma_thu_tuc[]` — các mã thủ tục được chấp nhận (rỗng với `out_of_scope`); `primary_ma_thu_tuc`, `ten`, `linh_vuc`, `source_section` — metadata thủ tục gold; `procedure_id`, `generated_by` — tuỳ chọn. |
| - Mỗi nhóm `q_type` kiểm một năng lực: khớp từ khóa, hiểu ngữ nghĩa (chỉ thấy tên thủ tục khi sinh), câu tình huống, đúng khía cạnh hồ sơ/phí, truy vấn ngắn; `out_of_scope` đo khả năng từ chối. |
| |
| **`memory_case`** — kịch bản hội thoại nhiều lượt cho memory ablation: |
| - `id` (`mem-b1/b2-NNN`), `layer` (`B1_summary` — thực thể nằm ngoài cửa sổ hội thoại hiện tại; `B2_episodic` — thực thể ở hội thoại trước, trường `past`) |
| - `history`/`past` — các lượt `[user, assistant]`; `follow_up` — câu hỏi chứa tham chiếu ngầm ("thủ tục này", "việc đó"); `expected[]` — từ khóa mà câu viết lại đúng phải chứa (đo coreference accuracy). |
|
|
| Validate: `jsonschema` (Python) với `samples_schema.json`; toàn bộ 1.124 samples pass. |
|
|
| ## Files |
|
|
| - `samples_all.jsonl` — 1.124 samples |
| - `samples_schema.json` — JSON Schema chung |
|
|
