---
license: other
language:
  - vi
task_categories:
  - question-answering
  - text-retrieval
tags:
  - vietnam
  - administrative-procedures
  - rag
  - evaluation
  - benchmark
pretty_name: DVC ARC — Eval Dataset (thủ tục hành chính công VN)
---

# DVC ARC — Eval Dataset

Bộ dữ liệu đánh giá của dự án **DVC ARC** — chatbot RAG hướng dẫn thủ tục hành chính công Việt Nam. Gồm **1.124 samples** trong `samples_all.jsonl` (JSONL, mỗi dòng một sample), dùng cho các thí nghiệm retrieval, generation/citation và memory ablation của dự án.

## Nguồn corpus

Câu hỏi được sinh (gpt-4o / claude, có kiểm soát chống rò rỉ từ khóa) và gắn gold từ corpus **5.208 thủ tục hành chính** crawl từ Cổng Dịch vụ công Quốc gia (dichvucong.gov.vn):

- Corpus nguồn (raw JSON + Markdown + chunks): [`MinhTriet/thu-tuc-hanh-chinh-dvc-data`](https://huggingface.co/datasets/MinhTriet/thu-tuc-hanh-chinh-dvc-data)
- Index đã embed (text-embedding-3-large, 3072d): [`MinhTriet/dvc-rag-embeddings`](https://huggingface.co/datasets/MinhTriet/dvc-rag-embeddings)

## Schema (`samples_schema.json`)

JSON Schema draft 2020-12, `oneOf` phân biệt bằng trường `sample_type`:

**`retrieval_qa`** — câu hỏi known-item, gold là mã thủ tục:
- `id` (`<q_type>-NNN`), `q_type` (8 nhóm: `factual_lookup`, `paraphrase`, `scenario`, `aspect_hoso`, `aspect_phi_dk`, `keyword_short`, `manual_inscope`, `out_of_scope`), `question`
- `gold_ma_thu_tuc[]` — các mã thủ tục được chấp nhận (rỗng với `out_of_scope`); `primary_ma_thu_tuc`, `ten`, `linh_vuc`, `source_section` — metadata thủ tục gold; `procedure_id`, `generated_by` — tuỳ chọn.
- Mỗi nhóm `q_type` kiểm một năng lực: khớp từ khóa, hiểu ngữ nghĩa (chỉ thấy tên thủ tục khi sinh), câu tình huống, đúng khía cạnh hồ sơ/phí, truy vấn ngắn; `out_of_scope` đo khả năng từ chối.

**`memory_case`** — kịch bản hội thoại nhiều lượt cho memory ablation:
- `id` (`mem-b1/b2-NNN`), `layer` (`B1_summary` — thực thể nằm ngoài cửa sổ hội thoại hiện tại; `B2_episodic` — thực thể ở hội thoại trước, trường `past`)
- `history`/`past` — các lượt `[user, assistant]`; `follow_up` — câu hỏi chứa tham chiếu ngầm ("thủ tục này", "việc đó"); `expected[]` — từ khóa mà câu viết lại đúng phải chứa (đo coreference accuracy).

Validate: `jsonschema` (Python) với `samples_schema.json`; toàn bộ 1.124 samples pass.

## Files

- `samples_all.jsonl` — 1.124 samples
- `samples_schema.json` — JSON Schema chung