README.md

metadata

license: other
language:
  - vi
task_categories:
  - question-answering
  - text-retrieval
tags:
  - vietnam
  - administrative-procedures
  - rag
  - evaluation
  - benchmark
pretty_name: DVC ARC — Eval Dataset (thủ tục hành chính công VN)

DVC ARC — Eval Dataset

Bộ dữ liệu đánh giá của dự án DVC ARC — chatbot RAG hướng dẫn thủ tục hành chính công Việt Nam. Gồm 1.124 samples trong samples_all.jsonl (JSONL, mỗi dòng một sample), dùng cho các thí nghiệm retrieval, generation/citation và memory ablation của dự án.

Nguồn corpus

Câu hỏi được sinh (gpt-4o / claude, có kiểm soát chống rò rỉ từ khóa) và gắn gold từ corpus 5.208 thủ tục hành chính crawl từ Cổng Dịch vụ công Quốc gia (dichvucong.gov.vn):

• Corpus nguồn (raw JSON + Markdown + chunks): MinhTriet/thu-tuc-hanh-chinh-dvc-data
• Index đã embed (text-embedding-3-large, 3072d): MinhTriet/dvc-rag-embeddings

Schema (samples_schema.json)

JSON Schema draft 2020-12, oneOf phân biệt bằng trường sample_type:

retrieval_qa — câu hỏi known-item, gold là mã thủ tục:

• id (<q_type>-NNN), q_type (8 nhóm: factual_lookup, paraphrase, scenario, aspect_hoso, aspect_phi_dk, keyword_short, manual_inscope, out_of_scope), question
• gold_ma_thu_tuc[] — các mã thủ tục được chấp nhận (rỗng với out_of_scope); primary_ma_thu_tuc, ten, linh_vuc, source_section — metadata thủ tục gold; procedure_id, generated_by — tuỳ chọn.
• Mỗi nhóm q_type kiểm một năng lực: khớp từ khóa, hiểu ngữ nghĩa (chỉ thấy tên thủ tục khi sinh), câu tình huống, đúng khía cạnh hồ sơ/phí, truy vấn ngắn; out_of_scope đo khả năng từ chối.

memory_case — kịch bản hội thoại nhiều lượt cho memory ablation:

• id (mem-b1/b2-NNN), layer (B1_summary — thực thể nằm ngoài cửa sổ hội thoại hiện tại; B2_episodic — thực thể ở hội thoại trước, trường past)
• history/past — các lượt [user, assistant]; follow_up — câu hỏi chứa tham chiếu ngầm ("thủ tục này", "việc đó"); expected[] — từ khóa mà câu viết lại đúng phải chứa (đo coreference accuracy).

Validate: jsonschema (Python) với samples_schema.json; toàn bộ 1.124 samples pass.

Files

• samples_all.jsonl — 1.124 samples
• samples_schema.json — JSON Schema chung