metadata
license: apache-2.0
Dataset Q&A Tin tức Đại học Công nghệ - ĐHQGHN (2024)
Mô tả
Bộ dữ liệu gồm các cặp câu hỏi – trả lời (Q&A) được sinh tự động từ nội dung trang tin tức của Trường Đại học Công nghệ – Đại học Quốc gia Hà Nội.
Mục đích sử dụng
- Sử dụng làm validation mô hình LLM theo bối cảnh giáo dục – tuyển sinh phục vụ mục đích tư vấn tuyển sinh cho ĐHCN-ĐHQGHN
- Đánh giá khả năng truy xuất, trích dẫn, và trả lời chính xác của các LLM
Nguồn dữ liệu
- Trang tin tức của Trường Đại học Công nghệ – ĐHQGHN, được công bố chính thức trên website của trường
- Danh sách chủ đề được định nghĩa thủ công bởi chuyên gia theo chủ đề của tin tức
Cách tạo dữ liệu
Đầu vào:
- Các văn bản tin tức của trường Đại học Công nghệ được crawl về, link https://huggingface.co/datasets/group2sealion/uet_iai_nlp_data_for_llms/blob/main/vnu_crawl/news.vnu.tuyen.sinh.json
- Danh sách các chủ đề câu hỏi dự kiến (VD: "Thông tin về chương trình học", "Hướng dẫn đăng ký môn học", "Hỗ trợ nghiên cứu khoa học", ...)
Prompt sinh dữ liệu:
- Nội dung prompt ở trong file prompt.md
LLM sử dụng:
- Gemini 2.0 Flash.
- Thực hiện theo batch theo từng cụm tin tức
Hậu xử lý:
- Rà soát tính đúng đắn cú pháp JSON
- Loại bỏ câu hỏi lặp, câu trả lời chưa đạt yêu cầu (mơ hồ, không chắc chắn)
- Loại bỏ các hỏi không thực tế (Ví dụ hỏi về thời điểm tin tức được đăng tải)
Cấu trúc dữ liệu đầu ra
file json 8k có có định dạng như sau:
{
"question": "<nội dung câu hỏi>",
"answer": "<nội dung câu trả lời >",
"Full_reference": "<toàn bộ văn bản tin tức lấy làm tham chiếu>",
"URL": "<đường link chứa tin tức>",
"Difficulty": "<độ khó| dễ, vừa, khó, không trả lời được>",
"question_type": "<Ai| Bao lâu| Bao nhiêu| Cái gì| Có/ Không| Khi nào| Như thế nào| Ở đâu| So sánh| Tại sao>",
"topic": "<chủ đề>"
}
file json 26k có định dạng như sau:
{
"question": "<nội dung câu hỏi>",
"answer": "<nội dung câu trả lời >",
"reference": "<1 đoạn văn bản tham chiếu>",
"topic": "<chủ đề>",
"URL": "<đường link chứa tin tức>",
"Difficulty": "<độ khó| dễ, vừa, khó, không trả lời được>",
"question_type": "<Ai| Bao lâu| Bao nhiêu| Cái gì| Có/ Không| Khi nào| Như thế nào| Ở đâu| So sánh| Tại sao>"
}
file json 512 có định dạng như sau:
{
"Num": "<mã duy nhất>",
"question": "<nội dung câu hỏi>",
"answer": "<nội dung câu trả lời >",
"Short_reference": "<đoạn văn bản tham chiếu có độ dài ngắn>",
"Medium_reference": "<đoạn văn bản tham chiếu có độ dài trung bình>",
"Full_reference": "<toàn bộ văn bản tin tức lấy làm tham chiếu>",
"topic": "<chủ đề>",
"Difficulty": "<độ khó| dễ, vừa, khó, không trả lời được>",
"question_type": "<Ai| Bao lâu| Bao nhiêu| Cái gì| Có/ Không| Khi nào| Như thế nào| Ở đâu| So sánh| Tại sao| Khi nào và ở đâu| Khi nào, Ở đâu| Khi nào/ Bao nhiêu| Nếu... thì| Ở đâu và khi nào| Sắp xếp>",
"URL": "<đường link chứa tin tức>"
}