|
|
--- |
|
|
license: apache-2.0 |
|
|
--- |
|
|
|
|
|
# Dataset Q\&A Tin tức Đại học Công nghệ - ĐHQGHN (2024) |
|
|
|
|
|
## Mô tả |
|
|
|
|
|
Bộ dữ liệu gồm các cặp câu hỏi – trả lời (Q\&A) được sinh tự động từ nội dung trang tin tức của Trường Đại học Công nghệ – Đại học Quốc gia Hà Nội. |
|
|
|
|
|
## Mục đích sử dụng |
|
|
|
|
|
* Sử dụng làm validation mô hình LLM theo bối cảnh giáo dục – tuyển sinh phục vụ mục đích tư vấn tuyển sinh cho ĐHCN-ĐHQGHN |
|
|
* Đánh giá khả năng truy xuất, trích dẫn, và trả lời chính xác của các LLM |
|
|
|
|
|
## Nguồn dữ liệu |
|
|
|
|
|
* **Trang tin tức** của Trường Đại học Công nghệ – ĐHQGHN, được công bố chính thức trên website của trường |
|
|
* Danh sách chủ đề được định nghĩa thủ công bởi chuyên gia theo chủ đề của tin tức |
|
|
|
|
|
## Cách tạo dữ liệu |
|
|
|
|
|
1. **Đầu vào**: |
|
|
|
|
|
* Các văn bản tin tức của trường Đại học Công nghệ được crawl về, link https://huggingface.co/datasets/group2sealion/uet_iai_nlp_data_for_llms/blob/main/vnu_crawl/news.vnu.tuyen.sinh.json |
|
|
* Danh sách các chủ đề câu hỏi dự kiến (VD: "Thông tin về chương trình học", "Hướng dẫn đăng ký môn học", "Hỗ trợ nghiên cứu khoa học", ...) |
|
|
|
|
|
2. **Prompt sinh dữ liệu**: |
|
|
|
|
|
* Nội dung prompt ở trong file prompt.md |
|
|
|
|
|
3. **LLM sử dụng**: |
|
|
|
|
|
* Gemini 2.0 Flash. |
|
|
* Thực hiện theo batch theo từng cụm tin tức |
|
|
|
|
|
4. **Hậu xử lý**: |
|
|
|
|
|
* Rà soát tính đúng đắn cú pháp JSON |
|
|
* Loại bỏ câu hỏi lặp, câu trả lời chưa đạt yêu cầu (mơ hồ, không chắc chắn) |
|
|
* Loại bỏ các hỏi không thực tế (Ví dụ hỏi về thời điểm tin tức được đăng tải) |
|
|
|
|
|
## Cấu trúc dữ liệu đầu ra |
|
|
|
|
|
file json 8k có có định dạng như sau: |
|
|
|
|
|
```json |
|
|
{ |
|
|
"question": "<nội dung câu hỏi>", |
|
|
"answer": "<nội dung câu trả lời >", |
|
|
"Full_reference": "<toàn bộ văn bản tin tức lấy làm tham chiếu>", |
|
|
"URL": "<đường link chứa tin tức>", |
|
|
"Difficulty": "<độ khó| dễ, vừa, khó, không trả lời được>", |
|
|
"question_type": "<Ai| Bao lâu| Bao nhiêu| Cái gì| Có/ Không| Khi nào| Như thế nào| Ở đâu| So sánh| Tại sao>", |
|
|
"topic": "<chủ đề>" |
|
|
} |
|
|
``` |
|
|
file json 26k có định dạng như sau: |
|
|
```json |
|
|
{ |
|
|
"question": "<nội dung câu hỏi>", |
|
|
"answer": "<nội dung câu trả lời >", |
|
|
"reference": "<1 đoạn văn bản tham chiếu>", |
|
|
"topic": "<chủ đề>", |
|
|
"URL": "<đường link chứa tin tức>", |
|
|
"Difficulty": "<độ khó| dễ, vừa, khó, không trả lời được>", |
|
|
"question_type": "<Ai| Bao lâu| Bao nhiêu| Cái gì| Có/ Không| Khi nào| Như thế nào| Ở đâu| So sánh| Tại sao>" |
|
|
} |
|
|
``` |
|
|
file json 512 có định dạng như sau: |
|
|
|
|
|
```json |
|
|
{ |
|
|
"Num": "<mã duy nhất>", |
|
|
"question": "<nội dung câu hỏi>", |
|
|
"answer": "<nội dung câu trả lời >", |
|
|
"Short_reference": "<đoạn văn bản tham chiếu có độ dài ngắn>", |
|
|
"Medium_reference": "<đoạn văn bản tham chiếu có độ dài trung bình>", |
|
|
"Full_reference": "<toàn bộ văn bản tin tức lấy làm tham chiếu>", |
|
|
"topic": "<chủ đề>", |
|
|
"Difficulty": "<độ khó| dễ, vừa, khó, không trả lời được>", |
|
|
"question_type": "<Ai| Bao lâu| Bao nhiêu| Cái gì| Có/ Không| Khi nào| Như thế nào| Ở đâu| So sánh| Tại sao| Khi nào và ở đâu| Khi nào, Ở đâu| Khi nào/ Bao nhiêu| Nếu... thì| Ở đâu và khi nào| Sắp xếp>", |
|
|
"URL": "<đường link chứa tin tức>" |
|
|
} |
|
|
``` |
|
|
|
|
|
|
|
|
<!-- ## Giấy phép |
|
|
|
|
|
Dữ liệu được tạo từ nội dung công khai. Nếu sử dụng để huấn luyện mô hình thương mại, cần tham khảo quyền nội dung từ Trường Đại học Công nghệ – ĐHQGHN. |
|
|
--> |
|
|
|
