Bổ sung thông tin về dữ liệu sinh từ tin tức của trường Đại học Công nghệ

README.md

@@ -1,32 +1,91 @@
 ---
 license: apache-2.0
 ---
-file json 8k có các trường:
-Question,
-Answer,
-Full_reference,
-URL,
-Diffculty,
-Question_type,
-Topic
-
-file json 26k có các trường
-Question,
-Answer,
-Reference,
-Topic,
-URL,
-Difficulty,
-Question_type
-
-file json 512 có các trường
-Num,
-Question,
-Answer,
-Short_reference,
-Medium_reference,
-Full_reference,
-Topic,
-Difficulty,
-Question_type,
-URL
+
+# Dataset Q\&A Tin tức Đại học Công nghệ - ĐHQGHN (2024)
+
+## Mô tả
+
+Bộ dữ liệu gồm các cặp câu hỏi – trả lời (Q\&A) được sinh tự động từ nội dung trang tin tức của Trường Đại học Công nghệ – Đại học Quốc gia Hà Nội. 
+
+## Mục đích sử dụng
+
+* Sử dụng làm validation mô hình LLM theo bối cảnh giáo dục – tuyển sinh phục vụ mục đích tư vấn tuyển sinh cho ĐHCN-ĐHQGHN
+* Đánh giá khả năng truy xuất, trích dẫn, và trả lời chính xác của các LLM
+
+## Nguồn dữ liệu
+
+* **Trang tin tức** của Trường Đại học Công nghệ – ĐHQGHN, được công bố chính thức trên website của trường
+* Danh sách chủ đề được định nghĩa thủ công bởi chuyên gia theo chủ đề của tin tức
+
+## Cách tạo dữ liệu
+
+1. **Đầu vào**:
+
+   * Các văn bản tin tức của trường Đại học Công nghệ được crawl về, link https://huggingface.co/datasets/group2sealion/uet_iai_nlp_data_for_llms/blob/main/vnu_crawl/news.vnu.tuyen.sinh.json
+   * Danh sách các chủ đề câu hỏi dự kiến (VD: "Thông tin về chương trình học", "Hướng dẫn đăng ký môn học", "Hỗ trợ nghiên cứu khoa học", ...)
+
+2. **Prompt sinh dữ liệu**:
+
+   * Nội dung prompt ở trong file prompt.md
+
+3. **LLM sử dụng**:
+
+   * Gemini 2.0 Flash.
+   * Thực hiện theo batch theo từng cụm tin tức
+
+4. **Hậu xử lý**:
+
+   * Rà soát tính đúng đắn cú pháp JSON
+   * Loại bỏ câu hỏi lặp, câu trả lời chưa đạt yêu cầu (mơ hồ, không chắc chắn)
+   * Loại bỏ các hỏi không thực tế (Ví dụ hỏi về thời điểm tin tức được đăng tải)
+
+## Cấu trúc dữ liệu đầu ra
+
+file json 8k có có định dạng như sau:
+
+```json
+{
+  "question": "<nội dung câu hỏi>",
+  "answer": "<nội dung câu trả lời >",
+  "Full_reference": "<toàn bộ văn bản tin tức lấy làm tham chiếu>",
+  "URL": "<đường link chứa tin tức>",
+  "Difficulty": "<độ khó| dễ, vừa, khó, không trả lời được>",
+  "question_type": "<Ai| Bao lâu| Bao nhiêu| Cái gì| Có/ Không| Khi nào| Như thế nào| Ở đâu| So sánh| Tại sao>",
+  "topic": "<chủ đề>"
+}
+```
+file json 26k có định dạng như sau:
+```json
+{
+  "question": "<nội dung câu hỏi>",
+  "answer": "<nội dung câu trả lời >",
+  "reference": "<1 đoạn văn bản tham chiếu>",
+  "topic": "<chủ đề>",
+  "URL": "<đường link chứa tin tức>",
+  "Difficulty": "<độ khó| dễ, vừa, khó, không trả lời được>",
+  "question_type": "<Ai| Bao lâu| Bao nhiêu| Cái gì| Có/ Không| Khi nào| Như thế nào| Ở đâu| So sánh| Tại sao>"
+}
+```
+file json 512 có định dạng như sau:
+
+```json
+{
+  "Num": "<mã duy nhất>",
+  "question": "<nội dung câu hỏi>",
+  "answer": "<nội dung câu trả lời >",
+  "Short_reference": "<đoạn văn bản tham chiếu có độ dài ngắn>",
+  "Medium_reference": "<đoạn văn bản tham chiếu có độ dài trung bình>",
+  "Full_reference": "<toàn bộ văn bản tin tức lấy làm tham chiếu>",
+  "topic": "<chủ đề>",
+  "Difficulty": "<độ khó| dễ, vừa, khó, không trả lời được>",
+  "question_type": "<Ai| Bao lâu| Bao nhiêu| Cái gì| Có/ Không| Khi nào| Như thế nào| Ở đâu| So sánh| Tại sao| Khi nào và ở đâu| Khi nào, Ở đâu| Khi nào/ Bao nhiêu| Nếu... thì| Ở đâu và khi nào| Sắp xếp>",
+  "URL": "<đường link chứa tin tức>"
+}
+```
+
+
+<!-- ## Giấy phép
+
+Dữ liệu được tạo từ nội dung công khai. Nếu sử dụng để huấn luyện mô hình thương mại, cần tham khảo quyền nội dung từ Trường Đại học Công nghệ – ĐHQGHN.
+ -->