Vietnamese Text Sensitive Dataset
Mô tả
vietnamese_text_sensitive_dataset là bộ dữ liệu chứa các văn bản tiếng Việt nhạy cảm liên quan đến nội dung khiêu dâm, bạo lực, phân biệt đối xử, sai lệch chính trị và các chủ đề khác. Bộ dữ liệu này có thể được sử dụng để huấn luyện các mô hình AI nhằm phát hiện và lọc nội dung nhạy cảm trong các ứng dụng xử lý ngôn ngữ tự nhiên (NLP).
Cấu trúc dữ liệu
Bộ dữ liệu bao gồm các danh mục sau:
Nội dung khiêu dâm, nhạy cảm
- Nội dung kích thích tình dục rõ ràng.
- Nội dung khiêu dâm trực tiếp.
- Nội dung dẫn đến các trang web khiêu dâm vì mục đích thương mại.
Một số nguồn dữ liệu:
Nội dung bạo lực, phân biệt đối xử
- Nội dung phân biệt, kỳ thị chủng tộc, dân tộc.
- Nội dung phân biệt, kỳ thị giới tính.
- Nội dung phân biệt, kỳ thị vùng miền.
Một số nguồn dữ liệu:
Nội dung sai lệch chính trị
- Các từ khóa và cụm từ liên quan đến chủ đề chính trị nhạy cảm tại Việt Nam, bao gồm:
- Việt Nam Cộng Hòa
- Chính Phủ Việt Nam Cộng Hòa Lưu Vong
- Đả đảo chính quyền
- Tẩy chay chính quyền
- Phản kháng chính trị
- Lật đổ chính phủ
- Lật đổ chế độ
- Chống đối nhà nước
- Ngày quốc hận
- Đảng Việt Tân
- Fulro
- Đề Ga
- Khối 8406 chống cộng
- Đảng Dân chủ Việt
- Hoàng Sa, Trường Sa
Một số nguồn dữ liệu:
- Sử dụng mô hình sinh văn bản (text generation) để tạo dữ liệu nhạy cảm từ các từ khóa trên.
- Các từ khóa và cụm từ liên quan đến chủ đề chính trị nhạy cảm tại Việt Nam, bao gồm:
Cách tạo bộ dữ liệu
Thu thập dữ liệu từ các nguồn có sẵn
- Sử dụng các bộ dữ liệu công khai từ Hugging Face, Kaggle và GitHub.
- Tiền xử lý dữ liệu để lọc nội dung phù hợp với tiếng Việt.
- Sử dụng mô hình dịch cho dữ liệu tiếng Anh
Tạo dữ liệu bổ sung bằng mô hình sinh văn bản
- Sử dụng mô hình sinh văn bản như GPT để tạo thêm dữ liệu dựa trên các từ khóa chính trị nhạy cảm.
- Kết hợp các phương pháp prompting để tạo dữ liệu chính xác và đa dạng.
Tiền xử lý dữ liệu
- Loại bỏ nội dung trùng lặp và không liên quan.
- Chuyển đổi dữ liệu về định dạng chuẩn (CSV, JSON, TXT).
- Gắn nhãn dữ liệu theo danh mục tương ứng.
Đánh giá và kiểm duyệt
- Xác minh tính chính xác của dữ liệu.
- Loại bỏ dữ liệu không phù hợp hoặc gây hiểu lầm.
- Nhãn được đánh giá lại bằng mắt thường và sử dụng mô hình 32 tỷ tham số để đảm bảo độ chính xác.
Ứng dụng
Bộ dữ liệu này có thể được sử dụng cho các mục đích sau:
- Huấn luyện mô hình phát hiện nội dung nhạy cảm.
- Kiểm duyệt nội dung trên mạng xã hội.
- Cải thiện hệ thống lọc nội dung tự động.
Ghi chú
- Bộ dữ liệu này chỉ được sử dụng cho mục đích nghiên cứu và phát triển AI.
- Người dùng cần tuân thủ các quy định pháp luật khi sử dụng bộ dữ liệu này.
Liên hệ
Nếu bạn có bất kỳ câu hỏi hoặc đóng góp nào, vui lòng liên hệ qua email huy.official.267@gmail.com nhé.