README.md

metadata

language:
  - vi
tags:
  - vietnamese
  - next-token
  - language-modeling
license: unknown

nmthien/ct219-vietnamese-raw-400k

Bộ dữ liệu văn bản tiếng Việt thô đã tiền xử lý, dùng để huấn luyện next-token language model (CT219 - NLP final project).

Nguồn dữ liệu

• Source dataset: VTSNLP/vietnamese_curated_dataset
• Source split: train
• Pinned source revision: b81fcce58945970117a1b56d50ec81be2628a5c3
• Source licence: không công bố - repo này được tạo ở chế độ private vì lý do đó.

Mục đích

Huấn luyện next-token language model cho tiếng Việt.

Cách chọn 400k văn bản

• Seed: 42
• Deterministic reservoir sampling trên toàn bộ stream nguồn (2,250,000 văn bản đã duyệt).
• Không chọn N văn bản đầu tiên; mẫu đồng đều trên phần đã quét.

Tiền xử lý và chuẩn hóa

• NFC Unicode, giữ nguyên dấu tiếng Việt, chữ hoa, số, dấu câu, cấu trúc đoạn.
• Kết thúc dòng về LF, khoảng trắng lặp gộp lại, tối đa một dòng trống liên tiếp.
• Không tokenization, không hạ chữ thường, không bỏ dấu.

Khử trùng lặp

• Trùng id và trùng văn bản chính xác sau chuẩn hóa (SHA-256) đều bị loại.
• Backend: sqlite. Duplicate count: 37.

Chia tập

• Phương pháp: stable hash của id và seed.
• train: 1,800,020 (90%), validation: 99,742 (5%), test: 100,238 (5%).
• Không có văn bản nào xuất hiện ở hai tập (đã kiểm chứng theo id và text_hash).

Schema

Các tệp parquet có cột: id, domain, text, text_hash, character_count.

Chính sách lọc chất lượng

• Loại bỏ (mặc định): encoding_corruption (>= 3 ký tự U+FFFD), binary_or_invalid_content (Unicode bất thường >= 8 ký tự và >= 0.5%).
• Chỉ audit (không loại): foreign_script_dominant, concatenated_dump, tín hiệu tiếng Việt thấp, VNI patterns. Xem data_contract.md trong repo mã nguồn.
• Ngưỡng ngôn ngữ chưa được chốt bằng dữ liệu có nhãn; cần duyệt thủ công trước khi thay đổi.

Hạn chế đã biết

• Mẫu đại diện cho phần stream đã quét (2,250,000 văn bản), không đảm bảo đại diện toàn bộ bộ dữ liệu gốc.
• Có thể chứa văn bản không phải tiếng Việt (ước lượng < 1% qua audit) và boilerplate từ web.
• Licence nguồn không rõ: dữ liệu này chỉ dùng trong phạm vi đồ án học tập.

Tái lập

python -m src.data.preprocess --mode release-400k   --dataset VTSNLP/vietnamese_curated_dataset --dataset-split train   --dataset-revision b81fcce58945970117a1b56d50ec81be2628a5c3 --seed 42   --dedup-backend sqlite --output-dir data/releases/ct219-2m-v1

Mã nguồn: https://github.com/wheevu/ct219-final-report (nhánh feat/400k-huggingface-release) Checksums và row counts: xem manifest.json và checksums.txt trong repo này. Release version: v1