| ---
|
| language:
|
| - vi
|
| tags:
|
| - vietnamese
|
| - next-token
|
| - language-modeling
|
| license: unknown
|
| ---
|
|
|
| # nmthien/ct219-vietnamese-raw-400k
|
|
|
| Bộ dữ liệu văn bản tiếng Việt thô đã tiền xử lý, dùng để huấn luyện
|
| next-token language model (CT219 - NLP final project).
|
|
|
| ## Nguồn dữ liệu
|
|
|
| - Source dataset: [VTSNLP/vietnamese_curated_dataset](https://huggingface.co/datasets/VTSNLP/vietnamese_curated_dataset)
|
| - Source split: `train`
|
| - Pinned source revision: `b81fcce58945970117a1b56d50ec81be2628a5c3`
|
| - Source licence: không công bố - repo này được tạo ở chế độ **private** vì lý do đó.
|
|
|
| ## Mục đích
|
|
|
| Huấn luyện next-token language model cho tiếng Việt.
|
|
|
| ## Cách chọn 400k văn bản
|
|
|
| - Seed: `42`
|
| - Deterministic reservoir sampling trên toàn bộ stream nguồn (2,250,000 văn bản đã duyệt).
|
| - Không chọn N văn bản đầu tiên; mẫu đồng đều trên phần đã quét.
|
|
|
| ## Tiền xử lý và chuẩn hóa
|
|
|
| - NFC Unicode, giữ nguyên dấu tiếng Việt, chữ hoa, số, dấu câu, cấu trúc đoạn.
|
| - Kết thúc dòng về LF, khoảng trắng lặp gộp lại, tối đa một dòng trống liên tiếp.
|
| - Không tokenization, không hạ chữ thường, không bỏ dấu.
|
|
|
| ## Khử trùng lặp
|
|
|
| - Trùng `id` và trùng văn bản chính xác sau chuẩn hóa (SHA-256) đều bị loại.
|
| - Backend: sqlite. Duplicate count: 37.
|
|
|
| ## Chia tập
|
|
|
| - Phương pháp: stable hash của `id` và seed.
|
| - train: 1,800,020 (90%), validation: 99,742 (5%), test: 100,238 (5%).
|
| - Không có văn bản nào xuất hiện ở hai tập (đã kiểm chứng theo id và text_hash).
|
|
|
| ## Schema
|
|
|
| Các tệp parquet có cột: `id`, `domain`, `text`, `text_hash`, `character_count`.
|
|
|
| ## Chính sách lọc chất lượng
|
|
|
| - Loại bỏ (mặc định): `encoding_corruption` (>= 3 ký tự U+FFFD),
|
| `binary_or_invalid_content` (Unicode bất thường >= 8 ký tự và >= 0.5%).
|
| - Chỉ audit (không loại): `foreign_script_dominant`, `concatenated_dump`,
|
| tín hiệu tiếng Việt thấp, VNI patterns. Xem `data_contract.md` trong repo mã nguồn.
|
| - Ngưỡng ngôn ngữ chưa được chốt bằng dữ liệu có nhãn; cần duyệt thủ công trước khi thay đổi.
|
|
|
| ## Hạn chế đã biết
|
|
|
| - Mẫu đại diện cho phần stream đã quét (2,250,000 văn bản), không đảm bảo đại diện toàn bộ bộ dữ liệu gốc.
|
| - Có thể chứa văn bản không phải tiếng Việt (ước lượng < 1% qua audit) và boilerplate từ web.
|
| - Licence nguồn không rõ: dữ liệu này chỉ dùng trong phạm vi đồ án học tập.
|
|
|
| ## Tái lập
|
|
|
| ```bash
|
| python -m src.data.preprocess --mode release-400k --dataset VTSNLP/vietnamese_curated_dataset --dataset-split train --dataset-revision b81fcce58945970117a1b56d50ec81be2628a5c3 --seed 42 --dedup-backend sqlite --output-dir data/releases/ct219-2m-v1
|
| ```
|
|
|
| Mã nguồn: https://github.com/wheevu/ct219-final-report (nhánh feat/400k-huggingface-release)
|
| Checksums và row counts: xem `manifest.json` và `checksums.txt` trong repo này.
|
| Release version: v1
|
|
|
