Release ct219-vietnamese-raw-400k v1 (400k docs)

README.md

@@ -0,0 +1,76 @@
+---
+language:
+- vi
+tags:
+- vietnamese
+- next-token
+- language-modeling
+license: unknown
+---
+
+# nmthien/ct219-vietnamese-raw-400k
+
+Bộ dữ liệu văn bản tiếng Việt thô đã tiền xử lý, dùng để huấn luyện
+next-token language model (CT219 - NLP final project).
+
+## Nguồn dữ liệu
+
+- Source dataset: [VTSNLP/vietnamese_curated_dataset](https://huggingface.co/datasets/VTSNLP/vietnamese_curated_dataset)
+- Source split: `train`
+- Pinned source revision: `b81fcce58945970117a1b56d50ec81be2628a5c3`
+- Source licence: không công bố - repo này được tạo ở chế độ **private** vì lý do đó.
+
+## Mục đích
+
+Huấn luyện next-token language model cho tiếng Việt.
+
+## Cách chọn 400k văn bản
+
+- Seed: `42`
+- Deterministic reservoir sampling trên toàn bộ stream nguồn (2,250,000 văn bản đã duyệt).
+- Không chọn N văn bản đầu tiên; mẫu đồng đều trên phần đã quét.
+
+## Tiền xử lý và chuẩn hóa
+
+- NFC Unicode, giữ nguyên dấu tiếng Việt, chữ hoa, số, dấu câu, cấu trúc đoạn.
+- Kết thúc dòng về LF, khoảng trắng lặp gộp lại, tối đa một dòng trống liên tiếp.
+- Không tokenization, không hạ chữ thường, không bỏ dấu.
+
+## Khử trùng lặp
+
+- Trùng `id` và trùng văn bản chính xác sau chuẩn hóa (SHA-256) đều bị loại.
+- Backend: sqlite. Duplicate count: 37.
+
+## Chia tập
+
+- Phương pháp: stable hash của `id` và seed.
+- train: 1,800,020 (90%), validation: 99,742 (5%), test: 100,238 (5%).
+- Không có văn bản nào xuất hiện ở hai tập (đã kiểm chứng theo id và text_hash).
+
+## Schema
+
+Các tệp parquet có cột: `id`, `domain`, `text`, `text_hash`, `character_count`.
+
+## Chính sách lọc chất lượng
+
+- Loại bỏ (mặc định): `encoding_corruption` (>= 3 ký tự U+FFFD),
+  `binary_or_invalid_content` (Unicode bất thường >= 8 ký tự và >= 0.5%).
+- Chỉ audit (không loại): `foreign_script_dominant`, `concatenated_dump`,
+  tín hiệu tiếng Việt thấp, VNI patterns. Xem `data_contract.md` trong repo mã nguồn.
+- Ngưỡng ngôn ngữ chưa được chốt bằng dữ liệu có nhãn; cần duyệt thủ công trước khi thay đổi.
+
+## Hạn chế đã biết
+
+- Mẫu đại diện cho phần stream đã quét (2,250,000 văn bản), không đảm bảo đại diện toàn bộ bộ dữ liệu gốc.
+- Có thể chứa văn bản không phải tiếng Việt (ước lượng < 1% qua audit) và boilerplate từ web.
+- Licence nguồn không rõ: dữ liệu này chỉ dùng trong phạm vi đồ án học tập.
+
+## Tái lập
+
+```bash
+python -m src.data.preprocess --mode release-400k   --dataset VTSNLP/vietnamese_curated_dataset --dataset-split train   --dataset-revision b81fcce58945970117a1b56d50ec81be2628a5c3 --seed 42   --dedup-backend sqlite --output-dir data/releases/ct219-2m-v1
+```
+
+Mã nguồn: https://github.com/wheevu/ct219-final-report (nhánh feat/400k-huggingface-release)
+Checksums và row counts: xem `manifest.json` và `checksums.txt` trong repo này.
+Release version: v1

checksums.txt

@@ -0,0 +1,9 @@
+# ct219-vietnamese-raw-400k checksums (sha256  size  path)
+8c1fec8376757a18f5f640bb9c0d801c227b9db84b3888983be8af605aa1b9ea 5138941659 processed/train.parquet
+ef5514e1f81b787f489a9ca8b8d94f90d29b6e49bd25b4f8bc56271b5c46a0b5 282340552 processed/validation.parquet
+369d732ccea07b8d67746fa4770eccaebe0fef5a847c76693b2f45a1b2beed06 285025542 processed/test.parquet
+86014c10de181fccc9825d828c8aa7595faab0abb59cc757f0b4eb17fe8e1ddb 4538 manifest.json
+5b8202b79c0de6abd9972357a322ae5088e8387f6cdec58b4f51f66077f6c518 2544 statistics/preprocessing_stats.json
+4978aa05449cf11d12d0230797fa1dc019c7946276eae12afb05a06b87be21a0 776 statistics/domain_distribution.csv
+1c1e3277f69ffff8817c02b2338b9bcff0a2162bd57a0bf92eb95d578597c59e 210 statistics/removal_counts.csv
+92fae7a47d3691009acd6a9efec5a8b0a5df26b6ade6f2f21cb7286ac31d60d3 143 statistics/length_statistics.json

manifest.json

@@ -0,0 +1,141 @@
+{
+  "status": "complete",
+  "generated_at": "2026-08-15T06:50:02+00:00",
+  "dataset": "VTSNLP/vietnamese_curated_dataset",
+  "requested_dataset_revision": "b81fcce58945970117a1b56d50ec81be2628a5c3",
+  "resolved_dataset_revision": "b81fcce58945970117a1b56d50ec81be2628a5c3",
+  "source_split": "train",
+  "configuration": {
+    "dataset": "VTSNLP/vietnamese_curated_dataset",
+    "dataset_revision": "b81fcce58945970117a1b56d50ec81be2628a5c3",
+    "dataset_split": "train",
+    "streaming": true,
+    "mode": "final",
+    "max_documents": 2000000,
+    "scan_limit": 2250000,
+    "seed": 42,
+    "min_chars": 20,
+    "max_chars": null,
+    "train_ratio": 0.9,
+    "val_ratio": 0.05,
+    "output_dir": "D:\\NLP\\ct219-final-report\\data\\releases\\ct219-2m-v1",
+    "overwrite": true,
+    "sample_size": 10,
+    "text_field": "text",
+    "id_field": "id",
+    "domain_field": "domain",
+    "audit_dir": "data/audit",
+    "review_dir": "data/review",
+    "near_duplicates": false,
+    "simhash_threshold": 3,
+    "shingle_size": 4,
+    "chart": "docs/assets/domain_distribution.svg",
+    "subset": 0,
+    "dedup_backend": "sqlite",
+    "dedup_dir": "D:\\NLP\\ct219-final-report\\data\\dedup",
+    "keep_dedup_db": false,
+    "loader": "shards",
+    "cache_dir": "data/cache/shards",
+    "rejected_sample_size": 20,
+    "reject_encoding_corruption": true,
+    "reject_binary_invalid": true,
+    "reject_foreign_script": false,
+    "reject_concatenated": false,
+    "max_replacement_chars": 3,
+    "min_unusual_unicode_count": 8,
+    "min_unusual_unicode_ratio": 0.005,
+    "min_non_latin_share": 0.3,
+    "max_line_length": 20000
+  },
+  "seed": 42,
+  "scan_limit": 2250000,
+  "accepted_document_target": 2000000,
+  "git_commit": "8f5720913d48ebda283ef4299f96a809a54f4821",
+  "environment": {
+    "python_version": "3.14.5",
+    "platform": "Windows 11",
+    "dependency_versions": {
+      "datasets": "3.6.0",
+      "pyarrow": "25.0.1",
+      "pandas": "2.3.3",
+      "tqdm": "4.70.0"
+    }
+  },
+  "performance": {
+    "runtime_seconds": 5585.7,
+    "source_documents_per_second": 402.8,
+    "accepted_documents_per_second": 358.1,
+    "peak_memory_mb": null,
+    "hashes_retained_in_memory": 2244505
+  },
+  "outputs": {
+    "processed/train.parquet": {
+      "row_count": 1800020,
+      "sha256": "8c1fec8376757a18f5f640bb9c0d801c227b9db84b3888983be8af605aa1b9ea"
+    },
+    "processed/train.txt": {
+      "row_count": null,
+      "sha256": "8924c6f7ea3d730d698d8c763c75890c2602f76d11cc83166d20845572c19839"
+    },
+    "processed/validation.parquet": {
+      "row_count": 99742,
+      "sha256": "ef5514e1f81b787f489a9ca8b8d94f90d29b6e49bd25b4f8bc56271b5c46a0b5"
+    },
+    "processed/validation.txt": {
+      "row_count": null,
+      "sha256": "febd4c185066a769075a0b7deae9e5f1116c7cd3f96751ac0c23fd2429a2a9c8"
+    },
+    "processed/test.parquet": {
+      "row_count": 100238,
+      "sha256": "369d732ccea07b8d67746fa4770eccaebe0fef5a847c76693b2f45a1b2beed06"
+    },
+    "processed/test.txt": {
+      "row_count": null,
+      "sha256": "b096fcd04eea6320e63c79810b4820a6550dda1df31a1608a2279c6fa7c16ed0"
+    },
+    "statistics/preprocessing_stats.json": {
+      "row_count": null,
+      "sha256": "5b8202b79c0de6abd9972357a322ae5088e8387f6cdec58b4f51f66077f6c518"
+    },
+    "statistics/length_statistics.json": {
+      "row_count": null,
+      "sha256": "92fae7a47d3691009acd6a9efec5a8b0a5df26b6ade6f2f21cb7286ac31d60d3"
+    },
+    "statistics/removal_counts.csv": {
+      "row_count": null,
+      "sha256": "1c1e3277f69ffff8817c02b2338b9bcff0a2162bd57a0bf92eb95d578597c59e"
+    },
+    "statistics/domain_distribution.csv": {
+      "row_count": null,
+      "sha256": "4978aa05449cf11d12d0230797fa1dc019c7946276eae12afb05a06b87be21a0"
+    },
+    "samples/before_after_examples.csv": {
+      "row_count": null,
+      "sha256": "fc6cc0fc19701c3d9234ff997cd56ced560fa556965f3ce0d3d2e40ef2ec5c96"
+    },
+    "samples/rejected_examples.csv": {
+      "row_count": null,
+      "sha256": "d9b44cb591f47a6a0ec3bd7c067d2cf61b6d40b140513058f7a9bf1c14ac1b95"
+    }
+  },
+  "run_summary": {
+    "source_documents_inspected": 2250000,
+    "accepted_candidates": 2244505,
+    "accepted_documents": 2000000,
+    "rejected_documents": 5495,
+    "duplicate_count": 37,
+    "split_counts": {
+      "train": 1800020,
+      "validation": 99742,
+      "test": 100238
+    }
+  },
+  "dedup": {
+    "backend": "sqlite",
+    "database_bytes": 480182272,
+    "ids_retained": 2244505,
+    "hashes_retained": 2244505,
+    "duplicate_hits": 37,
+    "journal_mode": "wal"
+  }
+}

processed/test.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:369d732ccea07b8d67746fa4770eccaebe0fef5a847c76693b2f45a1b2beed06
+size 285025542

processed/train.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8c1fec8376757a18f5f640bb9c0d801c227b9db84b3888983be8af605aa1b9ea
+size 5138941659

processed/validation.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ef5514e1f81b787f489a9ca8b8d94f90d29b6e49bd25b4f8bc56271b5c46a0b5
+size 282340552

statistics/domain_distribution.csv

@@ -0,0 +1,26 @@
+domain,inspected,accepted
+Arts_and_Entertainment,175562,175144
+Autos_and_Vehicles,60979,60893
+Beauty_and_Fitness,100831,100709
+Books_and_Literature,70321,70174
+Business_and_Industrial,115174,114944
+Computers_and_Electronics,92509,91282
+Finance,57889,57822
+Food_and_Drink,124697,124520
+Games,61509,61392
+Health,162151,161850
+Hobbies_and_Leisure,17858,17820
+Home_and_Garden,94545,94420
+Internet_and_Telecom,69722,69473
+Jobs_and_Education,103511,103259
+Law_and_Government,69003,68859
+News,145628,145211
+Online_Communities,9326,9223
+People_and_Society,154362,153947
+Pets_and_Animals,35176,35119
+Real_Estate,57884,57807
+Science,33429,33322
+Sensitive_Subjects,149342,149193
+Shopping,33930,33835
+Sports,147116,146936
+Travel_and_Transportation,107546,107351

statistics/length_statistics.json

@@ -0,0 +1,10 @@
+{
+  "count": 2000000,
+  "min": 199,
+  "max": 441312,
+  "mean": 4048.95,
+  "median": 2740.0,
+  "p90": 7652.0,
+  "p95": 8052.0,
+  "p99": 8537.0
+}

statistics/preprocessing_stats.json

@@ -0,0 +1,93 @@
+{
+  "config": {
+    "dataset": "VTSNLP/vietnamese_curated_dataset",
+    "dataset_revision": "b81fcce58945970117a1b56d50ec81be2628a5c3",
+    "dataset_split": "train",
+    "streaming": true,
+    "mode": "final",
+    "max_documents": 2000000,
+    "scan_limit": 2250000,
+    "seed": 42,
+    "min_chars": 20,
+    "max_chars": null,
+    "train_ratio": 0.9,
+    "val_ratio": 0.05,
+    "output_dir": "D:\\NLP\\ct219-final-report\\data\\releases\\ct219-2m-v1",
+    "overwrite": true,
+    "sample_size": 10,
+    "text_field": "text",
+    "id_field": "id",
+    "domain_field": "domain",
+    "audit_dir": "data/audit",
+    "review_dir": "data/review",
+    "near_duplicates": false,
+    "simhash_threshold": 3,
+    "shingle_size": 4,
+    "chart": "docs/assets/domain_distribution.svg",
+    "subset": 0,
+    "dedup_backend": "sqlite",
+    "dedup_dir": "D:\\NLP\\ct219-final-report\\data\\dedup",
+    "keep_dedup_db": false,
+    "loader": "shards",
+    "cache_dir": "data/cache/shards",
+    "rejected_sample_size": 20,
+    "reject_encoding_corruption": true,
+    "reject_binary_invalid": true,
+    "reject_foreign_script": false,
+    "reject_concatenated": false,
+    "max_replacement_chars": 3,
+    "min_unusual_unicode_count": 8,
+    "min_unusual_unicode_ratio": 0.005,
+    "min_non_latin_share": 0.3,
+    "max_line_length": 20000
+  },
+  "resolved_dataset_revision": "b81fcce58945970117a1b56d50ec81be2628a5c3",
+  "source_documents_inspected": 2250000,
+  "accepted_candidates": 2244505,
+  "accepted_documents": 2000000,
+  "requested_documents": 2000000,
+  "rejected_documents": 5495,
+  "sampled_out": 244505,
+  "removal_counts": {
+    "empty_text": 0,
+    "too_short": 0,
+    "too_long": 0,
+    "duplicate_id": 0,
+    "duplicate_text": 37,
+    "invalid_text": 0,
+    "encoding_corruption": 2535,
+    "binary_or_invalid_content": 2923,
+    "foreign_script_dominant": 0,
+    "concatenated_dump": 0
+  },
+  "duplicate_count": 37,
+  "split_counts": {
+    "train": 1800020,
+    "validation": 99742,
+    "test": 100238
+  },
+  "length_statistics": {
+    "count": 2000000,
+    "min": 199,
+    "max": 441312,
+    "mean": 4048.95,
+    "median": 2740.0,
+    "p90": 7652.0,
+    "p95": 8052.0,
+    "p99": 8537.0
+  },
+  "elapsed_seconds": 5585.7,
+  "performance": {
+    "source_documents_per_second": 402.8,
+    "accepted_documents_per_second": 358.1,
+    "peak_memory_mb": null
+  },
+  "dedup": {
+    "backend": "sqlite",
+    "database_bytes": 480182272,
+    "ids_retained": 2244505,
+    "hashes_retained": 2244505,
+    "duplicate_hits": 37,
+    "journal_mode": "wal"
+  }
+}

statistics/removal_counts.csv

@@ -0,0 +1,11 @@
+reason,count
+binary_or_invalid_content,2923
+concatenated_dump,0
+duplicate_id,0
+duplicate_text,37
+empty_text,0
+encoding_corruption,2535
+foreign_script_dominant,0
+invalid_text,0
+too_long,0
+too_short,0