Datasets:

nmthien
/

vietnamese-curated-2m

id stringlengths 18 18	domain stringclasses 25 values	text stringlengths 199 441k	text_hash stringlengths 64 64	character_count int64 199 441k
VI_open-0019105289	Home_and_Garden	Làm mới phòng khách nhà bạn bằng những cách cực kỳ đơn giản \| Diễn đàn SEO\|MMO\| Diễn Đàn Game Đua Xe \| Yêu Thích Xe Làm mới phòng khách nhà bạn bằng những cách cực kỳ đơn giản Thảo luận trong 'Rao vặt' bắt đầu bởi nguyenha, 11/1/16. Phòng khách nhà bạn đã lâu không có gì đặc biệt , bạn muốn làm mới không gian phòng khá...	5668eb002a6a4abe95ccd0d9db8ccb5fdc805716e5f5c9985d5223fc09e7d618	2,112
VI_open-0000000002	Books_and_Literature	Quẻ Phong Thiên Tiểu Súcđồ hình \|\|\|:\|\| còn gọi là quẻ Tiểu Súc (小畜 xiảo chũ), là quẻ thứ 09 trong Kinh Dịch. Nội quái là ☰ (\|\|\| 乾 qiàn) Càn hay Trời (天). Ngoại quái là ☴ (:\|\| 巽 xũn) Tốn hay Gió (風). Văn Vương viết thoán từ: Tiểu Súc: Hanh. Mật vân bất vũ, tự ngã tây giao (小畜: 亨. 密雲不雨. 自我西郊). Chu Công viết hào từ: Sơ...	1e97d2fa221e3f46a0e6cf9fc1d380e815c5bb5bf5e42af10bfe025325e6acad	856
VI_open-0019069272	Travel_and_Transportation	ĐẤT NƯỚC CAMPUCHIA , DU LỊCH CAMPUCHIA, CAMPUCHIA TOURS Trang Chủ > Ðịa Danh Du Lịch > ĐẤT NƯỚC CAMPUCHIA Campuchia (tên chính thức: Vương quốc Campuchia, chữ Khmer : ព្រះរាជាណាចក្រកម្ពុជា), cũng còn được gọi là Căm Bốt (theo tiếng Pháp: Cambodge) hay Cao Miên (theo âm Hán-Việt của từ "Khmer"), là một quốc gia nằm trên...	8cabbad02fca50c07f593767b00530e006b619ffd2a622b0fb2c01bbcaafd0ae	540
VI_open-0000000005	People_and_Society	Nông thôn Việt Nam là một khái niệm chung dùng để chỉ những vùng đất trên lãnh thổ Việt Nam, nơi người dân sinh sống chủ yếu bằng nông nghiệp. Ở Việt Nam, cho đến năm 2009, có đến 70,4% dân số sống ở vùng nông thôn, trong khi tỷ lệ này vào năm 1999 là 76,5%. Con số đó những năm trước còn lớn hơn nhiều. Chính vì thế cu...	03174a910ce07238bbd42936bac5c524ff7bc70a951fcd69019f73eb8c63c5a4	15,611
VI_open-0000000008	Science	Toán sinh học (tiếng Anh: mathematical biology hay biomathematics) là một lĩnh vực giao thoa (interdisciplinary) của nghiên cứu học thuật nhằm vào mô hình hoá các quá trình sinh học trong tự nhiên dùng kĩ thuật và công cụ toán học. Nó vừa mang tính ứng dụng vừa mang tính lý thuyết trong nghiên cứu sinh học. Nghiên cứu...	385df046bcf425360dc99cfe50cd92df88f21c00d7901f209de78e2c404280e3	3,129
VI_open-0000000012	Computers_and_Electronics	Encyclopædia Britannica hay Bách khoa toàn thư Britannica (tiếng Latinh của Bách khoa toàn thư Anh Quốc;) là một bách khoa toàn thư tiếng Anh tổng hợp có sẵn trong bộ sách, trên DVD, và trên Internet, do công ty Encyclopædia Britannica, Inc. biên soạn và xuất bản. Công ty này thuê vào khoảng 100 nhà biên soạn và nhận b...	65713bda046327d7bbd9d2d8141369adcda218ea20cb814066c3a40d3e0e0a4e	3,644
VI_open-0000000013	Science	1,4-Cyclohexadien là một cycloanken dễ bắt cháy, ở điều kiện tiêu chuẩn nó là một chất lỏng trong suốt không màu. 1,4-Cyclohexadien và các hợp chất có liên quan có thể điều chế từ benzen với sự tham gia của lithi hay natri trong amonia lỏng, quy trình này gọi là phản ứng khử Birch. Tuy nhiên 1,4-cyclohexadien rất dễ b...	e8e2ccec841590e61dfea325253ddc6a9ebdf60c706e519b5aea018970e2fae3	835
VI_open-0019907118	Science	NĂM 2050, NƯỚC BIỂN DÂNG NGẬP SAIGON VÀ HẢI PHÒNG Tin Luân Ðôn - Tường trình của Quỹ Bảo Tồn Thiên Nhiên Quốc Tế World Wildlife Fund cho thấy băng đá ở vùng phía Ðông của Nam Cực đang tan nhanh hơn so với năm 2006, điều này khiến nước biển dâng nhanh hơn dự đoán. Theo đó, hai thành phố quan trọng nhất của Việt Nam là S...	68ad934c35ff2f56755caa7cab9457990abf5566b34d286bc8eede8a3e339a9f	3,054
VI_open-0000000015	News	Ngày 21 tháng 10 là ngày thứ 294 (295 trong năm nhuận) trong lịch Gregory. Còn 71 ngày trong năm. Sự kiện 1600 – Tokugawa Ieyasu giành thắng lợi trong trận Sekigahara, được xem là mốc khởi đầu Mạc phủ Tokugawa tại Nhật Bản. 1805 – Quân Anh đại thắng liên minh Pháp–Tây Ban Nha trong trận Trafalgar. 1824 – Joseph Aspdin...	cfe4d84d2e0be3e790b26c463b9a68ec572a78409773aec630187f5641e427f1	1,760
VI_open-0000000016	Science	Nghịch lý Banach-Tarski nổi tiếng về kết quả "phi trực giác" của nó và thường được dùng để nhấn mạnh về sự bẻ gãy các ý kiến của con người trên một thể tích. Nghịch lý này được phát biểu bởi hai nhà toán học người Ba Lan Stefan Banach (1892-1945) và Alfred Tarski (1901-1983) vào năm 1924. Trong trương hợp đặc biệt, nó...	2f4a7d192710176761c864d9ad4dc5d2e9408e556d3b2bf044b72413d787e163	651
VI_open-0000000017	Internet_and_Telecom	Phần mềm quảng cáo hay nhu liệu quảng cáo thường đính kèm với những mẩu quảng cáo nhỏ, chúng thường được phân phát dưới hình thức phần mềm miễn phí hay phiên bản dùng thử. Và chỉ khi bạn trả tiền cho sản phẩm dùng thử đó, các quảng cáo sẽ "teo" nhỏ hoặc biến mất tùy theo chính sách (policy) của hãng phần mềm đó. Bên cạ...	dd8487fd228d968a7b87b513d8938951f9fc605ab7ca3dd4c27ce972578da505	915
VI_open-0000000023	Pets_and_Animals	Bộ Đà điểu (Struthioniformes) là một bộ gồm các loài chim lớn, không biết bay có nguồn gốc từ Gondwana, phần lớn trong chúng hiện nay đã tuyệt chủng. Không giống như các loài chim không bay khác, các loài đà điểu không có xương chạc trên xương ức của chúng và như thế thiếu nơi neo đủ mạnh cho các cơ cánh của chúng, vì ...	2d6970bb72e995b60bf3bb2e115885267285b48f909c3dfc5e6888a0c56b8ae9	8,399
VI_open-0000000026	Pets_and_Animals	Họ Đại kích hay họ Thầu dầu(Euphorbiaceae) là họ lớn thứ năm trong tất cả các họ thực vật có hoa. Nó gồm khoảng 7,500 loài chia thành 300 chi, 37 tông và ba phân họ. Phần lớn là cây thân thảo, nhưng ở khu vực nhiệt đới cũng tồn tại các loại cây bụi hoặc cây thân gỗ. Một số loài cây là mọng nước, và tương tự như các loà...	03a9af5ec268a9dc996c137e56bd14a26b4deeae01fe208c48596398e7acccd9	4,864
VI_open-0000000027	Travel_and_Transportation	Vịnh Bengal (, [bɔŋgopoʃagoɾ], [bəŋgɑːl kɪː kʰɑːɽɪː]) là một trong những vịnh lớn nhất thế giới, nằm ở Nam Á, phía đông bắc Ấn Độ Dương. Vịnh Bengal có hình gần như tam giác, có ranh giới là Ấn Độ và Sri Lanka ở phía tây, Bangladesh và bang Tây Bengal của Ấn Độ ở phía bắc (từ đây mà có tên gọi vịnh Bengal), Myanmar cùn...	28a1e6e26ddfa779cc856b4d900e75ce575e57c6c60c6b5fc9b96f5ebd673d49	2,976
VI_open-0000000029	Science	Trong toán học, bao afin của tập hợp S trong không gian Euclide Rn là tập afin nhỏ nhất chứa S, hay định nghĩa tương đương: bao afin là giao của tất cả các tập afin chứa S. Ở đây, tập afin được hiểu là một tập sinh ra do sự tịnh tiến một không gian con vectơ. Bao afin của S - ký hiệu là aff(S) là tập hợp tất cả các tổ...	912fd02cb9511c1d79390d93d993771b5ece498929c30b4a9abfb387ccd90e5e	1,206
VI_open-0018433203	Computers_and_Electronics	Quy đổi từ µb sang µm² (Micrôbarn sang Micrômét vuông) µb bằng bao nhiêu µm² Micrôbarn bằng bao nhiêu Micrômét vuông https://www.quy-doi-don-vi-do.info/quy+doi+tu+Microbarn+sang+Micromet+vuong.php Quy đổi từ Micrôbarn sang Micrômét vuông (µb sang µm²): Cuối cùng hãy chọn đơn vị bạn muốn chuyển đổi giá trị, trong trường...	896984c62051314c8eda9c391a81932f099641590ded3d4cae5a3f31543b9a4a	2,224
VI_open-0000000033	Arts_and_Entertainment	Nicolas Kim Coppola (sinh ngày 7 tháng 1 năm 1964), được biết đến với nghệ danh Nicolas Cage, là một diễn viên và nhà làm phim người Mỹ. Sinh ra trong gia đình Coppola, Cage là người nhận được nhiều giải thưởng khác nhau, bao gồm Giải thưởng Viện hàn lâm, Giải thưởng của Nghiệp đoàn Diễn viênmàn ảnh và Giải thưởng Quả ...	7da397082bb555cdfacb9ff5d0f32cda363cd2a295fa8ebba8ec36996a0ba13a	5,926
VI_open-0000000034	Science	Trong hình học, một phép biến đổi afin hay ánh xạ afin (tiếng Latin, affinis, nghĩa là "được kết nối với") giữa hai không gian vector bao gồm một biến đổi tuyến tính đi kèm bởi một phép tịnh tiến: Với hữu hạn chiều, mỗi biến đổi afin được cho bởi ma trận A và một vectơ b, hay viết dưới dạng là ma trận A kèm theo cột b...	40bd5275584f7f408468e1efc36431e41928dd03939ffed67bcf3e622db7e7ca	1,617
VI_open-0000000035	Travel_and_Transportation	Chùa Pháp Vân có thể là: Chùa Pháp Vân (Thường Tín) ở làng Văn Giáp, xã Văn Bình, huyện Thường Tín, thành phố Hà Nội. Chùa Pháp Vân (Hoàng Mai) ở quận Hoàng Mai, thành phố Hà Nội. Tên gọi khác của Chùa Dâu ở xã Thanh Khương, huyện Thuận Thành, tỉnh Bắc Ninh. Tên gọi khác của Chùa Nành ở làng Nành, xã Ninh Hiệp, huyện G...	1a665ddeb90cd2ed6c186c5fbaed3a0df79ca23b90b4d09488ea233096296f08	517
VI_open-0000000036	People_and_Society	"Tôi Có một Ước mơ" (tên gốc tiếng Anh: "I Have a Dream") là tên phổ biến của bài diễn văn nổi tiếng nhất của Martin Luther King, Jr., khi ông nói, với sức mạnh thuyết phục của tài hùng biện, về ước mơ của ông cho tương lai của nước Mỹ, khi người da trắng và người da đen có thể sống chung hoà thuận như những con người ...	da4e8206e01319403cf05ffcc6803412cda98a8462bc67b4bc9b7c81a9ad37d8	12,075
VI_open-0000000039	People_and_Society	Pāli (𑀧𑀸𑀮𑀺) còn gọi là Nam Phạn, là một ngôn ngữ thuộc nhóm Ấn-Arya Trung cổ hay prakrit. Nam Phạn là ngôn ngữ kinh điển của Phật giáo Nam Tông, dùng trong việc chép kinh cùng tụng niệm, trong đó có bộ Tam tạng (tên theo tiếng Nam Phạn là Tipitaka). Chữ Nam Phạn được đúc kết từ mấy nguồn hệ thống chữ viết khác nhau...	66199645a59ecba8afd0043501550d53279b08df094e1dd73b5c35b94fd542c9	12,814
VI_open-0000000045	News	Sự kiện Tháng 1 1 tháng 1: Kaspar Villiger trở thành tổng thống liên bang Thụy Sĩ. Áo, Thụy Điển và Phần Lan gia nhập Liên minh châu Âu. Đài Phát thanh - Truyền hình Khánh Hòa chính thức được thành lập 17 tháng 1: Động đất Kōbe, Nhật Bản làm 6.321 người thiệt mạng và làm trên 32.000 người bị thương. 25 tháng 1: Shan V...	ba0c083a7a360c740bd7f84ce3e839af8282fd3c134c90d000ba857626a00fbe	15,353
VI_open-0000000048	Books_and_Literature	Các chương của cuộc đời là một cuốn sách viết bởi Lobsang Rampa, xuất bản năm 1967 bởi nhà xuất bản Corgi Book, Luân Đôn, Anh. Tóm tắt Chương 1: Nhà lãnh đạo sắp tới Mở đầu cuốn sách, Rampa tiên đoán sẽ có một nhà lãnh đạo thế giới sắp sửa ra đời vào khoảng năm 1985, và đến năm 2005 sẽ đi rao giảng khắp thế giới. Th...	9bc0f9edc64da1261a362fb63328b24eb62e655682ef860f70b12f6e43406185	7,573
VI_open-0000000049	News	Phục Hy hay Tử Hoa (chữ Hán: 伏羲) (4486 TCN—4365 TCN), còn gọi là Phục Hi thị (伏羲氏), Mật Hy (宓羲), Bào Hy (庖羲), Bao Hy (包羲), Hy Hoàng (羲皇), Hoàng Hy (皇羲) hoặc Thái Hạo (太昊), ông đã tạo nên ảnh hưởng trong các thần tích Trung Hoa, ông thường được xem là người đầu tiên và đứng đầu trong các thuyết về Tam Hoàng Ngũ Đế của l...	bce0782d7160372bfc5426a16436579725b7fec5011d7b43e1f37920cb3e6672	3,393
VI_open-0000000052	Travel_and_Transportation	Sukhothai (tiếng Thái: สุโขทัย, phiên âm: Xu-kho-thai) là một tỉnh (changwat) miền Bắc của Thái Lan. Tỉnh này giáp giới các tỉnh (từ phía Bắc theo chiều kim đồng hồ) là: Phrae, Uttaradit, Phitsanulok, Kamphaeng Phet, Tak và Lampang. Các đơn vị hành chính địa phương Tỉnh này có 9 huyện (Amphoe). Các huyện được chia ra...	f9c6b0dae9c497ef709c3b68d75d034bd73fba4ae730bf91e0a9504ef7818af1	550
VI_open-0000000053	Food_and_Drink	Camembert là một xã trong tỉnh Orne, thuộc vùng hành chính Normandie của nước Pháp, có dân số là 197 người (thời điểm 1999). Xã nổi tiếng do có loại phó mát Camembert hình thành tại đây, tương truyền do bà Marie Harel chế biến ra năm 1791. Nhân khẩu học Tham khảo Xã của Orne	4038ca54f752136f80248af10ed090ba35b87523bd95bf2d491b558bf0f9ca48	278
VI_open-0000000054	Pets_and_Animals	Cá tầm là một tên gọi để chỉ một chi cá có danh pháp khoa học là Acipenser với 21 loài đã biết. Là một trong những chi cá cổ nhất hiện còn tồn tại, chúng có nguồn gốc tại các vùng nước châu Âu, châu Á và Bắc Mỹ. Cá tầm có kích thước dài khoảng 2,5-3,5 m (8–11 ft) không phải là hiếm và một số loài có thể còn to lớn hơn....	833786285b3b02218eab696466ee510c222e6762cb488f7649bd48db9f83727a	9,470
VI_open-0000000055	Pets_and_Animals	Chi Hoàng đằng (danh pháp khoa học: Fibraurea) là một chi bao gồm khoảng 2-3 loài dây leo thuộc họ Biển bức cát (Tiết dê), phân bố trong khu vực nhiệt đới châu Á, từ Ấn Độ (quần đảo Nicobar) tới Hoa Nam và Philippines. Các loài Fibraurea darshanii Udayan & K.Ravik.: Chưa dung giải được. Fibraurea recisa (Pierre): Nam ...	17113e81c694085d1a2a9149a86eccb3af43facb3426d970f02aa8fed9e593ce	781
VI_open-0000000056	Travel_and_Transportation	là một sân bay quốc tế tọa lạc tại Narita, Chiba, Nhật Bản, phía Đông của Vùng Đại Tokyo. Narita phục vụ phần lớn các chuyến bay vận chuyển hành khách đến và đi Nhật Bản và cũng là điểm kết nối hàng không chính giữa châu Á và châu Mỹ. Đây là sân bay tấp nập thứ 2 Nhật Bản, là sân bay vận chuyển hàng hóa lớn thứ 2 Nhật ...	ade9ed4d350d6bc8a9574fa22be290eb4442f5f81469a96050d3337b5cc0e72a	7,758
VI_open-0000000057	Science	Các nguyên tố trong bảng tuần hoàn được xếp theo các nhóm và chu kỳ tuần hoàn, trong đó chu kỳ là các hàng ngang và gồm các nguyên tố có cùng số lớp trong lớp vỏ electron. Trong mỗi chu kỳ từ trái sang phải: số nguyên tử tăng, bán kính nguyên tử giảm, độ âm điện tăng. Ngoại trừ chu kỳ 1 chỉ gồm 2 nguyên tố, các chu kỳ ...	b05d65efb2829bbb79bc8516085cf3db1d95effeb45002852ec6b93389f2e2d4	661
VI_open-0000000060	Food_and_Drink	Kẹo cao su (còn gọi kẹo gum hoặc kẹo sinh-gum do phiên âm từ tiếng Pháp "chewing-gum") là một dạng kẹo được thiết kế mềm để nhai mà không nuốt. Theo truyền thống, nó được làm từ nhựa chicleđược lấy từ cây hồng xiêm. Tuy nhiên, ngày nay, vì lý do kinh tế và chất lượng nên kẹo cao su sử dụng chất polymer trên nền dầu mỏ ...	3edb19e61d609cc287c3b647af806057e7f6de3adee0749d7328e6369d228fba	9,579

End of preview. Expand in Data Studio

nmthien/ct219-vietnamese-raw-400k

Bộ dữ liệu văn bản tiếng Việt thô đã tiền xử lý, dùng để huấn luyện next-token language model (CT219 - NLP final project).

Nguồn dữ liệu

Source dataset: VTSNLP/vietnamese_curated_dataset
Source split: train
Pinned source revision: b81fcce58945970117a1b56d50ec81be2628a5c3
Source licence: không công bố - repo này được tạo ở chế độ private vì lý do đó.

Mục đích

Huấn luyện next-token language model cho tiếng Việt.

Cách chọn 400k văn bản

Seed: 42
Deterministic reservoir sampling trên toàn bộ stream nguồn (2,250,000 văn bản đã duyệt).
Không chọn N văn bản đầu tiên; mẫu đồng đều trên phần đã quét.

Tiền xử lý và chuẩn hóa

NFC Unicode, giữ nguyên dấu tiếng Việt, chữ hoa, số, dấu câu, cấu trúc đoạn.
Kết thúc dòng về LF, khoảng trắng lặp gộp lại, tối đa một dòng trống liên tiếp.
Không tokenization, không hạ chữ thường, không bỏ dấu.

Khử trùng lặp

Trùng id và trùng văn bản chính xác sau chuẩn hóa (SHA-256) đều bị loại.
Backend: sqlite. Duplicate count: 37.

Chia tập

Phương pháp: stable hash của id và seed.
train: 1,800,020 (90%), validation: 99,742 (5%), test: 100,238 (5%).
Không có văn bản nào xuất hiện ở hai tập (đã kiểm chứng theo id và text_hash).

Schema

Các tệp parquet có cột: id, domain, text, text_hash, character_count.

Chính sách lọc chất lượng

Loại bỏ (mặc định): encoding_corruption (>= 3 ký tự U+FFFD), binary_or_invalid_content (Unicode bất thường >= 8 ký tự và >= 0.5%).
Chỉ audit (không loại): foreign_script_dominant, concatenated_dump, tín hiệu tiếng Việt thấp, VNI patterns. Xem data_contract.md trong repo mã nguồn.
Ngưỡng ngôn ngữ chưa được chốt bằng dữ liệu có nhãn; cần duyệt thủ công trước khi thay đổi.

Hạn chế đã biết

Mẫu đại diện cho phần stream đã quét (2,250,000 văn bản), không đảm bảo đại diện toàn bộ bộ dữ liệu gốc.
Có thể chứa văn bản không phải tiếng Việt (ước lượng < 1% qua audit) và boilerplate từ web.
Licence nguồn không rõ: dữ liệu này chỉ dùng trong phạm vi đồ án học tập.

Tái lập

python -m src.data.preprocess --mode release-400k   --dataset VTSNLP/vietnamese_curated_dataset --dataset-split train   --dataset-revision b81fcce58945970117a1b56d50ec81be2628a5c3 --seed 42   --dedup-backend sqlite --output-dir data/releases/ct219-2m-v1

Mã nguồn: https://github.com/wheevu/ct219-final-report (nhánh feat/400k-huggingface-release) Checksums và row counts: xem manifest.json và checksums.txt trong repo này. Release version: v1

Downloads last month: 60