tnhyen/vietnamese-ecommerce-ner

ViEcomNER — Vietnamese E-Commerce Named Entity Recognition Dataset

Tổng quan (Overview)

ViEcomNER là bộ dữ liệu nhận dạng thực thể tên (NER) chất lượng cao đầu tiên được xây dựng chuyên biệt cho miền tiêu đề sản phẩm thương mại điện tử tiếng Việt. Bộ dữ liệu gồm 2,993 tiêu đề sản phẩm thu thập thực tế từ Lazada và Tiki, được gán nhãn thủ công theo quy trình kiểm soát chất lượng nghiêm ngặt (kết hợp gán nhãn mù đôi độc lập và phân giải bất đồng - Adjudication cho tập kiểm thử vàng Gold Test).

---

Thống kê bộ dữ liệu (Dataset Statistics)

Phân phối các tập dữ liệu (Split Statistics)

Chỉ số	Train	Validation	Test	Tổng
Số câu	2,396	298	299	2,993
Số thực thể	15,006	1,896	1,935	18,837
Avg thực thể/câu	6.26	6.36	6.47	6.29
Avg từ/câu	19.7	19.9	18.7	19.6

Lưu ý về số lượng mẫu thực tế trong file vật lý và số liệu thống kê:

• Các file dữ liệu vật lý .jsonl trong thư mục Final_Dataset/ chứa đầy đủ 2.997 mẫu (Train: 2.397, Dev: 300, Test: 300).
• Trong quá trình phân tích và trực quan hóa (EDA/LaTeX/Dashboard), việc áp dụng bộ lọc df.dropna() trên các trường thực thể đã loại bỏ 4 tiêu đề không chứa thực thể gán nhãn nào (Train: -1, Dev: -2, Test: -1). Do đó, số liệu thống kê thực tế được báo cáo trên 2.993 mẫu sạch để phản ánh đúng phân phối thực thể gán nhãn.

Phân phối theo Sàn & Ngành hàng (Platform & Industry Distribution)

Ngành	Lazada	Tiki	Tổng
Electronics & Tech	535	412	947 (31.6%)
Home & Living	145	629	774 (25.9%)
Fashion & Accessories	534	180	714 (23.9%)
Beauty & Health	420	138	558 (18.6%)
Tổng	1,634	1,359	2,993

Phân phối thực thể trong toàn bộ corpus (Entity Distribution)

Nhãn	Tần suất	%	Nhãn	Tần suất	%
PRODUCT_TYPE	4,267	22.65%	CONNECTIVITY	282	1.50%
ATTRIBUTE	1,997	10.60%	VOLUME_WEIGHT	274	1.45%
BRAND	1,772	9.41%	COLOR	238	1.26%
COMPAT	1,569	8.33%	INGREDIENT	151	0.80%
MODEL	1,424	7.56%	ORIGIN	140	0.74%
EFFECT	1,311	6.96%	CAPACITY	137	0.73%
STYLE	1,223	6.49%	POWER	96	0.51%
TARGET_GROUP	818	4.34%	BODY_PART	88	0.47%
MATERIAL	634	3.37%	CONCENTRATION	44	0.23%
SIZE	581	3.08%	SKIN_TYPE	32	0.17%
SPEC	562	2.98%
OCCASION	512	2.72%	TỔNG	18,837	100%
QUANTITY	351	1.86%
COMPONENT	334	1.77%

---

Cấu trúc dữ liệu (Dataset Structure)

Trường	Kiểu	Mô tả
id	string	ID duy nhất của mẫu (ví dụ: lazada_13241)
platform	string	Sàn thu thập: lazada hoặc tiki
industry_group	string	Nhóm ngành hàng (4 nhóm)
category_l3	string	Danh mục sản phẩm cấp 3
text	string	Tiêu đề sản phẩm gốc (đã làm sạch)
quality	string	Chất lượng annotation: clean
is_iaa_sample	bool	Mẫu có thuộc tập đo IAA nội bộ không
entities	list	Danh sách thực thể được gán nhãn
entities[].start_char	int	Vị trí ký tự bắt đầu (inclusive)
entities[].end_char	int	Vị trí ký tự kết thúc (exclusive)
entities[].label	string	Nhãn thực thể (24 loại)
entities[].text	string	Văn bản thực thể

---

Schema nhãn (Label Schema)

Bộ dữ liệu sử dụng hệ thống nhãn gồm 24 loại thực thể được chia thành hai nhóm: nhãn dùng chung cho tất cả các ngành hàng và nhãn chuyên biệt theo từng ngành hàng cụ thể.

Nhãn dùng chung (15 nhãn — tất cả ngành)

Nhãn	Mô tả	Ví dụ
PRODUCT_TYPE	Loại/tên sản phẩm	Tai nghe, Kem dưỡng da, Áo polo
BRAND	Tên thương hiệu	Samsung, Maybelline, Adidas
MODEL	Mã/tên dòng sản phẩm	Galaxy S24 Ultra, WH-1000XM5
ATTRIBUTE	Thuộc tính mô tả khác	chống ồn ANC, co giãn 4 chiều
STYLE	Phong cách thiết kế	vintage, minimalist, Hàn Quốc
EFFECT	Công dụng / tác dụng	Dưỡng trắng, Chống nắng SPF50
COLOR	Màu sắc	màu đen, xanh navy
SIZE	Kích thước vật lý	27 inch, Size L, 42mm
MATERIAL	Chất liệu cấu thành	da bò thật, nhôm nguyên khối
QUANTITY	Số lượng trong gói	Hộp 12 cái, Set 3 cây
ORIGIN	Xuất xứ / nguồn gốc	Nhật Bản, Made in Korea
COMPONENT	Linh kiện / phụ kiện kèm theo	Dây sạc USB-C, Tay cầm
COMPAT	Khả năng tương thích	cho iPhone 15, máy in Canon
OCCASION	Dịp / ngữ cảnh sử dụng	quà tặng sinh nhật, dã ngoại
TARGET_GROUP	Đối tượng mục tiêu	nam, bé gái, người cao tuổi

Nhãn chuyên biệt theo ngành (9 nhãn)

Nhãn	Ngành áp dụng	Mô tả	Ví dụ
SPEC	Electronics & Tech	Thông số kỹ thuật	256GB SSD, 4K UHD, IPS
CONNECTIVITY	Electronics & Tech	Phương thức kết nối	Bluetooth 5.2, WiFi 6, USB-C
CAPACITY	Home & Living	Dung tích chứa	2 lít, 500ml nước
POWER	Home & Living	Công suất điện	1500W, 220V
INGREDIENT	Beauty & Health	Thành phần hoạt chất	Niacinamide 5%, hương hoa nhài
SKIN_TYPE	Beauty & Health	Loại da / đặc điểm da	da dầu, da khô nhạy cảm
BODY_PART	Beauty & Health	Bộ phận cơ thể tác động	tóc, môi, mặt
VOLUME_WEIGHT	Beauty & Health	Thể tích / khối lượng sản phẩm	100ml, 50g, 3.5g
CONCENTRATION	Beauty & Health	Nồng độ / phân loại sản phẩm	EDP, SPF50+, PA++++

---

Hướng dẫn sử dụng (Usage)

Tải bộ dữ liệu bằng thư viện datasets

from datasets import load_dataset

ds = load_dataset("tnhyen/ViEcomNER")

# Truy cập các split
train = ds["train"]
val   = ds["validation"]
test  = ds["test"]

# Xem một mẫu
print(train[0])
# {
#   'id': 'lazada_13241',
#   'platform': 'lazada',
#   'industry_group': 'beauty & health',
#   'text': 'Má Hồng Kem Maybelline Căng Mọng Bền Màu 12H 4.7ml ...',
#   'entities': [
#     {'start_char': 0, 'end_char': 11, 'label': 'PRODUCT_TYPE', 'text': 'Má Hồng Kem'},
#     {'start_char': 12, 'end_char': 22, 'label': 'BRAND', 'text': 'Maybelline'},
#     ...
#   ]
# }

Chuyển sang định dạng BIO (BIO format)

Lưu ý quan trọng về tiền xử lý và chuyển đổi BIO:

• Hàm chuyển đổi BIO dưới đây được cung cấp nhằm mục đích minh họa và tham khảo trực quan cách ánh xạ từ định dạng span-based sang định dạng token-based (CoNLL/BIO) cơ bản dựa trên khoảng trắng.
• Đối với các mô hình dựa trên kiến trúc Transformer (ví dụ: PhoBERT), quy trình tiền xử lý thực tế cần thực hiện căn chỉnh trực tiếp các nhãn thực thể (entity spans) với các offset subword sinh ra từ tokenizer của mô hình (subword alignment) thay vì chỉ split theo khoảng trắng đơn thuần.
• Mã nguồn này không được xem là một pipeline tiền xử lý sẵn sàng cho môi trường sản phẩm (production-ready). Người dùng nên tùy chỉnh lại để phù hợp với cơ chế phân tách từ và mã hóa của từng mô hình cụ thể.

import re
from datasets import load_dataset

ds = load_dataset("tnhyen/ViEcomNER")

def to_bio(example):
    text = example["text"]
    entities = sorted(example["entities"], key=lambda x: x["start_char"])
    # Build char-level label array
    char_labels = ["O"] * len(text)
    for ent in entities:
        s, e, lbl = ent["start_char"], ent["end_char"], ent["label"]
        is_first = True
        for i in range(s, e):
            if text[i].isspace():
                continue
            char_labels[i] = f"B-{lbl}" if is_first else f"I-{lbl}"
            is_first = False
    # Tokenize (whitespace) and assign BIO tags
    tokens, tags = [], []
    for m in re.finditer(r'\S+', text):
        tok_labels = [l for l in char_labels[m.start():m.end()] if l != "O"]
        b_tags = [l for l in tok_labels if l.startswith("B-")]
        tag = b_tags[0] if b_tags else (tok_labels[0] if tok_labels else "O")
        tokens.append(m.group())
        tags.append(tag)
    return {"tokens": tokens, "ner_tags": tags}

bio_ds = ds.map(to_bio)

Thiết lập Fine-tuning với PhoBERT

from transformers import AutoTokenizer, AutoModelForTokenClassification
from datasets import load_dataset

ds = load_dataset("tnhyen/ViEcomNER")
tokenizer = AutoTokenizer.from_pretrained("vinai/phobert-base-v2")

LABELS = [
    "O",
    "B-PRODUCT_TYPE", "I-PRODUCT_TYPE",
    "B-BRAND", "I-BRAND",
    "B-MODEL", "I-MODEL",
    # ... (24 entity types × 2 + O = 49 tags)
]

model = AutoModelForTokenClassification.from_pretrained(
    "vinai/phobert-base-v2",
    num_labels=len(LABELS)
)

---

Thu thập và Gán nhãn (Data Collection & Annotation)

Thu thập & Tiền xử lý dữ liệu thô (Collection & Cleaning)

• Nguồn dữ liệu: Dữ liệu được crawl thực tế từ hai sàn thương mại điện tử phổ biến tại Việt Nam là Lazada.vn và Tiki.vn (năm 2025).
• Lọc dữ liệu thô: Tổng cộng 19,361 tiêu đề thô ban đầu được đưa qua pipeline làm sạch tự động gồm 9 bước (loại bỏ emoji, thực thể HTML, các ký tự đặc biệt gây nhiễu, chuẩn hóa khoảng trắng và loại bỏ các tiêu đề trùng lặp tuyệt đối).
• Lấy mẫu phân tầng (Stratified Sampling): Chọn lọc 2,993 tiêu đề cuối cùng dựa trên các tiêu chí phân bố đồng đều theo sàn thương mại, nhóm ngành hàng, độ dài văn bản (từ 3 đến 50 từ) và định dạng viết hoa/thường (casing profile).

Quy trình gán nhãn khoa học (Annotation Process)

Để xây dựng bộ dữ liệu đạt chuẩn nghiên cứu học thuật, quy trình gán nhãn được thiết kế chặt chẽ và phân tách như sau:

• Tập Huấn luyện (Train) & Phát triển (Validation): Được gán nhãn thông qua quy trình gán nhãn chính (main annotation workflow), trong đó dữ liệu được phân bổ và thực hiện bởi các kiểm định viên theo bộ quy chế hướng dẫn (Annotation Guideline) thống nhất.
• Tập Kiểm thử Vàng (Gold Test): Để thiết lập một tập kiểm thử có độ tin cậy tuyệt đối, tập này được thực hiện gán nhãn mù đôi độc lập (independent double-annotation) song song bởi hai kiểm định viên có chuyên môn.
• Phân giải bất đồng (Adjudication): Các điểm bất đồng về ranh giới thực thể hoặc nhãn phân loại giữa hai kiểm định viên trên tập Gold Test sẽ được chuyển tiếp và xử lý bởi trọng tài chuyên gia (adjudicator) để thống nhất kết quả cuối cùng.
• Tổng hợp dữ liệu: Bộ dữ liệu hoàn chỉnh là sự kết hợp của các phần dữ liệu đã được gán nhãn và tinh chỉnh sau quá trình adjudication, đảm bảo tính nhất quán khoa học trên toàn bộ corpus.
• Công cụ thực hiện: Sử dụng Label Studio làm nền tảng gán nhãn trực quan.
• Chu kỳ thử nghiệm (Pilot Rounds): Trải qua 3 vòng gán nhãn thử nghiệm (pilot rounds) nhằm liên tục hiệu chỉnh hệ thống nhãn (ontology) và tinh chỉnh bộ hướng dẫn (Annotation Guideline) chi tiết trước khi tiến hành gán nhãn chính thức.

---

Đảm bảo chất lượng (Quality Assurance)

Đánh giá độ tin cậy liên kiểm định viên (Inter-Annotator Agreement - IAA)

Độ tin cậy của guideline gán nhãn được đánh giá định lượng qua các vòng thử nghiệm (pilot rounds) và tập kiểm thử vàng cuối cùng bằng các hệ số F1-Score ranh giới và Cohen's Kappa ($\kappa$):

Vòng kiểm định	Exact Match F1	Boundary F1	Cohen's Kappa ($\kappa$)
Pilot Round 1	61.76%	68.54%	0.571
Pilot Round 2	53.76%	62.53%	0.531
Pilot Round 3	68.09%	73.70%	0.652
Gold Test Set	81.67%	86.84%	0.821

Hệ số Cohen's Kappa đạt 0.821 (ở mức Almost Perfect Agreement) trên tập Gold Test chứng minh tính nhất quán vượt trội của guideline gán nhãn và chất lượng dữ liệu đạt chuẩn khoa học.

Xử lý bất đồng và Sửa lỗi tự động (Adjudication & Error Correction)

• Giải quyết bất đồng: Tất cả các trường hợp gán nhãn khác biệt trên 300 mẫu Gold Test đã được phân giải thủ công từng trường hợp bởi trọng tài chuyên gia (arbitrator) có chuyên môn NLP cao nhất.
• Loại bỏ trùng lặp (Deduplication): Sử dụng hash-map để rà soát toàn bộ tập dữ liệu, loại bỏ triệt để 372 bản ghi trùng lặp nội dung theo nguyên tắc giữ lại bản ghi xuất hiện trước (first-come-first-serve).
• Xử lý chồng lấn (Overlap Correction): Viết script tự động phát hiện và tiến hành sửa thủ công 37 cặp thực thể bị chồng lấn ranh giới ký tự (chiếm 0.93% số câu). Kết quả cuối cùng đảm bảo không còn thực thể nào bị trùng lặp ranh giới (0 overlap).

---

Thử thách trong bộ dữ liệu (Known Challenges)

Việc nhận dạng thực thể tên trong tiêu đề sản phẩm thương mại điện tử tiếng Việt mang lại nhiều thử thách đặc thù cho các mô hình học máy:

1. Sự mất cân bằng lớp nghiêm trọng (Severe Class Imbalance): Có sự phân hóa lớn giữa các thực thể phổ biến như PRODUCT_TYPE (4,267 thực thể) và các nhãn chuyên biệt như SKIN_TYPE (chỉ 32 thực thể). Tỷ lệ chênh lệch lên đến gần 133:1 đòi hỏi các chiến lược xử lý mất cân bằng lớp (như weighted loss, data augmentation) khi huấn luyện mô hình.
2. Hiện tượng trộn lẫn ngôn ngữ (Vietnamese-English Code-mixing): Tiêu đề sản phẩm thương mại điện tử thường xuyên pha trộn giữa tiếng Việt và tiếng Anh (ví dụ: tên tính năng, màu sắc, thuộc tính sản phẩm). Việc này thử thách khả năng thích ứng ngôn ngữ của các mô hình pre-trained monolingual.
3. Mật độ thực thể cao (High Entity Density): Trung bình mỗi tiêu đề sản phẩm chứa khoảng 6.29 thực thể trên độ dài trung bình 19.6 từ. Mật độ nhãn dày đặc này yêu cầu mô hình phải nắm bắt ngữ cảnh cực kỳ tốt để phân định chính xác ranh giới của các thực thể đứng liền kề nhau.
4. Viết tắt và các thông số kỹ thuật (Abbreviations & Technical Specifications): Sự xuất hiện dày đặc của các chữ viết tắt đặc thù ngành hàng, số hiệu model (MODEL), cùng các thông số kỹ thuật dạng số kèm đơn vị đo (SPEC, CONNECTIVITY, VOLUME_WEIGHT) dễ gây nhầm lẫn về ranh giới thực thể cho các bộ phân tách từ (tokenizers).
5. Ngôn ngữ đặc thù miền thương mại điện tử (Domain-Specific Language): Tiêu đề sản phẩm thường thiếu cấu trúc ngữ pháp chuẩn của câu văn thông thường, chủ yếu là các cụm danh từ liệt kê, từ khóa SEO tối ưu tìm kiếm, từ lóng bán hàng, và các thuộc tính hỗn hợp.

---

Đánh giá hiệu năng & Benchmark (Benchmark Status)

• Trọng tâm phiên bản v1.0: Phiên bản đầu tiên (v1.0) của ViEcomNER tập trung hoàn toàn vào việc thiết lập quy trình xây dựng dữ liệu chuẩn hóa, tối ưu hóa thiết kế ontology nhãn thực thể và bảo đảm chất lượng gán nhãn đạt độ tin cậy cao nhất. Do đó, các kết quả benchmark chính thức từ mô hình chưa được tích hợp trong bản phát hành này.
• Kế hoạch phát triển tương lai: Trong các phiên bản cập nhật tiếp theo, chúng tôi dự kiến sẽ công bố các kết quả thực nghiệm benchmark chi tiết sử dụng các kiến trúc học máy và học sâu phổ biến cho bài toán NER tiếng Việt như PhoBERT, XLM-R, và các mô hình lai BiLSTM-CRF.
• Lời kêu gọi nghiên cứu: Chúng tôi khuyến khích cộng đồng nghiên cứu xử lý ngôn ngữ tự nhiên (NLP) sử dụng các phân hoạch dữ liệu đã được chia sẵn (Train, Validation, và Test) để huấn luyện, đánh giá và báo cáo hiệu năng của các mô hình NER nhằm tạo ra các đường cơ sở (baselines) khách quan cho miền thương mại điện tử Việt Nam.

---

Trích dẫn (Citation)

Nếu sử dụng bộ dữ liệu này trong nghiên cứu, vui lòng trích dẫn:

@dataset{viecomner2026,
  title     = {ViEcomNER: A Vietnamese Named Entity Recognition Dataset for E-Commerce Product Titles},
  author    = {Do, Hoang Yen and Tran, Nguyen Hoang Yen and Nguyen, Thi Hai Yen},
  year      = {2026},
  publisher = {HuggingFace Datasets},
  url       = {https://huggingface.co/datasets/tnhyen/ViEcomNER},
  note      = {DS108 Capstone Project, University of Information Technology (UIT)}
}

---

Giấy phép (License)

Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International (CC BY-NC-SA 4.0)

Bộ dữ liệu được phép sử dụng cho mục đích nghiên cứu học thuật và phi thương mại. Mọi sử dụng thương mại cần liên hệ tác giả.

---

Phiên bản: v1.0 — Tháng 6/2026
Nhóm tác giả: Đỗ Hoàng Yến, Trần Nguyễn Hoàng Yến, Nguyễn Thị Hải Yến — UIT DS108