README.md

metadata

dataset_info:
  - config_name: filter-by-ppl-and-length
    features:
      - name: id
        dtype: string
      - name: revid
        dtype: string
      - name: url
        dtype: string
      - name: title
        dtype: string
      - name: text
        dtype: string
      - name: ppl
        dtype: float64
    splits:
      - name: train
        num_bytes: 69827402
        num_examples: 28269
    download_size: 123289384
    dataset_size: 69827402
  - config_name: filtered-by-rule
    features:
      - name: id
        dtype: string
      - name: revid
        dtype: string
      - name: url
        dtype: string
      - name: title
        dtype: string
      - name: text
        dtype: string
      - name: ppl
        dtype: float64
    splits:
      - name: train
        num_bytes: 480065023.4760376
        num_examples: 459402
    download_size: 555208649
    dataset_size: 480065023.4760376
  - config_name: mix-wikihow-wikipedia
    features:
      - name: text
        dtype: string
    splits:
      - name: train
        num_bytes: 2091623947
        num_examples: 549399
    download_size: 997843165
    dataset_size: 2091623947
  - config_name: ppl
    features:
      - name: id
        dtype: string
      - name: revid
        dtype: string
      - name: url
        dtype: string
      - name: title
        dtype: string
      - name: text
        dtype: string
      - name: ppl
        dtype: float64
    splits:
      - name: train
        num_bytes: 1352753394
        num_examples: 1294528
    download_size: 602025839
    dataset_size: 1352753394
  - config_name: sample
    features:
      - name: id
        dtype: string
      - name: revid
        dtype: string
      - name: url
        dtype: string
      - name: title
        dtype: string
      - name: text
        dtype: string
      - name: ppl
        dtype: float64
    splits:
      - name: train
        num_bytes: 181588953
        num_examples: 20000
    download_size: 91143497
    dataset_size: 181588953
  - config_name: tokenized_sample
    features:
      - name: input_ids
        list: int32
    splits:
      - name: train
        num_bytes: 165928500
        num_examples: 10125
    download_size: 67984707
    dataset_size: 165928500
  - config_name: wiki-wikihow-vtv
    features:
      - name: text
        dtype: string
    splits:
      - name: train
        num_bytes: 2578683736
        num_examples: 675647
    download_size: 1282890988
    dataset_size: 2578683736
  - config_name: wikihow
    features:
      - name: url
        dtype: string
      - name: title
        dtype: string
      - name: text
        dtype: string
      - name: metadata
        struct:
          - name: is_expert
            dtype: bool
          - name: last_updated
            dtype: 'null'
          - name: num_votes
            dtype: 'null'
          - name: percent_helpful
            dtype: 'null'
          - name: tips
            list: 'null'
          - name: views
            dtype: 'null'
    splits:
      - name: train
        num_bytes: 1011384393
        num_examples: 89997
    download_size: 464040715
    dataset_size: 1011384393
configs:
  - config_name: filter-by-ppl-and-length
    data_files:
      - split: train
        path: filter-by-ppl-and-length/train-*
  - config_name: filtered-by-rule
    data_files:
      - split: train
        path: filtered-by-rule/train-*
  - config_name: mix-wikihow-wikipedia
    data_files:
      - split: train
        path: mix-wikihow-wikipedia/train-*
  - config_name: ppl
    data_files:
      - split: train
        path: ppl/train-*
  - config_name: sample
    data_files:
      - split: train
        path: sample/train-*
  - config_name: tokenized_sample
    data_files:
      - split: train
        path: tokenized_sample/train-*
  - config_name: wiki-wikihow-vtv
    data_files:
      - split: train
        path: wiki-wikihow-vtv/train-*
  - config_name: wikihow
    data_files:
      - split: train
        path: wikihow/train-*

Wikipedia Dataset (Tiếng Việt)

📖 Giới thiệu

Bộ dữ liệu này được tải từ Wikipedia tiếng Việt, nhằm phục vụ cho các bài toán xử lý ngôn ngữ tự nhiên (NLP) như:

• Huấn luyện mô hình ngôn ngữ (Language Model).
• Tiền xử lý cho bài toán dịch máy (Machine Translation).
• Nghiên cứu về ngôn ngữ tiếng Việt.

Mô tả data

• id: định danh của bài viết
• revid: revision ID của Wikipedia
• url: đường dẫn trực tiếp đến bài viết
• title: tiêu đề bài viết
• text: nội dung văn bản trích xuất
• ppl: perplexity (chỉ số đánh giá chất lượng mô hình ngôn ngữ trên văn bản đó)

📂 Cấu trúc dữ liệu

• viwiki-latest-pages-articles.xml.bz2 – dump gốc từ Wikipedia.
• wiki_text.txt – văn bản thô đã được tách từ XML (nếu bạn đã xử lý).
• tokenized.txt – dữ liệu đã được tokenization (nếu có).
• vi.sp.model – mô hình SentencePiece dùng để tokenize dữ liệu (nếu có).
• vi.arpa.bin – mô hình ngôn ngữ KenLM đã huấn luyện (nếu có).

⚙️ Nguồn dữ liệu

• Tải trực tiếp từ Wikimedia Dumps (https://dumps.wikimedia.org/)
• Phiên bản: viwiki-YYYYMMDD (hãy thay bằng ngày bạn tải)
• Ngôn ngữ: Tiếng Việt

📏 Thống kê (ví dụ mẫu)

• Số bài viết: ~X triệu.
• Số câu: ~Y triệu.
• Số token: ~Z triệu.