nxvay/wikipedia-id-splits

Dataset: Wikipedia Indonesian (Partial Splits)

Motivasi

Mengembangkan dan mempersiapkan dataset ini untuk fine-tuning bukanlah hal yang mudah, terutama dengan keterbatasan resource yang saya alami. Meski saya sudah berlangganan Colab Pro+ yang menjanjikan akses ke GPU berperforma tinggi (seperti A100 atau H100) dan resource lebih besar, ada beberapa tantangan signifikan yang muncul:

• Pembatasan Disk Space Colab VM: Saya sering menghadapi masalah "No space left on device" pada disk lokal Colab VM. Ini terjadi bahkan saat saya sudah mengelola file checkpoint dan cache Google Drive dengan sangat cermat.
• Keterbatasan Ruang Google Drive yang Terhubung: Saya memiliki akun Google Drive unlimited terpisah, namun sayangnya tidak bisa memanfaatkan ruang Drive tersebut secara langsung dengan akun Google Colab yang saya gunakan untuk pelatihan. Hal ini berarti saya terikat pada batas penyimpanan Google Drive standar yang terhubung dengan akun Colab utama saya, sangat membatasi kapasitas untuk menyimpan checkpoint besar atau data mentah secara aman.
• Masalah Sinkronisasi Google Drive: Terkadang, terjadi korupsi cache Google Drive File Stream atau masalah sinkronisasi yang menyebabkan file checkpoint yang sudah saya simpan menghilang secara misterius, atau terlihat kosong di VM. Ini terjadi meskipun file-nya mungkin masih ada di cloud. Kondisi ini berujung pada hilangnya progres pelatihan berjam-jam dan keharusan mengulang proses dari awal.
• Keterbatasan Sesi: Meskipun Colab Pro+ menyediakan sesi yang lebih panjang, batasan waktu tetap ada. Jika tidak diantisipasi dengan checkpointing yang andal, sesi pelatihan yang terputus bisa sangat merugikan.

Pengalaman ini mendorong saya untuk mengadopsi pendekatan "multipart" untuk dataset ini dan menekankan pentingnya manajemen resource yang ketat serta strategi checkpointing yang robust. Semoga dengan membagi dataset ini, pengguna lain bisa lebih mudah mengelola resource mereka saat fine-tuning model mereka sendiri.

---

Deskripsi Dataset

Dataset ini berisi bagian-bagian (splits) dari korpus Wikipedia berbahasa Indonesia, yang diekstrak pada tanggal 1 November 2023. Dataset asli dimuat dari koleksi wikimedia/wikipedia di Hugging Face Hub. Korpus asli Wikipedia adalah dataset yang sangat besar. Untuk memudahkan penggunaan dan pengelolaan, terutama untuk tujuan fine-tuning model bahasa atau eksperimen pada sebagian data, dataset ini telah dipecah menjadi 14 parts yang lebih kecil. Setiap bagian berisi blok teks yang berurutan dari data Wikipedia Indonesia asli.

---

Struktur Dataset

Dataset ini distrukturkan menjadi beberapa individual split, di mana setiap split merepresentasikan segmen data dari korpus Wikipedia asli.

• Total Part: 14
• Nama: Part001, Part002, ..., Part014
• Format: Apache Arrow atau Parquet

---

Kolom

Setiap split dalam dataset ini memiliki struktur kolom yang sama dengan dataset Wikipedia asli:

• id: (string) ID unik dari artikel Wikipedia.
• url: (string) URL artikel Wikipedia.
• title: (string) Judul artikel Wikipedia.
• text: (string) Konten teks lengkap dari artikel Wikipedia.

---

Cara Menggunakan Dataset

Anda dapat memuat dataset ini menggunakan library datasets dari Hugging Face. Anda bisa memuat seluruh dataset atau hanya split tertentu.

Memuat Seluruh Dataset

Untuk memuat semua split sebagai satu dataset tunggal (akan memakan memori jika digabungkan sepenuhnya), Anda bisa melakukan ini:

from datasets import load_dataset

dataset = load_dataset("nxvay/wikipedia-id-splits")
print(dataset)

# Output
DatasetDict({
    train: Dataset({
        features: ['id', 'url', 'title', 'text'],
        num_rows: 250000
    })
})

Memuat Split Tertentu

Jika Anda hanya ingin memuat split tertentu (misalnya, Part002), Anda bisa menentukannya:

from datasets import load_dataset

dataset_002 = load_dataset("nxvay/wikipedia-id-splits", "Part002", split="train")
dataset_002[0]

# Output
{'id': '156840',
 'url': 'https://id.wikipedia.org/wiki/Penyarang%2C%20Sidareja%2C%20Cilacap',
 'title': 'Penyarang, Sidareja, Cilacap',
 'text': 'Penyarang adalah desa di kecamatan Sidareja, Cilacap, Jawa Tengah, Indonesia.'}

Mengakses Data

Setelah dimuat, Anda bisa mengakses data seperti dataset Hugging Face pada umumnya:

example = part_001_dataset[0]

print(f"Judul Artikel: {example['title']}")
print(f"Isi Teks: {example['text'][:500]}...") # Cetak 500 karakter pertama

# Outpu
Judul Artikel: Penyarang, Sidareja, Cilacap
Isi Teks: Penyarang adalah desa di kecamatan Sidareja, Cilacap, Jawa Tengah, Indonesia....

---

Sumber Data

Dataset ini berasal dari:

• Nama Dataset Asli: wikimedia/wikipedia
• Konfigurasi (Bahasa & Tanggal): 20231101.id (Wikipedia bahasa Indonesia, snapshot 1 November 2023)

Data ini kemudian diolah dan dipecah menjadi bagian-bagian yang lebih kecil seperti yang dijelaskan di atas.

---

Catatan

Dataset ini ideal untuk eksperimen awal, fine-tuning model pada sub-bagian data, atau jika Anda memiliki sumber daya komputasi yang terbatas dan tidak memerlukan seluruh korpus Wikipedia. Karena ini adalah data Wikipedia, kontennya mungkin bervariasi dan mencakup berbagai topik, gaya penulisan, dan potensi bias yang ada dalam sumber aslinya.