Datasets:

vickyfatrian
/

vqfat-indo-corpus

prompt stringlengths 24 3.14k	text stringlengths 15 592	token_lenght int64 8 449	audience stringclasses 1 value	format stringclasses 1 value	seed_data stringclasses 1 value	lang stringclasses 1 value
Eh, tau gak sih peristiwa kelahiran, penerangan agung, dan kematian sidharta gautama terjadi pada tanggal yang sama, yakni bulan purnama di bulan mei. ketiga peristiwa tersebut dirayakan umat buddha sebagai hari raya?	Ya, benar waisak lah.	36	SMA	tanya_jawab	Bospedia	id
Coba deh, apa umat hindu memuja tiga dewa yang disebut trimurti. dewa pencipta alam semesta adalah?	Nah, itu brahma lah.	20	SMA	tanya_jawab	Bospedia	id
Tau gak kalau dalam agama hindu terdapat penggolongan yang disebut kasta. para bangsawan dan prajurit termasuk dalam kasta?	Nah, itu kesatria lah.	22	SMA	tanya_jawab	Bospedia	id
Coba deh, apa untuk dapat masuk surge umat buddha harus menjalankan delapan jalan kebenaran yang disebut?	Ya, benar astavidya lah.	20	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau kitab suci umat buddha adalah tripitaka. kitab suci yang berisi penjelasan dan kupasan mengenai soal keagamaan adalah?	Pokoknya abhidarma pitaka lah.	24	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau dalam mencapai nirwana umat buddha wajib berusaha sendiri-sendiri adalah ajaran buddha aliran?	Nah, itu hinayana lah.	19	SMA	tanya_jawab	Bospedia	id
Coba deh, apa teori yang mengatakan bahwa ajaran hindu disebarkan oleh kaum brahmana dikemukakan oleh?	Nah, itu van leur lah.	20	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau penyebaran agama hindu ke indonesia dilakukan oleh para pedagang adalah teori?	Ya, benar waisya lah.	18	SMA	tanya_jawab	Bospedia	id
Coba deh, apa konsep primus inter pares digantikan dengan konsep turun-temurun dengan masuknya hindu dan buddha dalam bidang?	Jadi, jawabannya pemerintahan lah.	22	SMA	tanya_jawab	Bospedia	id
Coba deh, apa sebutkan untuk pendeta buddha adalah?	Nah, itu biksu lah.	12	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih dalam ajaran hindu dewa pencipta adalah?	Nah, itu brahma lah.	14	SMA	tanya_jawab	Bospedia	id
Coba deh, apa bagian dari weda yang berisi doa untuk mengantar sesaji para dewa adalah?	Nah, itu yajurweda lah.	19	SMA	tanya_jawab	Bospedia	id
Coba deh, apa di dalam kerajaan hindu seseorang yang telah tercemar dan karenanya dikeluarkan dari kasta dapat diterima kembali ke dalam kastanya setelah melalui upacara penyucian diri yang disebut?	Jadi, jawabannya vratyastoma lah.	33	SMA	tanya_jawab	Bospedia	id
Tau gak kalau upacara penobatan raja dengan cara hindu disebut?	Ya, benar abisheka lah.	14	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau weda sebagai kitab suci agama hindu terdiri atas?	Ya, benar 4 bagian lah.	16	SMA	tanya_jawab	Bospedia	id
Tau gak kalau pusat agama buddha di sumatra ada di kerajaan?	Nah, itu sriwijaya lah.	15	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih candi borobudur merupakan peninggalan dinasti …	Nah, itu syailendra lah.	14	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau peninggalan hindu dan buddha salah satunya berupa kitab. kitab arjunawiwaha karya?	Ya, benar empu kanwa lah.	19	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau tragedi perang bubat antara pajajaran dengan majapahit terjadi pada masa pemerintahan?	Ya, benar hayam wuruk lah.	19	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau bersatunya dinasti sanjaya dengan dinasti syailendra terjadi setelah.…	Jadi, jawabannya perkawinan politik rakai pikatan dengan pramodhawardani lah.	20	SMA	tanya_jawab	Bospedia	id
Tau gak kalau sebagian besar candi di jawa timur menggunakan bahan dasar?	Ya, benar batu bata lah.	17	SMA	tanya_jawab	Bospedia	id
Coba deh, apa sebelum masuknya hindu dan buddha, kepercayaan masyarakat indonesia adalah?	Ya, benar animisme dan dinamisme lah.	18	SMA	tanya_jawab	Bospedia	id
Tau gak kalau kitab negarakeertagama ditulis pada masa pemerintahan hayam wuruk oleh?	Nah, itu empu prapanca lah.	17	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau raja singasari yang mengirim ekspedisi paramalayu adalah?	Pokoknya kertanegara lah.	13	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih kerajaan kutai mecapai puncak kejayaan pada masa?	Jadi, jawabannya mulawarman lah.	15	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih kitab yang disebut juga dengan desawarnana adalah.…	Nah, itu negarakertagama lah.	15	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau raja kediri yang terkenal dengan ramalannya adalah.…	Nah, itu jayabaya lah.	14	SMA	tanya_jawab	Bospedia	id
Coba deh, apa pendeta cina yang tinggal lama di sriwijaya adalah.…	Jadi, jawabannya i tsing lah.	16	SMA	tanya_jawab	Bospedia	id
Coba deh, apa pendiri wangsa isyana adalah?	Jadi, jawabannya empu sindok lah.	12	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih pendeta kalingga yang membantu pendeta cina huining dalam menerjemahkan kitab suci agama buddha dari bahasa sanskerta ke bahasa cina adalah?	Nah, itu jnanabadra lah.	28	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih bukti awal masuknya islam di jawa adalah ditemukannya makam...	Ya, benar fatimah binti maimun lah.	19	SMA	tanya_jawab	Bospedia	id
Coba deh, apa penyebaran islam di indonesia salah satunya melalui jalur?	Ya, benar perdagangan lah.	15	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau para pedagang arab menyebut zabag, zabay, atau sribusa untuk kerajaan?	Nah, itu sriwijaya lah.	17	SMA	tanya_jawab	Bospedia	id
Tau gak kalau berdasarkan batu nisan kuno yang ditemukan di indonesia diperkirakan agama islam dibawa masuk oleh pedagang dari?	Jadi, jawabannya gujarat lah.	23	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih salah satu wali lokal yang makamnya terdapat di bayat klaten adalah...	Ya, benar sunan tembayat lah.	20	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau tokoh yang berpendapat bahwa islam di indonesia berasal dari persia adalah?	Pokoknya husein djajadiningrat lah.	18	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau wayang kulit digunakan oleh wali untuk menyebarkan islam dilakukan oleh?	Ya, benar sunan kalijaga lah.	18	SMA	tanya_jawab	Bospedia	id
Tau gak kalau pada abad ke-7 m sudah ada permukiman orang arab di barus menurut catatan.?	Ya, benar dinasti tang lah.	21	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih menurut catatan perjalanan marcopolo pada 1292, ia bertemu dengan orang-orang islam di perlak, aceh. marcopolo berasal dari?	Ya, benar italia lah.	25	SMA	tanya_jawab	Bospedia	id
Tau gak kalau berikut adalah ilmuwan yang berpendapat bahwa islam di indonesia disebarkan oleh para pedagang dari gujarat, kecuali?	Nah, itu de baros lah.	24	SMA	tanya_jawab	Bospedia	id
Coba deh, apa makam muslim yang ada di kerajaan majapahit terdapat di?	Nah, itu trowulan dan tralaya lah.	18	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih dalam mmebaca huruf arab ada bentuk jabar, jeer, pengaruh dari?	Ya, benar persia lah.	18	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih tokoh tasawuf berikut yang berasal dari kalangan walisanga adalah?	Nah, itu sunan bonang lah.	18	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau dalam melakukan penyebaran agama islam di indonesia, banyak cara yang dilakukan, salah satunya adalah perkawinan. proses islamisasi yang dilakukan melalui perkawinan dengan putri tumenggung wilatika, yaitu nyai gede manila adalah?	Pokoknya sunan ampel lah.	37	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih pesantren milik seorang wali yang sangat terkenal di maluku terutama di daerah hitu adalah?	Ya, benar pesantren sunan giri lah.	24	SMA	tanya_jawab	Bospedia	id
Tau gak kalau penyerangan batavia pada tahun 1628 dan 1629 diadakan pada masa?	Nah, itu sultan agung lah.	18	SMA	tanya_jawab	Bospedia	id
Coba deh, apa kesulatanan berikut yang ada di kalimantan timur adalah?	Nah, itu kutai kertanegara lah.	16	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih julukan ayam jantan dari timur diberikan kepada?	Pokoknya sultan hasanudin lah.	15	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau berikut yang bukan karya sultan agung adalah?	Jadi, jawabannya babad mataram lah.	15	SMA	tanya_jawab	Bospedia	id
Tau gak kalau pulau berikut ini yang mendapat julukan spicy island adalah?	Pokoknya maluku lah.	15	SMA	tanya_jawab	Bospedia	id
Tau gak kalau kerajaan islam pertama di pulau jawa adalah?	Ya, benar demak lah.	14	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau seorang ratu/sultanah yang pernah memerintah di kerajaan aceh?	Ya, benar taj al-alam lah.	16	SMA	tanya_jawab	Bospedia	id
Tau gak kalau salah seorang laksamana sebagai panglima armada inong bale di aceh adalah?	Pokoknya kemalahayati lah.	17	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau demak pernah menyerang portugis di malaka pada 1513 yang dipimpin oleh?	Jadi, jawabannya pati unus lah.	19	SMA	tanya_jawab	Bospedia	id
Tau gak kalau malaka jatuh ke tangan portugis pada tahun?	Jadi, jawabannya 1511 lah.	14	SMA	tanya_jawab	Bospedia	id
Tau gak kalau pembagian kerajaan mataram menjadi dua pada tahun 1755 berdasarkan?	Pokoknya perjanjian giyanti lah.	16	SMA	tanya_jawab	Bospedia	id
Coba deh, apa makam raja-raja mataram islam terdapat di.?	Pokoknya iimogiri lah.	12	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih ekspedisi demak berhasil menguasai sunda kelapa pada tahun 1527 dipimpin oleh?	Nah, itu fatahillah lah.	19	SMA	tanya_jawab	Bospedia	id
Coba deh, apa tradisi panjang jimat yang dilakukan bertepatan dengan perayaan maulud nabi di darah?	Nah, itu cirebon lah.	19	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau dalam memperingati hari ashura (10 muharram) masyarakat pariaman di sumatra barat mengadakan?	Pokoknya tabuik lah.	18	SMA	tanya_jawab	Bospedia	id
Tau gak kalau kata sejarah diambil dari kata syajarotun, berasal dari bahasa?	Jadi, jawabannya arab lah.	16	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau sumber yang dikisahkan oleh pelaku sejarah disebut sumber?	Ya, benar primer lah.	15	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau sejarah adalah suatu ilmu tersendiri dan tergolong dalam ilmu-ilmu sosial. pernyataan ini dikemukakan oleh?	Nah, itu gottschalk lah.	21	SMA	tanya_jawab	Bospedia	id
Tau gak kalau sejarah sebagai ilmu karena memiliki ciri-ciri berikut, kecuali?	Pokoknya subjektif lah.	14	SMA	tanya_jawab	Bospedia	id
Coba deh, apa hubungan sebab akibat antara peristiwa satu dengan peristiwa lain dalam sejarah disebut?	Jadi, jawabannya kausalitas lah.	19	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau berikut ini yang bukan contoh historiografi tradisional, adalah?	Nah, itu sejarah nasional indonesia lah.	17	SMA	tanya_jawab	Bospedia	id
Tau gak kalau tahapan awal dari metode sejarah adalah?	Pokoknya heuristik lah.	12	SMA	tanya_jawab	Bospedia	id
Tau gak kalau kegiatan menafsirkan sebuah peristiwa sejarah disebut.... sejarah	Ya, benar interpretasi lah.	14	SMA	tanya_jawab	Bospedia	id
Coba deh, apa dimensi spasial dalam sejarah disebut dimensi?	Jadi, jawabannya ruang lah.	13	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih unsur sejarah yang berhubungan dengan aspek geografis adalah?	Jadi, jawabannya ruang lah.	16	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau kritik di dalam sejarah, terbagi dua, yaitu?	Pokoknya intern dan ekstern lah.	15	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau sumber sejarah berupa prasasti termasuk dalam sumber?	Jadi, jawabannya tertulis lah.	14	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih historiografi terbentuk dari kata yunani, yaitu historia dan grafien, grafien artinya?	Pokoknya tulisan lah.	18	SMA	tanya_jawab	Bospedia	id
Tau gak kalau berikut ini pembagian waktu dalam sejarah, kecuali.?	Nah, itu alur lah.	14	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau dalam sejarah yang dapat terjadi berulang kali adalah?	Nah, itu pola lah.	15	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih filsuf romawi yang mengatakan bahwa “sejarah adalah guru kehidupan” ialah?	Ya, benar cicero lah.	18	SMA	tanya_jawab	Bospedia	id
Tau gak kalau secara praktis, kata sejarah sering dipahami dalam empat pengertian ruang lingkup, yaitu sebagai?	Pokoknya peristiwa, kisah, ilmu dan seni lah.	23	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih perhatika informasi berikut: 1) penafsiran ilmu sejarah bersifat objektif dalam arti dapat dibuktikan kebenarannya. 2) sejarah menceritakan peristiwa yang benar-benar terjadi 3) sejarah menceritakan peristiwa-peristiwa masa lampau 4) sejarah bertujuan memberi legitimasi kekuasaan kepada para pejabat 5) semua peristiwa sejarah dapat menjadi panutan serta pedoman bagi pembacanya. berdasarkan informasi tersebut, ciri-ciri sejarah sebagai ilmu adalah?	Jadi, jawabannya 1), 2), dan 3) lah.	66	SMA	tanya_jawab	Bospedia	id
Coba deh, apa membaca buku sejarah, melihat berbagai peninggalan sejarah yang unik dan menarik dapat menggugah rasa estetika, kekaguman, dan keanehan terhadap kemampuan manusia masa lampau beserta peradabannya. sehubungan dengan itu sejarah memiliki nilai?	Ya, benar rekreatif lah.	38	SMA	tanya_jawab	Bospedia	id
Tau gak kalau sebagai sebuah sumber sejarah, tradisi lisan memiliki fungsi penting bagi masyarakat, kecuali?	Pokoknya melukiskan kondisi fakta mental masyarakat lah.	22	SMA	tanya_jawab	Bospedia	id
Tau gak kalau penulisan sejarah tradisional menekankan pada konsep?	Pokoknya loyalitas pada raja lah.	14	SMA	tanya_jawab	Bospedia	id
Tau gak kalau berikut ini yang merupakan ciri historiografi tradisional adalah?	Pokoknya istanasentris, religi-magis lah.	15	SMA	tanya_jawab	Bospedia	id
Coba deh, apa perlawanan terhadap penguasa asing dianggap sebagai pemberontakan. hal ini terjadi pada penulisan sejarah masa?	Pokoknya kolonial lah.	20	SMA	tanya_jawab	Bospedia	id
Coba deh, apa di dalam sejarah apa yang terjadi pada saat ini tidak terlepas dari apa yang terjadi sebelumnya. hal ini menunjukkan bahwa di dalam sejarah ada proses?	Ya, benar kontinuitas lah.	32	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih kegiatan menilai keaslian dan keabsahan suatu sumber sejarah dinamakan?	Nah, itu verifikasi lah.	17	SMA	tanya_jawab	Bospedia	id
Coba deh, apa seorang sejarawan menguji kesesuaian tanggal pembuatan dokumen dengan isi dokumen. hal ini dilakukan untuk melihat?	Jadi, jawabannya autentisitas sumber lah.	23	SMA	tanya_jawab	Bospedia	id
Tau gak kalau penulisan sejarah yang menitikberatkan nasionalisme terjadi pada masa?	Jadi, jawabannya revolusi lah.	15	SMA	tanya_jawab	Bospedia	id
Tau gak kalau buku max havelar adalah buku yang berisi tentang kritik tentang adanya sistem tanam paksa di indonesia. buku ini dikarang oleh….	Pokoknya douwes dekker lah.	27	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau semangat gospel adalah semangat bangsa barat menduduki indonesia adalah untuk….	Nah, itu menyebarkan agama nasrani lah.	19	SMA	tanya_jawab	Bospedia	id
Coba deh, apa perlawanan kerajaan demak dalam menghadapi portugis dipimpin oleh….	Ya, benar adipati unus lah.	16	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih pada akhirnya sistem tanam paksa dihapuskan, karena….	Pokoknya adanya kritikan dan reaksi dari kaum liberalis di negeri belanda lah.	23	SMA	tanya_jawab	Bospedia	id
Eh, tau gak sih di bawah ini yang merupakan dampak positif diterapkannya sistem tanam paksa adalah….	Pokoknya rakyat indonesia mengenal jenis tanaman kualitas ekspor lah.	25	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau pemimpin perlawanan rakyat bali terhadap belanda adalah….	Jadi, jawabannya i gusti ktut jelantik lah.	17	SMA	tanya_jawab	Bospedia	id
Tau gak kalau budi utomo merupakan organisasi yang dijadikan tanggal lahirnya kebangkitan nasional, karena….	Jadi, jawabannya menggunakan organisasi modern dalam melawan penjajah lah.	23	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau pangeran diponegoro diasingkan ke manado oleh voc dan akhirnya meninggal pada tanggal….	Pokoknya 8 januari 1855 lah.	20	SMA	tanya_jawab	Bospedia	id
Coba deh, apa tokoh yang mengusulkan didirikannya kongsi dagang voc adalah….	Pokoknya johan van olden barnevelt lah.	17	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau menurut teori ksatria, agama hindu dibawa ke indonesia oleh kaum…..	Jadi, jawabannya ksatria lah.	17	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau berikut empat fase perkembangan agama hindu di india, kecuali….	Pokoknya zaman sudra lah.	16	SMA	tanya_jawab	Bospedia	id
Nah, gimana kalau teori brahamana diprakarsai oleh….	Nah, itu van leur lah.	12	SMA	tanya_jawab	Bospedia	id
Coba deh, apa agama hindu muncul di indonesia pada tahun …. sm.	Ya, benar ± 1500 lah.	17	SMA	tanya_jawab	Bospedia	id

End of preview. Expand in Data Studio

VQFat Indonesian Corpus - Complete SLM Training Data

Author: Vicky Fatrian
License: C-UDA (Computational Use of Data Agreement)
Version: 1.1
Date: March 6, 2026

Dataset Description

VQFat Indonesian Corpus adalah koleksi dataset komprehensif berbahasa Indonesia yang dirancang khusus untuk membangun dan melatih Small Language Models (SLM) dari nol (from scratch). Dataset ini menyediakan dua pilar utama dalam pelatihan model bahasa: Pre-training Corpus (untuk pengetahuan umum) dan Instruction Tuning Dataset (untuk kemampuan mengikuti instruksi dan gaya bahasa).

Dataset Subsets

Repositori ini terbagi menjadi dua subset independen yang saling melengkapi:

cosmopedia_id: Dataset teks sintetis skala besar (582 MB) berbahasa Indonesia, diadaptasi dari konsep Cosmopedia. Dirancang sebagai fondasi utama (pre-training) untuk menanamkan struktur tata bahasa, kosakata, dan pengetahuan umum yang luas pada model.
aurora_prompt: Kumpulan data instruksi dan pertanyaan-jawaban edukasional tingkat SMA (~61.000 sampel). Dataset ini menggabungkan dua gaya komunikasi: natural/casual dan formal/akademis, memberikan variasi yang kaya untuk instruction tuning. Diturunkan dari benchmark IndoMMLU.

Dataset Statistics

Metric	Aurora Prompt	Cosmopedia ID	Total / Combined
File Size	~7.65 MB	~582 MB	~589 MB
Focus	Instruction QA	General Knowledge	SLM Foundation
Languages	Indonesian (id)	Indonesian (id)	Indonesian (id)
Format	CSV	CSV	CSV

Dataset Structure

How to Load via Hugging Face `datasets`

from datasets import load_dataset

# 1. Load Pre-training Data
pretrain_data = load_dataset("vickyfatrian/vqfat-indo-corpus", "cosmopedia_id")

# 2. Load Instruction Data
instruction_data = load_dataset("vickyfatrian/vqfat-indo-corpus", "aurora_prompt")

Columns: Aurora Prompt

prompt: Pertanyaan/instruksi dalam format natural atau formal
text: Jawaban/respons dalam format natural atau formal
token_lenght: Estimasi jumlah token (approximate)
audience: Target audience (SMA)
format: Format soal (multiple_choice)
seed_data: Sumber data asli (Bospedia)
lang: Kode bahasa (id)

Example Samples (Aurora Prompt)

Natural/Casual Style

{
  "prompt": "Eh, tau gak sih hari raya apa yang dirayakan umat Buddha buat peringatan kelahiran, pencerahan, dan kematian Sidharta Gautama?",
  "text": "Nah, itu hari raya Waisak lah, yang dirayakan di bulan Mei purnama.",
  "token_lenght": 180,
  "audience": "SMA",
  "format": "tanya_jawab",
  "seed_data": "Bospedia",
  "lang": "id"
}

Formal/Academic Style

{
  "prompt": "Dapatkah Anda menjelaskan peristiwa kelahiran, penerangan agung, dan kematian Sidharta Gautama yang dirayakan umat Buddha?",
  "text": "Jawaban yang benar adalah Waisak.",
  "token_lenght": 36,
  "audience": "SMA",
  "format": "tanya_jawab",
  "seed_data": "Bospedia",
  "lang": "id"
}

Use Cases

Dataset ini secara spesifik dioptimalkan untuk:

Pre-training SLM: Membangun model bahasa berukuran kecil (misal: target 60M parameter) dari awal menggunakan cosmopedia_id.
Instruction Tuning: Melatih model untuk mengikuti instruksi dalam Bahasa Indonesia menggunakan aurora_prompt.
Conversational AI: Membangun chatbot dengan kemampuan bergeser dari gaya komunikasi natural ke formal.
Educational Applications: Sistem tanya-jawab untuk materi pendidikan tingkat SMA.

Training Recommendations

For 60M Parameter Small Language Models (e.g., GPT-2 Architecture)

Bagi pengembang yang melatih model di lingkungan dengan resource terbatas (seperti Google Colab), berikut adalah rekomendasi pipeline:

Fase 1: Pre-training (Knowledge Building) Gunakan subset cosmopedia_id agar model memahami struktur bahasa.

epochs: 1 to 2
batch_size: 16 (use gradient accumulation for effective batch size 128)
learning_rate: 2e-4 to 4e-4
max_seq_length: 1024

Fase 2: Instruction Fine-Tuning (Behavior Alignment) Lanjutkan training menggunakan subset aurora_prompt agar model bisa berdialog.

epochs: 3
learning_rate: 5e-5
warmup_ratio: 0.05

Suggested Prompt Format

# Format untuk Chat/Instruction
chat_template = """<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant
{text}<|im_end|>"""

Limitations

Synthetic Data Artifacts: Sebagian besar teks di cosmopedia_id dihasilkan secara sintetis, yang mungkin mengandung bias terjemahan atau struktur kalimat yang kaku dalam kasus tertentu.
Domain Coverage (Aurora): Terbatas pada materi pendidikan tingkat SMA dan berpusat pada kurikulum Indonesia.
Answer Format: Mayoritas aurora_prompt berbasis pilihan ganda yang direkonstruksi menjadi jawaban langsung.

Citation

Jika Anda menggunakan dataset ini, mohon cite:

@dataset{vqfat_indo_corpus_2026,
  author = {Fatrian, Vicky},
  title = {VQFat Indonesian Corpus: Combined Pre-training and Instruction QA Dataset for SLMs},
  year = {2026},
  month = {March},
  publisher = {Hugging Face},
  version = {1.1},
  url = {[https://huggingface.co/datasets/vickyfatrian/vqfat-indo-corpus](https://huggingface.co/datasets/vickyfatrian/vqfat-indo-corpus)}
}

@article{indommlU2024,
  title={IndoMMLU: A Comprehensive Indonesian Benchmark for Evaluating Language Models},
  author={Fajri Koto and others},
  journal={arXiv preprint},
  year={2024}
}

License

C-UDA (Computational Use of Data Agreement)

This dataset is released under the C-UDA license, which permits:

✅ Use for training AI/ML models
✅ Research and academic use
✅ Commercial applications
✅ Modification and derivative works

With the requirement to:

📝 Provide attribution to original author
📝 Cite the original IndoMMLU source (for Aurora subset)
📝 Share improvements back to the community (encouraged, not required)

Contact & Contributions

Author: Vicky Fatrian

GitHub: [Add your GitHub]

Contributions are welcome! Please report issues or suggest improvements to data quality.

Changelog

Version 1.1 (March 6, 2026)

Ditambahkan subset cosmopedia_id.csv (582 MB) sebagai korpus pre-training.
Restrukturisasi repositori menjadi multi-subset menggunakan konfigurasi YAML Hugging Face.