zukino/alpaca-indo

Dataset Presiden Indonesia - Prabowo Subianto

Dataset instruksi (instruction-tuning) tentang Presiden Indonesia saat ini, Prabowo Subianto, untuk fine-tuning model bahasa menggunakan Unsloth dengan model Qwen3.

📋 Deskripsi

Dataset ini berisi pasangan tanya-jawab dalam format chat completion HuggingFace tentang Presiden Prabowo Subianto, mencakup topik:

• Biografi dan latar belakang
• Karier militer
• Karier politik dan partai Gerindra
• Pemilihan Umum Presiden 2024
• Kebijakan pemerintahan (ekonomi, pertahanan, luar negeri, pendidikan, dll.)
• Program unggulan (Makan Bergizi Gratis, IKN, Indonesia Emas 2045)
• Kabinet Merah Putih dan tokoh-tokoh penting
• Hubungan politik dan dinasti

📁 Struktur File

File	Jumlah Sampel	Fungsi
train.jsonl	30	Data training (75%)
test.jsonl	9	Data testing (22.5%)
eval.jsonl	9	Data evaluasi (22.5%)

📝 Format Data

Dataset menggunakan format Chat Completion standar HuggingFace yang kompatibel dengan Qwen3:

{
  "messages": [
    {
      "role": "system",
      "content": "Kamu adalah asisten AI yang memiliki pengetahuan mendalam tentang politik dan kepemimpinan Indonesia..."
    },
    {
      "role": "user",
      "content": "Pertanyaan pengguna..."
    },
    {
      "role": "assistant",
      "content": "Jawaban asisten..."
    }
  ]
}

🚀 Penggunaan dengan Unsloth + Qwen3

Contoh Kode Training

from unsloth import FastModel
from datasets import load_dataset
from trl import SFTTrainer
from transformers import TrainingArguments

# Load model Qwen3 dengan Unsloth
model, tokenizer = FastModel.from_pretrained(
    model_name="unsloth/Qwen3-4B",
    max_seq_length=2048,
    load_in_4bit=True,
    full_finetuning=False,
)

# Tambah LoRA adapters
model = FastModel.get_peft_model(
    model,
    r=16,
    lora_alpha=16,
    lora_dropout=0,
    target_modules=[
        "q_proj", "k_proj", "v_proj", "o_proj",
        "gate_proj", "up_proj", "down_proj",
    ],
    use_rslora=True,
    use_gradient_checkpointing="unsloth",
)

# Load dataset
dataset = load_dataset("json", data_files={
    "train": "data/train.jsonl",
    "test": "data/test.jsonl",
    "eval": "data/eval.jsonl",
})

# Konfigurasi trainer
trainer = SFTTrainer(
    model=model,
    tokenizer=tokenizer,
    train_dataset=dataset["train"],
    eval_dataset=dataset["eval"],
    dataset_text_field="text",
    args=TrainingArguments(
        per_device_train_batch_size=2,
        gradient_accumulation_steps=4,
        warmup_steps=5,
        max_steps=60,
        learning_rate=2e-4,
        fp16=not torch.cuda.is_bf16_supported(),
        bf16=torch.cuda.is_bf16_supported(),
        logging_steps=1,
        optim="adamw_8bit",
        weight_decay=0.01,
        lr_scheduler_type="cosine",
        seed=3407,
        output_dir="outputs",
        evaluation_strategy="steps",
        eval_steps=10,
    ),
)

# Mulai training
trainer.train()

# Save model
model.save_pretrained("prabowo-qwen3-lora")
tokenizer.save_pretrained("prabowo-qwen3-lora")

⚠️ Catatan Penting

• Dataset ini bersifat edukatif dan untuk keperluan riset fine-tuning LLM.
• Konten disusun berdasarkan informasi publik yang tersedia.
• Jumlah sampel masih terbatas. Disarankan untuk menambah data jika ingin hasil yang lebih baik.
• Untuk fine-tuning yang optimal, disarankan minimal 500-1000 sampel training.

📊 Statistik

• Bahasa: Bahasa Indonesia
• Format: JSONL (Chat Completion)
• Topik: Politik Indonesia, Kepemimpinan, Pemerintahan
• Rata-rata panjang jawaban: ~150-400 kata

📜 Lisensi

MIT License - Bebas digunakan untuk keperluan edukasi dan riset.