Upload sample.txt with huggingface_hub

sample.txt

@@ -0,0 +1,50 @@
+Indigo adalah model bahasa kecil yang dibangun dari nol.
+Model ini dilatih dengan PyTorch murni tanpa pustaka tambahan.
+Arsitektur Indigo berupa transformer decoder sederhana.
+Setiap blok transformer memuat perhatian kausal dan jaringan saraf.
+Perhatian kausal membuat model hanya melihat token masa lalu.
+Token masa lalu dipakai untuk memprediksi token berikutnya.
+Prediksi token berikutnya adalah inti dari pemodelan bahasa.
+Pemodelan bahasa bisa dipakai untuk membuat teks baru.
+Teks baru dihasilkan token demi token secara berurutan.
+Urutan token ditentukan oleh distribusi probabilitas model.
+Probabilitas model dipelajari dari data latih.
+Data latih berupa kumpulan teks biasa dalam berkas txt.
+Berkas teks dibaca lalu diubah menjadi deret angka.
+Deret angka tersebut menjadi masukan bagi jaringan saraf.
+Jaringan saraf belajar dengan menurunkan fungsi kerugian.
+Fungsi kerugian dihitung menggunakan cross entropy.
+Cross entropy mengukur selisih prediksi dengan jawaban sebenarnya.
+Jawaban sebenarnya adalah token yang muncul pada data asli.
+Data asli dibagi menjadi data latih dan data validasi.
+Data validasi dipakai untuk memantau kemajuan pelatihan.
+Pelatihan berjalan selama ribuan langkah kecil.
+Setiap langkah memperbarui bobot model sedikit demi sedikit.
+Bobot model diperbarui oleh optimizer AdamW.
+Optimizer menurunkan kerugian dengan gradien turun.
+Gradien dihitung lewat propagasi balik otomatis dari PyTorch.
+Propagasi balik meneruskan kesalahan ke setiap lapisan.
+Lapisan pertama adalah lapisan penyematan token.
+Penyematan token mengubah angka menjadi vektor padat.
+Vektor padat digabung dengan penyematan posisi.
+Penyematan posisi memberi tahu urutan kata dalam kalimat.
+Kalimat panjang dipotong menjadi jendela tetap.
+Jendela tetap disebut block size atau konteks.
+Konteks dibatasi agar perhatian tetap efisien.
+Perhatian menghitung hubungan antar token dalam konteks.
+Hubungan antar token membentuk pemahaman sederhana.
+Pemahaman ini tumbuh seiring bertambahnya langkah latih.
+Langkah latih dicatat beserta nilai kerugiannya.
+Nilai kerugian yang menurun menandakan model belajar.
+Model yang sudah belajar bisa menyimpan checkpoint.
+Checkpoint berisi bobot, konfigurasi, dan kosakata.
+Kosakata Indigo berupa karakter unik dari data.
+Tokenizer karakter mengubah huruf menjadi angka sederhana.
+Angka sederhana mudah dipahami tanpa pustaka eksternal.
+Tanpa pustaka eksternal proyek tetap ringan dan jelas.
+Proyek ringan cocok untuk belajar dari dasar.
+Dasar yang kuat memudahkan eksperimen lanjutan.
+Eksperimen bisa berupa penambahan lapisan atau kepala perhatian.
+Kepala perhatian tambahan menangkap pola yang lebih beragam.
+Pola beragam menghasilkan teks yang lebih koheren.
+Teks koheren adalah tujuan akhir dari pelatihan ini.