Datasets:
cahya
/
intro-to-ml

Dataset card Data Studio Files
xet
 Community
1
text
stringlengths
9
25.2k
## 12 Auto _encoder_ ``` “The goal is to turn data into information, and information into insight.” ``` ``` Carly Fiorina ``` Bab ini memuat materi yang relatif sulit (karena agakhigh level). Bab ini memuat materi _autoencoder_ serta penerapannya pada pemrosesan bahasa alami ( _natural language processing_ –NLP). Berh...
## 11 Feed _forward_ Neural Network ``` “If you want to make information stick, it’s best to learn it, go away from it for a while, come back to it later, leave it behind again, and once again return to it–to engage with it deeply across time. Our memories naturally degrade, but each time you return to a _memory_, you...
## 10 Clustering ``` “Most of us cluster somewhere in the middle of most statistical distributions. But there are lots of bell curves, and pretty much everyone is on a tail of at least one of them. We may collect st _range_ memorabillia or read esoteric books, hold unsual religious beliefs or wear odd-sized shoes, suf...
## 6 Pohon Keputusan ``` “Some _time_ s you make the right decision, some _time_ s you make the decision right.” Phil McGraw ``` Bab ini akan menjelaskan salah satu varian pohon keputusan yaitu ID3 oleh Quinlan [33, 34] yang terinspirasi oleh teori informasi [35]. Algoritma ini sudah cukup tua, tetapi layak dimengerti...
## Bagian III Artificial Neural Network
## 7 Support Vector Classifier ``` “More data beats clever algorithms, but better data beats more data.” Peter Norvig ``` Saat membaca judul bab ini, kamu mungkin berpikir bahwa _support vector_ machineakan dibahas.Support vector classifierdan _support vector machine_ adalah dua hal yang berbeda, walau kedua istilah t...
## 3 Data Analytics ``` “Hiding within those mounds of _data_ is knowl _edge_ that could change the life of a patient, or change the world” Atul Butte ``` Bab ini memuat penjelasan tahapan-tahapan umum untuk analisis data, serta beberapa karakteristik tipe data. Materi pada bab ini dapat dianggap sebagai kerangka ber...
## 2 Fondasi Matematis ``` “He uses statistics as a drunken man uses lamp posts – for support rather than for illumination.” ``` ``` Andrew Lang ``` Mungkin saat pertama kali membaca bab ini, kamu merasa bab ini tidak masuk akal atau kurang dibutuhkan. Seiring membaca buku ini, mungkin bab ini akan sering dikunjungi k...
## Biografi Penulis JanWiraGotama Putra adalah PhD Candidate (JSPS Research Fellow) di Computational Linguistics laboratory, Artificial Intelligence Major, Department of Computer Science, Tokyo Institute of Technology. Sebelumnya, penulis mendapatkan gelar sarjana di jurusan Teknik Informatika, Institut Teknologi Band...
## Bagian II Algoritma Pembelajaran Mesin
## 1 Pengenalan ``` “People worry that computers will get too smart and take over the world, but the real problem is that they’re too stupid and they’ve al _ready_ taken over the world.” Pedro Domingos ``` Penulis yakin istilah _machine learning_ atau _deep learning_ sudah tidak asing di telinga pembaca. _Machine lear...
## 𝐄 𝐗# Gambar 12.2: Hubungan auto _encoder_ dan singular value decomposition (analogi). Perhatikan, _hidden layer_ / _coding_ dapat dianalogikan sebagaiE=Uˆ Vˆ. Dengan kata lain, kita dapat melakukan operasi _dot-product_ pada _coding_ untuk merepresentasikan _dot-product_ pada data asliX. Ini adalah ide utama (^...
## 𝐗 Encoder Decoder
## 13 Arsitektur Neural Network ``` “As students cross the threshold from outside to insider, they also cross the threshold from superficial learning motivated by grades to deep learning motivated by engagement with questions. Their transformation entails an awakening–even, perhaps, a falling in love.” John C. Bean ``...
## 9 Seleksi Fitur dan Metode Evaluasi ``` “The key to artificial intelligence has always been the _representation_.” ``` ``` Jeff Hawkins ``` Bab ini membahas beberapa tips dan trik yang sebenarnya sudah disinggung pada bab 3 dan bab 5. Hanya saja, beberapa hal lebih baik dijelaskan secara lebih mendalam ketika sudah...
### Edisi1.4 ( 17 Agustus2020)
## 5 Model Linear ``` “Some _time_ s an entirely inaccu _rate_ formula is a handy way to move you in the right direction if it offers simplicity.” ``` ``` Scott Adams ``` Bab ini membahas tentang model linear (algoritma parametrik), sebagai contoh pembelajaran yang sederhana karena cukup mudah dipahami idenya. Bab ini...
## Referensi ``` [1] Yoav Goldberg. _Neural Network Methods in Natural Language Processing_. Morgan & Claypool Publishers, 2017. [2] Peter Linz. _An Introduction to Formal Language and Automata_. Jones and Bartlett Publishers, Inc., USA, 2006. [3] Ronald Brachman and Hector Levesque.Knowl _edge_ Representation and Rea...
## Bagian I Pengetahuan Dasar
## 4 Algoritma Dasar ``` “It is a capital mistake to theorize before one has data.” Arthur Conan Doyle ``` Sebelum masuk ke algoritma _machine learning_ yang cukup modern/ matematis, kami akan memberi contoh algoritma yang lebih mudah yaitu _Naive Bayes_, _K-means_, danK-nearest-neighbor. Algoritma-algoritma ini tergo...
## Bagian IV Aplikasi dan Topik Tambahan
## 8 Hidden Markov Model ``` “Probability is expectation founded upon partial knowl _edge_. A perfect acquaintance with all the circumstances affecting the occurrence of an event would change expectation into certainty, and leave neither room nor demand for a theory of probabilities.” George Boole ``` _Hidden Markov M...
## Kata Pengantar Buku ini ditujukan sebagai bahan pengantar (atau penunjang) mata kuliah _machine learning_ untuk mahasiswa di Indonesia, khususnya tingkat sarjana (tidak menutup kemungkinan digunakan untuk tingkat pascasarjana). Buku ini hanya merupakan komplemen, bukan sumber informasi utama. Buku ini memuat materi...
## 14 Penerapan Pembelajaran Mesin ``` “Leading is not the same as being the leader. Being the leader means you hold the highest rank, either by earning it, good fortune or navigating internal politics. Leading, however, means that others willingly follow you–not because they have to, not because they are paid to, but...
### 7.1 Maximal Margin Classifier Ingat kembali kedua bab sebelumnya bahwa model klasifikasi mencari suatu _decision boundary_ untuk memisahkan data pada kelas satu dan kelas lainnya. Apabila kamu memiliki data berdimensi dua, maka _decision boundary_ yang kita dapat berupa garis. Pada data tiga dimensi, _decision bou...
### 7.3 Support Vector Machine ``` Transformasi ``` Gambar 7.7: Ilustrasi transformasi data. Garis berwarna hijau (dashed) melambangkan _decision boundary_. Berhubung banyak _decision boundary_ tidak dapat di _model_ kan dengan suatu bentuk atau persamaan linear, kita harus me _model_ kan _decision boundary_ sebagai ...
### Soal Latihan 7.1. Metode _Kernel_ Baca dan jelaskanlah konsep metode kernel yang dijelaskan pada buku Bishop [8]! 7.2. Fungsi _Kernel_ Jelaskanlah macam-macam fungsi _kernel_ yang sering digunakan untuksupport vector machine! 7.3. SVM- _rank_ Walau umumnya digunakan untuk permasalahan klasifikasi, SVM juga dapat...
### 7.5 Tips Untuk memahami materi yang disampaikan pada bab ini secara lebih dalam, kami menya _rank_ an kamu untuk mempelajari _optimization theory_ danope _ratio_ n research (i.e., integer linear programming). Penulis harus mengakui tidak terlalu familiar dengan teori-teori tersebut. Sejarah dan perkembangansupport...
### 7.4 Klasifikasi lebih dari dua kelas Penjelasan pada bab ini berfokus pada _binary classification_. Memang,maximal _margin_ classifierdan ekstensinya difokuskan pada permasalahan _binary classification_. Kita dapat mengekstensinya untuk _multi-class classification_. Ada dua teknik yang umumnya digunakan, yaitu _o...
### 7.2 Support Vector Classifier _Support Vector Classifier_ adalah ekstensi dari _maximal margin classifier_. Ide utamanya adalah relaksasi kendala pada persamaan 7.10. Sebelumnya,maximal _margin_ classifiermengasumsikan bahwa data bersifatlinearly separabledan dipisahkan secara sempurna. Akan tetapi, kenyataan ti...
### 4.2 K- _mean_ s Pada _supervised learning_ kita mengetahui kelas data untuk setiap _feature vector_, sedangkan untuk _unsupervised learning_ kita tidak tahu. Tujuan _unsupervised_ _learning_ salah satunya adalah melakukan _clustering_. Yaitu mengelompokkan _data_ - _data_ dengan karakter mirip. Untuk melakukan pem...
### Soal Latihan 4.1. Data numerik (a) Carilah suatu contoh dataset numerik. (b) Pikirkanlah st _rate_ gi untuk mengklasifikasi data numerik pada algoritma _Naive Bayes_ danK-nearest-neighbor! 4.2. K- _mean_ s, KNN, GMM, EM Buktikan bahwa K- _mean_ s, K-nearest-neighbor, _Gaussian Mixture Model_, dan _Expectation M...
### 4.3 K-nearest-neighbor IdeK-nearest-neighbor(KNN) adalah mengelompokkan data ke kelompok yang memiliki sifat termirip dengannya [28]. Hal ini sangat mirip denganK _mean_ s. Bila K- _mean_ s digunakan untuk _clustering_, KNN digunakan untuk klasifikasi. Algoritma klasifikasi ini disebut juga algoritma malas karena ...
### 4.1 Naive Bayes _Naive Bayes_ adalah algoritma _supervised learning_ yang sangat sederhana [26]. Idenya mirip dengan probabilitas bayesian pada bab 2. Secara formal, persamaanNaive Bayesuntuk klasifikasi diberikan pada persamaan 4.1 dimana ciadalah suatu nilai kelas,Cadalah pilihan kelas (himpunan),tadalah fitur ...
### 4.1 Naive Bayes _Naive Bayes_ adalah algoritma _supervised learning_ yang sangat sederhana [26]. Idenya mirip dengan probabilitas bayesian pada bab 2. Secara formal, persamaanNaive Bayesuntuk klasifikasi diberikan pada persamaan 4.1 dimana ciadalah suatu nilai kelas,Cadalah pilihan kelas (himpunan),tadalah fitur ...
### 3.6 Classification, Association, Clustering Padasupervsied learning, kita memprediksi kelas berdasarkan _feature vector_ yang merepresentasikan suatu sampel ( _data_ /observasi). _Feature vector_ bisa diibaratkan sebagai sifat-sifat atau keadaan yang diasosiasikan dengan kelas. Pada _supervised learning_, setiap _...
### 3.3 Ruang Konsep Dengan data yang diberikan, kita ingin melakukan generalisasi aturan/ konsep yang sesuai dengan data. Hal ini disebut sebagai _inductive learning_. Cara paling sederhana untuk _inductive learning_ adalah mengenumerasi seluruh kemungkinan kombinasi nilai sebagai _rule_, kemudian mengeleminasi _rule...
### 3.2 Nilai Atribut dan Transformasi Perhatikan Tabel 3.1 yang merupakan contoh _dataset_ pada _machine learning_. _Dataset_ adalah kumpulan sampel. Seorang anak ingin bermain tenis, tetapi keputusannya untuk bermain tenis ( _play_ ) tergantung pada empat variabel { _outlook_, temperature, humidity, windy}. Keempat ...
### 3.7 Mengukur Kinerja Pada bab 1, sudah dijelaskan bahwa kita harus mengukur kinerja model dengan cara yang kuantitatif. Pada saat proses latihan, kita ingin model mengoptimalkan suatu nilai _utility function_, misal meminimalkan nilai _error_ atau _entropy_. Pada saat latihan, model pembelajaran mesin dapat mengop...
### Soal Latihan 3.1. Konversi atribut Sebutkan dan jelaskan macam-macam cara untuk mengkonversi atribut! Sebagai contoh, numerik-nominal dan nominal-numerik. 3.2. Transformasi data Sebutkan dan jelaskan macam-macam cara transformasi data (e.g. merubah _non-linearly separable_ menjadi _linearly separable_ ) 3.3. Sel...
### 3.1 Pengenalan Data Analytics Secara umum, subbab ini adalah ringkasan dari buku Jeff Leek [22]. Untuk detailnya, kamu dapat membaca buku tersebut secara langsung. Penulis merekomendasikan buku tersebut karena ringkas dan mudah dipahami bahkan oleh pemula. Kita tahu di dunia ini ada banyak masalah. Masalah adalah ...
### 3.4 Linear Separability ``` id humidity windy swim ( _class_ ) 1 high high yes 2 normal normal no ``` ``` Tabel 3.2: Contoh dataset _linearly separable_. ``` Perhatikan Tabel 3.2. Data pada tabel tersebut kita sebut _linearly separable_. Sederhananya, untuk suatu nilai tertentu, fitur hanya berkorespondensi dengan...
### 3.8 Evaluasi Model Ada beberapa hal yang perlu kamu catat tentang proses evaluasi suatu model pembelajaran mesin: ``` 1. _Data splitting_. Seperti yang sudah dijelaskan pada subbab 1.5, pada umumnya kita memiliki _training_, _validation/validation_, dan _testing data_. Mesin dilatih menggunakan _training data_, s...
### 3.10 Tahapan Analisis Bagian ini adalah ringkasan bab ini. Untuk menganalisis data, terdapat langkah yang perlu kamu perhatikan 1. Memutuskan tujuan analisis data ( _defining goal_ ) 2. Mendapatkan data 3. Merapihkan data 4. Merepresentasikan data sebagai _feature vector_ 5. Melakukan transformasi dan/atau _featu...
### 3.5 Seleksi Fitur Pada subbab sebelumnya, telah dijelaskan bahwa kita dapat mentransformasi _data_ _non-linearly separable_ menjadi _linearly separable_ dengan cara menam- (^3) https://en.wikipedia.org/wiki/ _Hyperplane_ (^4) Silakan baca teknik transformasi lebih lanjut pada literatur lain. ``` 3.6 Classifica...
### 3.9 Kategori Jenis Algoritma Algoritma pembelajaran mesin dapat dibagi menjadi beberapa kategori. Dari sudut pandang apakah algoritma memiliki parameter yang harus dioptimasi, dapat dibagi menjadi:^8 1. Parametrik. Pada kelompok ini, kita mereduksi permasalahan sebagai optimisasi parameter. Kita mengasumsikan...
### 5.4 Multi- _class_ Classification Subbab ini akan membahas tentang _multi-class classification_, dimana terdapat lebih dari dua kemungkinan kelas. Terdapat himpunan kelasCberanggotakan {c 1 ,c 2 ,...,cK}. Untuk suatu data dengan representasi _feature vector_ -nya, kita ingin mencari tahu kelas yang berkorespondesi...
### 5.5 Multi-label Classification Seperti halnya _multi-class classification_, kita dapat mendekomposisimultilabel _classification_ menjadi beberapa _binary classifier_ (analogi persamaan 5.12). Yang membedakan _multi-class_ dan _multi-label_ adalah outputc. Padamulti _class_ _classification_,ci∈cmelambangkan skor su...
### 5.7 Batasan Model Linear Model linear, walaupun mudah dimengerti, memiliki beberapa batasan. Ada dua batasan paling kentara [20]: (1) _additive assumption_ dan (2)linear as- sumption. _Additive assumption_ berarti model linear menganggap hubungan antara _input_ dan _output_ adalah linear. Artinya, perubahan nilai ...
### 5.10 Transformasi Data Seperti yang sudah dijelaskan sebelumnya, alangkah baik apabila semua data memiliki hubungan secara linear atau bersifat _linearly separable_. Kenyataan- (^10) https://en.wikipedia.org/wiki/Norm_(mathematics) (^11) https://stats.stackexchange.com/questions/136895/ why-is-the-l1- _norm_ -in-...
### Soal Latihan 5.1. Hill Climbing Baca dan jelaskanlah konsep Hill Climbing! 5.2. Variasi Optimisasi Baca dan jelaskanlah variasi konsep optimisasi lain, selainstochastic gradient descent! 5.3. Convex Optimization Bacalah literatur yang memuat materi tentang _convex optimization_ ! Jelaskan pada teman-temanmu apa ...
### 5.11 Bacaan Lanjutan Kami harap pembaca mampu mengeksplorasi materi _kernel method_ dansupport vector machine(SVM). Kami mencantumkan materi SVM pada buku ini sedemikian pembaca mampu mendapatkan intuisi, tetapi tidaklah detil. Kami sa _rank_ an kamu membaca pranalahttps://www.svm-tutorial.com/karena ditulis denga...
### 5.6 Pembelajaran sebagai Permasalahan Optimisasi Salah satu tujuan dari pembelajaran ( _training_ ) adalah untuk meminimalkan _error_ sehingga kinerja learning machine ( _model_ ) diukur oleh squared error. Dengan kata lain, _utility function_ adalah meminimalkan _squared error_. Secara lebih umum, kita ingin mem...
### 5.8 Overfitting dan Underfitting Tujuan _machine learning_ adalah membuat model yang mampu memprediksi _data_ yang belum pernah dilihat ( _unseen instances_ ) dengan tepat; disebut sebagai generalisasi ( _generalization_ ). Seperti yang sudah dijelaskan pada bab pertama, kita dapat membagi dataset menjadi _traini...
### 5.3 Log-linear Binary Classification Pada subbab sebelumnya, telah dijelaskan fungsi binary classifier memetakan _data_ menjadi nilai [− 1 ,1], dengan−1 merepresentasikan kelas pertama dan 1 merepresentasikan kelas kedua. Tidak hanya kelas yang berkorespondensi, kita juga terkadang ingin tahu seberapa besar pelua...
### 5.2 Binary Classification _Binary classification_ adalah mengklasifikasikan data menjadi dua kelas ( _binary_ ). Contoh model linear sederhana untuk _binary classification_ diberikan pada persamaan 5.6. Perhatikan, pada persamaan 5.6, suatu data direpresentasikan sebagai _feature vector_ x, dan terdapat _bias_ b.^...
### 5.9 Regularization _Gradient-based method_ mengubah-ubah parameter modelwsehingga _loss_ dapat diminimalkan. Perhatikan kembali Gambar 5.2, ibaratnya agar fungsi aproksimasi kita menjadi sama persis dengan fungsi asli pada Gambar 5.1. Perhatikan, karena nilaiwberubah-ubah seiring waktu, bisa jadi urutan _training_...
### 5.1 Curve Fitting dan Error Function Pertama, penulis ingin menceritakan salah satu bentuk _utility function_ untuk _model_ matematis bernama _error function_. Fungsi ini sudah banyak diceritakan pada bab-bab sebelumnya secara deskriptif. Mulai bab ini, kamu akan mendapatkan pengertian lebih jelas secara matemati...
### 13.7 Transfer Learning Walau konsep _transfer learning_ (TL) tidak terbatas pada _neural network_, subbab ini membahas pemanfaatan TL paling umum pada _neural network_. Pembaca dipersilahkan mengeksplorasi lebih lanjut. Bayangkan kondisi berikut. Ada dua orang, Haryanto dan Wira. Saat masih kecil, Wira pernah bela...
### 13.3 Part-of-speech Tagging Revisited Pada bab sebelumnya, kamu telah mempelajari konsep dasar _recurrent_ neural _network_. Selain digunakan untuk klasifikasi (i.e., _hidden state_ terakhir digunakan sebagai _input_ klasifikasi), RNN juga dapat digunakan untuk memprediksi sekuens seperti persoalan _part-of-speech...
### Soal Latihan 13.1. POS _tagging_ Pada subbab 13.3, disebutkan bahwa _bidirectional recurrent neural network_ lebih cocok untuk persoalan POS _tagging_. Jelaskan mengapa! (hint pada bab 8) 13.2. Eksplorasi Jelaskanlah pada teman-temanmu apa dan bagaimana prinsip kerja: (a) _Boltzman Machine_ (b) _Restricted Boltz...
### 13.6 Architecture Ablation Pada bab 9, kamu telah mempelajari _feature ablation_, yaitu memilih-milih elemen pada _input_ (untuk dibuang), sehingga model memiliki kinerja optimal. Pada _neural network_, proses _feature engineering_ mungkin tidak sepenting pada model- _model_ yang sudah kamu pelajari sebelumnya (e....
### 13.8 Multi- _task_ Learning Subbab ini akan menjelaskan _framework_ melatih model pembelajaran mesin menggunakan _multi-task learning_ (MTL). Walaupun konsep MTL tidak terbatas pada _neural network_, bab ini membahas konsep tersebut menggunakan arsitektur _neural network_ sebagai contoh (karena itu dimasukkan ke d...
### 13.2 Recurrent Neural Network Ide dasar _recurrent neural network_ (RNN) adalah membuat topologi jaringan yang mampu merepresentasikan data _sequential_ (sekuensial) atau _time series_ [77], misalkan data ramalan cuaca. Cuaca hari ini bergantung kurang lebih pada cuaca hari sebelumnya. Sebagai contoh apabila hari ...
### 13.5 Arsitektur Lainnya Selain arsitektur yang sudah dipaparkan, masih banyak arsitektur lain baik bersifat generik (dapat digunakan untuk berbagai karakteristik data) maupun spesifik (cocok untuk data dengan karakteristik tertentu atau permasalahan tertentu) sebagai contoh, _Restricted Boltzman Machine_ ^18 danGe...
### 13.4 Sequence to Sequence Pertama-tama, kami ingin mendeskripsikan kerangka _conditioned generation_. Pada kerangka ini, kita ingin memprediksi sebuah kelasyiberdasarkan kelas yang sudah di-hasilkan sebelumnya ( _history_ yaituy 1 ,···,yi− 1 ) dan sebuahconditioning contextc(berupa vektor). Arsitektur yang dibahas...
### 13.1 Convolutional Neural Network Subbab ini akan memaparkanide utamadari _convolutional neural network_ (CNN) berdasarkan _paper_ asli dari LeCun dan Bengio [76] (saat buku ini ditulis sudah ada banyak variasi). CNN memiliki banyak istilah dari bidang pemrosesan gambar (karena dicetuskan dari bidang tersebut), te...
### 12.2 Singular Value Decomposition Sebelum masuk ke _autoencoder_ secara matematis, penulis akan memberikan sedikit _overview_ tentang dekomposisi matriks. Seperti yang sudah dijelaskan pada bab-bab sebelumnya, dataset dimana setiap _input_ direpresentasikan oleh _feature vector_ dapat disusun menjadi matriksXberuk...
### 12.1 Representation Learning Pada bab model linear, kamu telah mempelajari ide untuk mentransformasi _data_ menjadi dimensi lebih tinggi agar data tersebut menjadi _linearly separable_. Pada bab ini, kamu mempelajari hal sebaliknya, yaitu mengurangi dimensi. _Curse of dimensionality_ dapat dipahami secara mendala...
### 12.3 Ide Dasar Auto _encoder_ Seperti yang sudah dijelaskan _autoencoder_ adalah _neural network_ yang mampu merekonstruksi _input_. Ide dasar _autoencoder_ tidak jauh dari konsep dekomposisi/di _mention_ ality reductionmenggunakan _singular value decomposition_. Diberikan datasetX, kita ingin mensimulasikan penca...
### 12.4 Resisting Perturbation Pada subbab sebelumnya, telah dijelaskan bahwa mencapai performa 100% (100% rekonstruksi) pada _autoencoder_ adalah hal yang tidak diinginkan. Hal ini disebabkan karena kita ingin menghindari _autoencoder_ semata-mata hanya mempelajari _trivial identity function_ [11], memiliki analogi ...
### CBOW Skip-gram Gambar 12.8: CBOW ( _Continous bag of words_ ) vs Skip-gram, rekonstruksi [49]. ``` Si Kucingduduk ...tiker ``` ``` Projection (Embedding) ``` ``` beralaskan ``` ``` Gambar 12.9: CBOW. ``` ``` 12.5 Representing Context: Word Embedding 177 ``` level abstrak, yaitu merepresentasikan kata dan konteks...
### 12.6 Tips Bab ini menyampaikan penggunaan _neural network_ untuk melakukankompresi _data_ ( _representation learning_ ) dengan teknik _unsupervised learning_. Hal yang lebih penting untuk dipahami bahwa ilmu _machine learning_ tidak berdiri sendiri. Walaupun kamu menguasai teknik machine learning tetapi tidak meng...
### Soal Latihan 12.1. Penggunaan Auto _encoder_ untuk Arsitektur Kompleks (a) Pada bab ini, telah dijelaskan bahwa kita dapat menginisialisasi arsitektur _neural network_ yang kompleks menggunakan _autoencoder_. Jelaskan pada kasus apa kita dapat melakukan hal tersebut! (b) Jelaskan mengapa menginisiasi (sebagian) a...
### 12.5 Representing Context: Word Embedding Subbab ini menceritakan salah satu aplikasi _autoencoder_. Pada domain NLP, kita ingin komputer mampu mengerti bahasa selayaknya manusia mengerti bahasa. Misalkan komputer mampu mengetahui bahwa “meja” dan “kursi” memiliki hubungan yang erat. Hubungan seperti ini tidak dap...
### 9.3 Feature Selection Pada pembelajaran mesin, pada umumnya kita menggunakan banyak (lebih dari satu) fitur. Artinya kita merepresentasikan setiap _record_ ( _instance_ ) atau _inputs_ ebagai suatu vektorx∈R^1 ×F; dimanaFmelambangkan dimensi vektor atau banyaknya fitur. Seringkali,F bernilai besar sehingga model y...
### 9.6 Replicability, Overclaiming dan Domain Dependence Pada dunia pembelajaran mesin, _replicability_ adalah hal yang sangat penting. Artinya, eksperimen yang kamu lakukan dapat diulangi kembali oleh orang lain, serta mendapat kinerja yang kurang lebih sama. Untuk ini, biasanya _dataset_ dipublikasi pada domain pu...
### 9.1 Feature Engineering Record ( _data_ ) pada pembelajaran mesin pada umumnya dikonversi menjadi suatu vektor ( _feature vector_ ) yang merepresentasikannya dalam bentuk matematis. Fitur-fitur biasanya tersusun atas atribut yang kita anggap memiliki pengaruh terhadap _output_. Sebagai contoh, tekanan darah dipred...
### Soal Latihan 9.1. Seleksi Fitur Jelaskanlah algoritma seleksi fitur selain yang sudah dijelaskan pada bab ini! (Saran: baca _survey paper_ ) (^4) Pranala Post Yoav Goldberg ``` 9.6 Replicability, Overclaiming dan Domain Dependence 133 ``` 9.2. AIC dan BIC Jelaskan _Akaike Information Criterion_ (AIC) danBayesia...
### 9.5 Cross Validation Ingat kembali materi bab-bab sebelumnya bahwa pada umumnya kita membagi _dataset_ menjadi tiga kelompok: _training_, _validation/development_ dan 130 9 Seleksi Fitur dan Metode Evaluasi _testing_. Melatih dan mengukur kinerja model menggunakan training data adalah hal yang tidak bijaksana ...
### 9.4 Evaluasi Kinerja Model Buku ini telah menjelaskan bahwa model pembelajaran mesin mengoptimisasi _utility function_ pada saat proses latihan ( _training_ ). Pada umumnya,utility _function_ berbentuk _cross entropy_ atau _error function_ untuk arsitekturlinear _model_ dan _neural network_. Untuk arsitektur lain,...
### 9.2 High Dimensional Data Pada kenyataan, fitur yang kita gunakan untuk membangun model pembelajaran mesin tidaklah sesederhana yang dicontohkan pada subbab sebelumnya. Seringkali, kita berhadapan dengan data yang memiliki sangat banyak fitur ( _high dimensional data_ ). Sebagai contoh, seorang marketing analyst m...
### 8.5 Algoritma Viterbi Pada subbab sebelumnya, telah didefinisikan permasalahan POS _tagging_ dan _Hidden Markov Model_ untuk menyelesaikan permasalahan tersebut. Pada bab ini, kamu akan mempelajari cara mencari sekuens _syntactical categories_ terbaik diberikan suatu observasi kalimat menggunakanalgoritma Viterbi....
### Soal Latihan 8.1. Data Numerik Pada bab ini, diberikan contoh aplikasi Hidden Markov Model (HMM) untuk POS _tagging_, dimana data kata adalah data nominal. Berikan st _rate_ gi penggunaan HMM untuk data numerik! Misal, pada _automatic speech recognizer_. 8.2. Ekstensi Algoritma Viterbi Buatlah ekstensi algoritma ...
### 8.1 Probabilistic Reasoning Pada logika matematika ( _first order logic_ ), ketika kita memiliki premis “bila hujan, maka ayu terpeleset.” Pada level _first order logic_, apabila “hujan” ter- (^1) Karena perlu dijelaskan juga cara transformasi sinyal suara menjadi data diskrit. ``` 102 8 Hidden Markov Model ```...
### 8.6 Proses Training Hidden Markov Model _Hidden Markov Model_ (HMM) adalah salah satu varian _supervised learning_,^7 diberikan sekuens _input_ dan _output_ yang bersesuaian sebagai _training data_. Pada kasus POS _tagging_, yaitu _input_ -nya adalah sekuens kata dan _output_ -nya adalah sekuens kelas kata (masin...
### 8.2 Generative Model Pada _supervised learning_ kamu sudah mengetahui bahwa kita me _model_ kan p(y|x), me _model_ kan _target_ y(label) ketika diberikan _input_ x,^2 yaitu mencari tahu _decision boundary_ antara keputusan.xdanydapat berupa vektor, skalar, gambar, dan lain sebagainya. Sementara pada _unsupervised ...
### 8.4 Hidden Markov Model Tagger Pada subbab sebelumnya, POS _tagging_ telah didefinisikan secara matematis. Kita sudah mengetahui permasalahan yang ingin kita selesaikan. Subbab ini adalah formalisasi _hidden markov model tagger_. Ingat kembali persamaan 8.12 untuk POS tagging.P(wi|ci) disebut _likelihood_ danP(ci|...
### 8.3 Part-of-speech Tagging Pada bidang pemrosesan bahasa alami ( _natural language processing_ ), peneliti tertarik untuk mengetahui kelas kata untuk masing-masing kata di tiap kalimat. Misalkan kamu diberikan sebuah kalimat “ _Budi menendang bola_ ”. Setelah proses POS _tagging_, kamu akan mendapat “Budi/Noun men...
### 6.3 Isu pada ID3 Pada algoritma _decision tree_ secara umum, terdapat beberapa isu diantara lain [7, 36]: 1. Mudah overfitting 2. Masalah menangani atribut kontinu 3. _Information gain_ memiliki bias terhadap atribut yang memiliki banyak nilai ( _highly-branching attributes_ ) 4. Data dengan _missing value_. ...
### 6.1 Inductive Learning Salah satu bentuk “kecerdasan” sederhana kemungkinan adalah dalam bentuk aturan ( _rule_ ) yang merepresentasikan pengetahuan. Misalkan, untuk menentukan apakah suatu pasien terserang penyakit tertentu, dokter mencari tahu gejala-gejala yang ada. Berdasarkan gejala-gejala yang ada, dokter me...
### Soal Latihan 6.1. Isu Pada subbab 6.3, telah disebutkan isu-isu yang ada pada ID3, sebutkan dan jelaskan bagaimana cara menangani masing-masing isu tersebut! 6.2. Gain Ratio Selain _information gain_, kita dapat menggunakan cara lain untuk memilih atribut bernama _gain ratio_. Jelaskan perbedaan keduanya! Yang ma...
### 6.2 ID3 _Decision tree_ adalah varian dari _inductive learning_. ID3 adalah salah satu algoritma varian _decision tree_ [34]. _Decision tree_ dibangun berdasarkan asumsi bila atribut yang ada memberikan informasi yang cukup memadai maka kita mampu membangun _decision tree_ yang mampu mengklasifikasikan seluruh _i...
### 6.4 Pembagian Ruang Konsep Ada hubungan antara algorithma _decision tree_ dan model linear. Pada model linear, kita semacam membagi-bagi ruang konsep (semesta data) menjadi ruang per kelas menggunakan garis pembatas linear. _Decision tree_ melakukan hal yang hampir sama, karena percabangan _decision tree_ dapat di...
### Soal Latihan 10.1. Intra- _cluster_ Evaluation Buktikan kebenaran persamaan 10.7. 10.2. Entropy Bagaimana cara menghitung kualitas algoritma _clustering_, jika diberikan informasi label/ kelas setiap data menggunakan: (hint, baca [41]) (a) Entropy (b) Purity 10.3. Kompleksitas Hitunglah kompleksitas algoritma un...
### 10.3 Evaluasi Diberikan sekumpulan dataD={d 1 ,d 2 ,···,dN}untuk suatu _cluster_. Saat tidak tersedianya informasi label/kelas untuk setiap data, kualitas hasil _clustering_ dapat dihitung dengan tiga kriteria yaitu: ``` 1. _Intra-cluster similarity_, yaitu menghitung rata-rata kedekatan antara suatu anggota dan ...
### 10.2 Hierarchical Clustering Hierarchical clusteringadalah teknik untuk membentuk pembagian bersarang (nested partition). Berbeda dengan K- _mean_ s yang hasil _clustering_ -nya berbentukflatatau rata, _hierarchical clustering_ memiliki satu _cluster_ paling atas yang mencakup konsep seluruh _cluster_ dibawahnya. ...
### 10.1 K- _mean_ s, Pemilihan Centroid, Kemiripan Data Algoritma K- _mean_ s mengelompokkan data menjadi sebanyakK kelompok sesuai yang kita definisikan. Algoritma ini disebut juga sebagai _flat clustering_, artinya kelompok satu memiliki kedudukan sejajar dengan kelompok lainnya. Kita tinjau kembali tahapan-tahapan...
### 10.3 Evaluasi Diberikan sekumpulan dataD={d 1 ,d 2 ,···,dN}untuk suatu _cluster_. Saat tidak tersedianya informasi label/kelas untuk setiap data, kualitas hasil _clustering_ dapat dihitung dengan tiga kriteria yaitu: ``` 1. _Intra-cluster similarity_, yaitu menghitung rata-rata kedekatan antara suatu anggota dan ...
### 11.6 Binary Classification Salah satu st _rate_ gi untuk _binary classification_ adalah dengan menyediakan hanya satu _output unit_ di jaringan. Kelas pertama direpresentasikan dengan −1, kelas kedua direpresentasikan dengan nilai 1 (setelah diaktivasi). Hal ini dapat dicapai dengan fungsi non-linear seperti sign^...