Jaringan Syaraf Tiruan | Backpropagation

Backpropagation

Algoritma pembelajaran Backpropagation (BP) sering disebut juga dengan propagasi balik yang  erupakan algoritma pembelajaran terawasi (supervised learning) yang sering digunakan oleh perceptron dengan banyak lapisan untuk mengubah bobot-bobot neuron yang terdapat pada lapisan tersembunyinya (hidden layer).

Algoritma BP menggunakan tahap perambatan maju (forward propagation) untuk mendapatkan error, dan menggunakan error output tersebut untuk mengubah nilai bobotnya dalam arah mundur (backward).


Pada saat perambatan maju (forward propagation), neuron diaktifkan dengan fungsi aktivasi sigmoid:

Arsitektur jaringan backpropagation terlihat seperti pada Gambar berikut:


Cara kerja algoritma BP sama seperti cara kerja Perceptron, yaitu mengoreksi bobot jika luaran yang dihasilkan tidak sesuai dengan luaran yang diharapkan sehingga respon neuron berikutnya diharapkan akan lebih mendekati luaran yang benar. Selain itu, BP memiliki kemampuan untuk memperbaiki bobot pada lapisan hidden layer.

Cara kerja algoritma BP secara sederhana:
Ketika jaringan diberikan pola data pelatihan (data masukan dan luarannya) maka pola tersebut akan diteruskan ke hidden layer untuk diteruskan kembali ke lapisan output. Kemudian lapisan output akan memberikan tanggapan yang disebut dengan luaran jaringan. Ketika luaran jaringan tidak sama dengan luaran yang diharapkan maka luaran akan menyebar mundur (bakward) ke hidden layer dan diteruskan kembali ke lapisan input.

Setiap perubahan bobot yang terjadi dapat mengurangi error. Siklus setiap perubahan bobot (epoch) dilakukan pada setiap set pelatihan hingga kondisi berhenti dicapai, yaitu bila mencapai jumlah epoch yang diinginkan atau hingga sebuah nilai ambang yang ditetapkan terlampaui. Algoritma pelatihan jaringan propagasi balik terdiri dari 3 tahapan yaitu :


  1. Tahap umpan maju (feedforward).
  2. Tahap umpan mundur (bakcward propagation).
  3. Tahap pengupdate-an bobot dan bias.
Algortima BP:

  1. Inisialisasi bobot dan bias (ambil nilai bobot awal dengan nilai random yang kecil dengan kisaran -1 hingga 1), konstanta learning rate, dan maksimal epoh (bisa juga toleransi error atau nilai bobot sebagai kondisi berhenti).
  2. Selama kondisi berhenti belum tercapai, lakukan langkah 3 - 10.
  3. Untuk setiap pasangan pola pelatihan, lakukan langkah 4 - 9.
    Tahap 1 : Feedforward.
  4. Setiap input xi (dari unit ke-1 hingga unit ke-n) mengirimkan sinyal input ke setiap input yang berada pada hidden layer.
  5. Setiap unit di hidden layer zj (dari unit ke-1 hingga ke-p) dikalikan dengan bobotnya dan ditambahkan dengan biasnya:


    dan menggunakan fungsi aktivasi untuk menghitung sinyal output dari hidden unit yang bersangkutan:

  6. Setiap unit output yk (dari unit ke-1 hingga ke-m) akan menjumlahkan sinyal input yang telah berbobot termasuk biasnya:


    dan menggunakan fungsi aktivasi untuk menghitung sinyal output dari unit output yang bersangkutan:


  7. Taham 2 : Backward Propagation
  8. Setiap unit output (yk) menerima pola target tk sesuai dengan pola pelatihan yang telah diberikan, dan menghitung koreksi error lapisan output (δk):


    Hitung suku perubahan bobot wjk (yang akan digunakan untuk mengubah wjk):


    Hitung perubahan bias:

  9. Setiap unit di hidden layer menjumlahkan input delta yang telah berbobot (yang dihasilkan pada langkah 6):


    Kemudian dilakukan perhitungan koreksi error:


    Koreksi bobot vij:


    Koreksi bias v0j:


  10. Tahap 3 : Pembaruan bobot dan bias
  11. Setiap unit output memperbaharui bias dan bobotnya:


    Setiap unit hidden layer memperbaharui bias dan bobotnya:

  12. Uji kondisi berhenti. Jika kondisi berhenti terpenuhi, maka pelatihan jaringan dapat dihentikan.
Setelah pelatihan jaringan selesai, jaringan yang mengimplementasikan BP dianggap telah pintar sehingga apabila jaringan menerima suatu input maka jaringan dapat menghasilkan output seperti yang diharapkan. Cara jaringan mendapatkan output adalah dengan mengimplementasikan metode BP sama seperti pada proses pembelajaran tetapi hanya pada tahapan feedforward saja.

No comments:

Post a Comment

Bekomentarlah yang sopan agar hidup kita disopankan orang. Berbahasa Indonesialah yang baik dan benar

JARINGAN KOMPUTER DASAR

PENGANTAR DAN KONSEP KOMUNIKASI JARINGAN KOMPUTER Sejarah Jaringan komputer Internet => ARPANET => Departemen Pertahanan AS (19...