Neural network adalah model yang terinspirasi oleh bagaimana neuron dalam otak manusia bekerja. Tiap neuron pada otak manusia saling berhubungan dan informasi mengalir dari setiap neuron tersebut.
Berikut adalah beberapa bagian pada Neuron scheme :
-Dendrit (Dendrites) berfungsi untuk mengirimkan impuls yang diterima ke badan sel syaraf.
-Akson (Axon) berfungsi untuk mengirimkan impuls dari badan sel ke jaringan lain.
-Sinapsis berfungsi sebagai unit fungsional di antara dua sel syaraf.
Struktur Neural Network
Karakteristik dari ANN (Artificial Neural Network) dilihat dari pola hubungan antar neuron, metode penentuan bobot dari tiap koneksi, dan fungsi aktivitasnya. Gambar di atas menjelaskan struktur ANN secara mendasar, yang dalam kenyataannya tidak hanya sederhana seperti itu.
-Input, berfungsi seperti dendrite
-Output, berfungsi seperti akson
-Fungsi aktivasi, berfungsi seperti sinapsis.
Activation Function
Activation Function berfungsi untuk menentukan apakah neuron tersebut harus "aktif" atau tidak berdasarkan dari weighted sum dari input. Secara umum terdapat 2 jenis activation function yaitu Linear dan Non-Linear Activation function.
Linear Function
Secara "default" activation function dari sebuah neuron adalah Linear. Jika sebuah neuron menggunakan linear function, maka keluaran dari neuron tersebut adalah weighted sum dari input + bias.
Sigmoid & Tanh Function
Sigmoid function mempunyai rentang antara 0 hingga 1, sedangkan rentang dari Tanh adalah -1 hingga 1. Kedua fungsi ini biasanya digunakan untuk klasifikasi 2 class atau kelompok data.
ReLu (Non Linear)
ReLu melakukan "treshold" dari 0 hingga infinity.
Fungsi Aktivasi
Macam-macam fungsi aktivasi yang dipakai untuk mengaktifkan net diberbagai jenis neural network yakni:
Model Perceptron
Model perceptron adalah model jaringan yang terdiri dari beberapa unit masukan (ditambah dengan sebuah bias), dan memiliki sebuah unit keluaran. Fungsi aktivasi bukan hanya merupakan fungsi biner (0,1) melainkan bipolar (1,0,-1).
Perceptron Rule
Algoritma yang digunakan oleh aturan perceptron ini akan mengatur parameter-parameter bebasnya melalui proses pembelajaran. Fungsi aktivasi ini dibuat sedemikian rupa sehingga terjadi pembatasan antara daerah positif dan daerah negatif.
Tahapan Algoritma Perceptron
Inisialisasi semua bobot dan bias (umumnya wi = b = 0)
Selama ada element vektor masukan yang respon unit keluarannya tidak sama dengan target, lakukan:
Algoritma Perceptron Rule
Untuk tiap iterasi, semua data input harus diuji. W (baru) dan Bias (baru) akan digunakan untuk pengujian data berikutnya.