Neural Network

Neural network adalah model yang terinspirasi oleh bagaimana neuron dalam otak manusia bekerja. Tiap neuron pada otak manusia saling berhubungan dan informasi mengalir dari setiap neuron tersebut.

Berikut adalah beberapa  bagian pada Neuron scheme :

-Dendrit (Dendrites) berfungsi untuk mengirimkan impuls yang diterima ke badan sel syaraf.

-Akson (Axon) berfungsi untuk mengirimkan impuls dari badan sel ke jaringan lain.

-Sinapsis berfungsi sebagai unit fungsional di antara dua sel syaraf.

Struktur Neural Network

Karakteristik dari ANN (Artificial Neural Network) dilihat dari pola hubungan antar neuron, metode penentuan bobot dari tiap koneksi, dan fungsi aktivitasnya. Gambar di atas menjelaskan struktur ANN secara mendasar, yang dalam kenyataannya tidak hanya sederhana seperti itu.

-Input, berfungsi seperti dendrite

-Output, berfungsi seperti akson

-Fungsi aktivasi, berfungsi seperti sinapsis.

Activation Function

Activation Function berfungsi untuk menentukan apakah neuron tersebut harus "aktif" atau tidak berdasarkan dari weighted sum dari input. Secara umum terdapat 2 jenis activation function yaitu Linear dan Non-Linear Activation function.

Linear Function

Secara "default" activation function dari sebuah neuron adalah Linear. Jika sebuah neuron menggunakan linear function, maka keluaran dari neuron tersebut adalah weighted sum dari input + bias.

Sigmoid & Tanh Function

Sigmoid function mempunyai rentang antara 0 hingga 1, sedangkan rentang dari Tanh adalah -1 hingga 1. Kedua fungsi ini biasanya digunakan untuk klasifikasi 2 class atau kelompok data.

ReLu (Non Linear)

ReLu melakukan "treshold" dari 0 hingga infinity.

Fungsi Aktivasi

Macam-macam fungsi aktivasi yang dipakai untuk mengaktifkan net diberbagai jenis neural network yakni:

Model Perceptron

Model perceptron adalah model jaringan yang terdiri dari beberapa unit masukan (ditambah dengan sebuah bias), dan memiliki sebuah unit keluaran. Fungsi aktivasi bukan hanya merupakan fungsi biner (0,1) melainkan bipolar (1,0,-1).

Perceptron Rule

Algoritma yang digunakan oleh aturan perceptron ini akan mengatur parameter-parameter bebasnya melalui proses pembelajaran. Fungsi aktivasi ini dibuat sedemikian rupa sehingga terjadi pembatasan antara daerah positif dan daerah negatif.

Tahapan Algoritma Perceptron

Inisialisasi semua bobot dan bias (umumnya wi = b = 0)

Selama ada element vektor masukan yang respon unit keluarannya tidak sama dengan target, lakukan:

Algoritma Perceptron Rule

Untuk tiap iterasi, semua data input harus diuji. W (baru) dan Bias (baru) akan digunakan untuk pengujian data berikutnya.

Klasivikasi SVM Support Vector Machine

 Assalamualaikum warahmatullahi wabarakatuh...

Halo teman teman semua pada blog sebelumnya kita telah membahas Decision Tree dan untuk judul kali ini kita akan membahas klasifikasi dari SVM atau Support Vector Machine.

SVM atau Support Vector Machine adalah yaitu hyperlane terbaik yang berfungsi sebagai pemisah dua kelas data. Tujuan utama dari model klasifikasi SVM adalah mencari hyperplane maksimum. Ide sederhana dari SVM adalah memaksimalkan margin, yang merupakan jarak pemisah antara kelas data. SVM mampu bekerja pada dataset yang berdimensi tinggi dengan menggunakan kernel trik. SVM hanya menggunakan beberapa titik data terpilih yang berkontribusi untuk membentuk model yang akan digunakan dalam proses klasifikasi.

-Decision Boundary yaitu pemisah antar class (hyperplane).

-Margin yaitu jarak terdekat dari decision boundary dengan data yang ingin dipisahkan.

-Support Vector yaitu anggota kelas yang berperan untuk menentukan margin.

Kasus itu tidak serta merta tampilannya mudah seperti gambar sebelumnya. Faktanya  di lapangan, data bisa rapat-rapat, data dapat menumpuk-numpuk, sehingga tidak semudah pada gambar sebelumnya dalam membuat pemisahnya. Bentuk datanya juga bisa acak-acak dan belum tentu juga ada dua kelas yang dipisahkan.

Datanya bisa berbentuk melingkar seperti gambar di bawah ini , sehingga kita tidak dapat langsung menarik garis diagonal untuk membuat pemisahnya. Oleh sebab itu kita dapat menggunakan cari lain untuk membuat pemisahnya dengan cara Lineary Inspereable & Kernel Trick. Kernel Trick ini menggunakan fungsi-fungsi, jadi pemisahnya tidak hanya berupa garis tetapi bisa berupa parabola, lingkaran, dan lain sebagainya.

Pada kasus seperti gambar di atas, ketika dipisahkan dengan sebuah kernel, pemisahnya menjadi 3 dimensi (x, y, dan z). Hasilnya seperti gambar berikut:

CONTOH : 

Hasilnya : 

Klasifikasi Decision Tree

Assalamualaikum warahmatullahi wabarakatuh...

Halo teman teman semua pada blog sebelumnya kita telah membahas klasifikasi Naive Bayes dan untuk judul kali ini kita akan membahas klasifikasi dari Decision Tree. 

Decision Tree adalah model klasifikasi yang menggunakan struktur pohon, dimana tiap node mempresentasikan atribut dan cabangnya mempresentasikan nilai dari atribut, sedangkan daunnya digunakan untuk mempresentasikan kelas.

Berikut contoh dari model klasifikasi Decision Tree 

Dari data tersebut, terdapat 4 atribut (nilai x) yaitu age, income, student dan credit rating. Kelas nilai y pada data tersebut adalah buys computer dimana ada 2 kelas  yaitu yes dan no. Dan yang menjadi root (akar) pada data tersebut adalah age.

Terdapat empat tahapan algoritma decision tree, antara lain sebagai berikut:

1.    Menyiapkan data training

2.    memilih atribut sebagai akar

3.    Membuat cabang untuk tiap-tiap nilai

4.    Mengulangi proses untuk setiap cabang sampai semua kasus pada cabang memiliki kelas yang  sama.

Untuk memperjelas uraian tersebut dapat kita liat pada contoh berikut ini :

- Mempersiapkan data trainning

- Memilih atribut sebagai akar 

Untuk memilih atribut akar, berdasarkan pada nilai Gain tertinggi dari atribut-atribut yang ada. Untuk mendapatkan nilai Gain, harus ditentukan terlebih dahulu nilai Entropy berikut adalah rumusnya :

Dalam menghitung Entropy dan Gain Akar, agar dapat mempermudah kita dalam melakukan perhitungan, kita dapat membuat menggunakan excel seperti gambar berikut:

[Setelah Dirapikan]

[Setelah dimasukan kedalam rumus excel]

Berikut ini adalah perhitungan pada Entropy akar : 

Untuk menghitung Gain Akar dapat kita lihat pada gambar di bawah ini :

 Node 1, dapat kita ketahui bahwa atribut dengan Gain tertinggi adalah HUMADITY yaitu sebesar 0.37051. Dengan demikian HUMADITY dapat menjadi node akar.