PROPOSAL PENELITIAN DANA ITS TAHUN 2020

Pengembangan Metode Vector Support Machine (SVM) untuk klasifikasi Data Multinomial

menggunakan preprocessing Reduksi Dimensi

Tim Peneliti :

R Mohamad Atok, SSi, MSi, PhD (Departemen Aktuaria-FSAD) Imam Safawi Ahmad SSi, MSi (Departemen Aktuaria- FSAD)

LEMBAGA PENELITIAN DAN PENGABDIAN KEPADA MASYARAKAT

INSTITUT TEKNOLOGI SEPULUH NOPEMBER

SURABAYA 2020

2

Daftar Isi

BAB I RINGKASAN 7

BAB II PENDAHULUAN 7

A Rumusan Masalah 8

B Tujuan 9

C Manfaat Penelitian 9

BAB III TINJAUAN PUSTAKA 9

A Support Vector Machine 9

B Support Vector Machine pada Kasus Bisa dibagi secara linear 10

C Support Vector Machine pada Kasus tidak Bisa dibagi secara linear 13

D Kernels 15

E Evaluasi Performansi 17

BAB IV METODOLOGI 18

A Sumber Data 18

B Variabel 18

C Langkah Kajian 20

BAB V JADWAL 21

A Jadwal Penelitian 21

B Rencana Anggaran Belanja 22

BAB VI DAFTAR PUSTAKA 23

BAB VII LAMPIRAN 24

3

A Biodata Ketua Peneliti 24

B Biodata Anggota Peneliti 25

C Surat Pernyataan Kesediaan Anggota Tim Penelitian 26

4

Daftar Tabel

Tabel 1 Confusion Matrix 17

Tabel 2 Variabel Penelitian 18

Tabel 3 Jadwal Penelitian 21

Tabel 4 Anggaran Biaya Penelitian 22

5

Daftar Gambar

Gambar 1 Peta Jalan Penelitian 8

Gambar 2 Ilustrasi two mapping dalam support vector machine 10

Gambar 3 Ilustrasi hyperplane yang mungkin pada suatu pengklasifikasian 10

Gambar 4 Ilustrasi hyperplane x^T w+b=0, margin untuk bisa dibagi secara

linear (kiri) dan tidak bisa dibagi secara linear (kanan) 11

6

Daftar Lampiran

A Biodata Ketua Peneliti 24

B Biodata Anggota Peneliti 25

C Surat Pernyataan Kesediaan Anggota Tim Penelitian 26

7

Pengembangan Metode Vector Support Machine (SVM) untuk klasifikasi

Data Multinomial menggunakan preprocessing Reduksi Dimensi

Studi kasus: Klasifikasi Data Pelanggan Listrik Rumah Tangga bersubsidi Kota Surabaya

BAB I. RINGKASAN

Klasifikasi data menggunakan SVM relatif lebih baik dibandingkan beberapa metode lain, baik klasik

maupun yang menggunakan Machine Learning. Salah satu masalah dalam SVM adalah proses yang

dilakukan sangat lama. Hal itu menyebabkan klasifikasi yang mensyaratkan kecepatan waktu kadang

mengabaikan metode ini. Salah satu masalah adalah pada kasus multinomial yang biasa diselesaikan

dengan cara one-versus-one (OVO) atau one-versus-all (VOA) semakin membuat SVM semakin

memakan waktu. Usulan perbaikan dari segi reduksi dimensi menjadi salah satu pilihan untuk

mengurangi waktu proses klasifikasi. Disisi lain masalah reduksi menggunakan metode unsupervised

dan data non metrik menjadi kendala tersendiri. Kasus Pelanggan Listrik PLN segmen Rumah Tangga

merupakan salah satu kasus menarik untuk klasifikasi multinomial.

Kata-kata kunci: Support Vector Machine (SVM), Klasifikasi, Multinomial

BAB II. PENDAHULUAN

Salah satu upaya pemerintah Indonesia dalam membantu penyediaan listrik yang merata yaitu

dengan adanya pemberian bantuan subsidi listrik untuk masyarakat yang kurang mampu,

sebagaimana yang telah diatur dalam Undang-Undang Nomor 30 Tahun 2007 yang membahas

mengenai energi dan Undang-Undang Nomor 30 Tahun 2009 yang membahas tentang

ketenagalistrikan. Menurut Kementrian Energi dan Sumber Daya Mineral (2017) ketentuan

pemberian bantuan subsidi listrik kepada seluruh sektor rumah tangga dengan daya 450 VA

dan 900 VA yang berupa penetapan tarif listrik yang lebih rendah berdasarkan status ekonomi

sosial dalam rangka memenuhi kebutuhan penggunaan listrik bagi masyarakat yang kurang

mampu atau tergolong miskin. Namun dalam pelaksanaannya, program pemberian bantuan

subsidi listrik masih terdapat kendala yaitu berupa pemberian bantuan yang tidak tepat sasaran,

khususnya pada sektor rumah tangga dengan daya 900 VA.

Menurut data Badan Pusat Statistik (2018) menyatakan bahwa persentase rumah tangga yang

menggunakan listrik dari PLN sebagai sumber penerangan adalah sebesar 99,74 persen,

sedangkan persentase penduduk miskin pada Maret 2018 mencapai 4,88 persen atau terdapat

sebanyak 140,81 ribu penduduk miskin di kota Surabaya. Seperti yang sudah diketahui bahwa

penduduk miskin berhak untuk menerima subsidi listrik sebagai bentuk bantuan pemerintah

dalam meningkatkan kesejahteraan perekonomian, sehingga semakin tinggi persentase

penduduk miskin maka akan semakin besar pula anggaran yang dibutuhkan.

Penelitian terkait dilakukan oleh Somantri, Sungkar, & Sasmito (2015) yaitu berupa

perbandingan hasil klasifikasi menggunakan metode C.45, k-NN, Naïve Bayes (NB), dan

Support Vector Machine (SVM) terhadap penanganan gangguan jaringan distribusi listrik 20

KV. Widiawati dan Atok (2017) membandingkan SVM dan Naïve Bayes Classifier untuk

analisis pelanggan PLN segmen rumah tangga. Kedua penelitian menunjukkan bahwa SVM

memberikan kinerja relatif lebih baik tetapi dengan catatan masalah waktu pemodelan yang

sangat lama. Sedangkan Astuti, Purnami dan Atok (2019) menggunakan kombinasi SVM

8

dengan Estreme Learning Machine (ELM) dengan preprocessing Discrete Wavelett Transform

(DWT) untuk optimalisasi pengenalan pola gelombang otak.

Metode SVM adalah salah satu metode dalam machine learning yang bisa melakukan prediksi

secara baik untuk kasus klasifikasi dan regresi (Vapnik, 1998). Prinsip SVM diawali dengan

klasifikasi linear yang selanjutnya dikembangkan dalam kasus non-linear dengan

menggunakan konsep kernel trick pada ruang kerja berdimensi tinggi (Cortes dan Vapnik,

1995). Pada kasus klasifikasi biner, konsep kerja dari SVM yaitu mencari hyperplane optimum

dengan meghasilkan nilai maksimum margin yang memisahkan antara dua kategori kelas

(Karpagachelvi et al., 2012).

Pada kasus data non metrik biner, secara umum SVM lebih unggul dibandingkan beberapa

metode lain. Sedangkan penggunaan data multinomial dengan lebih dari dua kelas diselesaikan

menggunakan one-versus-one atau one-versus-all (rest). Penyelesaian ini mengakibatkan

pembuatan variabel baru sebanyak kelas yang ada dalam variabel tersebut. Penambahan jumlah

variabel yang diakibatkan oleh pemecahan variabel multinomial menjadi variabel bertipe biner

menyebabkan kelambatan dalam pengklasifikasian. Penggunaan reduksi dimensi pada data

multinomial dimungkinan untuk mempercepat konvergensi dengan menjaga kualitas atau

cakupan informasi yang dikandung dalam data.

Gambar 1: Peta jalan penelitian

A. Rumusan Masalah

Berdasarkan tipe tujuan SVM dibagi dalam dua bagian, SVM dengan respon berskala

pengukuran metrik (interval/rasio) yang sering disebut dengan SVM untuk Regresi atau

Support Vector Regression (SVR) dan respon berskala pengukuran non metrik yang sering

disebut SVM untuk klasifikasi atau SVM saja. Dari skala pengukuran predictor ada beberapa

tipe yaitu biner (tidak memandang ordinal atau nominal), nominal lebih dari 2, ordinal lebih

SVM

biner multinomial

ordinal metrik

Hard

Soft

linear

radial

basis

funct

ion (

RBF),

and

sigmo

id

nonlinear

radial

basis func

tion (RBF

), and

sigmoid

polynomial

RBF

gaussian

sigmoid

9

dari 2 dan metrik (interval/rasio). Dalam penelitian ini difokuskan pada tipe data multinomial

untuk variabel prediktor.

B. Tujuan penelitian

1. Mencari teknik reduksi dimensi variabel predictor multinomial untuk preprocessing

metode SVM, khususnya menggunakan teknik Principal Component Analysis (PCA)

2. Pembandingan Metode reduksi data multinomial dengan beberapa metode yang sudah

ada (OVO dan OVA) untuk ketepatan klasifikasi.

3. Penerapan SVM dengan reduksi dimensi prediktor pada data Pelanggan Listrik Rumah

Tangga bersubsidi Kota Surabaya.

C. Manfaat Penelitian

Manfaat dari penelitian ini adalah pencarian metode paling efisien untuk klasifikasi multi

class untuk data nominal dan implementasinya pada identifikasi kelas pelanggan listrik

rumah tangga bersubsidi berdasarkan factor-faktor kemiskinan.

BAB III. TINJAUAN PUSTAKA

A. Support Vector Machine (SVM)

Support Vector Machine (SVM) pertama kali diperkenalkan oleh vapnik pada tahun

1960s sebagai metode klasifikasi dan sampai saat ini menjadi metode yang sering digunakan

dalam penelitian karena perkembangannya dalam teknik dan teori ditambah dengan

eksistensinya dalam regresi dan estimasi. SVM telah menjadi alternatif metode penyelesaian

permasalahan klasifikasi dalam machine learning dan data mining. Metode statistika klasik

akan menekan residual secara empirik. Berbeda dengan itu, SVM bertujuan meminimalkan

batas error dengan memaksimalkan margin hyperplane untuk mengelompokkan suatu data

(Purnami et al., 2009). Penerapan SVM telah diterapkan secara meluas di berbagai bidang

antara lain text categorization, speech recognition, remote sensing image analysis, time series

forecasting, information security (Deng et al.,2013).

SVM merupakan metode yang digunakan untuk mengelompokkan kasus linier dan

nonlinier. Algoritma dari SVM bekerja meggunakan mapping nonlinier untuk

mentransformasikan data training ke dimensi baru yang lebih tinggi. SVM akan mencari

hyperplane yang optimal untuk memisahkan label kelas yang satu dengan yang lainnya (Han

et al., 2012). SVM mencari hyperplane menggunakan support vector dan margins dijelaskan

oleh support vector. Hyperplane merupakan garis pembatas antar kelas sementara margin

merupakan jarak terpendek dari hyperplane dengan kedua sisi kelas (Han et al., 2012).

10

Pada dasarnya, SVM melakukan dua operasi matematika utama ketika memisahkan

suatu kelas yaitu sebagai berikut (Haykin, 2009) :

1. Nonlinear mapping dengan ruang sampel ditransformasi ke ruang feature yang

berdimensi tinggi yang disembunyikan dari input dan output.

2. Membentuk hyperplane untuk memisahkan titik-titik pada step pertama seperti pada

gambar

Gambar Error! No text of specified style in document.. Ilustrasi two mapping dalam support vector machine.

Sumber: Haykin. (2009)

B. Support Vector Machine pada Kasus Bisa dibagi secara linear

Misalkan suatu kasus terdiri dari dua kelas yang bisa dibagi secara linear, diberikan sebuah

data set D dengan 𝑆 = {(𝒙1, 𝑦1), (𝒙2, 𝑦2),… , (𝒙𝑛, 𝑦𝑛)}, dimana 𝒙𝑖 himpunan data yang

memiliki hubungan dengan 𝑦𝑖 (𝒙𝒊 ∈ 𝐑𝑛). Setiap 𝑦𝑖 dikategorikan +1 atau − 1 dengan kata

lain 𝑦𝑖 ∈ {+1,−1} dan (𝑦𝒊 ∈ 𝐑𝑛). Berikut adalah ilustrasi gambar dari dua kelas yang

berbeda yang dipisahkan oleh hyperplane.

Gambar 3 Ilustrasi hyperplane yang mungkin pada suatu pengklasifikasian

Sumber: Han et al. (2012)

Berdasarkan Gambar 3 terlihat bahwa terdapat dua pilihan hyperplane yang bisa

digunakan. Kedua bentuk hyperplane tersebut dapat menghasilkan nilai error yang berbeda,

tetapi tidak ada garansi bahwa kedua bentuk hyperplane tersebut akan menunjukkan hasil yang

11

sama baiknya saat memisahkan data baru (Tan dkk., 2005). Formula untuk menghitung

hyperplane dapat ditulisakan sebagai berikut (Han dkk., 2012).

𝒙𝑻𝒘+ 𝑏 = 0

Gambar 4 Ilustrasi hyperplane 𝑥𝑇𝑤 + 𝑏 = 0, margin untuk bisa dibagi secara linear (kiri)

dan tidak bisa dibagi secara linear (kanan)

Sumber: Hardle et al. (2014)

𝒘 adalah vektor bobot (weight vector) dengan 𝒘 = [𝑤1, 𝑤2, … , 𝑤𝑛]; dimana 𝑛 adalah

jumlah variabel dan 𝑏 adalah sebuah scalar yang sering disebut bias. Misalkan terdapat dua

training data 𝒙𝑻 = (𝑥1, 𝑥2). Apabila 𝑏 atau bias dituliskan sebagai 𝑤0, maka formula yang

diperoleh adalah sebagai berikut.

𝑤0 + 𝑤1𝑥1 + 𝑤2𝑥2 = 0

Formula yang yang membatasi hyperplane pada batas atas adalah sebagai berikut.

𝑤0 + 𝑤1𝑥1 + 𝑤2𝑥2 > 0

Formula yang yang membatasi hyperplane pada batas bawah adalah sebagai berikut.

𝑤0 + 𝑤1𝑥1 + 𝑤2𝑥2 < 0 )

Fase training dari mtode SVM termasuk melakukan estimasi parameter 𝑏 dan 𝒘 dari

data training. Parameter harus dipilih sedemikian mungkin sehingga dua kondisi berikut

terpenuhi. Penentuan vektor pendukung membutuhkan margin yang maksimal, margin

merupakan koridor diantara batas pemisah. Sehingga hyperplane yang menjelaskan kedua sisi

dari margin dengan setiap observasi 𝑖 = 1,2,⋯ , 𝑛 dapat dituliskan sebagai berikut.

𝑤0 +𝑤1𝑥1 + 𝑤2𝑥2 ≥ 1 untuk 𝑦𝑖 = +1 1

𝑤0 +𝑤1𝑥1 + 𝑤2𝑥2 ≤ 1 untuk 𝑦𝑖 = −1 2

Kondisi pada Gambar mengharuskan bahwa semua pengamatan yang dari kelas 𝑦𝑖 =

+1 pada Gambar harus berlokasi di atas hyperplane, sementara kelas 𝑦𝑖 = −1 pada Gambar

harus berlokasi di bawah hyperplane.

12

Setiap training tuples yang berada diantara persamaan 1 dan persamaan 2 disebut

support vector. Menentukan support vector dengan memilih nilai dari 𝒘 dan 𝑏 yang dapat

membuat margin menjadi maksimal. Margin dilambangkan dengan 𝑑− dan 𝑑+, dengan (+)

dan (−) menandakan kedua daerah dipisahkan oleh hyperplane (Hardle dkk., 2014). ‖𝐰‖

merupakan panjang vektor dari w atau dapat didefinisikan ‖𝐰‖ = √𝐰𝑇𝒘 =

√𝑤12 +𝑤1

2 +⋯+𝑤𝑝2. Nilai dari margin (d) dapat dihitung dengan mengurangi jarak tegak

lurus bidang pembatas kelas positif dari titik asal dengan jarak tegak lurus bidang pembatas

kelas negatif dari titik asal. Sehingga bidang pemisah (separating hyperplane) optimum

diperoleh dengan memaksimalkan persamaan 3, atau secara ekuivalen meminimalkan fungsi

obyektif berikut.

𝑑 =(1 − 𝑏) − (−1 − 𝑏)

‖𝒘‖=

2

‖𝒘‖ 3

Dari persamaan 3 dapat mengoptimumkan bidang pemisah (separating hyperplane)

sama dengan meminimalkan norm euclidean dari vektor bobot 𝒘 (Haykin, 2009). Optimasi

kuadratik untuk mencari hyperplane yang optimal dapat menggunakan fungsi lagrange

multipliers, berikut adalah fungsi lagrange multipliers.

𝐿𝑝(𝒘, 𝑏) =1

2‖𝒘‖2 −∑𝜶𝒊[𝒚𝑖(𝒙𝑖

𝑇𝒘+ 𝑏) − 1]

𝑛

𝑖=1

4

dimana 𝛼𝑖 disebut Lagrange multipliers, solusi untuk masalah optimasi ditentukan oleh titik

pelana dari fungsi Lagrange multipliers 𝐽(𝒘, 𝑏, 𝛼). Meminimalkan Langrangian dengan cara

mencari turunan pertama dari fungsi lagrange multipliers terhadap 𝒘 dan 𝑏 (Hardle dkk.,

2014).

𝜕𝐿𝑝(𝒘, 𝑏)

𝜕𝒘= 0

𝒘− ∑ 𝛼𝑖𝑦𝑖𝑛𝑖=1 𝒙𝑖 = 0 sehingga diperoleh 𝒘 = ∑ 𝛼𝑖𝑦𝑖

𝑛𝑖=1 𝒙𝑖

5

𝜕𝐿𝑝(𝒘,𝑏)

𝜕𝑏= 0 sehingga diperoleh ∑ 𝛼𝑖𝑦𝑖

𝑛𝑖=1 = 0

Setelah mencari turunan pertama terhadap 𝒘 seperti pada persamaan 5Error! Reference

source not found., kemudian persamaan tersebut disubstitusikan ke persamaan 4 untuk 𝒘 =

∑ 𝛼𝑖𝑦𝑖𝒙𝒊𝑛𝑖=1 , hasilnya sebagai berikut.

1

2‖𝒘‖2 =

1

2∑∑𝛼𝑖

𝑛

𝑗=1

𝑛

𝑖=1

𝛼𝑗𝑦𝑖𝑦𝑗𝒙𝒊𝑻𝒙𝒋

∑𝛼𝑖[𝑦𝑖(𝒙𝑖𝑇𝒘+ 𝑏) − 1]

𝑛

𝑖=1

=1

2∑𝛼𝑖𝑦𝑖𝒙𝒊

𝑻∑𝛼𝑗𝑦𝑖𝒙𝑗

𝑛

𝑗=1

𝑛

𝑖=1

−∑𝛼𝑖

𝑛

𝑗=1

13

=1

2∑𝛼𝑖𝑦𝑖𝒙𝒊

𝑻∑𝛼𝑗𝑦𝑖𝒙𝑗

𝑛

𝑗=1

𝑛

𝑖=1

−∑𝛼𝑖

𝑛

𝑗=1

Sehingga diperoleh lagrangian untuk dual problem adalah sebagai berikut.

max𝛼 𝐿𝐷(𝜶) =∑𝛼𝑖

𝑛

𝑗=1

−1

2∑∑𝛼𝑖

𝑛

𝑗=1

𝑛

𝑖=1

𝛼𝑗𝑦𝑖𝑦𝑗𝒙𝒊𝑻𝒙𝒋

Dengan 𝜶 vektor lagrange multiplier Setelah menyelesaikan dual problem, langkah berikutnya

yaitu melakukan klasifikasi objek dengan menggunakan formula berikut:

�̂�(𝑥) = 𝑠𝑖𝑔𝑛(𝒙𝑇�̂� + �̂�) dengan �̂� = ∑ �̂�𝑖𝑦𝑖𝒙𝒊𝑛𝑖=1

C. Support Vector Machine pada Kasus Tidak bisa dibagi secara linear

Sebelumnya sudah dibahas mengenai kasus yang memiliki pola bisa dibagi secara

linear, maka pada sub bab ini akan dilanjutkan dengan membahas kasus yang lebih rumit yaitu

pola tidak bisa dibagi secara linear. Pada dasarnya, SVM merupakan metode yang digunakan

untuk menyelesaikan permasalahan bisa dibagi secara linear, namun seiring berjalannya

waktu SVM dapat menyelesaikan kasus tidak bisa dibagi secara linear. Ilustrasi dari kasus

tidak bisa dibagi secara linear ditunjukan pada Gambar 4 sebelumnya.

Pada kasus tidak bisa dibagi secara linear terdapat penambahan variabel slack yang

dilambangkan dengan tanda "𝜉𝑖". Penambahan variabel slack untuk menunjukkan pinalti

terhadap ketelitian pemisahan yang memungkinkan suatu titik berada dalam margin error 0 ≤

𝜉𝑖 ≤ 1 (Hardle dkk., 2014). Selanjutnya formula yang didapat adalah sebagai berikut.

𝒙𝑇𝒘+ 𝑏 ≥ 1 − 𝜉𝑖 for 𝑦𝑖 = 1

𝒙𝑇𝒘+ 𝑏 ≥ −(1 − 𝜉𝑖) for 𝑦𝑖 = −1

𝜉𝑖 ≥ 0

Persamaan diatas dapat digabungkan menjadi fungsi constrain seperti berikut ini.

𝑦𝑖(𝒙𝑇𝒘+ 𝑏) ≥ 1 − 𝜉𝑖

𝜉𝑖 ≥ 0

Hukuman untuk kesalahan dalam pengelompokan yaitu berhubungan dengan jarak titik

kesalahan klasifikasi 𝑥𝑖 dari batas hyperplane. Apabila 𝜉𝑖 ≥ 0, kemudian terjadi kesalahan

dalam pemisahan kelas yang ada. Formula yang dapat digunakan untuk memaksimalkan

margin adalah sebagai berikut (Hardle dkk., 2014).

min𝒘,𝜉

1

2‖𝒘‖2 + 𝐶∑𝜉𝑖

𝑛

𝑖=1

14

Fungsi lagrange yang digunakan untuk menyelesaikan permasalahan primal adalah sebagai

berikut.

Lp(𝒘, 𝑏, 𝝃) =1

2‖𝒘‖2 + 𝐶∑𝜉𝑖

𝑛

𝑖=1

−∑𝛼𝑖

𝑛

𝑖=1

{𝑦𝑖(𝒙𝑇𝒘+ 𝑏) − 1 + 𝜉𝑖}

−∑𝜇𝑖𝜉𝑖

𝑛

𝑖=1

dimana 𝛼𝑖 ≥ 0 dan 𝜇𝑖 ≥ 0 adalah lagrange multipliers. Masalah primal dirumuskan dengan

meminimumkan fungsi langrange dengan mencari turunan pertama terhadap 𝒘, 𝑏, dan 𝝃.

Berikut adalah kondisi first-order:

𝜕𝐿𝑝(𝒘, 𝑏, 𝝃)

𝜕𝒘= 0; 𝒘 −∑𝛼𝑖𝑦𝑖𝒙𝒊

𝑛

𝑖=1

= 0 6

𝜕𝐿𝑝(𝒘, 𝑏, 𝝃)

𝜕𝑏= 0; ∑𝛼𝑖𝑦𝑖

𝑛

𝑖=1

= 0 7

𝜕𝐿𝑝(𝒘, 𝑏, 𝝃)

𝜕𝜉𝑖= 0; 𝐶 − 𝛼𝑖 − 𝜇𝑖 = 0 8

Berdasarkan persamaan 6, 7, dan 8 diperoleh fungsi constraints sebagai berikut:

𝛼𝑖 ≥ 0,

𝜇𝑖 ≥ 0,

𝛼𝑖{𝑦𝑖(𝒙𝑖𝑇𝒘+ 𝑏) − 1 + 𝜉𝑖} = 0,

𝜇𝑖𝜉𝑖 = 0

Sama dengan kasus bisa dibagi secara linear, apabila diketahui bahwa ∑ 𝛼𝑖𝑦𝑖𝑏 = 0𝑛𝑖=1 , maka

dari permasalahan primal dibawa kedalam penyelesaian permasalahan dual maka akan

diperoleh penyelesaian sebagai berikut (Hardle dkk., 2014).

𝐿𝐷(𝜶) =1

2∑∑𝛼𝑖𝛼𝑗𝑦𝑖𝑦𝑗𝒙𝑖

𝑇𝒙𝑗 −

𝑛

𝑗=1

𝑛

𝑖=1

∑𝛼𝑖𝑦𝑖𝒙𝑖𝑇

𝑛

𝑖=1

∑𝛼𝑗𝑦𝑗𝒙𝑗𝑇

𝑛

𝑗=1

+ 𝐶∑𝜉𝑖

𝑛

𝑖=1

+∑𝛼𝑖

𝑛

𝑖=1

−∑𝛼𝑖

𝑛

𝑖=1

𝜉𝑖 −∑𝜇𝑖

𝑛

𝑖=1

𝜉𝑖

=∑𝛼𝑖

𝑛

𝑖=1

−1

2∑∑𝛼𝑖𝛼𝑗𝑦𝑖𝑦𝑗𝒙𝑖

𝑇𝒙𝑗

𝑛

𝑗=1

𝑛

𝑖=1

+∑𝜉𝑖

𝑛

𝑖=1

(𝐶 − 𝛼𝑖 − 𝜇𝑖)⏟

0

max𝛼𝐿𝐷(𝜶) =∑𝛼𝑖

𝑛

𝑖=1

−1

2∑∑𝛼𝑖𝛼𝑗𝑦𝑖𝑦𝑗𝒙𝑖

𝑇𝒙𝑗

𝑛

𝑗=1

𝑛

𝑖=1

15

dimana fungsi constrain untuk permasalahan dual yaitu 0 ≤ 𝛼𝑖 ≤ 𝐶 dan ∑ 𝛼𝑖𝑦𝑖𝑛1 = 0.

Persamaan dual dapat diselesaikan dengan menggunakan quadratic programming secara

numerik untuk mencari nilai dari 𝛼𝑖 . Pengamatan 𝑥𝑖 untuk 𝛼𝑖 > 0 merupakan suatu titik

(support vector) yang berada diatas atau didalam margin ketika soft margin digunakan

(Scholkopf, 2002).

D. Kernels

Klasifikasi linier tidak cocok digunakan untuk beberapa permasalahan klasifikasi,

sehingga perlu dilakukan transformasi terhadap data yang ada. Transformasi linearly

separation ke nonlinearly separation dilambangkan dengan simbol Φ, melakukan transfomasi

dari n-dimensi pada vektor 𝑥 ke m dimensi vektor 𝑧 pada ruang Euclidean 𝑅𝑚, dapat di

ilustrasikan seperti berikut ini.

Φ: {𝑅𝑛 → ℋ

𝒙 = ([𝑥]1, . . , [𝑥]𝑛)𝑇 → 𝒛 = (𝑧1, 𝑧2, … )

T = Φ(𝑥) 9

dimana data training awal dan training setelah dilakukan transfomasi diberikan seperti

persamaan berikut.

Training awal: T = {(𝑥1, 𝑦1),… , (𝑥𝑛, 𝑦𝑛)}

Training setelah transformasi: TΦ = {(𝑧1, y1), … , (𝑧𝑛, y𝑛)}

dimana 𝑥𝑖 ∈ 𝑅𝑛, 𝑦𝑖 ∈ 𝑌 = {+1,−1}, 𝑖 = 1,2, … , 𝑛. Algoritma dari proses klasifikasi SVM

untuk kasus nonlinear separation adalah sebagai berikut.

1) Masukkan data training dengan T = {(𝑥1, 𝑦1), … , (𝑥𝑛, 𝑦𝑛)}, dimana 𝑥𝑖 ∈ 𝑅𝑛, 𝑦𝑖 ∈ 𝑌 =

{+1,−1}, 𝑖 = 1,2, … , 𝑛.

2) Memilih sebuah map yang tepat Φ: 𝒙 = Φ(𝒙) dari space 𝑅𝑛 ke dalam Hilbert space

dan parameter penalty 𝐶 > 0.

3) Menyusun dan menyelesaikan permasalahan convex quadratic programming dengan

menggunakan persamaan berikut.

min𝜶

1

2∑∑𝛼𝑖𝛼𝑗𝑦𝑖𝑦𝑗 (Φ(𝒙𝒊).Φ(𝒙𝒋)) −∑𝛼𝑗

𝑛

𝑗=1

𝑛

𝑗=1

𝑛

𝑖=1

∑𝛼𝑖𝑦𝑖 = 0

𝑛

𝑖=1

0 ≤ 𝛼𝑖 ≤ 𝐶, 𝑖 = 1,2,⋯ , 𝑛

16

dengan 𝛼∗ = (𝛼1∗, ⋯ , 𝛼𝑛

∗)𝑇

4) Menghitung nilai 𝑏∗: memilih komponen 𝛼∗, 𝛼𝑗∗ ∈ (0, 𝐶)

𝑏∗ =∑𝑦𝑖

𝑛

𝑖=1

−∑𝑦𝑖𝛼𝑖∗

𝑛

𝑖=1

(Φ(𝒙𝒊).Φ(𝒙𝒋)) ;

5) Menyusun fungsi keputuasn dengan menggunakan persaman berikut

𝑓(𝒙) = 𝑠𝑖𝑔𝑛(𝑔(𝒙))

𝑔(𝒙) =∑𝑦𝑖𝛼𝑖∗

𝑛

𝑖=1

(Φ(𝒙𝒊) ∙ Φ(𝒙𝒋)) + 𝑏∗.

Pada kasus nonlinear, membutuhkan sebuah kernel yang berbeda untuk membentuk

suatu hyperplane. Fungsi kernel didefinisikan sebagai 𝑅𝑛 × 𝑅𝑛 yang dipanggil dengan kernel

𝑅𝑛 × 𝑅𝑛 seperti pada persamaan 9. Berikut adalah fungsi dasar kernel (Deng dkk., 2013).

𝐾(𝒙, 𝒙′) = (Φ(𝒙) ∙ Φ(𝒙′)) (2.1)

dimana (∙) merupakan inner product dari Hilbert space, untuk setiap 𝑥𝑖, ⋯ , 𝑥𝑛 ∈ 𝑅𝑛,

berdasarkan gram matrix (𝐾(𝒙𝒊, 𝒙𝒋))𝑛×𝑛

untuk 𝐾(𝒙, 𝒙′) = 𝑓(𝒙)𝑓(𝒙′), dengan 𝑓(∙) fungsi real

pada 𝑅𝑛. Setiap vektor 𝛼 = (𝛼1, ⋯ , 𝛼𝑙)𝑇𝜖𝑅𝑛, dari uraian tersebut fungsi kernel yang didapat

adalah sebagai berikut (Deng dkk., 2013).

𝜶𝑇(𝐾(𝒙, 𝒙′))𝑛×𝑛

𝜶 =∑∑𝛼𝑖𝛼𝑗𝐾(𝒙𝒊, 𝒙𝒋)

𝑛

𝑗=1

𝑛

𝑖=1

=∑∑𝛼𝑖𝛼𝑗𝑓(𝒙𝒊)𝑓(𝒙𝒋)

𝑛

𝑗=1

𝑛

𝑖=1

=∑𝛼𝑖𝑓(𝒙𝒊)∑𝛼𝑗𝑓(𝒙𝒋)

𝑛

𝑗=1

𝑛

𝑖=1

= (∑𝛼𝑖𝑓(𝒙𝒊)

𝑛

𝑖=1

)

2

≥ 0.

Matrik gram merupakan matrik positive semidefinite, oleh karena itu 𝐾(𝒙, 𝒙′) adalah kernel.

Terutama berlaku untuk 𝑓(𝒙) = √𝜶.

Berikut adalah beberapa fungsi kernel yang sering digunakan (Deng dkk., 2013; Scholkopf,

2002).

1) Kernel Linier

𝐾(𝒙, 𝒙′) = 𝒙′𝒙

2) Kernel Polynomial

17

𝐾(𝒙, 𝒙′) = (𝒙′𝒙 + 1)𝑑

3) Kernel Gaussian Radial Basis Function

𝐾(𝒙, 𝒙′) = 𝑒𝑥𝑝 (−‖𝒙 − 𝒙′‖2

2𝜎2)

E. Evaluasi Performasi

Evaluasi performa dari suatu metode dalam menyelesaikan suatu kasus harus dilakukan

untuk melihat seberapa besar kemampuan dari metode tersebut dalam menyelesaikan

permasalahan yang ada.

Tabel 1 Confusion matrix

Predicted Positive Predicted Negative

Actual Positive TP FN

Actual Negative FP TN

Sumber: Han et al. (2012)

Keterangan:

TP : True Positive (jumlah prediksi benar pada kelas positif)

TN : True Negative (jumlah prediksi benar pada kelas negatif)

FP : False Positive (jumlah prediksi salah pada kelas positif)

FN : False Negative (jumlah prediksi salah pada kelas negatif)

Tabel diatas merupakan tabel confusion matrix, confusion matrix merupakan suatau alat

untuk melakukan analisa seberapa baik metode klasifikasi dalam mengenali tuples dalam kelas

yang berbeda (Han dkk., 2012). Beberapa metode yang sering digunakan yaitu akurasi,

sensitivitas, spesifisitas, dan Area Under the Curve (AUC).

Akurasi merupakan suatu alat yang digunakan untuk menghitung ketepatan klasifikasi.

Sensitivitas merupakan ukuran performansi kelas positif, sedangkan spesifitas merupakan

ukuran performansi kelas negatif. Berikut adalah beberapa rumus yang digunakan untuk

menghitug akurasi, sensitivitas, spesifisitas, dan Area Under the Curve (Han dkk., 2012;

Sokolova dkk., 2006).

Akurasi =𝑇𝑃 + 𝑇𝑁

𝑇𝑃 + 𝐹𝑃 + 𝐹𝑁 + 𝑇𝑁 (2.2)

Sensitivitas =𝑇𝑃

𝑇𝑃 + 𝐹𝑁 (2.3)

18

Spesifisitas =𝑇𝑁

𝑇𝑁 + 𝐹𝑃 (2.4)

𝐴𝑈𝐶 =1

2(Sensitivitas + Spesitifitas) (2.5)

BAB IV. METODOLOGI

A. Sumber Data

Pada penelitian ini data yang digunakan adalah data sekunder yang diperoleh dari PT. PLN

(Persero) Distribusi Jawa Timur yaitu berupa data pelanggan rumah tangga dengan daya listrik

900 VA yang menerima subsidi listrik di Kota Surabaya sebanyak 27.555 pelanggan, dan data

yang rumah tangga miskin dengan penggunaan daya listrik 900 VA menurut BAPPEKO yaitu

sebanyak 70.195 rumah tangga.

B. Variabel Penelitian

Variabel penelitian yang digunakan pada penelitian ini ditampilkan pada Tabel 1.

Tabel 2. Variabel Penelitian

Variabel Nama variabel Keterangan Jenis

data

Y Status pelanggan listrik rumah

tangga miskin daya 900 VA

1. Tidak menerima subsidi

2. Penerima subsidi Nominal

X1 Status kepemilikan bangunan tempat

tinggal

1. Milik sendiri

2. Kontrak/sewa

3. Bebas sewa/dinas

Lainnya

Nominal

X2 Status kepemilikan lahan tempat

tinggal

1. Milik sendiri

2. Milik orang lain

3. Milik negara

4. Lainnya

Nominal

X3 Luas lantai Luas lantai rumah dalam

satuan m2 Rasio

X4 Jenis lantai terluas

1. Tanah

2. Semen/bata merah

3. Ubin/tegel

4. Keramik

5. Marmer/granit

6. Lainnya

Nominal

X5 Jenis dinding terluas

1. Bambu

2. Kayu

3. Tembok

4. Lainnya

Nominal

X6 Jenis atap terluas 1. Seng Nominal

19

2. Asbes

3. Genteng tanah liat

4. Genteng metal

5. Genteng keramik

6. Genteng beton

7. Lainnya

X7 Jumlah kamar tidur Jumlah kamar tidur yang

dimiliki Rasio

X8 Sumber air minum

1. Sumur terlindung

2. Sumur bor/pompa

3. Leding eceran

4. Leding meteran

5. Air isi ulang

6. Air kemasan bermerk

7. Lainnya

Nominal

X9 Kualitas atap terluas 1. Kualitas rendah

2. Kualitas tinggi Ordinal

X10 Cara memperoleh air minum

1. Tidak membeli

2. Membeli eceran

3. Langganan

Nominal

X11 Penggunaan fasilitas buang tinja

1. Tidak ada

2. Bersama

3. Umum

4. Pribadi

Nominal

X12 Bahan bakar memasak

1. Kayu bakar

2. Minyak tanah

3. Gas kota/biogas

4. Gas 3 kg

5. Gas >3 kg

5. Listrik

Nominal

X13 Kepemilikan lahan 1. Ya

6. Tidak Nominal

X14 Kepemilikan pemanas air (water

heater)

1. Ya

2. Tidak Nominal

X15 Kepemilikan sambungan telepon 1. Ya

2. Tidak Nominal

20

Tabel 2.. Variabel Penelitian (Lanjutan)

Variabel Nama variabel 1. Keterangan Jenis

data

X16 Kepemilikan lemari es 2. Ya

2. Tidak Nominal

X17 Kepemilikan televisi 1. Ya

3. Tidak Nominal

X18 Kepemilikan

komputer/laptop

1. Ya

2. Tidak Nominal

X19 Kepemilikan AC 1. Ya

2. Tidak Nominal

X20 Kepemilikan sepeda motor 1. Ya

2. Tidak Nominal

X21 Peserta program raskin 1. Tidak

2. Ya Ordinal

X22 Peserta PKH (Program

Keluarga Harapan)

1. Tidak

2. Ya Ordinal

X24 Kepemilikan Kartu Indonesia

Pintar

1. Tidak

2. Ya Ordinal

X25 Kepemilikan emas 10 gr 1. Ya

2. Tidak Ordinal

X26 Jumlah anggota keluarga 2. Jumlah anggota keluarga Rasio

X27 Status kesejahteraan (desil)

1. Kondisi kesejahteraan 10%

terendah

2. Kondisi kesejahteraan 11%

hingga 20% terendah

3. Kondisi kesejahteraan 21%

hingga 30% terendah

3. Kondisi kesejahteraan 31%

hingga 40% terendah

Ordinal

C. Langkah Kajian

1. Preprocessing data menggunakan reduksi dimensi

2. Eksplorasi data variabel tingkat status kesejahteraan rumah tangga miskin di Surabaya

3. Melakukan pemetaan persebaran penerima subsidi listrik di Surabaya.

4. Tahapan dalam Menyusun Algoritma SVM sebagai berikut:

1) Menentukan jumlah hidden neuron dan nilai constraint (C).

2) Menentukan fungsi aktivasi, misalkan menggunakan Gaussian sehingga diperoleh

𝑔(𝑥) = exp(−𝑥2), persamaan untuk 𝑔(𝑥).

3) Membangkitkan hidden node (vektor pembobot input) secara random dengan

menggunakan fungsi aktivasi.

4) Membangkitkan vektor 𝑒 yang berdimensi 𝑛 × 1 yang elemennya berisi 1.

21

5) Membangkitkan nilai Eϕ.

6) Menghitung nilai output.

7) Melakukan klasifikasi data.

8) Menghitung nilai akurasi, sensitivitas, spesifisitas dan AUC.

9) Mengulangi (1) sampai (8) sampai memperoleh nilai yang optimum.

BAB V. JADWAL DAN RANCANGAN ANGGARAN BIAYA

A. Jadwal Penelitian

Rencana penelitian akan dilakukan di Laboratorium Statistika Ekonomi, Finansial dan

Aktuaria, Jurusan Statistika selama delapan bulan (April-November 2020). Jadwal rencana

kegiatan penelitian, luaran dan penanggungjawab selengkapnya disajikan pada Tabel 3.

Tabel 3. Jadwal Penelitian selama 1 tahun (2018)

No. Aktivitas / Luaran /

Penanggungjawab

Bulan ke-

1 2 3 4 5 6 7 8

1

A: Studi Literatur dan identifikasi

masalah penelitian

L: Proposal Penelitian /Dasar Teori

P: R Mohamad Atok, PhD

2

A: Pengumpulan Data

L: Data Penelitian /

P: Imam Safawi Ahmad MSi,

Jemima

3

A: Pengolahan Data /

L: Model Statistik /

P: R. Mohamad Atok PhD, Jemima

4

A: Membuat laporan dan paper /

L: Laporan dan paper /

P: R. Mohamad Atok PhD

22

B. Rencana Anggaran Biaya

Daftar anggaran biaya untuk pelaksanaan penelitian selama satu (1) tahun disajikan pada Tabel

4

Tabel 4. Anggaran biaya untuk 1 tahun pelaksanaan penelitian

NO JENIS PENGELUARAN JUMLAH (Rp) Persentase

1. Studi Literatur Rp4.800.000 9,60%

2. Bahan Habis Pakai Rp4.200.000 8,40%

3. Pengumpulan Data dan Rapat

Penelitian

Rp15.300.000 30,60%

4. Pembuatan Dokumen Laporan, Rp2.700.000 5,40%

5. Penulisan Paper, Proofing Rp5.500.000 11,00%

6. Seminar Internasional Rp7.000.000 14,00%

7. Biaya Pengiriman Jurnal

Internasional

Rp5.000.000 10,00%

8. Revisi dan Proofing Paper untuk

Jurnal terindeks

Rp5.500.000 11,00%

JUMLAH Rp50.000.000 100,00%

23

BAB VI. RUJUKAN

Astuti, B.S.F, Purnami, S.W., dan Atok, R.M., Classify Epileptic EEG Signals using Extreme

Support Vector Machine for Ictal and Muscle Artifact Detection, Proceeding of International

Conference on Imaging, Signal Processing and Communication, Singapore, 2019.

Badan Pusat Statistik (BPS), "Berita Resmi Statistik : Profil Kemiskinan di Kota Surabaya

Tahun 2018," BPS Kota Surabaya, Surabaya, 2018.

Cortes, C. dan Vapnik, V. (1995), ""Support Vector Networks"", Machine Learning, Vol. 20,

No. 3, pp. 273-297.

Han, J., Kamber, M. dan Pei, J. (2012), Data Mining : Concepts and Technique 3rd edition,

Morgan Kaufman, USA.

Hardle, W.K., Prastyo, D.D. dan Hafner, C.M. (2014), ""Support Vector Machines with

Evolutionary Feature Selection for Default Pradiction"",dalam The Oxford Handbook of

Aplpied Nonparametric and Semiparametric Econometrics and Statistics, J. Racine,

A.S.d.A.U. , Oxford University Press, pp. 346-373.

Haykin, S. (2009), Neural Networks and Learning Machines, Perarson Education, Inc., Upper

Saddle River, New Jersey.

Karpagachelvi, S., Arthanari, M. dan Sivakumar, M. (2012), "Classification of

Electrocardiogram Signals with Support Vector Machines and Extreme Learning Machine",

Neural Comput & Applic, Vol. 21, pp. 1331-1339.

Kementrian Energi dan Sumber Daya Mineral, “Kebijakan Subsidi Listrik Tepat Sasaran

Rumah Tangga Daya 900 VA”, Direktorat Jendral Ketenagalistrikan, Jakarta, 2017.

Larose, D.T., Discovering Knowledge in Data : An Introduction to Data Mining, New York:

John Willey & Sons Inc, 2005.

Purnami, S.W., Embong, A., Zain, J.M. dan Rahayu, S.P. (2009), "A New Smooth Support

Vector Machine and Its Applications in Diabetes Disease Diagnosis", Journal of Computer

Science 5, Vol. 5, No. 12, pp. 1003-1008.

Scholkopf, B..d.S.A.J. (2002), "Learning with Kernels: Support Vector Machines,

Regularization, Optimization, and Beyond, MIT Press, Massachusetts.

Sokolova, M., Japkowicz, N. dan Szpakowicz, S. (2006), "Beyond Accuracy, F-score and

ROC: a Family of Discriminant Measures for Performance Evaluation", American Association

for Artificial Intelligence.

Somantri, O., M. S. Sungkar dan G. W. Sasmito, "Neural Network Untuk Klasifikasi

Penanganan Gangguan Jaringan Distribusi Listrik 20 KV," Konferensi Nasional Informatika

(KNIF) , Bandung, 2015.

Tan, P.-N., Steinbach, M. dan Kumar, V. (2005), Introduction to Data Mining, Person, Boston.

Widiawati, W.Y., dan, Atok, R.M., Analisis Klasifikasi Pelanggan Listrik Rumah Tangga

bersubsidi Surabaya Menggunakan SVM dan Naïve Bayes, 2017

24

BAB VII. LAMPIRAN

C. Biodata Ketua Tim Peneliti

1. Nama Lengkap : R. Mohamad Atok, M.Si., Ph.D

2. NIP : 197109151997021001

3. Fungsional/Pangkat/Gol. : Lektor / Penata / IIIc

4. Bidang Keahlian : Analisis data, time series, komputasi statistika,

penyelesaian data outlier, neural network

5. Departemen/Fakultas : Aktuaria/Sains dan Analitika Data

6. Alamat Rumah & No. Telp. : Perumahan Dosen ITS T27, Jl Hidrodinamika II,

Keputih, Sukolilo, Surabaya. Telp: 081331551312

7. Pengalaman Penelitian :

a. Kajian Metode Pengelompokan Big Data Berbasis Model untuk penentuan Subsidi

dengan implementasi Konsumen Listrik se Surabaya, 2018 (Ketua)

b. Pengelompokan Penduduk Miskin Surabaya berdasar Profil sosial ekonomi, 2019

(Ketua)

8. Publikasi

a. Classify Epileptic EEG Signals using Extreme Support Vector Machine for Ictal and

Muscle Artifact Detection

9. Tugas Akhir Bimbingan

a. Analisis Klasifikasi Pelanggan Listrik Rumah Tangga bersubsidi Surabaya

Menggunakan SVM dan Naïve Bayes (Widiawati)

b. Analisis Pemilihan Model Klasifikasi Pelanggan Listrik Rumah Tangga Penerima

Subsidi di Kota Surabaya Menggunakan Metode CART, Naïve Bayes, dan Regresi

Logistik (Lestari)

10. Tesis Bimbingan

a. Extreme Support Vector Machine untuk Deteksi Artifact pada Perekaman Sinyal

EEG Penderita Epilepsi (Astuti)

Demikian biodata ini saya buat dengan sebenarnya untuk memenuhi persyaratan sebagai salah

satu syarat pengajuan hibah penelitian.

Surabaya, 07 Maret 2020

Ketua Peneliti,

(R. Mohamad Atok, M.Si., Ph.D)

NIP. 197109151997021001

25

D. Biodata Anggota Tim Peneliti

1. Nama Lengkap : Imam Safawi Ahmad, S.Si., M.Si

2. NIP : 198102242014041001

3. Fungsional/Pangkat/Gol. : Asisten Ahli/Penata Muda/IIIb

4. Bidang Keahlian : Statistika Ekonomi, Finansial dan Aktuaria

5. Departemen/Fakultas : Aktuaria/Sains dan Analitika Data

6. Alamat rumah dan Telp : Jl. Karangrejo Sawah III No. 40 Wonokromo Surabaya/

081330066446

7. Pengalaman Penelitian :

a. Kajian Metode Pengelompokan Big Data Berbasis Model untuk penentuan Subsidi

dengan implementasi Konsumen Listrik se Surabaya, 2018 (Anggota)

b. Pengelompokan Penduduk Miskin Surabaya berdasar Profil sosial ekonomi, 2019

(Anggota)

8. Publikasi :

a. Spatial Simultaneous Equation Model: Case Study Empirical Analysis of Regional

Economic Growth in Central Java

b. Forecasting of monthly inflow and outflow currency using time series regression

and ARIMAX: The Idul Fitri effect.

Surabaya, 07 Maret 2020

Anggota Peneliti

Imam Safawi Ahmad, SSi, MSi.

26

E. Surat Pernyataan Kesediaan Anggota Tim Penelitian

Yang bertanda tangan di bawah ini kami:

Nama : Imam Safawi Ahmad, SSi, MSi.

NIP : 19810224 201404 1 001

Jurusan / Fakultas : Statistika/FMIPA

menyatakan bersedia untuk melaksanakan tanggung jawab sebagai anggota tim

penelitian:

Judul Penelitian : Pengembangan Metode Vector Support Machine

(SVM) untuk klasifikasi Data Multinomial

menggunakan preprocessing Reduksi Dimensi .

Ketua Tim Peneliti : R Mohamad Atok, Ph.D

dengan tugas: membantu membuat proposal, Eksplorasi Data, Membuat program R,

membantu membuat jurnal internasional dan makalah seminar, membantu membuat laporan

akhir

Surat pernyataan ini kami buat dengan sebenarnya untuk digunakan seperlunya.

Surabaya, 07 Maret 2020

Yang membuat pernyataan

Imam Safawi Ahmad, SSi, MSi.