PRINCIPAL COMPONENT ANALYSIS (PCA)SEBAGAI SALAH SATU METODE UNTUK MENGATASI

PELANGGARAN ASUMSI MULTIKOLINIERITAS

Disusun Oleh :Anggun Yuliarum Q. (105090500111009)Carlin Soniawinda (105090500111013)Reta Yulia Pratiwi (105090500111015)

Definisi Multikolinieritas

Multikolinearitas berkenaan dengan terdapatnya lebih dari satu hubungan linear pasti. Multikolinieritas menyebabkan regresi tidak efisien atau penyimpangannya besar.

Terdapat 2 Sifat dari Multikolinieritas

• Multikolinearitas Sempurna maka koefisien regresi menjadi tak tentu dan kesalahannya tak terhingga

• Multikolinearitas Kurang Sempurna maka koefisien regresi walaupun masih bisa ditentukan, namun memilihi kesalahan standar yang besar (bila dibandingkan dengan koefisien regresi itu sendiri), akibatnya koefisien tidak dapat ditaksir dengan ketepatan yang tinggi.

Pendeteksian Multikolinieritas

Multikolinieritas dapat diperiksa dengan melihat nilai Variance Inflation Factors (VIF). Apabila salah satu dari nilai VIF Lebih dari 10, maka dapat diidentifikasikan bahwa peubah Xi berhubungan erat dengan peubah-peubah X lainnya atau dengan kata lain terdapat masalah multikolinearitas. Nilai faktor inflasi ragam dapat juga dihitung berdasarkan rumus :

Keterangan:Ri

2 : koefisien determinan yang diperoleh jika peubah Xi diregresikan dengan (p-1) peubah prediktor lainnya.

Penanganan Multikolinieritas Dengan Analisis Komponen Utama (PCA)

1) Untuk menghitung komponen utama yang merupakan kombinasi linear dari beberapa peubah X

2) Peubah tak-bebas diregresikan pada komponen utama dalam sebuah model regresi linear.

Contoh Terapan

Berikut ini suatu contoh kasus yang diambil dari skripsi Nanang Pradipta (2009) dengan judul “Metode Regresi Ridge untuk Mengatasi Model Regresi Linier Berganda yang Mengandung Multikolinieritas”.

Keterangan:Y : harga barang import (miliar Franc)X1 : harga barang yang dipesan (miliar Franc)X2 : persediaan barang (miliar)X3 : jumlah barang yang dikonsumsi (miliar)

Hasil analisis:Pendeteksian Multikolinieritas dilakukan dengan bantuan software Minitab 14. Suatu model regresi dikatakan memenuhi asumsi multikolinieritas apabila terdapat peubah yang memiliki nilai VIF > 10. Berikut output yang dihasilkan.

Penanganan Multikolinieritas dengan Analisis Komponen Utama

VIF > 10 Maka Terjadi Multikolinieritas

Langkah-langkah Penanganan:1. Langkah pertama yang harus dilakukan adalah

mentransformasi data dalam bentuk baku. 2. Kemudian dilakukan analisis komponen utama

(PCA) pada data yang telah dibakukan dan output yang dihasilkan adalah sebagai berikut.

Sehingga menghasilkan persamaan komponen utama yaitu

Lanjutan…

3. Pendeteksian multikolinearitas dengan peubah prediktor komponen utama PC1, PC2, dan PC3.

VIF < 10 Maka Tidak Terjadi Multikolinieritas

Lanjutan…

• Dari output di atas diperoleh persamaan regresi Y = 30.1 + 8.48 PC1 + 1.60 PC2 + 5.8 PC3. Dengan mensubstitusikan persamaan komponen utama ke persamaan regresi yang baru, maka diperoleh :

• Y = 30.1 + 8.48 (0.681 Z1 + 0.270 Z2 + 0.681 Z3) + 1.60 (0.190 Z1 - 0.963 Z2 + 0.192 Z3) + 5.8 (-0.707 Z1 + 0.001 Z2 + 0.707 Z3).

= 30.1 + 1.9783 Z1 + 0.8410 Z2 + 10.1827 Z3

Lanjutan…4. Proses interpretasi yang melibatkan regresi komponen utama

ini harus melalui beberapa operasi untuk mengembalikan prediktor menjadi peubah asal sebagai berikut.

Jadi, diperoleh model regresi dengan peubah prediktor asal yaitu

Kesimpulan

• Asumsi non-multikolinearitas mengharuskan bahwa tidak boleh ada hubungan linier antara sesama peubah prediktor

• Pendeteksian multikolinieritas salah satunya dapat dilakukan dengan menggunakan nilai VIF.

• Penanganan multikolinieritas dapat dilakukan salah satunya dengan menggunakan analisis komponen utama

• Dari contoh kasus yang telah dianalisis diperoleh model regresi dengan peubah prediktor asal yaitu