Regresi Linear Ganda

Oleh:Wirda Sari Siburian (1314105013)

Novelina Purba (1314105014)Kristina E Manik (1314105017)

Marswendo Hutauruk (1314105019)

Defenisi

Analisis regresi merupakan salah satu teknik analisis data dalam statistika yang seringkali digunakan untuk mengkaji hubungan antara beberapa variabel dan meramal suatu variabel (Kutner, Nachtsheim dan Neter, 2004).

(Kutner et.al, 2004).

Untuk mendapatkan model regresi linier sederhana maupun model regresi linier berganda dapat diperoleh dengan melakukan estimasi terhadap parameter-parameternya menggunakan metode tertentu.

Adapun metode yang dapat digunakan untuk mengestimasi parameter model regresi linier sederhana maupun model regresi linier berganda adalah

metode kuadrat terkecil (ordinary least square/OLS)

metode kemungkinan maksimum (maximum likelihood estimation/MLE)

Bentuk umum model regresi linier berganda dengan k variabel bebas adalah seperti pada persamaan berikut ( Kutner, Nachtsheim dan Neter, 2004).𝑌𝑖= a + b1 X1 + b2 X2 +….bkXk + e

Dimana:Y = variabel terikat a = konstanta b1,b2…bk = koefisien regresi X1, X2…Xk = variabel bebase = sisa (error) untuk pengamatan ke-i yang diasumsikan berdistribusi normal yang saling bebas dan identik dengan rata-rata 0 (nol) dan variansi .

Contoh: Seorang Manajer Pemasaran deterjen merek “ATTACK” ingin mengetahui apakah Promosi dan Harga berpengaruh terhadap keputusan konsumen membeli produk tersebut?

Tabel Pembantu

PENGUJIAN PARAMETER MODEL REGRESI LINIER BERGANDA

Pengujian parameter ini bertujuan untuk mengetahui ada atau tidaknya pengaruh variabel bebas terhadap variabel tidak bebas, baik secara serentak maupun secara parsial.

Prosedur pengujian parameter secara serentak adalah sebagai berikut:1.Membuat hipotesis.H0 : Variabel X1, X2, …, Xk secara simultan tidak berpengaruh terhadap variabel tidak bebasH1 : Variabel X1, X2, …, Xk secara simultan berpengaruh

terhadap variabel tidak bebas

2. Menentukan tingkat signifikansi (α).Tingkat signifikansi (α) yang seringkali digunakan dalam penelitian adalah 5%.

3. Menentukan statistik uji.Statistik uji yang digunakan adalah:

dengan:RKReg adalah rata-rata kuadrat regresi (dapat diperoleh dari Tabel Analisis Variansi).RKEror adalah rata-rata kuadrat error (dapat diperoleh dari Tabel Analisis Variansi).

4. Menentukan daerah kritik (penolakan H0).Daerah kritik yang digunakan adalah H0 ditolak bila

Selain dari daerah kritik di atas, dapat juga digunakan daerah kritik yang lain yaitu jika nilai peluang (Sig.) < tingkat signifikansi (α), maka H0 ditolak.

5. Menarik kesimpulan.

F = 𝑅𝐾𝑅𝑒𝑔𝑅𝐾𝐸𝑟𝑜𝑟

Fhit > F (α; p-1, n-p)

Dari contoh sebelumnya : Seorang Manajer Pemasaran deterjen merek “ATTACK” ingin mengetahui apakah Promosi dan Harga berpengaruh terhadap keputusan konsumen membeli produk tersebut?

Prosedur pengujian parameter secara parsial adalah sebagai berikut:1.Membuat hipotesis•H0 : Variabel bebas ke-k tidak berpengaruh terhadap variabel tidak bebas•H1 : Variabel bebas ke-k berpengaruh terhadap variabel tidak bebas untuk k = 1, 2, …, p-1.

2. Menentukan tingkat signifikansi (α).Tingkat signifikansi (α) yang seringkali digunakan dalam penelitian adalah 5%.

3. Menentukan statistik uji.Statistik uji yang digunakan adalah:bk adalah nilai taksiran parameter βk(yang diperoleh dari

metode OLS).S(bk ) adalah standar deviasi nilai taksiran parameter βk.

4. Menentukan daerah kritik (penolakan H0).Daerah kritik yang digunakan adalah:

• H0 ditolak bila thit > ttabel atau thit <- ttabel

Selain dari daerah kritik di atas, dapat juga digunakan daerah kritik yang lain yaitu jika nilai peluang (Sig.) < tingkat signifikansi (α), maka H0 ditolak.

5. Menarik Kesimpulan

t = 𝑏𝑘𝑆( 𝑏𝑘 )

ASUMSI-ASUMSI MODEL REGRESI LINIER BERGANDA

Menurut Gujarati (2003) asumsi-asumsi pada model regresi linier berganda adalah sebagai berikut:

ESTIMASI PARAMETER MODEL REGRESI LINIER BERGANDA

Estimasi parameter ini bertujuan untuk mendapatkan model regresi linier berganda yang akan digunakan dalam analisis.Pada materi ini, metode yang bahas untuk mengestimasi parameter model regresi linier berganda adalah metode kuadrat terkecil atau sering juga disebut dengan metode ordinary least square (OLS). Metode OLS ini bertujuan meminimumkan jumlah kuadrat error.

Penaksir(estimator) OLS untuk adalah sebagai berikut (Kutner, et.al., 2004):

Penaksir OLS pada persamaan di atas merupakan penaksir yang tidak bias, linier dan terbaik (best linear unbiased estimator/BLUE) (Sembiring, 2003; Gujarati, 2003; Greene, 2003 dan Widarjono, 2007).

B =(XTX)-1 XTY

PELANGGARAN-PELANGGARAN TERHADAP ASUMSI REGRESI LINIER BERGANDA

Dalam analisis regresi linier berganda terdapat beberapa pelanggaran-pelanggaran yang seringkali dilakukan terhadap asumsi-asumsinya, diantaranya diuraikan berikut ini.

Uji Multikolinearitas

Uji Heteroskedastisitas

Autokorelasi

Normalitas

Uji multikolinieritas digunakan untuk menguji apakah pada model regresi ditemukan adanya korelasi antar variabel bebas. Model regresi yang baik seharusnya tidak terjadi korelasi di antara variabel bebas.

Uji Multikolinearitas

Multikolinieritas dapat dideteksi dengan:

Solusi untuk kasus multikolinearitas dapat diatasi dengan metode: stepwise regression, principal component regression, ridge regression ,dll (Gujarati, 2003 dan Widarjono, 2007).

Perhitungan MultikolinieritasMultikolinieritas terjadi jika terdapat korelasi yang tinggi antar variabel bebas. Perhitungan dilakukan dengan korelasi pearson, yaitu:

n

ii

n

ii

n

iii

xx

xxxx

xxxxr

1

222

1

211

12211

,

)()(

))((

21

549.077.176

01.97

30.24150.129

01.9721 ,

xxr

Pengujian Manual VIF• Hitung nilai korelasi antar varibel bebas (r)• Kuadratkan nilai korelasi antar variabel bebas (r2).• Hitung nilai tolenrance (Tol) dengan rumus (1-r2).• Hitung nilai VIF dengan rumus 1/TOL• Jika VIF < 10, maka tidak terjadi multikolinieritas.

CONTOH

Heteroskedastisitas adalah variansi dari error model regresi tidak konstan atau variansi antar error yang satu dengan error yang lain berbeda (Widarjono, 2007).

Beberapa cara yang dapat digunakan untuk mendeteksi adanya heteroskedastisitas dalam model regresi adalah dengan Metode Glejser, Uji ScaterPlot, Uji Park, Uji White.

Pada Uji Gletser, apabila nilai signifikansi (Sign.) > 0,05 maka tidak terjadi gejala Heteroskedastisitas. Dapat dilihat pula pada Grafik Scater Plot apabila tidak ada membentuk pola tertentu maka tidak terjadi Heteroskedastisitas.

Hipotesis:H0 : Varian Residual Homogen

H1 : Varian Residual Tidak Homogen

Uji Heteroskedastisitas

Contoh Kasus Heteroskedastisitas

Langkah-Langkah Metode Glejser

• Regresikan variabel bebas (X) terhadap variabel tergantung (Y).

• Hitung nilai prediksinya• Hitung nilai residualnya• Mutalakkan nilai residualnya• Regresikan variabel bebas terhadap nilai mutlak

residualnya.• Jika signifikan berarti terjadi gejala

heteroskedastisitas dan sebaliknya jika tidak signifikan berarti tidak terjadi gejala heteroskedastisitas.

Hasil Nilai Regresi Variabel Bebas terhadap Nilai Mutlak Residualnya

•X1 tidak signifikan karena p-value > 0,05 sehingga X1 tidak terjadi gejala heteroskedastisitas.

•X2 signifikan karena p-value < 0,05 sehingga X2

terjadi gejala heteroskedastisitas.

Autokorelasi adalah terjadinya korelasi antara satu variabel error dengan variabel error yang lain. Autokorelasi seringkali terjadi pada data time series dan dapat juga terjadi pada data cross section tetapi jarang (Widarjono, 2007).

Selanjutnya untuk mendeteksi adanya autokorelasi dalam model regresi linier berganda dapat digunakan metode Durbin-Watson. Durbin-Watson telah berhasil mengembangkan suatu metode yang digunakan untuk mendeteksi adanya masalah autokorelasi dalam model regresi linier berganda menggunakan pengujian hipotesis dengan statistik uji yang cukup populer.

Autokorelasi

n

ii

n

iii

d

1

2

2

21

Dimana :

d = nilai D-W stat

= nilai residual dari persamaan regresi pada periode i

1i = nilai residual dari persamaan regresi pada periode i-1

Contoh Kasus Autokorelasi

Langkah-Langkah Uji Durbin-Watson

1. Regresikan variabel bebas (X) terhadap variabel tergantung (Y).

2. Hitung nilai prediksinya.3. Hitung nilai residualnya.4. Kuadratkan nilai residualnya.5. Lag-kan satu nilai residualnya.6. Kurangkan nilai residual dengan Lag-kan satu nilai

residualnya.7. Masuk hasil perhitungan diatas masukan kedalam

rumus Durbin-Watson

Perhitungan Manual Durbin Matson

386,3777,9

104,33)(2

21

t

t

e

eeDW

e = Y-Ypred = 5-6,252=-1,252

e2 = -1,2522= 1,568

et-1 = e mundur 1peiode

e-et-1 = 0,879-(-1,252) = 2,131

(e-et-1)2 = 2,131 = 4,541

Tabel Durbin Watson dk =k,nK=2 dan n=10dL = 0,697dU = 1,6414-dU = 2,3594-dL = 3,303

Kriteria Pengujian

Karena nilai DW=3,386 > du=1,641 maka tidak terjadi

autokorelasi

Uji normalitas bertujuan untuk menguji apakah model regresi, variabel terikat dan variabel bebas keduanya mempunyai distribusi normal atau tidak.

Model regresi yang baik adalah memiliki distribusi data normal atau mendekati normal. Metode yang dapat dipakai untuk normalitas antara lain: analisis grafik dan analisis statistik.

Normalitas dapat dideteksi dengan melihat penyebaran data (titik) pada sumbu diagonal dari grafik atau dengan melihat histogram dari residualnya:•Jika data menyebar di sekitar garis diagonal dan mengikuti garis diagonal atau grafik histogramnya menunjukkan pola distribusi normal regresi memenuhi asumsi normalitas.•Jika data menyebar jauh dari garis diagonal dan atau tidak mengikuti arah garis diagonal atau grafik histogram tidak menunjukkan pola distribusi normal, maka model regresi tidak memenuhi asumsi normalitas.

Normalitas

Uji Normalitas dengan Kolmogorov-Smirnov

H0 : data sampel berasal dari distribusi normalH1 : data sampel tidak berasal dari distribusi normal

Statistik Uji: )()( 0 xFxFSupD nx

Daerah kritis: tolak Ho jika D > Dα

CONTOH :

Diberikan data harga saham pasar modal (juta dolar) sebagai berikut :73.9 74.2 74.6 74.7 75.4 76.0 76.0 76.0 76.5 76.6 76.9 77.3 77.4 77.7,apakah kumpulan data tersebut berasal dari distribusi normal ? lakukan uji kolmogorov smirnov dengan α = 0.05

Penyelesaian :

Tabel bantuan

Dengan α = 0.05 , didapat nilai Dα = 0.179.

Karena D < Dα maka gagal tolah H0. Artinya, data berdistribusi normal.

Contoh Kasus Pemasaran Menggunakan Metode Regresi Linear Berganda

Seorang manajer penjualan salah satu agen sepeda motor ingin mengetahui pengaruh biaya promosi meliputi iklan tv dan iklan radiodengan jumlah unit motor yang terjual dalam beberapa tahun terakhir. Ia menggunakan da ta penjualan dan biaya promosi 3 tahun terakhir untuk meramalkan penjualan berdasarkan biaya promosi yang dikeluarkan setiap bulannya

DATA

Sebelum memberikan interpretasi pada hasil regresi, dilakukan pengujian asumsi normalitas sebagai syarat regresi. Apabila berdistribusi normal maka analisis parametrik seperti analisis regresi dapat dilanjutkan, sebaliknya apabila tidak tidak berdistribusi normal maka digunakan statistik non parametrik untuk menguji hipotesis. Pengujian normalitas ini menggunakan diagram Histogram dan grafik p p-plot untuk memprediksi apakah residual berdistribusi normal atau tidak.

Berdasarkan hasil uji di atas terlihat bahwa menyebar agak ke kanan bagian kurva normal, dan sehingga belum dapat disimpulkan apakah residual memenuhi asumsi normalitas..

Hasil pengujian dengan memperhatikan grafik p p-plot juga menunjukkan kesimpulan serupa dengan histogram. Dari tampilan di atas terlihat bahwa ada data menyebar keluar dari garis diagonal, sehingga belum dapat dinyatakan normal. Memperhatikan temuan ini, maka pengujian normalitas residual dilakukan dengan teknik statistik Kolmogorov -Smirnov Test.

Hasil uji normalitas residual dengan Kolmogorov-Smirnov menunjukkan nilai Asymp.Sig sebesar 0.324(> 0.05), sehingga dapat disimpulkan bahwa residual model regresi berdistribusi normal.

MULTIKOLINEARITAS

Dengan melihat Nilai VIF (Varian Inflation Factor) diketahui bahwa tidak ada variabel yang memiliki nilai VIF lebih dari 10, serta nilai tolerance yang kurang dari 0.10. Dengan demikian dapat disimpulkan bahwa variabel independen terbebas dari masalah Multikolinieritas

HETEROKEDASITAS

Hasil uji heterokedastisitas pada tampilan grafik scatter plot di atas menunjukkan bahwa tidak terjadi masalah heterokedastis. Hal ini dapat dilihat dari sebaran data yang menyebar ke segala bidang, dan berada di atas maupun dibawah nilai 0 pada sumbu Y.

AUTOKORELASI

Hasil uji autokorelasi dapat dilihat dari nilai Durbin_Watson sebesar 1.762. Untuk n=36, dan k=2 diperoleh nilai DW tabel Dl1.354 dan Du1.584. Nilai DW hitung 1.762 > dari batas atas (du) yaitu 1.584 dan kurang dari 4—du, sehingga dapat disimpulkan tidak ada autokorelasi positif maupun negative pada model.

Korelasi dan Regresi

Korelasi antara biaya promosi (iklan TV dan Radio) dengan penjualan (unit terjual) adalah sebesar 0.774 , dengan koefisien determinasi 0.575 (adjusted R Square). Dengan demikian dapat inyatakan bahwa variasi penjualan mampu dijelaskan oleh biaya promosi sebesar 57.50 %, dan sisanya dipengaruhi faktor lain selain biaya promosi

Persamaan regresi :Penjualan = 815.84+ 52.370 (Iklan TV)+ 66.447 (Iklan Radio),

Persamaan regresi tersebut mempunyai makna sebagai berikut: Konstanta sebesar 816 (pembulatan)berarti bahwa tanpa adanya biaya yang dikeluarkan untuk promosi , maka penjualan sepeda motor adalah sebesar 816 unit . Jika variabel biaya iklan TV naik (satu juta) maka akan menyebabkan kenaikan (karena tanda positif) sebesar 52 unit pada penjualan sepeda motor Sedangkan jika biaya iklan radio naik 1 juta, maka akan menyebabkan kenaikan pada penjualan sebesar 66 unit sepeda motor.

Pengujian Hipotesis SimultanHo: Tidak ada pengaruh Iklan TV dan Radio terhadap PenjualanHa : Ada pengaruh positif dan signifikan Iklan TV dan Radio terhadap Penjualan Pengambilan keputusan (berdasarkan probabilitas) :Jika probabilitas >0,05 maka Ho diterima, sedangkan jika probabilitas < 0,05 maka Ho ditolak.

Dari hasil uji signifikansi terlihat bahwa nilai probabilitas adalah sebesar 0,00(< 0,01) sehingga Ho ditolak. Artinya, pengaruh biaya promosi (iklan TV dan Radio) secara simultan terbukti Mempengaruhi penjualan signifikan.

Hasil uji model parsial dengan memperhatikan nilai probilitas pada uji t memperoleh nilai t-hitung untuk iklan TV sebesar 0.000 dan Iklan Radio 0.002. Karena probilitas < 0.05, maka dapat disimpulkan bahwa secara parsial dua variabel ini terbukti berpengaruh signifikan terhadap penjualan.

Hipotesis

H0 : Variabel bebas ke-k tidak berpengaruh terhadap variabel tidak bebasH1 : Variabel bebas ke-k berpengaruh terhadap variabel tidak bebas untuk k = 1, 2, …, p-1.