analisis regresi 1 - stat.ipb.ac.id · model regresi sederhana berganda linier non linier linier...
TRANSCRIPT
Itasia & Y Angraini Dep. STK FMIPA-IPB
Analisis Regresi 1
Pokok Bahasan :
Model-model Regresi yang Lebih Lanjut
Itasia & Y Angraini Dep.STK FMIPA-IPB
Macam-macam Model Regresi
Model Regresi
Sederhana Berganda
Linier Non Linier Linier Non Linier
1 peubah penjelas > 1 peubah penjelas
Reciprocal LogMultiplikatifPolinom Eksponensial
Itasia & Y Angraini Dep.STK FMIPA-IPB
Sederhana Linier
Hubungannya linier
Non Linier Polinom
Multiplikatif
Eksponensial
Reciprocal
Contoh : Macam-macam Model Regresi
εxβxββY 2
210
εeβY xβ
01 εe βY x
β
0
1
ε xβY β
01
εxββ
1
10
εxββY 10
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model-model Regresi yang Lebih Lanjut
SEDERHANA, NONLINIER dalam PARAMETER
BERGANDA, LINIER dalam PARAMETER
hubungannya LINIER :
Ada interaksi :
kk xxxY
xxY
....22110
22110
3223311321123322110
211222110
xxxxxxxxxY
xxxxY
1
0xY
Itasia & Y Angraini Dep.STK FMIPA-IPB
BERGANDA, POLINOM
Ordo DUA :
Ordo TIGA :
(lanjutan)
2112
2
222
2
11122110
2
111110
xxxxxxY
xxY
2
211222
2
11122112
3
2222
3
1111
2
222
2
11122110
3
1111
2
111110
xxxxxxx
xxxxxY
xxxY
Model-model Regresi yang Lebih Lanjut
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model2 Regresi yang Lebih Lanjut
BERGANDA, NONLINIER dalam PARAMETER
MULTIPLIKATIF
EKSPONENSIAL
RESIPROKAL
(lanjutan)
321
3210 xxxY
.22110 xx
eY
22110
1
xxY
Itasia & Y Angraini Dep.STK FMIPA-IPB
Transformasi untuk Meluruskan Pola Garis
Pada analisis regresi transformasi terhadap peubah penjelas dan atau peubah respon dimaksudkan untuk :
Memenuhi asumsi yang disyaratkan pada suatu metode, agar metode tsb sah digunakan (mis. MKT untuk menduga parameter, uji t dan uji F untuk menguji parameter)
Meluruskan pola dugaan garis regresi, agar analisis dapat dilakukan dengan menggunakan model garis lurus (regresi linier yang hubungan-nya linier, banyaknya parameter sedikit)pengerjaannya lebih sederhana/tidak rumit
Itasia & Y Angraini Dep.STK FMIPA-IPB
Transformasi untuk Meluruskan:Pola Parabola
POLA GARIS :
X
Y
XX
Y
YY
β1 < 0
β1 > 0
β1 < 0
β1 > 0
X
β2 > 0
β2 > 0
β2 < 0
β2 < 0
2
210 xβxββY
TRANSFORMASI:
X diperbesar X2
Y diperkecil Y1/2
TRANSFORMASI:
X diperkecil X1/2
Y diperkecil Y1/2
TRANSFORMASI:
X diperbesar X2
Y diperbesar Y2
TRANSFORMASI:
X diperkecil X1/2
Y diperbesar Y2
PERSAMAAN REGRESI :
X
Y
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh: Transformasi untukMeluruskan Tebaran Pola Parabola
Persamaan Regresi:2
210 xβxββY
Xa
ka
r Y
1086420
16
14
12
10
8
6
4
2
0
Scatterplot of akar Y vs X
x1
y
1086420
250
200
150
100
50
0
Scatterplot of y vs x1
YY*
Transformasi Y*= akar Y telah mampu meluruskan pola tebaran menjadi garis lurus. Analisis dilakukan thdp data yg ditransformasi, menggunakan model linier sederhana.
di TRANSFORMASI :
Itasia & Y Angraini Dep.STK FMIPA-IPB
Transformasi untuk Meluruskan:Pola Hiperbola
PERSAMAAN REGRESI :
TRANSFORMASI :
Ke dua ruas dibalik
x
xY
X
Y
X
POLA GARIS :
x
1
1
x
x
Y
Y
1
10
**
*
10
*
, ,1
,1
lurus garis
xx
YY
xY
1
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh: Transformasi untukMeluruskan Tebaran Pola Hiperbola
Persamaan Regresi : di TRANSFORMASI :x
xY
Y* = 1/Y
X* = 1/X
1/x
1/
y
1.00.80.60.40.20.0
6.0
5.5
5.0
4.5
4.0
3.5
3.0
Scatterplot of 1/y vs 1/x
x1
y
1086420
0.35
0.30
0.25
0.20
0.15
Scatterplot of y vs x1
Itasia & Y Angraini Dep.STK FMIPA-IPB
Transformasi untuk Meluruskan:Pola Eksponensial
PERSAMAAN REGRESI :
TRANSFORMASI :
Ke dua ruas di ln
xβeY X
Y
X
POLA GARIS :
x
ey x
ln
lnln
Y
10
*
10
*
,ln ,ln
lurus garis
yY
xY
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh: Transformasi untukMeluruskan Tebaran Pola Eksponensial
Persamaan Regresi : di TRANSFORMASI :xβeY
x
y
1086420
60
50
40
30
20
10
0
Scatterplot of y vs x
x
ln(y
)
1086420
4
3
2
1
0
Scatterplot of ln(y) vs xr = 0.927 r = 0.987
YY ln*
Itasia & Y Angraini Dep.STK FMIPA-IPB
Transformasi untuk Meluruskan:Pola Pangkat
MODEL REGRESI :
TRANSFORMASI :
Ke dua ruas di ln
βxY
X
Y
POLA GARIS :
x
xy
ln ln
) (ln ln
10
**
*
10
*
,ln ,ln ,ln
lurus garis
xxyY
xY
11 11
10 1
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh: Transformasi untukMeluruskan Tebaran Pola Pangkat
Persamaan Regresi : di TRANSFORMASI : βxY
x
y
1086420
200
150
100
50
0
Scatterplot of y vs x r=0.89
ln(x)
ln(y
)
2.52.01.51.00.50.0
5.5
5.0
4.5
4.0
3.5
3.0
2.5
2.0
1.5
Scatterplot of ln(y) vs ln(x) r=0.954
Y*= ln Y
X*= ln X
Itasia & Y Angraini Dep.STK FMIPA-IPB
Transformasi untuk Meluruskan:Pola Kebalikan Eksponensial
PERSAMAAN REGRESI :
TRANSFORMASI :
Ke dua ruas di ln
xeY
X
Y
X
POLA GARIS : Y
0e
β β, βx
Y, xY
xββY
*
**
10
*
10
, ln1
ln
lurus garis
0e
01
01
x
ey x
ln
) (ln ln
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh: Transformasi untuk MeluruskanTebaran Pola Kebalikan Eksponensial
Persamaan Regresi : di TRANSFORMASI :
Y*= ln Y
X*= 1/XxeY
x
y
1086420
16
12
8
4
0
Scatterplot of y vs x r=-0.735
1/x
ln(y
)
1.00.80.60.40.20.0
3.0
2.5
2.0
1.5
1.0
0.5
0.0
Scatterplot of ln(y) vs 1/x r=0.848
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model Hasil Transformasi
Hati-hati dengan asumsi sisaan jika Y ditransformasi
Sisaan = Ytransformasi – Ytransformasi
Didiagnosa seperti yang telah diterangkan pada pokok bahasan DIAGNOSA SISAAN, untuk mengetahui apakah sisaan tersebut memenuhi kondisi Gauss-Markov pada MKT dan atau sebaran Normal.
Interpretasi hasil dilakukan terhadap transformasi balik dugaan garis regresi yang didapat
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh: Menduga ParameterRegresi Pola Pangkat
Persamaan Regresi : di TRANSFORMASI : βxY
x
y
1086420
200
150
100
50
0
Scatterplot of y vs x r=0.89
ln(x)
ln(y
)
2.52.01.51.00.50.0
5.5
5.0
4.5
4.0
3.5
3.0
2.5
2.0
1.5
Scatterplot of ln(y) vs ln(x) r=0.954
Y*= ln Y
X*= ln X
Karena bentuk tebarannya tidak linier, maka dilakukan transformasi agar menjadi linier. Setelah linier maka selanjutnya dilakukan anali-sis regresi linier sederhana.
Persamaan Regresi yang Digunakan : lurus garis lnln 10 xY
MENGUJI APAKAH MODEL REGRESI LINIER PAS ?
Sequential Analysis of Variance
Source DF SS F PLinear 1 6.98396 89.44 0.000Quadratic 1 0.15023 2.07 0.174
Penambahan penga-ruh kuadratik ke dlm model tidak nyata
pers.linier pas
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh: Menduga ParameterRegresi Pola Pangkat
Fitted Value
Re
sid
ua
l
4.54.03.53.02.5
0.50
0.25
0.00
-0.25
-0.50
-0.75
Residuals Versus the Fitted Values(response is ln(y)1)
Dugaan garis regresi yang digunakan :
ln(y) = 1.64 + 1.44 ln(x)
MENDIAGNOSA SISAAN
The regression equation is: ln(y) = 1.64 + 1.44 ln(x)
Predictor Coef SE Coef T PConstant 1.6398 0.2506 6.54 0.000ln(x) 1.4433 0.1526 9.46 0.000
S = 0.279431 R-Sq = 86.5% R-Sq(adj) = 85.5%
Dari hasil tebaran sisaan terhadap nilai
dugaannya didapatkan bahwa :
- Sisaan di sekitar nol
- Lebar pita hampir sama ragam homogen- Tebaran tidak berpola sisaan saling bebas
Sisaan memenuhi asumsi Gauss-Markov
0 dan 10
0E
(lanjutan)
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh: Menduga ParameterRegresi Pola Pangkat
Residual
Pe
rce
nt
0.500.250.00-0.25-0.50-0.75
99
95
90
80
70
60
50
40
30
20
10
5
1
Normal Probability Plot of the Residuals(response is ln(y)1)
APAKAH SISAAN MENYEBAR NORMAL?
Plot antara sisaan dan peluang normal menunjukkan pola garis lurus sisaan menyebar Normal
Uji t dapat digunakan
Predictor Coef SE Coef T PConstant 1.6398 0.2506 6.54 .000ln(x) 1.4433 0.1526 9.46 .000
Kesimpulan : ln x berpengaruh
linier terhadap ln Y
ln(Y) = 1.64 + 1.44 ln(x)
(lanjutan)
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh: Menduga ParameterRegresi Pola Pangkat
Dugaan persamaan garis regresi :
ln Y = 1.64 + 1.44 ln x
Transformasi balik :
Interpretasi : perubahan x dari xi ke xi+1 mengubah Y sebesar
44.164.1
ln64.1
xln 1.44 64.1ln
.
. 44.1
xe
eeY
ee
x
Y
INTERPRETASI DUGAAN GARIS REGRESI HASIL TRANSFORMASI
110
1
44.144.1
1
64.1
iiii xxexxe
x.
x. 10
Y
eY
(lanjutan)
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model Regresi Polinomial
ORDO KE-SATU hubungannya linier
Satu peubah penjelas
Dua peubah penjelas
K peubah penjelas
ORDO KE-DUA
εXββY 10
εXβXββY 22110
εXβ....XβXββY kk22110
• Satu peubah penjelas
• Dua peubah penjelas
Banyaknya parameter ordo ke-2 dg k peubah = ½( k2+3k) + 1
εXβXββY 2
1110
εXXβXβXβXβXββY 2112
2
222
2
1112210
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model-model Regresi Berdasarkan Peubah Penjelas-nya
Explanatory
Variable
1stOrderModel
3rdOrderModel
2 or MoreQuantitative
Variables
2ndOrderModel
1stOrderModel
2ndOrderModel
Inter-ActionModel
1Qualitative
Variable
DummyVariableModel
1Quantitative
Variable
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model Ordo ke-1 dengan 2 Peubah Penjelas
1. Hubungan antara 2 peubah penjelas dengan peubah respon merupakan fungsi linier.
2. Diasumsikan tidak ada interaksi antara X1 & X2
Pengaruh X1 terhadap Y tidak dipengaruhi nilai X2
3. Model Regresinya εXβXββY 22110
Itasia & Y Angraini Dep.STK FMIPA-IPB
Tidak ada interaksi
Y
X1
4
8
12
0
0 10.5 1.5
Y = 1 + 2X1 + 3X2
Model Ordo ke-1 dengan 2 Peubah Penjelas
Itasia & Y Angraini Dep.STK FMIPA-IPB
Y
X1
4
8
12
0
0 10.5 1.5
E(Y) = 1 + 2X1 + 3X2
E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1
Tidak ada interaksi
Model Ordo ke-1 dengan 2 Peubah Penjelas
Itasia & Y Angraini Dep.STK FMIPA-IPB
Y
X1
4
8
12
0
0 10.5 1.5
E(Y) = 1 + 2X1 + 3X2
E(Y) = 1 + 2X1 + 3(1) = 4 + 2X1
E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1
Tidak ada interaksi
Model Ordo ke-1 dengan 2 Peubah Penjelas
Itasia & Y Angraini Dep.STK FMIPA-IPB
Y
X1
4
8
12
0
0 10.5 1.5
E(Y) = 1 + 2X1 + 3(2) = 7 + 2X1
E(Y) = 1 + 2X1 + 3X2
E(Y) = 1 + 2X1 + 3(1) = 4 + 2X1
E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1
Tidak ada interaksiTidak ada interaksi
Model Ordo ke-1 dengan 2 Peubah Penjelas
Itasia & Y Angraini Dep.STK FMIPA-IPB
Y
X1
4
8
12
0
0 10.5 1.5
E(Y) = 1 + 2X1 + 3(2) = 7 + 2X1
E(Y) = 1 + 2X1 + 3X2
E(Y) = 1 + 2X1 + 3(1) = 4 + 2X1
E(Y) = 1 + 2X1 + 3(0) = 1 + 2X1
E(Y) = 1 + 2X1 + 3(3) = 10 + 2X1
Tidak ada interaksi
Model Ordo ke-1 dengan 2 Peubah Penjelas
Itasia & Y Angraini Dep.STK FMIPA-IPB
Pengaruh X1 thdp Y tidak bergantung pada X2
Y
X1
4
8
12
0
0 10.5 1.5
E(Y) = 1 + 2X1 + 3(2) = 7 + 2 X1
E(Y) = 1 + 2X1 + 3X2
E(Y) = 1 + 2X1 + 3(1) = 4 + 2 X1
E(Y) = 1 + 2X1 + 3(0) = 1 + 2 X1
E(Y) = 1 + 2X1 + 3(3) = 10 + 2 X1
Tidak ada interaksi
Model Ordo ke-1 dengan 2 Peubah Penjelas
Itasia & Y Angraini Dep.STK FMIPA-IPB
Explanatory
Variable
1stOrderModel
3rdOrderModel
2 or MoreQuantitative
Variables
2ndOrderModel
1stOrderModel
2ndOrderModel
Inter-ActionModel
1Qualitative
Variable
DummyVariableModel
1Quantitative
Variable
Model-model Regresi Berdasarkan Peubah Penjelas-nya
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model Interaksi dengan 2 Peubah Penjelas
1. Anggap ada 2 peubah penjelas yang saling berinteraksi
Pengaruh peubah penjelas yang satu (mis. X1) berubah-ubah tergantung pada nilai peubah penjelas lainnya (mis. X2)
2. Model regresi-nya :
3. Dapat dikombinasikan dengan model lainnya, mis. Model peubah boneka
εXXβXβXββY 21322110
Itasia & Y Angraini Dep.STK FMIPA-IPB
Efek Interaksi
1. Model Regresi-nya:
2. Tanpa Interaksi, efek X1 terhadap Ydiukur oleh 1
3. Ada Interaksi, efek X1 terhadapY diukur oleh 1 + 3X2
Efek naik jika X2 naik
21322110 XXXXY
Itasia & Y Angraini Dep.STK FMIPA-IPB
Hubungan Model Interaksi
Y
X1
4
8
12
0
0 10.5 1.5
Y = 1 + 2X1 + 3X2 + 4X1X2
Itasia & Y Angraini Dep.STK FMIPA-IPB
Y
X1
4
8
12
0
0 10.5 1.5
Y = 1 + 2X1 + 3X2 + 4X1X2
Y = 1 + 2X1 + 3(0) + 4X1(0) = 1 + 2X1
Hubungan Model Interaksi
Itasia & Y Angraini Dep.STK FMIPA-IPB
Y
X1
4
8
12
0
0 10.5 1.5
Y = 1 + 2X1 + 3X2 + 4X1X2
Y = 1 + 2X1 + 3(1) + 4X1(1) = 4 + 6X1
Y = 1 + 2X1 + 3(0) + 4X1(0) = 1 + 2X1
Hubungan Model Interaksi
Itasia & Y Angraini Dep.STK FMIPA-IPB
Efek/kemiringan X1 thdp Y bergantung pd X2
Y
X1
4
8
12
0
0 10.5 1.5
Y = 1 + 2X1 + 3X2 + 4X1X2
Y = 1 + 2X1 + 3(1) + 4X1(1) = 4 + 6X1
Y = 1 + 2X1 + 3(0) + 4X1(0) = 1 + 2X1
Hubungan Model Interaksi
Itasia & Y Angraini Dep.STK FMIPA-IPB
Worksheet untuk Model Interaksi
Case, i Yi X1i X2i X1i X2i
1 1 1 3 3
2 4 8 5 40
3 1 3 2 6
4 3 5 6 30
: : : : :
Kalikan X1 dg X2 untuk mendapatkan X1X2.
Lakukan regresi X1, X2 , X1X2 thdp Y
Itasia & Y Angraini Dep.STK FMIPA-IPB
Model-model Regresi Berdasarkan Tipe Peubah Penjelas-nya
Explanatory
Variable
1stOrderModel
3rdOrderModel
2 or MoreQuantitative
Variables
2ndOrderModel
1stOrderModel
2ndOrderModel
Inter-ActionModel
1Qualitative
Variable
DummyVariableModel
1Quantitative
Variable
Itasia & Y Angraini Dep.STK FMIPA-IPB
Peubah Boneka(Dummy variable)
3322110Y : Regresinya Model xxx
Peubah boneka adalah peubah bebas/penjelas yang tipenya kategorik dengan dua taraf: yes atau no, onatau off, male atau female, nilainya 0 atau 1
Peubah Respon (Y)Peubah Penjelas (x)
Kuantitatif Kategorik
Banyaknya barang yang terjual dalam satu minggu
1.Harga barang2.Biaya iklan
Adanya hari libur dalam minggu tersebut
Kecepatan reaksi bahan kimia
1.Suhu2.Tekanan
Jenis katalisator yang digunakan
Itasia & Y Angraini Dep.STK FMIPA-IPB
Peubah Boneka (Dummy variable)
Jika uji parameter peubah boneka nyata
peubah boneka berpengaruh nyata
ada 2 persamaan (grafik): kategori-1 dan kategori-2
Koef intersep untuk ke-dua kategori berbeda
Slope untuk ke-dua kategori tersebut sama
1010
12010
xb b (0)bxbby
xb)b(b(1)bxbby
121
121
ˆ
ˆ
Intersep berbeda Slope sama
(lanjutan)
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh :Penggunaan Peubah Boneka
Persamaan regresinya :
Y = banyaknya pie yg terjual/minggu
x1 = harga pie
x2 = hari libur (X2 = 1 jika dalam minggu tsb ada hari libur)
(X2 = 0 jika dalam minggu tsb tidak ada hari libur)
210 xxY21
Sebuah toko kue ingin memprediksi banyaknya pie yang terjual per minggu. Untuk itu dikumpulkan data penjualan selama 25 minggu, beserta data peubah-peubah penjelas yang diperkirakan mempengaruhi banyaknya penjualan pie. Yaitu peubah harga, dan peubah ada/tidak-nya hari libur pd minggu ybs.
P Boneka
Itasia & Y Angraini Dep.STK FMIPA-IPB
Contoh :Penggunaan Peubah Boneka
11202110 )1( xbbbbxbbY
(lanjutan)
x1 (Harga)
y (banyaknya pie yg terjual)
b0+ b2
b0
Jika H0: β2 = 0
ditolak, maka
“Hari Libur”
berpengaruh nyata
thdp banyaknya
penjualan pie
y (banyaknya pie yg terjual)
b0+ b2
y (banyaknya pie yg terjual)
b0+ b2
y (banyaknya pie yg terjual)
b0+ b2
y (banyaknya pie yg terjual)
b0+ b2
b0
y (banyaknya pie yg terjual)
b0+ b2
b0
y (banyaknya pie yg terjual)
b0+ b2
b0
y (banyaknya pie yg terjual)
b0+ b2
b0
y (banyaknya pie yg terjual)
b0+ b2
b0
y (banyaknya pie yg terjual)
b0+ b2
b0
y (banyaknya pie yg terjual)
x1 (Harga)
b0+ b2
b0
y (banyaknya pie yg terjual)
b0+ b2
b0
y (banyaknya pie yg terjual)
1102110 )0( xbbbxbbY
Ada hari libur
Tidak ada hari libur
b0+ b2
b0
y (banyaknya pie yg terjual)
b0+ b2
b0
y (banyaknya pie yg terjual)
b0+ b2
b0
y (banyaknya pie yg terjual)
Itasia & Y Angraini Dep.STK FMIPA-IPB
InterpretasiKoefisien Peubah Boneka
Contoh:
b2 = 15: rata-rata, banyaknya pie yg terjual 15 unit lebih
banyak dalam minggu yg ada hari liburnya dibanding dg
dalam minggu yg tidak ada hari liburnya
libur) 15(hari 30(harga) - 300 Penjualan
x15 x30 -300 Y 21
Penjualan = banyaknyam pie yg terjual/minggu
Harga = harga pie
hari libur 1 jika dalam minggu tsb ada hari libur
0 jika dalam minggu tsb tidak ada hari libur
Itasia & Y Angraini Dep.STK FMIPA-IPB
Menyusun Worksheet-nya
Case, i Yi X1i X2i
1 1 1 1
2 4 8 0
3 1 3 1
4 3 5 1
: : : :
Taraf X2 : jika termasuk kategori 1 = 0
jika termasuk kategori 2 = 1