Model Regresi Berganda

ipipiii XXXY 22110

Hubungan linear (dlm parameter) antara 1 peubah tak

bebas & 2 atau lebih peubah bebas

Intersep-Y

PopulasiSlope Populasi

Random

Error

ipipiii XXXY 22110

Peubah tak bebas

(Respons) utk sampel

Peubah bebas (Explanatory)

utk model sampel

ipipiii eXbXbXbbY 22110

Model Regresi Berganda (Sampel)

utk 2 Peubah Bebas

Yiiii eXbXbbY 22110

ei

X2

X1

iii XbXbbY 22110ˆ

Oil (Ga l) Te m p Insula tion275.30 40 3363.80 27 3164.30 40 10

40.80 73 694.30 64 6

230.90 34 6366.70 9 6300.60 8 10237.80 23 10121.40 63 3

31.40 65 10203.50 41 6441.10 21 3323.00 38 3

52.50 58 10

Model Regresi Berganda: Teladan (0F)

Tentukan suatu model utk

memprediksi bahan bakar

pemanas (Galon) yg

digunakan sebuah rumah-

satu-keluarga di bln

Januari berdasarkan rata-

rata temperatur (0F) dan

ketebalan isolasi (inchi).

Oil (Ga l) Te m p Insula tion275.30 40 3363.80 27 3164.30 40 10

40.80 73 694.30 64 6

230.90 34 6366.70 9 6300.60 8 10237.80 23 10121.40 63 3

31.40 65 10203.50 41 6441.10 21 3323.00 38 3

52.50 58 10

Tentukan suatu model utk

memprediksi bahan bakar

pemanas (Galon) yg

digunakan sebuah rumah-

satu-keluarga di bln

Januari berdasarkan rata-

rata temperatur (0F) dan

ketebalan isolasi (inchi).

YYyN

YY ii

i

; 2222

2 ; XXxN

XX i

i 111

11 ; XXx

N

XX i

i

221100ˆˆˆ XXYb

iiii eXbXbbY 22110

22122

21

212221

11ˆ

iiii

iiiiiii

xxxx

xxyxxyxb

22122

21

211212

22ˆ

iiii

iiiiiii

xxxx

xxyxxyxb

221100ˆˆˆ XXYb

KTSpN

eseVar i

1

)(2

2

22

21

21

21

ii

iixx

xx

xxr

221

22

11

)(1 rx

ssbVar

i

b

Y

sCV

iiii eXbXbbY 22110

Koef Variasi:

22

21

21

21

ii

iixx

xx

xxr

221

22

11

)(1 rx

ssbVar

i

b

222

22

21

)(2 rx

ssbVar

i

b

22

21

2

2

211

),(21

ii

bbxxr

rssbbCov

iii XbXbbY 22110ˆ

CoefficientsInte rce pt 562.1510092X V a ria ble 1 -5.436580588X V a ria ble 2 -20.01232067

Output Excel

Dugaan Model Regresi Sampel

Satuan

Galon

Gal/0F

Gal/inc

CoefficientsInte rce pt 562.1510092X V a ria ble 1 -5.436580588X V a ria ble 2 -20.01232067

iii X.X..Y 21 012204375151562 Dgn isolasi yg tetap, utk tiap

kenaikan 1 0F dlm temperatur, rata-

rata jml bahan pemanas yg di-

gunakan turun sebesar 5.437 galon.

Dgn temperatur tetap, utk tiap

kenaikan 1 inchi isolasi, rata-

rata penggunaan bahan pemanas

turun sebesar 20.012 galon.

Satuan

Galon

Gal/0F

Gal/inc

Penggunaan Model utk Prediksi

969278

601220304375151562

012204375151562 21

....

X.X..Y iii

Dugalah rata-rata jml bahan bakar pemanas yg

digunakan utk sebuah rumah jika rata-rata

temperaturnya 30 0F dan isolasinya 6 inchi.

969278

601220304375151562

012204375151562 21

....

X.X..Y iii

Dugaan bahan bakar

pemanas yg digunakan

sebanyak 278.97 galon

Koefisien Determination

Regression S tatisticsMultiple R 0.982654757R Square 0.965610371Adjusted R Square 0.959878766Standard Error 26.01378323Observations 15

Output Excel

SSTSSRr ,Y 2

12

r2 terkoreksi

•Utk membandingkan

model dgn jml peubah

bebas berbeda

•Merefleksikan jml

peubah bebas dan

ukuran contoh

• lebih kecil dari r2

Regression S tatisticsMultiple R 0.982654757R Square 0.965610371Adjusted R Square 0.959878766Standard Error 26.01378323Observations 15

r2 terkoreksi

•Utk membandingkan

model dgn jml peubah

bebas berbeda

•Merefleksikan jml

peubah bebas dan

ukuran contoh

• lebih kecil dari r2

Beberapa Plot Sisaan (Dibakukan)

• Sisaan Vs Yi

Mungkin perlu transformasi peubah Y

• Sisaan Vs X1

Mungkin perlu transformasi peubah X1

• Sisaan Vs X2

Mungkin perlu transformasi peubah X2

• Sisaan Vs Time

Mungkin punya sifat autokorelasi

• Sisaan Vs Yi

Mungkin perlu transformasi peubah Y

• Sisaan Vs X1

Mungkin perlu transformasi peubah X1

• Sisaan Vs X2

Mungkin perlu transformasi peubah X2

• Sisaan Vs Time

Mungkin punya sifat autokorelasi

Insulation Residual P lot

0 2 4 6 8 10 12

Plot Sisaan: Teladan

Output Excel

Temperature Residual P lot

-60

-40

-20

0

20

40

60

0 20 40 60 80

Re

sid

ua

ls Insulation Residual P lot

0 2 4 6 8 10 12

Tidak terlihat suatu Pola

Temperature Residual P lot

-60

-40

-20

0

20

40

60

0 20 40 60 80

Re

sid

ua

ls

I. Uji Model Secara Keseluruhan

•Apakah Model dapat menjelaskan keragaman Y

•Hipotesis Statistik:

H0: Model tdk dpt menjelaskan keragaman Y

2regresi = 2

ε atau 2regresi/

2ε = 1

b1 = b2 = … = bp = 0 (tidak dapat menjelaskan)

H1: Model dpt menjelaskan keragaman Y

2regresi > 2

ε atau 2regresi/

2ε > 1

Minimal ada bi 0 (ada peubahbebas yg mempengaruhi Y)

•Statistik uji-F = KTR/KTS ~ F(p, n-1-p)

Yi = 0 + 1 X1 + 2 X1 +…+ p Xp + εi

F(2,12)

0 3.89

a = 0.05

•Apakah Model dapat menjelaskan keragaman Y

•Hipotesis Statistik:

H0: Model tdk dpt menjelaskan keragaman Y

2regresi = 2

ε atau 2regresi/

2ε = 1

b1 = b2 = … = bp = 0 (tidak dapat menjelaskan)

H1: Model dpt menjelaskan keragaman Y

2regresi > 2

ε atau 2regresi/

2ε > 1

Minimal ada bi 0 (ada peubahbebas yg mempengaruhi Y)

•Statistik uji-F = KTR/KTS ~ F(p, n-1-p)

Uji Model Secara Keseluruhan:

Analisis Ragam (ANOVA)

ANOV Adf S S M S F S ignificance F

Re gre ssion 2 228014.6 114007.3 168.4712028 1.65411E-09Re sidua l 12 8120.603 676.7169Tota l 14 236135.2

ANOV Adf S S M S F S ignificance F

Re gre ssion 2 228014.6 114007.3 168.4712028 1.65411E-09Re sidua l 12 8120.603 676.7169Tota l 14 236135.2

p = 2, jumlah peubah penjelas n - 1

KTRKTS

p value

Statistik Uji F =

H0: b1 = b2 = … = bp = 0

H1: Minimal ada bi 0

a = .05

db = 2 dan 12

Nilai Kritis:

Statistik Uji:

Keputusan:

Kesimpulan:H1 pada a = 0.05

F

Uji Model Secara Keseluruhan

168.47(Output Excel)

F0 3.89

H0: b1 = b2 = … = bp = 0

H1: Minimal ada bi 0

a = .05

db = 2 dan 12

Nilai Kritis:

Statistik Uji:

Keputusan:

Kesimpulan:H1 pada a = 0.05

• Model dpt menjelaskan keragaman Y

• Minimal ada satu peubah bebas yg mempengaruhi Y

a = 0.05

Statistik Uji t utk X1(Temperatur)

II. Uji Signifikansi Masing2 Peubah Bebas

•Apakah peubah bebas Xi mempengaruhi Y

•Hypotesis Statistik:

H0: bi = 0 (Xi tidak mempengaruhi Y)

H1: bi 0 (Xi mempengaruhi Y)

Coefficients S tandard E rror t S tatInte rce pt 562.151009 21.09310433 26.65094X V a ria ble 1 -5.4365806 0.336216167 -16.1699X V a ria ble 2 -20.012321 2.342505227 -8.54313

Statistik Uji t utk X1(Temperatur)

Statistik Uji t utk X2(Isolasi)

H0: b1 = 0H1: b1 0db = 12

Nilai Kritis:

Statistik Uji:

Keputusan:

Kesimpulan:

Apakah temperature berpengaruh nyata pada konsumsi

bulanan bahan bakar pemanas? Ujilah pada a = 0.05.

Teladan Uji t

t = -16.1699H0: b1 = 0H1: b1 0db = 12

Nilai Kritis:

Statistik Uji:

Keputusan:

Kesimpulan:Tolak H0 at a = 0.05

Terbukti nyata, pengaruh temperatur pada konsumsi bahan bakar pemanas.Z0 2.1788-2.1788

.025Tolak H0 Tolak H0

.025

t = -16.1699

Dugaan Selang Kepercayaan utk Slope

Tentukan SK 95% bagi slope populasi 1 (pengaruh

temperatur thd Konsumsi Bahan Bakar Pemanas)

111 bpn Stb

Coefficients Lower 95% Upper 95%Inte rce pt 562.151009 516.1930837 608.108935X V a ria ble 1 -5.4365806 -6.169132673 -4.7040285X V a ria ble 2 -20.012321 -25.11620102 -14.90844

Coefficients Lower 95% Upper 95%Inte rce pt 562.151009 516.1930837 608.108935X V a ria ble 1 -5.4365806 -6.169132673 -4.7040285X V a ria ble 2 -20.012321 -25.11620102 -14.90844

-6.169 1 -4.704

Rata-rata konsumsi BBP berkurang antara 4.7 galon

sampai 6.17 galon tiap kenaikan suhu 10 F.

Pengujian Sebagian Model

• Kontribusi keragaman peubah Xi thd Model

(jika semua peubah lain sdh ada dlm model)

Dinotasikan dgn JKR(Xisemua peubah selain Xi )

Koefisien determinasi parsial X1 dgn Y jika X2

konstan

• Evaluasi Model secara Terpisah

• Berguna dlm Memilih Peubah Bebas

• Kontribusi keragaman peubah Xi thd Model

(jika semua peubah lain sdh ada dlm model)

Dinotasikan dgn JKR(Xisemua peubah selain Xi )

Koefisien determinasi parsial X1 dgn Y jika X2

konstan

• Evaluasi Model secara Terpisah

• Berguna dlm Memilih Peubah Bebas

221.Yr

Kontribusi X1 jika X2 sdh tercakup dlm model:

JKR(X1X2) = JKR(X1 dan X2) - JKR(X2)

Pengujian Sebagian Model: JKR

JKR(X1X2) = JKR(X1 dan X2) - JKR(X2)

Dari bagian ANOVA

regresi utk model :

iii XbXbbY 22110

Dari bagian ANOVA

regresi utk model :

ii XbbY 220

Uji F Parsial utk Kontribusi Xi

• Hipotesis:

H0 : Peubah Xi tidak signifikan memperbaiki

model setelah yg lainnya tercakup dlm model

H1 : Peubah Xi signifikan memperbaiki

model setelah yg lainnya tercakup dlm model

• Statistik Uji:

F =

• Hipotesis:

H0 : Peubah Xi tidak signifikan memperbaiki

model setelah yg lainnya tercakup dlm model

H1 : Peubah Xi signifikan memperbaiki

model setelah yg lainnya tercakup dlm model

• Statistik Uji:

F =

KTS

nnyaSemuaSelaiXJKR i )(

Dgn db = 1 dan (n - p -1)

Koefisien Determinasi Parsial

)()(

)(

2121

2122.1

XXJKRXdanXJKRJKT

XXJKRrY

iii XbXbbY 22110

Dari bagian ANOVA

regresi utk model:

Dari bagian ANOVA

regresi utk model:

ii XbbY 220

Note: JKR(X1X2) = JKR(X1 dan X2) - JKR(X2)

H0: X1 tidak memperbaiki model (X2 sdh ada)

H1: X1 memperbaiki model

a = .05, db = 1 dan 12

Nilai Kritis = 4.75

ANOV ASS

Re gre ssion 51076.47Re sidua l 185058.8Tota l 236135.2

ANOVASS MS

Regression 228014.6263 114007.313Residual 8120.603016 676.716918Total 236135.2293

(For X1 and X2) (For X2)

Ujilah pada a = .05 utk menentukan apakah peubah

temperatur signifikan memperbaiki model setelah

peubah isolasi ada dlm model

ANOV ASS

Re gre ssion 51076.47Re sidua l 185058.8Tota l 236135.2

717,676

076,51015,228)( 21

KTS

XXJKRF

ANOVASS MS

Regression 228014.6263 114007.313Residual 8120.603016 676.716918Total 236135.2293

(For X1 and X2) (For X2)

= 261.47

Kesimpulan: Tolak H0. X1 memperbaiki model

Akibat Multikolinieritas

• Koefisien Determinasi tinggi, tapi banyak koefisien yg tdk nyata

• Sulit memisahkan pengaruh dari masing-masing faktor.

• Tanda koefisien bukan hubungan yg sebenarnya

• Koefisien tdk nyata, bukan berarti peubah tsb tdk berpengaruh.

• Koefisien Determinasi tinggi, tapi banyak koefisien yg tdk nyata

• Sulit memisahkan pengaruh dari masing-masing faktor.

• Tanda koefisien bukan hubungan yg sebenarnya

• Koefisien tdk nyata, bukan berarti peubah tsb tdk berpengaruh.

The regression equation isDemand = 850 - 5.03 P + 4.74 Pr + 0.277 Advertise + 0.0107 Income + 1.31 T

Predictor Coef SE Coef T P

Constant 850.0 134.8 6.31 0.000

P -5.0326 0.4394 -11.45 0.000

Pr 4.7435 0.9696 4.89 0.000

Advertise 0.2774 0.1046 2.65 0.014

Income 0.010658 0.001316 8.10 0.000

T 1.3091 0.7534 1.74 0.095

S = 33.6398 R-Sq = 91.5% R-Sq(adj) = 89.7%

Analysis of Variance

Source DF SS MS F P

Regression 5 291364 58273 51.49 0.000

Residual Error 24 27159 1132

Total 29 318523

Contoh Output Minitab

The regression equation isDemand = 850 - 5.03 P + 4.74 Pr + 0.277 Advertise + 0.0107 Income + 1.31 T

Predictor Coef SE Coef T P

Constant 850.0 134.8 6.31 0.000

P -5.0326 0.4394 -11.45 0.000

Pr 4.7435 0.9696 4.89 0.000

Advertise 0.2774 0.1046 2.65 0.014

Income 0.010658 0.001316 8.10 0.000

T 1.3091 0.7534 1.74 0.095

S = 33.6398 R-Sq = 91.5% R-Sq(adj) = 89.7%

Analysis of Variance

Source DF SS MS F P

Regression 5 291364 58273 51.49 0.000

Residual Error 24 27159 1132

Total 29 318523