Regresi menggunakan program SAS beserta penjelasan setiap langkah.

1. Indah Nurina Fitri Hapsari / 10110094/ MA ITB 2010
12.48
FORWARD SELECTION
STEP 1: Model R-square:
𝑅2
=
𝑆𝑆𝑅
𝑆𝑆𝑇
F value:
𝑓 =
𝑆𝑆𝑅/1
𝑆𝑆𝐸/(𝑛 − 2)
Type II SS correspond to the R notation
in which each effect is adjusted for all
other appropriate effects.
Kita Pilih variabel yang memberikan 𝑅2
terbesar atau 𝑓 terbesar. Maka kita pilih
𝑥1 untuk dimasukkan dalam model.
Cek signifiikansi melalui nilai p-value.
Karena nilai p-value lebih kecil dari
tingkat signifikansi (𝛼=0.05) maka kita
masukkan 𝑥1 ke dalam model.
Sehingga diperoleh model untuk step
𝑦 = −6.33592 + 0.33738 𝑥1
STEP 2 Pilih variabel yang memberikan kenaikan
𝑅2
terbesar apabila variabel tersebut
dimasukkan ke dalam model yang
diperoleh pada step 1.
Maka kita pilih 𝑥2 untuk dimasukkan
dalam model.
Cek melalui nilai p-value untuk 𝑥2 ,
dengan:

2. Indah Nurina Fitri Hapsari / 10110094/ MA ITB 2010
𝑓 =
𝑅(𝛽2|𝛽1)
𝑠2
Karena nilai p-value lebih besar dari nilai
signifikansi yang kita inginkan
(𝛼 = 0.05) maka 𝑥2 tidak dimasukkan
dalam model. Maka diperoleh model
akhir:
𝑦 = −6.33592 + 0.33738 𝑥1
Summary
BACKWARD ELIMINATION
STEP 0: Full model dengan semua variabel
dimasukkan ke dalam model.
Persamaan regresi yang diperoleh
𝑦 = 3.32046 + 0.42105𝑥1 − 0.29578 𝑥2
− 0.01638 𝑥3
+ 0.12465 𝑥4
STEP 1 Dari tabel pada step 0, pilih variabel yang
memiliki Type II SS (Restricted SSR) terkecil
sebagai kandidat yang akan dikeluarkan dari
model (yaitu 𝑥3 ).
Karena 𝑥3 memiliki p-value yang terbesar
dan diatas tingkat signifikansi yang telah
ditentukan (𝛼 = 0.05) dengan:
𝑓 =
𝑅(𝛽3|𝛽1 𝛽2 𝛽4)
𝑆𝑆𝐸
12 − 5

3. Indah Nurina Fitri Hapsari / 10110094/ MA ITB 2010
Maka 𝑥3 dikeluarkan dari model.
Sehingga model menjadi 𝑦 = 3.63778 +
0.42258 𝑥1 − 0.29747 𝑥2 + 0.13248 𝑥4
STEP2 Dari tabel terakhir di step 1, kita pilih lagi
variabel yang memberikan TypeII SS
terkecil (selain intercept), yaitu 𝑥4 sebagai
kandidat yang akan dikeluarkan dari model.
Karena 𝑥4 memiliki p-value yang terbesar
dan diatas tingkat signifikansi yang telah
ditentukan (𝛼 = 0.05) dengan:
𝑓 =
𝑅(𝛽4|𝛽1 𝛽2)
𝑆𝑆𝐸
12 − 4
Maka 𝑥4 dikeluarkan dari model.
Sehingga model menjadi:
𝑦 = 1.42449 + 0.4206 𝑥1 − 0.21436 𝑥2
STEP 3 Dari tabel terakhir di step 2, kita pilih lagi
variabel yang memberikan TypeII SS
terkecil (selain intercept), yaitu 𝑥2 sebagai
kandidat yang akan dikeluarkan dari model.
Karena 𝑥2 memiliki p-value yang terbesar
dan diatas tingkat signifikansi yang telah
ditentukan (𝛼 = 0.05) dengan:
𝑓 =
𝑅(𝛽2|𝛽1 )
𝑆𝑆𝐸
12 − 3
Maka 𝑥2 dikeluarkan dari model.

4. Indah Nurina Fitri Hapsari / 10110094/ MA ITB 2010
Sehingga model menjadi:
𝑦 = −6.33592 + 0.33738 𝑥1
Step 4
Dari tabel terakhir di step 3, kita pilih lagi variabel yang memberikan TypeII SS terkecil
(selain intercept), yaitu 𝑥1 sebagai kandidat yang akan dikeluarkan dari model. Karena 𝑥1
memiliki p-value dibawah tingkat signifikansi yang telah ditentukan (𝛼 = 0.05), maka step
berakhir.
Summary
𝑦 = −6.33592 + 0.33738 𝑥1
STEPWISE REGRESSION
STEP1 Seperti pada forward selection, kita pilih
variabel yang memberikan 𝑅2
terbesar
atau 𝑓 terbesar. Maka kita pilih 𝑥1 untuk
dimasukkan dalam model.
Cek signifiikansi melalui nilai p-value.
Karena nilai p-value lebih kecil dari tingkat
signifikansi (𝛼=0.05) maka kita masukkan
𝑥1 ke dalam model.
Sehingga diperoleh model untuk step 1:
𝑦 = −6.33592 + 0.33738 𝑥1

5. Indah Nurina Fitri Hapsari / 10110094/ MA ITB 2010
STEP2 Kita pilih variabel yang memberikan 𝑅2
terbesar atau 𝑓 terbesar. Maka kita pilih
𝑥2 untuk dimasukkan dalam model.
Namun karena p-value untuk
𝑓 =
𝑅(𝛽2|𝛽1 )
𝑆𝑆𝐸
12 − 3
Melebihi 𝛼=0.05, maka 𝑥2 tidak
dimasukkan dalam model.
Summary
𝑦 = −6.33592 + 0.33738 𝑥1
UJI DIAGNOSTIK UNTUK MODEL DENGAN NILAI Cp TERKECIL
𝑦 = −6.33592 + 0.33738 𝑥1

6. Indah Nurina Fitri Hapsari / 10110094/ MA ITB 2010
Lampiran SAS:
DATA Tugas;
Input y x1 x2 x3 x4;
Datalines;
11.2 56.5 71.0 38.5 43
14.5 59.5 72.5 38.2 44.8
17.2 69.2 76 42.5 49
17.8 74.5 79.5 43.4 56.3
19.3 81.2 84.0 47.5 60.2
24.5 88.0 86.2 47.4 62
21.2 78.2 80.5 44.5 58.1
16.9 69.0 72 41.8 48.1
14.8 58.1 68 42.1 46

7. Indah Nurina Fitri Hapsari / 10110094/ MA ITB 2010
20 80.5 85 48.1 60.3
13.2 58.3 71 37.5 47.1
22.5 84 87.2 51 65.2
;
PROC PRINT Data=Tugas;
Title 'Nomer 12.48';
run;
proc reg data=Tugas;
model y= x1 x2 x3 x4
/ selection=forward slentry=0.05
details;
run;
proc reg data=Tugas;
model y= x1 x2 x3 x4
/ selection=backward slstay=0.05
details;
run;
proc reg data=Tugas;
model y= x1 x2 x3 x4
/ selection=stepwise slentry=0.05 slstay=0.05
details;
run;