Regresi dalam statistika adalah salah satu metode untuk menentukan hubungan sebab-akibat antara satu variabel dan variabel(-variabel) yang lain. Variabel “penyebab” disebut dengan bermacam-macam istilah: variabel penjelas, variabel eksplanatorik, variabel independen, atau secara bebas, variabel X (karena seringkali digambarkan dalam grafik sebagai absis, atau sumbu X). Variabel terkena akibat dikenal sebagai variabel yang dipengaruhi, variabel dependen, variabel terikat, atau variabel Y. Kedua variabel ini dapat merupakan variabel acak (random), namun variabel yang dipengaruhi harus selalu variabel acak.
Analisis regresi adalah salah satu analisis yang paling populer dan luas pemakaiannya. Hampir semua bidang ilmu yang memerlukan analisis sebab-akibat boleh dipastikan mengenal analisis ini.
Istilah regresi diperkenalkan oleh Sir Francis Galton, yang menemukan bahwa meskipun ada kecenderungan bagi orang tua yang tinggi mempunyai anak yang tinggi dan orang tua yang pendek mempunyai anak yang pendek, distribusi tinggi populasi tidak berubah secara mencolok dari generasi ke generasi. Penjelasannya adalah bahwa kecenderungan bagi rata-rata tinggi anak dengan orang tua yang mempunyai tinggi tertentu untuk bergerak atau mundur (regress) ke arah tinggi rata-rata seluruh populasi. Hukum regresi semesta (law of universal regression), yang bersifat biologis ini diperkuat oleh Karl Pearson. Ia menemukan bahwa rata-rata tinggi anak laki-laki kelompok ayah yang tinggi kurang daripada tinggi ayah mereka dan rata-rata tinggi anak laki-laki kelompok ayah yang pendek lebih tinggi dari pada tinggi ayah mereka.
Sesuai dengan perkembangan metodologi dan penerapannya, definisi regresi pada saat ini telah berbeda jauh dari pengertian awal tersebut. Umpamanya, dengan regresi pendugaan-pendugaan terhadap sesuatu performa dapat dilakukan, selama variabel-variabel penentu dapat ditentukan sebelumnya.
Regresi berkaitan dengan ketergantungan stokastik, yang berarti memiliki peluang untuk meleset dari prediksi. Setiap pengambilan dugaan yang menggunakan regresi harus didasari dengan kesadaran bahwa hasil perkiraan tidak akan 100% sama dengan kenyataan (ketergantungan deterministik).
1. Pendahuluan
• Gagasan perhitungan ditetapkan oleh Sir Francis Galton (1822-1911)
• Persamaan regresi :Persamaan matematik yang memungkinkan peramalan nilai suatu
peubah takbebas (dependent variable) dari nilai peubah bebas
(independent variable)
• Diagram Pencar = Scatter Diagram
Diagram yang menggambarkan nilai-nilai observasi peubah takbebas dan peubah
bebas.
Nilai peubah bebas ditulis pada sumbu X (sumbu horizontal)
Nilai peubah takbebas ditulis pada sumbu Y (sumbu vertikal)
Nilai peubah takbebas ditentukan oleh nilai peubah bebas
• Jenis-jenis Persamaan Regresi :
a. Regresi Linier :
- Regresi Linier Sederhana
- Regresi Linier Berganda
b. Regresi Nonlinier
- Regresi Eksponensial
• Regresi linier
- Bentuk Umum Regresi Linier Sederhana
Y = a + bX
Keterangan :
Y : peubah takbebas
X : peubah bebas
a : konstanta
b : kemiringan
• Bentuk Umum Regresi Linier Berganda
Y = a + b1X1 + b2X2 + …+ bnXn
: peubah takbebas a : konstanta
X1 : peubah bebas ke-1 b1 : kemiringan ke-1
X2 : peubah bebas ke-2 b2 : kemiringan ke-2
Xn : peubah bebas ke-n bn : kemiringan ke-n
• Regresi Non Linier
- Bentuk umum Regresi Eksponensial
Y = abx
log Y = log a + (log b) x
2. Regresi Linier Sederhana
• Metode Kuadrat terkecil (least square method): metode paling populer untuk
menetapkan persamaan regresi linier sederhana
- Bentuk Umum Regresi Linier Sederhana :
Y = a + bX
Y : peubah takbebas
X : peubah bebas
a : konstanta
b : kemiringan
Nilai b dapat positif (+) dapat negartif (-)
b. Positif :Y= a + bX
b. Negatif :Y= a – bX
3. Korelasi Linier Sederhana
• Koefisien Korelasi (r) : ukuran hubungan linier peubah X dan Y
Nilai r berkisar antara (+1) sampai (-1)
Nilai r yang (+) ditandai oleh nilai b yang (+)
Nilai r yang (-) ditand
2. Regression
Descriptive Statistics
Mean Std. Deviation N
KIMIA 56.0667 6.04542 30
FISIKA 62.2667 6.92289 30
Correlations
KIMIA FISIKA
Pearson Correlation KIMIA 1.000 .932
FISIKA .932 1.000
Sig. (1-tailed) KIMIA . .000
FISIKA .000 .
N KIMIA 30 30
FISIKA 30 30
Variables Entered/Removed(b)
Variables Variables
Model Entered Removed Method
1 FISIKA(a) . Enter
a All requested variables entered.
b Dependent Variable: KIMIA
Model Summary(b)
Adjusted R Std. Error of
Model R R Square Square the Estimate
1 .932(a) .869 .864 2.22614
a Predictors: (Constant), FISIKA
b Dependent Variable: KIMIA
output spss tersebut memiliki nilai koefisien determinasi yang sudah di sesuaikan
(adjustd R square) 0,864 artinya 86,4% fariabel independent nilai kimia di jelaskan oleh
variable independen nilai fisika dan sisanya 13,6%(100-86,9% di jelaskan oleh variable
lain di luar variable yang di gunakan.
3. ANOVAb
Sum of
Model Squares df Mean Square F Sig.
1 Regression 921.108 1 921.108 185.869 .000a
Residual 138.759 28 4.956
Total 1059.867 29
a. Predictors: (Constant), FISIKA
b. Dependent Variable: KIMIA
Coefficientsa
Unstandardized Standardized
Coefficients Coefficients
Model B Std. Error Beta t Sig.
1 (Constant) 5.376 3.740 1.437 .162
FISIKA .814 .060 .932 13.633 .000
a. Dependent Variable: KIMIA
Residuals Statisticsa
Minimum Maximum Mean Std. Deviation N
Predicted Value 44.4524 65.6186 56.0667 5.63581 30
Std. Predicted Value -2.061 1.695 .000 1.000 30
Standard Error of
.407 .944 .560 .134 30
Predicted Value
Adjusted Predicted Value 44.1132 65.8655 56.0508 5.66925 30
Residual -3.33691 4.29125 .00000 2.18742 30
Std. Residual -1.499 1.928 .000 .983 30
Stud. Residual -1.565 2.042 .003 1.019 30
Deleted Residual -3.63697 4.81714 .01583 2.35572 30
Stud. Deleted Residual -1.609 2.174 .016 1.046 30
Mahal. Distance .001 4.247 .967 .981 30
Cook's Distance .001 .256 .039 .059 30
Centered Leverage Value .000 .146 .033 .034 30
a. Dependent Variable: KIMIA
Charts
