Ch iv regression

TƯƠNG QUAN VÀ HỒI QUY
CORRELATION & REGRESSION

TS. LÊ VĂN HUY
Email: levanhuy@vnn.vn

Copyright @ 2009, LÊ VĂN HUY, PhD., Danang University of Economics

NỘI DUNG
Tương quan tuyến tính
Hồi quy tuyến tính
Kiểm tra các điều kiện áp dụng mô hình
Số liệu sai lệch
Hồi quy với biến giả (dummy)
Phương pháp stepwise


TƯƠNG QUAN (CORRELATION)
Xem xét mối quan hệ giữa hai hay nhiều biến
Tương quan có:
Tương quan 2 biến – Bivariate Correlations
Tương quan riêng phần – Partial Correlations

Điều kiện:
2 hoặc nhiều biến định lượng


Mục tiêu nghiên cứu: Giả định nhà nghiên cứu
muốn tìm hiểu có mối quan hệ như thế nào giữa
độ tuổi và thu nhập.
Câu hỏi nghiên cứu: Độ tuổi và thu nhập có mối
quan hệ với nhau hay không ?
Hai biến được chọn: Độ tuổi và thu nhập (2 biến
định lượng).
Giả thuyết H0: Trình độ học vấn và thu nhập
không có liên hệ với nhau.


Vì Pearson = 0,075 và Sig =
0,291 nên chưa có cơ sở để
bác bỏ H0 nghĩa là….

TƯƠNG QUAN RIÊNG TỪNG PHÂN
(PARTIAL CORRELATION)
Nghiên cứu mối quan hệ tuyến tính của hai biến
có loại trừ ảnh hưởng của các yếu tố khác.


TƯƠNG QUAN RIÊNG TỪNG PHÂN
(PARTIAL CORRELATION)


HỒI QUY ĐƠN
Mục đích:
Tìm mối quan hệ giữa hai biến (mối quan hệ nhân quả)

Điều kiện
Hai biến định lượng
Hai biến phải tuân theo quy luật phân phối chuẩn

Mô hình lý thuyết:
Yi = B0 + B1*Xi + ε
Xi: trị quan sát thứ i của biến độc lập
Yi : giá trị dự đoán thứ i của biến phụ thuộc
B0 và B1: hệ số hồi quy

DIỄN GIẢI DỮ LIỆU
Các hệ số góc (bj)
Sự biến đổi của giá trị trung bình của các Y khi Xj tăng
thêm 1 đơn vị, mọi yếu tố khác không đổi.
Kiểm định: tương tự như hồi qui đơn với (n-p-1) bậc tự
do

Hệ số chặn - hằng số (b0)
Giá trị trung bình của Y khi Xj = 0


HỒI QUY ĐƠN
Mục tiêu nghiên cứu: Nên tác động thế nào đến
phong cách lãnh đạo để tạo ra sự trung thành của
nhân viên.
Câu hỏi nghiên cứu: Lòng trung thành của nhân
viên có phụ thuộc và phong cách lãnh đạo?
Hai biến được chọn: Lãnh đạo là biến độc lập và
Lòng trung thành là biến phụ thuộc.


HỒI QUY ĐƠN
Vì F= 75,549 và
Sig = 0,000 <0,05
bác bỏ H0 nghĩa là
2 biến có mối
quan hệ
MQH thể hiện:
LTTi = 0,957
+0,667*lãnh đạo +ε
R2=0,276 MQH
giữa 2 biến là…
R2= 0,276
nên biến
lãnh đạo giải
thích 27,6%
LTT

HỆ SỐ XÁC ĐỊNH R2
Tỉ lệ biến đổi của biến phụ thuộc được giải thích
bằng tất cả các biến độc lập
R2

=

Biến đổi được giải thích
Tổng biến đổi

=

SCR
SCT

Không bao giờ giảm khi các đại lượng được thêm
vào
Vấn đề khi ta so sánh các mô hình


HỆ SỐ XÁC ĐỊNH ĐIỀU CHỈNH R2a

R2

R2 điều chỉnh (R2a)


KIỂM ĐỊNH MỨC Ý NGHĨA (DÙNG F)

ANOVA
dl

SC

MC

F

Regression

p

SCR

MCR =SCR/p

MCR/MCE

Residue

n-p-1

SCE

MCE =SCE/(n-p-1)

Total

n-1

SCT


MÔ HÌNH HỒI QUY (BỘI)
Mối liên hệ giữa một biến phụ thuộc với ít nhất hai
biến độc lập là một hàm tuyến tính
Mô hình:
Hệ số chặn
(hằng số)

Các hệ số
hồi qui của
tổng thể

Sai số
ngẫu
nhiên

Yi = β 0 + β1X 1i + β 2 X 2i +…+ βp X pi + ε i
Biến phụ thuộc

Các biến
độc lập


MÔ HÌNH HỒI QUY BỘI (2 BIẾN) – TRÊN TỔNG THẾ
Yi=β0+ β1X1i+ β2X2i + εi
Y
Kết quả

β0

εi
X2

X1

E(Y)=β0+ β1X1+ β2X2

MÔ HÌNH HỒI QUY BỘI (2 BIẾN) – TRÊN MẪU

Yi=b0+ b1X1i+ b2X2i + ei
Y
Đáp số

b0

ei
X2

X1

ĐIỀU KIỆN VẬN DỤNG MÔ HÌNH
Các điều kiện về dạng mô hình :
MQH tuyến tính giữa các biến độc lập với biến phụ
thuộc

Các điều kiện về sai số mô hình (error):
Các sai số mô hình là độc lập (không tự tương quan)
Các sai số phân phối theo phân phối chuẩn

Các điều kiện về các số dự đoán:
Các biến độc lập không ngẫu nhiên
Các giá trị của các biến độc lập được đo lường không
có sai số
Các số dự đoán là độc lập theo đường thẳng, (không
có bội tương quan giữa các biến độc lập multicollinearity)

MÔ HÌNH NGHIÊN CỨU VÀ CÁC KHÁI NIỆM
Items 1.1
Items 1.2
Items 1.3
…
Items 1.n

LÃNH ĐẠO
CƠ HỘI ĐTẠO VÀ
TTIẾN
LƯƠNG, THƯỞNG

Items 2.1
Items 2.2
Items 2.3
…
Items 2.n

ĐỒNG NGHIỆP

LÒNG TRUNG
THÀNH

PHÚC LỢI
BẢN CHẤT CVIỆC
MÔI TRƯỜNG LV

VÍ DỤ VỀ HỒI QUY BỘI (PP. ENTER)
Phát triển mô hình để giải
thích mối quan hệ F1,…,F7
với lòng trung thành (LTT)


HÃY GIẢI THÍCH KẾT QUẢ

Phương trình
hồi quy bội
LTT = -0,745
+ 0,245 F1
+ 0,220 F2
+ 0,476 F3
- 0,105 F4


VẤN ĐỀ ĐA CỘNG TUYẾN VÀ TỰ TƯƠNG QUAN
Đa cộng tuyến là trạng thái các biến độc lập trong
mô hình có tương quan chặt chẽ với nhau.
Để kiểm tra hiện tượng đa cộng tuyến, có thể sử
dụng bảng ma trận tương quan hoặc kiểm tra
bằng lựa chọn Collinearity Diagnostic.
Kiểm tra tự tương quan, kích vào Durbin-Watson


Nếu Di>4/(n-p-1), quan
sát được xem như có
ảnh hưởng

Đối với biến Xi, tolerance bằng 1-Ri2 với Ri là
hệ số xác định của biến Xi được hồi qui bởi tất
cả các biến độc lập khác

ĐK không
tự tương
quan:
VIF < 10


HỒI QUY BỘI VỚI PHƯƠNG PHÁP STEPWISE
Phương pháp này là kết hợp đưa vào dần và loại
trừ dần.
Biến nào có tương quan riêng cao nhất sẽ được
xem xét đưa vào mô hình trước với xác suất là
0,05
Để ngăn chặn hiện tượng 1 biến được chọn vào
rồi chọn ra lặp lại thì SPSS mặc định xác suất F
vào nhỏ hơn F ra.
Thủ tục chọn biến sẽ kết thúc khi không còn biến
nào thỏa tiêu chuẩn chọn vào, chọn ra nữa.


Mô hình
chọn luôn là
mô hình
cuối cùng

Mô hình
chọn luôn là
mô hình
cuối cùng



Câu hỏi:
Kết quả này có khác gì với kết quả của
phương pháp ENTER
Mô hình:
LTT = -0,247 + 0,459 Lương và thưởng + 0,282 CH Đào tạo
và thăng tiến + 0,260 Lãnh đạo

CÂU HỎI
Nếu có một biến (độc lập) không thỏa các điều
kiện để thực hiện một phân tích tương quan thì
thế nào?
Có khả năng chuyển về biến đính tính không?
Nếu muốn phân tích tương quan, trong cac biến
độc lập có một biến định tính (biến 2 hoặc nhiều
lựa chọn) thì có thể thực hiện được không?


BIẾN GIẢ (DUMMY)
Các ví dụ:
Biến giới tính:

nam-nữ,
có mặt – vắng mặt
miền Bắc, Trung, Nam

Được mã hóa 0 hoặc 1
Về mặt lý thuyết,
các hằng số (hệ số chặn) phải khác nhau

Số các biến giả cần thiết bằng số lựa chọn (của
biến định tính) - 1


BIẾN GIẢ (DUMMY)

ˆ
Yi = b0 + b1 X 1i + b2 X 2i
Y = tiền lương
X1,7 = Lãnh đạo, Cơ hội đào tạo và thăng tiến…
0 nữ
X8 = Giới tính =
1 nam
Nam (X8 = 1)
ˆ
Yi = b0 + b1X1i + b2 (1) = (b0 + b2 ) + b1X1i
Cùng
Nữ (X8 = 0)
hệ số
hồi qui
ˆ
Y = b + b X + b (0) = b + b X
i

0

1

1i

2

0

1

1i


BIẾN GIẢ (dummy)
Y (Lòng trung thành)

N am

Cùng hệ số
gốc b1

b0 + b2

Hệ số chặn
(hằng số) khác
nhau

b0

Nữ

X8 (giới tính)

MÃ HÓA BIẾN DUMMY
Biến cũ
Giới tính

1: Nam,

2: Nữ

Chúng ta phải chuyển thành
Giới tính

1: Nam,

0: Nữ

trước khi thực hiện phân tích!!!


TRÌNH TỰ THỰC HIỆN


KẾT QUẢ


KẾT QUẢ

Mô hình:
LTT = -0,247 + 0,459 Lương và thưởng + 0,282 CH Đào tạo
và thăng tiến + 0,260 Lãnh đạo + 0,396 Danh hiệu thi đua

CÂU HỎI: MÃ HÓA BIẾN VÀ PHÂN TÍCH (DUMMY)
Biến cũ: ĐIAĐIEM
Miền Bắc

1

Miền Trung 2
Miền Nam

3

Chúng ta phải chuyển thành
ĐIAĐIEM1

Miền Bắc

1

Khác 0

ĐIAĐIEM2

Miền Trung 1

Khác 0

Diễn giải dữ liệu cho phù hợp!!!

TÁC ĐỘNG CỦA MÃ HÓA BIẾN
Sự mã hóa riêng biệt các biến giả cốt là thay thế
các dòng lấy giá trị 0 đối với tất cả các biến giả
liên quan đến một biến cụ thể bằng một giá trị -1.


TÁC ĐỘNG CỦA MÃ HÓA BIẾN


KIỂM TRA 1

Regression Studentized Residual

4

2

0

-2

-4
0

100000

200000

300000

400000


KIỂM TRA 2
60
50
40
30

Frequency

20
10
0

25
3,
75
2,
25
2,
75
1,
25
1,

5
,7
5
,2
5
-,2
5
-,7
5
,2
-1
5
,7
-1
5
,2
-2
5
,7
-2
5
,2
-3
5
,7
-3

Regression Standardized Residual


HAI KIỂM ĐỊNH PHÂN PHỐI CHUẨN
Nhờ vào hệ số mất cấn đối (Skewness)

Nhờ vào Kurtose


ĐIỀU KIỆN VẬN DỤNG MÔ HÌNH
Câu hỏi: Nếu các điều kiện không đạt thì thế
nào?
Các điều kiện vận dụng mô hình thường xuyên
không đạt được:
Tuyến tính
Phương sai không đổi của các sai số (errors) của mô
hình

Một mô hình là tuyến tính nếu các tham số hiện
diện trong mô hình là tuyến tính, ngay cả khi các
biến độc lập không tuyến tính


BIẾN ĐỔI BIẾN
Các ví dụ của các mô hình tuyến tính:

Y = β0 + β1 X + ε
2

Y = β0 + β1 X + β 2 X + ε
Y = β0 + β1 log X + ε
Y = β0 + β1 X + ε
Ví dụ mô hình không tuyến tính:

Y = β0 + e

β1 X

+ε

BIẾN ĐỔI MÔ HÌNH

Hàm
Phép biến đổi
Dạng tuyến tính

β

Y = αX
Y ' = log Y , X ' = log X
Y ' = log α + βX '


Hàm
Phép biến đổi

βX

Y = αe
Y ' = ln Y
Y ' = ln α + βX

BiẾN ĐỔI MÔ HÌNH

Hàm
Phép biến đổi

Y = α + β log X
X ' = log X
Y = α + βX '


Hàm
Phép biến đổi

X
Y=
αX − β
1
1
Y' = , X ' =
Y
X

Y' = α − βX '


Hàm

Y=

e

α +βX
α +βX

Phép biến đổi

1+ e
Y
Y ' = ln
1−Y


Y ' = α + βX

Ch iv regression

Recomendados

Recomendados

Más contenido relacionado

Destacado

Destacado (7)

Similar a Ch iv regression

Similar a Ch iv regression (9)

Más de Rain Wolf's

Más de Rain Wolf's (7)

Ch iv regression