Bài giảng Kinh tế lượng - Chương 1: Hồi quy đơn (Simple regression) - Nguyễn Trung Đông

05/01/2019
1
Bài Giảng
KINH TẾ LƯỢNG
(Econometric)
Chương 1
Hồi Quy Đơn
(Simple Regression)
GV: ThS. Nguyễn Trung Đông
Mail: nguyendong@ufm.edu.vn
1
Chương 1. Hồi Quy Đơn
Phân tích hồi quy
Mô hình hồi quy
Hệ số xác định mô hình
Khoảng ước lượng 
Kiểm định sự phù hợp mô hình
Bài toán dự báo
2
1. Phân tích hồi quy
 Nghiên cứu mối liên hệ phụ thuộc của
một biến phụ thuộc (Y), theo một hay
nhiều biến độc lập ( ) khác.
 Phân tích hồi quy giải quyết các vấn đề
sau
 Ước lượng và dự đoán giá trị trung
bình của biến phụ thuộc với giá trị đã
cho của biến độc lập.
 Kiểm định giả thuyết về bản chất của
các mối liên hệ.
iX
3
Chú ý:
 Biến độc lập là biến phi ngẫu nhiên.
 Biến phụ thuộc là biến ngẫu nhiên
nó có phân phối xác định.
 Nghĩa là ứng với mỗi giá trị của biến
độc lập, biến phụ thuộc có thể lấy giá
trị khác nhau nhưng các giá trị này
tuân theo luật phân phối xác định.
1. Phân tích hồi quy
4
2. Mô Hình Hồi Quy
1. Hàm hồi quy tổng thể PRF
PRF=Population Regression Function
Ta xét PRF là hàm tuyến tính có dạng
hay
 i 1 2 iE Y | X X X (1)  
 1 2E Y | X X  
5
1. Hàm hồi quy tổng thể PRF
Hàm hồi quy tổng thể ngẫu nhiên của (1)
hay
Trong đó β1, β2, ε lần lượt là hệ số hồi
quy và sai số ngẫu nhiên tổng thể.
i 1 2 i iY X   
1 2Y X   
2. Mô Hình Hồi Quy
6
05/01/2019
2
2. Hàm hồi quy mẫu SRF
SRF=Sample Regression Function
Ta xét hàm hồi quy mẫu có dạng
hay
Trong đó lần lượt là các ước
lượng điểm của E(Y|X), β1, β2.
  
i 1 2 iY X (2)  
  
1 2Y X  
2. Mô Hình Hồi Quy
7
2. Hàm hồi quy mẫu SRF
Dạng ngẫu nhiên (2)
Với là ước lượng điểm
của (phần dư).
 
1 2i i iY X e   

ii ie Y Y 
i
2. Mô Hình Hồi Quy
8
3. Tính chất của SRF
Phần dư và không tương quan
Phần dư và không tương quan
   
   
1 2
n n1
i 1 i i 1 i in
ˆˆ ˆi)Y X; ii) Y Y
ˆiii) e e 0; iv) e Y 0
  
n
i 1 i iv) eX 0
e
e X
Yˆ
2. Mô Hình Hồi Quy
9
4. Phương pháp OLS
Giả sử là PRF cần tìm.
Ta ước lượng PRF bởi SRF có dạng
Từ một mẫu gồm n quan sát
khi đó với mỗi i, ta có
là các phần dư  i i i i 1 2 iˆ ˆ ˆe Y Y Y X
  1 2ˆ ˆY X
 i iX ,Y ; i 1,2,...,n, 
2. Mô Hình Hồi Quy
10
   1 2Y X
Y
.
.
. .
.
.
.
..
.
.ei
XXi
Yi
.
. .
.
.
0
SRF

iY
11
Khi   i 1 2i i i i iX X e Y Y Y X  
  
i 1 2 iY X  
Nội dung phương pháp OLS là tìm các
tham số sao cho :
Khi đó thoả mãn hệ sau
      
n n 2
2
1 2 i i 1 2 i
i 1 i 1
ˆ ˆ ˆ ˆf , e Y X min
  
   
 
  
n n
1 2 i i
i 1 i 1
n n n
2
1 i 2 i i i
i 1 i 1 i 1
ˆ ˆn X Y
ˆ ˆX X X Y
 1 2ˆ ˆ, 
 1 2ˆ ˆ, 
2. Mô Hình Hồi Quy
12
05/01/2019
3
Giải hệ trên ta được 
và 
 


n
i i
X,Yi 1 Y
2 X,Yn 22
XX
i
i 1
X X Y Y
S Sˆ r
SS
X X
 1 2ˆ ˆY X
2. Mô Hình Hồi Quy
13
Ví dụ 1. Bảng sau cho số liệu về lãi suất
ngân hàng (Y) và tỷ lệ lạm phát (X)
trong năm 1988 ở 9 nước.
Với số liệu trên, ta tìm được (sử dụng MT)
Hay mô hình hồi quy :
  
1 2
ˆ ˆ2.7417 và 1.2494
 Y 2.74 1.25 X
2. Mô Hình Hồi Quy
14
 
 


11 2
1 2 2
2,74179 84,7 130,5
84,7 2770,97 3694,29 1,2494
    
   
Lập bảng ta tính được các tổng như sau
15
5. Các giả thuyết của mô hình
GT1: Biến X là biến phi ngẫu nhiên.
GT2: E(εi) = E(ε|X = Xi) = 0.
GT3: Var(εi) = Var(εj) = σ
2, với mọi i, j
GT4: Cov(εi,εj) = 0
GT5: Cov(εi,Xj) = 0
GT6: εi  N(0, σ
2)
GT7: Yi  N(β1 + β2Xi, σ
2)
2. Mô Hình Hồi Quy
16
6. Tính chất các hệ số hồi quy
Các hệ số hồi quy có các tính chất sau:
 và được xác định một cách duy
nhất ứng với các mẫu.
 và là các ước lượng điểm của β1
và β2.
 Các hệ số hồi quy có phân phối sau:
1ˆ
1ˆ 2ˆ
2ˆ
2. Mô Hình Hồi Quy
17

          1 2
2 2
1 21 2N ; ; N ;
Trong đó, các phương sai của các hệ
số hồi quy được tính bởi các công thức
sau :
 
  


2
2
2
(n 2)
Và Y (n 2)
2. Mô Hình Hồi Quy
18
05/01/2019
4
Trong đó, σ2 chưa biết ta thay σ2 bởi ước
lượng không chệch của nó là 
    
2 2
2
1 22 2
X X
1 X ˆvar ; var
n nS nS
 

n
2 2 2 2
i X,Y Y
i 1
1 n
e 1 r Sˆ
n 2 n 2
2. Mô Hình Hồi Quy
19
3. Hệ Số Xác Định Mô Hình 
 
  

 
 
n 2
2
i Y
i 1
n n2 2
2 2 2
i 2 i 2 X
i 1 i 1
n n 2
2
i i i
i 1 i 1
2 2
X,Y Y
TSS Y Y nS .
ˆ ˆESS Y Y X X n S .
ˆRSS e Y Y
TSS ESS n 1 r S .
20
21
Hệ số xác định MH (coefficient of determination)
R2 = 1 – RSS/TSS = ESS/TSS, hay
để đo mức độ phù hợp của hàm hồi quy.
 Khi R2 =1, ta nói mô hình giải thích được
toàn bộ sự thay đổi của các quan sát.
 Khi R2 =0, ta nói mô hình không giải
thích được gì.
Khi đó ta còn có công thức sau :
  
2 2 2
X,Y Y
n RSS
1 r Sˆ
n 2 n 2
3. Hệ Số Xác Định Mô Hình 
2 2
X,YR =r
22
Chẳng hạn như trong ví dụ 1, ta có thể
tính được các tham số sau :
2 2.975456987ˆ 
 
 
1
2
ˆvar 0.464118722
ˆvar 0.001507439097
  
2
Y
2 2
2 X
2 2
X,Y Y
2
TSS nS 3102.04
ˆESS n S 3081.211809
RSS n 1 r S 20.82819405
ESS
R 0.993285647
TSS 23 24
Kết quả xuất ra từ phần mềm Eview như sau
05/01/2019
5
4. Khoảng ước lượng cho các
hệ số hồi quy tổng thể
Ta dùng các thống kê sau
Với cho trước ta tìm được :
Khoảng ước lượng cho
 

j j
j
ˆ
T St(n 2); j 1,2
ˆse
 n 2
2
C t 
    j j j jj Cse ; Cse , j 1,2      
j
25
Ví dụ 2: Với số liệu ở ví dụ 1, ta có
Với , ta tìm được :
Khoảng ước lượng cho các hệ số hồi quy
0,05 70,025C t 2,365 
     
     
1 1 1 11
2 2 2 22
Cse ; Cse 1,130;4,353
Cse ; Cse 1,158;1,341
      
      
26
  
  
1 1
2 2
n 9; 2,7417; se 0,6813
1,2494; se 0,0388
   
  
5. Khoảng ước lượng cho phương
sai của sai số ngẫu nhiên tổng thể
Ta dùng thống kê sau
Với ta có
KUL cho :

 
  


2
2
2
(n 2)
Y n 2
 2 2
1
2 2
a n 2 ; b n 2 
   
 2 2
2 (n 2) (n 2);
b a
  
  
2
27
Ví dụ 3: Với số liệu ở ví dụ 1, ta có
Với ta có
KUL cho :
0,05 
 2 20,975 0,025a 7 1,69; b 7 16,013   
 
 
2 2
2 (n 2) (n 2); 1,301;12,325
b a
  
  
2
28
2n 9; 2,9755  
Bài toán kiểm định
Nếu đúng, ta có thống kê
Với , ta tìm được : n 2
/2C t
29
 
 
0 2
1 2
H : 0
H : 0
0H

 
2
2
T St(n 2)
se



Ta có bác bỏ 0H .T C, 
(X thay đổi không ảnh hưởng tới Y)
(X thay đổi ảnh hưởng tới Y)
6. Kiểm định sự phù hợp của
mô hình
Ví dụ 4: Với số liệu ở ví dụ 1, ta có
Bài toán kiểm định
Nếu đúng, ta có thống kê
Với , ta tìm được : 0, 05 70,025C t 2,365 
30
  2 2n 9; 1,2494; se 0,0388   
 
 
0 2
1 2
H : 0
H : 0
0H

 
2
2
1,2494
T St(n 2), T 32,201
0,0388se



Ta có bác bỏ 0H .T C, 
(LP thay đổi không ảnh hưởng tới LS)
(LP thay đổi ảnh hưởng tới LS)
05/01/2019
6
Bài toán kiểm định
Ta dùng thống kê
Với , ta tìm được: C f (1,n 2) 
31
2
0
2
1
H :R 0
H :R 0
2
2
(n 2)R
F F(1,n 2)
1 R

Ta có bác bỏ 0H .F C, 
(Mô hình không phù hợp)
(Mô hình phù hợp)
6. Kiểm định sự phù hợp của
mô hình
Ví dụ 5: Với số liệu ở ví dụ 1, ta có
Bài toán kiểm định
Ta dùng thống kê
Với , ta tìm được:0,05 0,05C f (1,7) 5,59 
32
2n 9; R 0,9933 
2
0
2
1
H :R 0
H :R 0
2
2
(n 2)R
F F(1,n 2), F 1036,91
1 R

Ta có bác bỏ 0H .F C, 
(Mô hình không phù hợp)
(Mô hình phù hợp)
6. Kiểm định sự phù hợp của
mô hình
33
6. Kiểm định sự phù hợp của
mô hình
34
7. Dự báo giá trị trung bình
Với X = X0, ta có ước lượng điểm của Y
Để dự báo GTTB của Y, ta dùng thống kê
trong đó
 0 0ˆ ˆse(Y ) var Y
 0 0
0
Yˆ E Y | X X
T St(n 2)
ˆse Y
  
0 1 2 0Y X  
35
Với phương sai của được cho bởi
Với cho trước, ta có
Khoảng UL GTTB của Y:
  
  
2
2 0
0 2
X
X X1ˆvar Y
n nS
0
Yˆ
     0 0 0 00E Y | X X Y Cse Y ;Y Cse Y 
 n 2
2
C t 
7. Dự báo giá trị trung bình
36
05/01/2019
7
Ví dụ 6: Với số liệu ở ví dụ 1, ta có
Với , ta có
Độ lệch chuẩn của
Với , ta tìm được :
Khoảng dự báo cho GTTB của Y
0,05 
7
0,025C t 2,365 

0Y
37
0X 5 

0Y 2,742 1,2494 5 8,989  
  
  
2
2 0
0 0 2
X
X X1ˆ ˆse Y var Y 0,36 0,6
n nS
      0 0 0 0E Y | X 5 Y Cse Y ;Y Cse Y 7,57;10,41 
8. Dự báo giá trị cá biệt Y0
Để báo cho giá trị cá biệt , ta dùng 
thống kê sau
Trong đó
0 0
0 0
ˆY Y
T St(n 2)
ˆse Y Y
 0 0 0 0ˆ ˆse Y Y var(Y Y )
0Y
38
Với phương sai của được cho 
bởi 
Với cho trước, ta có
Khoảng UL GTCB của Y:
   
2
0 0 0
ˆ ˆvar Y Y var Y
 0 0ˆY Y
    0 0 0 00 0 0Y Y Cse Y Y ;Y Cse Y Y 
 n 2
2
C t 
8. Dự báo giá trị cá biệt Y0
39
Ví dụ 7: Với số liệu ở ví dụ 1, ta có
Với , ta có
Độ lệch chuẩn của
Với , ta tìm được :
Khoảng dự báo cho GTCB của Y
0,05 70,025C t 2,365 
 00Y Y 
40
0X 5 

0Y 2,742 1,2494 5 8,989  
    
2
00 0 0 0
ˆ ˆse Y Y var Y Y var Y 1,83
     0 0 0 00 0 0Y Y Cse Y Y ;Y Cse Y Y 4,66;13,32 
41
Ví dụ 8: Cho số liệu về năng suất (Y:
tạ/ha) và mức phân bón (X: tạ/ha) của
một loại cây trồng từ năm 1988 đến
năm 1997 như sau.
Giả sử X và Y có quan hệ tuyến tính
42
Ví dụ 9: Bảng sau cho số liệu về giá bán
một căn nhà (Y: ngàn USD/ ) và diện
tích (X: ) như sau:
Giả sử X và Y có quan hệ tuyến tính
2ft
2ft
05/01/2019
8
43 44
45
Ví dụ 10: Cho số liệu về thu nhập (X:
ngàn USD/tháng) và chi tiêu cho việc
chăm sóc sức khỏe (Y: ngàn USD/tháng)
của 51 cá nhân ở Mỹ. Ta có bảng kết quả
xuất ra từ Eview như sau (slide kế tiếp)
Giả sử X và Y có tương quan tuyến tính
với nhau. Dựa vào bảng kết quả trả lời
các câu hỏi sau
46
47 48
Với mức ý nghĩa 5%, hãy trả lời các câu hỏi.
1. Viết hàm SRF. Nêu ý nghĩa hệ số góc.
2. Tìm ước lượng các hệ số hồi qui tổng thể.
3. Hãy ước lượng phương sai nhiễu.
4. Hãy cho biết thu nhập thay đổi có ảnh hưởng đến
chi tiêu cho sức khỏe không.
5. Giải thích ý nghĩa hệ số xác định mô hình
6. Kiểm định sự phù hợp của mô hình.
7. Với mức thu nhập 100 nghìn USD. Hãy dự báo
GTTB và GTCB của chi tiêu cho sức khỏe.