Bài giảng Kinh tế lượng - Chương 2: Hồi quy bội (Multiple regression) - Nguyễn Trung Đông

05/01/2019
1
Bài Giảng
KINH TẾ LƯỢNG
(Econometric)
Chương 2
Hồi Quy Bội
(Multiple Regression)
GV: ThS. Nguyễn Trung Đông
Mail: nguyendong@ufm.edu.vn1
Chương 2. Hồi Quy Bội
 Hàm hồi quy tổng thể PRF.
 Các giả mô hình thuyết.
 Ước lượng tham số.
 Hệ số xác định mô hình hồi quy bội.
 Ma trận tương quan, Ma trận hiệp
phương sai.
 Khoảng tin cậy và kiểm định giả
thuyết.
 Dự báo.
 Một số dạng hàm hồi quy.
 Hồi quy với biến giả. 2
1. Hàm hồi quy tổng thể PRF
Xét hàm hồi quy tuyến tính k biến
Hay
Trong đó 
là sai số ngẫu nhiên
là hệ số tự do
là các hệ số hồi quy riêng
 2 3 k 1 2 2 3 3 k kE Y X ,X ,...,X X X ... X    
1 2 2 3 3 k kY X X ... X     

1
2 3 k, , ...,  
3
Từ một mẫu quan sát i 2,i 3,i k,iY ,X ,X ,...,X
với i = 1, 2,,n, lấy từ tổng thể, ta có 
hệ sau
1 1 2 2,1 k k,1 1
2 1 2 2,2 k k,2 2
n 1 2 2,n k k,n n
Y X ... X
Y X ... X
... ... ... ... ... ... ... ... ... ... ...
Y X ... X
     
     
     
Với là các phần dư của số hạng thứ j.j
1. Hàm hồi quy tổng thể PRF
4
Viết hệ trên dưới dạng ma trận như sau
Trong đó
Y X  
1 1 1
2 2 2
n k n
2,1 3,1 k,1
2,2 3,2 k,2
2,n 3,n k,n
Y
Y
Y ; ;
... ... ...
Y
1 X X ... X
1 X X ... X
X
... ... ... ... ...
1 X X ... X
  
    
  
1. Hàm hồi quy tổng thể PRF
5
2. Các giả thuyết mô hình
GT1 : 
GT2 :
Hay dưới dạng ma trận
GT3 : Các biến độc lập phi ngẫu nhiên.
GT4 : Không có hiện tượng cộng tuyến 
giữa các biến độc lập.
 i j 2
0 khi i j
E ,
khi i j
  
 
 iE 0, i 
 T 2E I 
6
05/01/2019
2
3. Ước lượng tham số
Hàm hồi quy mẫu SRF có dạng
Hay dưới dạng ma trận 
trong đó
   
i 2,i 3,i k,i i1 2 3 kY X X ... X e     
Y X e  





1 1
22
kk
e
e
; e Y X
......
e
  
    
  7
3. Ước lượng tham số
Khi đó, phương pháp OLS, xác định
các hệ số hồi quy sao cho
 
   
n n 2
2
ii i
i 1 i 1
n 2
i 2,i k,i1 2 k
i 1
RSS e Y Y
RSS Y X ... X min
    
 

8
Khi đó các tham số hồi quy thỏa mãn hệ 

  
1T T T TRSS 0 (X X) X Y X X X Y
 
   

n n n
2,i k,i i
i 1 i 1 i 1
n n n n
2
2,i 2,i 2,i k,i 2,i iT T
i 1 i 1 i 1 i 1
n n n n
2
k,i k,i 2,i k,i k,i i
i 1 i 1 i 1 i 1
n X ... X Y
X X ... X X X Y
X X ;X Y
... ... ... ... ...
X X X ... X X Y
 
  
   
   
Trong đó
3. Ước lượng tham số
9 10
11
Kết quả tính toán trên cho bởi phần mềm Eview
12
05/01/2019
3
4. Hệ số xác định MH hồi quy bội
Để đánh giá mức độ phù hợp của mô hình 
hồi quy, ta dùng hệ số xác định được 
xác định như sau 
2 RSS ESSR 1
TSS TSS
 
2T 2
Y
T 2T
TSS Y Y n Y nS
ESS X Y n Y
RSS TSS ESS.
  
Trong đó
2R
13
 Ý nghĩa của cũng tương tự như trong
mô hình hai biến.
 Để so sánh mức độ phù hợp của các mô
hình có số biến độc lập khác nhau, hay
 Để xem xét việc có nên đưa thêm các
biến độc lập mới vào mô hình không.
 Khi đó ta dùng hệ số xác định điều
chỉnh là: 2 2 n 1R 1 1 R
n k
Biến độc lập đưa vào mô hình là có ý
nghĩa nếu làm tăng giá trị của
2R
2R .
14
4. Hệ số xác định MH hồi quy bội
5. Ma trận tương quan
1,2 1,k
2,1 2,k
k,1 k,2
1 r ... r
r 1 ... r
R
... ... ... ...
r r ... 1
n n
i j,i t,i j,i
i 1 i 1
1, j t, j j,i j,i j
n n n n
2 2 2 2
i j,i t,i j,i
i 1 i 1 i 1 i 1
y x x x
r , r ; x X X
y x x x
 
   
Trong đó
15
6. Ma trận hiệp phương sai
 
     
     
     
1 1 2 1 k
2 1 2 2 k
k 1 k 2 k
var cov , ... cov ,
cov , var ... cov ,
cov
... ... ... ...
cov , cov , ... var
     
      
     
 
12 Tcov X X
   2Ta tính ta thay 
bởi 
2 RSS
n k
 
 16
 2TTSS Y Y n Y 58.5 
 2T T 2ESS X Y n Y 2778.71 10(16.5) 56.211  
RSS TSS ESS 58.5 56.21 2.289 
2 ESS 56.211R 0.96087
TSS 58.5
2 RSS 2.289 0.327
n 3 7
 
Ví dụ 2. với số liệu cho trong ví dụ 1, ta có
17
  
12 Tcov( ) X X
39980 3816 3256
0.327
3816 376 300
1528
3256 300 280
8.55593 0.81664 0.6968
0.81664 0.080466 0.0642
0.6968 0.0642 0.05992
  
Vậy, ta có ma trận hiệp phương sai
6. Ma trận hiệp phương sai
18
05/01/2019
4
Các kết quả tính ở trên được cho bởi Eview như
19
7. Khoảng tin cậy cho các hệ số
hồi quy tổng thể
Ta dùng thống kê sau 

 
jj
j
T St(n k)
se
 


  j jse var Trong đó
Được cho trong ma trận hiệp phương sai
20
Với mức ý nghĩa cho trước, ta có 
    j j j j jCse ; Cse      
Khoảng ước lượng cho
n k
2
C t 
j, j 1,2,...k 
7. Khoảng tin cậy cho các hệ
số hồi quy tổng thể
21
Ví dụ 3: Với số liệu ở ví dụ 1, ta có
Với , ta tìm được :
Khoảng ước lượng cho các hệ số hồi quy
0,05 70,025C t 2,365 
     
     
     
1 1 1 11
2 2 2 22
3 3 3 33
Cse ; Cse 8,0791;21,9049
Cse ; Cse 0,0927;1,4313
Cse ; Cse 1,1684; 0,0096
      
      
      
22
  
   
1 1 2
2 33
n 10; k 3; 14,992; se 2,923; 0,762
se 0,283; 0,589; se 0,245
    
   
8. Khoảng ước lượng cho phương
sai của sai số ngẫu nhiên tổng thể
Ta dùng thống kê sau
Với ta có
KUL cho :

 
  


2
2
2
(n k)
Y n k
 2 2
1
2 2
a n k ; b n k 
   
 2 2
2 (n k) (n k);
b a
  
  
2
23
Ví dụ 4: Với số liệu ở ví dụ 1, ta có
Với ta có
KUL cho :
0,05 
 2 20,975 0,025a 7 1,69; b 7 16,013   
 
 
2 2
2 (n k) (n k); 0,143;1,352
b a
  
  
2
24
 2 2n 10; k 3; (0,571382) 0,3265  
05/01/2019
5
9. Kiểm định sự phù hợp của
mô hình
Kiểm định giả thuyết (KĐ toàn phần)
2
0 2 3 k 0H : ... 0 H : R 0   
2
2
ESS R
k 1 k 1
RSS 1 R
n k n k
F F k 1;n k 
 
Ta dùng thống kê sau :
Với cho trước, ta có : C f k 1;n k 
: bác bỏNếu F C 0H . 25
Ví dụ 5: Với số liệu ở ví dụ 1, ta có
Bài toán kiểm định
Ta dùng thống kê
Với , ta tìm được:0,05 0,05C f (2,7) 4,74 
26
2n 10; k 3; R 0,96087 
2
0
2
1
H :R 0
H :R 0
2
2
(n k)R
F F(k 1,n k), F 86,093
(k 1)(1 R )

Ta có bác bỏ 0H .F C, 
(Mô hình không phù hợp)
(Mô hình phù hợp)
Kiểm định giả thuyết (KĐ từng phần)
0 jH : 0; j 2,3,...,k 

 
j
j
T St(n k)
Se



Nếu đúng, ta có thống kê sau :
Với cho trước, ta có : n k
2
C t 
: bác bỏNếu T C 0H .
9. Kiểm định sự phù hợp của
mô hình
0H
27
Ví dụ 6: Với số liệu ở ví dụ 1, ta có
Bài toán kiểm định
Nếu đúng, ta có thống kê
Với , ta tìm được :0,05 70,025C t 2,365 
28
  3 3n 10; 0,589; se 0,245   
 
 
0 3
1 3
H : 0
H : 0
0H

 
3
3
T St(n 3), T 2,4041
se



Ta có bác bỏ 0H .T C, 
(Giá bán thay đổi không ảnh hưởng tới lượng hàng)
(Giá bán thay đổi làm ảnh hưởng tới lượng hàng)
10. Dự báo
Dự báo cho giá trị trung bình
 0 0 01 2 2 k kE Y X X X ... X   
   0 0
0 2 k1 2 kY X ... X   
 
 
0
0
0
Y E Y X X
T St(n k)
se Y
 
  0 0se Y var Y 
Với dự báo điểm là
Ta dùng thống kê sau
Trong đó
29
10. Dự báo
Với phương sai của
  
T 12 0 T 0
0Va r Y X X X X
 
Với cho trước, ta có
Khoảng ước lượng GTTB của Y

0Y
     0 0 0 0 0E Y | X X Y Cse Y ;Y Cse Y 
 n k
2
C t 
30
05/01/2019
6
10. Dự báo
- Dự báo cho giá trị cá biệt 0Y

 
00
00
Y Y
T St(n k)
se Y Y

  0 00 0se Y Y var Y Y 
Trong đó
Ta dùng thống kê
31
10. Dự báo
Với phương sai của
   20 00Va r Y Y Va r Y  
Với cho trước, ta có
Khoảng ước lượng GTCB của Y
 00Y Y 
    0 0 0 00 0 0Y Y Cse Y Y ;Y Cse Y Y 
 n k
2
C t 
32
Ví dụ 7. Cho biết số liệu về sản lượng Y,
phân hóa học X2, thuốc trừ sâu X3, tính
trên một đơn vị diện tích ha, cho trong
bảng sau
33 34
11. Một số dạng hàm hồi quy
 Hàm sản xuất Cobb – Dauglas (tuyến 
tính Log)
32 m
1 m2 3Y X X ...X e
   Dạng tổng quát :
Dạng thường dùng : 321 2 3Y X X e
  
 Mô hình nghịch đảo
1 2 2 3 3
1
Y
X X
   
 Mô hình đa thức
2 k
1 2 2 3 2 k 2Y X X ... X     
35
Mô hình TT Mô hình LogaritMô hình Nghịch
11. Một số dạng hàm hồi quy
36
05/01/2019
7
12. Hồi quy với biến giả
Ví dụ 8. Ta cần đánh giá sự khác biệt về 
mức tiền lương (Y), của các nhân viên, phụ 
thuộc vào giới tính. Khi đó, ta cần đưa vào 
mô hình hồi quy một biến giả D, với D = 0 
: Nữ và D = 1 : Nam.
(Lưu ý : nếu như ta cần so sánh n phạm 
trù khác nhau, ta cần có n – 1 biến giả)
i i 1
i i 1 2
D 0 E Y D 0
D 1 E Y D 1
 
  
với
 i 1 2 iE Y D D  Xét mô hình
37
So sánh hai hàm hồi quy
Giả sử, ta có hai bộ số liệu i i 1X ,Y ,i 1,n 
và j j 2X ,Y , j 1,n , ta sẽ có hai mô hình
i 1 2 i 1,i 1Y X , i 1,n (1a)    
j 1 2 j 2, j 2Y X , j 1,n (1b)    
Để kiểm định cho sự khác nhau của hai
mô hình, ta dùng phép kiểm định Chow,
như sau
38
Các bước kiểm định Chow
Bước 1: Tìm hàm hồi quy với mẫu
n = n1 + n2. Khi đó ta thu được RSS
Bước 2: Tìm hàm hồi quy riêng với mẫu
n1, n2. Tương tự ta cũng có RSS1 và RSS2
1 2RSS RSS RSS 
Bước 3: Ta dùng thống kê sau
1 2
1 2
(RSS RSS) / k
F F(k,n n 2k)
RSS / (n n 2k)

39 40
41
Câu hỏi
1) Viết hàm SRF.
2) Tính số tủ lạnh bán được trung bình
trong các quý.
3) So sánh số tủ lạnh bán được trong
các quý. Giải thích.
4) Kiểm định giả thiết cho rằng số tủ
lạnh bán được trong quý 1 và quý 4
là như nhau.
42