TÌNH HUỐNG DẪN NHẬP
Tình huống
Công ty dầu ăn Tường An đang xem xét việc giảm giá bán sản
phẩm (loại bình 5 lít) để tăng lượng hàng bán ra, đồng thời quảng
bá sản phẩm của mình đến khách hàng. Người quản lí của công ty
muốn tính toán xem nếu sản phẩm này được giảm giá đi 1000
đồng/lít thì lượng hàng trung bình bán ra sẽ thay đổi thế nào. Đồng
thời, nếu như giảm giá 1000 đồng cho 1 lít mà lượng hàng bán
thêm được là nhiều hơn 50000 sản phẩm thì công ty sẽ tiến hành 1
chiến dịch khuyến mại trong 1 tháng với giá giảm đi là 10000/lít.
Để tiến hành nghiên cứu này, phòng marketing của công ty đã dựa vào các số liệu bán
hàng của công ty trong vòng 15 tháng qua (n =15 quan sát) để thu thập số liệu về giá bán
(P) và lượng bán (Q) cho loại dầu ăn này. Nghiên cứu viên sau khi tiến hành các thống
kê mô tả đã quyết định dùng hàm cầu dạng tuyến tính để xem xét ảnh hưởng của giá đến
lượng bán: Q P u i 1 2 i i .
Dùng số liệu của mẫu, ước lượng được hàm hồi quy mẫu có dạng
Q 6227 30.43P ˆ .
Câu hỏi
Theo kết quả của mô hình, khi giá giảm 1 đơn vị, lượng hàng bán ra thay đổi thế nào?
Liệu khi giá giảm đi 1000 đồng 1 lít thì lượng hàng bán thêm lớn hơn được 50000 sản phẩm
như các nhà nghiên cứu muốn kiểm tra không?
Giá bán quyết định bao nhiêu % trong sự thay đổi của lượng bán?
Nếu giá bán là 150000 đồng 1 bình thì lượng bán dự báo là bao nhiêu?
24 trang |
Chia sẻ: thanhle95 | Lượt xem: 293 | Lượt tải: 0
Bạn đang xem trước 20 trang tài liệu Bài giảng Kinh tế lượng - Bài 3: Mô hình hồi quy tuyến tính đơn, để xem tài liệu hoàn chỉnh bạn click vào nút DOWNLOAD ở trên
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
STA301_Bài 3_v1.0013101214 23
BÀI 3. Mễ HèNH HỒI QUY TUYẾN TÍNH ĐƠN
Mục tiờu
Sau khi kết thỳc bài, học viờn sẽ hiểu
được những vấn đề sau đõy:
í tưởng của phương phỏp bỡnh phương
tối thiểu (OLS) và cỏch sử dụng OLS để
ước lượng cỏc hệ số hồi quy.
í nghĩa của cỏc hệ số hồi quy ước lượng.
Cỏc giả thiết cơ bản của phương phỏp OLS.
Hệ số xỏc định r2 đo độ phự hợp của
hàm hồi quy.
Khoảng tin cậy và kiểm định giả
thuyết cho cỏc hệ số hồi quy.
Phõn tớch phương sai – kiểm định về
sự phự hợp của mụ hỡnh.
Dự bỏo.
Nội dung Hướng dẫn học
• Phương phỏp OLS.
• Cỏc giả thiết cơ bản của phương phỏp bỡnh
phương tối thiểu.
• Hệ số xỏc định r2 đo độ phự hợp của hàm
hồi quy mẫu.
• Ước lượng khoảng cho hệ số hồi quy.
• Kiểm định giả thuyết về cỏc hệ số hồi quy.
• Phõn tớch phương sai trong mụ hỡnh hồi quy.
• Dự bỏo.
Đề nghị học viờn ụn lại phần ước lượng
và kiểm định giả thiết trong mụn lý
thiết xỏc suất và thống kờ toỏn.
Theo dừi kỹ bài giảng.
Xem cỏc vớ dụ cho mỗi phần bài giảng.
Làm cỏc vớ dụ và trả lời cõu hỏi trắc nghiệm.
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
24 STA301_Bài 3_v1.0013101214
TèNH HUỐNG DẪN NHẬP
Tỡnh huống
Cụng ty dầu ăn Tường An đang xem xột việc giảm giỏ bỏn sản
phẩm (loại bỡnh 5 lớt) để tăng lượng hàng bỏn ra, đồng thời quảng
bỏ sản phẩm của mỡnh đến khỏch hàng. Người quản lớ của cụng ty
muốn tớnh toỏn xem nếu sản phẩm này được giảm giỏ đi 1000
đồng/lớt thỡ lượng hàng trung bỡnh bỏn ra sẽ thay đổi thế nào. Đồng
thời, nếu như giảm giỏ 1000 đồng cho 1 lớt mà lượng hàng bỏn
thờm được là nhiều hơn 50000 sản phẩm thỡ cụng ty sẽ tiến hành 1
chiến dịch khuyến mại trong 1 thỏng với giỏ giảm đi là 10000/lớt.
Để tiến hành nghiờn cứu này, phũng marketing của cụng ty đó dựa vào cỏc số liệu bỏn
hàng của cụng ty trong vũng 15 thỏng qua (n =15 quan sỏt) để thu thập số liệu về giỏ bỏn
(P) và lượng bỏn (Q) cho loại dầu ăn này. Nghiờn cứu viờn sau khi tiến hành cỏc thống
kờ mụ tả đó quyết định dựng hàm cầu dạng tuyến tớnh để xem xột ảnh hưởng của giỏ đến
lượng bỏn: i 1 2 i iQ P u .
Dựng số liệu của mẫu, ước lượng được hàm hồi quy mẫu cú dạng
i iQˆ 6227 30.43P .
Cõu hỏi
Theo kết quả của mụ hỡnh, khi giỏ giảm 1 đơn vị, lượng hàng bỏn ra thay đổi thế nào?
Liệu khi giỏ giảm đi 1000 đồng 1 lớt thỡ lượng hàng bỏn thờm lớn hơn được 50000 sản phẩm
như cỏc nhà nghiờn cứu muốn kiểm tra khụng?
Giỏ bỏn quyết định bao nhiờu % trong sự thay đổi của lượng bỏn?
Nếu giỏ bỏn là 150000 đồng 1 bỡnh thỡ lượng bỏn dự bỏo là bao nhiờu?
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
25
Nội dung bài này giới thiệu một mụ hỡnh hồi quy đơn giản nhất và đưa ra cỏc phương phỏp ước
lượng, kiểm định giả thiết và dự bỏo. Đú là mụ hỡnh hồi quy tuyến tớnh đơn hay cũn được gọi là
mụ hỡnh hồi quy 2 biến, mụ hỡnh đề cập đến một biến độc lập X và một biến phụ thuộc Y.
Trong bài này chỳng ta sẽ ước lượng hàm hồi quy tổng thể PRF dựa trờn thụng tin mẫu. Mặc dự
cú rất nhiều phương phỏp ước lượng hàm hồi quy tổng thể nhưng chỳng ta sẽ sử dụng phương
phỏp thường dựng là phương phỏp bỡnh phương tối thiểu (OLS) (Ordinary Least Square).
3.1. Ước lượng tham số hồi quy bằng phương phỏp bỡnh phương tối thiểu
BÀI TOÁN
Cho biến độc lập X và biến phụ thuộc Y, giả sử ta cú hàm
hồi quy tổng thể (PRF) cú dạng tuyến tớnh:
i i i 1 2 i iY E(Y | X ) u X u (3.1)
Với một mẫu quan sỏt 1 1 2 2 n n(X ,Y ),(X ,Y ),..., (X ,Y )
Ta cú: hàm hồi quy mẫu (SRF)
i 1 2 i
ˆ ˆYˆ X (3.2)
và: i 1 2 i i i iˆ ˆ ˆˆ ˆY X u Y u (3.3)
1 2
ˆ ˆ, là cỏc ước lượng của i i
i i
x X x
y Y y
, iuˆ là ước lượng
của iu , iuˆ được coi là phần dư.
Từ (3.3) ta cú: i i iˆuˆ Y Y .
Vấn đề đặt ra là sử dụng cỏc dữ liệu của X và Y để tỡm ước lượng tốt nhất cho 1 2,
thỏa món tổng bỡnh phương cỏc phần dư đạt giỏ trị nhỏ nhất.
Tức là ta cần phải xỏc định 1 2ˆ ˆ, sao cho:
n n
2 2
1 2 i i 1 2 i
i 1 i 1
ˆ ˆ ˆ ˆˆf ( , ) u (Y X )
đạt min.
Trong cỏc bài giảng về giải tớch nhiều biến ta đó được
trang bị phương phỏp tỡm giỏ trị cực tiểu, cực đại của
hàm f (X,Y) . Vậy để hàm 1 2ˆ ˆf ( , ) đạt giỏ trị nhỏ nhất
thỡ 1 2ˆ ˆ, phải là nghiệm của hệ phương trỡnh
n
1 2
i 1 2 i
i 11
n
1 2
i i 1 2 i
i 12
ˆ ˆf ( , ) ˆ ˆ2(Y X ) 0ˆ
ˆ ˆf ( , ) ˆ ˆ2X (Y X ) 0ˆ
(3.4)
Suy ra:
n n
1 2 i i
i 1 i 1
n n n
2
1 i 2 i i i
i 1 i 1 i 1
ˆ ˆn X Y
ˆ ˆX X X Y
(3.5)
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
26 STA301_Bài 3_v1.0013101214
Ta cú:
n n n
i i i i
i 1 i 1 i 1
1 1 1X X ; Y Y ; XY X Y
n n n
n n
2 2 2 2
i i
i 1 i 1
1 1X X ; Y Y .
n n
Phương trỡnh (3.5) dẫn đến:
1 2
2
1 2
ˆ ˆ X Y
ˆ ˆX X XY
(3.6)
Giải hệ phương trỡnh (3.6) ta thu được nghiệm
2 2 2
1 2
XY (X)(Y)ˆ
X (X)
ˆ ˆY X
(3.7)
Ta đặt
n n
2 2 2 2 2
YY i i
i 1 i 1
S (Y Y) Y n(Y) nY n(Y)
n n
2 2 2 2 2
XX i i
i 1 i 1
S (X X) X n(X) nX n(X)
n n
XY i i i i
i 1 i 1
S (X X)(Y Y) X Y n(X)(Y) nXY n(X)(Y)
Khi đú (3.7) cú thể viết lại là
XY
2
XX
1 2
Sˆ
S
ˆ ˆY X
Phương phỏp tỡm cỏc ước lượng 1 2ˆ ˆ, như trờn được gọi là phương phỏp bỡnh phương
tối thiểu.
3.1.1. Tớnh chất của tham số hồi quy mẫu ước lượng bằng phương phỏp bỡnh
phương tối thiểu.
Phương phỏp bỡnh phương tối thiểu đem lại cỏc ước lượng với cỏc tớnh chất như sau:
Ứng với một mẫu 1 1 2 2 n n((X ,Y ), (X ,Y ),...(X ,Y )) cho trước, hệ số 1 2ˆ ˆ, được xỏc
định duy nhất.
Đường thẳng của phương trỡnh hồi quy mẫu (SRF) i 1 2 iˆ ˆYˆ X đi qua điểm cú
toạ độ giỏ trị trung bỡnh (X,Y).
Giỏ trị trung bỡnh của cỏc ước lượng của iYˆ bằng giỏ trị trung bỡnh của cỏc quan sỏt
iY tức là: iYˆ Y hay
n n
i i
i 1 i 1
1 1Yˆ Y .
n n
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
27
Giỏ trị trung bỡnh cỏc phần dư iuˆ bằng 0
n
i
i 1
uˆ 0.
Cỏc phần dư iuˆ và iYˆ khụng tương quan, tức là:
n
i i
i 1
ˆuˆ Y 0.
Cỏc phần dư iuˆ và iX khụng tương quan, tức là:
n
i i
i 1
uˆ X 0.
Bõy giờ ta sẽ chứng minh một số tớnh chất trờn:
o Hiển nhiờn vỡ hệ phương trỡnh (3.6) cú nghiệm duy nhất.
o Hiển nhiờn vỡ giỏ trị của 1 2ˆ ˆ, là một hàm của mẫu.
o Thay điểm (X,Y) vào phương trỡnh hồi quy mẫu, ta cú:
1 2
ˆ ˆY X
1 2
ˆ ˆY X .
o Ta cú: n ni 1 2 i
i 1 i 1
1 1 ˆ ˆˆ ˆY Y X
n n
1 2
ˆ ˆ X
Y.
o Ta cú: i i iˆuˆ Y Y . Suy ra ngay
n n n n
i i i i i
i 1 i 1 i 1 i 1
ˆ ˆ ˆuˆ (Y Y ) Y Y nY nY 0.
o Rừ ràng từ:
n n n n
2
i i i i i i i i
i 1 i 1 i 1 i 1
ˆ ˆ ˆ ˆ ˆuˆ Y (Y Y )Y Y Y Y
n n
2
i 1 2 i 1 2 i
i 1 i 1
ˆ ˆ ˆ ˆY ( X ) ( X )
2 2 2
1 2 1 1 2 2
ˆ ˆ ˆ ˆ ˆ ˆn Y n XY n( 2 X X )
n
2 2 2 2
i i 1 1 2 2 1 2 1 1 2 2
i 1
1 ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆ ˆˆuˆ Y ( X) ( X X ) ( 2 X X ) 0.
n
Vậy
n
i i
i 1
ˆuˆ Y 0.
(3.8)
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
28 STA301_Bài 3_v1.0013101214
o Dễ dàng thấy
n n
i i i 1 2 i
i 1 i 1
ˆ ˆˆˆ ˆu Y u ( X )
n n
1 i 2 i i
i 1 i 1
ˆ ˆˆ ˆu u X
.
Từ tớnh chất 4 và 5 ta cú
n n
i i i
i 1 i 1
ˆˆ ˆu u Y 0
.
Vậy ta cú:
n
i i
i 1
uˆ X 0.
VÍ DỤ 3.1
Thu thập số liệu về điểm học tập của học sinh và mức thu nhập hàng năm của bố mẹ ta
cú bảng số liệu sau:
Thu nhập (x) (triệu/năm) 45 60 30 90 75 45 105 60
Điểm trung bỡnh (y) 8.75 7.5 6.25 8.75 7.5 5.0 9.5 6.5
Hóy tỡm hàm hồi quy mẫu và tớnh cỏc đặc trưng của nú
3.1.2. Cỏc giả thiết cơ bản của phương phỏp bỡnh phương tối thiểu
Khi phõn tớch hồi quy, mục đớch của chỳng ta là tỡm phương trỡnh hồi quy mẫu thụng
qua việc ước lượng cỏc hệ số 1 2, . Dựa vào dữ liệu mẫu ta thu được cỏc ước lượng
tương ứng là 1 2ˆ ˆ, . Nhưng 1 2ˆ ˆ, là cỏc ước lượng điểm của 1 2, . Vỡ thế ta chưa biết
được chất lượng của cỏc ước lượng này thế nào. Ta cần đưa ra một số cỏc giả thiết của
phương trỡnh bỡnh phương tối thiểu để thu được cỏc
ước lượng tốt nhất cho 1 2, . Từ đú ta cũng sẽ thu
được giỏ trị iYˆ là ước lượng tốt nhất cho iE(Y | X ) .
Chất lượng của cỏc ước lượng sẽ phụ thuộc vào cỏc
yếu tố sau:
Dạng hàm của mụ hỡnh được chọn.
Phụ thuộc vào cỏc iX và iu .
Phụ thuộc vào cỡ của mẫu.
Vấn đề về dạng hàm của mụ hỡnh được lựa chọn chỳng ta sẽ xem xột ở bài 7. Ta sẽ
đưa ra cỏc giả thiết cho iX và iu để cỏc ước lượng thu được khụng chệch và cú
phương sai nhỏ nhất.
Giả thiết 1: Biến giải thớch X cú giỏ trị quan sỏt iX khỏc với ớt nhất 1 giỏ trị cũn
lại, tức là phương sai mẫu hiệu chỉnh khụng suy biến:
n
'2 2
X i
i 1
1S (X X) 0.
n 1
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
29
Giả thiết 2: Giỏ trị trung bỡnh của sai số cú thể mang dấu õm hoặc dương đối với
mỗi giỏ trị quan sỏt nhưng về mặt trung bỡnh thỡ bằng 0.
Giả thiết 3: Cỏc giỏ trị của X được cho trước và khụng ngẫu nhiờn, tức là mỗi iX
được cho trước và khụng phải là biến ngẫu nhiờn. Điều đú cú nghĩa là iX và iu
là khụng tương quan với nhau.
i i i i i i
i i i i
CoV(X ,u ) E(X u ) E(X ) E(u )
X E(u ) X E(u ) 0.
Giả thiết này cú một ý nghĩa rất quan trọng là nếu X và u cú được tương quan thỡ
khi X thay đổi, u cũng sẽ thay đổi. Vỡ thế giỏ trị kỳ vọng của Y sẽ khỏc 1 2X.
Giả thiết 4: Phương sai sai số thuần nhất (khụng đổi)
2
i jVar(u ) Var(u ) i j .
Giả thiết 5: Khụng cú tương quan giữa cỏc iu , tức là:
i jCoV(u ,u ) 0 i j .
Với cỏc giả thiết đó nờu, khi đú ta cú tớnh chất của cỏc ước lượng theo phương phỏp
bỡnh phương tối thiểu như sau:
Định lý Gauss-Markov
Giả sử ta cú mụ hỡnh hồi quy tuyến tớnh, khi đú với
cỏc giả thiết 1-5 ta cú ước lượng bỡnh phương tối
thiểu là cỏc ước lượng tuyến tớnh khụng chệch và cú
phương sai nhỏ nhất trong lớp cỏc ước lượng tuyến
tớnh khụng chệch.
Định lý Gauss-Markov cho một khẳng định là cỏc
ước lượng 1 2ˆ ˆ, của 1 2, cú được bằng phương phỏp bỡnh phương tối thiểu là cỏc
ước lượng khụng chệch và cú phương sai tối thiểu trong cỏc ước lượng khụng chệch
của 1 2, .
3.1.3. Sai số của phương phỏp bỡnh phương tối thiểu
Trong phần 3.1 ta cú cỏc ước lượng 1 2ˆ ˆ, của 1 2, theo phương phỏp bỡnh phương tối
thiểu là
2 2 2
1 2
XY (X)(Y)ˆ
X (X)
ˆ ˆY X .
Đặt: i i
i i
x X X
y Y Y
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
30 STA301_Bài 3_v1.0013101214
Khi đú ta cú:
1 2
ˆ ˆY X
n n
2
2 i i i
i 1 i 1
ˆ x y x .
Với cỏc giả thiết 1-5 của phương phỏp bỡnh phương nhỏ nhất, ta cú phương sai và độ
lệch chuẩn của cỏc ước lượng là
2
2 n
2
i
i 1
ˆVar( )
x
; 2 n
2
i
i 1
ˆse( ) ;
x
n
2
i
2i 1
1 n
2
i
i 1
X
ˆVar( )
n x
;
n
2
i
i 1
1 n
2
i
i 1
X
ˆse( ) ,
n x
với iVar(u ) , se: sai số tiờu chuẩn (standard error).
Do 2 chưa biết nờn dựa vào dữ liệu mẫu đó cho ta
thu được ước lượng của 2 là 2ˆ được xỏc định
bằng cụng thức sau:
n n
2 2
i i
2 i 1 i 1
ˆ ˆu u
ˆ ˆ
n 2 n 2
ˆ là sai số tiờu chuẩn của ước lượng (standard error of the estimate).
3.2. Hệ số xỏc định 2r đo độ phự hợp của hàm hồi quy mẫu:
Cho hai biến X và Y, để xỏc định mối quan hệ của X và Y cú dạng tuyến tớnh hay
khụng ta đưa ra một đại lượng để đo mức độ phụ thuộc tuyến tớnh giữa X và Y.
Ta cú: i i iˆ ˆY Y u
i i i i i
ˆ ˆ ˆˆ ˆY Y Y Y u Y Y u
i i iˆ ˆy y u (3.9)
Bỡnh phương hai vế của (3.9) ta cú:
n n n n
2 2 2
i i i i i
i 1 i 1 i 1 i 1
ˆ ˆ ˆ ˆy y u 2 y u
n n
2 2
i i
i 1 i 1
ˆ ˆy u
n n
2 2 2
2 i i
i 1 i 1
ˆ ˆx u
(3.10)
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
31
Đặt:
n n
2 2
i i
i 1 i 1
TSS y (Y Y)
(3.11)
TSS (Total sum of squares) gọi là tổng bỡnh phương cỏc sai lệch giữa iY với giỏ trị
trung bỡnh Y .
n n n
2 2 2 2
i i i 2 i
i 1 i 1 i 1
ˆˆ ˆ ˆESS (Y Y ) y x
(3.12)
ESS (Explained sum of squares) là tổng bỡnh phương cỏc
sai lệch giữa giỏ trị iYˆ và trung bỡnh của nú.
n
2
i
i 1
ˆRSS u .
(3.13) (3.12)
RSS (Residual sum of squares) là tổng tất cả cỏc bỡnh
phương sai lệch giữa giỏ trị quan sỏt iY và giỏ trị iYˆ nhận
được từ hàm hồi quy hay gọi là tổng cỏc phần dư.
Từ (3.10), (3.11), ( 3.12), (3.13) ta cú:
TSS ESS RSS (3.14)
Chia hai vế cho TSS ta cú:
ESS RSS1
TSS TSS
n n
2 2
i i
i 1 i 1
n n
2 2
i i
i 1 i 1
ˆ ˆ(Y Y) u
(Y Y) (Y Y)
(3.15)
Đặt:
n
2
i
2 i 1
n
2
i
i 1
ˆ(Y Y)
ESSr .
TSS (Y Y)
Từ (3.14) và (3.15) ta cú: 2 RSSr 1
TSS
(3.16)
Ta cú:
n n n
2 2 2 2 2
2i 2 i 2 i
2 i 1 i 1 i 1 X
2n n n 2
2 2 2 Y
i i i
i 1 i 1 i 1
ˆ ˆyˆ x (X X)
Sˆr
Sy y (Y Y)
(3.17)
trong đú:
n
2 2
X i
i 1
1S (X X)
n 1
;
n
2 2
Y i
i 1
1S (Y Y)
n 1
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
32 STA301_Bài 3_v1.0013101214
là phương sai mẫu của X và Y. Ngoài ra vỡ
n
i i
i 1
2 n
2
i
i 1
x y
ˆ
x
nờn (3.17) cú thể được viết
lại như sau:
2n
i i
i 12
n n
2 2
i i
i 1 i 1
x y
r
x y
(3.18)
Từ (3.18) ta cú:
n n n n
i i i i i i
i 1 i 1 i 1 i 1
n n n n
2 2 2 2
i i i i
i 1 i 1 i 1 i 1
1x y X Y ( X )( Y )
nr
x y (X X) (Y Y)
n n n
i i i i
i 1 i 1 i 1
n n n n
2 2 2 2
i i i i
i 1 i 1 i 1 i 1
n X Y ( X )( Y )
n X ( X ) n Y ( Y )
Ta thấy rằng r chớnh là hệ số tương quan mẫu của X và Y.
Cỏc tớnh chất của hệ số tương quan:
r cú thể õm hoặc dương.
1 r 1.
r cú tớnh chất đối xứng r(X,Y) r(Y,X).
Nếu X aX c và Y bY d, a, b > 0, c, d là
hằng số ta cú r(X ,Y ) r(Y,X) .
Nếu X,Y độc lập thỡ r = 0.
r đo độ phụ thuộc tuyến tớnh giữa X và Y.
3.3. Phõn bố xỏc suất của cỏc tham số hồi quy mẫu
Trong phần trước ta đó thu được cỏc ước lượng
điểm của 1 và 2 theo phương phỏp bỡnh phương
nhỏ nhất (OLS) dựa trờn cỏc giả thiết cơ bản về sai
số ngẫu nhiờn iu là:
iE(u ) 0.
2iVar(u ) .
i jCov(u ,u ) 0 , i j .
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
33
Khi đú cỏc ước lượng điểm thu được tương ứng là 1 2ˆ ˆ, cú tớnh chất khụng chệch và
cú phương sai nhỏ nhất. Tuy nhiờn, cỏc ước lượng điểm khụng cho ta biết được độ sai
lệch của chỳng so với giỏ trị thực, vỡ vậy ước lượng khoảng cho ta nhiều thụng tin hơn
so với ước lượng điểm. Để cú thể tỡm được ước lượng khoảng cho cỏc tham số 1 2,
chỳng ta cần xỏc định được phõn phối xỏc suất của 1ˆ và 2ˆ . Cỏc phõn phối xỏc suất
này phụ thuộc vào phõn phối xỏc suất của iu . Vậy ta đưa thờm giả thiết về phõn phối
xỏc suất của iu như sau:
Giả thiết: iu cú phõn phối chuẩn 2N(0; ) ,
Với giả thiết thờm vào đú, 1 2ˆ ˆ, cũn cú cỏc tớnh chất sau:
1 2ˆ ˆ, là cỏc ước lượng vững, tức là khi cỡ mẫu đủ lớn thỡ chỳng hội tụ đến giỏ trị
1 2, .
1ˆ cú phõn phối chuẩn với
1 1
ˆE( ) ,
n
2
i
2 2i 1
1 1 n
2
i
i 1
X
ˆVar( )
n x
(3.19)
tức là 21 1 1ˆ N( ; ) . Từ đú biến ngẫu nhiờn
1 1
1
ˆ
Z
cú phõn phối chuẩn tắc N(0;1).
2 cú phõn phối chuẩn với:
2 2
ˆE( ) ,
2
2
2 2 n
2
i
i 1
ˆVar( )
x
(3.20)
tức là 22 2 2ˆ N( ; ) . Do đú biến ngẫu nhiờn 2 2
2
ˆ
Z cú phõn phối chuẩn tắc
N(0;1).
Thống kờ
2
2
2
ˆ(n 2) cú phõn phối khi-bỡnh phương với n 2 bậc tự do.
Cỏc ước lượng 1 2ˆ ˆ, cú phương sai nhỏ nhất trong số cỏc ước lượng khụng chệch
của 1 2, .
Ta cú i 1 2 i iY X u . Từ giả thiết của iu ta thu được cỏc thống kờ Z và 2 cú
quy luật phõn phối chuẩn tắc và khi bỡnh phương với (n 2) bậc tự do. Vậy ta cú
thể tỡm được khoảng ước lượng cho cỏc tham số 1 2, và 2 .
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
34 STA301_Bài 3_v1.0013101214
3.4. Ước lượng khoảng cho hệ số hồi quy
Trong mục 3.3 với giả thiết về phõn phối chuẩn
2N(0; ) của iu ta cú:
2
1 1 1
ˆ N( ; )
2
2 2 2
ˆ N( ; )
với cỏc phương sai 2 21 2, được xỏc định trong
(3.19) và (3.20). Tuy nhiờn vỡ phương sai 2 chưa biết, nờn cỏc phương sai 2 21 2, cũng
chưa biết, vỡ vậy ta dựng ước lượng khụng chệch của 2 là:
n
2
i
2 i 1
uˆ
RSSˆ .
n 2 n 2
Khi đú cỏc thống kờ:
1 1
1
1
ˆ
T ˆSe( )
và
2 2
2
2
ˆ
T ˆSe( )
với: 1 1ˆ ˆSe( ) Var( ) ; 2 2ˆ ˆse( ) Var( ) .
Cỏc thống kờ này cú phõn phối student với (n – 2) bậc tự do. Đồng thời, thống kờ
2
2
2
ˆ
(n 2)
cú phõn phối khi bỡnh phương với (n – 2) bậc tự do.
3.4.1. Khoảng ước lượng cho 1β
Với độ tin cậy 1 cho trước, ta cú:
(n 2) (n 2)1
2 2
P t T t 1 ,
với
2
(n 2)t là phõn vị mức 2 của phõn phối Student
1T , tức là:
2 2
(n 2) (n 2)1 1
1
ˆ
P{ t t } 1ˆse( )
.
Từ đú dẫn đến
2 2
(n 2) (n 2)
1 1 1 1 1
ˆ ˆ ˆ ˆP{ t se( ) t se( )} 1 .
Vậy với mẫu cụ thể ta cú khoảng ước lượng cho 1 là:
2 2
(n 2) (n 2)
1 1 1 1 1
ˆ ˆ ˆ ˆ( t se( ); t se( )) .
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
35
3.4.2. Khoảng ước lượng cho 2β
Tương tự như trờn ta cú, với độ tin cậy 1 cho
trước thỡ:
(n 2) (n 2)2 2
2
2 2
2
ˆ
P t T t 1ˆSe( )
.
Từ đú,
(n 2) (n 2)2 2 2 2 2
2 2
ˆ ˆ ˆ ˆP t Se( ) t Se( ) 1 .
Vậy với mỗi mẫu cụ thể ta cú khoảng ước lượng cho 2 là:
(n 2) (n 2)2 2 2 2 2
2 2
ˆ ˆ ˆ ˆt Se( ); t Se( )
3.4.3. Khoảng ước lượng cho 2σ
Ta thấy thống kờ
2
2
2
ˆ(n 2)
cú phõn phối khi-bỡnh phương với (n-2) bậc tự do.
Do đú:
2
2 2 2
1 / 2;n 2 / 2;n 22
ˆ(n 2)P{ } 1
với 21 / 2;n 2 và 2 / 2;n 2 là cỏc giỏ trị phõn vị mức 1 / 2 và / 2 của phõn phối
2 (n 2) .
Từ đú ta cú:
2 2
2
2 2
/ 2;n 2 1 / 2;n 2
ˆ ˆ(n 2) (n 2)P 1
.
Vậy với mẫu cụ thể và độ tin cậy 1 , ta cú khoảng ước lượng cho 2 là:
2 2
2
2 2
/ 2;n 2 1 / 2;n 2
ˆ ˆ(n 2) (n 2)( ; )
.
3.5. Kiểm định giả thuyết về cỏc hệ số hồi quy
Kiểm định giả thuyết thống kờ là một trong những nhiệm vụ quan trọng của nhà kinh
tế lượng. Chẳng hạn, trong mụ hỡnh hồi quy (3.1) ta thấy nếu 2 0 thỡ Y sẽ độc lập
với X, tức là X khụng ảnh hưởng tới sự thay đổi của Y . Tuy nhiờn, ta lại chưa biết 2
cú bằng 0 hay khụng vỡ vậy ta cần kiểm định giả thuyết này.
Trong cỏc mục trước, chỳng ta đó đưa ra cỏc ước lượng điểm và ước lượng khoảng
cho hệ số hồi quy 1 2, . Cỏc ước lượng khoảng này sẽ giỳp ta giải quyết bài toỏn
kiểm định giả thuyết về 1 2, .
Bài 3: Mụ hỡnh hồi quy tuyến tớnh đơn
36 STA301_Bài 3_v1.0013101214
Ta đó biết bài toỏn kiểm định giả thuyết gồm cỏc bước cơ bản sau:
Bước 1: Thiết lập giả thuyết 0H và đối thuyết 1H .
Bước 2: Xõy dựng tiờu chuẩn thống kờ để kiểm định, xỏc định quy luật phõn phối
xỏc suất của tiờu chuẩn thống kờ khi giả thuyết 0H được cho là đỳng.
Bước 3: Xõy dựng miền bỏc bỏ giả thiết W ứng với mức ý nghĩa cho trước.
Bước 4: So sỏnh giỏ trị mẫu (quan sỏt được) của tiờu chuẩn thống kờ ở bước thứ 2
với mi