Bài giảng Nguyên lý thống kê - Chương 10 Tương quan, hồi qui tuyến tính

190 Chương 10 TƯƠNG QUAN, HỒI QUI TUYẾN TÍNH www.nguyenngoclam.com 191 I.TƯƠNG QUAN TUYẾN TÍNH 1. Khái niệm:  được gọi là đại lượng đo lường mối tương quan tuyến tính của 2 đại lượng ngẫu nhiên X và Y nếu: -1   1 *  < 0: X, Y có mối liên hệ nghịch *  > 0: X, Y có mối liên hệ thuận *  = 0: X, Y không có mối liên hệ. *: càng lớn thì X, Y có mối liên hệ càng chặt chẽ. 192 I.TƯƠNG QUAN TUYẾN TÍNH 2. Hệ số tương quan mẫu: Chọn ngẫu nhiên n cặp quan sát (xi, yi) từ hai tổng thể X,Y. Ta có hệ số tương quan Spearson:          n 1i n 1i 2 i 2 i n 1i ii )yy()xx( )yy)(xx( r Trường hợp |r| ≥ 0,8 chúng ta có thể kết luận X, Y có mối tương quan tuyến tính chặt chẽ. Để đảm bảo tính chính xác này, chúng ta có thể thực hiện kiểm định giả thuyết 193 I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN 1. Khái niệm hồi qui: Ví dụ, Nghiên cứu mối liên hệ giữa chi tiêu Y và thu nhập X của hộ gia đình: X Y 80 100 120 140 160 180 200 220 240 260 55 65 79 80 102 110 120 135 137 150 60 70 84 93 107 115 136 137 145 152 65 74 90 95 110 120 140 140 155 175 70 80 94 103 116 130 144 152 165 178 75 85 98 108 118 135 145 157 175 180 88 113 125 140 160 189 185 115 162 191 E(Y/Xi) 65 77 89 101 113 125 137 149 161 173 194 I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN • E(Y/X) = f(X) : Phương trình hồi qui • E(Y/X) =  + X: Phương trình hồi qui tuyến tính • Y =  + X + U : Giá trị thực của Y Trong đó: • X: biến giải thích (độc lập); • Y: biến được giải thích (phụ thuộc) • : Tham số chặn • : Tham số của biến • U: Yếu tố ngẫu nhiên • X,Y không có mối quan hệ hàm số mà có mối quan hệ nhân quả và thống kê 195 I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN 0 20 40 60 80 100 120 140 160 180 200 80 100 120 140 160 189 200 220 240 260 Đường hồi qui thực nghiệm: 196 I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN 2. Xây dựng mô hình hồi qui mẫu: Ta cần ước lượng , , giả sử đó là a,b. Chọn n cặp quan sát (xi,yi) từ X,Y: ii iii bxayˆ ebxay   : Giá trị thực tế : Giá trị lý thuyết Ta cần tìm a, b sao cho 02 giá trị trên càng gần càng tốt. Phương pháp bình phương bé nhất (OLS): min)bxay()yˆy(eSSE n 1i 2 ii n 1i 2 ii n 1i 2 i         2 i ii )xx( )yy)(xx( b xbya  197 I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN Ví dụ, nghiên cứu mối quan hệ giữa số tiền chi tiêu và thu nhập của họ. Ta có số liệu sau: Thu nhập X Chi tiêu Y Thu nhập X Chi tiêu Y 9.098 5.492 11.307 5.907 9.138 5.540 11.432 6.124 9.094 5.305 11.449 6.186 9.282 5.507 11.697 6.224 9.229 5.418 11.871 6.496 9.347 5.320 12.018 6.718 9.525 5.538 12.523 6.921 9.756 5.692 12.053 6.471 10.282 5.871 12.088 6.394 10.662 6.157 12.215 6.555 11.019 6.342 12.494 6.755 198 I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN 199 I.HỒI QUI TUYẾN TÍNH ĐƠN GIẢN Regression Statistics Multiple R 0,9587 R Square 0,9192 Adjusted R Square 0,9151 Standard Error 147,6697 Observations 22 df SS MS F Sig.F Regression 1 4961434,4 4961434,4 227,5 2,17E-12 Residual 20 436126,9 21.806,4 Total 21 5397561,3 Coeffcients Standard Error t Stat Pvalue Lower 95% Upper 95% Intercept 1922,4 274,95 6,99 9E-07 1348,86 2495,92 X 0,38 0,025 15,08 2E-12 0,329 0,434 200 II.HỒI QUI TUYẾN TÍNH BỘI E(Y/X1,X2,, Xk) =  + 1X1 + 2X2 + + kXk Y =  + 1X1 + 2X2 + + kXk + U 1. Xây dựng mô hình hồi qui mẫu: Mục tiêu là ta cần ước lượng , 1, 2, k, giả sử đó là a,b1,b2,bk,. Chọn n cặp quan sát (x1i, x2i, xki,yi) từ X và Y: : Giá trị thực tế : Giá trị lý thuyếtkiki22i11i ikiki22i11i xb...xbxbayˆ exb...xbxbay      n 1i 2 kiki11i min)xb...xbay( 201 II.HỒI QUI TUYẾN TÍNH BỘI Ví dụ, Tốc độ tăng nền kinh tế (Y) phụ thuộc vào tốc độ tăng của nông nghiệp (X1), tốc độ tăng trưởng của kim ngạch xuất khẩu (X2) và tỷ lệ lạm phát (X3) được thu thập ở 48 nước: Y(%) NN(%) XK(%) LP(%) Y(%) NN(%) XK(%) LP(%) Y(%) NN(%) XK(%) LP(%) 1,3 3,4 -2,7 13,0 8,0 3,1 10,9 37,3 5,6 3,9 6,4 13,9 1,0 1,4 -6,0 10,5 6,5 3,3 -0,6 8,9 6,9 1,3 11,6 6,4 0,4 0,1 -3,6 15,9 0,2 0,1 8,4 29,5 -4,6 0,8 -9,8 21,5 4,9 1,8 13,6 3,2 7,8 5,3 10,4 8,1 -2,6 1,7 -6,6 6,7 9,8 5,6 27,3 5,4 2,5 2,3 4,9 22,6 1,1 3,9 3,8 7,7 -2,1 2,2 2,6 5,2 -0,2 3,1 7,9 20,2 4,6 3,0 -3,5 8,6 2,0 2,3 -9,5 8,7 6,1 10,3 -19,0 -1,3 -0,6 2,5 2,0 11,5 5,8 3,0 4,4 1,4 2,9 -0,6 5,4 7,5 8,2 1,9 3,8 7,8 5,2 2,9 9,2 3,0 4,1 2,3 8,7 9,5 4,1 0,9 1,3 5,6 -1,1 -2,3 -6,3 14,9 -5,0 1,2 -2,0 1,1 12,6 7,9 11,7 3,8 0,2 0,3 12,0 20,3 2,1 2,7 5,6 11,2 4,1 2,8 -0,9 9,9 1,1 1,4 -7,2 19,8 7,7 3,0 2,0 8,9 0,6 2,8 -2,1 23,3 -12,0 4,8 -5,5 8,6 9,3 3,3 6,2 7,5 2,0 0,5 -3,1 33,5 -1,6 -0,4 -2,5 11,3 -1,7 2,0 -1,7 18,2 0,0 0,4 6,9 32,6 0,5 1,9 1,6 19,0 5,8 4,7 -0,2 2,1 -2,6 -1,3 3,4 7,7 2,2 -3,5 4,7 1,9 3,9 -3,9 -2,5 3,4 -3,4 7,9 -7,9 45,4 202 II.HỒI QUI TUYẾN TÍNH BỘI Regression Statistics Multiple R 0,6088 R Square 0,3707 Adjusted R Square 0,3278 Standard Error 3,6899 Observations 48 df SS MS F Significance F Regression 3 352,861 117,621 8,639 0,000127 Residual 44 599,085 13,616 Total 47 951,947 Coefficients Standard Error t Stat Pvalue Lower 95% Upper 95% Intercept 2,033 0,993 2,047 0,047 0,032 4,035 NN 0,501 0,206 2,435 0,019 0,086 0,915 XK 0,268 0,069 3,888 0,000 0,129 0,407 LP -0,105 0,053 -1,973 0,055 -0,212 0,002 203 II.HỒI QUI TUYẾN TÍNH BỘI 3. Ước lượng hệ số  i: Ước lượng sự ảnh hưởng của Xi đến Y )Stb( bi2/,1knii  )Sta( a2/,1kn  2. Ý nghĩa các tham số của Hồi qui: • Dấu của  i: Cho biết mối quan hệ thuận nghịch giữa Y và Xi • Độ lớn của  i: Cho biết mức độ tác động mạnh, yếu của Xi đến Y • : Có ý nghĩa tùy từng trường hợp cụ thể. 204 II.HỒI QUI TUYẾN TÍNH BỘI 4. Kiểm định từng tham số hồi qui: Kiểm định Y có phụ thuộc vào biến xi hay không:      0:H 0:H i1 i0 02/,1kn bi i H BBt S b t   5. Hệ số xác định: R2 là hệ số nhằm xác định sự biến động của Y phụ thuộc bao nhiêu % vào sự biến động của X1, X2, Xk.    2 i 2 i 2 i 2 ii 2 i e)yyˆ()yyˆ()yˆy()yy( SST SSE 1 SST SSR RSSESSRSST 2  205 II.HỒI QUI TUYẾN TÍNH BỘI 6. Hệ số xác định đã điều chỉnh: ) 1kn 1n )(R1(1 )1n/(SST )1kn/(SSR R 2 2       7. Kiểm định sự phù hợp của mô hình: 0),1kn(,k 2 2 k210 H BBFF R1 R . k )1k(n )1k(n/SSE k/SSR MSE MSR F 0...:H         206 II.HỒI QUI TUYẾN TÍNH BỘI Tốc độ tăng kinh tế - Y(%) Biến độc lập ĐVT Dấu kỳ vọng Hệ số P Tốc độ tăng nông nghiệp (NN) % + 0,501 0,019 Tốc độ tăng xuất khẩu (XK) % + 0,268 0,000 Lạm phát (LP) % - -0,105 0,055 Hệ số tự do 2,033 0,047 R2=0,37; Sig.F=0,000127, n=48 Tóm tắt kết quả hồi qui 207 II.HỒI QUI TUYẾN TÍNH BỘI Trình tự giải thích kết quả Hồi qui: • Khẳng định mô hình có ý nghĩa. Thông qua giá trị Sig.F • Trình bày mức độ ảnh hưởng của các biến độc lập đến biến phụ thuộc • Kiểm tra mức ý nghĩa thống kê của từng biến độc lập, giải thích sự ảnh hưởng của từng biến độc lập đến biến phục thuộc. Chú ý đến dấu, dấu kỳ vọng và độ lớn của hệ số hồi qui. 208 III.MỘT SỐ DẠNG HÀM Các trường hợp mở rộng: • Biến độc lập là biến định tính: Mô hình hồi qui với biến giả • Biến phụ thuộc là biến định tính: Phân tích nhân tố • Trường hợp phương trình hồi qui phi tuyến tính đối với biến. 209 III.MỘT SỐ DẠNG HÀM 1. Một biến độc lập định tính: Hồi qui với biến giả. 1.1.Biến giả có 2 phạm trù: Xây dựng mô hình so sánh tiền lương của công nhân làm việc trong khu vực tư nhân và quốc doanh. E(Y/D) =  + D • Y: Tiền lương • D = 1: Công nhân khu vực tư nhân • D = 0: Công nhân khu vực quốc doanh E(Y/D=0) =  : Lương công nhân khu vực quốc doanh E(Y/D=1) = +: Lương công nhân khu vực tư nhân 210 III.MỘT SỐ DẠNG HÀM Ví dụ: Lương (trđ/năm) 28 32 35 27 25 37 29 34 33 30 Khu vực 0 1 1 0 0 1 0 1 1 0 D4,68,27Yˆ  211 III.MỘT SỐ DẠNG HÀM 1.2.Biến giả có 3 phạm trù: Mô hình so sánh lương công nhân khu vực tư nhân, liên doanh và quốc doanh. E(Y/D1,D2) =  + 1D1 +2D2 • D1 = 1: Công nhân khu vực tư nhân D1 = 0: Công nhân khu vực khác • D2 = 1: Công nhân khu vực liên doanh D2 = 0: Công nhân khu vực khác E(Y/D1=1,D2=0) =  + 1: Lương CN khu vực TN E(Y/D1=0,D2=1) =  + 2: Lương CN khu vực LD E(Y/D1=0,D2=0) =  : Lương CN khu vực QD 212 III.MỘT SỐ DẠNG HÀM 1.3.Một biến giả và 1 biến định lượng: E(Y/X,D) =  + 1D1 +2X • D = 1: Công nhân khu vực tư nhân • D = 0: Công nhân khu vực quốc doanh • X : Bậc thợ của công nhân Lương trung bình công nhân khu vực tư nhân E(Y/X,D=0) =  + 2X: Lương trung bình công nhân khu vực quốc doanh E(Y/X,D=1) = (+1) + 2X: 213 III.MỘT SỐ DẠNG HÀM 2. Hàm log – log: Xét hàm Cobb – Douglas: UeLKY 21  ULlnKlnlnYln 21  • Y: Sản lượng • K: Vốn • L: Lao động • 1+2: Đo lường hiệu quả theo qui mô • 1+2=1: Hiệu quả không đổi theo qui mô • 1+2<1: Hiệu quả giảm theo qui mô • 1+2=1: Hiệu quả tăng theo qui mô 214 III.MỘT SỐ DẠNG HÀM Ý nghĩa của hệ số 1, 2 • 1: Hệ số co giãn riêng phần của sản lượng theo vốn. Đo lường % biến động của sản lượng nếu vốn tăng lên 1% đơn vị. • 2: Hệ số co giãn riêng phần của sản lượng theo lao động. Đo lường % biến động của sản lượng nếu lao động tăng lên 1% đơn vị. YL2YK1 LdL YdY KdK YdY  215 III.MỘT SỐ DẠNG HÀM Ví dụ: Nông nghiệp của Đài Loan 1957 – 1972: • lnY = -3,34 + 0,49lnK + 1,50lnL • Y: GNP (triệu USD) • K: Vốn (triệu USD) • L: Ngày công lao động (triệu ngày) Ví dụ: Hàm cầu lượng cà phê: • lnQ = 0,78 - 0,25lnPcà phê + 0,38lnPtrà • Q: Lượng cà phê sử dụng mỗi ngày (cân Anh) • Pcà phê: Giá cà phê/cân Anh • Ptrà: Giá trà/cân Anh 216 III.MỘT SỐ DẠNG HÀM 3. Mô hình log – lin: dX YdY UXYln  • : Đo lường 100% thay đổi của Y khi X tăng lên 1 đơn vị Ví dụ: GDP đầu người giai đoạn 1969 – 1983 • ln(GDP) = 6,9636 + 0,0269t • GDP tăng trưởng 2,69% mỗi năm • t=0 (1969): GDP 1.057 tỷ USD 217 III.MỘT SỐ DẠNG HÀM 4. Mô hình lin - log: XdX dY UXlnY  • : Đo lường 1% thay đổi của Y khi x tăng lên 1% Ví dụ: Mô hình GNP và lượng cung tiền: • Y = -16.329 + 2.584,8lnX • Y: GNP (tỷ USD) • X: Lượng cung tiền (tỷ USD) • Nếu cung tiền tăng 1% thì GNP tăng 25,848 tỷ USD 218 III.MỘT SỐ DẠNG HÀM 5. Mô hình nghịch đảo:  Y xU X 1 Y Đường cong phillips: • Y: Tỷ lệ thay đổi của tiền lương • Y: Tỷ lệ thất nghiệp Ví dụ: Dữ liệu của Anh 1950 – 1966 • Y = -1,4282 + 8,7243 (1/X) • Khi tỷ lệ thất nghiệp tăng đến vô hạn, % giảm trong tiền lương sẽ không vượt quá 1,43% 219 www.nguyenngoclam.com