Bài giảng Kinh tế lượng - Chương III: Mô hình hồi quy bội

BÀI GIẢNGKINH TẾ LƯỢNGECONOMETRICSLê Anh ĐứcKhoa Toán kinh tế ĐH Kinh tế Quốc dân*CHƯƠNG III: MÔ HÌNH HỒI QUY BỘI3.1. Mô hình hồi quy ba biến3.2. Các giả thiết của mô hình3.3. Ước lượng các tham số của mô hình hồi quy ba biến3.4. Phương sai và độ lệch chuẩn của các ước lượng OLS3.5. Mô hình hồi quy tuyến tính k biến - phương pháp ma trận3.6. Ước lượng của các tham số OLS3.7. Ma trận hiệp phương sai của *3.8. Các tính chất của ước lượng OLS3.9. Ước lượng hợp lý tối đa3.10. Hệ số xác định bội R2 và hệ số xác định bội đã hiệu chỉnh3.11. Ma trận tương quan3.12. Hệ số tương quan riêng phần3.13. Kiểm định giả thiết và khoảng tin cậy của các hệ số hồi quy riêng – kiểm định T3.14. Kiểm định giả thiết R2 = 03.15. Kiểm định có điều kiện ràng buộc – Kiểm định F3.16. Dự báo3.17. Thí dụ3.18. Một số dạng của hàm hồi quy*3.1. Mô hình hồi quy ba biếnXét mô hình:Trong đó Y là biến phụ thuộc X2i X3i là hai biến độc lập β1 là hệ số chặn β2, β3 là các hệ số góc riêng phần (hệ số hồi quy riêng)*Ý nghĩa Hệ số β1 = E(Y/X2i = X3i = 0) là giá trị trung bình của Y khi X2i = X3i = 0. β2 cho biết khi X2 tăng một đơn vị thì trung bình của Y thay đổi như thế nào trong điều kiện X3 không thay đổi. β3 cho biết khi X3 tăng một đơn vị thì trung bình của Y thay đổi như thế nào trong điều kiện X2 không thay đổi. *3.2. Các giả thiết của mô hìnhGT1: Biến độc lập là phi ngẫu nhiênGT2: Kỳ vọng của các SSNN bằng 0 E(Ui) = 0  i GT3: Phương sai của các SSNN bằng nhau Var(Ui) = Var(Uj) = 2  i ≠ jGT4: Các SSNN không tuơng quan với nhau Cov(Ui ,Uj) = 0  i ≠ jGT5: Các SSNN và các biến độc lập không tương quan với nhau Cov(Ui , X2i) = 0, Cov(Ui , X3i) = 0  iGT6: Các sai số ngẫu nhiên có phân phối chuẩnGT7: Các biến giải thích không có quan hệ tuyến tính*3.3. Ước lượng các tham số của mô hình hồi quy ba biếnTrong tổng thểTrong mẫu là các ước lượng điểm của β1,β2,β3 là ước lượng điểm của E(Y/X2i,X3i) ei là ước lượng điểm của Ui*Phương pháp ước lượng OLS Tìm sao cho:Các hệ số là nghiệm của hệ *Ký hiệu*Ta có *3.4. Phương sai và độ lệch chuẩn của các ước lượng OLS*Ma trận hiệp phương sai của các ước lượng OLSTa có*Trong đó Sai số tiêu chuẩn của đường hồi quy r23 là hệ số tương quan của biến X2 ,X3*Hệ số xác định bội của mô hình Hệ số xác định bội cho biết tỷ lệ % sự biến thiên của Y được giải thích thông qua hai biến độc lập X2 và X3 của mô hình.*Hệ số tương quan - Hệ số tương quan bội đo mức độ tương quan tuyến tính chung giữa Y, X2 và X3 - Hệ số tương quan cặp(Simple correlation coefficent) + Hệ số r12 đo mức độ tương quan tuyến tính giữa Y và X2 + Hệ số r13 đo mức độ tương quan tuyến tính giữa Y và X3 + Hệ số r23 đo mức độ tương quan tuyến tính giữa X2 và X3* - Ma trận hệ số tương quan* - Hệ số tương quan riêng phần (Partical correlation coefficient) + Hệ số r12,3 đo mức độ tương quan tuyến tính giữa Y và X2 khi X3 không đổi. + Hệ số r13,2 đo mức độ tương quan tuyến tính giữa Y và X3 khi X2 không đổi. + Hệ số r23,1 đo mức độ tương quan tuyến tính giữa X2 và X3 khi Y không đổi.*3.5. Mô hình hồi quy tuyến tính k biến – phương pháp ma trậnXét mô hình:Trong đó Y là biến phụ thuộc X2i X3i, ,Xki là các biến độc lập β1 là hệ số chặn β2,β3, , βk là các hệ số góc riêng phần (hệ số hồi quy riêng)Giá trị của k cho biết: Số biến và số tham số cần ước lượng của mô hình*Ý nghĩa Hệ số β1 = E(Y/X2i = X3i = = Xki = 0) là giá trị trung bình của Y khi X2i = X3i = = Xki = 0. βm cho biết khi Xm tăng một đơn vị thì trung bình của Y thay đổi như thế nào trong điều kiện các biến Xj không thay đổi. *Giả sử có n quan sát, mỗi quan sát có k giá trị (Yi, X2i, , Xki)Ký hiệuKhi đó*Các giả thiết của mô hình GT1: Biến độc lập là phi ngẫu nhiên GT2: Kỳ vọng của các SSNN bằng 0 E(Ui) = 0  i GT3: Phương sai của các SSNN bằng nhau Var(Ui) = Var(Uj) = 2  i ≠ j GT4: Các SSNN không tuơng quan với nhau Cov(Ui ,Uj) = 0  i ≠ j GT5: Các SSNN và biến độc lập không tương quan với nhau Cov(Ui , Xmi) = 0  i,m GT6: Các sai số ngẫu nhiên có phân phối chuẩn GT7: Các biến giải thích không có quan hệ tuyến tính – Ma trận X là không suy biến.*3.6. Ước lượng các tham số OLSTrong tổng thểTrong mẫu là các ước lượng điểm của β1,β2,,βk là ước lượng điểm của E(Y/X2i, X3i ,,Xki) ei là ước lượng điểm của Ui*Ký hiệuKhi đó*Phương pháp ước lượng OLS Tìm véc tơ sao cho:Véc tơ là nghiệm của hệ *3.7. Ma trận hiệp phương sai củaTa cóSai số tiêu chuẩn của đường hồi quy*3.8. Các tính chất của ước lượng OLSTham khảo sách bài giảng trang 61Chú ý: các tính chất được nêu ra đối với mô hình hồi quy 3 biến – mô hình có hai biến độc lập.*3.9. Ước lượng hợp lý tối đa ML (Maximum Likelihood)Ngoài phương pháp OLS ra người ta cũng có thể sử dụng phương pháp ước lượng hợp lý tối đa để ước lượng các hệ số của PRF.Kết quả ước lượng được từ hai phương pháp là tương tự.Điểm khác biệt duy nhất là *3.10. Hệ số xác định bội R2 và hệ số xác định bội đã hiệu chỉnhHệ số R2Ý nghĩa: R2 cho biết tỷ lệ % sự biến thiên của Y được giải thích thông qua toàn bộ các biến độc lập của mô hình.*Hệ số xác định bội đã hiệu chỉnh Mục đích của việc hiệu chỉnh là để xem xét việc có nên đưa thêm biến giải thích vào mô hình hay không.Một biến mới sẽ được đưa vào mô hình nếu hệ số của biến mới đưa vào mô hình có ý nghĩa thống kê và hệ số còn tăng.*3.11. Ma trận tương quanHệ số tương quan bội đo mức độ tương quan tuyến tính chung giữa Y và các biến giải thích trong mô hình.Hệ số tương quan cặp - Các hệ số tương quan cặp rij (i,j = 2,3,,k) cho biết mức độ tương quan tuyến tính giữa biến Xi và Xj - Các hệ số tương quan cặp r1j (j = 2,3,,k) cho biết mức độ tương quan tuyến tính giữa biến Y và Xj*3.12. Hệ số tương quan riêng phầnXét mô hình - Các hệ số tương quan riêng phần bậc 2: r12,34, r13,24, r14,23, r23,14, r24,13, r34,12. + Hệ số r12,34 cho biết mức độ tương quan tuyến tính giữa Y và X2 trong điều kiện X3 và X4 không thay đổi. + Hệ số r23,14 cho biết mức độ tương quan tuyến tính giữa X2 và X3 trong điều kiện Y và X4 không thay đổi. - Các hệ số tương quan cặp có thể xem là hệ số tương quan riêng phần bậc 0.*3.13. Kiểm định giả thiết và khoảng tin cậy của các hệ số hồi quy riêng – kiểm định TĐối với Ước lượng khoảng tin cậy Kiểm định giả thiết2. Đối với Ước lượng khoảng tin cậy Kiểm định giả thiết*Ước lượng khoảng tin cậy đối với Ta có do đó với độ tin cậy (1 - ) ta có - Khoảng tin cậy đối xứng - Khoảng tin cậy bên phải dùng để ước lượng giá trị tối thiểu. - Khoảng tin cậy bên trái dùng để ước lượng giá trị tối đa:*Kiểm định giả thiết đối với Kiểm định các cặp giả thiếtTiêu chuẩn kiểm địnhMiền bác bỏ giả thiết H0 với mức ý nghĩa  cho trước của các cặp giả thiết - Với cặp giả thiết (1) - Với cặp giả thiết (2) - Với cặp giả thiết (3) *Trường hợp đặc biệtCó thể sử dụng phương pháp kiểm định bằng giá trị P-value (P-value là mức xác suất nhỏ nhất để bác bỏ giả thiết H0), thường ký hiệu là P. Quy tắc kết luận với mức ý nghĩa  cho trước như sau: - Với cặp giả thiết (1) + Nếu  > P thì bác bỏ giả thiết H0 + Nếu  P/2 thì bác bỏ giả thiết H0 + Nếu  P thì bác bỏ giả thiết H0 + Nếu  < P thì không có cơ ơở bác bỏ giả thiết H0*3.15. Hồi quy có điều kiện ràng buộc – Kiểm định FXét mô hình k biến, ký hiệu là UR (Unrestricted Model)Nếu có cơ sở cho rằng một số biến nào đó của mô hình là không cần thiết, chẳng hạn: Xm+1, Xm+2,,Xk. Khi đó ta kiểm định cặp giả thiết:Nếu giả thiết H0 là đúng thì mô hình trở thành mô hình mới R (Restricted Model) – mô hình m biến*Thủ tục kiểm định - Bước 1: Lần lượt hồi quy các mô hình UR và R tìm được RSSUR , R2UR và RSSR , R2R - Bước 2: Sử dụng tiêu chuẩn kiểm định: Chú ý: Công thức (*) chỉ áp dụng được khi biến phụ thuộc trong hai mô hình (UR) và (R) là như nhau - Miền bác bỏ với mức ý nghĩa α cho trước*Một số trường hợp quy về kiểm định thu hẹp hồi quy - Kiểm định xem sự ảnh hưởng của X2, X3 đến Y có như nhau không: + Nếu giả thiết H0 đúng thì khi đó thay β2 = β3 và mô hình trở thành: + Đặt Xi = X2i + X3i ta có:*Một số trường hợp quy về kiểm định thu hẹp hồi quy - Kiểm định xem sự ảnh hưởng của X2, X3 đến Y có bù trừ cho nhau không: + Nếu giả thiết H0 đúng thì khi đó thay β2 = -β3 và mô hình trở thành: + Đặt Xi = X2i - X3i ta có:*Một số trường hợp quy về kiểm định thu hẹp hồi quy - Kiểm định xem sự ảnh hưởng của X2 đến Y có gấp đôi ảnh hưởng của X3 đên Y không: + Nếu giả thiết H0 đúng thì khi đó thay β3 = β2/2 và mô hình trở thành: + Đặt Xi = X2i + X3i/2 ta có:*Xét mô hìnhKhi muốn kiểm định về tổ hợp tuyến tính bất kỳ của các hệ số hồi quy:Ta có hai cách để kiểm định - Cách 1: Sử dụng kiểm định T - Cách 2: Sử dụng kiểm F về sự thu hẹp hàm hồi quy*Kiểm định TTiêu chuẩn kiểm địnhMiền bác bỏ với mức ý nghĩa α cho trước được xác định như sau: *Kiểm định F về sự thu hẹp hàm hồi quyNếu giả thiết H0 đúng thì khi đó thay β3 = aβ2/b và mô hình trở thành: Đặt Xi = X2i + aX3i/b ta có:*3.16. Dự báoXét mô hình k biến Sử dụng SRF ước lượng được để dự báo về biến phụ thuộc. - Dự báo giá trị trung bình của biến phụ thuộc (biết X0T = (1, X02, X03,,X0k) cần dự báo giá trị E(Y/X0)). - Dự báo giá trị cá biệt của biến phụ thuộc (biết X0T = (1, X02, X03,,X0k) cần dự báo giá trị (Y0 = Y/X0))*Dự báo giá trị trung bình của biến phụ thuộcSRF cho ta một ước lượng điểm của E(Y/X0) trên mẫu Để dự báo E(Y/X0) cho tổng thể ta ƯL khoảng tin cậy của nó.Ta cóDo đó với độ tin cậy (1-) cho trước *Dự báo giá trị cá biệt của biến phụ thuộcSRF cho ta một ước lượng điểm của Y0 = (Y/X0) trên mẫu Để dự báo Y0 của tổng thể ta ƯL khoảng tin cậy của nó.Ta cóDo đó với độ tin cậy (1-) cho trước *3.17. Thí dụThí dụ 3.1 – trang 55Thí dụ 3.3 – trang 70*3.18. Một số dạng của hàm hồi quyHàm tổng chi phíHàm tăng trưởngHàm sản xuất Cobb – DouglasHàm tuyến tính – loga Hàm loga – tuyến tínhHàm dạng HypecbplHàm xu thế và hàm có biến trễ*Hàm tổng chi phíDạng hàmBiến đổi*Hàm tăng trưởngDạng hàm Trong đó: r là tốc độ tăng trưởng Biến đổi*Hàm sản xuất Cobb – DouglasDạng hàm Trong đó β2, β3 là hệ số co giãn của Q theo K, L. Biến đổi*Hàm tuyến tính – loga Dạng hàmBiến đổiÝ nghĩa: khi X tăng 1% thì Y tăng β2 đơn vị (?)*Hàm loga - tuyến tínhDạng hàmBiến đổiÝ nghĩa: khi X tăng 1 đơn vị thì Y tăng β2 % (?)*Hàm dạng HypecbolMô hình chi phí trung bình phụ thuộc vào sản lượng:Mô hình chi tiêu phụ thuộc vào thu nhập (đường cong Engel):Mô hình lạm phát phụ thuộc vào tỷ lệ thất nghiệp (đường cong Philips):Biến đổi*Hàm xu thế và hàm có biến trễMô hình hàm xu thế T là biến xu thế thời gian (Trend)Mô hình có biến độc lập trễMô hình có biến phụ thuộc trễ (mô hình tự hồi quy)*