Tương quan & hồi qui tuyến tính

Cao Haøo Thi 1 CHƯƠNG 9 TƯƠNG QUAN & HỒI QUI TUYẾN TÍNH (Linear Correlation and Regression) 7.1. KHÁI NIỆM CHUNG Trong các chương trước chúng ta chỉ nghiên cứu các vấn đề liên quan đến mẫu ngẫu nhiên của một biến ngẫu nhiên X. Trong chương này, chúng ta quan tâm đến mẫu ngẫu nhiên bao gồm các cặp giá trị của hai biến ngẫu nhiên X và Y. Ví dụ Để nghiên cứu về chiều cao và cân nặng của các em học sinh trong một trường, chúng ta lấy mẫu ngẫu nhiên gồm n học sinh và thu thập các số liệu về chiều cao và cân nặng của n học sinh. Gọi X là biến ngẫu nhiên để đo chiều cao của học sinh và Y là biến ngẫu nhiên chỉ cân nặng của học sinh. Với n học sinh ta có n cặp giá trị (Yi , Xi). X(m) x1 x2 x3 ..... xi ....... xn Y(kg) y1 y2 y3 .......... yi .......... yn Mục tiêu của chương này là nghiên cứu sự liên hệ giữa biến Y và X bằng sự phân tích tương quan và hồi qui. Trong phân tích tương quan người ta đề cập đến cường độ của mối quan hệ giữa hai biến Y và X, đánh giá xem hai biến Y và X có quan hệ với nhau hay không. Trong phân tích hồi qui người ta lại xác định quan hệ giữa hai biến Y và X dưới dạng phương trình toán học, từ đó ta có thể dự đoán được biến Y (biến phụ thuộc, dependent variable) dựa vào biến X (biến độc lập, independent variable) Trong chương này, chúng ta cũng giới hạn chỉ nghiên cứu tương quan và hồi qui đơn biến và tuyến tính, nghĩa là chỉ nghiên cứu trường hợp biến Y chỉ phụ thuộc vào 1 biến X và dạng phương trình hồi qui là phương trình đường thẳng (khác với các tương quan và hồi qui bội và phi tuyến). 7.2. TƯƠNG QUAN TUYẾN TÍNH (Linear Correlation) 7.2.1. Đồ thị phân tán (Scatter Diagram) Đồ thị phân tán của biến Y đối với biến X là tập hợp các điểm M(xi , yi) trong hệ tọa độ vuông góc. Dựa vào đồ thị phân tán ta có thể xác định được dạng quan hệ giữa 2 biến Y và X. Y X X Y X Y (D) Cao Haøo Thi 2 7.2.2. Tương quan tuyến tính (Linear Correlation) Trong đồ thị phân tán, nếu các điểm M(xi , yi) qui tụ xung quanh một đường thẳng (D) ta nói hai biến ngẫu Y và X có một sự tương quan tuyến tính. Đường thẳng (D) được gọi là đường hồi qui tuyến tính (đường hòa hợp thẳng). 7.2.3. Hệ số tương quan ρ của tập hợp chính (The Population Correlation Coefficient) Gọi X, Y là cặp giá trị của các biến ngẫu nhiên với số trung bình là µx , µy và phương sai là σ x2 , σ y2 . Để đo lường mức độ quan hệ giữa X và Y người ta dùng đại lượng hiệp tương quan (covariance) và hệ số tương quan (correlation coefficent). 7.2.3.1. Hiệp tương quan (Covariance) σX,Y = Cov(X,Y) = E [(x - µx)(y - µy)] σ µ µ xy i x i y i N Cov X Y x y N = = − − = ∑ ( , ) ( )( ) 1 7.2.3.2. Hệ số tương quan của tập hợp chính ρ σ σ= =Corr X Y Cov X Y x y ( , ) ( , ) ρ σσ σ= xy x y Với N y N x N i ii y N i x x ∑ ∑ = = − = − = 1 2 2 1 2 1 2 )( )( µ σ µ σ hay ρ µ µ µ µ = − − − − E X Y E X E Y x y x y [( )( )] [( ) ] * [( ) ]2 2 ρ µ µ µ µ = − − − − − == ∑ ∑∑ ( )( ) ( ) * ( ) x y x y x i y i N i x i y i N i N 1 1 2 2 11 Cao Haøo Thi 3 Tính chất - 1 ≤ ρ ≤ 1  ρ = + 1 : X, Y tương quan tuyến tính dương tuyệt đối  ρ = - 1 : X, Y tương quan tuyến tính âm tuyệt đối • ρ = 0 : X, Y không tương quan tuyến tính. 7.2.4. Hệ số tương quan r của mẫu 7.2.4.1. Hiệp tương quan của mẫu (Sample Covariance) 1n yyxx YXCovS i n 1i i YX − −−∑ == =∧ ))(( ),(, 7.2.4.2. Hệ số tương quan của mẫu r (Sample Correlation Coefficient) r S S S XY X Y = − r x x y y x x y y i i n i i i n i i n = − − − − = = = ∑ ∑ ∑ ( )( ) ( ) * ( ) 1 1 2 1 2 hay r x y nx y x nx y ny i i i n i i n i i n = − −⎛ ⎝ ⎜⎜ ⎞ ⎠ ⎟⎟ − ⎛ ⎝ ⎜⎜ ⎞ ⎠ ⎟⎟ = = = ∑ ∑ ∑ 1 2 1 2 2 1 2 . Ghi Chú  -1 ≤ r ≤ 1  r được dùng để ước lượng hướng và độ mạnh của mối quan hệ giữa X,Y. ⏐r⏐ > 0,8 tương quan mạnh ⏐r⏐ = 0,4 - 0,8 tương quan trung bình ⏐r⏐ < 0,4 tương quan yếu ⏐r⏐ càng lớn thì tương quan giữa X và Y càng chặt r > 0 hướng TN - ĐB, r < 0 hướng TB - ĐN 0 < r ≤ 1 : gọi là tương quan tuyến tính thuận (X↑, Y↑) -1 ≤ r ≤ 0 : gọi là tương quan tuyến tính nghịch (X↑, Y↓)  r là ước lượng của ρ Cao Haøo Thi 4 Ví dụ Tính hệ số tương quan giữa 2 biến X, Y cho bởi bảng tương quan sau: X 0 1 2 3 4 Y 6 7 8 9 4 Giải Số phần tử của mẫu n = 5 xi yi (xi - x ) (yi - y ) (xi - x )2 (yi - y )2 (xi - x )(yi- y ) 0 1 2 3 4 6 5 7 8 4 -2 -1 0 1 2 0 -1 1 2 -2 4 1 0 1 4 0 1 1 4 4 0 1 0 2 -4 10 30 10 10 -1 x = =10 5 2 y = =30 5 6 n = 5 1,0 1010 1 )()( )()( 2 5 1 2 5 1 5 1 −=× −= −×− −⋅− = ∑∑ ∑ == = i i i i i i i yyxx yyxx r r = -0,1 tương quan yếu. 7.2.5. Kiểm định giả thuyết về ρ Nếu chúng ta muốn kiểm định giả thuyết cho rằng các biến không có tương quan tuyến tính thì ta phải kiểm định giả thuyết H0: ρ = 0. Ta có 3 trường hợp: Cao Haøo Thi 5 Trường hợp 1 H0 : ρ = 0 H1 : ρ ≠ 0 R : bác bỏ H0 nếu tn-2 < - tn - 2, α/2 hay tn-2 > tn-2,a/2 Với )/()( 2nr1 rt 22n −− =− r: hệ số tương quan của mẫu n: cỡ mẫu tn-2: tuân theo phân phối Student t với độ tự do n-2 Trường hợp 2 H0 : ρ = 0 H1 : ρ > 0 R : bác bỏ H0 nếu tn-2 > - tn - 2, α Trường hợp 3 H0 : ρ = 0 H1 : ρ < 0 R : bác bỏ H0 nếu tn-2 < - tn - 2, α Ví dụ Lấy mẫu ngẫu nhiên 2 biến X và Y ta có các giá trị (xi, yi) cho bởi bảng sau: X 13 18 9 25 36 19 Y 70 55 100 40 15 20 a) Tìm hệ số tương quan giữa 2 biến X, Y b) Kiểm định giả thuyết cho rằng biến giữa X và Y không tương quan, với α = 0.05 Giải a) Tính r yI xi yx2 xi2 xiyi 70 55 100 40 15 20 13 18 9 25 36 19 4900 3025 10000 1600 225 400 169 324 81 625 1296 361 910 991 900 1000 540 380 Tổng 300 120 20150 2856 4720 Cao Haøo Thi 6 ( ) ( ) ( ) 2565/128050*20*64720 5 1 1 1 10305/515050*620150 5 1 1 1 2,915/45620*62856 5 1 1 1 20 6 120 50 6 300 6 1 22 6 1 22 22 6 1 22 −=−=−=⎟⎠ ⎞⎜⎝ ⎛ ⋅−−= ==−=⎟⎠ ⎞⎜⎝ ⎛ −−= ==−=⎟⎠ ⎞⎜⎝ ⎛ −−= === === ∑ ∑ ∑ ∑ ∑ = = = yxnyx n S yny n S xnx n S n x x n y y i iiXY i iy i iX i i Hệ số tương quan: 835,0 1030*2,91 256 −=−== YX XY SS Sr tương quan mạnh b) Kiểm định giả thuyết: 1. H0 : ρ = 0 2. H1 : ρ ≠ 0 3. α = 0,05 => α/2 = 0,025 n = 6 => n - 2 = 4 tn -2, α/2 = t4, 0,025 = 2,776 - tn - 2 , α/2 = -2,776 4, r = -0,835 4/])835,0(1[ 835,0 )2/()1( 22 2 −− −= −−− nr rtn tn -2 = - 3,03 5. Ra quyết định tn - 2 = - 3,03 < - tn -2, α/2 = -2,776 => Bác bỏ H0. Giữa 2 biến Y và X có tương quan nghịch. 7.3. HỒI QUI TUYẾN TÍNH ĐƠN GIẢN (Simple Linear Regression) 7.3.1 Khái niệm cơ bản về hồi qui tuyến tính đơn giản 7.3.1.1. Mô hình hồi qui tuyến tính đơn giản (Simple Linear Regression Model) Để mô hình hóa quan hệ tuyến tính trong đó diễn tả sự thay đổi của biến Y theo biến X cho trước người ta sử dụng mô hình hồi qui tuyến tính đơn giản. Mô hình hồi qui tuyến tính đơn giản có dạng sau: Yi = A + BXi + ei (mô hình hồi qui tuyến đơn giản Y theo X)  Yi : Giá trị của biến phụ thuộc Y trong lần quan sát thứ i. Cao Haøo Thi 7  Xi : Giá trị của biến độc lập X trong lần quan sát thứ i .  ei : Giá trị đối với sự dao động ngẫu nhiên hay sai số trong lần quan sát thứ i.  A : là thông số diễn tả tung độ gốc của đường hồi qui của tập hợp chính, hay A là giá trị trung bình của biến phụ thuộc Y khi biến độc lập X thay đổi 1 đơn vị.  B : là thông số diễn tả độ dốc của đường hồi qui của tập hợp chính, hay B diễn tả sự thay đổi của giá trị trung bình của biến phụ thuộc Y khi biến độc lập X thay đổi 1 đơn vị. 7.3.1.2. Phương trình hồi qui tuyến tính đơn giản của tập hợp chính (Population Simple Linear Regression Equation) Là phương trình diễn tả giá trị trung bình của biến phụ thuộc Y theo biến độc lập X đã biết. µY/ X = A + BX 7.3.1.3. Phương trình hồi qui tuyến tính đơn giản của mẫu Chúng ta có thể ước lượng các tham số (A,B) của phương trình hồi qui tuyến tính đơn giản của tập hợp chính bằng cách sử dụng số liệu của mẫu ngẫu nhiên thu thập được. Dựa vào số liệu của mẫu ta có phương trình hồi qui tuyến tính đơn giản của mẫu. Y ∧ = a + bX Trong đó:  Y ∧ là ước lượng của giá trị trung bình của Y đối với biến X đã biết  a: là ước lượng của A  b là ước lượng của B Ghi chú  Phương trình hồi qui của Y theo X khác phương trình hồi qui của X theo Y  Nếu X đổi mà Y không đổi => Y và X không có tương quan Cao Haøo Thi 8 Y X Dựa vào phương trình hồi qui ta có thể tự đoán Y khi biết X 7.3.2. Xác định dốc và tung độ gốc của đường hồi qui tuyến tính Dựa vào số hiệu của mẫu ta có phương trình hồi qui của Y theo X có dạng: Y ∧ = a + bX Trong thống kê, để xác định tung độ gốc a và độ dốc b người ta thường sử dụng phương pháp bình phương tối thiểu (least squared method) ( )e Y Y Y a bX i n i i i i n i i n∧ = ∧ = = ∑ ∑ ∑= − = − − 1 2 1 2 1 2 ( ) Trong phương pháp bình phương tối thiểu ta có: Min ei i n ∧ = ∑ 2 1 Để tìm cực tiểu ta cần giải hệ phương trình: ( )∂∂ ∂ ∂ a Y a bX b Y a bX i i i n i i n i − − = − − = = = ∑ ∑ 2 1 1 2 0 0( ) Giải hệ phương trình ta có: Y b 1 Y ∧ i Yi êi = Yi - Y ∧ i a Xi X Cao Haøo Thi 9 ( )( ) ( )b x x y y x x x y nxy x nx a y bx i i i n i i n i i i n i a i n = − − − = − − = − = = = = ∑ ∑ ∑ ∑ 1 2 1 1 1 2 Người ta chứng minh được rằng a, b là những ước lượng không chệch và vững của A,B. Đường thẳng Y ∧ = a + bX được gọi là đường hồi qui thực nghiệm Đường thẳng Y ∧ = A + BX được gọi là đường hồi qui lý thuyết Ví dụ Tìm đường hồi qui thực nghiệm của y theo x cho bời bảng tương quan sau: xi 1 2 3 4 5 yi 2 5 4 3 6 Giải Gọi phương trình đường hồi qui là y = a + bx => xác định a, b. xi yi xì2 xiyi 1 2 3 4 5 2 5 4 3 6 1 4 9 16 25 2 10 12 12 30 Tổng 15 20 55 66 n = 2 x = =15 5 3 y = =20 5 4 2,23*6,04 6,0 10 6 3*555 4*3*566 22 1 2 5 1 =−=−= ==− −= − − = ∑ ∑ = = xbya xnx yxnyx b n i i i ii Phương trình đường hồi qui thực nghiệm là y = 0,6x + 2,2