Bài giảng chương 5: Các phương pháp ước lượng tham số

29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 1 MÔ HÌNH HÓA VÀ NHẬN DẠNG HỆ THỐNG Giảng viên: TS. Huỳnh Thái Hoàng Bộ môn Điều Khiển Tự Động, Khoa Điện – Điện Tử Đại học Bách Khoa TP.HCM Email: hthoang@hcmut.edu.vn, hthoang.hcmut@yahoo.com Homepage: Môn học 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 2 CÁC PHƯƠNG PHÁP ƯỚC LƯỢNG THAM SỐ Chương 5 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 3 ‘ Nguyên tắc ước lượng tham số ‘ Phương pháp sai số dự báo ‘ Phương pháp tương quan ‘ Thuật toán lặp ước lượng tham số ‘ Thuật toán đệ qui ước lượng tham số Noääi dung chöông 5 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 4 ‘ Tham khảo: [1] L. Ljung (1999), System Identification – Theory for the user. [2] R. Johansson (1994), System Modeling and Identification. Tài liệu tham khảo 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 5 Nguyên tắc ước lượng tham số 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 6 Nguyên tắc ước lượng tham số Heä thoáng Moâ hình u(t) y(t) ŷ(k,θ) ν (t) u(k) y(k) ε (k,θ) ‘ Cấu trúc mô hình ⇒ bộ dự báo ),(ˆ θky ‘ Dữ liệu: { })(),(,),1(),1( NyNuyuZ N …= ‘ Sai số dự báo: ),(ˆ)(),( θθ kykyk −=ε ‘ PP sai số dự báo: ước lượng tham số sao cho sai số dự báo tối thiểu. ‘ PP tương quan: ước lượng tham số sao cho tương quan giữa sai số dự báo và dữ liệu quá khứ bằng 0. ⇒ “min” 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 7 Phương pháp sai số dự báo 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 8 Nguyên tắc ước lượng tham số theo pp sai số dự báo ‘ Chọn cấu trúc mô hình và rút ra bộ dự báo : ),(),(ˆ 1−= kZgky θθ ‘ Chọn tiêu chuẩn đánh giá sai số dự báo : ( )∑ = = N k F N N kN ZV 1 ),(1),( θθ εl Nθˆ‘ Tìm tối thiểu hóa sai số dự báo: ),(minargˆ NNN ZV θθ θ= ),(ˆ)(),( θθ kykyk −=ε‘ Tính sai số dự báo : ),()(),( θθ kqLkF εε = ‘ Lọc sai số dự báo (nếu cần): 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 9 Các tùy chọn của phương pháp sai số dự báo ‘ cấu trúc mô hình ‘ bộ lọc L(.) ‘ chuẩn l(.) ‘ cách giải bài toán tối ưu hóa 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 10 Cấu trúc mô hình ‘Mô hình tuyến tính ŽARX, ARMAX, FIR, OE, BJ, ŽMô hình chuỗi hàm cơ sở trực giao, ‘Mô hình phi tuyến: ŽMô hình Wienner, mô hình Hamerstain ŽMô hình hồi qui tuyến tính dùng các phần tử hồi qui phi tuyến ŽMô hình hộp đen phi tuyến * cấu trúc dãy (mạng MLP) * cấu trúc xuyên tâm (mạng RBF) * cấu trúc tích tensor (mô hình mờ) 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 11 Bộ lọc L(.) ‘ Bộ lọc L(q): lọc nhiễu tần số cao hoặc các thành phần trôi tần số thấp ‘ Nếu bộ dự báo tuyến tính bất biến và y và u là các đại lượng vô hướng thì kết quả lọc sai số dự báo ε tương đương với lọc dữ liệu y và u trước, sau đó mới đưa dữ liệu đã lọc vào bộ dự báo. ‘ Bộ dự báo cho hệ tuyến tính bất biến : )(),(),()()],(1[),(ˆ 11 kuqGqHkyqHky θθθθ −− +−= ‘ Sai số dự báo: )](),()()[,(),( 1 kuqGkyqHk θθθ −= −ε ‘ Sai số dự báo sau khi qua bộ lọc: )](),()()[,()(),( 1 kuqGkyqHqLkF θθθ −= −ε )](),()([)],()([ 11 kuqGkyqHqL θθ −= −− ⇒ lọc sai số dự báo tương đương với việc đổi mô hình nhiễu từ sang ),( θqH ),()(),( 1 θθ qHqLqH −= 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 12 Chuẩn ước lượng thông số l(.) ‘ Chuẩn bình phương: ∑ = = N k F N N kN ZV 1 2 ),(1),( θθ ε ∑ = = N k F N N kN ZV 1 ),(1),( θθ ε‘ Chuẩn l1: ),(max),( 1 θθ kZV FNk N N ε≤≤=‘ Chuẩn l∞: ∑ = = N k F N N kkNZV 1 )),((),(),( θθ εβ l ‘ Chuẩn có trong số (theo thời gian) 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 13 Thuật toán ước lượng bình phương tối thiểu tuyến tính ‘ Bộ dự báo hồi qui tuyến tính tổng quát: )()(),(ˆ kkky T μ+= θϕθ [ ]∑ = −−= N k TN N kkkyN ZV 1 2 )()()(1),( μθϕθ ‘ Tiêu chuẩn bình phương tối thiểu: ‘ Sai số dự báo: )()()(),(ˆ)(),( kkkykykyk T με −−=−= θϕθθ [ ]⎥⎦ ⎤⎢⎣ ⎡ −⎥⎦ ⎤⎢⎣ ⎡= ∑∑ = − = N k N k TLS N kkykkk 1 1 1 )()()()()(ˆ μϕϕϕθ⇒ [ ]∑ = −−= N k TN N kkkykNZV 1 2 )()()(),(),( μβ θϕθ ‘ Tiêu chuẩn bình phương có trọng số: [ ]⎥⎦ ⎤⎢⎣ ⎡ −⎥⎦ ⎤⎢⎣ ⎡= ∑∑ = − = N k N k TLS N kkykkNkkkN 1 1 1 )()()(),()()(),(ˆ μββ ϕϕϕθ⇒ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 14 Tính chất của ước lượng bình phương tối thiểu ‘ Giả sử hệ thống thực mô tả bởi: )()()()( 00 kvkkky T ++= μθϕ ‘ Sai số tiệm cận của tham số ước lượng: *1*0 )(ˆlim fRLSNN − ∞→ =−θθ trong đó: )()()()(1lim 1 * kkEkk N R T N k T N ϕϕϕϕ =⎥⎦ ⎤⎢⎣ ⎡= ∑ =∞→ )()()()(1lim 0 1 0 * kvkEkvk N f N tN ϕϕ =⎥⎦ ⎤⎢⎣ ⎡= ∑ =∞→ ⇒ Điều kiện để ước lượng bình phương tối thiểu là ước lượng vững, nghĩa là hội tụ đến tham số của hệ thống là: ŽR* không suy biến. Žf* = 0: điều này xảy ra khi {v0(k)} là chuổi của các biến ngẫu nhiên độc lập có trung bình bằng 0 (nhiễu trắng) hoặc tín hiệu vào {u(k)} là chuổi độc lập với chuổi {v0(k)} có trung bình bằng 0 và vector hồi qui không chứa tín hiệu ra trong quá khứ (na = 0). LS Nθˆ 0ˆθ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 15 Phương pháp tương quan 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 16 Nguyên tắc ước lượng tham số theo phương pháp tương quan ‘ Chọn cấu trúc mô hình và rút ra bộ dự báo : ),(),(ˆ 1−= kZgky θθ ),(ˆ)(),( θθ kykyk −=ε‘ Tính sai số dự báo : ),()(),( θθ kqLkF εε = ‘ Lọc sai số dự báo (nếu cần): ‘ Chọn chuổi vector tương quan : ),,(),( 1 θθ −= kZkk ζζ ‘ Chọn hàm tuyến tính của sai số: )(εα ]0),([ solˆ == NNN Zf θθ θ ‘ Tìm là nghiệm của phương trình: Nθˆ 0)),((),(1),( 1 == ∑ = N k F N N kkN Zf θθθ εαζ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 17 Ứớc lượng tham số bộ dự báo hồi qui tuyến tính giả ‘Mô hình hồi qui tuyến tính giả (Pseudo Linear Regression – PLR): θθϕθ ),(),(ˆ kky T= 1)( =qL ),(),( θϕθζ kk = ),()),(( θθ kk εεα = ‘ Chọn: ⎥⎦ ⎤⎢⎣ ⎡⎥⎦ ⎤⎢⎣ ⎡= ∑∑ = − − = −− N k i N N k i N Ti N i N kykkk 1 )1( 1 1 )1()1()( )()ˆ,()ˆ,()ˆ,(ˆ θϕθϕθϕθ ‘ Lời giải của bài toán trên có thể tìm bằng thuật toán lặp: ⎭⎬ ⎫ ⎩⎨ ⎧ =⎟⎠ ⎞⎜⎝ ⎛ −= ∑ = 0]),()()[,(1solˆ 1 N k TPLR N kkykN θθϕθϕθ θ⇒ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 18 Thuật toán lặp ước lượng tham số 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 19 Tối ưu hóa bằng phương pháp số ‘ Theo phương pháp sai số dự báo, để ước lượng tham số mô hình ta cần tìm cực trị của hàm: ( ) min),,(1),( 1 →= ∑ = N k N N kN ZV θθθ εl [ ] ),ˆ(),ˆ(ˆˆ )(1)()()1( NiNNNiNNiNiN ZVZV θθθθ ′′′−= −+ ‘ Thuật toán Newton tìm lời giải bài toán tối ưu bằng công thức lặp: ‘ Để thực hiện thuật toán Newton cần tính đạo hàm bậc 1 và bậc 2 của hàm ),( NN ZV θ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 20 Tính đạo hàm trong trường hợp tiêu chuẩn bình phương ‘ Tiêu chuẩn bình phương: ∑ = = N k N N kN ZV 1 2 ),(1),( θθ ε ‘ Đạo hàm bậc 1: ∑ = −=′ N k N N kkN ZV 1 ),(),(2),( θθθ εψ T d kykykykyk ⎥⎦ ⎤⎢⎣ ⎡ ∂ ∂ ∂ ∂ ∂ ∂=∂ ∂= θθθψ ),(ˆ ),( ˆ ),( ˆ),(ˆ),( 21 θθθ θ θθ … ‘ Đạo hàm bậc 2: ∑ = ⎥⎦ ⎤⎢⎣ ⎡ ∂ ∂−=′′ N k TN N k kkk N ZV 1 ),(),(),(),(2),( θθ θθθθ εψψψ ‘ Nhận xét: tính chính xác cần rất nhiều phép tính → không hiệu quả. Tùy theo cách tính gần đúng mà thuật toán Newton có các phiên bản khác nhau. ),( NN ZV θ′′ ),( NN ZV θ′′ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 21 Các phiên bản của thuật toán Newton ‘ Thuật toán suy giảm độ dốc: )ˆ,().ˆ,(ˆˆ )( 1 )()()()1( i N N k i N ii N i N kk θθθθ εψμ ∑ = + += ‘ Thuật toán Gauss–Newton suy giảm: )ˆ,().ˆ,()ˆ,()ˆ,(ˆˆ )( 1 )( 1 1 )()()()()1( i N N k i N N k i N Ti N ii N i N kkkk θθθθθθ εψψψμ ∑∑ = − = + ⎥⎦ ⎤⎢⎣ ⎡+= )ˆ,().ˆ,()ˆ,()ˆ,(ˆˆ )( 1 )( 1 )( 1 )()()()1( i N N t i N i N k i N Ti N i N i N kkIkk θθθθθθ εψμψψ ∑∑ = − = + ⎥⎦ ⎤⎢⎣ ⎡ +⎟⎠ ⎞⎜⎝ ⎛+= ‘ Thuật toán Levenberg–Marquardt: Nếu μ(i) ⇒ thuật toán Gauss–Newton ‘ Độ dài bước μ(i) được chọn sau cho: ),ˆ(),ˆ( )()1( NiNNNiNN ZVZV θθ <+ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 22 Thuật toán lặp tìm nghiệm phương trình ‘ Thuật toán thay thế: ),ˆ(ˆˆ )()()()1( NiNN ii N i N Zf θθθ μ−=+ ‘ Thuật toán Newton–Raphson: [ ] ),ˆ(),ˆ(ˆˆ )(1)()()()1( NiNNNiNNiiNiN ZfZf θθθθ −+ ′−= μ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 23 Tính đạo hàm của bộ dự báo theo tham số ‘ Các công thức tính đạo hàm: ŽTrường hợp mô hình hộp đen tuyến tính ŽTrường hợp mô hình hộp đen phi tuyến ‘ Biểu thức đạo hàm của bộ dự báo theo tham số: T d kykykykyk ⎥⎦ ⎤⎢⎣ ⎡ ∂ ∂ ∂ ∂ ∂ ∂=∂ ∂= θθθψ ),(ˆ ),(ˆ ),(ˆ),(ˆ),( 21 θθθ θ θθ … ‘ Tính đạo hàm gần đúng dùng phương pháp sai phân l ll l kyekyky Δ −Δ+≈∂ ∂ ),(ˆ),(ˆ),(ˆ θθθθ [ ]Tle 00100 ……=Trong đó Δl là hệ số dương nhỏ và phần tử thứ l 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 24 Thuật toán đệ qui ước lượng tham số 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 25 Tại sao cần thuật toán ước lượng đệ qui ‘ Việc tính toán tham số mô hình trực tuyến phải được thực hiện sao cho việc xử lý dữ liệu đo tại mỗi thời điểm lấy mẫu phải chắc chắn hoàn tất trong khoảng thời gian nhỏ hơn chu kỳ lấy mẫu. ‘ Thuật toán ước lượng đệ qui được sử dụng trong các hệ thống điều khiển thích nghi, nhằm đảm bảo chất lượng điều khiển khi thông số mô hình thay đổi Đối tượng Điều khiển Mô hình u(k) y(k) 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 26 Thuật toán bình phương tối thiểu tuyến tính có trọng số ‘ Giả sử thu thập được k mẫu dữ liệu, tham số mô hình ước lượng bằng phương pháp bình phương tối thiểu tuyến tính có trọng số là: [ ]∑ = −= k l T k llylk 1 2 )()(),(minargˆ θϕθ θ β )()(ˆ 1 kfkRk −=θ ∑ = = k l T lllkkR 1 )()(),()( ϕϕβ ∑ = = k l lyllkkf 1 )()(),()( ϕβ Khuyết điểm: ‘ Không sử dụng được giá trị tham số đã tính ở thời điểm trước đó ‘ Khi số mẫu tăng đến vô cùng không đủ bộ nhớ để lưu trữ dữ liệu ‘ Thời gian tính toán tăng lên khi k tăng. 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 27 Thuật toán bình phương tối thiểu tuyến tính có trọng số đệ qui ‘ Chọn chuỗi trọng số thỏa mãn tính chất: ),1()(),( lkklk −= βλβ 1),( =kkβ )10( −≤≤ kl Chú ý: ‘ Nếu thì ‘ λ gọi là hệ số quên (forget factor). ‘ Thông thường λ được chọn trong khoảng 0.98÷0.995. lklk −= ),( λβkk ∀= ,)( λλ ‘ Thuật toán ước lượng đệ qui: ∏ += = k lj jlk 1 )(),( λβ⇒ )()()1()()( kkkRkkR Tϕϕ+−= λ )()(ˆˆ 11 kkRkk ε−− +=θθ 1 ˆ)( )()( −−= kT kkyk θϕε 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 28 Chứng minh thuật toán ước lượng đệ qui ∑ = = k l T lllkkR 1 )()(),()( ϕϕβ )()()()(),1()( 1 1 kklllkk T k l T ϕϕϕϕ +⎥⎦ ⎤⎢⎣ ⎡ −= ∑− = βλ )()()1()()( kkkRkkR Tϕϕ+−= λ ∑ = = k l lyllkkf 1 )()(),()( ϕβ )()()()(),(1 1 kyklyllk k l ϕϕ +⎥⎦ ⎤⎢⎣ ⎡= ∑− = β )()()()(),1()( 1 1 kyklyllkk k l ϕϕ +⎥⎦ ⎤⎢⎣ ⎡ −= ∑− = βλ )()()1()()( kykkfkkf ϕ+−= λ )()()()(),( 1 1 kklllk T k l T ϕϕϕϕ +⎥⎦ ⎤⎢⎣ ⎡= ∑− = β ),1()(),( lkklk −= βλβ )()(ˆ 1 kfkRk −=θ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 29 Chứng minh thuật toán ước lượng đệ qui (tt) )()()1()()( kkkRkkR Tϕϕ+−= λ )()()1()()( kykkfkkf ϕ+−= λ )()(ˆ 1 kfkRk −=θ )]()()1()()[(1 kykkfkkR ϕ+−= − λ )]()(ˆ)1()()[( 1 1 kykkRkkR k ϕθ +−= −− λ { })()(ˆ)]()()([ )( 11 kykkkkRkR kT ϕθϕϕ +−= −− ]ˆ)( )()[()(ˆ 1 1 1 − − − −+= kTk kkykkR θϕϕθ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 30 Thuật toán đệ qui không tính nghịch đảo ma trận ‘ Đặt: )()( 1 kRkP −= ‘ Thuật toán ước lượng đệ qui không tính nghịch đảo ma trận: )()(ˆˆ 1 kkLkk ε+= −θθ )1(ˆ)( )()( −−= kkkyk T θϕε )()1()()( )()1()( kkPkk kkPkL T ϕϕ ϕ −+ −= λ ⎥⎦ ⎤⎢⎣ ⎡ −+ −−−−= )()1()()( )1()()()1()1( )( 1)( kkPkk kPkkkPkP k kP T T ϕϕ ϕϕ λλ )()()(ˆˆ 11 kkkRkk εϕθθ −− += ⎥⎦ ⎤⎢⎣ ⎡ −+ −−−−= )()1()()( )1()()()1()1( )( 1)( kkPkk kPkkkPkP k kP T T ϕϕ ϕϕ λλ⇒ )()1()()( )()1()()(1 kkPkk kkPkkR T ϕϕ ϕϕ −+ −=− λ⇒ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 31 Thuật toán đệ qui chuẩn hóa độ lợi )()()(ˆˆ 11 kkkRkk εϕθθ −− += ‘ Đặt: )()()( kRkkR γ= 1 1 ),()( − = ⎥⎦ ⎤⎢⎣ ⎡= ∑k l lkk βγ ∑ = = k l T lllkkR 1 )()(),()( ϕϕβ ‘ Thuật toán ước lượng đệ qui chuẩn hóa độ lợi )()()()(ˆˆ 11 kkkRkkk εγ ϕθθ −− += 1 ˆ)( )()( −−= kT kkyk θϕε )]1()()()[()1()( −−+−= kRkkkkRkR Tϕϕγ )]1()()()[()1()( −−+−= kRkkkkRkR Tϕϕγ⇒ ‘ Độ lợi γ(k) thường chọn bằng hằng số, γ = 1 − λ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 32 Thuật toán sai số dự báo đệ qui ‘ Bộ dự báo tổng quát: ),(ˆ θky ‘ Tiêu chuẩn ước lượng tham số: ∑ = = k l k k llkkZV 1 2 ),(),()(),( θθ εβγ ‘ Chọn chuỗi trọng số thỏa mãn tính chất: ),1()(),( lkklk −= βλβ 1),( =kkβ )10( −≤≤ kl 1 1 ),()( − = ⎥⎦ ⎤⎢⎣ ⎡= ∑k l lkk βγ ‘ Thuật toán ước lượng: [ ] ))1(ˆ,())1(ˆ,()()()()1(ˆ)(ˆ 1 −−+−= − kkkkkkkkk θθψθθ εγμ R ‘ Trong trường hợp tổng quát không thể tính toán đệ qui và do phụ thuộc vào tất cả dữ liệu quá khứ ))1(ˆ,( −kk θε ))1(ˆ,( −kk θψ ))1(ˆ,(ˆ −kky θ 29 December 2009 © H. T. Hoàng - ÐHBK TPHCM 33 Thuật toán sai số dự báo đệ qui (tt) ‘ Thuật toán Gauss-Newton đệ qui )()()()(ˆˆ 11 kkkRkkk εγ ϕθθ −− += )ˆ ,(ˆ)()( 1−−= kkykyk θε )]1()()()[()1()( −−+−= kRkkkkRkR Tϕϕγ ‘ Trong trường hợp hệ tuyến tính bất biến hữu hạn chiều có thể tính đệ qui và như sau: : )(ˆ ky )(kψ )())(ˆ()())(ˆ()1( kzkkkk θξθξ BA +=+ )())1(ˆ()1()( )(ˆ kkkk ky ξθξψ −=+⎥⎦ ⎤⎢⎣ ⎡ C