Bài giảng Bài 4: Các quá trình ngẫu nhiên

TRƯỜNG ðẠI HỌC KHOA HỌC TỰ NHÊN KHOA ðIỆN TỬ - ViỄN THÔNG Bài 4: Các quá trình ngẫu nhiên ðặng Lê Khoa Bộ môn Viễn thông – Mạng Outline
Xác suất
Biến ngẫu nhiên – Các loại biến ngẫu nhiên – Các hàm của một biến ngẫu nhiên
Quá trình ngẫu nhiên – Phân loại – Quá trình ngẫu nhiên và các hệ thống tuyến tính – Quá trình Gauss – Quá trình trắng − Mean Correlation and Covariance , Power Spectral Density − Some Typical Random Process, Representation of Random Process Faculty of Electronics & Telecommunications Xác su
t
ðịnh nghĩa: Giả sử phép thử thỏa mãn hai ñiều kiện: Không gian mẫu có số phần tử hữu hạn và các kết quả xảy ra ñồng khả năng Khi ñó ta ñịnh nghĩa xác suất của biến cố A là P(A)=(số trường hợp thuận lợi ñối với A)/(số trường hợp có thể) Ví dụ:
Giả sử cần truyền 1 chuỗi có 20 bit gồm các bit “0” và “1”. Trong ñó gồm 10 bit “1” và 10 bit “0”. Như vậy P(“0”)=P(“1”)=1/2 Faculty of Electronics & Telecommunications Xác su
t có ñiu kin
ðịnh nghĩa: Xác suất của biến cố B ñược tính trong ñiều kiện biết rằng biến cố A ñã xảy ra ñược gọc là xác suất của B với ñiều kiện A. Ký hiệu P(B|A)
Ví dụ: Giả sử cần truyền 1 chuỗi có 20 bit gồm các bit “0” và “1”. Một lỗi xảy ra khi truyền bit “0” nhưng nhận ñược bit “1” và ngược lại. Như vậy xác suất P(“0”)=P(“1”)=1/2 Faculty of Electronics & Telecommunications Các loi bin ngu nhiên
Biến ngẫu nhiên: Một biến ngẫu nhiên là một ánh xạ từ không gian mẫu ñể tạo thành tập số thực.
Một số biến ngẫu nhiên phổ biến – Biến ngẫu nhiên Bernoulli: biến ngẫu nhiên rời rạc nhận giá trị “0: hoặc “1” – Biến ngẫu nhiên nhị thức: biến ngẫu nhiên rời rạc cho biết số bit lỗi ở bộ thu trong một chuỗi Bernoulli có n bit ñộc lập. – Biến ngẫu nhiên ñồng nhất: biến ngẫu nhiên liên tục nhận một giá trị từ a ñến b với một xác suất bằng nhau – Biến ngẫu nhiên chuẩn (Gaussian) Faculty of Electronics & Telecommunications Các hàm ca m t bin ngu nhiên
Hàm phân bố tích lũy (CDF: Cumulative Distributive Funtion) FX(x) là xác suất ñể biến ngẫu nhiên X có giá trị nhỏ hơn một mức x nào ñó Hoặc
Hàm mật ñộ phổ (SDP: Spectral Density Funtion) biểu diễn sự phân bố công suất hay năng lượng của tín hiệu trong miền tần số
Hàm mật ñộ xác suất (PDF: Probability Density Funtion) ñược diễn tả như sau: Faculty of Electronics & Telecommunications Hàm phân b tích lũy Faculty of Electronics & Telecommunications Bin ngu nhiên chun (Gaussian):
ðây là một biến ngẫu nhiên liên tục ñược diễn tả bởi hàm mật ñộ: Faculty of Electronics & Telecommunications Deterministic and random processes
Deterministic processes: quá trình vật lý ñược thể hiện bởi mối quan hệ toán học rõ ràng
Random processes: kết quả của một số lượng lớn các nguyên nhân riêng biệt, xảy ra trong tự nhiên theo thời gian. − Hàm mật ñộ xác suất diễn tả sự phân bố về biên ñộ của quá trình ngẫu nhiên, nhưng chúng không cho thông tin về thời gian và tần số của quá trình. Faculty of Electronics & Telecommunications time, t x(t) fX(x) Stationarity and Ergodicity
Ensemble averaging : là giá trị trung bình của biến trên tập quá trình ngẫu nhiên tại một thời ñiểm nhất ñịnh ( biến số thời gian t ñược giữa không ñổi)
Stationary random process : giá trình trung bình không thay ñổi theo thời gian
Time averaging : thuộc tính ñạt ñược bằng cách lấy trung bình trên từng mẫu theo thời gian Faculty of Electronics & Telecommunications
Ergodic process : là quá trình dừng trong ñó trung bình trên tập bằng trung bình theo thời gian của tín hiệu. Mean time, t x(t) x T Faculty of Electronics & Telecommunications • Giá trị trung bình,x , là chiều cao của khu vực hình chữ nhật có cùng diện tích với hình ở bên dưới của hàm x(t) • Còn ñược ñịnh nghĩa là moment bậc nhất của PDF. ∫ ∞→ = T 0T x(t)dt T 1Limx Mean square value, variance, standard deviation
Giá trị trung bình bình phương
Variance: (trung bình của căn bậc hai của ñộ lệch chuẩn x(t) với giá trị trung bình,x) ðộ lệch chuẩn, σ , là căn bậc hai của phương sai ∫ ∞→ = T 0 2 T 2 (t)dtx T 1Limx ( )22x xx(t)σ −= [ ]∫ ∞→ = T 0 2 T dtx-x(t) T 1Lim Faculty of Electronics & Telecommunications
x time, t x(t) µx T σx Autocorrelation • Hàm tự tưng quan diễn tả sự phụ thuộc của x(t) với giá trị của chúng ở thời ñiểm ngắn sau ñó x(t+τ). Giá trị ρx(τ) ở τ bằng “0” chính là variance [ ][ ]∫ += ∞→ T 0Tx dt x-τ)x(t.x-x(t) T 1Lim)(τρ Sau bao lâu thì chúng tương quan với hiện tại Faculty of Electronics & Telecommunications time, t x(t) τ T Hàm tự tương quan ñược chuẩn hóa : R(τ)= ρx(τ)/σx2 Cross-correlation • The cross-correlation function describes the general dependency of x(t) with another random process y(t+τ), delayed by a time delay, τ • Example 1.4 [ ][ ]∫ += ∞→ T 0Txy dt y-τ)y(t.x-x(t) T 1Lim)(τc x(t) x Faculty of Electronics & Telecommunications time, t τ T time, t y(t) T y Cross-correlation • Hàm tương quan chéo diễn tả sự phụ thuộc của (t) với một quá trình ngẫu nhiên khác y(t+τ), bị trễ bởi thời gian τ [ ][ ]∫ += ∞→ T 0Txy dt y-τ)y(t.x-x(t) T 1Lim)(τc x(t) x Faculty of Electronics & Telecommunications time, t τ T time, t y(t) T y • Hiệp phương sai là hàm tương quan chéo với thời gian trễ τ ñược thiết lập bằng 0. • Nếu x'(t) và y'(t) là phần thay ñổi của x(t) và y(t) Covariance [ ][ ]∫ ∞→ =′′= T 0Txy dt y-y(t).x-x(t) T 1Lim(t)y(t).x(0)c Faculty of Electronics & Telecommunications • Hệ số tương quan ρ là phương sai ñã chuẩn hóa bởi ñộ lệch của x và y Với x và y là giống nhau, giá trị ρ là +1 (full correlation) Khi y(t)=−x(t), giá ρ là − 1 Nhìn chung, − 1< ρ < +1 yx .σσ (t)(t).y'x' ρ = Correlation
Chỉ ra ñộ mạnh và xu hướng của mối quan hện tuyến tính của hai biến ngẫu nhiên Faculty of Electronics & Telecommunications H th ng tuyn tính λ λ λ +∞ = = −∫
Cho hệ thống tuyến tính bất biến thời gian LTI Faculty of Electronics & Telecommunications ( ) ( )* ( ) ( ) ( )y t h t x t h x t d −∞ ( ) [ ( )] [ ( )] ( ) ( )Y f F h t F x t H f X f= = Gaussian Process
Phân bố e −(x−µ )2 2σ 2 2piσ 2 Faculty of Electronics & Telecommunications
Nếu ñầu vào của một bộ lọc tuyến tính ổn ñịnh là Gaussian, ñầu ra là Gaussian Central Limit Theorem
Xi are statistically independent
Xi has the same mean and variance
Sn = X1 + ... + Xn Faculty of Electronics & Telecommunications
Then the distribution of Zn converges towards the standard normal distribution N(0,1) as n approaches ∞
This implies if a random process is affected by many factors, the resulting distribution is probably Gaussian. Central Limit Theorem
Xi là ñộc lập thống kê
Xi có cùng trị trung bình và phương sai
Sn = X1 + ... + Xn và có trị trung bình µ= Faculty of Electronics & Telecommunications
Thì sự phân bố của Zn hội tụ về phân phối chuẩn N(0,1) khi n tiến ñến ∞
ðiều này ngụ ý rằng nếu một quá trình ngẫu nhiên bị ảnh hưởng bởi nhiều nhân tố, thì kết quả phân bố có thể là Gaussian. Shot Noise
Shot Noise: loại nhiễu ñiện tử xảy ra khi số lượng hữu hạn các hạt mang năng lượng như electrons trong mạch ñiện hoặc photons trong thiết bị quang, làm biến biến ñộng trong do lường. ðây là nhiễu quang trọng trong electronics, telecommunications, và physics.
Photon noise là ngồn nhiễu phổ biến trong các bước ảnh của máy chụp ảnh kỹ thuật số ngày nay. Faculty of Electronics & Telecommunications Thermal Noise
Electronic noise ñược tạo ra do sự tác ñộng của nhiệt của các hạt mang ñiện (thường là electrons) trong các chất bán dẫn ở trạng thái cân bằng. Chúng xảy ra ở mọi ñiện thế cung cấp,
Thermal noise thì tương ứng với trắng. Có nghĩa là mật ñộ phổ công suất bằng nhau ở mọi phổ tần số. Hơn nữa, biên ñộ của tín hiệu rất giống với hàm mật ñộ xác suất Gaussian. Faculty of Electronics & Telecommunications Narrowband Noise Representation
The noise process appearing at the output of a narrowband filter is called narrowband noise.
With the spectral components of narrowband noise concentrated about some midband frequency as in Figure 1.18a.
We find that a sample function n(t) of such a process appears somewhat similar to a sine wave of frequency as in Figure cf± cf Faculty of Electronics & Telecommunications 1.18b.
Representations of narrowband noise – A pair of component called the in-phase and quadrature components. – Two other components called the envelop and phase. Representation of Narrowband Noise in Terms of In- Phase and Quadrature Components
Consider a narrowband noise of bandwidth 2B centered on frequency ,as illustrated in Figure 1.18.
We may represent n(t) in the canonical (standard) form: where, is in-phase component of and is quadrature component of . )2sin()()2cos()()( tftntftntn cQcI pipi −= )(tnI )(tnQ cf )(tn )(tn )(tn Faculty of Electronics & Telecommunications
and have important properties: – and have zero mean. – is Gaussian, then and are jointly Gaussian. – is stationary, then and are jointly stationary. – Both and have the same power spectral density. )(tnI )(tnQ )(tnI )(tnQ )(tn )(tnI )(tnQ )(tn )(tnI )(tnQ )(tnI )(tnQ  ++− ),()( ffSffS BfB ≤≤− Faculty of Electronics & Telecommunications – and have the same variance as  == ,0 )()( cNcNNN fSfS QI otherwise )(tn)(tnI )(tnQ Faculty of Electronics & Telecommunications Representation of Narrowband Noise in Terms of Envelope and Phase Components Faculty of Electronics & Telecommunications Faculty of Electronics & Telecommunications
Figure 1.21 Illustrating the coordinate system for representation of narrowband noise: (a) in terms of in-phase and quadrature components, and (b) in terms of envelope and phase. Faculty of Electronics & Telecommunications ψcosrnI = ψsinrnQ = ψrdrddndn QI = Faculty of Electronics & Telecommunications Faculty of Electronics & Telecommunications Sine Wave Plus Narrowband Noise Faculty of Electronics & Telecommunications Faculty of Electronics & Telecommunications Faculty of Electronics & Telecommunications Faculty of Electronics & Telecommunications : Rician distribution reduced to the Rayleigh distribution The envelope distribution is approximately Gaussian when a is large