Материал: ТАУ Лекция ч2
© К.Ю. Поляков, 2009
2. Случайные процессы
2.1. Что такое случайный процесс?
Случайный процесс – это случайная функция времени. Это означает, что наблюдатель «видит» только одну реализацию случайного процесса (она выделена на рисунке красным цветом) из множества возможных функций (синие линии).
x
0 t1 t2 t
Полный набор всех возможных реализаций называют ансамблем. Случайный процесс – это и есть ансамбль реализаций, а не функция в обычном понимании. Далее будем обозначать весь ансамбль (случайный процесс) через X (t) , а отдельную реализацию – через x(t) .
Характеристикой случайного процесса (точнее – характеристикой ансамбля реализаций) в каждый фиксированный момент времени t = t1 является плотность распределения вероятности f (X1) случайной величины X1 = X (t1 ) . По этим данным можно найти среднее значение (математическое ожидание), дисперсию, СКВО и другие характеристики случайного процесса. Процессы с нулевым средним значением называются центрированными.
Для многих (хотя и не для всех) случайных процессов значения в моменты времени t1 и t2 как-то связаны. Чтобы оценить связь случайных величин X1 = X (t1 ) и X 2 = X (t2 ) используют корреляцию – математическое ожидание произведения X1 X 2 :
RX1X2 = E{X1 X 2 }.
Корреляция позволяет выявить линейную зависимость между двумя величинами. В случае RX1 X 2 > 0 знаки X1 и X 2 чаще всего совпадают (оба положительные или оба отрицательные), а
при RX1X2 < 0 – больше вероятность того, что знаки разные. Если RX1 X 2 = 0 , величины X1 и X 2
называются некоррелированными. Важно понимать, что это не означает, что они независимы. С другой стороны, независимые величины всегда некоррелированы. Для случайных величин с нормальным распределением некоррелированность одновременно означает и независимость.
Вспоминая, что X1 и X 2 – это значения случайного процесса в моменты t1 и t2 , можно рассматривать корреляцию как функцию двух аргументов:
RX (t1,t2 ) = E{X (t1) X (t2 )}.
Эта функция называется корреляционной (или автокорреляционной) функцией случайного процесса X (t) . В этой формуле используется усреднение по ансамблю, то есть по всем возможным реализациям случайного процесса. Практически эта операция трудновыполнима, так как нужно иметь полную информацию о процессе (распределения вероятностей).
Если случайный процесс – это напряжение в вольтах, то его корреляционная функция измеряется в В2, так же, как средний квадрат и дисперсия.
11
© К.Ю. Поляков, 2009
2.2. Стационарность
Если все свойства случайного процесса (плотности распределения вероятностей) не зависят от времени, случайный процесс называется стационарным (в узком смысле). Иначе процесс
– нестационарный, его свойства со временем изменяются. Строго говоря, все реальные процессы – нестационарные, они когда-то начались и когда-то закончатся. Однако часто на практике можно считать, что на интересующем нас интервале времени (например, во время перехода судна из одного порта в другой) свойства случайных процессов (волнения, ветра) не изменяются. Это допущение позволяет существенно упростить решение многих задач.
Стационарность – это очень сильное допущение. Чтобы доказать его справедливость, нужно знать все плотности распределения3 в любой момент времени, а они чаще всего неизвестны. К счастью, стационарность (в узком смысле) совсем не требуется в инженерных задачах. Вместо этого достаточно рассматривать процессы, стационарные в широком смысле, для которых
1)математическое ожидание не зависит от времени;
2)корреляционная функция RX (t1,t2 ) зависит только от того, насколько моменты t1 и t2 да-
леки друг от друга, то есть от разности t1 −t2 , поэтому ее часто записывают в виде
RX (τ) = E{X (t)X (t +τ)}, где τ = t1 −t2 .
Далее, говоря о стационарных процессах, мы будем иметь в виду процессы, стационарные в широком смысле.
2.3. Эргодичность
При первом знакомстве со случайными процессами всегда возникает закономерный вопрос: «Как же изучать случайные процессы на практике?» Дело в том, что во многих случаях мы наблюдаем только одну реализацию из всего ансамбля, и повторить опыт с теми же условиями невозможно.
Исследователи почти всегда предполагают, что длительное наблюдение за одной реализацией случайного процесса позволяет изучить свойства ансамбля, то есть, один элемент ансамбля содержит информацию обо всех остальных элементах. Случайные процессы, обладающие таким свойством, называют эргодическими. Заметим, что только стационарный процесс может быть эргодическим.
С одной стороны, в реальных ситуациях очень сложно доказать эргодичность. С другой – обычно имеет смысл предположить, что процесс эргодический, если нет веских доводов против этого.
Для эргодических процессов по одной реализации можно найти все основные характеристики, заменив усреднение по ансамблю на усреднение по времени. Например, математическое ожидание стационарного случайного процесса можно найти через его плотность распределения:
x = E{X} = ∞∫x f (x) dx .
−∞
3Строго говоря, нужно учитывать совместные плотности распределения (плотности распределения нескольких случайных величин). Подробнее об этом можно почитать в [1,3].
12
© К.Ю. Поляков, 2009
Если мы знаем только одну реализацию, можно попробовать оценить среднее значение на интервале [−T,T ] , разделив интеграл от функции x(t) на ширину интервала:
xˆ |
= |
1 |
T x(t) dt . |
|
|||
T |
|
2T −∫T |
|
|
|
||
Переходя к пределу при T → ∞ (применяя усреднение на бесконечном интервале), получаем оценку среднего значения по одной реализации x(t) :
xˆ = lim 1 T∫x(t) dt .
T →∞ 2T −T
Для эргодических процессов это значение совпадает с x , которое получено путем усреднения по ансамблю.
2.4. Корреляционная функция
Корреляционная функция RX (τ) стационарного процесса X (t) также может быть вычислена двумя способами, усреднением по ансамблю (через совместную плотность вероятности) и усреднением одной реализации по времени. Для эргодического процесса оба метода дают один и тот же результат.
Далее мы будем рассматривать только эргодические процессы, для которых можно найти
корреляционную функцию по одной реализации. Чтобы вычислить RX (τ) |
для некоторого τ , |
||
нужно найти среднее значение произведения x(t) x(t +τ) : |
|
||
RX (τ) = lim |
1 |
T x(t) x(t +τ) dt . |
(1) |
|
|||
T →∞ |
2T −∫T |
|
|
Построить график функции RX (τ) можно по точкам, выполнив такое интегрирование для |
|||
каждого значения τ из некоторого массива. |
|
|
|
Корреляционная функция обладает рядом важных свойств: |
|
||
1) RX (0) – это средний квадрат случайного процесса, поэтому всегда |
RX (0) ≥ 0 ; для цен- |
||
трированных процессов (с нулевым средним) эта величина совпадает с дисперсией;
2)при τ = 0 корреляционная функция имеет наибольшее значение, в том числе и наибольшее по модулю, то есть RX (τ) ≤ RX (0) при всех τ ;
3)RX (τ) = RX (−τ) , то есть RX (τ) – симметричная (четная) функция, это доказывается под-
становкой −τ вместо τ в интеграл (1); поэтому можно считать корреляционную функцию только для τ ≥ 0 , а вторую часть строить симметрично.
В качестве примера приведем корреляционную функцию дискретного сигнала, который переключается между значениями A и − A в случайные моменты времени:
x(t) |
RX (τ) |
|
A |
A2 |
|
0 |
t |
RX (τ) = A2e−α τ |
|
||
− A |
0 |
τ |
|
|
13
© К.Ю. Поляков, 2009
Корреляционная функция имеет вид RX (τ) = A2e−α τ , где α – среднее число переключений за 1 с. Заметим, что одна и та же корреляционная функция может соответствовать многих совершенно различным процессам.
Корреляционная функция не всегда положительна. На следующих рисунках показано изменение ординаты поверхности морского волнения и корреляционная функция этого сигнала (одна из теоретических моделей):
x(t) |
RX (τ) |
|
|
|
R |
X |
(τ) = D e−α τ cos βτ |
0 |
t |
r |
|
|
|
||
|
0 |
|
τ |
Здесь Dr – дисперсия волновой ординаты, α – коэффициент затухания и β – средняя частота волнения.
Заметим также, что чаще всего корреляционная функция убывает по модулю, т.е. чем дальше от нуля, тем меньше значение модуля корреляционной функции (чем больше расстояние между отсчетами, тем меньше связь между ними). Это справедливо не для всех случайных процессов, но для большинства практических ситуаций.
2.5.Спектральная плотность
Втеории управления существуют и взаимно дополняют друг друга два подхода:
1)временнóй – исследование процессов во времени;
2)частотный – исследование частотных свойств сигналов и систем (с помощью передаточных функций и частотных характеристик).
Аналогичная ситуация наблюдается и при рассмотрении случайных процессов. Основная
временная характеристика стационарного процесса – это корреляционная функция, а частотные свойства описываются спектральной плотностью.
Спектральная плотность – это функция, которая показывает распределение мощности сигнала по частотам. Такая информация о полезных сигналах, помехах и возмущениях очень важна для разработчика систем управления. Система должна быть спроектирована так, чтобы усиливать сигналы с «полезными» частотами и подавлять «вредные» частоты, характерные для помех и возмущений.
Для перехода от временнóго описания детерминированных (не случайных) процессов к частотному, используют преобразования Фурье и Лапласа. Аналогично спектральная плотность случайного процесса может быть найдена как преобразование Фурье от корреляционной функции4:
SX (ω) = ∞∫RX (τ) e− jωτ dτ = F{RX (τ)}.
−∞
4Эта формула называется формулой Винера-Хинчина. Строго говоря, это не определение спектральной плотности,
аследствие из него. Математически корректное определение можно найти в литературе [1,3].
14
© К.Ю. Поляков, 2009
Здесь j = 
−1 – мнимая единица, а ω – угловая частота в рад/с (ω = 2πf , где f – «обычная» частота в герцах). Используя формулу Эйлера, можно представить экспоненту в виде сумму вещественной (косинусной) и мнимой (синусной) составляющих: e− jωτ = cosωτ − j sinωτ . Функция RX (τ)sin ωτ – нечетная по τ , поэтому интеграл от нее в симметричных пределах равен нулю. Напротив, функция RX (τ) cosωτ – четная, так что при интегрировании можно взять интервал от 0 до ∞ и удвоить результат:
∞ |
|
SX (ω) = 2∫RX (τ) cosωτ dτ . |
(2) |
0 |
|
Спектральная плотность чем-то похожа на плотность распределения вероятностей, только она характеризует плотность распределения мощности сигнала по частотам. Если случайный процесс – это напряжение в вольтах, то его корреляционная функция измеряется в В2, а спектральная плотность – в В2/Гц.
Спектральная плотность случайного процесса, имеющего корреляционную функцию RX (τ) = A2e−α τ , вычисляется как
∞ |
0 |
∞ |
SX (ω) = A2 ∫e−α τ e− jωτ dτ = A2 ∫e(α− jω)τ dτ + A2 ∫e−(α+ jω)τ dτ .
−∞ |
−∞ |
0 |
Интервал интегрирования разбит на две части. При τ < 0 имеем τ
= −τ , а при τ > 0 –
τ
=τ . Выполняя интегрирование, получаем
|
|
|
A2e(α− jω)τ |
|
0 |
|
A2e−(α+ jω)τ |
|
∞ |
2 |
|
1 |
|
1 |
|
|
2A2α |
|
|
||
|
|
|
|
|
|
|
|
|
|
||||||||||||
S |
X |
(ω) = |
|
|
|
− |
|
|
|
= A |
|
|
+ |
|
|
= |
|
|
|
|
. |
|
|
|
|
|
|
|
|
|
2 |
|
2 |
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ω |
+α |
|
|||
|
|
|
α − jω |
|
−∞ |
|
α + jω |
|
0 |
|
|
α − jω α + jω |
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
На рисунке слева показана корреляционная функция, а справа – соответствующая ей спектральная плотность мощности:
RX (τ) |
|
SX (ω) |
|
|
|
A2 |
|
S |
|
(ω) = |
2 |
|
RX (τ) = A2e−α τ |
X |
2A α |
||
|
|
|
ω2 +α2 |
||
0 |
τ |
0 |
|
ω |
|
Свойства спектральной плотности:
1)это неотрицательная, четная функция угловой частоты ω (график расположен выше оси абсцисс и симметричен относительно вертикальной оси);
2)интеграл от SX (ω) на некотором интервале частот [ω1;ω2 ] дает мощность, которая связана
сэтими частотами; поскольку функция SX (ω) – четная, результат интегрирования на [ω1;ω2 ] нужно удвоить, чтобы учесть также и полосу [−ω2 ;−ω1 ];
3)площадь под кривой определяет средний квадрат случайного процесса (для центрированного процесса он равен дисперсии):
1∞
x2 = 2π −∫∞SX (ω) dω .
15