Раздел 15. Характеристические функции
p
Всюду в этой главе i = 1 — мнимая единица, t — вещественная переменная, eit = cos t+ i sin t — формула Эйлера, E( + i ) = E + i E — способ вычисления математи- ческого ожидания комплекснозначной случайной величины + i , если математические ожидания ее действительной ( ) и мнимой ( ) частей существуют.
÷òî |
eit |
|
= 1. |
j |
j |
= |
p |
|
|
Как всегда, модулем комплексного числа z = x + iy называется |
z |
|
x2 + y2, òàê |
||||||
|
|
|
|
|
|
|
|
|
|
Определение 53. Функция ' (t) = E eit называется характеристической функцией
случайной величины .
15.1Примеры вычисления
Пример 52. Пусть с. в. имеет распределение Бернулли с параметром p. Ее характеристическая функция (х. ф.) равна
' (t) = E eit = eit 0 P( = 0) + eit 1 P( = 1) = 1 p + peit:
Пример 53. Пусть с. в. имеет биномиальное распределение с параметрами n и p. Ее х. ф. равна
n |
n |
= |
' (t) = E eit = eit k P( = k) = |
eit k Cnk pk (1 p)n k |
|
X |
X |
|
k=0 |
k=0 |
|
n
= XCnk peit k (1 p)n k = 1 p + peit n: k=0
Последнее равенство суть бином Ньютона.
Пример 54. Пусть с. в. имеет распределение Пуассона с параметром . Ее х. ф. равна
|
1 |
|
1 |
k |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
X |
X |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
' (t) = E eit = |
eit k P( = k) = |
eit k |
k! |
e = |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
k=0 |
k=0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
eit |
k |
|
|
|
|
it |
|
|
|
|
|||
|
|
|
|
= e k=0 |
|
k! |
|
= e e e |
= expf eit 1 g: |
||||||||||||||
|
|
|
|
|
|
X |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
Пример 55. Пусть с. в. имеет показательное распределение с параметром . Ее |
||||||||||||||||||||||
х. ф. функция равна |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
1 |
1 |
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
' (t) = E eit = Z0 |
eit x f (x) dx = Z0 |
eitx e x dx = Z0 |
|
e x( it) dx = |
1 |
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= |
|
it; |
||
|
|
|
|
|
|
|
|
|
|
|
= it e x( it) 0 |
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
поскольку при x ! 1 модуль |
величины e |
x( |
|
it) |
= e |
x |
e |
itx |
|
|
ê |
íóëþ: |
|||||||||||
|
|
|
|
|
|
|
стремится |
||||||||||||||||
e x( it) = e x ! 0. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
85
Пример 56. Пусть с. в. имеет гамма-распределение с параметрами , . Ее х. ф. равна
1 |
|
' (t) = E eit = Z0 |
eit x f (x) dx = |
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Z0 |
eitx |
|
|
|
x 1 e x dx = |
|
|
|
|
|
|
|
|
|
|||
( ) |
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
1 |
x 1 e x( it) dx = |
|
|
|
= 1 |
it |
|
|
|||||
|
= |
|
|
Z0 |
|
|
|
|
|
: |
|||||||
|
( ) |
it |
|
|
|||||||||||||
Интеграл мы вычислили с помощью гамма-функции Эйлера:
1 |
|
|
|
|
|
|
|
|
|
1 |
(x( it)) 1 e x( it) dx( it) = ( ( it) : |
|
||||||||
Z x 1 e x( it) dx = ( it) Z |
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
) |
|
|
0 |
|
|
|
|
|
|
|
|
|
|
0 |
|
|
|
|
|
|
|
|
|
Пример 57. |
Пусть с. в. |
имеет стандартное нормальное распределение. |
Åå õ. ô. |
|||||||||||||||||
равна |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
1 |
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
' (t) = |
p |
|
Z |
eitx e x |
=2 dx = |
|
|
|
|
|
|
|
|
|
|
|||||
2 |
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
1 |
|
1 |
|
|
|
|
|
|
|
|
1 |
|
|
|
|
||
|
|
|
|
= p2 |
|
e t |
=2 e (x it) |
=2 dx = e t |
=2 p2 |
e (x it) |
=2 d(x it) = e t |
=2: |
||||||||
|
|
|
|
Z |
Z |
|||||||||||||||
|
|
|
|
1 |
|
|
2 |
|
|
2 |
2 |
1 |
|
2 |
|
2 |
|
|||
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
Как всегда, при интегрировании мы выделили полный квадрат в показателе экспоненты
и вспомнили, чему равен интеграл по всей прямой от функции p1 e u2=2. А чему он
2
равен?
Самое время остановиться и спросить: "Ну и что? Зачем нам эти функции и какой от них прок?" Приглашаю читателя познакомиться с замечательными свойствами х. ф.
15.2Свойства характеристических функций
Ô1. Характеристическая функция всегда существует:
j' (t)j = jE eit j 6 E jeit j = E 1 = 1
Полезно вспомнить, что обычные математические ожидания существуют не у всех распределений.
Ô2. По характеристической функции однозначно восстанавливается распределение (функция распределения, а также плотность или таблица распределения). То есть если две с. в. имеют одинаковые х. ф., то и распределения этих с. в. совпадают.
Формулы, с помощью которых это делается, в анализе называют формулами «обратного преобразования Фурье». Например, если модуль х. ф. интегрируем на всей прямой, то у с. в. есть плотность распределения, и она находится по формуле (проверьте на примере примера 57)
1 |
e itx ' (t) dt: |
||
f (x) = 2 Z |
|||
1 |
|
|
|
|
|
1 |
|
Ни одна из формул обратного преобразования Фурье нам не понадобится.
86
Ô3. Характеристическая функция с. в. a + b связана с х. ф. случайной величины равенством
'a+b (t) = E eit(a+b ) = eita ' (tb):
Пример 58. Вычислим х. ф. |
случайной величины , имеющей нормальное распре- |
|||||
деление с параметрами a и 2. |
Мы знаем, что у стандартизованной с. в. = |
a |
||||
|
||||||
характеристическая функция равна ' (t) = e t2=2. |
|
|
|
|||
Тогда х. ф. случайной величины |
||||||
= a + равна |
|
|
|
|
|
|
|
2 |
=2 = exp ita |
2 2 |
: |
|
|
' (t) = 'a+ (t) = eita ' (t ) == eita e (t ) |
t |
|
||||
2 |
|
|||||
Ô4. Характеристическая функция суммы независимых с. в. равна произведению характеристических функций слагаемых: если с. в. и независимы, то, по свойству E6 математических ожиданий
' + (t) = E eit( + ) = E eit E eit = ' (t) ' (t):
Этим замечательным свойством мы сразу же воспользуемся, как обещали, для доказательства леммы 6, утверждающей устойчивость нормального распределения относительно суммирования.
Пример 59. Доказательство леммы 6.
Пусть случайные величины = Na1; 12 è = Na2; 22 независимы. Характеристическая функция суммы + равна
' + (t) = ' (t) ' (t) = exp ita1 |
t |
2 2 |
exp ita2 |
t2 2 |
= exp it(a1 + a2) |
t2( 2 |
+ 2) |
: |
|
1 |
2 |
1 |
|
2 |
|||||
|
2 |
2 |
|
2 |
|
||||
То есть х. ф. суммы есть характеристическая функция нормального распределения с
параметрами a1 + a2, 2 + 2. Тогда + = N 2 2 по свойству 2.
1 2 a1+a2; 1+ 2
Пример 60. Докажем свойства устойчивости по суммированию биномиального распределения, распределения Пуассона и гамма-распределения (леммы 4, 5, 7), используя вычисленные в примерах 52–56 характеристические функции.
Для независимых с. в. с распределениями Пуассона и х. ф. суммы
' + (t) = ' (t) ' (t) = exp eit 1 exp eit 1 = exp ( + ) eit 1
равна характеристической функции распределения Пуассона с параметром + .
Для независимых с. в. с биномиальными распределениями Bn;p è Bm;p х. ф. суммы
' + (t) = ' (t) ' (t) = 1 p + peit n 1 p + peit m = 1 p + peit |
n+m: |
||||||||||
равна характеристической функции |
биномиального |
распределения |
ñ |
параметрами |
|||||||
n + m, p. |
|
|
|
|
|
|
|
|
|
|
|
Для n независимых с. в. с показательным распределением E х. ф. суммы |
|||||||||||
' 1+ + n (t) = (' 1 (t))n = |
|
|
n |
= 1 |
it |
|
n |
|
|
||
|
|
|
|
|
|
|
|||||
it |
|
|
|
|
|
||||||
равна характеристической функции гамма-распределения с параметрами , n.
87
Ô5. Пусть существует момент порядка k = 1; 2; : : : случайной величины , то есть Ej jk < 1. Тогда ее характеристическая функция ' (t) непрерывно дифференцируема k раз, и ее k-я производная в нуле связана с моментом порядка k равенством:
(k) |
(0) = |
dk |
|
' |
|
E eit |
|
d tk |
|||
|
= |
E ik k eit |
|
= ik E k: |
|
|
|
|
|
|
|
|
|
|
t=0 |
t=0 |
Существование и непрерывность k-й производной, равно как и законность переноса производной под знак математического ожидания мы доказывать не будем.
Упражнение 30. Доказать, что для с. в. со стандартным нормальным распределе-
2k def
нием момент четного порядка 2k равен = (2k 1)!! = (2k 1) (2k 3) : : : 3 1.
E
Доказать по определению, что все моменты нечетных порядков стандартного нормального распределения существуют и равны нулю.
Как только появились производные высших порядков, самое время разложить функцию в ряд Тейлора.
Ô6. Пусть существует момент порядка k = 1; 2; : : : случайной величины , то есть Ej jk < 1. Тогда ее характеристическая функция ' (t) в окрестности точки t = 0 разлагается в ряд Тейлора
k |
tj |
(j) |
k |
ijtj |
|
|
|
|
|
Xj |
|
|
X |
|
|
|
|
|
|
j! |
' |
j! E j + o(jtkj) = |
|
|
|||||
' (t) = ' (0) + |
(0) + o(jtkj) = 1 + |
|
|
||||||
=1 |
|
|
j=1 |
|
|
|
|
|
|
|
|
|
|
|
|
t2 |
iktk |
||
|
|
|
= 1 + it E |
|
E 2 + : : : + |
|
E k + o(jtkj): |
||
|
|
|
2 |
k! |
|||||
Ряды Тейлора, как правило, возникают при предельном переходе. Следующее основное свойство характеристических функций потребуется нам для доказательства предельных теорем, и это свойство — последняя теорема, оставленная нами без доказательства.
Теорема 35 (Теорема о непрерывном соответствии). Случайные величины n слабо сходятся к с. в. тогда и только тогда, когда для любого t характеристические функции ' n (t) сходятся к характеристической функции ' (t).
Сформулированная теорема устанавливает непрерывное соответствие между классами hF ; ) i функций распределения со слабой сходимостью и h' ; !i характеристи- ческих функций со сходимостью в каждой точке. «Непрерывность» этого соответствия
— в том, что пределу в одном классе относительно заданной в этом классе сходимости соответствует предел в другом классе относительно сходимости, заданной в этом классе.
Осталось воспользоваться теоремой о непрерывном соответствии и доказать
ЗБЧ в форме Хинчина è ÖÏÒ.
88
15.3Доказательство ЗБЧ Хинчина
Пусть 1; 2; : : : — последовательность независимых и одинаково распределенных слу- чайных величин с конечным первым моментом Ej 1j < 1. Обозначим через a математи-
ческое ожидание E 1. Требуется доказать, что |
|
|
|||
|
Sn |
= |
1 + + n |
p |
a: |
|
n |
n |
! |
||
|
|
|
|||
По свойству 19 сходимость по вероятности к постоянной эквивалентна слабой схо-
димости. |
Так как a — постоянная, |
достаточно доказать слабую сходимость |
Sn |
= |
||||||||||||
n |
||||||||||||||||
|
1 + + n |
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
) |
a. Ïî теореме о непрерывном соответствии, эта сходимость имеет место, |
||||||||||||||
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
||
если и только если для любого t 2 R сходятся характеристические функции |
|
|
||||||||||||||
|
|
|
|
'Sn=n(t) ! 'a(t) = E eita = eita: |
|
|
|
|||||||||
Найдем характеристическую функцию с. в. |
|
Sn |
. Пользуясь свойствами Ô3 è Ô4, ïîëó- |
|||||||||||||
|
|
|||||||||||||||
÷èì |
|
|
|
|
|
|
n |
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
3 |
|
t |
|
4 |
|
t |
|
n |
|
|
||
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
'Sn=n(t) = 'Sn |
|
= ' 1 |
|
|
: |
|
|
|||||
|
|
|
|
n |
n |
|
|
|||||||||
Вспомним, что первый момент 1 существует, поэтому свойство Ô6 позволяет разложить
' 1 (t) в ряд Тейлора в окрестности нуля ' 1 (t) = 1 + it E 1 + o(jtj) = 1 + ita + o(jtj). В точке t=n, соответственно,
' 1 n |
= 1 + n + o n |
; |
'Sn=n(t) = |
' 1 |
n |
n |
= |
1 + n + o |
n |
n |
||||||||||||||||||||||
|
: |
|||||||||||||||||||||||||||||||
|
|
t |
|
|
ita |
|
t |
|
|
|
|
|
|
|
|
t |
|
|
|
|
|
|
|
ita |
|
t |
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x |
|
n |
|
|
|
|
|
|
|
|
|
|
! 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
! |
|
|
|
|
|
||||||||||||
|
, пользуясь «замечательным |
|
|
|
|
|
n n |
|
|
|
|
|
|
|
|
|
||||||||||||||||
Ïðè n |
|
|
|
|
пределом» |
|
1 + |
|
|
|
|
|
|
ex, получим |
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
'Sn=n(t) = |
1 + n + o |
n |
|
|
! eita; |
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
ita |
|
t |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
что и требовалось доказать. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
15.4Доказательство центральной предельной теоремы
Пусть 1; 2; : : : — последовательность независимых и одинаково распределенных слу- чайных величин с конечной и ненулевой дисперсией. Обозначим через a математиче- ское ожидание E 1 и через 2 — дисперсию D 1. Требуется доказать, что
|
Sn na |
= |
1 + + n na |
|
|
N |
|
: |
||||
|
|
|
|
|
|
|
|
|
||||
|
pn |
pn |
) |
0;1 |
||||||||
|
|
|
|
|||||||||
Введем стандартизованные случайные величины i = |
i a |
— независимые с. в. с ну- |
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
левыми математическими ожиданиями и единичными дисперсиями. Пусть Zn есть их сумма Zn = 1 + + n = (Sn na)= . Требуется доказать, что
|
|
|
Zn |
) N0;1 |
|
|
|
|
|
|
|
|||||
|
|
|
p |
|
: |
|
|
|
|
|
|
|||||
|
|
|
n |
|
|
|
|
|
|
|||||||
Характеристическая функция величины Zn=p |
|
равна |
|
|
|
|
|
|
||||||||
n |
|
|
|
|
|
|
||||||||||
'Zn=pn(t) = 'Zn pn |
= |
' 1 |
pn |
n |
(25) |
|||||||||||
: |
||||||||||||||||
|
|
3 |
t |
4 |
|
|
t |
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
89