Материал: Чернова Н.И. - Теория вероятностей - 1999

Внимание! Если размещение файла нарушает Ваши авторские права, то обязательно сообщите нам

Раздел 15. Характеристические функции

p

Всюду в этой главе i = 1 — мнимая единица, t — вещественная переменная, eit = cos t+ i sin t — формула Эйлера, E( + i ) = E + i E — способ вычисления математи- ческого ожидания комплекснозначной случайной величины + i , если математические ожидания ее действительной ( ) и мнимой ( ) частей существуют.

÷òî

eit

 

= 1.

j

j

=

p

 

 

Как всегда, модулем комплексного числа z = x + iy называется

z

 

x2 + y2, òàê

 

 

 

 

 

 

 

 

 

 

Определение 53. Функция ' (t) = E eit называется характеристической функцией

случайной величины .

15.1Примеры вычисления

Пример 52. Пусть с. в. имеет распределение Бернулли с параметром p. Ее характеристическая функция (х. ф.) равна

' (t) = E eit = eit 0 P( = 0) + eit 1 P( = 1) = 1 p + peit:

Пример 53. Пусть с. в. имеет биномиальное распределение с параметрами n и p. Ее х. ф. равна

n

n

=

' (t) = E eit = eit k P( = k) =

eit k Cnk pk (1 p)n k

X

X

 

k=0

k=0

 

n

= XCnk peit k (1 p)n k = 1 p + peit n: k=0

Последнее равенство суть бином Ньютона.

Пример 54. Пусть с. в. имеет распределение Пуассона с параметром . Ее х. ф. равна

 

1

 

1

k

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

X

X

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

' (t) = E eit =

eit k P( = k) =

eit k

k!

e =

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

k=0

k=0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

eit

k

 

 

 

 

it

 

 

 

 

 

 

 

 

= e k=0

 

k!

 

= e e e

= expf eit 1 g:

 

 

 

 

 

 

X

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Пример 55. Пусть с. в. имеет показательное распределение с параметром . Ее

х. ф. функция равна

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

1

 

 

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

' (t) = E eit = Z0

eit x f (x) dx = Z0

eitx e x dx = Z0

 

e x( it) dx =

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

=

 

it;

 

 

 

 

 

 

 

 

 

 

 

= it e x( it) 0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

поскольку при x ! 1 модуль

величины e

x(

 

it)

= e

x

e

itx

 

 

ê

íóëþ:

 

 

 

 

 

 

 

стремится

e x( it) = e x ! 0.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

85

Пример 56. Пусть с. в. имеет гамма-распределение с параметрами , . Ее х. ф. равна

1

 

' (t) = E eit = Z0

eit x f (x) dx =

1

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Z0

eitx

 

 

 

x 1 e x dx =

 

 

 

 

 

 

 

 

 

( )

 

 

 

 

 

 

 

 

 

 

 

 

 

1

x 1 e x( it) dx =

 

 

 

= 1

it

 

 

 

=

 

 

Z0

 

 

 

 

 

:

 

( )

it

 

 

Интеграл мы вычислили с помощью гамма-функции Эйлера:

1

 

 

 

 

 

 

 

 

 

1

(x( it)) 1 e x( it) dx( it) = ( ( it) :

 

Z x 1 e x( it) dx = ( it) Z

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

)

 

 

0

 

 

 

 

 

 

 

 

 

 

0

 

 

 

 

 

 

 

 

 

Пример 57.

Пусть с. в.

имеет стандартное нормальное распределение.

Åå õ. ô.

равна

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

1

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

 

' (t) =

p

 

Z

eitx e x

=2 dx =

 

 

 

 

 

 

 

 

 

 

2

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

1

 

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

 

= p2

 

e t

=2 e (x it)

=2 dx = e t

=2 p2

e (x it)

=2 d(x it) = e t

=2:

 

 

 

 

Z

Z

 

 

 

 

1

 

 

2

 

 

2

2

1

 

2

 

2

 

 

 

 

 

 

 

1

 

 

 

 

 

 

 

 

1

 

 

 

 

Как всегда, при интегрировании мы выделили полный квадрат в показателе экспоненты

и вспомнили, чему равен интеграл по всей прямой от функции p1 e u2=2. А чему он

2

равен?

Самое время остановиться и спросить: "Ну и что? Зачем нам эти функции и какой от них прок?" Приглашаю читателя познакомиться с замечательными свойствами х. ф.

15.2Свойства характеристических функций

Ô1. Характеристическая функция всегда существует:

j' (t)j = jE eit j 6 E jeit j = E 1 = 1

Полезно вспомнить, что обычные математические ожидания существуют не у всех распределений.

Ô2. По характеристической функции однозначно восстанавливается распределение (функция распределения, а также плотность или таблица распределения). То есть если две с. в. имеют одинаковые х. ф., то и распределения этих с. в. совпадают.

Формулы, с помощью которых это делается, в анализе называют формулами «обратного преобразования Фурье». Например, если модуль х. ф. интегрируем на всей прямой, то у с. в. есть плотность распределения, и она находится по формуле (проверьте на примере примера 57)

1

e itx ' (t) dt:

f (x) = 2 Z

1

 

 

 

 

1

 

Ни одна из формул обратного преобразования Фурье нам не понадобится.

86

Ô3. Характеристическая функция с. в. a + b связана с х. ф. случайной величины равенством

'a+b (t) = E eit(a+b ) = eita ' (tb):

Пример 58. Вычислим х. ф.

случайной величины , имеющей нормальное распре-

деление с параметрами a и 2.

Мы знаем, что у стандартизованной с. в. =

a

 

характеристическая функция равна ' (t) = e t2=2.

 

 

 

Тогда х. ф. случайной величины

= a + равна

 

 

 

 

 

 

2

=2 = exp ita

2 2

:

 

' (t) = 'a+ (t) = eita ' (t ) == eita e (t )

t

 

2

 

Ô4. Характеристическая функция суммы независимых с. в. равна произведению характеристических функций слагаемых: если с. в. и независимы, то, по свойству E6 математических ожиданий

' + (t) = E eit( + ) = E eit E eit = ' (t) ' (t):

Этим замечательным свойством мы сразу же воспользуемся, как обещали, для доказательства леммы 6, утверждающей устойчивость нормального распределения относительно суммирования.

Пример 59. Доказательство леммы 6.

Пусть случайные величины = Na1; 12 è = Na2; 22 независимы. Характеристическая функция суммы + равна

' + (t) = ' (t) ' (t) = exp ita1

t

2 2

exp ita2

t2 2

= exp it(a1 + a2)

t2( 2

+ 2)

:

1

2

1

 

2

 

2

2

 

2

 

То есть х. ф. суммы есть характеристическая функция нормального распределения с

параметрами a1 + a2, 2 + 2. Тогда + = N 2 2 по свойству 2.

1 2 a1+a2; 1+ 2

Пример 60. Докажем свойства устойчивости по суммированию биномиального распределения, распределения Пуассона и гамма-распределения (леммы 4, 5, 7), используя вычисленные в примерах 5256 характеристические функции.

Для независимых с. в. с распределениями Пуассона и х. ф. суммы

' + (t) = ' (t) ' (t) = exp eit 1 exp eit 1 = exp ( + ) eit 1

равна характеристической функции распределения Пуассона с параметром + .

Для независимых с. в. с биномиальными распределениями Bn;p è Bm;p х. ф. суммы

' + (t) = ' (t) ' (t) = 1 p + peit n 1 p + peit m = 1 p + peit

n+m:

равна характеристической функции

биномиального

распределения

ñ

параметрами

n + m, p.

 

 

 

 

 

 

 

 

 

 

 

Для n независимых с. в. с показательным распределением E х. ф. суммы

' 1+ + n (t) = (' 1 (t))n =

 

 

n

= 1

it

 

n

 

 

 

 

 

 

 

 

 

it

 

 

 

 

 

равна характеристической функции гамма-распределения с параметрами , n.

87

Ô5. Пусть существует момент порядка k = 1; 2; : : : случайной величины , то есть Ej jk < 1. Тогда ее характеристическая функция ' (t) непрерывно дифференцируема k раз, и ее k-я производная в нуле связана с моментом порядка k равенством:

(k)

(0) =

dk

'

 

E eit

d tk

 

=

E ik k eit

 

= ik E k:

 

 

 

 

 

 

 

 

 

 

t=0

t=0

Существование и непрерывность k-й производной, равно как и законность переноса производной под знак математического ожидания мы доказывать не будем.

Упражнение 30. Доказать, что для с. в. со стандартным нормальным распределе-

2k def

нием момент четного порядка 2k равен = (2k 1)!! = (2k 1) (2k 3) : : : 3 1.

E

Доказать по определению, что все моменты нечетных порядков стандартного нормального распределения существуют и равны нулю.

Как только появились производные высших порядков, самое время разложить функцию в ряд Тейлора.

Ô6. Пусть существует момент порядка k = 1; 2; : : : случайной величины , то есть Ej jk < 1. Тогда ее характеристическая функция ' (t) в окрестности точки t = 0 разлагается в ряд Тейлора

k

tj

(j)

k

ijtj

 

 

 

 

Xj

 

 

X

 

 

 

 

 

 

j!

'

j! E j + o(jtkj) =

 

 

' (t) = ' (0) +

(0) + o(jtkj) = 1 +

 

 

=1

 

 

j=1

 

 

 

 

 

 

 

 

 

 

 

 

t2

iktk

 

 

 

= 1 + it E

 

E 2 + : : : +

 

E k + o(jtkj):

 

 

 

2

k!

Ряды Тейлора, как правило, возникают при предельном переходе. Следующее основное свойство характеристических функций потребуется нам для доказательства предельных теорем, и это свойство — последняя теорема, оставленная нами без доказательства.

Теорема 35 (Теорема о непрерывном соответствии). Случайные величины n слабо сходятся к с. в. тогда и только тогда, когда для любого t характеристические функции ' n (t) сходятся к характеристической функции ' (t).

Сформулированная теорема устанавливает непрерывное соответствие между классами hF ; ) i функций распределения со слабой сходимостью и h' ; !i характеристи- ческих функций со сходимостью в каждой точке. «Непрерывность» этого соответствия

— в том, что пределу в одном классе относительно заданной в этом классе сходимости соответствует предел в другом классе относительно сходимости, заданной в этом классе.

Осталось воспользоваться теоремой о непрерывном соответствии и доказать

ЗБЧ в форме Хинчина è ÖÏÒ.

88

15.3Доказательство ЗБЧ Хинчина

Пусть 1; 2; : : : — последовательность независимых и одинаково распределенных слу- чайных величин с конечным первым моментом Ej 1j < 1. Обозначим через a математи-

ческое ожидание E 1. Требуется доказать, что

 

 

 

Sn

=

1 + + n

p

a:

 

n

n

!

 

 

 

По свойству 19 сходимость по вероятности к постоянной эквивалентна слабой схо-

димости.

Так как a — постоянная,

достаточно доказать слабую сходимость

Sn

=

n

 

1 + + n

 

 

 

 

 

 

 

 

 

 

 

 

 

)

a. Ïî теореме о непрерывном соответствии, эта сходимость имеет место,

 

n

 

 

 

 

 

 

 

 

 

 

 

 

 

если и только если для любого t 2 R сходятся характеристические функции

 

 

 

 

 

 

'Sn=n(t) ! 'a(t) = E eita = eita:

 

 

 

Найдем характеристическую функцию с. в.

 

Sn

. Пользуясь свойствами Ô3 è Ô4, ïîëó-

 

 

÷èì

 

 

 

 

 

 

n

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

3

 

t

 

4

 

t

 

n

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

'Sn=n(t) = 'Sn

 

= ' 1

 

 

:

 

 

 

 

 

 

n

n

 

 

Вспомним, что первый момент 1 существует, поэтому свойство Ô6 позволяет разложить

' 1 (t) в ряд Тейлора в окрестности нуля ' 1 (t) = 1 + it E 1 + o(jtj) = 1 + ita + o(jtj). В точке t=n, соответственно,

' 1 n

= 1 + n + o n

;

'Sn=n(t) =

' 1

n

n

=

1 + n + o

n

n

 

:

 

 

t

 

 

ita

 

t

 

 

 

 

 

 

 

 

t

 

 

 

 

 

 

 

ita

 

t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

x

 

n

 

 

 

 

 

 

 

 

 

! 1

 

 

 

 

 

 

 

 

 

 

 

 

 

!

 

 

 

 

 

 

, пользуясь «замечательным

 

 

 

 

 

n n

 

 

 

 

 

 

 

 

 

Ïðè n

 

 

 

 

пределом»

 

1 +

 

 

 

 

 

 

ex, получим

 

 

 

 

 

 

 

 

 

 

'Sn=n(t) =

1 + n + o

n

 

 

! eita;

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

ita

 

t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

что и требовалось доказать.

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

15.4Доказательство центральной предельной теоремы

Пусть 1; 2; : : : — последовательность независимых и одинаково распределенных слу- чайных величин с конечной и ненулевой дисперсией. Обозначим через a математиче- ское ожидание E 1 и через 2 — дисперсию D 1. Требуется доказать, что

 

Sn na

=

1 + + n na

 

 

N

 

:

 

 

 

 

 

 

 

 

 

 

pn

pn

)

0;1

 

 

 

 

Введем стандартизованные случайные величины i =

i a

— независимые с. в. с ну-

 

 

 

 

 

 

 

 

 

 

 

 

 

левыми математическими ожиданиями и единичными дисперсиями. Пусть Zn есть их сумма Zn = 1 + + n = (Sn na)= . Требуется доказать, что

 

 

 

Zn

) N0;1

 

 

 

 

 

 

 

 

 

 

p

 

:

 

 

 

 

 

 

 

 

 

n

 

 

 

 

 

 

Характеристическая функция величины Zn=p

 

равна

 

 

 

 

 

 

n

 

 

 

 

 

 

'Zn=pn(t) = 'Zn pn

=

' 1

pn

n

(25)

:

 

 

3

t

4

 

 

t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

89