Действительно, зафиксируем произвольное " > 0. Для всех n начиная с некоторого n0 такого, что n70 > ", верно равенство ( ) ниже
P j n 0j > " |
>0 |
P n > " |
( ) |
P n = n7 |
|
1 |
|
|
n= |
= |
= |
|
|
! 0 ïðè n ! 1: |
|||
n |
||||||||
Итак, случайные величины n с ростом n могут принимать все большие´ и большие´ значения, но со все меньшей и меньшей вероятностью.
А сходится ли данная последовательность к нулю «почти наверное»? Вопрос не слишком корректный, поскольку заданы не случайные величины, а лишь их распределения, и ответ на него, как правило, зависит от того, как сами величины взаимосвязаны. Если, скажем,n(!) = 0 для ! 2 [0; 1 1=n] и n(!) = n7 для ! 2 (1 1=n; 1], то сходимость «почти наверное» имеет место, так как для всякого ! начиная с некоторого n0 все n(!) равны нулю.
Попробуйте задать случайные величины n на [0; 1] так, чтобы сходимость «почти наверное» не имела место. Для этого нужно заставить отрезок длины 1=n, на которомn(!) = n7, «бегать» по отрезку [0; 1], чтобы любая точка ! 2 [0; 1] попадала внутрь этого отрезка бесконечное число раз. Воспользуйтесь тем, что гармонический ряд расходится. Если вам мешают концы отрезка, их можно склеить в окружность :)
Заметим однако, что если вероятности P( n = n7) сходятся к нулю достаточно быстро (например, равны 1=n2), то сходимость к нулю п. н. всегда имеет место (см., например, теорему 2 §1 гл. 6 на стр. 134 учебника А.А.Боровкова «Теория вероятностей»).
Замечание 23. Сходимость по вероятности не обязательно сопровождается сходи-
|
|
|
|
|
|
|
|
|
|
p |
мостью математических ожиданий или моментов других порядков: из n ! не следу- |
||||||||||
ет, ÷òî E n ! E . |
|
|
|
|
|
p |
||||
Действительно, в примере |
47 имеет место сходимость n ! = 0, íî E n = n6 6! |
|||||||||
E = 0. |
|
|
|
|
|
|
|
|
|
|
Если вместо значения n7 взять, скажем, n (с той же вероятностью 1=n), получим |
||||||||||
E n = 1 6!E = 0. |
|
|
|
|
|
|
||||
À åñëè n |
принимает значения 0 и p |
|
с теми же вероятностями, что и в примере 47, |
|||||||
n |
||||||||||
òî E n = 1=p |
|
! E = 0, но уже вторые моменты сходиться ко второму моменту не |
||||||||
n |
||||||||||
будут: E n2 = 1 6!E 2 = 0. |
|
|
|
|
|
|
||||
Сходимость по вероятности обладает обычными для сходимостей свойствами. На- |
||||||||||
пример, такими. |
|
|
|
|
|
|
|
|||
Свойство |
16. |
|
p |
|
p |
|
|
|
||
|
p |
Åñëè n |
! |
è |
n ! |
|
, òî |
|||
1. n + n |
! |
+ ; |
|
|
|
|
|
|
||
p |
|
|
|
|
|
|
||||
2. n n ! |
. |
|
|
|
|
|
|
|||
Доказательство при первом прочтении можно пропустить.
1. В доказательстве мы будем пользоваться естественным свойством вероятности: если из события A следует событие B (всегда, когда выполнено A, выполнено и B), то вероятность A не превосходит вероятности B:
åñëè A B; òî P(A) 6 P(B):
Здесь я категорически требую остановиться и ответить на следующие «глупые вопросы»:
–верно ли, что модуль суммы не превосходит суммы модулей?
–верно ли, что если a > b, и c > a, то c > b?
–верно ли, что если a + b > 2, то хоть одно из чисел a; b больше единицы?
–верно ли, что вероятность объединения двух событий не превосходит суммы их вероятностей?
–верно ли, что вероятность пересечения двух событий не превосходит вероятности любого из них?
70
Если на все вопросы вы ответили «да», можно двигаться дальше. Если не на все — ваш контрпример ошибочен. Если вы вообще не поняли, о чем это, лучше вернуться ñþäà ...
Пусть " > 0. Требуется доказать, что P(j n + n j > ") ! 0 ïðè n ! 1. Íî
a) j n + n j 6 j n j + j n j, поэтому
á) åñëè j n + n j > ", òî è j n j + j n j > ", и вероятность первого события не больше вероятности второго. Далее,
â) åñëè j n j + j n j > ", то хотя бы одно из слагаемых больше, чем "=2.
Получаем следующую цепочку неравенств: |
> "=2) |
|
|
|
||||
6 |
P(j n |
j |
> j"=2) + P( n |
|
0 |
|||
P(j n + n j > ") 6 |
P( n |
|
+ n j > ") 6 P |
j n j > "=2 èëè j n j > "=2 |
6 |
|||
|
j |
j |
j |
j |
|
! |
|
|
p |
|
p |
|
|
|
|
|
|
ïðè n ! 1, òàê êàê n ! è n ! . |
|
|
|
|
|
|||
2. Нам понадобится «хорошее свойство»: для любой случайной величины , просто по свойствам функций распределения, P(j j > M) ! 0 при M ! 1.
Представим j n n j êàê j( n )( n )+ ( n )+ ( n )j. Затем, как в 1, получим
P(j n n j > ") 6 P(j n j j n j > "=3) + P(j j j n j > "=3) + P(j j j n j > "=3):
Подумайте, что делать с первым слагаемым в правой части, а мы пока рассмотрим второе слагаемое (третье такое же). Обозначим за An = fj j j n j > "=3g событие под знаком вероятности. Зафиксируем некоторое M > 0 и разобьем событие An по полной группе событий fj j > Mg и fj j 6 Mg.
P(An) = P(j j j n j > "=3) = P An \ fj j > Mg + P An \ fj j 6 Mg |
6 ::: |
Первую вероятность оцениваем в соответствии с последним «глупым вопросом», вторую — пользуясь тем, что из j j j n j > "=3 и j j 6 M следует, что M j n j > "=3.
::: 6 P( > M) + P M n j > "=3 = P(j j > M) + P j n j > "=3M : |
|
|||
Осталось для любогоj j |
фиксированногоj |
M > 0 устремить n к бесконечности, |
получив |
äëÿ |
верхнего предела оценку lim P(An) 6 P(j j > M), после чего мы можем устремить к
n!1
бесконечности M, пользуясь «хорошим свойством».
Упражнение 25. Восполнить все пропущенные подробности в доказательстве.
Сходимость по вероятности, так же как и любая другая сходимость, не портится под действием непрерывной функции.
Свойство 17.
Åñëè n |
! |
! |
|
p |
è g — непрерывная функция, то g( n) p |
g( ). |
|
|
p |
p |
|
Åñëè n ! c è g непрерывна в точке c, òî g( n) ! g(c).
Доказательство. Простое доказательство первого утверждения можно предложить в двух случаях (которыми мы и ограничимся, предоставив все остальное читателю, знакомому, например, с теоремой Егорова): если = c = const (и тогда достаточно, чтобы
71
g была непрерывна в точке c) или если функция g равномерно непрерывна (а что это значит?).
Èв том, и в другом случае для любого " > 0 найдется такое > 0, что для любого !, удовлетворяющего условию j n(!) (!)j < , выполняется неравенство jg( n(!))
g( (!))j < ". |
|
|
|
jg( n(!)) g( (!))j < " . Следовательно, |
То есть событие |
j n j < |
влечет событие |
||
вероятность |
первого не больше, чем вероятность второго. Но, какое бы ни было > |
|||
|
|
|
|
|
0, вероятность первого события стремится к единице по определению сходимости по
вероятности: |
|
|
|
|
1P j n j < 6 P jg( n(!)) g( (!))j < " 6 1:
Следовательно, и вероятность второго события также стремится к единице. Предлагаю поразмышлять на тему: в каком месте доказательства используется, что
либо g равномерно непрерывна, либо — постоянная. И над тем, как доказывать первую часть свойства 17 в общем случае. 
Чтобы доказывать сходимость по вероятности, можно просто уметь вычислять P (j n j > ") при больших n. Но для этого нужно знать распределение n, что не всегда возможно. Скажем, n может быть суммой (или еще хуже :-) нескольких других с. в., распределения которых не устойчивы по суммированию, и вычислить распределение их суммы по формуле свертки или как-то еще бывает слишком сложно.
Если бы мы имели неравенства, позволяющие оценить P (j n j > ") сверху чемлибо, что мы умеем устремлять к нулю и что проще вычисляется, то сходимость по вероятности мы получили бы по лемме о двух милиционерах: 0 6 P(:::) 6 ::: ! 0. Итак, неравенства П. Л. Чебыш¸ва.
13.2Неравенства Чебыш¸ва
Все неравенства в этом параграфе принято относить к одному классу, называемому «неравенствами Чебыш¸ва». Следующее неравенство часто называют собственно неравенством Чебыш¸ва, хотя в такой форме оно появилось впервые, видимо, в работах
À.А. Маркова (например, Исчисление вероятностей, 1913 ã.).
Теорема 28 (Неравенство Маркова).
Åñëè E j j < 1, то для любого положительного x
E j j
P j j > x 6 x :
Доказательство. Введем новую случайную величину x, называемую «срезкой» с. в. j j на уровне x:
x = |
(x;j j |
|
åñëè j j |
> x: |
Äëÿ íå¸ |
2) |
E x 6j |
Ej |
: |
||
|
|
; |
åñëè |
|
6 x; |
|
1) |
x 6 |
; |
и, следовательно, |
|
|
|
|
j |
j |
|
|
|
|
|
j |
j |
Нам потребуется следующее понятие.
Определение 50. Пусть A — некоторое событие. Назовем индикатором события A случайную величину I(A), равную единице, если событие A произошло, и нулю, если A не произошло.
По определению, I(A) имеет распределение Бернулли Bp с параметром p = P(I(A) = 1) = P(A), и ее математическое ожидание равно вероятности успеха p = P(A).
72
Случайную величину x можно представить в виде x = j j I(j j 6 x) + x I(j j > x)
(проверьте!). Тогда
E x = E |
j j I j j 6 x |
|
+ E |
x I j j > x |
|
> E |
x I j j > x |
|
|
|
|
|
|
|
|
|
|{z }
неотрицательно, отбросим
Вспомним, что E j j > E x, и оценим E x снизу согласно (21):
E j j > E x > x P j j > x :
Итак, x P j j > x 6 E j j, что и требовалось доказать.
= x P j j > x : (21)
Следующее неравенство мы будем называть «обобщенным неравенством Че- быш¸ва».
Следствие 15. Пусть функция g монотонно возрастает и неотрицательна на [0; 1).
Åñëè E g(j j) < 1, то для любого положительного x |
|
|
|
|||||
|
P j j > x |
|
E g( |
) |
|
|
||
|
6 |
|
j j |
|
: |
|
||
|
|
g(x) |
|
|||||
Доказательство. Заметим, что P j j > x |
|
= P g(j j) > g(x) , поскольку функция g мо- |
||||||
нотонно возрастает, и оценим |
последнюю вероятность согласно неравенству Маркова: |
|||||||
|
|
|
|
|
|
|
|
|
P g(j j) > g(x) 6 |
E g( |
) |
|
|||||
j j |
|
: |
||||||
g(x) |
|
|||||||
В 1853 г. И. Бьенеме (I. Bienayme)´ и в 1866 г., независимо от него, П. Л. Чебыш¸в прямыми методами доказали неравенство, которое нам будет удобно получить в качестве следствия из неравенства Маркова.
Следствие 16 (Неравенство Чебыш¸ва-Бьенеме). |
Åñëè E 2 < 1, òî |
||
P j E j > x |
D |
|
|
6 |
|
: |
|
x2 |
|||
Доказательство. Воспользуемся следствием 15 с функцией g(x) = x2.
P |
j |
E |
j > x 6 |
E E |
|
2 |
|
D |
: |
|
|
x2 |
|
= x2 |
|||||
|
|
|
|
|
|
|
|
|
|
В качестве следствия получим так называемое «правило трех сигм», которое формулируют, например, так: вероятность случайной величине отличаться от своего математического ожидания более, чем на три корня из дисперсии, ìàëà. Разумеется, для каждого распределения величина этой вероятности своя: для нормального распределения, например, эта вероятность равна 0,0027 — см. свойство 11. Мы получим верную для всех распределений с конечной дисперсией оценку сверху для «вероятности с. в. отличаться от своего математического ожидания более, чем на три корня из дисперсии».
Следствие 17. Åñëè E 2 < 1, òî P j E j > 3pD 6 19.
p
Доказательство. Согласно следствию 16, P j E j > 3 D
p
Упражнение 26. Найти P j E j > 3 D , если с. в. имеет а) равномерное распределение на каком-нибудь отрезке;
6 |
D |
= |
1 |
. |
||
3p |
|
2 |
9 |
|||
D |
||||||
73
б) показательное распределение с каким-нибудь параметром; в) распределение Бернулли с параметром 1/2.
13.3Законы больших чисел
Определение 51. Говорят, что последовательность с. в. f ig1i=1 с конечными пер-
выми моментами удовлетворяет закону больших чисел (ÇÁ×), åñëè |
|
|
||||||
|
1 + + n |
|
E 1 + + E n |
p |
0 ïðè n |
|
: |
(22) |
|
|
! |
! 1 |
|||||
|
n |
n |
||||||
|
|
|
|
|||||
Законами больших чисел принято называть утверждения об условиях, при которых последовательность с. в. «удовлетворяет закону больших чисел».
Выясним сначала, что означает и когда выполнен ЗБЧ для последовательности
независимых и одинаково распределенных с. в.
Заметим, что если с. в. одинаково распределены, то математические ожидания у них одинаковы (и равны, например, E 1), поэтому свойство (22) можно записать в виде
1 + + n |
p |
E |
. |
|
! |
||||
n |
1 |
|
Итак, законы больших чисел.
Теорема 29 (ЗБЧ в форме Чебыш¸ва).
Для любой последовательности независимых и одинаково распределенных слу- чайных величин с конечным вторым моментом E 12 < 1 имеет место сходимость:
1 + + n |
p |
E : |
|
! |
|||
n |
1 |
ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых «стабилизируется» с ростом этого числа. Как бы сильно каждая с. в. не отклонялась от своего среднего значения, при суммировании эти отклонения «взаимно гасятся», так что среднее арифметическое приближается к постоянной величине.
В дальнейшем мы увидим, что требование конечности второго момента (или дисперсии) связано исключительно со способом доказательства, и что утверждение остается верным если требовать существования только первого момента.
|
|
Доказательство. Обозначим через Sn = 1 + + n сумму первых n с. в., а через |
||||||||||||||||||||
|
Sn |
= |
1 + + n |
— их среднее арифметическое. Тогда |
|
|
|
|||||||||||||||
|
n |
|
|
|
|
|
||||||||||||||||
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
S |
|
|
E |
|
|
|
E |
|
|
|
E |
|
|
|
|
|
|
|
|
|
|
E |
n |
|
= |
|
1 + + |
|
n |
= |
n |
1 |
= |
E 1: |
|||
|
|
|
|
|
|
|
n |
|
n |
|
|
|
n |
|
||||||||
Пусть " > 0. Воспользуемся неравенством Чебыш¸ва (следствие 16): |
||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
S |
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
> " |
|
D |
n |
|
|
|
|
||||||
|
|
|
P |
|
Sn |
|
Sn |
6 |
n |
|
|
|
||||||||||
|
|
|
n |
E n |
"2 |
|
= |
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
D Sn |
независ. |
D 1 + + D n |
|
= |
= |
|||
n2"2 |
n2"2 |
|||
|
|
при n ! 1, поскольку D 1, по условию, конечна.
од.распред. |
n D 1 |
|
D 1 |
|
|
|||
= |
= |
! 0 |
(23) |
|||||
|
n2"2 |
|
n"2 |
|||||
74