16 |
ГЛ. I. ВВЕДЕНИЕ |
П ре д л о ж е н и е |
2.5. Слабая сходимость вероятностей являет |
ся метрическим понятием. Точнее, можно определить метрику d на
совокупности вероятностей 9*(S) на (S, &(,S)), для которой Pn~*~Р эквивалентно условию d(P„, Р)-*- 0 при п -*• <».
Д о к а з а т е л ь с т в о . Такой метрикой является хорошо извест ная метрика Прохорова, которая представляет собой обобщение метрики Леви в случае 5 = R (см. [145]). Здесь мы приводим экви валентную метрику следующим образом (см. [9]). Если S — сепа рабельное метрическое пространство, то можно выбрать эквива лентную метрику, при которой S станет вполне ограниченным*). Тогда множество всех равномерно непрерывных функций имеет счетное всюду плотное подмножество относительно равномерной нормы, и мы полагаем
d (р , (?) = Д |
2_j j 1 А ( ] U (*)Р № ) - 1 Ь (*) Q (dx) |
j j |
|||
Нетрудно проверить, привлекая предложение 2.4 |
(II), |
что d — |
|||
метрика, удовлетворяющая условиям теоремы. |
на (S, $l(S) ) |
||||
Таким |
образом, |
совокупность &(S) |
вероятностей |
||
является |
метрическим пространством |
относительно |
слабой сходи |
||
м о с т и . Теперь нам желательно охарактеризовать относительно ком
пактное**) |
множество в |
&(S). Введем |
для этого |
следующее оп |
|||
ределение. |
|
2.2. Семейство A <=H?(S) называется плотным, |
|||||
О п р е д е л е н и е |
|||||||
если |
для каждого |
е > 0 |
существует компактное |
подмножество |
|||
KczS |
такое, что |
Р(К)>\ — е для |
каждого |
Р ^ А , |
т. е. |
||
inf Р (К) ^ |
1 — е. |
|
|
|
|
|
|
Рел |
|
2.2. Если S полно относительно метрики р, то |
каж |
||||
П р и м е р |
|||||||
дое конечное множество Л плотносогласно предложению 2.3. Вооб ще, если At и Л2 — плотные семейства, то таково и Л( U Л*.
Те о р е м а 2.6. Пусть A
(1)Если А плотно, то А относительно компактно в !P(S).
(2)В случае, когда S полно относительно метрики р, справед
ливо обратное к (1) утверждение: если А относительно компакт но в ^(S), то А плотно.
Д о к а з а т е л ь с т в о . |
Для доказательства (1) заметим сперва, |
что если S — компактное |
метрическое пространство, то &(S) ком |
пактно и, следовательно, каждое Л с^ > (5 ) относительно компактно.
*) Действительно, как известно, сепарабельное метрическое пространствогомеоморфно подмножеству гильбертова куба [О, 1]N; см. [102).
**) То есть замыкание которого компактно; иначе говоря, из каждой бес конечной последовательности этого множества можно выбрать сходящуюся подпоследовательность.
§ 2. ВЕРОЯТНОСТНЫЕ МЕРЫ |
17 |
Действительно, по теореме Риоса*), ■!?(£) = |
{ р е £ * (£ ); р(/)3*О |
для /3*0 и р (1 )= 1 ), и так как C(S) = Cb(S), |
то слабая сходимость |
эквивалентна сходимости в слабой «-топологии на С*(£ ). Таким образом, &(S) компактно, так как оно есть слабо «-замкнутое под множество единичного шара в С* (5), и, как хорошо известно, еди ничный шар слабо «-компактен.
В общем случае заметим, что S гомеоморфно подмножеству компактного метрического пространства (фактически подмножеству куба (0 ,1]N), и поэтому можем предположить, что S является подмножеством компактного метрического пространства S. Мы хо тим показать, что для каждой последовательности {р„} из плотного семейства Л всегда можно выбрать сходящуюся подпоследователь
ность. Для |
вероятности |
р на (S, $ ( S ) ) определим вероятность на |
|
(S, &(§)) |
посредством |
р(4) = |
р(Я П5), A e ^ ( S ) , Заметим, что |
принадлежит &(S) тогда и только тогда, когда Я = Я П£ для |
|||
некоторого |
Я е ^ ? ( £ ) . |
Далее, |
{р„} — последовательность в 5я (£), |
и поэтому, согласно вышеприведенному замечанию, можем выбрать
слабо сходящуюся к вероятности v на (S, |
&(3)) подпоследователь |
||||||||||||||
ность, которую опять обозначим через {р„}. |
Покажем, |
что |
суще |
||||||||||||
ствует вероятность р |
на |
(S, |
&I(S)), для которой p = v |
и |
р„ |
слабо |
|||||||||
сходится |
к р. Действительно, |
для |
любого |
г = |
1, 2, ... найдется та |
||||||||||
кое компактное подмножество Кг из S (и, следовательно, компакт |
|||||||||||||||
ное |
подмножество в S), |
что |
рп (/£>■)> 1 — 1/г для всех п. Очевидно, |
||||||||||||
что |
Кгes <%(S)[\&(S) |
|
и |
р„(А!г) = р„(Я г). |
Так как |
p „ - « v |
(слабо), |
||||||||
то |
v (Кт^ lira р„ (Кг) ^ |
1 — 1/г. |
Поэтому |
ИKr= E<= S |
принадле- |
||||||||||
|
|
71—> OQ |
|
|
|
и &(S). |
Если |
A ^&(S), |
то |
|
|
||||
жит обоим о-полям и &{3)л |
|
Я е |
|||||||||||||
е &(S), |
так |
как 4 П £ = Л (1 5( 1 £ = Л П £ |
для некоторого |
||||||||||||
е J f(£ ). Мы |
полагаем |
р(Я) = у(Я (1Е) |
для каждого A^3$(S). Те |
||||||||||||
перь нетрудно видеть, |
что р — вероятность на (S, |
3S(S)) |
и |
p = v. |
|||||||||||
Наконец, |
мы |
покажем, |
что |
р„ |
р слабо |
в |
^ ( £ ) . Пусть А замк |
||||||||
нуто в^ £._ Тогда А —Я ПS для некоторого |
замкнутого |
множества |
|||||||||||||
в S и рп(Я) = |
р „(Я ). Следовательно, П т р„ (Л) = lim р„ (Я )^ р (Я)= |
||||||||||||||
•=р(Я) |
и |
утверждение следует |
П~*оо |
|
71—* 00 |
(III). Мы |
|||||||||
из |
предложения 2.4 |
||||||||||||||
опускаем доказательство |
(2) |
(см. [6], [141]). |
|
|
|
|
|
||||||||
|
Рассмотрим случайную величину X со значениями в S, т. е. |
||||||||||||||
&~l!%l(S)-измеримое |
отображение |
вероятностного |
пространства |
||||||||||||
(Я, |
Р) в 5. Вероятностный закон Рх величины X — это |
мера- |
|||||||||||||
образ отображения X: Я -*■ S. |
|
|
|
|
|
|
|
|
|||||||
*) С(S )— структура Банаха при естественном упорядочении всех дейст вительных функций на У и C*(S)— сопряженное пространство; 1 обозначает функцию }(х) гз 1.
Я С. Катанаев, Н. Икэда
18 |
ГЛ. I. ВВЕДЕНИЕ |
О п р е д е л е н и е 2.3. Пусть Х„, п = 1, 2, . . и X — случайные величины *) со значениями в S. Скажем, что X* сходится к X по
распределению, если Р |
X п |
Y |
слабо. |
|
|
|
|
п-*-Р |
и |
X определены |
на одном, |
||||
Предположим, что |
Xn, |
га = |
1, 2, ..., |
||||
и том же вероятностном пространстве (Q, |
Р). Будем |
говорить, |
|||||
что Х„ сходится к X почти всюду |
(или почти наверное), |
если |
|||||
Р{вк р(Х„(<й), Х(со)) |
0 |
при |
= |
|
|||
и что Х„ сходится к X по вероятности, если для любого е > О |
|||||||
Р{ак р(Х„(а), |
Х(со) )> е} |
0 |
при п-+°°. |
|
|||
Хорошо известно, что из сходимости почти наверное следует сходимость по вероятности и сходимость по вероятности влечет за собой сходимость по распределению. Следующая теорема Скорохода утверждает, что если S полно относительно метрики р, то справед
ливо в определенном смысле и обратное утверждение. |
|
метриче |
||||||
Т е о р е м а 2.7. Пусть |
(S, |
р ) — полное сепарабельное |
||||||
ское пространство, Р„, п — 1, 2, |
..., |
и Р — вероятности на (S, & (S))’ |
||||||
и^ Р п -^Р |
при га-»-оо. |
Тогда |
на |
вероятностном |
пространстве |
|||
(Й, $ , |
Р) |
можно построить случайные величины Х п, |
га = |
1, 2, ..., |
||||
и X со значениями в S такие, что |
|
|
|
|
||||
(I) |
Рп = РХп, га = 1, 2, |
. . . , u P |
= |
F ; |
|
|
||
(И) |
Хп сходится к X почти всюду. |
|
|
|||||
Поэтому, в частности, сходимость по распределению случайных величин Х„ может быть реализована сходимостью почти всюду без изменения законов Хп.
Д о к а з а т е л ь с т в о . |
Мы доказываем эту теорему для Q = |
[0 ,1)’, |
||||||
^ = SS([0, |
1)) |
и P(d(a) = da) (мера Лебега). Каждой |
конечной |
по |
||||
следовательности натуральных чисел (i,, it, |
ik), |
k=* 1, |
2, |
..., |
||||
ставим в соответствие множество |
s & ($) |
следующим |
||||||
образом: |
|
|
|
|
|
|
|
|
(1) |
если (ih U, ..., |
U, •••, /»)'. т0 |
|
|
|
|
||
(2) |
^ |
*5j |
*5 и |
.....ift.j) — S(lvi2.....jfe)? |
|
|
|
|
(3) |
diamS(ll<ii.... |
|
|
|
|
|
||
(4) |
Pn(dS{ivl2,...,ih)) = |
0, ra = 1, 2, ..., и |
P ( d S ^ .... ih)) = |
0. |
|
|||
*) Они могут быть определены на разных вероятностных пространствах.
**)(ИатЛ= sup р(«,у).
в,уел
§ 2. ВЕРОЯТНОСТНЫЕ МЕРЫ |
19 |
Поэтому, согласно (1) и (2), {^(ir ia.... i;i)l |
образует для каж |
дого фиксированного к непересекающееся покрытие S, являющееся подразбиением покрытия для к' < к. Такую систему подмножеств
можно построить следующим образом. Пусть для каждого к От\
т = 1, 2, |
...,— шары с радиусами < 2 -(к+1), покрывающие все про- |
||||||
странствоIC T B O |
S> и удовлетворяющие условиям Рп (дот) = О, Р ( дат )) = 9 |
||||||
для каждых п, к, т. Положим для каждого к |
D[k>=o[k\ D00. |
||||||
— n(h)\ nw |
J . . . 1JJn |
— nih)\ (nW и |
и nw \ |
и <7 . |
= ч— |
||
u2 |
|
■ |
\ V®1 U •' •U Gn—1/? ••* |
И |
|
||
= D(il n |
|
П•••П P'in • |
Легко |
проверяется, что |
система |
таким |
|
образом определенных множеств обладает требуемыми свойствами.
Для фиксированного к упорядочим все |
(U, |
к, |
..., |
к) |
лексикографи |
|||||||||||||
чески. Определим интервалы*) |
А^г г2,...,гй), |
|
|
|
|
в [0* |
1] сле~ |
|||||||||||
дующим образом: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
(I) |
| |
|
.... к) 1= |
Р (^(ЧЛ2.....*й))’ I |
|
|
|
I = |
( X l - V " 1’*))’ |
|||||||||
(II) |
если |
(U, к, ..., к )< (/i» h, •••, h)> то интервал |
|
|
||||||||||||||
(A g ,i2.... lfc)) расположен |
левее |
интервала &(jvi2,...,ih |
(соответствен |
|||||||||||||||
но интервала |
Д[”Х .... ,h)); |
|
|
|
|
|
|
|
|
|
|
|
||||||
(Ш) |
|
и |
|
д (.л .... . » ) - № , |
1), |
и |
|
с |
* ...... |
|
|
|||||||
|
({||{21">Да) |
|
|
|
|
|
(^1*г2’■■•’ |
|
|
|
|
|
|
|||||
Очевидно, что эти интервалы перечисленными свойствами оп |
||||||||||||||||||
ределяются |
однозначно. Для каждого |
(£4, |
к, |
..., |
к), если |
только |
||||||||||||
о |
|
Ф 0 , |
мы выбираем точку |
|
|
|
|
о |
|
Для |
||||||||
‘5(<1л2.... гк |
|
.... ih<= S(ivi2,-,ihy |
||||||||||||||||
й)^[0, 1) |
положим |
|
|
|
|
|
|
*<"> |
|
|
|
|
|
|||||
|
|
|
Хп((о) = |
xivh.... ik, |
если |
©| |
|
•ift)» |
|
|
||||||||
И |
|
|
A (ir i2, |
|
|
|||||||||||||
|
|
|
н |
|
|
|
|
|
если |
со < |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
A(«l>i2.... ife)> |
|
|
|||||||
для**) |
к = 1, |
2, ..., |
ra = |
l, |
2, ... |
Очевидно, |
|
|
|
|
|
|
|
|||||
|
p (X й (со), Х й+Р (со)) < |
1/2\ |
р (X й (со), Хй+Р (со)) < 1/2й, |
|
|
|||||||||||||
и поэтому |
существуют Х п(со) == Нш X й (со), X (и) = |
lim X й (а) |
из-за |
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
/i—» оо . |
|
|
|
ft-»oo |
|
|
||
полноты |
|
(5, |
р). |
Так |
как |
|
Pn(S(h’h.... к)) = |
I А & Х .....к)\~*~ |
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
о |
|
|
|
|
.... k)\ = P {S(h’h.....»*))• |
т0 |
для |
® е А |
(*г*......к) |
|
най" |
|||||||||||
дотся |
такое |
пк, |
что |
|
О . |
V |
ts....ih\ для |
всех |
п 5s nk. |
Тогда |
||||||||
в е Д ™ |
||||||||||||||||||
*) Здесь под интервалами в [О, 1) мы подразумеваем только интервалы |
||||||||||||||||||
вида [а, Ь) |
(где а ^ |
Ъ \ ]Д| обозначает длину интервала А. |
|
|
|
|||||||||||||
**) |
Если |
A(ii,,2..... ih) Ф |
0 |
или |
Ap>tli......ik)* 0 |
, |
то |
5 ^ , . . . , ^ |
Ф 0 |
|||||||||
*, следовательно, это опеределение корректно,
2*
2 0 |
ГЛ. I. ВВЕДЕНИЕ |
|
Хп (о>) = Хк(©) и, следовательпо, |
р (Хп(ш), X (ш))< р(Хп (и), Х£(ш)) + |
||||||||
+ Р № . (®)i -X* 0й)) + |
Р (Хк(to), X (to)) ^ 2/2й, если п 5* га*.Поэтому, |
||||||||
если |
положим П0 = |
^ |
U |
^Д(г,,»2,...,»к) |
то |
X n((o)-j- Х(а>) |
|||
для щ е й , при п->-“ |
и, очевидно, Р(£20) = 1. |
|
|
|
|||||
Покажем, |
наконец, |
что |
■5^ |
|
= Р. |
Так |
|||
1Jn — Рп и Р |
|||||||||
как |
Р {<о; Хй+Р (со) е |
5 (<lll |
lft)} = Р {со; Х й+Р (со) е |
5 (,l>t |
ift)) = |
||||
= Pn |
|
,ife)) и |
так как |
каждое открытое множество в 5 |
|||||
представимо |
в виде счетного |
объединения непересекающихся мно- |
|||||||
жеств |
5( i i |
,ifc), |
то по лемме Фату имеем |
|
«ч. |
|
|||
Ига Р п ( 0 ) ^ Рп(0) |
|||||||||
|
|
|
|
|
|
|
р -»о о |
|
|
для каждого открытого множества О в 5. Тогда, согласно предло-
жению |
2.4, Р " слабо сходится к Рп |
при р-*- <» и |
тем |
самым |
||
Р *п = |
Р ,1. Аналогично, Рх = Р. |
|
|
|
|
|
§ 3. Математические ожидания, условные математические |
|
|||||
ожидания и регулярные условные вероятности |
|
|
|
|||
Пусть X — действительная |
(или комплексная) |
случайная |
вели |
|||
чина, определенная на вероятностном пространстве |
(Q, |
Р). Две |
||||
случайные величины X и Y |
отождествляются, если Р[ю: Х(а)¥ * |
|||||
4t Y(«))] = 0. Случайная величина X |
называется |
интегрируемой, |
||||
если
[ [X (и) |Р (da) < оо.
я
Если
f| X (M)|pP (d to)< oo, р > 0 ,
Я
то X называется р-интегрируемой*). Пусть р$®1. Совокупность р-интегрируемых случайных величин, обозначаемая черев i?p(Q, 3~, Р), или 2р(Р), образует банахово пространство с нормой
||Х||р = Ц |Х((о)1РР ( ^ )
Через 3?^ (Q, |
Р) будем обозначать банахово |
пространство су |
|||
щественно ограниченных случайных величин |
с |
нормой |
II.X'IL=a* |
||
= |
ess sup |Z(©) 1. |
|
X |
число |
Е (X) = |
|
Для интегрируемой случайной величины |
||||
= |
|X (м) Р (<&о) |
называется математическим ожиданием |
X. Если |
||
|
я |
|
|
|
|
*) Если р = 2, то X называется квадратично интегрируемой.