Wykład 14: Rozkłady warunkowe. Warunkowa war

Rachunek prawdopodobieństwa MAEW104
Wydział Elektroniki, rok akad. 2007/08, sem. letni
Wykładowca: dr hab. A. Jurlewicz
Wykład 14: Rozkłady warunkowe. Warunkowa wartość oczekiwana.
Definicja.
Warunkowa wartość oczekiwana E(Y |X) zmiennej losowej Y pod
warunkiem zmiennej losowej X to nowa zmienna losowa, która jest postaci
E(Y |X) = m(X) z prawdop. 1 dla borelowskiej funkcji m(x) spełniającej warunek
Z
ZZ
m(x)dFX (x) =
ydFX,Y (x, y)
B×R
B
dla każdego borelowskiego zbioru B.
Twierdzenie:
Jeżeli E|Y | < ∞, to taka funkcja m(x) istnieje, tzn. warunkowa wartość oczekiwana
E(Y |X) jest dobrze określona.
Uwaga:
Często podajemy warunkową wartość oczekiwana tylko poprzez wzór na funkcję m(x),
przy czym zapis ma postać:
E(Y |X = x) = m(x)
z prawd. 1
Funkcja m(x) zwana jest funkcją regresji I rodzaju.
Fakt:
Jeżeli D2 X < ∞, D2 Y < ∞, to min E(Y − f (X))2 = E(Y − m(X))2
f
( dla f - funkcji borelowskich).
1
Własności warunkowej wartości oczekiwanej:
Przy założeniu, że E|Y | < ∞
(a) dla Y = aY1 + bY2 , gdzie a, b ∈ R, Y1 , Y2 to zmienne losowe,
E(Y |X) = E(aY1 + bY2 |X) = aE(Y1 |X) + bE(Y2 |X) z prawd. 1;
(b) Jeżeli Y = h(X, Y0 ) dla pewnej borelowskiej funkcji h,
to E(Y |X) = E(h(x, Y0 )|X)|x=X z prawd. 1;
(c) Jeżeli zmienne losowe X i Y są niezależne,
to E(Y |X) = EY z prawd. 1, tzn. m(x) ≡ const = EY ;
(d) E(E(Y |X)) = EY
(własność ta daje użyteczną technikę obliczania wartości oczekiwanej
skomplikowanych zmiennych losowych).
Przykłady:
Niech X i Y będą niezależnymi zmiennymi losowymi, przy czym E|Y | < ∞. Wtedy
(b)
(c)
(a)
1. E(X + Y |X) = E(x + Y |X)|x=X = E(x + Y )|x=X = (x + EY )|x=X = X + EY
(m(x) = x + EY )
(b)
(a)
(c)
2. E(XY |X) = E(xY |X)|x=X = xE(Y |X)|x=X = xE(Y )|x=X = XEY
(m(x) = EY · x).
2
Rozkłady warunkowe.
Definicja: Niech B będzie zbiorem borelowskim, a Y pewną zmienną losową.
Definiujemy nową zmienną losową
(
1, gdy Y ∈ B,
0, gdy Y ∈
/ B.
Z = 1I{Y ∈B} =
Rozkładem warunkowym zmiennej losowej Y pod warunkiem zmiennej losowej X nazywamy P (Y ∈ B|X) := E(Z|X) = E(1I{Y ∈B} |X), jako funkcję
borelowskiego zbioru B.
• Zauważmy, że E|Z| = EZ = P (Y ∈ B) < ∞ dla dowolnego B, zatem dla dowolnej zmiennej losowej X warunkowa wartość oczekiwana E(Z|X) (czyli rozkład
warunkowy Y pod warunkiem X) jest dobrze zdefiniowana.
• Przy ustalonym x (takim, który jest wartością istotnie przyjmowaną przez X) rozkład warunkowy P (Y ∈ B|X = x) jako funkcja zbioru borelowskiego B jest pewnym
rozkładem prawdopodobieństwa. Rozkład ten ma dystrybuantę
F (y|x) = P (Y < y|X = x)
(zwaną dystrybuantą warunkową).
Rozkład warunkowy Y pod warunkiem X możemy zatem opisać podając
rodzinę dystrybuant warunkowych F (y|x)
po wszystkich wartościach x istotnie przyjmowanych przez X.
• Warunkowa wartość oczekiwana E(Y |X = x) przy ustalonym x to zwykła wartość
oczekiwana rozkładu warunkowego P (Y ∈ B|X = x).
• Jeżeli wektor losowy (X, Y ) ma rozkład dyskretny zadany ciągiem
{(xn , yk , pnk ), n ∈ T1 , k ∈ T2 },
to rozkład warunkowy Y pod warunkiem X = xn też jest dyskretny i opisać możemy
go także podając rodzinę ciągów
(
!
!
)
pnk yk ,
xn , k ∈ T2
pn·
po wszystkich tych wartościach xn , dla których pn· = P (X = xn ) > 0 , czyli po
wartościach istotnie przyjmowanych przez X.
pnk
= P (Y = yk |X = xn ) to zwykłe prawdopodobieństwo
(Zauważmy, że
pn·
warunkowe.)
Ponadto wówczas dla tych xn , dla których pn· > 0, mamy
E(Y |X = xn ) =
X
yk P (Y = yk |X = xn ) =
k∈T2
3
1 X
yk pnk
pn· k∈T2
• Jeżeli wektor losowy (X, Y ) ma rozkład ciągły o gęstości fX,Y (x, y),
to rozkład warunkowy Y pod warunkiem X = x też jest ciągły o gęstości
f (y|x) =
fX,Y (x, y)
fX (x)
dla wszystkich takich x, dla których fX (x) =
R∞
−∞
fX,Y (x, y)dy > 0, czyli po warto-
ściach istotnie przyjmowanych przez X.
Rozkład warunkowy opisujemy zatem wtedy także podając rodzinę gęstości warunkowych f (y|x) po wszystkich wartościach x, dla których fX (x) > 0.
Ponadto, dla takich x mamy
E(Y |X = x) =
Z∞
−∞
∞
1 Z
yf (y|x)dy =
yfX,Y (x, y)dy.
fX (x)
−∞
• Wzór na prawdopodobieństwo całkowite:
P (Y ∈ B) =
Z∞
P (Y ∈ B|X = x)dFX (x).
−∞
gdzie FX to dystrybuanta rozkładu zmiennej losowej X.
• Jeśli znamy rozkład zmiennej losowej X i rozkład warunkowy Y pod warunkiem X,
to znamy też rozkład łączny wektora losowego (X, Y ):
FX,Y (x, y) =
Zx
F (y|x0 )dFX (x0 ).
(1)
−∞
Dla rozkładu dyskretnego pnk = P (Y = yk |X = xn )pn· ;
dla rozkładu ciągłego fX,Y (x, y) = f (y|x)fX (x).
• Jeżeli X i Y są niezależnymi zmiennymi losowymi, to P (Y ∈ B|X) = P (Y ∈ B)
z prawd. 1, tzn. wtedy rozkład warunkowy jest taki sam jak rozkład zmiennej losowej Y . Wtedy wzór (1) sprowadza się do znanego wzoru FX,Y (x, y) = FX (x)FY (y).
Przykłady do zad. 10.4 i 10.5
4