Prawdopodobienstwo i statystyka

Prawdopodobieństwo i statystyka
Wykład IX:
Niezależność zmiennych losowych
1 grudnia 2015
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Współczynnik korelacji r (X , Y ) = −0, 013
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Współczynnik korelacji r (X 2, Y 2) = 0, 035
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Współczynnik korelacji r (U, V ) = 0, 127
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Współczynnik korelacji r (U 2, V 2) = −1
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Niezależność stochastyczna
Definicja
Zmienne losowe X1 , X2 , . . . , Xd są niezależne, jeżeli
Ef1 (X1 )f2 (X2 ) · . . . · fd (Xd ) = Ef1 (X1 ) · Ef2 (X2 ) · . . . · Efd (Xd ),
dla dowolnych funkcji fi ograniczonych i borelowskich.
Definicja
Dowolna rodzina zmiennych losowych {Xi }i∈II , określonych na tej
samej przestrzeni probabilistycznej, jest niezależna, jeśli dla
każdego skończonego podzbioru I 0 ⊂ I zmienne losowe Xi , i ∈ I 0
są niezależne.
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Więcej o niezależności stochastycznej
Jeśli {Xi }i∈II jest rodziną niezależnych zmiennych
losowych, to dla dowolnej rodziny funkcji borelowskich
{gi }i∈II , rodzina {gi (Xi )}i∈II jest również niezależna.
Jeśli zmienne losowe X i Y są całkowalne i niezależne, to
ich iloczyn XY też jest całkowalny i mamy
EXY = EX · EY .
W szczególności, niezależne i całkowalne zmienne losowe
są nieskorelowane.
Bez niezależności X i Y całkowalność iloczynu XY
wymaga mocniejszych założeń, niż tylko całkowalność
czynników.
Można np. skorzystać z nierówności Höldera:
1 1
E |XY | ¬ (E |X |p )1/p (E |Y |q )1/q ,
+ = 1.
p q
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Mnożenie wartości oczekiwanych
Twierdzenie
Niech X1 , X2 , . . . , Xd będą niezależne. Jeżeli funkcje
borelowskie fi sa takie, że f1 (X1 ), f2 (X2 ), . . . , fd (Xd ) są
całkowalne , tj. E |fi (Xi )| < +∞, i = 1, 2, . . . , d, to
Ef1 (X1 )f2 (X2 ) · · · fd (Xd ) = Ef1 (X1 ) · Ef2 (X2 ) · · · · Efd (Xd ).
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Produkt rozkładów
Twierdzenie
Zmienne losowe X1 , X2 , . . . , Xd są niezależne wtedy, i tylko
wtedy, gdy dla dowolnych liczb a1 , a2 , . . . , ad mamy
P(X1 ¬ a1 , X2 ¬ a2 , . . . , Xd ¬ ad )
= P(X1 ¬ a1 )P(X2 ¬ a2 ) · . . . · P(Xd ¬ ad ).
W terminach dystrybuant:
F(X1 ,X2 ,...,Xd ) (a1 , a2 , . . . , ad ) = FX1 (a1 )·FX2 (a2 )·. . .·FXd (ad ).
Słowami wyrażamy ten fakt stwierdzając, że dystrybuanta
rozkładu łącznego jest produktem dystrybuant rozkładów
brzegowych.
Dlatego łączny rozkład niezależnych zmiennych losowych
nazywamy produktem ich rozkładów brzegowych.
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Klasyczne prawdopodobieństwo na produkcie
Niech wyniki i-tego eksperymentu będą elementami
skończonej przestrzeni Ωi .
Połóżmy
Ω = Ω1 × Ω2 × . . . × Ωd .
Niech P będzie klasycznym prawdopodobieństwem na Ω.
Wtedy dla dowolnych funkcji fi : Ωi → IR 1 , zmienne
losowe
Xi (ω1 , ω2 , . . . , ωd ) = fi (ωi )
są stochastycznie niezależne.
W tym szczególnym przypadku niezależność
stochastyczna pokrywa się z niezależnością funkcyjną
(zmienne Xi w istocie są funkcjami różnych argumentów).
Przewaga niezależności stochastycznej polega na
uwolnieniu tej własności od konkretnej przestrzeni
funkcyjnej.
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Kryteria niezależności
Twierdzenie (Niezależność dyskretnych zmiennych losowych)
Niech rozkłady zmiennych X1 , X2 , . . . , Xd będą dyskretne.
Zmienne losowe X1 , X2 , . . . , Xd są niezależne dokładnie wtedy,
gdy dla dowolnych x1 , x2 , . . . , xd ∈ IR 1 ma miejsce związek
P(X1 = x1 , X2 = x2 , . . . , Xd = xd )
= P(X1 = x1 )P(X2 = x2 ) · · · P(Xd = xd ).
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Kryteria niezależności
Twierdzenie (Niezależność absolutnie ciągłych zmiennych
losowych)
Niech rozkłady zmiennych X1 , X2 , . . . , Xd będą absolutnie
ciągłe z gęstościami p1 (x), p2 (x), . . . , pd (x).
Zmienne losowe X1 , X2 , . . . , Xd są niezależne dokładnie wtedy,
gdy rozkład łączny tych zmiennych jest absolutnie ciągły (tzn.
posiada gęstość względem miary Lebesgue’a na IR d ) i jego
gęstość ma postać
pX~ (x1 , x2 , . . . , xd ) = p1 (x1 )p2 (x2 ) · · · pd (xd ).
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Niezależność zdarzeń
Twierdzenie
Rodzina zdarzeń {Ai }i∈II ⊂ F jest niezależna, dokładnie wtedy,
gdy rodzina {IAi }i∈II indykatorow tych zdarzeń jest niezależna.
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych
Obiecany wcześniej dowód
Na zakończenie wykładu podajemy wcześniej obiecany
dowód faktu, że dla każdej symetrycznej i nieujemnie
~ taki,
określonej macierzy We Σ istnieje wektor losowy X
że
~ ) = Σ.
Cov (X
Prawdopodobieństwo i statystyka
Wykład IX: Niezależność zmiennych losowych