W1_MPiS

Metody probabilistyczne i statystyka
Wykład
Zdarzenia losowe, definicja
prawdopodobieństwa,
zmienne losowe
Dr Joanna Banaś
Zakład Badań Systemowych
Instytut Sztucznej Inteligencji i Metod Matematycznych
Wydział Informatyki Politechniki Szczecińskiej
1
Metody probabilistyczne i statystyka
Wykład 1
Literatura i warunki zaliczenia
Literatura
Rachunek prawdopodobieństwa i statystyka matematyczna
w zadaniach, W. Krysicki, J. Bartos, W. Dyczka, K. Królikowska, M.
Wasilewski
Warunki zaliczenia wykładu
Zaliczone ćwiczenia (niekoniecznie laboratoria)
Egzamin testowy (powyżej 25 osób)
Pytania otwarte (co najwyżej 25 osób)
Terminy podstawowe (do wyboru)
23 czerwca 2008r., godzina 10.00
25 czerwca 2008r., godzina 10.00
Termin poprawkowy
27 czerwca 2008r., godzina 10.00 lub wrzesień
Opracowała Joanna Banaś
Metody probabilistyczne i statystyka
Wykład 1
Rachunek prawdopodobieństwa
Rachunek prawdopodobieństwa bada prawa
dotyczące zdarzeń losowych
Pojęcia pierwotne aksjomatyki
zdarzenie elementarne
(każdy możliwy wynik doświadczenia losowego)
przestrzeń zdarzeń elementarnych Ω
Opracowała Joanna Banaś
Metody probabilistyczne i statystyka
Wykład 1
σ-ciało zdarzeń
Ω
2 − zbiór wszystkich podzbiorów zbioru Ω
Niepustą klasę Z ⊂ 2 Ω nazywamy σ-ciałem
(σ-algebrą) zdarzeń, jeśli:
(1.1)
(1.2)
A ∈ Z ⇒ A′ = Ω \ A ∈ Z
A1 , A2 ,..., An ,... ∈ Z
∞
⇒ ∪ n=1 An = A1 ∪ A2 ∪ ... ∪ An ∪ ... ∈ Z
W szczególności A, B ∈ Z ⇒ A ∪ B ∈ Z
Opracowała Joanna Banaś
Metody probabilistyczne i statystyka
Wykład 1
Własności σ-ciała zdarzeń
(1.3) Własności
a)
b)
∅∈Z , Ω∈Z
A1 , A2 ,..., An ,... ∈ Z
∞
⇒ ∩ n=1 An = A1 ∩ A2 ∩ ... ∩ An ∩ ... ∈ Z
W szczególności
A, B ∈ Z ⇒ A ∩ B ∈ Z
A, B ∈ Z ⇒ A \ B ∈ Z
c)
Opracowała Joanna Banaś
Metody probabilistyczne i statystyka
Wykład 1
Zdarzenia losowe
Zdarzenie losowe – każdy element σ-ciała
Określenia
Ω – zdarzenie pewne
∅ – zdarzenie niemożliwe
A ⊂ B – zdarzenie A pociąga zdarzenie B
A, B ∈ Z ∧ A ∩ B = ∅ – zdarzenia A i B wykluczają się
A1 , A2 ,..., An ,... ∈ Z ∧ ∀ i ≠ j Ai ∩ A j = ∅ – zdarzenia
wykluczają się parami
ω∈ A – ω jest zdarzeniem sprzyjającym zdarzeniu A
Opracowała Joanna Banaś
Metody probabilistyczne i statystyka
Wykład 1
Przestrzeń mierzalna
(1.4) Uwaga
Ω – zbiór przeliczalny (skończony lub
równoliczny ze zbiorem liczb naturalnych)
Ω
Z =2
(każdy podzbiór przestrzeni Ω jest zdarzeniem
losowym)
Para (Ω, Z ) – przestrzeń mierzalna
Opracowała Joanna Banaś
Metody probabilistyczne i statystyka
Wykład 1
Przykłady
(1.5) Przykłady
a)
b)
c)
d)
Rzut monetą Ω ={ωO , ωR }
Z = {∅, ωO , ωR , Ω}
Rzut sześcienną kostką Ω ={ω1 , ω2 ,..., ω6 }
card Z = 2 6 = 64
4
Dwukrotny rzut monetą Ω = {ωOO , ωOR , ωRO , ωRR } card Z = 2 = 16
Rzuty monetą do momentu wyrzucenia reszki
Ω = {ω∞ , ω1 , ω2 ,..., ωn ,...}
gdzie
e)
ω1 − wyrzucenie R
ω2 − wyrzucenie OR
ω3 − wyrzucenie OOR
…
ω∞ − wyrzucenie OO…
Losowy wybór punktu z odcinka 〈0,1〉
Ω − nieprzeliczalny
Ω − przeliczalny
Z = 2Ω
Z ≠ 2Ω
Opracowała Joanna Banaś
Metody probabilistyczne i statystyka
Wykład 1
Przykłady
(1.5) Przykłady cd.
f)
g)
h)
Ω = R, ε – rodzina wszystkich ograniczonych przedziałów otwartych
B (R) – σ-ciało zbiorów borelowskich na R (najmniejsze σ-ciało zdarzeń zawierające
klasę ε)
B ( 2 ) – σ-ciało zdarzeń generowane przez ograniczone i otwarte koła
B ( 3 ) – σ-ciało zdarzeń generowane przez ograniczone i otwarte kule
(1.6) Uwaga
Zbiory borelowskie na prostej
( a, ∞ )
(−∞, a )
(−∞, a〉
{a}
〈 a, b〉
〈 a, b )
(można je wyznaczyć z klasy ε przez warunki (1.1)–(1.3))
Opracowała Joanna Banaś
2. Aksjomatyczna definicja
prawdopodobieństwa (Kołmogorow, 1931)
(Ω, Z ) – przestrzeń mierzalna
Prawdopodobieństwo – dowolna miara
probabilistyczna P określona na przestrzeni
mierzalnej, tj. funkcja P : Z → taka, że:
(2.1) P ( A) ≥ 0 dla każdego A∈ Z
(2.2) P (Ω) = 1
∞
∞
(2.3) P
∪ n=1 An = ∑ n=1 P( An )
(
)
dla każdego ciągu zdarzeń A1 , A2 ,..., An ,...
parami wykluczających się
(Ω, Z , P) – przestrzeń probabilistyczna
Opracowała Joanna Banaś
Uwagi do aksjomatów
(2.4) Uwagi
a) Warunki (2.1) i (2.3) definiują dowolną miarę
b) Ω - skończony, to warunek (2.3) można zastąpić
przez
P ( A1 ∪ A2 ∪ ... ∪ An ) = P( A1 ) + P( A2 ) + ... + P ( An )
dla każdego ciągu zdarzeń A1 , A2 ,..., An
parami wykluczających się
W szczególności
A ∩ B = ∅ ⇒ P ( A ∪ B ) = P( A) + P ( B )
Opracowała Joanna Banaś
Własności prawdopodobieństwa
(2.5) Własności
(Ω, Z , P) – przestrzeń probabilistyczna
a) P ( A) = 1 − P ( A′) dla każdego A∈ Z
b) dla dowolnych A, B ∈ Z
P ( A ∪ B) = P( A) + P ( B ) − P ( A ∩ B )
c) dla dowolnych A1 , A2 ,..., An ∈ Z
P( A1 ∪ ... ∪ An ) = ∑ i =1 P( Ai ) − ∑1≤i <i ≤n P( Ai1 ∩ Ai2 )
n
1
2
+ ∑1≤i <i <i ≤n P( Ai1 ∩ Ai2 ∩ Ai3 ) + ... + (−1) n+1 P( A1 ∩ ... ∩ An )
1
2
3
Opracowała Joanna Banaś
Obliczanie prawdopodobieństwa
Ω – skończony
Obliczanie prawdopodobieństwa dowolnego
zdarzenia losowego zależy od mocy zbioru Ω
Przypadek (A):
Ω – skończony
(2.6) Twierdzenie
Jeżeli w przestrzeni Ω = {ω1 ,..., ωn } zostały określone
prawdopodobieństwa zdarzeń elementarnych
P({ω1}) = p1 ,..., P({ωn }) = pn w taki sposób, że
pi ≥ 0 dla i = 1,..., n i p1 + ... + pn = 1 , to prawdopodobieństwo
dowolnego zdarzenia A = {ωi1 , ωi2 ,..., ωik } jest równe
P ( A) = pi1 + pi2 + ... + pik
Opracowała Joanna Banaś
Obliczanie prawdopodobieństwa
definicja Laplace’a
(2.7) Wniosek (klasyczna definicja prawdopodobieństwa
Laplace’a, 1812)
Jeżeli Ω = {ω1 ,..., ωn } oraz prawdopodobieństwa wszystkich
zdarzeń elementarnych są jednakowe, tzn.
P({ω1}) = ... = P({ωn }) =
1
n
,
to prawdopodobieństwo dowolnego zdarzenia A złożonego z k
zdarzeń elementarnych jest równe
P ( A) =
k
n
Opracowała Joanna Banaś
Obliczanie prawdopodobieństwa
Ω – nieskończony, przeliczalny
Przypadek (B):
Ω – nieskończony, ale przeliczalny
(2.8) Twierdzenie
Jeżeli w przestrzeni Ω = {ω1 , ω2 ,...} zostały określone prawdopodobieństwa
zdarzeń elementarnych P({ω1}) = p1 , P({ω2 }) = p 2 ,... w taki sposób, że
pi ≥ 0 dla i = 1,2,... i p1 + p 2 + ... = 1 , to prawdopodobieństwo dowolnego
zdarzenia A = {ωi1 , ωi2 ,...} jest równe
P( A) = pi1 + pi2 + ...
(2.9) Przykład
Rozważmy doświadczenie polegające na rzucaniu monetą do momentu
wypadnięcia reszki. Wiadomo, że Ω = {ω∞ , ω1 , ω2 ,...} , gdzie: ω1 − wyrzucenie R,
ω2 − wyrzucenie OR, ω3 − wyrzucenie OOR,…, ω∞ − wyrzucenie OO….
a)
b)
Ile wynosi P({ω∞ }) = ?
Czy zdarzenia: „rzucamy nieparzystą liczbę razy” i „rzucamy parzystą liczbę razy” są
jednakowo prawdopodobne?
Opracowała Joanna Banaś
Obliczanie prawdopodobieństwa
Ω – nieprzeliczalny
Przypadek (C):
Ω –nieprzeliczalny
(2.10) Uwagi
Ω ⊂ n − niepusty i ograniczony zbiór borelowski
a)
σ-ciało zdarzeń:
Z = B (Ω) = { A ∈ B ( n ) : A ⊂ Ω}
b)
Przykład miary borelowskiej − miara Lebesgue’a m
na prostej − długość przedziału
na płaszczyźnie − pole obszaru
w przestrzeni − objętość
Opracowała Joanna Banaś
Prawdopodobieństwo geometryczne
Przypadek (C):
Ω –nieprzeliczalny cd.
(2.11) Twierdzenie (prawdopodobieństwo geometryczne)
Jeśli m jest miarą Lebesgue’a w n , to wzór
m( A)
P( A) =
dla A ∈ Z = B (Ω)
m(Ω )
definiuje prawdopodobieństwo (geometryczne) w przestrzeni mierzalnej
(Ω, Z )
(2.12) Uwaga
Dla każdego ω∈ n zachodzi P ({ω}) = 0, gdyż m({ω}) = 0
(prawdopodobieństwo geometryczne jest miarą bezatomową)
(2.13) Przykład
Odcinek o długości a dzielimy losowo na 3 części. Obliczyć
prawdopodobieństwo, że z tych części można zbudować trójkąt.
Opracowała Joanna Banaś
3. Zmienne losowe
(Ω, Z , P) – przestrzeń probabilistyczna
Zmienna losowa – dowolna funkcja mierzalna na przestrzeni
(Ω, Z ), tj. funkcja X : Ω → taka, że:
(3.1) {ω∈ Ω : X (ω) ∈ B} ∈ Z dla każdego B ∈ B ( )
(3.2) Własność
Warunek (3.1) równoważny jest warunkowi
{ω∈ Ω : X (ω) < x} ∈ Z dla każdego x ∈ (3.3) Uwaga
Ω – zbiór przeliczalny ⇒ każda funkcja X jest zmienną
losową
(warunek (3.1) jest zawsze spełniony)
Opracowała Joanna Banaś
Oznaczenia
P ({ω∈ Ω : X (ω) ∈ B}) ≡ P ( X ∈ B ) dla B ∈ B ( )
P ({ω∈ Ω : X (ω) < x}) ≡ P ( X < x ) dla x ∈ P ({ω∈ Ω : X (ω) = x}) ≡ P ( X = x) dla x ∈ P ({ω∈ Ω : a ≤ X (ω) < b}) ≡ P (a ≤ X < b)
dla a, b ∈ , a < b
Opracowała Joanna Banaś
Dystrybuanta i jej własności
(Ω, Z , P) – przestrzeń probabilistyczna
Dystrybuanta zmiennej losowej X – funkcja FX : → określona wzorem:
FX ( x) = P( X < x) dla każdego x ∈ (3.4)
(3.5) Własności
F – dystrybuanta zmiennej losowej X
a)
monotoniczność
F – funkcja niemalejąca, tzn. ∀ x , y∈ x < y ⇒ F ( x) ≤ F ( y )
b) ciągłość
F – funkcja lewostronnie ciągła, tzn. ∀ x0 ∈ lim− F ( x) = F ( x0 )
x → x0
c) lim F ( x ) = 0, lim F ( x) = 1
x →−∞
x →∞
d) P ( a ≤ X < b) = F (b) − F ( a ) dla a, b ∈ , a < b
Opracowała Joanna Banaś
Dystrybuanta i jej własności
(3.5) Własności cd.
e)
P( X = x0 ) = lim+ F ( x) − F ( x0 )
x → x0
(3.6) Wnioski
Dystrybuanta F zmiennej losowej X jest ciągła
w punkcie x0 ∈ ⇔ P( X = x0 ) = 0
F ma skok w punkcie x0 ⇔ P( X = x0 ) > 0
Opracowała Joanna Banaś
4. Typy zmiennych losowych
X – zmienna losowa określona na przestrzeni
probabilistycznej (Ω, Z , P)
Zmienna losowa X jest typu skokowego
(dyskretnego), jeśli rozkład tej zmiennej jest
miarą atomową, tzn. istnieje przeliczalny
zbiór S = {x1 , x2 ,...} ⊂ taki, że
(4.1) P ( X = xi ) = pi > 0 dla i = 1, 2,...
i
∑
i
pi = 1
Opracowała Joanna Banaś
Zmienna typu skokowego
(4.2) Własność
P ( X ∈ B ) = ∑ {i:x ∈B} pi dla dowolnego B ∈ B ( )
i
W szczególności
F ( x) = P ( X < x ) = ∑ {i:x < x} p i dla x ∈ I
(4.3) Przykład
W przestrzeni zdarzeń elementarnych Ω = {ω1 , ω2 } określone jest
prawdopodobieństwo
P ({ω1}) = 14 i P ({ω 2 }) = 43
oraz zmienna losowa X:
X (ω1 ) = 0 i X (ω2 ) = 1
Wyznaczyć:
rozkład zmiennej losowej X i jego wykres
wykres histogramu
dystrybuantę zmiennej losowej X i jej wykres
Opracowała Joanna Banaś
Zmienna typu ciągłego
X – zmienna losowa określona na przestrzeni
probabilistycznej (Ω, Z , P)
Zmienna losowa X jest typu ciągłego jeśli
dystrybuanta F tej zmiennej losowej jest postaci
(4.4)
x
F ( x) = ∫ f (u )du
−∞
gdzie f jest nieujemną funkcją całkowalną taką, że
(4.5)
∫
∞
−∞
f ( x)dx = 1
f – gęstość rozkładu zmiennej losowej X
Opracowała Joanna Banaś
Własności zmiennej typu ciągłego
(4.6) Własności
f – gęstość rozkładu zmiennej losowej X, F – jej dystrybuanta
a)
b)
F – (absolutnie) ciągła w R
f jest ciągła w punkcie x∈R ⇒ F jest różniczkowalna w punkcie x
i F ′( x ) = f ( x )
c)
d)
x0 ∈ ⇒ P( X = x 0 ) = 0
P( X ∈ B) = ∫ f ( x)dx dla dowolnego B ∈ B ()
B
W szczególności
b
P(a ≤ X < b) = P(a < X ≤ b) = P( a ≤ X ≤ b) = P(a < X < b) = ∫ f ( x)dx
a
dla a, b ∈ , a < b (por. rys.4.1)
Opracowała Joanna Banaś
Własności zmiennej typu ciągłego
f ( x)
P ( a ≤ X < b)
F ( x)
0
x
a
b
Rys.4.1. Pewne własności gęstości zmiennej losowej X
(4.7) Uwaga
Nie każdą funkcję ciągłą F można przedstawić w postaci (4.4)
(4.8) Przykład
Funkcja gęstości zmiennej losowej X określona jest wzorem
 x − 1 dla x ∈ 〈1, 2)

f ( x ) = 3 − x dla x ∈ (2,3〉
 0
dla x ∉ 〈1,3〉

Wyznaczyć dystrybuantę zmiennej losowej X i jej wykres
Opracowała Joanna Banaś
Metody probabilistyczne i statystyka
Wykład
1
Dziękuję za uwagę
Opracowała Joanna Banaś