Warto±¢ oczekiwana, wariancja, odchylenie standardowe, mediana

Warto±¢ oczekiwana, wariancja, odchylenie standardowe,
mediana, funkcja kwantylowa
Krótkie praktyczne przypomnienie poj¦¢ z rachunku prawdopodobie«stwa
Zastanówmy si¦, nad tym, ile mo»na
±rednio wyrzuci¢ oczek na sze±ciennej kostce do
gry, przy czym chwilowo nie b¦dziemy jeszcze precyzowa¢, co znaczy ±rednio. By¢ mo»e
1
(1 + 2 + 3 + 4 + 5 + 6) = 3, 5.
kto± na tak postawione pytanie udzieli odpowiedzi:
6
Przyjrzyjmy si¦ uwa»niej tej odpowiedzi. Zwró¢my uwag¦, »e powy»szy rachunek mo»na
zapisa¢ inaczej:
1
1
1
1
1
1
+ 2 · + 3 · + 4 · + 5 · + 6 · = 3, 5
6
6
6
6
6
6
1·
oraz »e prawdopodobie«stwo wylosowania ka»dej liczby oczek spo±ród 1, 2, 3, 4, 5 i 6
1
wynosi wªa±nie . A jak wygl¡daªaby owa ±rednia, gdyby prawdopodobie«stwa uzyskania
6
poszczególnych mo»liwych wyników nie byªy równe?
Na potrzeby dalszych rozwa»a« w±ród zmiennych losowych wyszczególnimy zmienne
losowe dyskretne i ci¡gªe.
Denicja 1
B¦dziemy mówili, »e zmienna losowa
najwy»ej przeliczalny zbiór
ˆ ∀x ∈ SX
(tzn. SX
ˆ ∀x ∈ SX
∃ε > 0
SX
X
jest
taki »e
dyskretna,
je±li istnieje co
(x − ε, x + ε) ∩ SX = {x}
jest zbiorem punktów izolowanych),
P (X = x) > 0,
ˆ P (X ∈ SX ) = 1.
Dystrybuanta dyskretnej zmiennej losowej jest schodkowa. Dyskretna zmienna losowa
przyjmuje warto±ci tylko w miejscach wyst¡pienia skoków swej dystrybuanty.
Rozkªad dyskretnej zmiennej losowej mo»na w sposób kompletny opisa¢ przez tzw.
cj¦ prawdopodobie«stwa: pX (x) : SX → (0, 1], pX (x) = P (X = x).
funk-
Fakt 1 (Wªasno±ci funkcji prawdopodobie«stwa)
ˆ
P
x∈SX
pX (x) = 1,
ˆ ∀x ∈ SX
pX (x) = FX (x) − limu→x− FX (u).
Bardzo cz¦sto zbiór
Denicja 2
SX
jest postaci
{0, 1, 2, . . . , n}
B¦dziemy mówili, »e zmienna losowa
Warto±¢ oczekiwan¡ zmiennej losowej
X
dla pewnego
X
jest
n∈N
lub te»
SX = N.
ci¡gªa, je±li ma g¦sto±¢.
oznaczamy jako
EX
lub
E(X)
lub te»
E[X],
przy czym je±li nie prowadzi to do niejednoznaczono±ci, zwykle opuszcza si¦ nawias.
Denicja 3 (Warto±¢ oczekiwana zmiennej losowej)
Je±li zmienna losowa
dyskretna, to
EX =
X
x∈SX
x · pX (x) =
X
x∈SX
x · P (X = x),
X
jest
o ile ta suma jest zbie»na. W przeciwnym razie zmienna losowa
kiwanej. Je±li zmienna losowa
X
nie ma warto±ci ocze-
X
nie ma warto±ci ocze-
jest ci¡gªa, to
X
Z
x · fX (x)dx,
EX =
R
o ile ta caªka jest zbie»na. W przeciwnym razie zmienna losowa
kiwanej.
Je±li zmienna losowa
X
jest dyskretna i
EX =
n
X
SX = {0, 1, 2, . . . , n}
k · pX (k) =
k=0
Je±li zmienna losowa
X
EX =
n ∈ N,
to
k · P (X = k).
k=0
jest dyskretna i
∞
X
n
X
dla pewnego
SX = N,
k · pX (k) =
k=0
to
∞
X
k · P (X = k).
k=0
Widzimy, »e dla rzutu sze±cienn¡ kostk¡ do gry warto±¢ oczekiwana liczby wyrzuconych
oczek dana jest równaniem, od którego rozpocz¦li±my rozwa»ania.
Chocia» powy»sza denicja jest sformuªowana osobno dla dyskretnych i ci¡gªych zmiennych losowych, to warto±¢ oczekiwana w obu przypadkach (a tak»e w przypadku zmiennych losowych, które nie s¡ ani ci¡gªe, ani dyskretne) jest wªa±ciwie tym samym (gdyby
traktowa¢ j¡ na gruncie teorii miary i caªki). Zwró¢my uwag¦, »e caªka (przypadek ci¡gªy)
zgodnie z konstrukcj¡ Riemanna granic¡ ci¡gu sum caªkowych (suma przypadek dyskretny). Najlepiej wi¦c nie my±le¢ o dwóch wzorach, ale traktowa¢ je jako przejaw tego
samego obiektu matematycznego.
Twierdzenie 1 (Wªasno±ci warto±ci oczekiwanej)
oraz
a∈R
Dla zmiennych losowych
X
i
Y
mamy:
ˆ E(X + Y ) = EX + EY ,
ˆ E(aX) = aEX ,
ˆ Ea = a,
ˆ
je±li zmienne losowe
X
i
Y
s¡ niezale»ne, to
EXY = EX · EY .
Warto±¢ oczekiwana oddaje nasz¡ intuicj¦ odno±nie ±redniej warto±ci w eksperymencie
losowym. Z tego te» powodu jako synonimu terminu warto±¢ oczekiwana niejednokrotnie
u»ywa si¦ sªowa ±rednia. Nale»y jednak zdecydowanie odró»ni¢ u»ycie sªowa ±rednia w
tym znaczeniu od ±redniej arytmetycznej.
Formalnym uj¦ciem faktu, »e warto±¢ oczekiwana realizuje ide¦ warto±ci ±redniej w eksperymencie losowym, jest poni»sze twierdzenie.
Twierdzenie 2 (Mocne prawo wielkich liczb)
Je±li
le»nych zmiennych losowych o jednakowym rozkªadzie i
n
P
1X
Xi = EX1
lim
n→∞ n
i=1
X1 , X2 , . . .
E|X1 | < ∞,
!
= 1.
jest ci¡giem niezato
Innymi sªowy, gdyby±my rzucali niezale»nie kostk¡ do gry niesko«czenie wiele razy, to
ci¡g ±rednich arytmetycznych wyników uzyskanych od pocz¡tku eksperymentu do danego momentu byªby zawsze (to znaczy z prawdopodobie«stwem 1) zbie»ny do warto±ci
oczekiwanej liczby oczek uzyskanej w pojedynczym rzucie.
Denicja 4 Wariancj¡
EX)
2
zmiennej losowej
X
nazywamy wyra»enie
V ar(X) = E(X −
, o ile odpowiednia caªka (suma) jest zbie»na.
Mo»emy powiedzie¢, »e wariancja intuicyjnie mierzy, jak bardzo ±rednio realizacje zmiennej losowej
X
X
rozkªadu zmiennej losowej
Fakt 2
X.
s¡ oddalone (w sensie kwadratu ró»nicy) od warto±ci oczekiwanej
szczególno±ci mo»na powiedzie¢, »e wariancja zmiennej losowej
X
W
mierzy rozproszenie
wokóª jej warto±ci oczekiwanej.
Zachodzi nast¦puj¡ca to»samo±¢:
V ar(X) = EX 2 − (EX)2 .
Uwaga!
W pierwszym skªadniku tradycyjnie opuszczono nawias przy warto±ci oczeki2
2
wanej. Wyra»enie EX nale»y wi¦c rozumie¢ jako E(X ) czyli jako warto±¢ oczekiwan¡
2
zmiennej losowej X (która niekoniecznie jest równa kwadratowi warto±ci oczekiwanej X
2
czyli (EX) ).
Denicja 5 Momentem (niecentralnym) rz¦du k zmiennej losowej X
nazywamy
EX k ,
o ile odpowiednia caªka (suma) jest zbie»na.
Mo»emy zatem powiedzie¢, »e wariancja zmiennej losowej
momentu zmiennej losowej
X
X
jest równa ró»nicy drugiego
i kwadratu jej pierwszego momentu.
Wniosek 1 EX 2 = V ar(X) + (EX)2
Twierdzenie 3 (Wªasno±ci wariancji)
Dla zmiennych losowych
X
i
Y
oraz
a ∈ R
mamy:
ˆ V ar(X) ≥ 0,
ˆ V ar(a) = 0,
ˆ V ar(X + a) = V ar(X),
ˆ V ar(aX) = a2 · V ar(X),
ˆ
je±li zmienne losowe
X
i
Y
s¡ niezale»ne, to
Denicja 6 Odchyleniem standardowym
Denicja 7 Median¡ zmiennej losowej X
P (X ≤ m) ≥
1
i
2
P (X ≥ m) ≥
V ar(X + Y ) = V ar(X) + V ar(Y ).
p
V ar(X).
zmiennej losowej X nazywamy
nazywamy ka»d¡ liczb¦
1
. tzn. tak¡ »e
2
FX (m) ≥
1
i
2
m o tej wªasno±ci,
limt→m− FX (t) ≤ 12 .
»e
Fakt 3
ˆ
1
dla pewnego t
2
wtedy i tylko wtedy, gdy FX (m) = 12 .
Je±li istnieje taka liczba
zmiennej losowej
X
m,
»e
FX (t) =
∈ R,
to
m
jest median¡
ˆ
Je±li dystrybuanta zmiennej losowej
diana zmiennej losowej
równania
ˆ
X
jest ci¡gªa i ±ci±le rosn¡ca, wówczas me-
X
jest wyznaczona jednoznacznie (jako jedyne rozwi¡zanie
1
).
2
FX (m) =
Je±li zmienna losowa
X
jest ci¡gªa (tzn. ma g¦sto±¢), to jej mediana jest wyznaczona
jednoznacznie jako rozwi¡zanie (wzgl¦dem
Z
m
∞
Z
fX (t)dt =
−∞
m
dowolnego spo±ród równa«:
m
Z
fX (t)dt,
m)
Z
1
fX (t)dt = ,
2
−∞
∞
m
1
fX (t)dt = .
2
Denicja 8 Funkcj¡ kwantylow¡ zmiennej losowej X nazywamy funkcj¦ FX−1 : (0, 1) →
R
dan¡ wzorem:
Liczb¦
FX−1 (t) = inf{u ∈ R : FX (u) ≥ t}.
FX−1 (t) b¦dziemy nazywali kwantylem
rz¦du t rozkªadu zmiennej losowej X .
Twierdzenie 4 (Wªasno±ci funkcji kwantylowej)
nego
t ∈ (0, 1)
Dla dowolnych
x, y ∈ R
i dowol-
mamy:
ˆ FX (x) ≥ t ⇐⇒ FX−1 (t) ≤ x,
ˆ FX (x) < t ⇐⇒ FX−1 (t) > x,
ˆ FX (x) < t ≤ FX (y) ⇐⇒ x < FX−1 (t) ≤ y ,
ˆ FX (FX−1 (t)) ≥ t,
przy czym równo±¢ nie zachodzi wtedy i tylko wtedy, gdy
t
nie
nale»y do zbioru warto±ci funkcji F,
ˆ FX−1 (FX (x)) ≤ x, przy czym równo±¢
ε) = FX (x) dla pewnego ε > 0,
ˆ P (FX (X) ≤ t) ≤ t,
nie zachodzi wtedy i tylko wtedy, gdy
przy czym równo±¢ nie zachodzi wtedy i tylko wtedy, gdy
nale»y do domkni¦cia zbioru warto±ci funkcji
Wniosek 2
Je±li funkcja
cj¡ odwrotn¡ do
FX .
FX
W szczególno±ci je±li zmienna losowa
R,
to funkcja
FX−1
t
nie
FX .
jest ci¡gªa i ±ci±le rosn¡ca, to funkcja
±ci±le dodatnia w caªym zbiorze
Wniosek 3 FX−1 ( 12 )
FX (x −
X
FX−1
jest zwykª¡ funk-
jest ci¡gªa i jej g¦sto±¢ jest
jest zwykª¡ funkcj¡ odwrotn¡ do
jest median¡ zmiennej losowej
X
FX .
(niejedyn¡, je±li mediana nie jest
wyznaczona jednoznacznie).
miar poªo»enia
miar rozrzutu.
Warto±¢ oczekiwan¡ i median¦ zaliczamy do
riancj¦ i odchylenie standardowe do
Je±li zmienne losowe
XiY
rozkªadu natomiast wa-
maj¡ taki sam rozkªad, to maj¡ te same warto±ci oczekiwane,
wariancje, odchylenia standardowe, te same momenty odpowiednich rz¦dów (o ile wymienione istniej¡), równe funkcje kwantylowe i te same liczby s¡ ich medianami.
Je±li zmienne losowe
X
i
Y
maj¡ taki sam rozkªad i s¡ dyskretne, to ponadto maj¡ tak¡
sam¡ funkcj¦ prawdopodobie«stwa.