Prawdopodobienstwo i statystyka

Transkrypt

Zgodność ciągu estymatorów
Estymatory największej wiarogodności
Przykłady ENW
Estymatory minimalnej wariancji
Prawdopodobieństwo i statystyka
Wykład IX:
Estymatory - cz. II
8 grudnia 2014
Wykład IX: Estymatory - cz. II
Przykłady ENW
Zgodność estymatorów
Przykłady zgodnych estymatorow
Definicja zgodności ciągu estymatorów
Niech będzie dany ciąg modeli dla próby prostej z tej samej
populacji o rosnącej długości. Niech ĝn (X1 , X2 , . . . , Xn ) będzie
ciągiem estymatorów parametru g : Θ → R1 . Ciąg {ĝn } jest:
Słabo zgodny, jeśli dla każdego θ ∈ Θ
lim Pθ (|ĝn (X1 , X2 , . . . , Xn ) − g (θ)| > ε) = 0, ε > 0.
n→∞
Zgodny w sensie L2 , jeśli dla każdego θ ∈ Θ
lim Eθ (ĝn (X1 , X2 , . . . , Xn ) − g (θ))2 = 0.
n→∞
Mocno zgodny, jeśli ĝn (X1 , X2 , . . . , Xn ) → g (θ) prawie
wszędzie.
Przykłady ENW
Uwagi i przykład
Jeśli ciąg {ĝn } jest mocno zgodny, to jest słabo zgodny.
Jeśli ciąg {ĝn } jest zgodny w sensie L2 , to jest słabo zgodny.
Przykład
Jeśli istnieją drugie momenty, to ciąg estymatorów {X̄n } jest
zgodny w sensie L2 .
Przykłady ENW
Wnioski
Ciąg estymatorów {X̄n } jest mocno zgodny.
Zgodność obu ciągów estymatorów wariancji.
Zgodność ciągu estymatorów prawdopodobieństwa sukcesu w
schemacie Bernoullego.
Zgodność obu ciągów estymatorów dla P(Y = 0) z rozkładu
Poissona.
Przykłady ENW
Pytanie: jak szukać „odpowiednich” wzorów?
Na poprzednim wykładzie pojawiło się wiele wzorów, które miały
rozmaite dobre własności. Czy istnieje metoda znajdowania takich
wzorów?
Przykłady ENW
Funkcja wiarogodności
Niech (X , B, {Pθ }θ∈Θ ) będzie przestrzenią statystyczną. Załóżmy,
że wszystkie rozkłady Pθ zadają się gęstością pθ (x) względem
pewnej miary referencyjnej Λ. Dla ustalonego x ∈ X funkcję
Θ 3 θ 7→ L(θ ; x) := pθ (x)
nazywamy wiarogodnością θ, gdy zaobserwowano x.
Uwaga: gdy wszystkie rozkłady Pθ są dyskretne i skoncentrowane
na tym samym zbiorze przeliczalnym X0 , jako miarę referencyjną
możemy wybrać miarę liczącą: Λ(A) = #A, A ⊂ X0 . Wtedy
„gęstość w punkcie” x ∈ X0 jest dana wzorem
pθ (x) = Pθ ({x}).
Przykłady ENW
Estymatory największej wiarogodności - cd.
Estymator największej wiarogodności
Jeśli przy każdym ustalonym x ∈ X istnieje θ̂ = θ̂(x) ∈ Θ takie, że
L(θ̂ ; x) = sup L(θ ; x) = sup pθ (x) ,
θ∈Θ
θ∈Θ
to odwzorowanie X 3 x 7→ θ̂(x) ∈ Θ nazywamy estymatorem
największej wiarogodności (parametru θ!).
ENW nie musi być nieobciążony.
ENW może nie istnieć.
ENW może nie być określony jednoznacznie lub jego
wyznaczenie może być bardzo trudne.
Przykłady ENW
Przykłady ENW
ENW dla prawdopodobieństwa sukcesu w schemacie N prób
Bernoullego.
p̂(X1 , X2 , . . . , XN ) =
X1 + X2 + . . . + XN
.
N
ENW dla wartości oczekiwanej i wariancji dla próby prostej
gaussowskiej długości N.
µ̂ =
X1 + X2 + . . . + XN = X̄N .
N
(X1 − X̄N )2 + (X2 − X̄N )2 + . . . + (XN − X̄N )2
N −1 2
σˆ2 =
=
S̄N
N
N
Przykłady ENW
Porównywanie estymatorów
Estymatory nieobciążone minimalnej wariancji
Przypomnienie: Estymatory dla P(X = 0) z rozkładu Poissona
Θ = {rozkład Poissona z parametrem θ ∈ R+ },
g (θ) = e −θ (= Pθ (X = 0)).
ĝ1 (X1 , X2 , . . . , XN ) =
1I {X1 =0} + 1I {X2 =0} + . . . + 1I {XN =0}
.
N
1
ĝ2 (X1 , X2 , . . . , XN ) = 1 −
N
X1 +X2 +...+XN
Który jest lepszy i w jakim sensie?
Var θ (ĝ2 ) < Var θ (ĝ1 ) !
.
Przykłady ENW
Estymatory nieobciążone minimalnej wariancji
Estymator nieobciążony minimalnej wariancji
Definicja ENMW
Estymatorem nieobciążonym minimalnej wariancji (ENMW)
parametru g nazywamy estymator nieobciążony ĝ , który ma
wariancję niewiększą niż każdy inny estymator nieobciążony ĥ
Var θ (ĝ ) ¬ Var θ (ĥ).
Uwaga: Istnieje piękna teoria, równie pięknie przedstawiona w
książce R. Zieliński, Siedem wykładów wprowadzających do
statystyki matematycznej, PWN Warszawa 1990, która pojęcie
„estymator nieobciążony minimalnej wariancji” analizuje z punktu
widzenia tzw. statystyk dostatecznych (tzn. zawierających pełną
informację o modelu statystycznym).

Prawdopodobienstwo i statystyka

Transkrypt

Podobne dokumenty

Statystyka matematyczna

Równoważność metod bayesowskich dla symetrycznych funkcji straty

Wstęp do statystyki matematycznej Lista 5 1. Niech X = (X1, ..., Xn

Laboratorium 3 - Model regresji wielokrotnej 3.1 Plik realest.txt

EST – Elementy statystyki

zadania

Podstawy statystyki

[D]

stat_matem_program_r..

Statystyka małych obszarów - Urząd Statystyczny w Łodzi