Własności estymatorów Niech X = (X 1,...,Xn) będzie próbą losową

Własności estymatorów
Niech X = (X1 , . . . , Xn ) będzie próbą losową na przestrzeni próbkowej X n , zaś {Pθ : θ ∈
Θ} będzie rodziną rozkładów prawdopodobieństwa na X n .
Definicja 1. Estymator ĝ(X) wielkości g(θ) jest nieobciążony, jeżeli dla każdego θ ∈ Θ
Eθ ĝ(X) = g(θ).
Definicja 2. Jeżeli statystyka ĝ(X) jest estymatorem g(θ), to wielkość
b(θ) = Eθ (ĝ(X) − g(θ)),
θ∈Θ
nazywamy obciążeniem tego estymatora.
Definicja 3. Ryzykiem średniokwadratowym estymatora ĝ(X) wielkości g(θ) nazywamy
funkcję postaci
R(θ) = Eθ (ĝ(X) − g(θ))2 , θ ∈ Θ.
Fakt 1. R(θ) = V arθ ĝ(X) + b(θ)2 .
Fakt 2. Jeżeli estymator ĝ(X) wielkości g(θ) jest nieobciążony, to R(θ) = V arθ ĝ(X).
Definicja 4. Mówimy, że estymator g1 (X) jest lepszy niż g2 (X), jeżeli dla każdego θ ∈ Θ
R1 (θ) ≤ R2 (θ)
i dla pewnego θ ∈ Θ mamy R1 (θ) < R2 (θ).
Definicja 5. Estymator ĝ(X) wielkości g(θ) jest zgodny, jeżeli
ĝ(X) −→Pθ g(θ),
∀θ∈Θ
n → ∞,
czyli dla każdego θ ∈ Θ mamy
n→∞
∀>0
Pθ (|ĝ(X) − g(θ)| ≥ ) −→ 0 .
Definicja 6. Estymator ĝ(X) wielkości g(θ) jest mocno zgodny, jeżeli
∀θ∈Θ
ĝ(X) −→p.w. g(θ),
n → ∞,
czyli dla każdego θ ∈ Θ mamy
Pθ
lim ĝ(X) = g(θ) = 1.
n→∞
Twierdzenie (Mocne Prawo Wielkich Liczb). Niech X1 , X2 , . . . będzie ciągiem parami niezależnych zmiennych losowych o jednakowym rozkładzie. Jeżeli E|X1 | < ∞,
to
X1 + . . . + Xn n→∞
−→ EX1 , P -prawie wszędzie.
n