Testowanie hipotez statystycznych (cz esc I)

Transkrypt

Rozklad estymatorów MNK w KMRL
Testowanie hipotez prostych
Pytania teoretyczne
Testowanie hipotez statystycznych (cześć
I)
,
Wyklad 8
Natalia Nehrebecka Stanislaw Cichocki
3 grudnia 2016
N. Nehrebecka
8. Testowanie hipotez statystycznych
Pytania teoretyczne
Plan zajeć
,
1
Rozklad estymatora b
Rozklad sumy kwadratów reszt
2
Hipotezy proste - test t
Badanie istotności zmiennych w modelu
3
Pytania teoretyczne
N. Nehrebecka
Pytania teoretyczne
Dodatkowe zalożenie
Oprócz zalożeń o:
braku autokorelacji i homoskedastyczności: Var (ε) = σ 2 I
zerowej wartości oczekiwanej: E (ε) = 0
Dochodzi zalożenie o:
normalności rozkladu bledów
losowych.
,
Reasumujac:
,
ε ∼ N(0, σ 2 I)
N. Nehrebecka
Pytania teoretyczne
Wiemy już że:
b = β + (X0 X)−1 X0 ε
E (b) = β oraz Var (b) = σ 2 (X0 X)−1
Stad:
,
b ∼ N(β, σ 2 (X0 X)−1 )
N. Nehrebecka
Pytania teoretyczne
Wiemy już, że:
e0 e = ε0 MX ε
macierz MX - symetryczna i idempotentna
rzad
, macierzy MX = N − K
Stad:
,
PN
2
i=1 ei
σ2
=
e0 e
ε0 MX ε
=
∼ χ2N−K
σ2
σ2
N. Nehrebecka
Pytania teoretyczne
Brak korelacji miedzy
bae
,
cov (b, e) = 0
co implikuje, że:
cov (b, e0 e) = 0
N. Nehrebecka
Pytania teoretyczne
Testowanie hipotez
Hipotezy proste dotycza, pojedynczego parametru modelu lub
kombinacji liniowej parametrów
N. Nehrebecka
Pytania teoretyczne
Rozklad statystyki t
bk − βk
t=
= ··· =
se(b
ˆ k)
q bk −βk
σ 2 (X0 X)−1
kk
r
e0 e
σ2
N−K
Ponieważ:
q bk −βk
σ 2 (X0 X)−1
kk
∼ N(0, 1) oraz
e0 e
σ2
∼ χ2N−K , stad
,
t ∼ tN−K
N. Nehrebecka
Pytania teoretyczne
Przyklad (1/2)
Zalóżmy, że teoria mówi, że pewien parametr modelu, βk , jest
równy określonej wartości, βk? , βk = βk?
Jeżeli:
spelnione sa, zalożenia KMRL
blad
, losowy ma rozklad normalny
teoria jest sluszna / hipoteza zerowa H0 jest prawdziwa
N. Nehrebecka
Pytania teoretyczne
Przyklad (2/2)
Wtedy:
statystyka testowa:
t=
bk − βk?
∼ tN−K
se(b
ˆ k)
statystyka krytyczna (odczytujemy z tablic rozkladu
t-Studenta ):
α
t? = t N − K , 1 −
2
gdzie: α- poziom istotności
⇒Jeśli |t|≥ t ? - odrzucamy H0
⇒Jeśli |t| < t ? - nie ma podstaw do odrzucenia H0
N. Nehrebecka
Pytania teoretyczne
Hipotezy dwustronne
H0 : βk = 0
H1 : βk 6= 0
Jeśli brak podstaw do odrzucenia H0 , wówczas model ma postać:
y = β0 + · · · + βk xk + · · · + βK xK + ε
|{z}
0
zmienna xk nie ma znaczenia dla wyjaśnienia zmienności y
N. Nehrebecka
Pytania teoretyczne
Statystyka testowa
statystyka testowa:
t=
bk
se(b
ˆ k)
czyli jest to stosunek wielkości estymatora parametru przez
estymator jego odchylenia standardowego
statystyka krytyczna (odczytujemy z tablic rozkladu
t-Studenta ):
α
t? = t N − K , 1 −
2
Jeśli |t|≥ t ? - odrzucamy H0
Jeśli |t| < t ? - nie ma podstaw do odrzucenia H0
N. Nehrebecka
Pytania teoretyczne
Wnioskowanie statystyczne
hipotezy dwustronne
P(|t| > t ? ) = 2[1 − FtN−K (t ? )] = α
gdzie: t ? − statystyka krytyczna.
Obecnie, zamiast stosować wartości krytyczne, oblicza sie,
p − value (policzony poziom istotności):
2[1 − FtN−K (t)] = p − value
gdzie: t−statystyka testowa.
Jeśli p − value poniżej określonego poziomu istotności (np.
0, 05) - odrzucamy H0
W przeciwnym przypadku - nie ma podstaw do odrzucenia H0
N. Nehrebecka
Pytania teoretyczne
1
(*) Udowodnić, że rozklad sumy kwadratów reszt jest
rozkladem χ2N−K niezależnym od rozkladu b.
2
Wyprowadzić rozklad malopróbkowy estymatora MNK. Jakie
zalożenie, poza standardowymi KMRL, należy w tym
przypadku przyjać?
,
3
Jaka, postać ma statystyka slużaca
do testowania hipotezy o
,
tym, że βk = βk? ?
N. Nehrebecka

Testowanie hipotez statystycznych (cz esc I)

Transkrypt

Podobne dokumenty

zad - MiNI PW

Inżynieria programowania – wykład i laboratorium Wykład 1. Modele

Twierdzenie Bayesa

Statystyka - Wydział Farmaceutyczny

Agnieszka Koźlarek, Opracowanie statystyczne

testowanie hipotez