Klasyczny Model Regresji Liniowej

Transkrypt

Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia i własności statystyczne
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Założenia Klasycznego Modelu Regresji Liniowej
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Założenia Klasycznego Modelu Regresji Liniowej
1
Proces generujący dane,
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Założenia Klasycznego Modelu Regresji Liniowej
1
Proces generujący dane,
2
Liniowość (względem parametrów),
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Założenia Klasycznego Modelu Regresji Liniowej
1
Proces generujący dane,
2
Liniowość (względem parametrów),
3
Wartość oczekiwana składnika losowego jest równa zero,
∀i E (εi ) = 0
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Założenia Klasycznego Modelu Regresji Liniowej
4
Wariancja składnika losowego jest identyczna dla każdej
obserwacji,
∀i var (εi ) = σ 2
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Założenia Klasycznego Modelu Regresji Liniowej
4
Wariancja składnika losowego jest identyczna dla każdej
obserwacji,
∀i var (εi ) = σ 2
5
Kowariancja między błędami losowymi pochodzącymi od
różnych obserwacji wynosi zero,
∀i6=j cov (εi , εj ) = 0
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Macierz kowariancji


ε1
 ..   .  ε1
εn
var (ε) = εε0 =


var (ε1 )
cov (ε1 , εn )


..
. . . εn = 

.
cov (ε1 , εn )
var (εn )
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Macierz kowariancji
Przy spełnionych założeniach KMRL postać macierzy
wariancji-kowariancji redukuje się do
 2

σ
0


..


.
0
σ2
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Założenia Klasycznego Modelu Regresji Liniowej
6
Składnik losowy ma wielowymiarowy rozkład normalny,
ε ∼ N (0, σ 2 I)
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Założenia Klasycznego Modelu Regresji Liniowej
6
Składnik losowy ma wielowymiarowy rozkład normalny,
ε ∼ N (0, σ 2 I)
7
Egzogeniczność zmiennych niezależnych,
E (εi | x1i , . . . , xki ) = 0
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Założenia Klasycznego Modelu Regresji Liniowej
6
Składnik losowy ma wielowymiarowy rozkład normalny,
ε ∼ N (0, σ 2 I)
7
Egzogeniczność zmiennych niezależnych,
E (εi | x1i , . . . , xki ) = 0
8
Macierz obserwacji X zawiera elementy nielosowe (stałe),
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Założenia Klasycznego Modelu Regresji Liniowej
6
Składnik losowy ma wielowymiarowy rozkład normalny,
ε ∼ N (0, σ 2 I)
7
Egzogeniczność zmiennych niezależnych,
E (εi | x1i , . . . , xki ) = 0
8
Macierz obserwacji X zawiera elementy nielosowe (stałe),
9
Macierz obserwacji X ma pełen rząd kolumnowy,
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Własności statystyczne
1
Nieobciążoność
E (b) = β
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Własności statystyczne
1
Nieobciążoność
E (b) = β
2
Liniowość
b = Cy
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Własności statystyczne
1
Nieobciążoność
E (b) = β
2
Liniowość
b = Cy
3
Wariancja
var (b) = σ 2 (X 0 X )−1
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Własności statystyczne
1
Nieobciążoność
E (b) = β
2
Liniowość
b = Cy
3
Wariancja
var (b) = σ 2 (X 0 X )−1
4
Efektywność
Klasyczny Model Regresji Liniowej
Klasyczny Model Regresji Liniowej
Założenia KMRL
Statystyczne własności estymatorów MNK w KMRL
Twierdzenie Gaussa-Markova
Przy spełnionych założeniach Klasycznego Modelu Regresji
Liniowej estymator Metody Najmniejszych Kwadratów jest
najlepszym liniowym i nieobciążonym estymatorem dla wektora
nieznanych parametrów β
Klasyczny Model Regresji Liniowej