Metoda najmniejszych kwadratów

Transkrypt

Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Metoda najmniejszych kwadratów
Model ekonometryczny
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Wykształcenie a zarobki
Hipoteza badawcza: Istnieje zależność między poziomem
wykształcenia a wysokością zarobków
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Wykształcenie a zarobki
Hipoteza badawcza: Istnieje zależność między poziomem
wykształcenia a wysokością zarobków
Teoria ekonomiczna
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Wykształcenie a zarobki
Hipoteza badawcza: Istnieje zależność między poziomem
wykształcenia a wysokością zarobków
Teoria ekonomiczna
Dane empiryczne
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Wykształcenie a zarobki
poziom
wykształcenia
wyższe
policealne
średnie zawodowe
średnie ogólne
zasadnicze
podstawowe
bez podstawowego
przeciętne
zarobki
677,78
564,37
584,30
586,45
555,43
545,85
543,75
Źródło: Obliczenia własne na podstawie BAEL (2000)
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Zależność funkcyjna
y = f (x1 , x2 , . . . , xk )
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Zależność funkcyjna
y = f (x1 , x2 , . . . , xk )
Model liniowy zjawiska
y = β0 + β1 x1 + β2 x2 + . . . + βk xk + ε
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
y = β0 + β1 x1 + β2 x2 + . . . + βk xk + ε
y - zmienna objaśniana (zależna, endogeniczna)
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
y = β0 + β1 x1 + β2 x2 + . . . + βk xk + ε
y - zmienna objaśniana (zależna, endogeniczna)
xj - zmienne objaśniające, (niezależne, egzogeniczne)
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
y = β0 + β1 x1 + β2 x2 + . . . + βk xk + ε
y - zmienna objaśniana (zależna, endogeniczna)
xj - zmienne objaśniające, (niezależne, egzogeniczne)
βj - nieznane parametry modelu wymagające oszacowania
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
y = β0 + β1 x1 + β2 x2 + . . . + βk xk + ε
y - zmienna objaśniana (zależna, endogeniczna)
xj - zmienne objaśniające, (niezależne, egzogeniczne)
βj - nieznane parametry modelu wymagające oszacowania
ε - błąd losowy
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Przyczyny istnienia błędu losowego
Pominięte czynniki
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Przyczyny istnienia błędu losowego
Pominięte czynniki
Zjawisko nie musi przyjmować wszystkich wartości
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Przyczyny istnienia błędu losowego
Pominięte czynniki
Zjawisko nie musi przyjmować wszystkich wartości
Błąd pomiaru
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Przyczyny istnienia błędu losowego
Pominięte czynniki
Zjawisko nie musi przyjmować wszystkich wartości
Błąd pomiaru
Błędy w danych empirycznych
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Model Galtona
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Model Galtona
wzrost dzieci = β0 + β1 wzrost rodziców + ε
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Model Galtona
wzrost dzieci = β0 + β1 wzrost rodziców + ε
Brak symetrii
Metoda najmniejszych kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
500
505
Miesieczne zarobki
510
515
520
Metoda Najmniejszych Kwadratów
45
50
55
Wiek w latach
Zródlo: Obliczenia wlasne, dane BAEL 2000
Metoda najmniejszych kwadratów
60
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
500
505
Miesieczne zarobki
510
515
520
Metoda Najmniejszych Kwadratów
45
50
55
Wiek w latach
Zródlo: Obliczenia wlasne, dane BAEL 2000
Metoda najmniejszych kwadratów
60
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
500
600
Miesieczne zarobki
700
800
900
1000
Metoda Najmniejszych Kwadratów
40
45
50
Wiek w latach
55
Zródlo: Obliczenia wlasne, dane BAEL 2000
Metoda najmniejszych kwadratów
60
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
500
600
Miesieczne zarobki
700
800
900
1000
Metoda Najmniejszych Kwadratów
40
45
50
Wiek w latach
55
Zródlo: Obliczenia wlasne, dane BAEL 2000
Metoda najmniejszych kwadratów
60
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
400
600
Miesieczne zarobki
800
1000
1200
Metoda Najmniejszych Kwadratów
20
30
40
Wiek w latach
50
Zródlo: Obliczenia wlasne, dane BAEL 2000
Metoda najmniejszych kwadratów
60
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
400
600
Miesieczne zarobki
800
1000
1200
Metoda Najmniejszych Kwadratów
20
30
40
Wiek w latach
50
ród³o: Obliczenia wlasne, dane BAEL 2000
Metoda najmniejszych kwadratów
60
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
400
600
Miesieczne zarobki
800
1000
1200
1400
Metoda Najmniejszych Kwadratów
20
30
40
Wiek w latach
50
Zródlo: Obliczenia wlasne, dane BAEL 2000
Metoda najmniejszych kwadratów
60
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
400
600
Miesieczne zarobki
800
1000
1200
1400
Metoda Najmniejszych Kwadratów
20
30
40
50
Wiek w latach
60
Zródlo: Obliczenia wlasne, dane BAEL 2000
Metoda najmniejszych kwadratów
70
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Ważny wniosek
Oszacowania nielosowych parametrów linii regresji są losowe.
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Regresja
Procedurę szukania estymatora Metody Najmniejszych Kwadratów
określamy terminem regresja.
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Model teoretyczny zjawiska
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Model teoretyczny zjawiska
y = β0 + β1 x1 + β2 x2 + . . . + βk xk + ε
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Model teoretyczny zjawiska
y = β0 + β1 x1 + β2 x2 + . . . + βk xk + ε
Oszacowanie
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Model teoretyczny zjawiska
y = β0 + β1 x1 + β2 x2 + . . . + βk xk + ε
Oszacowanie
y = b0 + b1 x1 + b2 x2 + . . . + bk xk + e
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Model teoretyczny zjawiska
y = β0 + β1 x1 + β2 x2 + . . . + βk xk + ε
Oszacowanie
y = b0 + b1 x1 + b2 x2 + . . . + bk xk + e
Wartość dopasowana
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Model teoretyczny zjawiska
y = β0 + β1 x1 + β2 x2 + . . . + βk xk + ε
Oszacowanie
y = b0 + b1 x1 + b2 x2 + . . . + bk xk + e
Wartość dopasowana
ŷ = b0 + b1 x1 + b2 x2 + . . . + bk xk
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Reszta a błąd losowy
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Reszta a błąd losowy
Dopasowanie modelu
Metoda najmniejszych kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
1
2
zmienna zalezna
3
4
5
Metoda Najmniejszych Kwadratów
1
2
3
zmienna niezalezna
4
Metoda najmniejszych kwadratów
5
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
1
2
zmienna zalezna
3
4
5
Metoda Najmniejszych Kwadratów
1
2
3
zmienna niezalezna
4
Metoda najmniejszych kwadratów
5
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Metoda Najmniejszych Kwadratów
Dane
X
1
2
3
4
5
Y
1
1
4
3
5
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Dane
X
1
2
3
4
5
Y
1
1
4
3
5
Ŷ
.8
1.8
2.8
3.8
4.8
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Dane
X
1
2
3
4
5
Y
1
1
4
3
5
Ŷ
.8
1.8
2.8
3.8
4.8
e
0.2
-0.8
1.2
-0.8
0.2
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Kryteria dopasowania
X
i
| yi − ŷi |=
X
| ei |
i
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Kryteria dopasowania
X
| yi − ŷi |=
X
| ei |
i
i
X
dist(yi , ŷi )
i
Metoda najmniejszych kwadratów
Metoda Najmniejszych Kwadratów
Wprowadzenie
Model liniowy
Estymacja
Wartości dopasowane i reszty
Kryteria dopasowania
X
| yi − ŷi |=
X
| ei |
i
i
X
dist(yi , ŷi )
i
X
X
(yi − ŷi )2 =
ei2
i
i
Metoda najmniejszych kwadratów