Ekonometryczne modele nieliniowe

Prezentacja na temat: "Ekonometryczne modele nieliniowe"— Zapis prezentacji:

1 Ekonometryczne modele nieliniowe
Wykład 2 Własności estymatorów i testy

2 1. dodatek do wykładu 1 Słaba zbieżność (convergence in distribution)
Ciąg zmiennych losowych - dystrybuanta Istnieje dystrybuanta , taka że w każdym punkcie , w którym jest ciągła. zbiega słabo do :

3 MNK przy warunkach pobocznych
Restricted LS

4 Test F (inny zapis) Wykorzystując formułę z poprzedniego wykładu:

5 Metoda największej wiarygodności
Maximum Likelihood: Maksymalizujemy funkcję wiarygodności względem  maksymalizujemy prawdopodobieństwo otrzymania próby takich obserwacji, które właśnie zaobserwowaliśmy Alternatywna interpretacja: funkcja parametrów warunkowa na obserwacjach

6 Estymator MNW Ze względów obliczeniowych stosujemy:
który maksymalizuje , także maksymalizuje score Szukamy takiego , który rozwiązuje

7 Rozkład zmiennej losowej y
E(e) = 0 Var(e) = 0,4 E(y) = 7 Var(y) = 0,4 Przesunięcie o m=7, czyli y=m+e

8 Rozkład zmiennej losowej y
Funkcja gęstości dla e: Funkcja gęstości dla y, kiedy znamy m: (czyli warunkowa funkcja gęstości…)

9 Rozkład zmiennej losowej y
Ogólniej, kiedy m=xb, czyli y=xb+e : Wartość oczekiwana y : Funkcja gęstości y (warunkowa na m):

10 Funkcja wiarygodności
Funkcja gęstości warunkowa ze względu na parametry = funkcja wiarygodności Gdyby niezależne:

11 Funkcja wiarygodności
Zazwyczaj wykorzystujemy: ln L Dla funkcji regresji liniowej:

12 Metoda Największej Wiarygodności
Dla ustalonych x i b wyznacz realizacje składnika losowego (reszty): Wyznacz ln f(ei):

13 Metoda Największej Wiarygodności
Wyznacz ln L : Optymalizuj funkcję ln L poprzez „manipulowanie” wartościami parametrów

14 Przykłady zastosowań Model regresji Model autoregresji

15 Przykłady zastosowań Model ARMA warunkowa MNW

16 Przykłady zastosowań Model regresji z efektem GARCH(1,1) estymacja MNW

17 Przykłady zastosowań Model logitowy Model probitowy Estymacja MNW

18 Identyfikacja MNW Wektor parametrów jest identyfikowalny jeżeli dla każdego innego wektora parametrów (dla danych ) funkcja wiarygodności osiąga inne wartości. Oszacowania są identyfikowalne jeśli funkcja wiarygodności dla innych wartości osiąga mniejsze wartości

19 Założenia MNW „regularity conditions”:
Pierwsze trzy pochodne po ciągłe i skończone dla „prawie wszystkich” i wszystkich Możliwe jest wyliczenie wartości oczekiwanych z pierwszych dwóch pochodnych Dla wszystkich wartości wyrażenie ma „małą” wartość

20 Własności estymatora MNW
Zgodność Asymptotyczna normalność Macierz informacji w praktyce trudniej policzyć drugie wyrażenie

21 Własności estymatora MNW
To nie to samo co

22 Własności estymatora MNW
Asymptotycznie efektywny estymator: dla jednego parametru Jeśli jakiś inny estymator jest zgodny i ma asymptotyczny rozkład normalny, to wariancja jest większa lub równa . dla wielu parametrów Jeśli jakiś inny estymator jest zgodny i ma asymptotyczny rozkład normalny, to jest macierzą dodatnio półokreśloną.

23 Własności estymatora MNW
Niezmienniczość („invariance”): jeśli estymator MNW dla i ciągła funkcja , to jest estymatorem MNW dla Gradient („score”) ma wartość oczekiwaną zero i wariancję

24 Estymacja modelu liniowego

25 Estymacja modelu liniowego
Wektor nieznanych parametrów: Po maksymalizacji logarytmu funkcji wiarygodności mamy: obciążony estymator, ale zgodny

26 Estymacja modelu liniowego
Macierz informacji … i jej odwrotność

27 Estymacja modelu liniowego
Wartość funkcji wiarygodności dla oszacowanych parametrów:

28 Test ilorazu wiarygodności
Likelihood ratio (LR) test: Iloraz wiarygodności: Statystyka testowa:

29 Test ilorazu wiarygodności
F. wiarygodności modelu z restrykcjami: Estymator identyczny jak dla MNK przy warunkach pobocznych

30 Test ilorazu wiarygodności
Formuła testu LR dla modelu liniowego

31 Test Walda Analogicznie do MNK można wyprowadzić statystykę testu Walda dla MNW:

32 Test mnożnika Lagrange’a
Langrange Multiplier (LM) test – score test: Do testowania wystarczy oszacować model z restrykcjami!

33 Test mnożnika Lagrange’a
Dla modelu liniowego Dla

34 Test mnożnika Lagrange’a
Po wyprowadzeniu:

35 Porównanie testów Która statystyka największa? W ≥ LR ≥ LM .

36 Pytania dodatkowe Jaką formę modelu („z restrykcjami” czy „bez restrykcji”) należy oszacować przy stosowaniu testu F, Walda, LM i LR?