Ekonometryczne modele nieliniowe Wykład 2 Własności estymatorów i testy

1. dodatek do wykładu 1 Słaba zbieżność (convergence in distribution) Ciąg zmiennych losowych - dystrybuanta Istnieje dystrybuanta , taka że w każdym punkcie , w którym jest ciągła. zbiega słabo do :

MNK przy warunkach pobocznych Restricted LS

Test F (inny zapis) Wykorzystując formułę z poprzedniego wykładu:

Metoda największej wiarygodności Maximum Likelihood: Maksymalizujemy funkcję wiarygodności względem  maksymalizujemy prawdopodobieństwo otrzymania próby takich obserwacji, które właśnie zaobserwowaliśmy Alternatywna interpretacja: funkcja parametrów warunkowa na obserwacjach

Estymator MNW Ze względów obliczeniowych stosujemy: który maksymalizuje , także maksymalizuje score Szukamy takiego , który rozwiązuje

Rozkład zmiennej losowej y E(e) = 0 Var(e) = 0,4 E(y) = 7 Var(y) = 0,4 Przesunięcie o m=7, czyli y=m+e

Rozkład zmiennej losowej y Funkcja gęstości dla e: Funkcja gęstości dla y, kiedy znamy m: (czyli warunkowa funkcja gęstości…)

Rozkład zmiennej losowej y Ogólniej, kiedy m=xb, czyli y=xb+e : Wartość oczekiwana y : Funkcja gęstości y (warunkowa na m):

Funkcja wiarygodności Funkcja gęstości warunkowa ze względu na parametry = funkcja wiarygodności Gdyby niezależne:

Funkcja wiarygodności Zazwyczaj wykorzystujemy: ln L Dla funkcji regresji liniowej:

Metoda Największej Wiarygodności Dla ustalonych x i b wyznacz realizacje składnika losowego (reszty): Wyznacz ln f(ei):

Metoda Największej Wiarygodności Wyznacz ln L : Optymalizuj funkcję ln L poprzez „manipulowanie” wartościami parametrów

Przykłady zastosowań Model regresji Model autoregresji

Przykłady zastosowań Model ARMA warunkowa MNW

Przykłady zastosowań Model regresji z efektem GARCH(1,1) estymacja MNW

Przykłady zastosowań Model logitowy Model probitowy Estymacja MNW

Identyfikacja MNW Wektor parametrów jest identyfikowalny jeżeli dla każdego innego wektora parametrów (dla danych ) funkcja wiarygodności osiąga inne wartości. Oszacowania są identyfikowalne jeśli funkcja wiarygodności dla innych wartości osiąga mniejsze wartości

Założenia MNW „regularity conditions”: Pierwsze trzy pochodne po ciągłe i skończone dla „prawie wszystkich” i wszystkich Możliwe jest wyliczenie wartości oczekiwanych z pierwszych dwóch pochodnych Dla wszystkich wartości wyrażenie ma „małą” wartość

Własności estymatora MNW Zgodność Asymptotyczna normalność Macierz informacji w praktyce trudniej policzyć drugie wyrażenie

Własności estymatora MNW To nie to samo co

Własności estymatora MNW Asymptotycznie efektywny estymator: dla jednego parametru . Jeśli jakiś inny estymator jest zgodny i ma asymptotyczny rozkład normalny, to wariancja jest większa lub równa . dla wielu parametrów . Jeśli jakiś inny estymator jest zgodny i ma asymptotyczny rozkład normalny, to jest macierzą dodatnio półokreśloną.

Własności estymatora MNW Niezmienniczość („invariance”): jeśli estymator MNW dla i ciągła funkcja , to jest estymatorem MNW dla . Gradient („score”) ma wartość oczekiwaną zero i wariancję

Estymacja modelu liniowego

Estymacja modelu liniowego Wektor nieznanych parametrów: Po maksymalizacji logarytmu funkcji wiarygodności mamy: obciążony estymator, ale zgodny

Estymacja modelu liniowego Macierz informacji … i jej odwrotność

Estymacja modelu liniowego Wartość funkcji wiarygodności dla oszacowanych parametrów:

Test ilorazu wiarygodności Likelihood ratio (LR) test: Iloraz wiarygodności: Statystyka testowa:

Test ilorazu wiarygodności F. wiarygodności modelu z restrykcjami: Estymator identyczny jak dla MNK przy warunkach pobocznych

Test ilorazu wiarygodności Formuła testu LR dla modelu liniowego

Test Walda Analogicznie do MNK można wyprowadzić statystykę testu Walda dla MNW:

Test mnożnika Lagrange’a Langrange Multiplier (LM) test – score test: Do testowania wystarczy oszacować model z restrykcjami!

Test mnożnika Lagrange’a Dla modelu liniowego Dla

Test mnożnika Lagrange’a Po wyprowadzeniu:

Porównanie testów Która statystyka największa? W ≥ LR ≥ LM .

Pytania dodatkowe Jaką formę modelu („z restrykcjami” czy „bez restrykcji”) należy oszacować przy stosowaniu testu F, Walda, LM i LR?