Ekonometryczne modele nieliniowe Regresja nieparametryczna
Literatura B. Hansen (2014) Econometrics, … rozdz. 11
Regresja nieparametryczna względem pojedynczej zmiennej Warunkowa wartość oczekiwana: Nieznana postać funkcyjna Dwie popularne metody estymacji kernel estimators series estimators
Przybliżenie wokół punktu x Estymator funkcji warunkowej wartości oczekiwanej: Inny zapis:
Przykład Źródło: Hansen (2014), s. 244. 𝑥 𝑖 ~𝑁 4,1 , 𝑦 𝑖 | 𝑥 𝑖 ~𝑁 𝑚 𝑥 𝑖 ,16 , 𝑚 𝑥 =10ln(𝑥) (1) uniform kernel, (2) Epanechnikov kernel
Regrersja jądrowa (kernel regression) Funkcja jądrowa: Nadaraya-Watson (NW) estimator [kernel regression estimator, local constant estimator]:
Regresja jądrowa Typowe funkcje jądrowe R – „roughness”
Regresja jądrowa Własność estymatora NW: dlatego „local constant estimator” Alternatywa: local linear (LL) estimator
Regresja jądrowa Estymator LL. Wzór: dla każdego 𝑥: gdzie:
Przykład Źródło: Hansen (2014), s. 248
Regresja jądrowa Reszty Problem: Typowe rozwiązanie: „leave-one-out cross-validation”
Regresja jądrowa Podobnie dla modelu LL:
Regresja jądrowa Wybór parametru wygładzania h: Kryterium kroswalidacji (cross-validation criterion) Reszta dla obserwacji 𝑖: Przeszukiwanie po kratownicy…
Przykład Źródło: Hansen (2014), s. 248
Regresja jądrowa Wariancja estymatora NW: Estymator wariancji: Możliwość konstrukcji przedziału ufności:
Regresja jądrowa Wiele regresorów: Wielowymiarowa funkcja jądrowa:
Regresja jądrowa Estymator NW: Estymator LL: