Własności asymptotyczne ciągów zmiennych losowych

Prezentacja na temat: "Własności asymptotyczne ciągów zmiennych losowych"— Zapis prezentacji:

1 Własności asymptotyczne ciągów zmiennych losowych
Wykład nr 5

2 Zbieżność… …ciągu …nie zawsze istnieje, ale zawsze istnieją:

3 Zbieżność …ciągów zmiennych losowych z prawdopodobieństwem

4 Prawa wielkich liczb Nierówność Czebyszewa Przykład ==> czyli

5 Prawa wielkich liczb Słabe prawo wielkich liczb
Zastosowanie: estymator zgodny

6 Prawa wielkich liczb Zbieżność prawie na pewno…
…implikuje zbieżność z prawdopodobieństwem

7 Prawa wielkich liczb Mocne prawo wielkich liczb

8 Prawa wielkich liczb Dla wektora zmiennych miara euklidesowa:
Równoważność założeń

9 Prawa wielkich liczb Wektor średnich z próby losowej
Słabe prawo wielkich liczb dla wektorów…

10 Zbieżność …z dystrybuantą
przydatna do przybliżania prawdziwych nieznanych rozkładów zmiennych losowych

11 Zbieżność z dystrybuantą
Funkcja charakterystyczna zmiennej losowej Twierdzenie Lévy’ego-Craméra „o ciągłości”

12 Zbieżność z dystrybuantą
Twierdzenie Craméra-Wolda

13 Centralne twierdzenie graniczne
Interesuje nas przybliżenie rozkładu średniej Z SPWL wiemy, że ==> Przypomnijmy, że czyli Przeskalujmy:

14 Centralne twierdzenie graniczne
Twierdzenie Lindeberga-Lévy'ego

15 Centralne twierdzenie graniczne
Wersja dla różnych rozkładów

16 Centralne twierdzenie graniczne
Jeśli i to

17 Centralne twierdzenie graniczne
…dla zmiennych wielowymiarowych:

18 Centralne twierdzenie graniczne
…i „uproszczenie”

19 Momenty wyższych rzędów
Analizujemy transformację zmiennej losowej Estymator momentów:

20 Momenty wyższych rzędów
…oraz dla wyskalowanej zmiennej

21 Funkcje momentów Rozpatrzmy teraz parametr będący funkcją momentów
Na przykład: średnia geometryczna płac Przykład: wariancja zmiennej

22 Funkcje momentów Kolejny przykład: parametr skośności wtedy: oraz

23 Estymatory wykorzystujące funkcje momentów
Estymatory „wtyczkowe” (plug-in estimators) zamiana nieznanego parametru przez jego szacunek Chcemy znać więc: liczymy podstawiamy

24 Estymatory wykorzystujące funkcje momentów
Przykład: średnia geometryczna płac Przykład: wariancja zmiennej

25 Estymatory wykorzystujące funkcje momentów
Przykład: parametr skośności krok 1: krok 2:

26 Estymatory wykorzystujące funkcje momentów
Twierdzenie o zachowaniu granic przez funkcje ciągłe Przykład: jeżeli przy , to

27 Estymatory wykorzystujące funkcje momentów
Twierdzenie Czyli estymatory „wtyczkowe” są zgodne dla ciągłych funkcji

28 Estymatory wykorzystujące funkcje momentów
Rozszerzenie twierdzenia o zachowaniu granic

29 Estymatory wykorzystujące funkcje momentów
Twierdzenia Słuckiego …to szczególny (i przydatny) przypadek CMT

30 Metoda delty Wcześniejsze teorie nie dają wiedzy o rozkładzie estymatora… Twierdzenie: metoda delty

31 Estymatory wykorzystujące funkcje momentów
Połączenie twierdzeń Zgodność wymaga: skończonej średniej dla i ciągłej Asymptotyczna normalność wymaga: skończonej wariancji i ciągłej pochodnej z

32 Notacja Oznaczenia zbieżności zwykłych ciągów to przy to przy
to ograniczony jednostajnie w , tzn. istnieje takie , że dla wszystkich to

33 Notacja Oznaczenia zbieżności ciągów zm. losowych
to przy to Na przykład dla zgodnego estymatora mamy: to jest ograniczony w prawdopodobieństwie, tzn. dla dowolnego istnieje takie, że to:

34 Zbieżność ciągów zmiennych losowych
Implikacja: > Implikacja: > dla takiego , że Przykład: > Dla estymatora spełniającego mamy lub inaczej

35 Zbieżność ciągów zmiennych losowych
Twierdzenie Ciąg losowy z ograniczonym momentem jest stochastycznie ograniczony

36 Zbieżność ciągów zmiennych losowych
Własności zbieżnych ciągów losowych:

37 Półparametryczna efektywność
Czy średnia z próby i estymator „wtyczkowy” są efektywnymi estymatorami? Kiedy znany jest rozkład zmiennej losowej, to czasami można znaleźć dokładniejszy estymator niż średnia z próby Interesuje nas sytuacja, kiedy rozkład nieznany

38 Półparametryczna efektywność
Wiemy, że estymowany parametr jest skończenie wymiarowy i nic nie wiemy o innych cechach rozkładu Estymator półparametrycznie efektywny, kiedy ma najmniejszą asymptotyczną wariancję wśród półparametrycznych estymatorów

39 Półparametryczna efektywność
Model półparametryczny można rozbić na zbiór modeli parametrycznych Dla modeli parametrycznych można znaleźć dolne ograniczenie wariancji Cramera-Rao. Dolne ograniczenie wariancji modelu semiparametrycznego zdefiniowane jako supremum indywidualnych ograniczeń wariancji

40 Półparametryczna efektywność
Supremum wariancji Cramera-Rao z ograniczeń wariancji submodeli jest zawsze niższe lub równe asymptotycznej wariancji półparametrycznych estymatorów. to półparametryczne asymptotyczne ograniczenie lub semiparametryczne efektywne ograniczenie

41 Półparametryczna efektywność
Twierdzenie o estymatorze średniej - klasa rozkładów ze skończoną wariancją

42 Półparametryczna efektywność
Dla klasy modeli mamy twierdzenie dla „wtyczkowego” estymatora Czyli gładkie funkcje momentów z próby są efektywnymi estymatorami parametrów z populacji