Metody Symulacyjne w Telekomunikacji (MEST) Wykład 6/7: Analiza statystyczna wyników symulacyjnych  Dr inż. Halina Tarasiuk (halina@tele.pw.edu.pl), p. 337, tnt.tele.pw.edu.pl

Zagadnienia Podstawowe pojęcia Analiza wariancji Przedziały ufności Praktyczne zastosowanie rozkładu t-Studenta Rodzaje symulacji a analiza wyników

Zagadnienia Podstawowe pojęcia Analiza wariancji Przedziały ufności Praktyczne zastosowanie rozkładu t-Studenta Rodzaje symulacji a analiza wyników

Podstawowe pojęcia Rozważmy n zmiennych losowych Cel X1, X2, ..., Xn Dyskusja pewnych charakterystyk dla zmiennej losowej Xi Pewne pomiary zależności, które mogą wystąpić między dwoma zmiennymi losowymi Xi i Xj

Podstawowe pojęcia Wartość średnia/wartość oczekiwana Mediana Wariancja Odchylenie standardowe Kowariancja

Wartość średnia/wartość oczekiwana Wartość średnią lub oczekiwaną zmiennej losowej Xi (gdzie i=1, 2, ..., n) będziemy oznaczać jako i lub E(Xi)

Wartość średnia/wartość oczekiwana Własności Przyjmijmy, że c lub ci oznaczają stałą (liczbę rzeczywistą) (1) (2) nawet jeśli Xi są zależne

Wartość średnia/wartość oczekiwana Przykład Załóżmy, że zmienna losowa dyskretna X przyjmuje wartości 1, 2, 3, 4 odpowiednio z prawdopodobieństwem 1/6, 1/3, 1/3, 1/6. Wówczas wartość średnia wynosi: ? Załóżmy, że zmienna losowa jest opisana rozkładem równomiernym na przedziale [0,1]. Wówczas wartość średnia wynosi: ?

Wartość średnia/wartość oczekiwana Przykład Załóżmy, że zmienna losowa dyskretna X przyjmuje wartości 1, 2, 3, 4 odpowiednio z prawdopodobieństwem 1/6, 1/3, 1/3, 1/6. Wówczas wartość średnia wynosi: Załóżmy, że zmienna losowa jest opisana rozkładem równomiernym na przedziale [0,1]. Wówczas wartość średnia wynosi:

Mediana Mediana (zwana też wartością środkową lub drugim kwantylem) to w statystyce wartość cechy w szeregu uporządkowanym, powyżej i poniżej której znajduje się jednakowa liczba obserwacji. Mediana jest kwantylem rzędu 1/2. Aby obliczyć medianę ze zbioru n obserwacji, sortujemy je w kolejności od najmniejszej do największej i numerujemy od 1 do n. Następnie, jeśli n jest nieparzyste, medianą jest wartość obserwacji w środku (czyli obserwacji numer (n+1)/2). Jeśli natomiast n jest parzyste, wynikiem jest średnia arytmetyczna między dwiema środkowymi obserwacjami, czyli obserwacją numer n/2 i obserwacją numer (n/2)+1.

Mediana Mediana x0.5 zmiennej losowej Xi jest zdefiniowana jako najmniejsza wartość x, taka że dla zmiennej losowej ciągłej f(x) Obszar=0.5 x x0.5

Mediana Przykład Rozważmy zmienną losową X, która przyjmuje wartości 1, 2, 3, 4, i 5 z prawdopodobieństwem 0.2. Wartość średnia i mediana wynoszą ? Rozważmy zmienną losową Y, która przyjmuje wartości 1, 2, 3, 4 i 100 z prawdopodobieństwem 0.2. Wartość średnia i mediana wynoszą odpowiednio ? i ?

Mediana Przykład Rozważmy zmienną losową X, która przyjmuje wartości 1, 2, 3, 4, i 5 z prawdopodobieństwem 0.2. Wartość średnia i mediana wynoszą 3. Rozważmy zmienną losową Y, która przyjmuje wartości 1, 2, 3, 4 i 100 z prawdopodobieństwem 0.2. Wartość średnia i mediana wynoszą odpowiednio 22 i 3. W rozważanych przypadkach mediana nie jest wrażliwa na zmianę rozkładu

Wariancja Wariancja zmiennej losowej Xi o wartości oczekiwanej  zdefiniowana jest następująco Wariancję oznaczamy również jako Var(Xi)

Wariancja Wariancja jest miarą zmienności/rozrzutu zmiennej losowej od wartości średniej Im wariancja jest większa, tym zmienna losowa przyjmuje wartości bardziej oddalone od wartości średniej Funkcja gęstości dla zmiennych losowych ciągłych o dużej i małej wariancji

Wariancja Przykłady Załóżmy, że zmienna losowa dyskretna X przyjmuje wartości 1, 2, 3, 4 odpowiednio z prawdopodobieństwem 1/6, 1/3, 1/3, 1/6. Wówczas wariancja wynosi: E(X2) = ? Var(X) = ? Załóżmy, że zmienna losowa jest opisana rozkładem równomiernym na przedziale [0,1]. Wówczas wariancja wynosi:

Wariancja Przykłady Załóżmy, że zmienna losowa dyskretna X przyjmuje wartości 1, 2, 3, 4 odpowiednio z prawdopodobieństwem 1/6, 1/3, 1/3, 1/6. Wówczas wariancja wynosi: E(X2)=43/6 Var(X)=11/12

Wariancja Przykłady Załóżmy, że zmienna losowa jest opisana rozkładem równomiernym na przedziale [0,1]. Wówczas wariancja wynosi: E(X2)=1/3 Var(X)=1/12

Wariancja Własności (1) (2) (3)

Odchylenie standardowe Odchylenie standardowe zmiennej losowej Xi definiujemy jako Własności Jest wyrażane w tych samych jednostkach, co wartości cechy

Kowariancja Zależność liniowa między zmiennymi losowymi Kowariancja między zmienną losową Xi i Xj, która jest miarą ich zależności liniowej jest oznaczana jako Cij lub Cov(Xi, Xj) i jest zdefiniowana następująco

Kowariancja Jeśli Cij=0, wówczas zmienne losowe są nie skorelowane Jeśli Cij>0, wówczas zmienne losowe są skorelowane dodatnio Jeśli Cij<0, wówczas zmienne losowe są skorelowane ujemnie

Zagadnienia Podstawowe pojęcia Analiza wariancji Przedziały ufności Praktyczne zastosowanie rozkładu t-Studenta Rodzaje symulacji a analiza wyników

Zagadnienia Podstawowe pojęcia Analiza wariancji Przedziały ufności Praktyczne zastosowanie rozkładu t-Studenta Rodzaje symulacji a analiza wyników

Analiza wariancji Wyniki symulacji a procesy stochastyczne Estymacja wartości średniej, wariancji i korelacje

Wyniki symulacji a procesy stochastyczne (1) Ponieważ większość modeli symulacyjnych używa zmiennych losowych jako parametrów wejściowych, wyniki symulacyjne są również losowe Dlatego, należy bardzo ostrożnie wnioskować na podstawie otrzymanych wyników o ich „prawdziwości”

Wyniki symulacji a procesy stochastyczne (2) Proces stochastyczny jest zbiorem „podobnych” zmiennych losowych uporządkowanych w czasie, które są zdefiniowane we wspólnej przestrzeni próby Zbiór wszystkich możliwych wartości, które te zmienne losowe mogą przyjąć określamy jako przestrzeń stanu W przypadku zbioru X1, X2, ... Mówimy o dyskretnym w czasie procesie stochastycznym W przypadku, gdy {X(t), t0}, wówczas mamy ciągły w czasie proces stochastyczny

Wyniki symulacji a procesy stochastyczne (3) Aby wnioskować o danym procesie stochastycznym na podstawie otrzymanych wyników symulacji, często musimy przyjąć pewne założenia, które niekoniecznie muszą być do końca prawdziwe (jednak, często bez takich założeń, analiza statystyczna wyników symulacji byłaby niemożliwa) Przykładem, jest założenie, że proces stochastyczny jest procesem stacjonarnym z punktu widzenia kowariancji

Wyniki symulacji a procesy stochastyczne (4) Mówimy, że dyskretny w czasie proces stochastyczny X1, X2, ... Ma ustaloną kowariancję, jeśli i= dla i=1, 2, ... i -<< i= dla i=1, 2, ... i 2< oraz Ci, j+1=Cov(Xi, Xi+j) dla j=1, 2, ... Czyli dla powyższego procesu wartość średnia i wariancja są ustalone w czasie, zaś kowariancja między Xi i Xj+i zależy tylko od j, nie zaś od rzeczywistego czasu i lub j+i

Wyniki symulacji a procesy stochastyczne (5) Dla procesu stochastycznego o ustalonej kowariancji, kowariancję i korelację między Xi i Xi+j oznaczamy odpowiednio przez Cj oraz j, gdzie

Wyniki symulacji a procesy stochastyczne (6) Jeśli X1, X2, ... stanowią proces stochastyczny zaczynający się w zerowej chwili czasowej symulacji jest bardzo prawdopodobne, że proces nie jest procesem o ustalonej kowariancji Jednakże dla pewnych symulacji proces Xk+1, Xk+2 będzie w przybliżeniu procesem o ustalonej kowariancji jeśli k jest wystarczająco duże, gdzie k jest długością tzw. czasu rozbiegu

Estymacja wartości średniej, wariancji i korelacje (1) Załóżmy, że X1, X2, ..., Xn są zmiennymi losowymi niezależnymi o takim samym rozkładzie (obserwacjami) o średniej  dla skończonej populacji i o wariancji 2 dla skończonej populacji oraz, że naszym głównym celem jest oszacowanie , zaś oszacowanie 2 jest kolejnym celem.

Estymacja wartości średniej, wariancji i korelacje (2) Wówczas wartość średnia dla próby jest tzw. estymatorem nieobciążonym (punktowym) wartości , czyli Intuicyjnie, jest nieobciążonym estymatorem średniej  wówczas, gdy wykonamy bardzo dużą liczbę niezależnych eksperymentów, z których każdy da wynik Wówczas średnia z otrzymanych powinna wynieść 

Estymacja wartości średniej, wariancji i korelacje (3) Podobnie wariancja próby jest nieobciążonym estymatorem 2, dopóki E[S2(n)]= 2

Estymacja wartości średniej, wariancji i korelacje (4) Problem z użyciem jako estymatora  bez żadnej dodatkowej informacji polega na tym, że nie ma sposobu na określenie jak bardzo jest zbliżone do  Ponieważ jest zmienną losową o wariancji Dlatego typowym podejściem dla udowodnienia dokładności estymatora wobec  jest zastosowanie tzw. przedziałów ufności

Estymacja wartości średniej, wariancji i korelacje (5) Jednakże pierwszym krokiem do stworzenia przedziałów ufności jest estymacja wariancji wartości średniej. Ponieważ

Estymacja wartości średniej, wariancji i korelacje (6) Ogólnie im większy rozmiar próby, n, tym bliższym oszacowaniem  będzie Ponadto nieobciążony estymator wariancji jest oszacowywany przez zastąpienie 2 przez S2(n)

Estymacja wartości średniej, wariancji i korelacje (7) Ostatecznie Należy zauważyć, że powyższe wyrażenie ma w mianowniku n i n-1 ze względu na Xi jak i

Zagadnienia Podstawowe pojęcia Analiza wariancji Przedziały ufności Praktyczne zastosowanie rozkładu t-Studenta Rodzaje symulacji a analiza wyników

Przedziały ufności (1) Przedziały ufności dla  Załóżmy, że X1, X2, ..., Xn są zmiennymi losowymi niezależnymi o takim samym rozkładzie (obserwacjami) o skończonej średniej  i o skończonej wariancji 2 oraz, że 2 >0

Przedziały ufności (2) Graniczne twierdzenie centralne Niech Zn będzie zmienną losową i niech Fn(z) będzie dystrybuantą zmiennej losowej Zn dla próby o rozmiarze n

Przedziały ufności (3) Graniczne twierdzenie centralne jeśli n jest wystarczająco duże wówczas zmienna losowa Zn będzie miała rozkład zbliżony do rozkładu normalnego Na podstawie teorii możemy przyjąć, że zmienna losowa ma w przybliżeniu rozkład normalny z wartością średnią  i wariancją 2/n

Przedziały ufności (4) Graniczne twierdzenie centralne Trudność w zastosowaniu tej teorii polega na tym, iż w praktyce wariancja 2 jest nieznana. Jednak dla dużego n 2 możemy zastąpić przez wariancję próbkową w wyrażeniu na Zn Po tych zmianach teoria mówi, że dla wystarczająco dużego n, zmienna losowa tn ma rozkład zbliżony do rozkładu normalnego

Przedziały ufności (5) Dla dużego n gdzie 0<<1

Przedziały ufności (6) Dlatego też dla wystarczająco dużego n przybliżony przedział ufności na poziomie ufności 100(1-) procent dla  wynosi

Zagadnienia Podstawowe pojęcia Analiza wariancji Przedziały ufności Praktyczne zastosowanie rozkładu t-Studenta Rodzaje symulacji a analiza wyników

Praktyczne zastosowanie rozkładu t-Studenta (1) W praktyce trudno jest określić, co oznacza wystarczająco duża liczba prób n Dlatego dla oszacowania przedziałów ufności stosuje się rozkład t-Studenta z n-1 stopniami swobody

Praktyczne zastosowanie rozkładu t-Studenta (2) Jeśli Xi są zmiennymi losowymi o rozkładzie normalnym, zmienna losowa ma rozkład t z n-1 stopniami swobody, wówczas dokładny przedział ufności na poziomie 100(1-) dla  wynosi

Praktyczne zastosowanie rozkładu t-Studenta (3) - przykład Dla 10 prób należy wyznaczyć wartości liczbowe końcowe przedziału ufności dla wartości średniej przyjmując poziom ufności 1-=0.95. Wartości zmiennej losowej wynoszą odpowiednio: 1472.116 1456.113 1471.995 1481.456 1491.801 1485.368 1496.552 1456.148 1496.655 1488.660

Zagadnienia Podstawowe pojęcia Analiza wariancji Przedziały ufności Praktyczne zastosowanie rozkładu t-Studenta Rodzaje symulacji a analiza wyników

Rodzaje symulacji a analiza wyników Symulacja przerywana Parametry ustalone Symulacja nieprzerywalna Parametry dla ustalonego cyklu Inne parametry

Rodzaje symulacji a analiza wyników Symulacja przerywana W symulacji tej zdefiniowane jest pewne „naturalne” zdarzenie E, które określa długość każdej symulacji (powtórzenia)

Symulacja przerywana Analiza statystyczna Założenia Przeprowadzamy n niezależnych przerywanych symulacji Każde powtórzenie jest przerywane przez zdarzenie E i rozpoczyna się z tymi samymi warunkami początkowymi. Niezależność powtórzeń jest osiągana przez użycie innych liczb losowych dla każdego powtórzenia Dla uproszczenia przyjmijmy, że realizujemy pomiar jednej metryki Niech Xj będzie zmienną losową zdefiniowaną dla j-tego powtórzenia, j=1, 2, ..., n. Przyjmuje się, że Xj są porównywalne dla różnych powtórzeń Wówczas Xj są zmiennymi losowymi IID (independent and identicaly distributed)

Symulacja przerywana Estymacja wartości średniej Odbywa się na podstawie rozkładu t-Studenta