Metody Eksploracji Danych (2)

Prezentacja na temat: "Metody Eksploracji Danych (2)"— Zapis prezentacji:

1 Metody Eksploracji Danych (2)
Repetytorium z probabilistyki i statystyki podstawowe pojęcia szeregi rozdzielcze, czasowe wykresy statystyczne statystyka opisowa zmienna losowa i jej parametry dystrybuanta i funkcja gęstości korelacja wnioskowanie statystyczne

2 Podstawowe pojęcia Populacja jest to zbiór wszystkich elementów reprezentujących analizowany problem (zjawisko). Może być zbiorem skończonym, przeliczalnym lub nieprzeliczalnym. Próba statystyczna – to podzbiór właściwy elementów badanej populacji, będący podstawą wnioskowania statystycznego o populacji. KISIM, WIMiIP, AGH

3 • Wnioskowanie statystyczne.
Podstawowe cele badań statystycznych; statystycznej analizy zbiorów danych • Badanie struktury populacji, reprezentowanej przez zbiór (danych) wartości wybranych cech (zmiennych) i jej: wizualizacja w postaci rozkładów tych zmiennych bądź charakterystyka przy zastosowaniu parametrów statystyki opisowej. • Odkrywanie i określanie (charakteru, siły, kierunku) zależności występujących w zbiorach danych reprezentujących różne cechy badanych obiektów, zjawisk, procesów. • Wnioskowanie statystyczne. KISIM, WIMiIP, AGH

4 Badania statystyczne – próby losowe
Losowy dobór próby polega na tym, że o fakcie znalezienia się poszczególnych elementów populacji w próbie decyduje przypadek. Jest to taki sposób wyboru przy którym spełnione są następujące dwa warunki; każda jednostka populacji ma dodatnie, znane prawdopodobieństwo znalezienia się w próbie istnieje możliwość ustalenia prawdopodobieństwa znalezienia się w próbie dla każdego zespołu elementów populacji KISIM, WIMiIP, AGH

5 Wybór próby reprezentatywnej
Od próby wymaga się reprezentatywności, czyli aby z przyjętą dokładnością opisywała strukturę badanej populacji. O reprezentatywności decydują dwa czynniki: • Liczebność (n) • Sposób doboru grupy Wybór celowy, o przynależności do grupy decyduje badacz, stopień reprezentatywności zależy wyłącznie od jakości selekcji Wybór losowy – każdy element populacji ma jednakową szansę znalezienia się w próbie z takim samym prawdopodobieństwem, stopień reprezentatywności rośnie wraz ze wzrostem liczebności grupy. Stosowane są dwie techniki losowania: Losowanie niezależne (zwrotne) Losowanie zależne (bezzwrotne) KISIM, WIMiIP, AGH

6 Rodzaje szeregów statystycznych
Badana cecha przyjmuje niewielką liczbę jednostek (mała grupa). Porządkowana rosnąco lub malejąco Charakteryzują stan badanej zbiorowości w określonym momencie (np. w danym miesiącu, roku). Przedstawiają więc populację w układzie statycznym i służą do analizy jej struktury. dane ilościowe Szeregi przestrzenne przedstawiają rozmieszczenie wielkości statystycznych według podziału administracyjnego (gmina, powiat, województwo, krajów, regionów geograficznych). dane jakościowe proste skumulowane proste skumulowane KISIM, WIMiIP, AGH

7 Szereg czasowy Szereg czasowy jest to skończony zbiór par {t, xt}, gdzie t przybiera wartości ze zbioru liczb naturalnych i każdemu t przyporządkowana jest liczba xt. Szereg czasowy to ciąg zmiennych losowych lub inaczej proces stochastyczny z dyskretnym czasem. Szereg czasowy jest realizacją procesu stochastycznego. Przykłady ekonomicznych szeregów czasowych: dochód narodowy w Polsce w latach , indeks cen dóbr i usług konsumpcyjnych w okresie od stycznia 1995 do grudnia 2004, dzienny kurs dolara w NBP w okresie od 1 stycznia 2000 do 31 grudnia 2004, ceny akcji na giełdzie w notowaniach ciągłych obserwowane co minutę w okresie od 1 stycznia 2005 do 30 czerwca 2005. KISIM, WIMiIP, AGH

8 Szereg czasowy, dynamiczny, chronologiczny
Internetoholicy pojawili się w Polsce już w 1993r. Tabela zawiera dane o liczbie zgłaszających się do najstarszej w Polsce przychodni Szereg dynamiczny otrzymuje się w wyniku grupowania typologicznego (wyodrębniającego różne jakościowo cechy) i wariancyjnego (porządkującego zbiorowość przez łączenie w klasy jednostek mających odpowiednie wartości cech) gdy podstawą grupowania jest zmiana badanego zjawiska w czasie KISIM, WIMiIP, AGH

9 Szereg rozdzielczy prosty
Przy budowie szeregu rozdzielczego wyróżnia się trzy etapy: Ustalenie liczby klas oraz wielkości przedziałów klasowych Przyporządkowanie danych przyjętym przedziałom klasowym Zliczanie liczby jednostek w każdej klasie Liczba klas k zależy przede wszystkim od liczby obserwacji n. Stosowane bywają następujące wzory pomocne do szacowania liczby przedziałów budowanego szeregu rozdzielczego: k=1+3,322 log n KISIM, WIMiIP, AGH

10 Szereg rozdzielczy skumulowany Dystrybuanta empiryczna
KISIM, WIMiIP, AGH

11 Histogram Histogram to jeden z graficznych sposobów przedstawiania rozkładu cechy. Składa się z szeregu prostokątów umieszczonych na osi współrzędnych. Prostokąty te są wyznaczone przez przedziały klasowe wartości cechy; szerokość przedziału; krok natomiast ich wysokość jest określona przez liczebności częstości elementów należących do określonego przedziału klasowego. KISIM, WIMiIP, AGH

12 Wykresy Wielobok liczebności Histogram KISIM, WIMiIP, AGH

13 Statystyka Opisowa Wyróżnia się następujące grupy parametrów statystycznych: • Miary położenia / skupienia/ koncentracji średnia, moda, mediana, max, min, kwantyle) • Miary zmienności pozycyjne: rozstęp, odchylenie ćwiartkowe, odchylenie przeciętne, wsp. zmienności klasyczne: wariancja, odchylenie standardowe, klasyczny wsp. zmienności • Miary asymetrii i Graficzna interpretacja statystyk KISIM, WIMiIP, AGH

14 Moda (dominanta) W rozkładach empirycznych określa się dominantę (modę), najczęściej występującą wartość cechy gdzie x0 – dolna granicą przedziału w którym występuje moda, hm – rozpiętość przedziału klasowego, nm, nm-1, nm+1– liczebności odpowiednio przedziału z modą, poprzedniego i następnego KISIM, WIMiIP, AGH

15 Miary zmienności (rozproszenia) danych – interpretacja graficzna odchylenia standardowego
Odchylenie standardowe w zbiorowości (1) jest mniejsze niż w zbiorowości (2). Diagram (1) jest smuklejszy i wyższy. s1 < s2 KISIM, WIMiIP, AGH

16 Praktyczne wykorzystanie miar zmienności
• Przedział TYPOWYCH wartości cechy (miary klasyczne) • Przedział taki ma tą własność, że około 70% jednostek badanej zbiorowości charakteryzuje się wartością cechy należącą do tego przedziału. KISIM, WIMiIP, AGH

17 Reguła „3 sigma” KISIM, WIMiIP, AGH

18 Porządkowanie zbioru danych identyfikacja omyłek (błędów grubych)
KISIM, WIMiIP, AGH

19 Charakterystyczne cechy rozkładów: punkty skupienia, asymetria, rozrzut
KISIM, WIMiIP, AGH

20 Podstawowe twierdzenia o prawdopodobieństwie
P(A’) = 1- P(A), gdy A’ = Ω-A P(AB) = P(A)+P(B)-P(AB) P(A/B) = P(A  B)/P(B) P(A  B) = P(A)*P(B)  A i B są niezależne Tw. o prawdopodobieństwie całkowitym Zał.: A1  A2  ….  An= Ω , Ai  Aj =∅  i,j =1,2,…,n Teza: P(B) = P(B/A1)*P(A1)+…..+ P(B/An)*P(An) Tw. Bayesa Z: A1  A2  ….  An= Ω , Teza: P(Ai/B) = P(B/Ai)*P(Ai)/P(B) KISIM, WIMiIP, AGH

21 Określam zmienną losową X w następujący sposób: X(ωd)=1 X(ωw)=0
Definiowanie zmiennej losowej jest to przypisanie wartości liczbowych zdarzeniom elementarnym. Z partii wyrobów zawierającej wyroby dobre i wyroby wadliwe losuję jeden wyrób, wtedy Ω = {ωd, ωw} gdzie ωd – oznacza wylosowanie wyrobu dobrego ωw – oznacza wylosowanie wyrobu wadliwego Określam zmienną losową X w następujący sposób: X(ωd)=1 X(ωw)=0 KISIM, WIMiIP, AGH

22 Rozkład prawdopodobieństwa zmiennej losowej
Jeżeli w przedstawionym przykładzie, dotyczącym kontroli jakości wyrobów, 90% wyrobów było dobrych, natomiast 10% stanowiły wybraki, to możemy mówić o prawdopodobieństwie zdarzeń („dwupunktowym”rozkładzie prawdopodobieństwa) P({ω : X(ω)=0}) = 0,1 P({ω : X(ω)=1}) = 0,9 Natomiast poniższa tabelka ilustruje KISIM, WIMiIP, AGH

23 Rozpatrujemy zmienną losową na przestrzeni dyskretnej:
Zmienna losowa Rozpatrujemy zmienną losową na przestrzeni dyskretnej: Przykład: Przyjmijmy, ze rzucamy kostką do gry, wtedy: KISIM, WIMiIP, AGH

24 Dystrybuanta zmiennej losowej
Dystrybuantą zmiennej losowej X nazywamy funkcję: Przykład: KISIM, WIMiIP, AGH

25 Dystrybucja zmiennej losowej – gęstość rozkładu (1)
Gęstość opisujemy wzorem: Rozkłady mające gęstość nazywane są rozkładami ciągłymi. Często mówi się o gęstości zmiennej losowej w sensie gęstości rozkładu zmiennej losowej. Funkcja gęstości prawdopodobieństwa - funkcja rzeczywista, która pozwala wyrazić prawdopodobieństwo wystąpienia dowolnego zdarzenia A przy pomocy wartości całki Lebesgue'a z tej funkcji po zbiorze A. KISIM, WIMiIP, AGH

26 Dystrybucja zmiennej losowej – gęstość rozkładu (2)
KISIM, WIMiIP, AGH

27 Parametry zmiennej losowej
Wartość oczekiwana (nadzieja matematyczna / wartość przeciętna) zmiennej losowej – średnia. Określamy ja następująco: Wariancja zmiennej losowej - rozrzut wyników wokół wartości średniej. Odchylenie standardowe: KISIM, WIMiIP, AGH

28 Rozkład normalny (Gaussa)
W empirycznych seriach czasowych najczęściej rozpatrywany jest tzw. rozkład normalny (Gaussa) gdzie μ oznacza średnią a σ odchylenie standardowe (równoważne wariancji σ2). KISIM, WIMiIP, AGH

29 Prawo Wielkich Liczb (PWL)
Średnią w prostej próbie losowej X1, X2 , .. , Xn o liczności n nazywamy statystykę Prawo Wielkich Liczb: Niech X będzie zmienną losową o wartości oczekiwanej µX i skończonej wariancji σ2X<∞ i niech X1, X2 , .. ,Xn będzie prostą próbą losową z rozkładu zmiennej X. Wówczas dla dowolnie małej dodatniej liczby ε prawdopodobieństwo jest bliskie 1 dla dużych liczności próby n. KISIM, WIMiIP, AGH

30 Centralne twierdzenie graniczne
Badana jest zmienna losowa, która jest sumą niezależnych zmiennych losowych o jednakowym rozkładzie i takiej samej wartości oczekiwanej μ i skończonej wariancji σ2. Jeśli ilość składników rośnie, to zmienna ta zbiega do rozkładu normalnego. Czyli: Sn = X1 + X Xn E[Xi] = μi (jest skończona) Var[Xi] = σi2 (jest skończona) to: ma rozkład normalny unormowany N(0, 1). KISIM, WIMiIP, AGH

31 Estymacja i estymatory
Rozpatrywane dotychczas statystyki: średnia i częstość należą do najczęściej stosowanych w praktyce. W przypadku gdy statystyki używane są do szacowania (przybliżania) nieznanych parametrów rozkładu zmiennej losowej noszą specjalną nazwę: • Statystykę T(X1,X2 ,….., Xn), służącą do oszacowania nieznanego parametru populacji nazywamy estymatorem. • Dla konkretnych wartości próby X1=x1, X2=x2 ,.., Xn=xn liczbę T(X1,X2 ,….., Xn) nazywamy wartością estymatora Cechy estymatorów: • Zgodny • Nieobciążony • Najefektywniejszy KISIM, WIMiIP, AGH

32 Estymata i estymator Należy pamiętać, że prawdziwe wartości wymienionych parametrów pozostają zazwyczaj nieznane (podobnie jak sama funkcja gęstości rozkładu). Wielkości wyznaczane na podstawie próby są tylko ich oszacowaniami (estymatami). Dla odróżnienia parametru od estymatora, te ostatnie oznaczamy daszkiem lub zupełnie innym symbolem, np.: KISIM, WIMiIP, AGH

33 Estymacja przedziałowa
Jeśli znamy odchylenie standardowe populacji σ, to nieznana wartość średnia m dla populacji generalnej znajduje się, z prawdopodobieństwem równym 1-α, w przedziale ufności, danym następującym wzorem: prawdopodobieństwo 1-α nazywamy poziomem ufności, natomiast α ― poziomem istotności. Poziom ufności określa szansę, z jaką nieznany parametr populacji generalnej znajdzie się w wyznaczonym przedziale ufności. Poziom istotności odpowiada marginesowi błędu, tj. prawdopodobieństwu, że nieznany parametr populacji będzie miał wartość leżącą poza wyznaczonym przedziałem ufności. KISIM, WIMiIP, AGH

34 Model deterministyczny
W analizie często mamy do czynienia ze zjawiskami będącymi funkcjami zdeterminowanymi. Ich wartość może być opisana za pomocą ścisłych zależności matematycznych pomiędzy zmiennymi, wyniki eksperymentów są powtarzalne, np.: ruch satelity po orbicie, zmiana temperatury wody przy podgrzewaniu, KISIM, WIMiIP, AGH

35 Model probabilistyczny
W wielu wypadkach występują jednak zjawiska niezdeterminowane, odpowiadające losowym zjawiskom fizycznym, których nie można opisać ścisłymi zależnościami. Zależność stochastyczna – występuje wtedy, gdy wraz ze zmianą wartości jednej zmiennej zmienia się rozkład prawdopodobieństwa drugiej zmiennej. Szczególnym przypadkiem zależności stochastycznej jest zależność korelacyjna (statystyczna). Polega ona na tym, że określonym wartościom jednej zmiennej odpowiadają ściśle określone średnie wartości drugiej zmiennej. Możemy zatem ustalić, jak zmieni się - średnio biorąc – wartość zmiennej zależnej Y w zależności od wartości zmiennej niezależnej X. KISIM, WIMiIP, AGH

36 Model probabilistyczny
Jeśli mamy do czynienia z czynnikiem losowym, który może obejmować również nie znane nam zmienne wpływające na wartość zmiennej zależnej. Dane = Model + Błąd Model probabilistyczny jest zawsze uproszczeniem. Jeśli zmienna zależna ma charakter ilościowy, model nazywamy modelem regresyjnym. KISIM, WIMiIP, AGH

37 Wprowadzenie do badania zależności pomiędzy danymi statystycznymi
Zwykle badane jednostki statystyczne charakteryzuje się za pomocą wielu zmiennych (cech) i wtedy ważnym jest ustalenie: – czy analizowane grupy danych, reprezentujące określone zmienne, można uznać za niezależne – jeśli hipoteza o niezależności zostaje odrzucona, należy przyjąć, że pomiędzy analizowanymi zmiennymi występuje zależność i szukamy odpowiedzi na pytanie: jaka jest jej: • siła • postać • kierunek Zależność między zmiennymi może być dwojakiego rodzaju: • funkcyjna • stochastyczna (probabilistyczna). KISIM, WIMiIP, AGH

38 KISIM, WIMiIP, AGH

39 KISIM, WIMiIP, AGH

40 Wykrywanie korelacji Obserwacja szeregów statystycznych zawierających informacje o cechach pozwala wykrywać zależności korelacyjne. Jeśli naszym celem jest analiza zachowania pewnej wielkości losowej Y, zbieramy również informacje towarzyszące, które mogą mieć znaczenie w analizie interesującej nas wielkości. Badana wartość, choć losowa, w istotny sposób zależy od innych zmiennych i zrozumienie charakteru tej zależności może być pożyteczne w wielu zadaniach np. przewidywania przyszłych wartości interesującej nas zmiennej. KISIM, WIMiIP, AGH

41 KISIM, WIMiIP, AGH

42 Miary siły i kierunku zależności
Kowariancja Wzór na obliczanie estymatora kowariancji na podstawie danych empirycznych Dodatnia wartość kowariancji mówi nam, że przy wzroście X wartości Y również rosną KISIM, WIMiIP, AGH

43 Cechy kowariancji Jeśli zmienne X i Y są niezależne to cov (X,Y) =0
Znak kowariancji wskazuje kierunek zmian Wadą kowariancji jest to, że jej wartość zależy od jednostek pomiaru cech Można udowodnić, że -sx sy  cov (X,Y)  sx sy po podzieleniu kowariancji przez iloczyn odchyleń standardowych zmiennych X i Y otrzymuje się bezwymiarową miarę intensywności powiązania pomiędzy zmiennymi X i Y , jest to: współczynnik korelacji liniowej Pearsona – oznaczany przez literę , a jego estymator literę r KISIM, WIMiIP, AGH

44 Współczynnik korelacji
gdzie xi oraz yi oznaczają odpowiednio wartości zmiennych x i y, x oraz y oznaczają średnie wartości tych zmiennych, sx, sy – odchylenia standardowe tych cech. Współczynnik korelacji (wsp. korelacji liniowej Pearsona) – jest miernikiem siły związku prostoliniowego między dwiema cechami mierzalnymi. Jest wyznaczony przez standaryzację kowariancji. KISIM, WIMiIP, AGH

45 Współczynnik korelacji liniowej (2)
Statystyką, która opisuje siłę liniowego związku pomiędzy dwiema zmiennymi jest współczynnik korelacji z próby (r). Przyjmuje on wartości z przedziału domkniętego <-1; 1>. Wartość -1 oznacza występowanie doskonałej korelacji ujemnej (to znaczy sytuację, w której punkty leżą dokładnie na prostej, skierowanej w dół), a wartość 1 oznacza doskonałą korelację dodatnią (punkty leżą dokładnie na prostej, skierowanej w górę). Wartość 0 oznacza brak korelacji liniowej Wielkość współczynnika podlega wpływom wartości skrajnych – to jego wada KISIM, WIMiIP, AGH

46 Współczynnik korelacji (3)
r – współczynnik korelacji r=0 zmienne nie są skorelowane 0,0 ≤ r < 0,1 korelacja nikła 0,1 ≤ r < 0,3 korelacja słaba 0,3 ≤ r < 0,5 korelacja przeciętna 0,5 ≤ r < 0,7 korelacja wysoka 0,7 ≤ r < 0,9 korelacja bardzo wysoka 0,9 ≤ r < 1 korelacja prawie pełna KISIM, WIMiIP, AGH

47 Współczynnik korelacji (4)
Powiązanie między współczynnikiem korelacji a układem punktów Wykresy, które reprezentują graficznie związek pomiędzy zmiennymi, nazywane są wykresami rozrzutu. Wzrokowa ocena umożliwia często określenie siły i rodzaju zależności. Im bliżej położone są punkty na wykresie tym większej korelacji możemy się spodziewać. Najważniejsza jest statystyczna istotność korelacji. Konieczna jest weryfikacja istotności wyliczonego z próby współczynnika. Wartość współczynnika bliska 0 oznacza jedynie brak zależności liniowej. KISIM, WIMiIP, AGH

48 Badanie istotności współczynnika korelacji liniowej
Współczynnik korelacji r (z próby) stanowi ocenę współczynnika korelacji ρ w zbiorowości generalnej. W związku z tym pojawia się potrzeba testowania jego istotności statystycznej. Formułujemy hipotezę zerową H0: ρ = 0, wobec alternatywnej: H1: ρ ≠ 0, a następnie obliczamy wartość statystyki testowej: porównujemy jej wartość z odpowiednią wartością krytyczną t ,n-2 i podejmujemy odpowiednią decyzję co do prawdziwości H0. KISIM, WIMiIP, AGH

49 Zależność od wielu zmiennych. Korelacje cząstkowe
Na pewną zmienną oddziałuje więcej niż jedna zmienna, można określić macierz korelacji. Jeśli interesuje nas związek korelacyjny jedynie między dwoma zmiennymi przy wyłączeniu wpływu pozostałych, to powinniśmy wyliczyć współczynniki korelacji cząstkowej. Załóżmy, że mamy trzy zmienne X1, X2 oraz X3. Współczynniki korelacji cząstkowej oznaczamy następująco: r12.3, r13.2, r23.1 KISIM, WIMiIP, AGH

50 Związek korelacyjny pomiędzy zmiennymi X1 i X2,
z wyłączeniem działania zmiennej X3 KISIM, WIMiIP, AGH

51 Postaci zależności Po obliczeniu wartości współczynnika korelacji zawsze zalecane jest utworzenie wykresu rozrzutu. Chodzi o to, aby wizualnie stwierdzić, czy badany związek rzeczywiście najlepiej opisuje funkcja liniowa Może się bowiem okazać, że wyliczona wartość współczynnika korelacji jest zbliżona do zera, a mimo to pomiędzy korelowanymi zmiennymi występuje współzależność, tyle że nieliniowa KISIM, WIMiIP, AGH

52 Wnioskowanie statystyczne Weryfikacja hipotez statystycznych
Każde badanie naukowe rozpoczyna się od sformułowania problemu oraz najbardziej prawdopodobnego rozwiązania czyli hipotezy badawczej. Hipoteza powinna być tak sformułowana, by można ją ocenić przyjąć lub odrzucić. Hipotezy badawcze mogą dotyczyć: wartości analizowanych zmiennych: np. wartości średniej, wartości ekstremalnych (mim, max), jednorodności - wariancji... różnicy pomiędzy wartościami określonej cechy w różnych grupach badawczych ( różnych populacjach): np. różnica w zarobkach pomiędzy kobietami i mężczyznami, albo różnice w liczbie białych krwinek u osób zdrowych i osób z zapaleniem wyrostka robaczkowego itp.. zależności pomiędzy badanymi zmiennymi np obecność na wykładach i wyniki sprawdzianów wiedzy rodzaju badanych zależności np zależność logarytmiczna, wykładnicza, liniowa... oceny charakteru rozkładu zmiennej losowej. Liczba pijanych kierowców na polskich drogach ma rozkład normalny. KISIM, WIMiIP, AGH

53 Testy statystyczne Test statystyczny jest regułą postępowania, która każdej możliwej próbie przyporządkowuje decyzję przyjęcia lub odrzucenia hipotezy. Test statystyczny jest regułą rozstrzygającą jakie wyniki próby pozwalają uznać sprawdzaną hipotezę za prawdziwą a jakie za fałszywą Każda hipoteza statystyczna jest podzbiorem zbioru hipotez dopuszczalnych, hipoteza zerowa jest tą wyróżnioną hipotezą, która podlega weryfikacji, pozostałe hipotezy ze zbioru hipotez dopuszczalnych stanowią zbiór hipotez alternatywnych. Do weryfikacji hipotezy zerowej stosuje się testy statystyczne bazujące na określonych funkcjach testowych, KISIM, WIMiIP, AGH

54 Podstawowe etapy procesu weryfikacji hipotez statystycznych
Sformułowanie hipotezy zerowej: H0 i hipotezy alternatywnej: H1 Podjęcie decyzji co do poziomu istotności  (dopuszczalnej wielkości błędu II rodzaju) oraz liczebności próby (n) Określenie obszaru krytycznego i obszaru przyjęcia sprawdzanej hipotezy H0 (wyznaczenie wartości krytycznych np u, t,r 2,r itp, dla zakładanego poziomu istotności  i wybranej funkcji testowej Wybór testu weryfikującego H0 (funkcji testowej w zależności od rodzaju hipotezy i liczności próby statystycznej) i wyliczenie jej wartości. Podjęcie decyzji weryfikacyjnej o przyjęciu hipotezy zerowej lub odrzuceniu jej na rzecz hipotezy alternatywnej KISIM, WIMiIP, AGH

55 Etapy wnioskowania statystycznego
obliczenia własne postawienie hipotezy zerowej wybór testu i sprawdzenie spełnienia założeń obliczenie wartości funkcji testowej ustalenie (odczytanie z tablic) wartości krytycznych dla danego poziomu istotności podjęcie decyzji o przyjęciu lub odrzuceniu hipotezy H0 interpretacja otrzymanych wyników STATISTICA postawienie hipotezy zerowej wybór testu i sprawdzenie spełnienia założeń wprowadzenie danych podjęcie decyzji o przyjęciu lub odrzuceniu hipotezy H0 interpretacja otrzymanych wyników KISIM, WIMiIP, AGH

56 1. Sformułowanie hipotez H0 i H1 Parametryczne testy istotności
Test dla wartości średniej w populacji generalnej Hipoteza sprawdzana (zerowa) dotyczy pewnego parametru H0: m=m0 przy jednej z hipotez alternatywnych H1: m≠m lub H1: m>m lub H1: m<m0 Hipoteza H0 : o równości średnich z n - elementowej próby i w populacji będzie zweryfikowana na podstawie wyników próby losowej. Za sprawdzian hipotezy H0 przyjmuje się określoną statystykę, zwaną także funkcją testową. Dla wartości oczekiwanej będzie to średnia arytmetyczną uzyskanych wyników z próby losowej. KISIM, WIMiIP, AGH

57 2. Przyjęcie odpowiedniego poziomu istotności  oraz liczebności próby
Przy podejmowaniu decyzji weryfikującej hipotezy możemy popełnić dwa rodzaje błędów KISIM, WIMiIP, AGH

58 Rodzaje błędów popełnianych przy weryfikacji hipotez statystycznych
Błąd I rodzaju polega na odrzuceniu hipotezy zerowej, mimo że jest prawdziwa. Przyjmowany w procesie weryfikacji hipotezy poziom istotności jest równy prawdopodobieństwu popełnienia błędu I rodzaju, zwykle =0.05 lub 0.01 Błąd II rodzaju polega za przyjęciu za prawdziwą hipotezy H0 gdy ona w rzeczywistości jest fałszywa. Przykład H0- oskarżony jest niewinny H1 - oskarżony jest winien Błąd I rodzaju : sąd skazał niewinnego: H0 prawdziwa, ale ją odrzucono Błąd II rodzaju: sąd uwolnił winnego: H1 prawdziwa, a przyjęto H0, Tu błąd I rodzaju jest znacznie bardziej dotkliwy, dlatego należy zminimalizować prawdopodobieństwo jego popełnienia (czyli dostarczyć „niezbitych” dowodów) KISIM, WIMiIP, AGH

59 Związek pomiędzy błędami I i II rodzaju: zmniejszanie wartości  pociąga wzrost wartości 
H0: =m0 H1:  >m1 Przy przyjętym poziomie istotności , obszar krytyczny obejmuje wartości średnie A, gdy P (x A)=  Dla określenia obszaru  przyjmiemy następujący zestaw hipotez H0: =m0 H1:  = m1 >m0   KISIM, WIMiIP, AGH

60 Moc testu Z przedstawionego rysunku widać, że nie jest możliwe jednoczesne minimalizowanie prawdopodobieństwa popełnienia obu błędów. Z wartością  związana jest moc testu, która jest określana jako prawdopodobieństwo odrzucenia hipotezy zerowej, gdy jest ona fałszywa, czyli wynosi 1- . Moc testu zależy od poziomu istotności , a także od postaci hipotezy alternatywnej i liczebności próby W statystyce praktycznie postępuje się podobnie jak w sądzie przyjmując zasadę domniemania prawdziwości hipotezy zerowej, co oznacza, że chcemy aby błąd I rodzaju nie często miał miejsce. Określając poziom istotności określamy granicę błędu I rodzaju, pamiętając że przyjmując niższą wartość  uzyskujemy wyższą wiarygodność hipotezy alternatywnej (jej przyjęcie jest jakby mocniej uzasadnione), ale będzie trudniej odrzucić hipotezę zerową. KISIM, WIMiIP, AGH

61 3. Określenie obszaru krytycznego i obszaru przyjęcia sprawdzanej hipotezy H0
Jeśli prawdziwa jest hipoteza zerowa, to wartość statystyki U nie powinna przekraczać pewnej wartości krytycznej u P(U  u1-/2 ) =  dwustronny obszar krytyczny P(U  u1- ) =  prawostronny obszar krytyczny P(U ≤ -u ) =  lewostronny obszar krytyczny KISIM, WIMiIP, AGH

62 H0: m=m0 H1: m<m0 P(U ≤ u ) = 
lewostronny obszar krytyczny  u  KISIM, WIMiIP, AGH

63 H0: m=m0 H1: m>m0 P(U  u ) = 
1-  u 1-  prawostronny obszar krytyczny KISIM, WIMiIP, AGH

64 H0: m=m0 H1: m≠m0 P (U  u 1-/2 ) = 
dwustronny obszar krytyczny 1-  /2 /2 u 1- /2 KISIM, WIMiIP, AGH

65 4. Wybór testu weryfikującego H0 i wyliczenie statystyki testowej
Rozważamy rozkład średnich z n-elementowej próby, jest to rozkład N(m0, σ/ ), o ile hipoteza H0 jest prawdziwa Stąd statystyka U , określona wzorem ma rozkład N(0,1), Jeśli prawdziwa jest hipoteza zerowa , to wartość statystyki U nie powinna przekraczać pewnej wartości krytycznej u  oznacza obszar zbiór nietypowych wartości statystyki testowej pod warunkiem prawdziwości hipotezy zerowej KISIM, WIMiIP, AGH

66 Funkcje testowe dla dużej próby i dla małej, gdy nieznana jest wartość wariancji w populacji
Duża próba Mała próba KISIM, WIMiIP, AGH

67 Podstawa do podjęcia decyzji weryfikacyjnej
Jeżeli obliczona wartość funkcji testowej znajdzie się w obszarze krytycznym (np. f >A) , hipotezę H0 należy odrzucić i przyjąć hipotezę H1 W programach komputerowych decyzję podejmuje się na następującej podstawie jeśli p<   H0 odrzucamy, przyjmujemy H jeśli p    nie ma podstaw do odrzucenia H0  A KISIM, WIMiIP, AGH

68 Przykład realizowany z pomocą pakietu STATISTICA
Dane z badań przeprowadzonych w 1996 roku dotyczące zarobków Polaków. Ankiety wysłano do 5000 pracowników wylosowanych przez GUS. Ankiety zwróciło 1255 osób. Arkusz zawiera następujące informacje o badanych osobach Płeć Wykształcenie Wiek Staż pracy Płaca brutto Stawiam pod wątpliwość twierdzenie, że płeć nie ma wpływu na wysokość zarobków w Polsce, jeśli by tak było to nie powinno być różnic pomiędzy średnimi wartościami zarobków kobiet i mężczyzn. Hipotezą zerową jest zdanie: Zarobki mężczyzn i kobiet nie różnią się H0 : m1=m2 przy hipotezie alternatywnej H1 : m1 m2 , KISIM, WIMiIP, AGH

69 KISIM, WIMiIP, AGH

70 Regresja liniowa KISIM, WIMiIP, AGH

71 Wybrane zagadnienia analizy regresji prostej
Analiza regresji stanowi w stosunku do analizy korelacji dalszy krok w zakresie ilościowego opisu powiązań zachodzących między zmiennymi. Pojęcie funkcji w zastosowaniu do badań empirycznych nie może być zazwyczaj stosowane bez pewnych zastrzeżeń. Z definicji funkcji wynika, że jednej wartości zmiennej niezależnej (objaśniającej, predyktora) może być przyporządkowana dokładnie jedna wartość zmiennej zależnej (objaśnianej). KISIM, WIMiIP, AGH

72 Wybrane zagadnienia analizy regresji prostej
Badacz w praktyce ma zazwyczaj do czynienia z sytuacją, w której przy kilku powtórzeniach doświadczenia, zachowując za każdym razem te same wartości zmiennej niezależnej, otrzymuje inne wartości mierzonej zmiennej zależnej. Wartości te zwykle leżą blisko siebie, ale nie są na ogół identyczne dla celów użytkowych należało pojęcie funkcji uczynić bardziej elastycznym, a terminy zmienna niezależna i zmienna zależna dostosować odpowiednio do nowych potrzeb. Do tego celu w statystyce matematycznej wprowadzono pojęcie regresji oznaczające obliczenia wykorzystywane do ilościowego opisu zależności jednej zmiennej od drugiej KISIM, WIMiIP, AGH

73 Regresja liniowa Założenia:
błędy pomiarów są niezależne i mają ten sam rozkład, przy czym Eεi=0 oraz Varεi=σ2<∞, i=1, 2, ..., n. nieznana funkcja regresji ma postać f(x)=ax+b, (występuje tylko jeden predykator), gdzie a, b są liczbami rzeczywistymi W wyniku eksperymentu obserwujemy zatem zmienne losowe Yi = axi + b + εi, i=1, ..., n inaczej: Y = β0+ β1x + ε, gdzie β 0 oznacza wyraz wolny, β1 współczynnik kierunkowy ε błąd KISIM, WIMiIP, AGH

74 Równanie regresji i współczynnik determinacji
W sytuacji jeśli wartość współczynnika determinacji R2 (wielkość ta oznacza kwadrat współczynnika korelacji) jest duża, to oznacza to, że błędy dla tego modelu są stosunkowo małe i w związku z tym model jest dobrze dopasowany do rzeczywistych danych. Zasadniczy cel analizy regresji polega na ocenie nieznanych parametrów modelu regresji. Ocena ta jest dokonywana za pomocą metody najmniejszych kwadratów (MNK). Metoda ta sprowadza się do minimalizacji sum kwadratów odchyleń wartości teoretycznych od wartości rzeczywistych (czyli tzw. reszt modelu). Dopasowany model regresji prostej, który daje punktową ocenę średniej wartości y dla określonej wartości x przyjmuje postać: y = b0+ b x gdzie y oznacza teoretyczną wartość zmiennej zależnej, a bo i b1 odpowiednio oceny wyrazu wolnego i współczynnika kierunkowego, uzyskane na podstawie wyników z próby. KISIM, WIMiIP, AGH

75 Współczynnik determinacji
r2 – współczynnik determinacji, przyjmujący wartości z przedziału [0,1], jest miarą stopnia w jakim model wyjaśnia kształtowanie się zmiennej Y. Im jego wartość jest bliższa 1, tym lepsze dopasowanie modelu do danych empirycznych KISIM, WIMiIP, AGH

76 KISIM, WIMiIP, AGH

77 Współczynniki korelacji i determinacji
Współczynniki, które otrzymujemy jeśli wcześniej dokonamy standaryzacji wszystkich zmiennych na średnią równą 0 i odchylenie standardowe równe 1. Np., Wielkość tych współczynników BETA pozwala na porównanie relatywnego wkładu każdej ze zmiennych niezależnych do predykcji zmiennej zależnej. Współczynniki regresji KISIM, WIMiIP, AGH

78 KISIM, WIMiIP, AGH

79 MNK Niech xi, ..., xn będą ustalonymi (nielosowymi) wielkościami i niech Y1, ..., Yn będą odpowiadającymi im sygnałami wyjściowymi, obarczonymi losowymi błędami εi o wartości oczekiwanej Eεi=0. Problem polega na oszacowaniu f na podstawie obserwacji par (x1, Y1), ..., (xn, Yn). Jako kryterium dopasowania funkcji f o danych eksperymentalnych można przyjąć wielkość Funkcję, która w danej klasie minimalizuje wartość J(f) nazywamy estymatorem najmniejszych kwadratów nieznanej funkcji regresji f. KISIM, WIMiIP, AGH

80 KISIM, WIMiIP, AGH

81 MNK (2) Wynik kolejnego pomiaru można przedstawić jako sumę (nieznanej) wielkości mierzonej oraz błędu pomiarowego εj, Od wielkości εi oczekujemy, aby suma kwadratów była jak najmniejsza: KISIM, WIMiIP, AGH

82 MNK (3) ay – parametr regresji (estymator współczynnika regresji)
by – wyraz wolny KISIM, WIMiIP, AGH

83 Metoda Najmniejszych Kwadratów pozwala na uzyskanie estymatorów:
MNK (4) Metoda Najmniejszych Kwadratów pozwala na uzyskanie estymatorów: Nieobciążonych – wartość przeciętna równa wartości szacowanego parametru Efektywnych – z najmniejszą wariancją Zgodnych – zwiększanie liczebności próby umożliwia uzyskiwanie estymatora o wartości coraz bliższej szacowanego parametru KISIM, WIMiIP, AGH

84 5.) składniki losowe (reszty) są nieskorelowane
Założenia MNK 1.) model jest liniowy 2.) liczba obserwacji n musi być większa lub równa liczbie oszacowanych parametrów 3.) 4.) 5.) składniki losowe (reszty) są nieskorelowane 6.) reszty mają rozkład normalny KISIM, WIMiIP, AGH

85 Ocena estymacji parametrów modelu (1)
Rozbieżność między wartościami zmiennej zależnej, a wartościami uzyskanymi z modelu można ocenić na podstawie odchylenia standardowego reszt. Wielkość ta nazywana jest błędem standardowym estymacji (1) (1) KISIM, WIMiIP, AGH

86 Ocena estymacji parametrów modelu (2)
Średni błąd szacunku parametrów – oszacowanie średniej rozbieżności pomiędzy parametrami modelu a jego możliwymi ocenami (2) (2) (3) Ilorazy t (t=bi/Sbi) wskazuje ile razy ocena parametru jest większa od jego błędu szacunku Najpopularniejszą miarą dopasowania jest współczynnik determinacji R2 (3) KISIM, WIMiIP, AGH

87 Dekompozycja wariancji zmiennej objaśnianej
Odchylenie zmiennej objaśnianej yi od wartości średniej yśr możemy przedstawić jako sumę odchylenia wartości teoretycznej od wartości średniej i reszty ei Sumę kwadratów odchyleń przedstawiamy, na podstawie założeń przyjętych w metodzie najmniejszych kwadratów: CSK – całkowita suma kwadratów WSK – wyjaśniona suma kwadratów RSK – resztowa suma kwadratów współczynnik determinacji współczynnik zbieżności KISIM, WIMiIP, AGH

88 R2 – współczynnik determinacji, przyjmujący wartości z przedziału [0,1], jest miarą stopnia w jakim model wyjaśnia kształtowanie się zmiennej Y. KISIM, WIMiIP, AGH

89 Na weryfikację modelu składają się testy sprawdzające:
Weryfikacja modelu Na weryfikację modelu składają się testy sprawdzające: Istotność parametrów modelu (test t) Istotność całego modelu (test F Fishera-Snedecora) - istotność współczynnika kierunkowego - istotność współczynnika determinacji - istotność liniowego związku między zmiennymi (analiza wariancji) Założenia MNK Zweryfikowany model może posłużyć do predykcji zmiennej zależnej KISIM, WIMiIP, AGH

90 Regresja wieloraka KISIM, WIMiIP, AGH

91 Liniowy model regresji wielorakiej:
Regresja wieloraka Jeśli w modelu regresji mamy do czynienia z więcej niż jedną zmienną objaśniającą (niezależną), mówimy o regresji wielorakiej (wielokrotnej). Liniowy model regresji wielorakiej: y = β0+ β1x1 + β2x βkxk + ε gdzie βj – parametry modelu (współczynniki regresji) ε – składnik losowy KISIM, WIMiIP, AGH

92 5.) składniki losowe (reszty) są nieskorelowane
Założenia MNK 1.) model jest liniowy 2.) liczba obserwacji n musi być większa lub równa liczbie oszacowanych parametrów 3.) 4.) 5.) składniki losowe (reszty) są nieskorelowane 6.) reszty mają rozkład normalny KISIM, WIMiIP, AGH

93 KISIM, WIMiIP, AGH

94 KISIM, WIMiIP, AGH

95 KISIM, WIMiIP, AGH

96 brak istotności wyrazu wolnego
zmienna zależna brak istotności wyrazu wolnego wzrost istotny statystycznie wiek – brak istotności KISIM, WIMiIP, AGH

97 oszacowana funkcja regresji:
Wyniki regresji model istotny statystycznie oszacowana funkcja regresji: WAGA = 6, ,05*WIEK+ 0,72*WZROST±4, (10,94) (0,94) (0,26) R2=0,78 interpretacja: jeśli wartość zmiennej WIEK wrośnie o 1 to wartość zmiennej WAGA wzrośnie o 2,5kg BETA: standaryzowany wskaźnik siły powiązania brak istotności wpływu wieku dodatnie oddziaływanie wieku i wzrostu na wagę R2=0,78, czyli 78% ogólnej zmienności WAGI wyjaśnione przez model KISIM, WIMiIP, AGH

98 Predykcja na podstawie modelu
ile będzie ważyć dziecko w wieku 13 lat, mające 65 cali wzrostu? Brak dowodu na istotność zmiennej nie jest dostatecznym powodem do usunięcia jej z modelu. Należy sprawdzić współliniowość Tolerancja (1-R2) mówi ile zmienności danej zmiennej nie zostało wyjaśnione przez pozostałe zmienne. Im mniejsza, tym bardziej nadmiarowy jest jej wkład w równanie regresji. tolerancja = 0 (lub bliska) oznacza brak możliwości obliczenia modelu. KISIM, WIMiIP, AGH

99 Analiza reszt 1.) Testowanie normalności reszt KISIM, WIMiIP, AGH

100 2.) Testowanie autokorelacji reszt
3.) homoscedastyczność – wariancja stała dla wszystkich obserwacji KISIM, WIMiIP, AGH

101 Wykresy reszt Wykres jednoosiowy Brak losowości Brak stacjonarności
KISIM, WIMiIP, AGH

102 Brak stałości wariancji
Brak stacjonarności oraz losowości Wpływ innych czynników na badane zjawisko KISIM, WIMiIP, AGH

103 Wybór zmiennych do modelu
W modelu powinny znaleźć się zmienne silnie skorelowane ze zmienną zależną i jak najsłabiej skorelowane między sobą. Aby wybrać optymalny model zawierający najsilniej skorelowane ze zmienną zależną zmienne niezależne stosuje się metody regresji krokowej: regresja krokowa postępująca – polega na kolejnym dołączaniu do modelu zmiennych objaśniających na podstawie statystyki F regresja krokowa wsteczna – budujemy model ze wszystkich dostępnych zmiennych, a następnie usuwamy z modelu najmniej istotne (statystyka F) Nie ma automatycznych, doskonałych metod doboru zmiennych. Obliczenia wspierane pakietem obliczeniowym należy korygować w oparciu o znajomość problemu. KISIM, WIMiIP, AGH

104 Regresja nieliniowa Kiedy mamy do czynienia z zależnością nieliniową sami musimy zdecydować jaką postać funkcji ma zależność. Może przyjąć jedną ze znanych postaci (np. wykładniczą, logarytmiczną czy wielomianową) wtedy stosujemy model linearyzowany lub zmieniać się w miarę wzrostu wartości zmiennej niezależnej (regresja segmentowa) Decyzję jaką zależność należy wziąć pod uwagę podejmujemy na podstawie wykresu rozrzutu KISIM, WIMiIP, AGH

105 Linearyzacja modelu regresji
KISIM, WIMiIP, AGH

106 Po wybraniu właściwego modelu szacujemy jego parametry tak samo jak w modelu liniowej regresji wielorakiej KISIM, WIMiIP, AGH

107 Błąd addytywny i multiplikatywny
Modele, których nie można przetransformować na postać liniową, mogą być szacowane przy pomocy estymacji nieliniowej. Zależy to w znacznej mierze od składnika błędu: Błąd addytywny. Zmienność błędu jest niezależna od zmiennej objaśniającej, to znaczy, że wielkość zmienności błędu jest jednakowa dla każdej wartości zmiennej. Jeśli składnik błędu w modelu jest addytywny, nie możemy zlinearyzować modelu przez logarytmowanie obu stron. Błąd multiplikatywny. Charakteryzuje się proporcjonalnymi (do skali zjawiska) wahaniami okresowymi. Po zlogarytmowaniu obu stron równania regresji, składnik błędu resztowego stanie się czynnikiem addytywnym w równaniu liniowym, a my możemy szacować b1 przy pomocy standardowej regresji wielorakiej. KISIM, WIMiIP, AGH

108 Modele regresji wewnętrznie nieliniowe
Przy estymacji nieliniowej mamy do czynienia z pojęciem funkcji straty. Funkcja straty szacuje wielkość odchyleń wartości przewidywanych od wartości obserwowanych. Minimalizacja funkcji straty jest procedurą estymacji współczynników równania regresji. funkcja straty to najczęściej: suma kwadratów odchyleń ważona suma kwadratów odchyleń funkcja największej wiarygodności KISIM, WIMiIP, AGH

109 Szukanie minimum funkcji straty
Stosuje się różne metody poszukiwania minimum funkcji straty: Metoda quasi-Newtona – minimalizacja w kierunku największego spadku (estymacja pochodnych) Metoda sympleksów (Neldera i Meada) – pozwala uniknąć minimów lokalnych Metoda Hooke’a-Jeevesa przemieszczania układu Metoda Rosenbrocka poszukiwania układu metody łączone KISIM, WIMiIP, AGH

110 Nieciągłe modele regresji
Regresja kawałkami liniowa, regresja segmentowa Jeśli postać funkcji się zmienia wraz ze wzrostem wartości zmiennej KISIM, WIMiIP, AGH

111 Regresja ze zmienną jakościową
Jeśli w analizie występują zmienne jakościowe (np. płeć, stanowisko pracy etc) można podzielić zbiorowość na jednorodne grupy pod względem poszczególnych wartości zmiennej a następnie porównać modele. Możemy również zastąpić zmienną jakościową sztucznymi zmiennymi binarnymi (np. płeć: kobieta = 1, mężczyzna = 0) KISIM, WIMiIP, AGH

112 KISIM, WIMiIP, AGH

113 model przybiera postać:
CSK = 105,8 + 1,05*WIEK- 17,5*PŁEƱ7, (4,5) (0,089) (2,72) R2=0,87 PŁEĆ =0, CSK = 105,8 + 1,05*WIEK PŁEĆ =1, CSK = 88,3 + 1,05*WIEK KISIM, WIMiIP, AGH

114 Skategoryzowane wykresy rozrzutu
KISIM, WIMiIP, AGH

115 Regresja logistyczna Modele dla odpowiedzi binarnych:
Na przykład pacjenci powrócą do zdrowia po urazie albo nie; kandydaci do pracy przejdą albo nie przejdą testu kwalifikacyjnego, kupony mogą zostać lub nie zostać zwrócone itd. We wszystkich tych przypadkach może nas interesować estymacja modelu, który opisuje zależność między jedną lub kilkoma ciągłymi zmiennymi niezależnymi a binarną zmienną zależną. można zastosować procedury standardowej regresji wielorakiej i obliczyć standardowe współczynniki regresji. Model prowadzi do przewidywanych wartości większych niż 1 lub mniejszych niż 0. Jednakże przewidywane wartości, które są większe niż 1 lub mniejsze niż 0 nie są prawidłowe; tak więc, gdy stosuje się standardową procedurę regresji wielorakiej, ograniczenie zakresu zmiennej binarnej (np. między 0 a 1) jest ignorowane. KISIM, WIMiIP, AGH

116 Regresja logistyczna (logit)
W modelu regresji logistycznej (logit), przewidywane wartości zmiennej zależnej nigdy nie będą mniejsze (lub równe) od 0 ani większe (lub równe) od 1, bez względu na wartości zmiennych niezależnych. gdzie  ai i = 0,...,k - to współczynniki regresji  x1, x2,...,xk - to zmienne niezależne, które mogą być mierzalne lub jakościowe. KISIM, WIMiIP, AGH

117 Funkcja logistyczna przyjmuje wartości od 0 do 1.
Model może opisywać prawdopodobieństwo zachorowania lub szansę wyzdrowienia Model wprowadza pewną wartość progową, po przekroczeniu której gwałtownie wzrasta prawdopodobieństwo. Model często wykorzystywany w badaniach medycznych Szansa Iloraz szans KISIM, WIMiIP, AGH

118 Analiza szeregów czasowych
KISIM, WIMiIP, AGH

119 Analiza szeregów czasowych
Dotychczas mówiliśmy o próbach przekrojowych, czyli zbiorach wartości danej cechy zaobserwowanej przy badaniach różnych obiektów w tym samym czasie. W badaniach często mamy do czynienia z danymi historycznymi: wartości badanej cechy w różnych momentach czasu uporządkowane chronologicznie. Są to szeregi czasowe. Szereg czasowy tworzą przykładowo dane określające wielkość produkcji energii elektrycznej w kolejnych miesiącach lat KISIM, WIMiIP, AGH

120 KISIM, WIMiIP, AGH

121 Szeregi zasobów Szereg czasowy może dotyczyć badania tzw. zasobów (np. liczba ludności, liczba ciągników w rolnictwie, średnia temperatura dobowa). Szereg czasowy zasobów otrzymamy w wyniku prowadzenia pomiarów danego zjawiska w ściśle określonym momencie czasowym. KISIM, WIMiIP, AGH

122 Szeregi strumieni Szereg czasowy może dotyczyć badania tzw. strumieni (np. wielkość wydobycia węgla, ilość wyprodukowanej energii elektrycznej, wielkość produkcji mleka). Szereg czasowy strumieni otrzymamy w wyniku sumowania wartości badanego zjawiska w ściśle określonym przedziale czasowym. KISIM, WIMiIP, AGH

123 Składniki szeregu czasowego
Tendencja rozwojowa (trend) Wahania okresowe Wahania koniunkturalne Wahania przypadkowe KISIM, WIMiIP, AGH

124 Dekompozycja szeregu czasowego
Trend - Tendencja rozwojowa Wahania okresowe (roczne) KISIM, WIMiIP, AGH

125 Analiza szeregu czasowego
Wyrównanie szeregu czasowego pozwala na wyeliminowanie z szeregu wahań przypadkowych, a przy odpowiednim postępowaniu także wahań okresowych. Porównanie szeregu pierwotnego z wyrównanym pozwala z kolei na określenie wskaźników mierzących wahania okresowe. KISIM, WIMiIP, AGH

126 Dwa podstawowe typy szeregów czasowych
Addytywny – charakteryzuje się mniej więcej stałymi wahaniami okresowymi. Multiplikatywny – charakteryzuje się proporcjonalnymi (do skali zjawiska) wahaniami okresowymi. Addytywny Multiplikatywny KISIM, WIMiIP, AGH

127 Wyrównanie wykładnicze Wyrównanie metodą regresyjną (analityczne)
Wyrównywanie szeregu Średnie ruchome Wyrównanie wykładnicze Wyrównanie metodą regresyjną (analityczne) KISIM, WIMiIP, AGH

128 Jest to najłatwiejsza metoda wyrównywania szeregu czasowego.
Średnie ruchome Jest to najłatwiejsza metoda wyrównywania szeregu czasowego. Generalnie metoda ta polega na zastąpienia oryginalnego wyrazu szeregu czasowego średnią arytmetyczną obliczoną z nieparzystej lub parzystej liczby wyrazów szeregu. KISIM, WIMiIP, AGH

129 Średnie ruchome nieparzyste
Jeżeli liczbę oryginalnych wyrazów szeregu wykorzystanych do obliczania średniej oznaczymy przez 2q+1 (gdzie q jest dowolną liczbą naturalną), to średnią znajdujemy z wzoru: KISIM, WIMiIP, AGH

130 Średnie ruchome scentrowane
Jeżeli chcemy wyeliminować wahania okresowe, to średnie ruchome powinny być obliczane z takiej liczby wyników oryginalnego szeregu, które odpowiadają liczbie pomiarów w cyklu wahań. Przykładowo, przy rocznym cyklu wahań i miesięcznych pomiarach średnia powinna być obliczana z 12 pomiarów. Średniej obliczonej z parzystej liczby pomiarów nie ma gdzie przypisać w sensie dyskretnego charakteru czasu. Można temu zaradzić tak modyfikując wzór na obliczanie średniej, aby w liczniku wystąpiła suma nieparzystej liczby składników (dokładniej odpowiadająca nieparzystej liczbie punktów czasowych). KISIM, WIMiIP, AGH

131 Przykład obliczania średniej scentrowanej
Dla szeregu czasowego opisującego wielkość produkcji energii elektrycznej budujemy średnie scentrowane 12 elementowe. Do obliczenia pierwszej średniej wykorzystamy: KISIM, WIMiIP, AGH

132 KISIM, WIMiIP, AGH

133 Wyrównanie wykładnicze
Wyrównujemy szereg wg wzoru: gdzie a jest stałą z przedziału (0, 1) KISIM, WIMiIP, AGH

134 Wygładzanie analityczne
Korzystając z metody najmniejszych kwadratów dobieramy odpowiedni model regresyjny. Zasadnicza przewaga tej metody wygładzania nad wcześniejszymi wynika z uzyskania równania opisującego trend KISIM, WIMiIP, AGH

135 Wskaźniki wahań okresowych
Wielkość wahań okresowych wyrażana jest za pomocą tzw. wskaźników wahań okresowych (wskaźników sezonowości). Sposób ich konstrukcji zależy od tego, czy w badanym szeregu czasowym występuje trend, czy też nie. KISIM, WIMiIP, AGH

136 Wahania okresowe – brak trendu (1)
Zdefiniowanie wahań okresowych wymaga wprowadzenia następującej definicji wyrazów szeregu czasowego: Gdzie dolny indeks t oznacza czas, a górny indeks i oznacza numer podokresu w cyklu d wahań. KISIM, WIMiIP, AGH

137 Wahania okresowe – brak trendu (2)
Wskaźniki wahań okresowych Qi są definiowane jako ilorazy średnich z podokresów i średniej ogólnej: KISIM, WIMiIP, AGH

138 Wahania okresowe – miary absolutne
Jeżeli szereg czasowy charakteryzuje się mniej więcej stałym poziomem zjawiska w czasie, to wahania okresowe można także wyrazić za pomocą miar absolutnych będących odchyleniami średnich dla danego podokresu od średniej ogólnej: KISIM, WIMiIP, AGH

139 Wahania okresowe – szereg z trendem (1)
Tym razem nie można odnosić średnich z danego podokresu do średniej ogólnej, co wynika z faktu, że średnia ogólna źle oddaje przeciętny poziom zjawiska w danym podokresie. Do zbudowania wskaźników wahań okresowych wykorzystujemy szereg oryginalny i szereg wygładzony w taki sposób, aby reprezentował jedynie trend zjawiska. KISIM, WIMiIP, AGH

140 Wahania okresowe – szereg z trendem (2) szereg multiplikatywny
Zaczynamy od wyznaczenia indywidualnych wskaźników sezonowości (iwst) dla tych wszystkich wyrazów oryginalnego szeregu, dla których dysponujemy wartościami wygładzonymi. KISIM, WIMiIP, AGH

141 Wahania okresowe – szereg z trendem (2) szereg multiplikatywny
Wykorzystując indywidualne wskaźniki sezonowości wyznaczamy ich średnie z podokresów, są to tzw. surowe wskaźniki wahań okresowych , a ich suma z reguły nie jest równa liczbie podokresów d. Surowe wskaźniki wahań okresowych muszą być tak skorygowane, aby ich suma była równa liczbie podokresów d: KISIM, WIMiIP, AGH

142 Wahania okresowe-szereg addytywny
Analogicznie jak w szeregu multiplikatywnym do zbu -dowania wskaźników wahań okresowych wykorzy-stujemy szereg oryginalny i szereg wygładzony w taki sposób, aby reprezentował jedynie trend zjawiska. W kolejnym kroku dla tych wszystkich wyrazów szeregu, dla których dysponujemy szeregiem wygładzonym, wyznaczamy indywidualne różnice postaci: KISIM, WIMiIP, AGH

143 Wahania okresowe-addytywny (3)
Korzystając z dowolnej techniki wyznaczamy średnie indywidualnych różnic w kolejnych podokresach. Średnie te są surowymi wskaźnikami wahań okresowych i z reguły ich suma nie jest równa zero. Można temu zaradzić korygując (oczyszczając) surowe wskaźniki wahań wg wzoru: KISIM, WIMiIP, AGH

144 Wykorzystanie wskaźników wahań okresowych
Wyznaczone wskaźniki wahań okresowych (oczyszczone) można wykorzystać następująco: 1. Dla tych szeregów, gdzie wygładzanie wykonane było metodami mechanicznymi można wyeliminować z oryginalnych wyrazów szeregu wahania okresowe w celu wyznaczenia trendu metodą analityczną 2. Mając równanie trendu można wykorzystać wskaźniki do przewidywania przyszłych wartości. KISIM, WIMiIP, AGH

145 Wykorzystanie wskaźników - wygładzanie
Oczyszczone z wahań okresowych wyrazy szeregu znajdziemy z następujących wzorów: Szereg addytywny Szereg multiplikatywny KISIM, WIMiIP, AGH

146 Wskaźniki i prognoza Mając oszacowanie analityczne trendu możemy wyznaczyć przyszłą wartość analizowanego zjawiska w chwili T z uwzględnieniem wahań okresowych z wzorów: multiplikatywny addytywny KISIM, WIMiIP, AGH

147 Uwagi krytyczne do prognozy
Dotychczasowe metody prognozy (równanie trendu + wskaźniki wahań okresowych) nie dają możliwości wyznaczenia błędów prognozy. Rozwiązaniem jest zbudowanie tzw. modelu tendencji rozwojowej, a następnie oszacowanie parametrów tego modelu metodami regresyjnymi Badaniem własności szeregów czasowych i prognozowaniem na ich podstawie zajmuje się analiza szeregów czasowych. Modele szeregów czasowych mają wiele postaci. Ich trzy klasyczne klasy to modele autoregresyjne (AR, od ang. AutoRegressive), scałkowane (I, Integrated) oraz z ruchomą średnią (MA, Moving Average). Złożenia tych trzech klas to m.in. popularne modele autoregresyjne ze średnią ruchomą (ARMA) oraz modele autoregresyjne scałkowane ze średnią ruchomą (ARIMA). KISIM, WIMiIP, AGH

148 KISIM, WIMiIP, AGH

149 Dekompozycja szeregu czasowego z wykorzystaniem wskaźników sezonowości.
Średnia ruchoma dla k=3 Średnia ruchoma dla k=12 Dekompozycja sezonowa Census II KISIM, WIMiIP, AGH

150 ARIMA KISIM, WIMiIP, AGH