Eksploracja Danych ____________________ Analiza danych

Prezentacja na temat: "Eksploracja Danych ____________________ Analiza danych"— Zapis prezentacji:

1 Eksploracja Danych ____________________ Analiza danych
Elementy sztucznej inteligencji Eksploracja Danych ____________________ Analiza danych Data Mining Machine Learning knowledge discovery Krzysztof Regulski, WIMiIP, KISiM, B5, pok. 408

2 Gdzie stosujemy eksplorację danych?
inne ? polityka zarządzanie ekonomia gospodarka produkcja zarządzanie jakością sztuczna inteligencja: rozpoznawanie wzorców, mowy, pisma, semantyka BigData data mining KISIM, WIMiIP, AGH

3 Industry 4.0

4 „data scientist” – badacz danych?
KISIM, WIMiIP, AGH

5 Machine Learning Uczenie maszynowe jest konsekwencją rozwoju idei sztucznej inteligencji i jej praktycznego wdrażania. Algorytmy pozwalają na zautomatyzowanie procesu pozyskiwania i analizy danych do ulepszania i rozwoju własnego systemu. KISIM, WIMiIP, AGH

6 Machine Learning Data Mining – pozyskiwanie wiedzy przez człowieka
Machine Learning – odbiorcą jest maszyna, celem – usprawnienie działania. Metody (przykładowe): Indukcja drzew decyzyjnych Uczenie Bayesowskie (Bayesian Learning) Uczenie z przykładów (Instance-based Learning) (np. kNN) Sieci neuronowe Clustering Support vector machines (SVM) Analiza asocjacji (Association rule learning) Algorytmy genetyczne Wnioskowanie epizodyczne (CBR) Uczenie przez wzmacnianie (Reinforcement Learning) KISIM, WIMiIP, AGH

7 KISIM, WIMiIP, AGH

8 Big Data big data to zbiory informacji o dużej objętości, dużej zmienności lub dużej różnorodności, które wymagają nowych form przetwarzania w celu wspomagania podejmowania decyzji, odkrywania nowych zjawisk oraz optymalizacji procesów: szukanie, pobieranie, gromadzenie i przetwarzanie  model 4V (Volume, Velocity, Variety, Value) : wykorzystanie – wykorzystaj najpierw wewnętrzne (własne) zasoby danych; wnioskowanie – umiejętnie stosuj techniki analityczne, użyj ekspertów; wzbogacanie – wzbogacaj własne dane o informacje z rynku, używaj słowników i baz referencyjnych; weryfikacja – koniecznie weryfikuj hipotezy i wnioski. Big Data as-a-Service (BDaaS), czyli przetwarzanie w chmurze obliczeniowej wielkich zbiorów danych, to dziś najszybciej rozwijająca się gałąź IT Ponad 7 miliardów dolarów – na tyle szacowana jest wartość sektora Big Data as-a-Service (BDaaS) w roku 2020 segment Big Data rozwija się niemal 6-krotnie szybciej niż cały rynek IT

9 Big Data Early detection of defects and production failures, thus enable their prevention, increase productivity, quality, and agility benefits that have significant competitive value. Big Data Analytics consists of 6Cs in the integrated Industry 4.0 and Cyber Physical Systems environment. The 6C system comprises: Connection (sensor and networks) Cloud (computing and data on demand) Cyber (model & memory) Content/context (meaning and correlation) Community (sharing & collaboration) Customization (personalization and value) Data has to be processed with advanced tools (analytics and algorithms) to generate meaningful information. KISIM, WIMiIP, AGH

10 Przechowywanie / Przetwarzanie / Analiza
KISIM, WIMiIP, AGH

11 Dane a wiedza Toniemy w danych, a brakuje nam wiedzy jaka jest w tych danych zawarta. „Wiedza jest specyficznym rodzajem zasobów – w przeciwieństwie do wszystkich innych, przybywa jej w miarę używania” G.Probst KISIM, WIMiIP, AGH

12 Sztuczna Inteligencja ?

13 Inteligencja Czy inteligencja jest jakąś jedną dziedziną, czy też jest to nazwa dla zbioru odrębnych i niepowiązanych zdolności? Co zyskujemy w procesie uczenia się? Co to jest intuicja? Czy inteligencja może być nabyta wskutek nauki lub obserwacji, czy też jest jakoś uwarunkowana wewnętrznie? Jak wiedza wpływa na wzrost inteligencji? Czy inteligencja to szczegółowa wiedza o jakiejś dziedzinie, czy zbiór związanych ze sobą różnych zdolności? KISIM, WIMiIP, AGH

14 w ten sposób sztuczna inteligencja nigdy nie ma żadnych osiągnięć
Inteligencja jest zdolnością do sprawnego rozwiązywania zadań intelektualnych, które zazwyczaj uchodzą za trudne. … są trudne tak długo, jak długo nie są znane algorytmy ich rozwiązywania, potem przestają być traktowane jako zadania sztucznej inteligencji w ten sposób sztuczna inteligencja nigdy nie ma żadnych osiągnięć KISIM, WIMiIP, AGH

15 sztuczna inteligencja - rozwiązywanie „trudnych” zadań
Czy to jest trudny problem ? × A to: ”Kochanie, kup ładny kawałek wołowiny…” KISIM, WIMiIP, AGH

16 Krzysztof Manc (Wynalazca)
Robot kolejkowy EWA-1 -Pan tu nie stał, pan nie jest w ciąży. - Moja konstrukcja jest optymalna, tylko ludzie nie dorośli do tego. Wolą sami stać w kolejkach. Krzysztof Manc (Wynalazca) KISIM, WIMiIP, AGH

17 Czy nam to szybko grozi? KISIM, WIMiIP, AGH

18 Zagadnienia AI wg prof. Ducha
Computational I ntelligence - numeryczne Dane + Wiedza Artificial I ntelligence - symboliczne Soft Computing Sieci neuronowe Rachunek prawdop. Uczenie maszynowe Systemy ekspertowe Rozpoznawanie Wzorców Logika rozmyta Algorytmy ewolucyjne i genetyczne Wizualizacja Metody statystyczne Data mining Optymalizacja badania operacyjne Włodzisław Duch, prof. dr hab. – neurokognitywista, guru polskiej cybernetyki KISIM, WIMiIP, AGH

19 video: Humans Need Not Apply
no human? auto - Autonomous car / Navya, Uber, Tesla, Mercedes, Google… robots / Ross, IBM Watson, Eve Baxter, Sophia, Fran Pepper Emily Howel video: Humans Need Not Apply KISIM, WIMiIP, AGH

20 Statystyka pojęcia podstawowe KISIM, WIMiIP, AGH

21 • wnioskowanie statystyczne
Podstawowe cele badań statystycznych; statystycznej analizy zbiorów danych • badanie struktury populacji, reprezentowanej przez zbiór (danych) wartości wybranych cech (zmiennych) i jej: wizualizacja w postaci rozkładów tych zmiennych bądź charakterystyka przy zastosowaniu parametrów statystyki opisowej. • zależności: odkrywanie i określanie (charakteru, siły, kierunku) zależności (korelacji) występujących w zbiorach danych reprezentujących różne cechy badanych obiektów, zjawisk, procesów. • wnioskowanie statystyczne KISIM, WIMiIP, AGH

22 błąd systematyczny (bias)
odpowiednie losowanie pozwala uniknąć błędu systematycznego (ang. bias) bias może pojawić się na skutek wykonywania pomiarów w warunkach innych od rzeczywistych można je wykryć stosując niezależne metody pomiaru inne MOŻLIWE PRZYCZYNY zmiany obiektu badanego po dołączeniu do urządzenia lub układu pomiarowego wpływ otoczenia na stanowisko pomiarowe KISIM, WIMiIP, AGH

23 Skale pomiaru cechy • Skala nominalna –dotyczy cech jakościowych, operacją pomiarową jest identyfikacja kategorii do której należy zaliczyć wynik, prowadzi do podziału zbioru na zbiory rozłączne (np. samochody wg kolorów). • Skala porządkowa – stosowana jest do badania cech których natężenie jest określane przez przymiotniki, pociąga za sobą porządkowanie lub uszeregowanie badanej zmiennej (np. poniżej normy, w normie, powyżej normy, albo za mały, mały, średni, duży...) • Skala równomierna (przedziałowa). Stosowana do pomiaru cech ilościowych, zakłada że zbiór wartości cechy składa się z liczb rzeczywistych określona przez wskazanie stałej jednostki miary i relacji przyporządkowującej liczbę każdemu wynikowi obserwacji (czas kalendarzowy, temperatura oC) • Skala ilorazowa. Posiada wszystkie właściwości skali przedziałowej ale pomiary wg tej skali charakteryzują się stałymi stosunkami i bezwzględnym zerem, ma zastosowanie w fizyce, technice, np. długość czy czas skale ilościowe KISIM, WIMiIP, AGH

24 krótki przerywnik o pogodzie…
fizyk i inżynier pochodzenia niemieckiego. Większość okresu naukowego spędził w Niderlandach. Wynalazca termometru rtęciowego, twórca skali temperatur używanej w niektórych krajach anglosaskich. KISIM, WIMiIP, AGH

25 … mówi się, że … Fahrenheit: za 0° oznaczył najniższą temperaturę zanotowaną w Gdańsku (1709r.). 100° miało być jego własną temperaturą, niestety był chory i skala się „przesunęła”: 100° F oznaczało 37,8° C. Celsjusz: w pierwotnej skali za 0° przyjął temperaturę wrzenia wody, a jako za 100° temperaturę jej zamarzania, co potem trzeba było odwracać… Kelwin: jednostka temperatury równa 1/273,16 temperatury termodynamicznej punktu potrójnego wody. 0K oznacza najniższą teoretycznie możliwą temperaturę, jaką może mieć ciało. Jest to temperatura, w której (według fizyki klasycznej) ustały wszelkie drgania cząsteczek. Temperatury tej nie da się jednak osiągnąć… a w każdym razie zmierzyć.   KISIM, WIMiIP, AGH

26 jeżeli na polu jest -5°C, a w pokoju +20°C
czy może być 5x cieplej? jeżeli na polu jest -5°C, a w pokoju +20°C to za oknem jest o 25°C zimniej ale czy w pokoju jest 5 razy cieplej? Amerykanin powie wtedy, że za oknem jest +23°F a w pokoju +77°F czyli cieplej o 54°F. 23 nie jest 5 razy mniejsze od 77. przypadek? …nie sądzę. ― to skala przedziałowa! Miejsce na podium to z kolei przykład skali porządkowej. Jak ocenić ile razy złoty medal jest więcej wart niż srebrny? KISIM, WIMiIP, AGH

27 Skala stosunkowa (ilorazowa)
na skali stosunkowej (ilorazowej) wolno dokonywać operacji matematycznych, tzn. bezpiecznie można stwierdzić, że np. dwa kilogramy cukru są dwa razy cięższe od jednego kilograma, a trzymetrowa deska jest trzy razy dłuższa niż deska o długości jednego metra wynika to z obecności absolutnego zera (gdyby cukru było 0 kg to znaczy, że nie byłoby go wcale) Przy użyciu skali stosunkowej (ilorazowej) możliwe jest podanie rozkładu częstości zmiennej, obliczenie m.in. dominanty, mediany, średniej, odchylenia standardowego i wariancji. KISIM, WIMiIP, AGH

28 Rodzaje szeregów statystycznych
Badana cecha przyjmuje niewielką liczbę jednostek (mała grupa). Porządkowana rosnąco lub malejąco Charakteryzują stan badanej zbiorowości w określonym momencie (np. w danym miesiącu, roku). Przedstawiają więc populację w układzie statycznym i służą do analizy jej struktury. dane ilościowe Szeregi przestrzenne przedstawiają rozmieszczenie wielkości statystycznych według podziału administracyjnego (gmina, powiat, województwo, krajów, regionów geograficznych). dane jakościowe proste skumulowane proste skumulowane KISIM, WIMiIP, AGH

29 Szereg rozdzielczy prosty
Przy budowie szeregu rozdzielczego wyróżnia się trzy etapy: Ustalenie liczby klas oraz wielkości przedziałów klasowych Przyporządkowanie danych przyjętym przedziałom klasowym Zliczanie liczby jednostek w każdej klasie Liczba klas k zależy przede wszystkim od liczby obserwacji n. Stosowane bywają następujące wzory pomocne do szacowania liczby przedziałów budowanego szeregu rozdzielczego: k=1+3,322 log n KISIM, WIMiIP, AGH

30 Histogram Nazwa histogram pochodzi ze złożenia dwóch greckich słów histos i gramma. Pierwsze oznacza rzeczy stojące pionowo, drugie oznacza zapis, a w sumie chodzi o zapis danych z użyciem pionowych słupków. Obecnie używa się tej nazwy wyłącznie w sytuacji gdy przedstawiany jest rozkład zmiennej

31 Wykresy Wielobok liczebności Histogram KISIM, WIMiIP, AGH

32 Przykład zastosowania pakietu Statistica do analizy zapotrzebowania na energię

33 KISIM, WIMiIP, AGH

34 KISIM, WIMiIP, AGH

35 zarobki… 2018r. 2016r. 2012r. KISIM, WIMiIP, AGH

36 2016r. 2012r. Odsetek pracujących (skumulowane)
Struktura wynagrodzeń (netto) Liczba pracujących (skumulowane) Odsetek pracujących (skumulowane) Poniżej 1181 zł ok. 800 tys. osób 10% Poniżej 1423 zł ok. 1,44 mln 18% Poniżej 2776 zł ok. 5,2 mln osób 66% Poniżej 3549 zł ok. 6,4 mln osób 80,50% Ponad 3549 zł netto miesięcznie zarabia tylko 19,5% pracujących Ponad 7000 zł ok. 270 tys. osób 3,47% Ponad zł ok. 48 tys. osób 0,60% Ponad zł ok. 16 tys. osób 0,20% Źródło: opracowanie Bankier.pl na podstawie danych GUS *Dane w tabeli dotyczą ok. 8 mln osób zatrudnionych w gospodarce narodowej (sektor przedsiębiorstw plus sektor publiczny) 2016r. 2012r. KISIM, WIMiIP, AGH

37 jeszcze o wizualizacji…
KISIM, WIMiIP, AGH

38 Piramida populacyjna dla Polski na bazie danych z Narodowego Spisu Powszechnego 2011.  W wielu krajach, w tym w Polsce, struktura wieku przypomina dzban lub inną figurę, w której podstawa jest węższa niż elementy powyżej. Dzieci jest mniej niż dorosłych, a populacja ludzi starszych systematycznie rośnie Bilans zgonów i narodzin w Polsce w latach 2009 – 2011 w tysiącach osób. Strzałkami zaznaczono znak, dodano poziome linie by ułatwić śledzenie jak bilans zmienia się w latach KISIM, WIMiIP, AGH

39 Statystyka Opisowa badanie struktury populacji KISIM, WIMiIP, AGH

40 Statystyka Opisowa Wyróżnia się następujące grupy parametrów statystycznych: • Miary położenia / skupienia/ koncentracji średnia, moda, mediana, max, min, kwantyle) • Miary zmienności pozycyjne: rozstęp, odchylenie ćwiartkowe, odchylenie przeciętne, wsp. zmienności klasyczne: wariancja, odchylenie standardowe, klasyczny wsp. zmienności • Miary asymetrii i Graficzna interpretacja statystyk KISIM, WIMiIP, AGH

41 Charakterystyki położenia
KISIM, WIMiIP, AGH

42 Miary położenia Średnia
Moda (dominanta): najczęściej występująca wartość cechy Kwantyle: Kwartyle, decyle, percentyle mediana (kwartyl drugi) - taką wartość cechy, że co najmniej połowa jednostek zbiorowości ma wartość cechy nie większą niż Me i jednocześnie połowa jednostek ma wartość cechy nie mniejszą niż Me. Czyli dystrybuanta empiryczna Fn(Me)  ½

43 Moda (dominanta) W rozkładach empirycznych określa się dominantę (modę), najczęściej występującą wartość cechy gdzie x0 – dolna granicą przedziału w którym występuje moda, hm – rozpiętość przedziału klasowego, nm, nm-1, nm+1– liczebności odpowiednio przedziału z modą, poprzedniego i następnego KISIM, WIMiIP, AGH

44 Moda (dominanta) W rozkładach empirycznych określa się dominantę (modę), najczęściej występującą wartość cechy gdzie x0 – dolna granicą przedziału w którym występuje moda, hm – rozpiętość przedziału klasowego, nm, nm-1, nm+1– liczebności odpowiednio przedziału z modą, poprzedniego i następnego KISIM, WIMiIP, AGH

45 Miary rozproszenia KISIM, WIMiIP, AGH

46 sposób oceny poziomu wymagań
wymagania i prowadzący OK studenci się nie uczą trzeba zaostrzyć reżim symetryczny: mediana „równa” średniej skośny w prawo – średnia mniejsza niż mediana skośny w lewo – średnia większa niż mediana KISIM, WIMiIP, AGH

47 outliers Która z miar położenia jest najbardziej odporna na obserwacje odstające? Mediana jest na skrajne wartości odporna, co powoduje że często nazywamy ją statystyką odporną (ang. robust, resistant statistic). Obserwacja odstająca lub samotnicza (ang. outlier) to obserwacja, która przyjmuje ekstremalną wartość badanej cechy statystycznej w porównaniu z innymi obserwacjami. KISIM, WIMiIP, AGH

48 Wykres skrzynkowy. Moc informacji na jednym rysunku.
KISIM, WIMiIP, AGH

49 histogram i jego rozdzielczość
KISIM, WIMiIP, AGH

50 Miary zmienności (rozproszenia) danych – interpretacja graficzna odchylenia standardowego
Odchylenie standardowe w zbiorowości (1) jest mniejsze niż w zbiorowości (2). Diagram (1) jest smuklejszy i wyższy. s1 < s2 KISIM, WIMiIP, AGH

51 Reguła trzy sigma Jeżeli zmienna losowa ma rozkład normalny N(μ,σ) to:
68,27% populacji mieści się w przedziale ( - σ;  + σ) 95,45% populacji mieści się w przedziale ( - 2σ;  + 2σ) 99,73% populacji mieści się w przedziale ( - 3σ;  + 3σ)

52 Reguła „3 sigma” KISIM, WIMiIP, AGH

53 nierówności Markowa i Czebyszewa
Nierówność Markowa Nierówność Czebyszewa znajaąc średnią i odchylenie standardowo danej zmiennej (z-score) mamy pewność, że maksymalnie 1/4= 25% danych jest oddalonych od średniej o 2 odchylenia standardowe, a 1/9 (ok.11%) o 3 itd. KISIM, WIMiIP, AGH

54 KISIM, WIMiIP, AGH

55 Charakterystyczne cechy rozkładów: punkty skupienia, asymetria, rozrzut
KISIM, WIMiIP, AGH

56 wnioskowanie statystyczne weryfikacja hipotez statystycznych

57 Londyn, 1710r. John Arbuthnot: od 82 lat w Londynie rodzi się więcej chłopców, niż dziewczynek… przypadek, czy tendencja? Sformułowanie hipotezy zerowej H0 : w Londynie rodzi się tyle samo kobiet co mężczyzn; pCH = pDZ = ½ Gdyby tak było, prawdopodobieństwo tego, że przez 82 lata rodziliby się głównie chłopcy wynosiłoby: czyli zero, a po przecinku 23 zera, a potem czwórka… KISIM, WIMiIP, AGH

58 Egzamin do egzaminu przystąpiło 203 studentów
można było zdobyć 25 punktów średnio uzyskali 14,68; odchylenie standardowe: 3,08 wyniki miały rozkład normalny (potwierdzone histogramem) N(14,86; 3,08) KISIM, WIMiIP, AGH

59 rozkład normalny… znowu
jakie jest prawdopodobieństwo uzyskania poniżej 20 punktów? jakie jest prawdopodobieństwo uzyskania powyżej 20 punktów? p=0,9582 p=0,0418 a b z tablic dystrybuanty standaryzacja do N(0,1) dystrybuanta F(a) = P(X<a) ilu studentów uzyska > 20pkt? P(a<X b)= F(b)- F(a) 0,0418×203=8,49 KISIM, WIMiIP, AGH

60 Rozkłady średnich z nieskończenie wielu próbek
rozkład średnich z populacji A prawdopodobieństwo otrzymania danego wyniku, jeśli uznać hipotezę zerową za prawdziwą błąd I rodzaju  rozkład średnich z populacji B błąd II rodzaju  KISIM, WIMiIP, AGH

61 2. Przyjęcie odpowiedniego poziomu istotności  oraz liczebności próby
Przy podejmowaniu decyzji weryfikującej hipotezy możemy popełnić dwa rodzaje błędów Decyzja Hipoteza H0 prawdziwa fałszywa odrzucić błąd I rodzaju decyzja trafna  1- nie odrzucić błąd II rodzaju 1- 

62 Rodzaje błędów popełnianych przy weryfikacji hipotez statystycznych
Błąd I rodzaju polega na odrzuceniu hipotezy zerowej, mimo że jest prawdziwa. Przyjmowany w procesie weryfikacji hipotezy poziom istotności jest równy prawdopodobieństwu popełnienia błędu I rodzaju, zwykle =0.05 lub 0.01 Błąd II rodzaju polega za przyjęciu za prawdziwą hipotezy H0 gdy ona w rzeczywistości jest fałszywa. Przykład H0- oskarżony jest niewinny H1 - oskarżony jest winien Błąd I rodzaju : sąd skazał niewinnego: H0 prawdziwa, ale ją odrzucono Błąd II rodzaju: sąd uwolnił winnego: H1 prawdziwa, a przyjęto H0, Tu błąd I rodzaju jest znacznie bardziej dotkliwy, dlatego należy zminimalizować prawdopodobieństwo jego popełnienia (czyli dostarczyć „niezbitych” dowodów)

63 KISIM, WIMiIP, AGH

64 modelowanie probabilistyczne
predykcja modelowanie probabilistyczne KISIM, WIMiIP, AGH

65 KISIM, WIMiIP, AGH

66 KISIM, WIMiIP, AGH

67 Wykrywanie korelacji Obserwacja szeregów statystycznych zawierających informacje o cechach pozwala wykrywać zależności korelacyjne. Jeśli naszym celem jest analiza zachowania pewnej wielkości losowej Y, zbieramy również informacje towarzyszące, które mogą mieć znaczenie w analizie interesującej nas wielkości. Badana wartość, choć losowa, w istotny sposób zależy od innych zmiennych i zrozumienie charakteru tej zależności może być pożyteczne w wielu zadaniach np. przewidywania przyszłych wartości interesującej nas zmiennej. KISIM, WIMiIP, AGH

68 KISIM, WIMiIP, AGH

69 Współczynnik korelacji
Powiązanie między współczynnikiem korelacji a układem punktów Wykresy, które reprezentują graficznie związek pomiędzy zmiennymi, nazywane są wykresami rozrzutu. Wzrokowa ocena umożliwia często określenie siły i rodzaju zależności. Im bliżej położone są punkty na wykresie tym większej korelacji możemy się spodziewać. Najważniejsza jest statystyczna istotność korelacji. Konieczna jest weryfikacja istotności wyliczonego z próby współczynnika. Wartość współczynnika bliska 0 oznacza jedynie brak zależności liniowej. KISIM, WIMiIP, AGH

70 Badanie istotności współczynnika korelacji liniowej
Współczynnik korelacji r (z próby) stanowi ocenę współczynnika korelacji ρ w zbiorowości generalnej. W związku z tym pojawia się potrzeba testowania jego istotności statystycznej. Formułujemy hipotezę zerową H0: ρ = 0, wobec alternatywnej: H1: ρ ≠ 0, a następnie obliczamy wartość statystyki testowej: porównujemy jej wartość z odpowiednią wartością krytyczną t ,n-2 i podejmujemy odpowiednią decyzję co do prawdziwości H0. KISIM, WIMiIP, AGH

71 Związek korelacyjny pomiędzy zmiennymi X1 i X2,
z wyłączeniem działania zmiennej X3 KISIM, WIMiIP, AGH

72 Postaci zależności Po obliczeniu wartości współczynnika korelacji zawsze zalecane jest utworzenie wykresu rozrzutu. Chodzi o to, aby wizualnie stwierdzić, czy badany związek rzeczywiście najlepiej opisuje funkcja liniowa Może się bowiem okazać, że wyliczona wartość współczynnika korelacji jest zbliżona do zera, a mimo to pomiędzy korelowanymi zmiennymi występuje współzależność, tyle że nieliniowa KISIM, WIMiIP, AGH

73 Przykład realizowany z pomocą pakietu STATISTICA
Dane z badań przeprowadzonych w 1996 roku dotyczące zarobków Polaków. Ankiety wysłano do 5000 pracowników wylosowanych przez GUS. Ankiety zwróciło 1255 osób. Arkusz zawiera następujące informacje o badanych osobach Płeć Wykształcenie Wiek Staż pracy Płaca brutto Stawiam pod wątpliwość twierdzenie, że płeć nie ma wpływu na wysokość zarobków w Polsce, jeśli by tak było to nie powinno być różnic pomiędzy średnimi wartościami zarobków kobiet i mężczyzn. Hipotezą zerową jest zdanie: Zarobki mężczyzn i kobiet nie różnią się H0 : m1=m2 przy hipotezie alternatywnej H1 : m1 m2 , KISIM, WIMiIP, AGH

74 KISIM, WIMiIP, AGH

75 Regresja liniowa KISIM, WIMiIP, AGH

76 Współczynnik determinacji
r2 – współczynnik determinacji, przyjmujący wartości z przedziału [0,1], jest miarą stopnia w jakim model wyjaśnia kształtowanie się zmiennej Y. Im jego wartość jest bliższa 1, tym lepsze dopasowanie modelu do danych empirycznych KISIM, WIMiIP, AGH

77 KISIM, WIMiIP, AGH

78 Współczynniki korelacji i determinacji
Współczynniki, które otrzymujemy jeśli wcześniej dokonamy standaryzacji wszystkich zmiennych na średnią równą 0 i odchylenie standardowe równe 1. Np., Wielkość tych współczynników BETA pozwala na porównanie relatywnego wkładu każdej ze zmiennych niezależnych do predykcji zmiennej zależnej. Współczynniki regresji KISIM, WIMiIP, AGH

79 KISIM, WIMiIP, AGH

80 KISIM, WIMiIP, AGH

81 5.) składniki losowe (reszty) są nieskorelowane
Założenia MNK 1.) model jest liniowy 2.) liczba obserwacji n musi być większa lub równa liczbie oszacowanych parametrów 3.) 4.) 5.) składniki losowe (reszty) są nieskorelowane 6.) reszty mają rozkład normalny KISIM, WIMiIP, AGH

82 Regresja wieloraka KISIM, WIMiIP, AGH

83 Liniowy model regresji wielorakiej:
Regresja wieloraka Jeśli w modelu regresji mamy do czynienia z więcej niż jedną zmienną objaśniającą (niezależną), mówimy o regresji wielorakiej (wielokrotnej). Liniowy model regresji wielorakiej: y = β0+ β1x1 + β2x βkxk + ε gdzie βj – parametry modelu (współczynniki regresji) ε – składnik losowy KISIM, WIMiIP, AGH

84 5.) składniki losowe (reszty) są nieskorelowane
Założenia MNK 1.) model jest liniowy 2.) liczba obserwacji n musi być większa lub równa liczbie oszacowanych parametrów 3.) 4.) 5.) składniki losowe (reszty) są nieskorelowane 6.) reszty mają rozkład normalny KISIM, WIMiIP, AGH

85 KISIM, WIMiIP, AGH

86 KISIM, WIMiIP, AGH

87 KISIM, WIMiIP, AGH

88 brak istotności wyrazu wolnego
zmienna zależna brak istotności wyrazu wolnego wzrost istotny statystycznie wiek – brak istotności KISIM, WIMiIP, AGH

89 oszacowana funkcja regresji:
Wyniki regresji model istotny statystycznie oszacowana funkcja regresji: WAGA = 6, ,05*WIEK+ 0,72*WZROST±4, (10,94) (0,94) (0,26) R2=0,78 interpretacja: jeśli wartość zmiennej WIEK wrośnie o 1 to wartość zmiennej WAGA wzrośnie o 2,5kg BETA: standaryzowany wskaźnik siły powiązania brak istotności wpływu wieku dodatnie oddziaływanie wieku i wzrostu na wagę R2=0,78, czyli 78% ogólnej zmienności WAGI wyjaśnione przez model KISIM, WIMiIP, AGH

90 Predykcja na podstawie modelu
ile będzie ważyć dziecko w wieku 13 lat, mające 65 cali wzrostu? Brak dowodu na istotność zmiennej nie jest dostatecznym powodem do usunięcia jej z modelu. Należy sprawdzić współliniowość Tolerancja (1-R2) mówi ile zmienności danej zmiennej nie zostało wyjaśnione przez pozostałe zmienne. Im mniejsza, tym bardziej nadmiarowy jest jej wkład w równanie regresji. tolerancja = 0 (lub bliska) oznacza brak możliwości obliczenia modelu. KISIM, WIMiIP, AGH

91 Regresja ze zmienną jakościową
Jeśli w analizie występują zmienne jakościowe (np. płeć, stanowisko pracy etc) można podzielić zbiorowość na jednorodne grupy pod względem poszczególnych wartości zmiennej a następnie porównać modele. Możemy również zastąpić zmienną jakościową sztucznymi zmiennymi binarnymi (np. płeć: kobieta = 1, mężczyzna = 0) KISIM, WIMiIP, AGH

92 KISIM, WIMiIP, AGH

93 model przybiera postać:
CSK = 105,8 + 1,05*WIEK- 17,5*PŁEƱ7, (4,5) (0,089) (2,72) R2=0,87 PŁEĆ =0, CSK = 105,8 + 1,05*WIEK PŁEĆ =1, CSK = 88,3 + 1,05*WIEK KISIM, WIMiIP, AGH

94 Skategoryzowane wykresy rozrzutu
KISIM, WIMiIP, AGH

95 Przygotowanie i wstępna obróbka danych
Eksploracja Danych Przygotowanie i wstępna obróbka danych postacie danych, wczytywanie danych, ocena jakości, filtrowanie oraz czyszczenie danych, konsolidacja danych, przekształcenia danych.

96 STATISTICA: Moduł Podstawowe statystyki i tabele
Aby wykonać ten test, idziemy do okna Statystyki opisowe i wybierzmy kartę Odporne. Karta ta zawiera opcje umożliwiające włączenie do arkusza wynikowego średniej Winsora, średniej przyciętej oraz testu Grubbsa. Test Grubbsa na obserwacje odstające może być użyty w celu wskazania jednej obserwacji odstającej podczas jednego przebiegu. Test ten polega na wyliczeniu jak daleko potencjalna obserwacja odstająca znajduje się od pozostałych wartości w zbiorze danych. Statystyka testu Grubbsa (G) liczona jest jako stosunek największego bezwzględnego odchylenia średniej z próby do odchylenia standardowego próby KISIM, WIMiIP, AGH

97 KISIM, WIMiIP, AGH

98 Okno Zamiana wartości odstających i rzadkich zawiera różne testy umożliwiające identyfikację obserwacji odstających w zmiennych ciągłych i jakościowych. W przypadku zmiennych jakościowych, STATISTICA za obserwacje odstające uzna te przypadki, których kod lub wartość tekstowa występują rzadziej niż określona częstotliwość. W przypadku zmiennych ciągłych można wybrać jeden z wielu dostępnych testów. KISIM, WIMiIP, AGH

99 Test Grubbsa KISIM, WIMiIP, AGH

100 Zamiana obserwacji odstających.
2 1 KISIM, WIMiIP, AGH

101 KISIM, WIMiIP, AGH

102 Metoda graficzna KISIM, WIMiIP, AGH

103 Wykres ramka-wąsy Podejście graficzne. Popularnym sposobem wykrywania obserwacji odstających jest stworzenie wykresu ramkowego. Aby to zrobić, należy kliknąć przycisk Zmienne, który znajduje się w oknie Statystyki opisowe. Otrzymamy okno wyboru zmiennej. Ponieważ interesuje nas znalezienie jakiejkolwiek obserwacji odstającej w naszym zbiorze, klikamy przycisk Wszystkie oraz OK. Następnie, na karcie Podstawowe, klikamy Wykres ramka-wąsy. KISIM, WIMiIP, AGH

104 Obserwacje odstające Aby włączyć pokazywanie takich obserwacji, należy dwukrotnie kliknąć w tło wykresu. Na ekranie pojawi się okno Opcje wykresu; przechodzimy w nim na kartę Wykres właściwy: Ramka-wąsy. KISIM, WIMiIP, AGH

105 Przykład: Wykrywanie obserwacji odstających
Podejście graficzne. Popularnym sposobem wykrywania obserwacji odstających jest stworzenie wykresu ramkowego. KISIM, WIMiIP, AGH

106 wybieramy dodatkowe opcje określające wykres, kontrolujące wyświetlanie obserwacji odstających i ekstremalnych oraz wykorzystanie rozkładu przyciętego zmiennej zależnej do policzenia średniej/mediany. W oknie Wykres ramka-wąsy; więcej opcji wybieramy Odstające i ekstremalne z rozwijanej listy Odstające. KISIM, WIMiIP, AGH

107 Usuwanie odstających wartości
Dla każdej ze zmiennej liczbowej wykonuje się wykresy ramka-wąsy, by znaleźć wartości odstające. stosuje się następujące współczynniki: Ramka Wąs Odstające KISIM, WIMiIP, AGH

108 KISIM, WIMiIP, AGH

109 Wybór zmiennych

110 Dobór i eliminacja zmiennych
KISIM, WIMiIP, AGH

111 STATISTICA - Dobór i eliminacja zmiennych
Procedura ta sprawdza wpływ zmiennych na zmienną zależną automatycznie eliminuje puste zmienne (niezawierające żadnych wartości) i stałe (przyjmujące tę samą wartość dla wszystkich przypadków). procedura bada wpływ pojedynczych zmiennych na wielkość wyjściową. Sprawdza ona, na ile dla różnych wartości potencjalnego predykatora zmienna zależna przyjmuje różne wartości. KISIM, WIMiIP, AGH

112 Ważność predyktorów KISIM, WIMiIP, AGH

113 Dobór i eliminacja zmiennych
KISIM, WIMiIP, AGH

114 korelacje korzystne dla modelu współczynniki > r*
α=0,05 tα=2,1009 r*=0,4438 korelacje korzystne dla modelu współczynniki > r* korelacje niekorzystne dla modelu KISIM, WIMiIP, AGH

115 Metoda analizy grafów (metoda Bartosiewicz)
Metoda zmierza do tego, by spośród wszystkich zmiennych objaśniających wyodrębnić grupy zmiennych skorelowanych między sobą oraz znaleźć zmienne, z których żadna nie jest skorelowana z pozostałymi zmiennymi objaśniającymi. Następnie spośród tych grup zmiennych wybiera się zmienne mocniej skorelowane ze zmienną objaśnianą i wprowadza się je do relacji modelu. Do modelu wchodzą również wszystkie zmienne nieskorelowane między sobą, ale skorelowane ze zmienną objaśnianą. KISIM, WIMiIP, AGH

116 Metoda analizy grafów (metoda Bartosiewicz)
Obliczenie współczynników korelacji zmiennych objaśniających ze zmienną objaśnianą rj oraz zmiennych objaśniających pomiędzy sobą rij. Testowanie istotności współczynników korelacji Odrzucenie zmiennych X nieskorelowanych ze zmienna objaśnianą i konstrukcja macierzy R' z zerami w miejscu nieistotnych współczynników rij. Budowa grafu powiązań między zmiennymi objaśniającymi i wybór zmiennych do modelu, tworząc w ten sposób k grafów – grup zmiennych, odpowiadających przyszłym k zmiennym objaśniającym modelu. Do zmiennych objaśniających zalicza się: zmienne, które w odwzorowaniu tworzą grafy zerowe (izolowane), zmienne o maksymalnej liczbie łuków wybrane z każdego grafu spójnego, jeżeli w każdym grafie spójnym jest więcej niż jedna zmienna o takiej samej maksymalnej liczbie łuków, to wybiera się spośród tych zmiennych tę, która jest najbardziej skorelowana ze zmienną objaśnianą. KISIM, WIMiIP, AGH

117 X1, r*=0,4 r(X2)=3 X2, do modelu wchodzą: X5, KISIM, WIMiIP, AGH

118 Liniowa postać modelu:
α=0,05 tα=2,1009 r*=0,4438 wszystkie zmienne istotne współczynniki > r* do modelu wchodzą: X1, X2, X4 Liniowa postać modelu: Y=a0 + a1X1 + a2X2 + a4X4+ e KISIM, WIMiIP, AGH

119 wybór predyktorów – ocena zależności zmiennych
Rodzaj zmiennych 1:1 Jedna objaśniająca 1:n Wiele zmiennych Ilościowe Korelacja, wykres rozrzutu Macierz korelacji, F Ilościowa zależna, jakościowa objaśniająca ANOVA, χ2 skategoryzowany histogram Skategoryzowany wykres rozrzutu, χ2 Jakościowa zależna Tabela wielodzielcza, χ2 χ2, Tabele wielodzielcze, KISIM, WIMiIP, AGH

120 Przykład 1a (ANOVA) Wiadomo, że związki chemiczne stosowane w leczeniu nowotworów mogą powodować obniżenie poziomu hemoglobiny we krwi (niedokrwistość). W przypadku pewnego związku chemicznego stosowanego w leczeniu nowotworów (Lek A) podejrzewano, że przy długotrwałym stosowaniu powoduje niedokrwistość (stężenie hemoglobiny we krwi poniżej 11g/dl) w większym stopniu niż inne leki tego typu. Do badania włączono grupę 24 osób z rozpoznaniem nowotworu. 10 z nich podawano wspomniany lek A. Pozostałym pacjentom podawano inne leki o podobnym działaniu. 7 pacjentów zażywało lek B, a 7 lek C. W momencie przystąpienie do badania u wszystkich pacjentów poziom hemoglobiny we krwi był prawidłowy. Po zakończonej obserwacji u pacjentów ponownie wykonano morfologię krwi. Wyniki badania poziomu hemoglobiny u badanych były następujące: KISIM, WIMiIP, AGH

121 Przykład 1b Lek A Lek B Lek C 10,2 14,3 10,4 8,7 14,1 12 12,5 17 13,6 13,8 13,2 13,5 7,6 11,6 14,7 8,2 10,9 15,3 9,8 9,3 14,9 14,2 Czy pacjenci przyjmujący lek A po zakończeniu terapii mieli niższy poziom hemoglobiny we krwi niż pacjenci leczeni innymi lekami? KISIM, WIMiIP, AGH

122 Przykład 1c Stąd wniosek, że poziom hemoglobiny u pacjentów stosujących różne leki różni się istotnie. Zakładamy normalność rozkładów oraz jednorodność wariancji w grupach.  KISIM, WIMiIP, AGH

123 Przykład 1d KISIM, WIMiIP, AGH

124 KISIM, WIMiIP, AGH

125 Przykład 1e Analiza post-hoc: Porównania wielokrotne Te testy umożliwiają nam odpowiedzenie na pytanie, które z analizowanych grup różnią się między sobą. KISIM, WIMiIP, AGH

126 Kontrasty: kombinacje średnich
Kontrasty pozwalają badać hipotezy na temat różnic średnich w poszczególnych grupach. Załóżmy że chcemy porównać lek A z lekiem B z wyłączeniem leku C (Przykład 1b). Wtedy kontrasty będą następujące: 1, -1, 0 [przykład 1f] Jeśli grupy (leki) są takie same, to suma średnich pomnożonych przez odpowiednie wagi będzie miała wartość oczekiwaną równą 0. Jeśli pacjenci leczeni lekiem C mają wyższy poziom hemoglobiny, wtedy średnia będzie mniejsza od 0 (waga -1) KISIM, WIMiIP, AGH

127 Kontrasty: kombinacje średnich
Jeśli chcemy sprawdzić, czy leki B i C istotnie różnią się od leku A, tworzymy kontrast: 2, -1, -1 [przykład 1g] Wagi muszą sumować się do 0, tylko wtedy suma ważonych średnich z poszczególnych grup będzie równa 0, a suma ta będzie się różnić od 0 tylko jeśli wystąpią różnice międzygrupowe. KISIM, WIMiIP, AGH

128 Kontrasty: kombinacje średnich
[przykład 1f] KISIM, WIMiIP, AGH

129 VEPAC Wykres zmienności KISIM, WIMiIP, AGH

130 Tabele wielodzielcze KISIM, WIMiIP, AGH

131 KISIM, WIMiIP, AGH

132 KISIM, WIMiIP, AGH

133 KISIM, WIMiIP, AGH

134 Tabele raportujące KISIM, WIMiIP, AGH

135 Zmienne jakościowe KISIM, WIMiIP, AGH

136 Tablice kontyngencji (tabele przestawne) tabele liczebności, tabele krzyżowe albo rozdzielcze,  a w przypadku dwóch wskaźników także dwudzielcze  y1 y2 …. ym x1 n11 n12 n1m x2 n21 n22 n2m xk nk1 nk2 nkm Czy musiało dojść do katastrofy Challengera w 1986r. Analiza danych z wcześniejszych 24 startów brak usterek wystąpiła usterka(i) ≤ 65oF 4 > 65oF 17 3 brak usterek wystąpiła usterka(i) ≤ 65oF 0% 17% > 65oF 70% 13%

137 Czy czuje się bezpiecznie?
Przykład Do badania wybrano 500 mieszkańców Rzeszowa, których poproszono o określenie, czy czują się bezpiecznie. Wyniki odpowiedzi respondentów zostały przedstawione w tabeli niezależności. Sprawdź, czy istnieje zależność między płcią respondenta a poczuciem jego bezpieczeństwa, przyjmując poziom istotności alfa= 0,05. Płeć Czy czuje się bezpiecznie? RAZEM Tak Nie Mężczyzna 30 80 110 Kobieta 170 220 390 200 300 500 KISIM, WIMiIP, AGH

138 Porównanie dwóch wskaźników struktury (proporcji)
Zweryfikujmy hipotezę o większym procencie wyzdrowień w grupie psów leczonych nową szczepionką Z menu Statystyka wybieramy opcję Statystyki podstawowe i tabele. Następnie w otwierającym się oknie wybieramy opcję Inne testy istotności. KISIM, WIMiIP, AGH