Elementy Rachunku Prawdopodobieństwa c.d.

Prezentacja na temat: "Elementy Rachunku Prawdopodobieństwa c.d."— Zapis prezentacji:

1 Elementy Rachunku Prawdopodobieństwa c.d.
Wykład 14 Elementy Rachunku Prawdopodobieństwa c.d. 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

2 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK
Szkic wykładu Porównanie pojęć wyłączania się zdarzeń i niezależności Niezależność n zdarzeń Prawdopodobieństwo całkowite Wzór Bayesa Zmienna losowa Rozkład prawdopodobieństwa Dystrybuanta Wartość oczekiwana 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

3 Wyłączanie i niezależność zdarzeń
Rozważmy doświadczenie z rzutem dwoma kostkami do gry. Card(W)=36 Rozważmy następujące zdarzenia: A = „Suma wyrzuconych oczek wynosi 5” B =„W pierwszym rzucie >2 oczka” C = „W drugim rzucie co najwyżej 3 oczka” D = „Suma wyrzuconych oczek >9” (1,4),(2,3),(3,2),(4,1) (3,x), (4,x), (5,x) lub (6,x) dla x =1,2,3,4,5,6 (x,1), (x,2), (x,3) dla x =1,2,3,4,5,6 (4,6) , (5,x) dla x=5,6 lub (6,y) dla y= 4, 5,6 P(A) = 4/36 P(B) = 4*6/36 P(C) = 3*6/36 P(D)=6/36 Zdarzenia A i D wyłączają się i nie są niezależne. Zdarzenia A i B nie są niezależne i nie są wyłączające. Zdarzenia B i C nie wyłączają się i są niezależne. 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

4 Niezależność zbioru zdarzeń
Definicja Niech będzie dany ciąg zdarzeń losowych A1,...An. Powiemy, że zdarzenia te są niezależne wttw dla dowolnego podciągu indeksów i1,...,ik P(Ai1...  Aik) = P(Ai1)* ... *P(Aik) Te zdarzenia nie są niezależne To są zdarzenia parami niezależne Przykład (Bernstein) W urnie znajduj a się 4 paski oznaczone 110,101, 011,000. Niech Ai zdarzenie polegające na wybraniu paska z 1 na pozycji i-tej. Zakładamy, że wyciągnięcie każdego paska jest tak samo prawdopodobne. Mamy P(A1)= P(A2)=P(A3)= ½ P(A1A2A3) = 0  P(A1)*P(A2)*P(A3) Ale P(A1A2) = ¼ =P(A1)*P(A2) P(A2A3) = ¼ = P(A2)*P(A3) P(A1A3) = ¼ =P(A1)*P(A3) Uwaga Jest możliwe, że zdarzenia są parami niezależne ale nie są niezależne. 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

5 Twierdzenie o prawdopodobieństwie całkowitym
Jeżeli zdarzenia losowe A1,...An stanowią podział przestrzeni zdarzeń elementarnych W, oraz P(Ai)>0, to dla dowolnego zdarzenia B zachodzi równość: P(B) = P(A1)*P(B| A1) + P(A2) * P(B| A2) P(An) * P(B| An) Prawa rachunku zbiorów Dowód B = (A1B) ...  (An  B). Ponieważ AiAj =  dla i j zatem (Ai B) (Aj B) =  dla ij. P(B) = P((A1B) ...  (An  B)) = P(A1B) P (An  B) Z definicji rawdopodobieństwa Korzystając z wzoru na prawdopodobieństwo warunkowe P(AiB)= P(Ai)*P(B| Ai), otrzymujemy wzór P(B) = P(A1)*P(B| A1) + P(A2) * P(B| A2) P(An) * P(B| An) cbdo 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

6 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK
Przykład 1 Z przypadkowo wybranej urny wybieram 1 kulę. Urna 2 Urna 1 Jakie jest prawdopodobieństwo, że wyciągniemy kulę białą, jeżeli prawdopodobieństwo wybrania każdej z urn wynosi ½? Oznaczenia Niech B oznacza wybranie kuli białej. U1 wybranie urny pierwszej i U2 wybranie urny drugiej. Zbiór zdarzeń elementarnych polegających na wybraniu jednej kuli rozpada się na dwa podzbiory: wybrana kula pochodzi z urny U1, wybrana kula pochodzi z urny U2. P(B) = P(U1) *P(B|U1) + P(U2) *P(B|U2) = ½ * 3/5 + ½ * 1/5 P(B) = 2/5 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

7 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK
Przykład 2 Telewizory produkują dwie fabryki, z których jedna wykonuje 60% a druga 40% całej produkcji. Pierwsza fabryka wypuszcza na rynek 90% telewizorów bez braków, a druga 80%. Jakie jest prawdopodobieństwo kupienia telewizora bez braku? Oznaczenia Fi=„telewizor wyprodukowała fabryka i-ta” A=„kupiony telewizor nie ma braku” A’ F1 F2 A P(F1) P(F2) P(A|F2) P(A|F1) P(F1)*P(A|F1) P(F2)*P(A|F2) P(F1)=6/10 P(F2)= 4/10 P(A|F1)= 9/10 P(A|F2)=8/10 Odp.: P(A) = 43/50 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

8 Wzór Bayesa Niech zdarzenia losowe A1,...An stanowią podział przestrzeni zdarzeń elementarnych W, oraz P(Ai)>0 dla i =1,2...n. Załóżmy, że zaszło zdarzenie B. Jakie jest wtedy prawdopodobieństwo zdarzenia Ai? P(Ai|B) = P(A1)*P(B| A1) + P(A2) * P(B| A2) P(An) * P(B| An) P(Ai)*P(B| Ai) Jeśli zdarzenie B zaistniało, to jakie jest prawdopodobieństwo, że przyczyną tego było zdarzenie Ai? Możliwe przyczyny zajścia zdarzenia B (skutku): A1...An Dowód 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

9 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK
Przykład ------|--I---|--II--|--III-- Braki | 3% | 2% | 4% 100 sztuk Fabryka I 50 sztuk Fabryka II 80 sztuk Fabryka III Jakie jest prawdopodobieństwo, że zakupiona wadliwa żarówka pochodzi z fabryki i tej? Zdarzenie A= ‘wadliwa żarówka’ Zdarzenie Fi=‘żarówka z fabryki itej’ Zdarzenie elementarne polega na wybraniu 1 żarówki z 230 możliwych. P(F1) = 100/230 P(F2) = 50/230 P(F3) = 80/230 P(A|F1) = 3/100 P(A|F2) = 2/100 P(A|F3) = 4/100 P(F1 |A)=15/36 P(F2 |A)= 5/36 P(F3 |A)= 16/36 oblicz 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

10 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK
Obliczamy . . . P(F1 |A)= (10/23 * 3/100)/(10/23 * 3/ /23 * 2/ /23 * 4/100 ) P(F2 |A)= (5/23 * 2/100)/(10/23 * 3/ /23 * 2/ /23 * 4/100 ) P(F3 |A)= (8/23 * 4/100)/(10/23 * 3/ /23 * 2/ /23 * 4/100 ) 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

11 Zmienna losowa 3 2 1 4 5 6 X(wi) = i X(wij) = i+j Y(wij) = i/j
Definicja Niech W będzie przestrzenią zdarzeń elementarnych. Każdą funkcję określoną na zbiorze W i o wartościach w zbiorze liczb rzeczywistych nazywać będziemy zmienną losową. Wartość zmiennej dla zdarzenia wi Nazwa zmiennej Przykład 1 Rzut jedną kostką. X(wi) = i Zmienne dyskretne Y(wi) = 1 gdy i parzyste Y(wi) =0 gdy i nieparzyste Przykład 2 Rzut dwoma kostkami. Zdarzenia elementarne wij= (i,j) , gdzie i, j =1,2,3,4,5,6 X(wij) = i+j Y(wij) = i/j Z(wij) = max(i,j) 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

12 Niezależność zmiennych losowych
Przykład XK (data) - liczba stłuczek samochodowych w Krakowie XW (data) - liczba stłuczek samochodowych w Warszawie Ilość stłuczek w Warszawie nie powinna mieć wpływu na liczbę stłuczek w Krakowie. Intuicyjnie te zmienne są niezależne. Definicję tę można uogólnić na dowolny ciąg zmiennych losowych Definicja Powiemy, że dwie zmienne losowe X i Y są niezależne wttw dla dowolnych przedziałów I, J w zbiorze liczb rzeczywistych P (XI i Y J) = P(XI) * P(Y J) W przypadku zmiennych dyskretnych : niezależność wyraża się warunkiem: P(X=x i Y= y) = P(X=x) * P(Y=y) dla dowolnych x,y  R. 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

13 Przykład X  3 Y 5 Zmienne X i Z nie są niezależne
Rozważmy doświadczenie z rzutem dwoma kostkami do gry. Definiujemy zmienne losowe X , Y i Z : X(i,j)= i , Y(i,j) = j, Z(i,j)=i+j Zdarzenie A= „liczba oczek na kostce 1 jest nie większa niż 3” X  3 Zdarzenie B = „liczba oczek na drugiej kostce wynosi co najmniej 5 Y 5 Uwaga P(A) = 1/2 = P(X  3) P(B) =1/3 =P(Y 5) tzn. X i Y są zmiennymi niezależnymi Dla dowolnych k i l mamy P(X=k i Y=l) = 1/36 = P(X=k) * P(Y=l) 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

14 Rozkład prawdopodobieństwa
Niech X będzie zmienną losową określoną w przestrzeni W. Definicja Funkcję fX określoną na zbiorze R i o wartościach w zbiorze [0,1] taką, że fX(x) = P(X=x) dla x R nazywamy rozkładem prawdopodobieństwa zmiennej losowej X Przykład Rozważmy zmienne X, Y, Z rozpatrywane w przykładzie z rzutem dwoma kostkami do gry. fZ (x) = 1/36 dla x=2 i x= 12 2/36 dla x=3 i x=11 3/36 dla x=4 i x=10 4/36 dla x=5 i x=9 5/36 dla x=6 i x=8 6/36 dla x= dla pozostałych x fX(x) = 1/6 dla x=1,2,3,4,5,6 0 dla pozostałych x 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

15 Przykład fSn(x) = fXi(x) = Rzucamy n-krotnie monetą . Niech
Xi (w i-tym rzucie wypadł orzeł) = 1 Xi (w i-tym rzucie wypadła reszka) = 0 Orzeł Reszka Mamy P( Xi = 1)= 1/2 Niech Sn= X1 + X Xn Liczba orłów w n rzutach monetą k orłów w n rzutach monetą P(Sn = k) = (n nad k)/ 2 n Rozkład dwumianowy Rozkłady prawdopodobieństwa zmiennych są następujące: fSn(x) = (n nad x)/ 2 n dla x N 0 dla pozostałych x fXi(x) = 1/2 dla x=0,1 0 dla pozostałych x 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

16 Dystrybuanta Definicja Niech X będzie zmienną losową określoną na dowolnej przestrzeni zdarzeń losowych W. Dystrybuantą zmiennej X nazywamy funkcję F : R  [0,1] taką, że FX(x) = P(X  x) dla x  R Dystrybuanta akumuluje wartości rozkładu prawdopodobieństwa W przypadku zmiennej losowej dyskretnej mamy FX(x) = S y  x fX(y) 1 5/6 4/6 3/6 Przykład Dystrybuanta zmiennej losowej X w rzucie jedną kostką do gry: 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

17 Przykłady Przykład Zliczanie liczby orłów w n rzutach monetą.
Dystrybuanta każdej ze zmiennych Xi jest określona: FX(y) = 0 gdy y <0 FX (y) = 1/2 gdy 0y <1 FX (y)=1 dla y  1 Dystrybuanta zmiennej S ma postać F(y) = S x  y (n nad x) / 2 n Zmienna jednostajna Przykład Wybieramy losowo liczbę z przedziału [0,1). W = [0,1). Niech U będzie zmienną losową taką że dla x [0,1), U(x)=x. P( U[a,b))= b-a b>a i b,a [0,1) Dystrybuanta FU(y) = P(U  y) To nie jest dyskretna zmienna losowa 0 gdy y<0 y gdy 0 y<1 1 gdy y 1 FU(y) = 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

18 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK
Wartość oczekiwana Definicja W - skończona przestrzeń zdarzeń elementarnych, X zmienna losowa określona w W. Wartością oczekiwaną zmiennej X nazywamy liczbę E(X) = S wW X(w)* P({w}). Jeśli wszystkie zdarzenia elementarne są jednakowo prawdopodobne, to P({w}) = 1/card(W) czyli Przykład Rzucamy jedną kostką do gry. Liczba wyrzuconych oczek X jest zmienną losową o wartościach 1,2,3,4,5,6 i ma rozkład jednostajny P(X=i)=1/6. Zatem E(X)= ( )/6 = 3.5 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

19 Przykład Niech prawdopodobieństwo wyboru obu wartości = 1/2 (np rzucamy monetą) Rozważmy program P : x:= 0; p := false; while p = false do x.= x+1; p := random({true,false}) od Niech X oznacza zmienną losową taką, że X = i, jeśli program P zatrzymuje się po i-krokach (tzn. w której iteracji po raz pierwszy wypadło ‘true’ ) Ile wynosi oczekiwany średni czas oczekiwania na zatrzymanie się tego programu? Ponieważ P(X=k)= 1/2k Zatem E(X) = S kN k/ 2k = 2 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK

20 Uzasadnienie wzoru Bayes’a
Z wzoru na prawdopodobieństwo warunkowe: P(B Ai) = P(Ai) * P(B| Ai) P(Ai B) = P(B) * P(Ai| B) Stąd P(Ai|B) = P(Ai) * P(B| Ai) / P(B) (*) Z wzoru na prawdopodobieństwo całkowite: P(B) = P(A1)*P(B| A1) + P(A2) * P(B| A2) P(An) * P(B| An) Wstawiając P(B) do wzoru (*) otrzymujemy wzór Bayesa P(Ai|B) = P(A1)*P(B| A1) + P(A2) * P(B| A2) P(An) * P(B| An) P(Ai)*P(B| Ai) 16 stycznia 2002 MAD, Rachunek Prawdopodobieństwa c.d. Grażyna Mirkowska, PJWSTK