Ocena przydatności algorytmu – czas działania (złożoność czasowa) Oznaczenia:
Ocena przydatności algorytmu – czas działania (złożoność czasowa) – analiza przypadku pesymistycznego Jeśli czas działania algorytmu zależy nie tylko od rozmiaru danych wejściowych i przyjmuje różne wartości dla różnych danych o tym samym rozmiarze, to interesuje nas złożoność obliczeniowa w najgorszym przypadku. Gwarancja, że algorytm nigdy nie będzie działał dłużej
Ocena przydatności algorytmu – czas działania (złożoność czasowa) – analiza przypadku pesymistycznego Warto pamiętać! Może się zdarzyć, że algorytm o pesymistycznej złożoności czasowej rzędu nlgn będzie dla większości danych wejściowych działał wolniej niż algorytm o pesymistycznym czasie działania rzędu n2. Istnieją algorytmy o pesymistycznej złożoności czasowej rzędu wykładniczego, które często działają szybciej niż algorytm o złożoności wielomianowej, a nawet liniowej (np. tzw. metoda simplex programowania liniowego).
Ocena przydatności algorytmu – czas działania (złożoność czasowa) – analiza przypadku pesymistycznego Miara wrażliwości pesymistycznej algorytmu bada, na ile wielkość Tmax(n) odzwierciedla rzeczywisty czas działania algorytmu.
Ocena przydatności algorytmu – czas działania (złożoność czasowa) – analiza przypadku średniego Zachowanie algorytmu dla losowych danych wejściowych określa średnia (lub oczekiwana) złożoność. Przypomnienie!
Ocena przydatności algorytmu – czas działania (złożoność czasowa) Podsumowanie: Miara wrażliwości pesymistycznej i miara wrażliwości oczekiwanej informują, jak bardzo zachowanie algorytmu dla rzeczywistych danych wejściowych może odbiegać od zachowania opisanego za pomocą pesymistycznej i oczekiwanej złożoności czasowej. Im większe są te wartości, tym algorytm jest bardziej wrażliwy na dane wejściowe.
Ocena przydatności algorytmu – czas działania (złożoność czasowa) - przykład Przykład: Rozważmy zbiór danych ZDWn jako n-wyrazowych ciągów uporządkowanych liczb naturalnych. Rozważmy dalej typowy algorytm w rodzaju „dziel i zwyciężaj” sprawdzenia, czy liczba naturalna x jest elementem ciągu zdwZDWn. Rozwiązanie: Przyjmijmy, że ilość n elementów ciągu {a1,a2,…an} jest potęgą dwójki, czyli n=2k, gdzie k jest pewną liczba naturalną. Sprawdzamy, czy x==an/2. Jeśli tak, to algorytm kończy działanie, jeśli nie, to po sprawdzeniu, że x<an/2 przechodzimy do przeszukania lewej połowy ciągu o ilości elementów równej n/2; jeśli spełniona jest nierówność przeciwna, to przeszukujemy prawą połowę ciągu. Maksymalną pesymistyczną liczbę porównań otrzymamy, gdy kolejne zagłębienia rekurencyjne doprowadzą do zbioru dwuelementowego, dla którego dwa porównania dadzą ostateczną odpowiedź dla zadania rozwiązywanego tym algorytmem.
Tmax(n)=Tmax(n/2)+2=Tmax(2k-1)+2=Tmax(2k-2)+2+2=…= Ocena przydatności algorytmu – czas działania (złożoność czasowa) - przykład Zatem dla Otrzymujemy: Tmax(n)=Tmax(n/2)+2, gdzie 2 stanowią dwa dodatkowe porównania na każdym etapie. Dostajemy po rozwinięciu postać funkcji pesymistycznej złożoności czasowej: Tmax(n)=Tmax(n/2)+2=Tmax(2k-1)+2=Tmax(2k-2)+2+2=…= =Tmax(2k-(k-1))+(k-1)*2=Tmax(2)+(k-1)*2=2+(k-1)*2=2*k. Ponieważ k=log2n, zatem Tmax(n)=2*(log2n)
Ocena przydatności algorytmu – czas działania (złożoność czasowa) - przykład Policzmy teraz pesymistyczną wrażliwość tego algorytmu. Przypomnijmy, że Jest to zatem kres górny zbioru liczb, które powstają jako różnice ilości operacji dominujących. Zatem od liczby największej z możliwych należy odjąć najmniejszą z możliwych, żeby otrzymać taki kres górny. Ponieważ najmniejszą ilością porównań dla dowolnego n jest jedno porównanie, a największa ilość wyrażą się obliczoną właśnie Tmax(n)=2*(log2n), to = =2*(log2n)-1 Pesymistyczna wrażliwość złożoności czasowej jest zatem duża i możemy się spodziewać dużej zmienności złożoności obliczeniowej.
n={zdwZDWn} – zbiór zdarzeń elementarnych, Ocena przydatności algorytmu – czas działania (złożoność czasowa) - przykład Policzmy teraz typową wartość złożoności obliczeniowej, czyli dla losowo wybranych n liczb. Przypomnijmy: Określmy kolejno elementy tej definicji: n={zdwZDWn} – zbiór zdarzeń elementarnych, Xn – zmienna losowa, której wartością jest l(zdw)- liczba operacji dominujących na n, pnk –rozkład zmiennej losowej Xn, czyli prawdopodobieństwo, że dla danych wejściowych rozmiaru n algorytm wykona k operacji dominujących, tzn. pnk=p{zdw n: l(zdw)=k}, przy k całkowitym, k [1, 2*(log2n) ].
Zauważmy, że Tśr(n) jest o ½ większe od połowy Tmax(n). Ocena przydatności algorytmu – czas działania (złożoność czasowa) - przykład Ponieważ nasze prawdopodobieństwo pnk nie zależy od k, więc pnk=1/(2*log2n) dla każdego całkowitego k [1, 2*(log2n)]. Stąd Zauważmy, że Tśr(n) jest o ½ większe od połowy Tmax(n).
Obliczmy na koniec miarę wrażliwości oczekiwanej algorytmu. Ocena przydatności algorytmu – czas działania (złożoność czasowa) - przykład Obliczmy na koniec miarę wrażliwości oczekiwanej algorytmu. W naszym przypadku sumujemy po całkowitych k [1, 2*(log2n)]. Stąd otrzymujemy wyniki:
Szczegółowe rachunki na tablicy Ocena przydatności algorytmu – czas działania (złożoność czasowa) - przykład Szczegółowe rachunki na tablicy Otrzymane wyniki są może mało czytelne, ale można je przybliżać, wykorzystując oszacowania asymptotyczne. Takie oszacowania zostaną podane później