1 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 1 Metody optymalizacji Energetyka - studia stacjonarne I stopnia Wykład 1b /2016 Kazimierz Duzinkiewicz, dr hab. Inż. Katedra Inżynierii Systemów Sterowania Podstawy matematyczne metod optymalizacji

2 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 2 Czym jest optymalizacja? Optymalizacja jest procesem (i) formułowania i (ii) rozwiązywania problemu optymalizacyjnego o następującej ogólnej postaci spełniając ograniczenia gdzie, oraz są funkcjami skalarnymi wektora

3 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 3 Przykłady formułowania problemów optymalizacyjnych Przykład 1: 1. Opis werbalny problemu Należy zaprojektować puszkę, która może pomieścić co najmniej 400 ml (1ml=1cm 3 ) cieczy, spełniając przy tym inne wymagania projektowe. Puszka ma być produkowana w bardzo dużych ilościach, zatem pożądana jest minimalizacja kosztów jej wytworzenia. Ponieważ koszt wytworzenia może być odniesiony bezpośrednio do powierzchni zużytego materiału, rozsądnym jest minimalizować ilość materiału potrzebnego do produkcji puszki. Produkcja, użytkowanie, estetyka i względy transportowe nakładają następujące wymagania na rozmiary puszki: średnica nie powinna być większa niż 8 cm i mniejsza niż 3,5 cm, a wysokość powinna być nie większa niż 18 cm i nie mniejsza niż 8 cm. 2. Zebranie danych i informacji Zawarte są w opisie problemu 3. Zdefiniowanie zmiennych decyzyjnych Definiujemy dwie zmienne decyzyjne:

4 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 4 4. Określenie kryterium, które ma być optymalizowane Projekt puszki ma być taki, aby minimalizował jej powierzchnię boczną S składającą się z powierzchni ścianki bocznej i dwóch denek 5. Określenie ograniczeń Pierwsze ograniczenie – puszka musi pomieścić co najmniej 400cm 3 cieczy Druga grupa ograniczeń – wymiary puszki muszą mieścić się w okrteślonych przedziałach Charakterystyka zadania: - zadanie optymalizacji nieliniowej - z ograniczeniami - zmienne decyzyjne rzeczywistoliczbowe

5 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 5 Przykład 2: 1. Opis werbalny problemu Celem projektu jest określenie grubości izolacji zbiornika kulistego t minimalizującej koszty chłodzenia tego zbiornika w okresie jego cyklu życia. Koszty chłodzenia obejmują koszty instalacji i eksploatacji wyposażenia chłodniczego oraz koszty instalacji izolacji. Założony został 10 letni cykl życia, 10% oprocentowanie w stosunku rocznym i zerową wartość instalacji na końcu użytkowania. Zbiornik jest już zaprojektowany i jego średnica wynosi r [m]. 2. Zebranie danych i informacji Aby obliczyć objętość materiału izolacyjnego należy znać powierzchnię kulistego zbiornika Aby obliczyć wydajność wyposażenia chłodniczego i koszt jego eksploatacji należy znać roczny ubytek ciepła ze zbiornika - średnia różnica pomiędzy temperaturami wewnętrzną i zewnętrzną - oporność cieplna na jednostkę grubości - grubość izolacji

6 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 6 Niech ponadto: - koszt jednostkowy izolacji (j.p. – jednostka pieniężna) na jednostkę objętości - koszt jednostkowy wyposażenia chłodniczego na jednostkę energii - roczny koszt jednostkowy eksploatacji wyposażenia chłodniczego na jednostkę energii 3. Zdefiniowanie zmiennych decyzyjnych - grubość izolacji

7 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 7 4. Określenie kryterium, które ma być optymalizowane Celem jest minimalizacja kosztów chłodzenia zbiornika kulistego w okresie 10 lat. Koszt ten w okresie cyklu życia ma trzy składowe: - koszt instalacji izolacji (zakup i montaż) - koszt instalacji wyposażenia chłodniczego - koszt eksploatacji w okresie 10 lat Koszt eksploatacji należy sprowadzić do kosztów bieżących korzystając ze współczynnika bieżącej wartości (USPWF – Uniform Series Present Worth Factor) - stopa procentowa - liczba rocznych wpłat

8 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 8 Można założyć, że grubość izolacji jest znacznie mniejsza od promienia zbiornika Optymalizowany koszt wyrazi się wówczas 5. Określenie ograniczeń Przyjąć należy, że grubość izolacji nie może być mniejsza od pewnej granicznej wartości izolacji dostępnej na rynku Policzymy przed podaniem ostatecznego sformułowania zadania

9 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 9 Ostateczne sformułowanie zadania: Dane: Znaleźć: Minimalizując: gdzie: Spełniając ograniczenie: Charakterystyka zadania: - zadanie optymalizacji nieliniowej - z ograniczeniami - zmienna decyzyjna rzeczywistoliczbowa

10 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 10 Przykład 3: 1. Opis werbalny problemu Firma posiada dwa tartaki i dwa lasy. Tablica poniżej podaje zdolności przerobowe [kłody/dzień] i odległości pomiędzy lasami i tartakami [km]. Z każdego lasu można pozyskać do 200 kłód/dzień w rozważanym okresie czasu a koszt transportu kłód został oszacowany na 0.15 [j.p./(km·kłoda)]. Istnieje zapotrzebowanie na cięcie co najmniej 300 kłód dziennie. Firma chciałaby minimalizować koszty transportu kłód każdego dnia. Odległość, km TartakLas 1Las 2Zdolność przerobowa/dzień kłód Tablica 1.

11 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 11 Tartak A Las 1 Las 2 Tartak B x 1A x 1B x 2B x 2A 2. Zebranie danych i informacji Zawarte są w opisie problemu i Tablicy 3. Zdefiniowanie zmiennych decyzyjnych Celem projektu jest określenie ile kłód należy przewieźć z Lasu i do Tartaku j, zatem - liczba kłód przewożonych z Lasu 1 do Tartaku A - liczba kłód przewożonych z Lasu 1 do Tartaku B - liczba kłód przewożonych z Lasu 2 do Tartaku A - liczba kłód przewożonych z Lasu 2 do Tartaku B

12 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania Określenie kryterium, które ma być optymalizowane Optymalizowany koszt transportu wyraża się 5. Określenie ograniczeń Pierwsza grupa ograniczeń związana jest z ze zdolnościami przerobowymi tartaków Druga grupa ograniczeń związana jest z możliwościami pozyskiwania drewna z lasów

13 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 13 Trzecia grupa ograniczeń związana jest z zapotrzebowaniem na pocięte kłody Czwarta grupa ograniczeń to warunki nieujemności Charakterystyka zadania: - zadanie optymalizacji liniowej - z ograniczeniami - zmienne decyzyjna całkowitoliczbowa

14 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 14 Inne przykłady podczas ćwiczeń laboratoryjnych

15 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 15 (ii) rozwiązywanie problemu optymalizacyjnego o następującej ogólnej postaci spełniając ograniczenia gdzie, oraz są funkcjami skalarnymi wektora II etap procesu optymalizacji: Krócej będziemy dla potrzeb wykładu pisali gdzie jest obszarem dopuszczalnym

16 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 16 Twierdzenie 1: Zadanie optymalizacyjne z funkcją celu jest równoważne zadaniu optymalizacyjnemu z funkcją celu Jest przy tym spełniona zależność:

17 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 17 Przykład 1: spełniając x xx z’ x xx z

18 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 18 Twierdzenie 2: Jeżeli w zadaniu optymalizacyjnym zastąpimy funkcję celu postaci funkcją celu postaci to rozwiązanie optymalne, o ile ono istnieje, dla obu zadań będzie identyczne

19 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 19 Minimum globalne silne: Punkt jest unikatowym minimum globalnym silnym funkcjonału jeżeli zachodzi, dla wszystkich Minimum globalne słabe: Punkt jest minimum globalnym słabym funkcjonału jeżeli zachodzi, dla wszystkich

20 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 20 Przykład 2: Minimum globalne silne

21 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 21 Przykład 3: Minimum globalne słabe wzdłuż prostej x 1 = 0

22 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 22 Minimum lokalne silne: Punkt jest minimum lokalnym silnym funkcjonału jeżeli istnieje skalar taki, że zachodzi, dla wszystkich takich, że Minimum lokalne słabe: Punkt jest minimum lokalnym słabym funkcjonału a istnieje skalar, jeżeli taki, że zachodzi, dla wszystkich takich, że nie jest minimum silnym,,

23 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 23 Przykład 4: Minimum lokalne silne Maksimum lokalne silne Minimum globalne silne Minima lokalne silne Minimum globalne silne Maksimum lokalne silne

24 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 24 Przykład 5: Minimum globalne Minimum lokalne silne Punkt siodłowy Minima lokalne silne Minimum globalne silne Punkt siodłowy

25 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 25 Minima lokalne silne Minimum globalne Przykład 6:

26 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 26 Kiedy minimum lokalne na pewno jest minimum globalnym? x xx z z x

27 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 27 Zbiory wypukłe Zbiór S jest zbiorem wypukłym, jeżeli odcinek łączący jego dowolne dwa punkty zawiera się całkowicie w zbiorze S Matematycznie, S jest zbiorem wypukłym, jeżeli dla dowolnych dwóch punktów/wektorów punkt/wektor dla

28 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 28 Funkcja wypukła Funkcja jest ściśle wypukła na zbiorze S jeżeli dla dowolnych dwóch punktów

29 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 29 Funkcja wklęsła Funkcja jest ściśle wklęsła na zbiorze S, jeżeli jest ściśle wypukła

30 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 30 Jeżeli, to znaczy posiada ciągłe pierwsze pochodne cząstkowe to gradient jest definiowany Pierwsza pochodna (nachylenie) funkcjonałuwzdłuż wektora : Pierwsza pochodna (nachylenie) funkcjonału wzdłuż osi : - i-ty element gradientu

31 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 31 Przykład 7:

32 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 32 Ilustracja graficzna: Pochodne kierunkowe: Pochodne kierunkowe:

33 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 33 Przykład 8:

34 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 34 Ilustracja graficzna: Pochodne kierunkowe: 2.4

35 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 35 gradient funkcjonału (jakobian) Warto pamiętać, że:  Kierunek gradientu w punkcie x pokrywa się z kierunkiem normalnej do powierzchni stałej wartości funkcjonału przechodzącej przez punkt x.  Zwrot gradientu w punkcie x odpowiada zwrotowi najszybszego wzrostu wartości funkcjonału w otoczeniu punktu x.

36 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 36 hessian funkcjonału Hesian funkcjonału Druga pochodna (krzywizna) funkcjonału wzdłuż osi : - (i,i)-ty element hessianu

37 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 37 Druga pochodna (krzywizna) funkcjonału wzdłuż wektora : Krzywizna określa jak szybko zmienia się gradient w wybranym (wskazanym) punkcie

38 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 38 Optymalność Warunki konieczne minimum Rozwinięcie, takiego, że w szereg Taylor’a w otoczeniu

39 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 39 Warunki konieczne minimum (silnego lub słabego) Warunek konieczny pierwszego rzędu: Jeżeli x * jest punktem lokalnego minimum i F jest różniczkowalne w sposób ciągły w otwartym otoczeniu x *, wówczas Optymalność Warunek punktu stacjonarnego – zerowanie się gradientu

40 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 40 Warunek konieczny drugiego rzędu: Jeżeli x * jest punktem lokalnego minimum i  2 F jest ciągłe w pewnym otwartym otoczeniu x *, wówczas dla dowolnych Warunek dodatniej półokreśloności hessianu dla punktu stacjonarnego Optymalność

41 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 41 warunkiem wystarczającym Dodatnia określoność macierzy hessianu jest warunkiem wystarczającym drugiego rzędu istnienia minimum silnego w Optymalność mimo, że składnik drugiego rzędu w szeregu Taylor’a wynosi zero, może istnieć Nie jest to warunek konieczny. Minimum silne w ale składnik trzeciego rzędu jest dodatni

42 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 42 Przykład 9: Warunek punktu stacjonarnego Punkt stacjonarny - jedyny Sprawdzenie warunków rzędu drugiego

43 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 43 Punkt x * =0 spełnia warunki konieczne pierwszego i drugiego rzędu dla minimum

44 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 44 Warunki określoności macierzy hessianu można badać przez sprawdzenie wartości własnych tej macierzy Macierz hessianu jest dodatnio określona, jeżeli wszystkie jej wartości własne są dodatnie Macierz hessianu jest dodatnio półokreślona, jeżeli wszystkie jej wartości własne są nieujemne

45 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 45 Przykład 10: Warunek punkt stacjonarnego Punkt stacjonarny - jedyny Sprawdzenie warunków rzędu drugiego

46 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 46 Pozyskanie informacji o określoności macierzy hessianu Nie można stwierdzić czy macierz hessianu jest dodatnio określona lub dodatnio półokreślona

47 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 47 Wartości własne hessianu

48 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 48 Minimum silne (globalne) w

49 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 49 Warunki wystarczające minimum Warunek drugiego rzędu: Jeżeli dla pewnego x *,  2 F jest ciągłe w pewnym otwartym jego otoczeniu i  F(x * ) = 0 i  2 F(x * ) jest dodatnio określona, wówczas x * jest silnym minimum lokalnym Warunek globalnego minimum Jeżeli F jest funkcją wypukłą, wówczas każde minimum lokalne jest minimum globalnym

50 Metody optymalizacji - Energetyka 2015/2016 Podstawy matematyczne metod optymalizacji © Kazimierz Duzinkiewicz, dr hab. inż. Katedra Inżynierii Systemów Sterowania 50 Dziękuję za uwagę – koniec materiału prezentowanego podczas wykładu