Pakiety numeryczne Optymalizacja Łukasz Sztangret Katedra Informatyki Stosowanej i Modelowania

Optymalizacja „Dążenie człowieka do perfekcji znajduje swój wyraz w optymalizacji. Zajmuje się ona tym, jak opisać i osiągnąć Najlepsze, gdy wiemy już jak mierzyć i zmieniać Dobre i Złe […].” Beightler C. S., Phillips D. T., Wilde D. J., Foundations of optimization, Englewood Cliffs, N.J., Prentice-Hall, 1979.

Zadanie optymalizacji

Zbiór rozwiązań dopuszczalnych

Funkcja celu

Minimum globalne

Metody optymalizacji Programowanie liniowe, Metody bezgradientowe (bezpośredniego szukania), Metody gradientowe, Metody niedeterministyczne.

[x_opt y_opt] = bintprog(f,A,b,Aeq,beq) Problem binarny Wektor x może przyjmować jedynie wartości 0 lub 1. Szukamy maksimum funkcji celu: przy ograniczeniach: [x_opt y_opt] = bintprog(f,A,b,Aeq,beq) Funkcja bintprog szuka minimum funkcji celu przy ograniczeniach nierównościowych (zmienne A i b) oraz równościowych (zmienne Aeq i beq). Wartości zwracane to wektor zmiennych decyzyjnych x_opt oraz wartość funkcji celu y_opt.

Dyskretny problem plecakowy Przy podanym zbiorze elementów o podanej wadze i wartości, należy wybrać taki podzbiór by suma wartości była możliwie jak największa, a suma wag była nie większa od danej pojemności plecaka. Lp. Wartości Waga 1 75 7 2 270 8 3 250 6 4 35 5 10 100 9

Dyskretny problem plecakowy Znak minus jest konieczny ponieważ szukamy maksymalnej wartości plecaka a funkcja bintprog szuka wartości minimalnej f=-[75 270 250 35 10 100]; A=[7 8 6 4 3 9]; b=10; [x_opt y_opt]=bintprog(f,A,b) Optimization terminated. x_opt = 1 y_opt = -285 Lp Wartości Waga 1 75 7 2 270 8 3 250 6 4 35 5 10 100 9

Dyskretny problem plecakowy Dodatkowe ograniczenie: zabierając przedmiot nr 3 musimy zabrać przedmiot nr 5 i odwrotnie. f=-[75 270 250 35 10 100]; A=[7 8 6 4 3 9]; b=10; Aeq=[0 0 1 0 -1 0]; beq=0; [x_opt y_opt]=bintprog(f,A,b,Aeq,beq) Optimization terminated. x_opt = 0 1 y_opt = -270 Lp Wartości Waga 1 75 7 2 270 8 3 250 6 4 35 5 10 100 9

Szukamy maksimum funkcji celu: przy ograniczeniach: Problem linowy Szukamy maksimum funkcji celu: przy ograniczeniach: [x_opt y_opt] = linprog(f,A,b,Aeq,beq,lb,ub) Funkcja linprog szuka minimum funkcji celu przy ograniczeniach nierównościowych (zmienne A i b), równościowych (zmienne Aeq i beq) oraz kostkowych (zmienne lb i ub). Wartości zwracane to wektor zmiennych decyzyjnych x_opt oraz wartość funkcji celu y_opt.

Ciągły problem plecakowy f=-[75 270 250 35 10 100]; A=[7 8 6 4 3 9]; b=10; [x_opt y_opt]=linprog(f,A,b) Exiting: One or more of the residuals, duality gap, or total relative error has grown 100000 times greater than its minimum value so far: the dual appears to be infeasible (and the primal unbounded). (The primal residual < TolFun=1.00e-008.) x_opt = 1.0e+014 * -0.0000 0.0000 1.1715 -0.7810 y_opt = -2.1478e+016

Ciągły problem plecakowy f=-[75 270 250 35 10 100]; A=[7 8 6 4 3 9]; b=10; lb=[0 0 0 0 0 0]; [x_opt y_opt]=linprog(f,A,b,[],[],lb) Optimization terminated. x_opt = 0.0000 1.6667 y_opt = -416.6667

Poszukiwanie minimum funkcji jednej zmiennej z ograniczeniami f=@(x)(x-2).^2; lb=-2; ub=5; [x_opt y_opt]=fminbnd(f,lb,ub) x_opt = 2 y_opt = 0 Funkcja fminbnd wykorzystuje metodę złotego podziału oraz aproksymacji kwadratowej Uchwyt do funkcji celu Dolne ograniczenie Górne ograniczenie

Poszukiwanie minimum funkcji wielu zmiennych bez ograniczeń function y=fun_celu(x) y=(x(1)-5).^2+(x(2)-5).^2; [x_opt y_opt]=fminsearch(@fun_celu,[2;2]) x_opt = 5.0000 y_opt = 1.4622e-009 Funkcja celu jest zdefiniowana w osobnym pliku o nazwie fun_celu Uchwyt do funkcji celu Punkt startowy Funkcja fminsearch wykorzystuje metodę sympleks Neldera-Meada

Poszukiwanie minimum funkcji wielu zmiennych bez ograniczeń f=@(x)x(1).^2+x(2).^2; [x_opt y_opt]=fminunc(f,[2;2]) Warning: Gradient must be provided for trust-region algorithm; using line-search algorithm instead. > In fminunc at 365 Local minimum found. Optimization completed because the size of the gradient is less than the default value of the function tolerance. <stopping criteria details> x_opt = 0 y_opt = Funkcja fminunc wykorzystuje metodę gradientową

Poszukiwanie minimum funkcji wielu zmiennych bez ograniczeń f=@(x)x(1).^2+x(2).^2; g=@(x)[2*x(1); 2*x(2)]; opcje=optimset('GradObj','on'); [x_opt y_opt]=fminunc({f;g},[2;2],opcje) Local minimum found. Optimization completed because the size of the gradient is less than the default value of the function tolerance. <stopping criteria details> x_opt = 0 y_opt =

Poszukiwanie minimum funkcji wielu zmiennych bez ograniczeń function [y dy]=fun_celu(x) syms X Y f=X.^2+Y.^2; g=gradient(f); X=x(1); Y=x(2); y=eval(f); dy=eval(g); Utworzenie dwóch zmiennych symbolicznych opcje=optimset('GradObj','on'); [x_opt y_opt]=fminunc(@fun_celu,[2;2],opcje) Local minimum found. Optimization completed because the size of the gradient is less than the default value of the function tolerance. <stopping criteria details> x_opt = y_opt = Zdefiniowanie funkcji celu (również zmienna symboliczna) Zdefiniowanie gradientu funkcji f Zmiennym X oraz Y przypisujemy konkretne wartości liczbowe Obliczamy wartość funkcji i jej gradientu w punkcie o współrzędnych X oraz Y

Poszukiwanie minimum funkcji wielu zmiennych z ograniczeniami [x_opt y_opt]=fmincon(@fun_celu,x0,A,b,Aeq,beq,lb,ub,@ograniczenia) Uchwyt do funkcji celu Ograniczenia nierównościowe Ograniczenia kostkowe Punkt startowy Ograniczenia równościowe Ograniczenia nieliniowe function [c ceq]=ograniczenia(x) c=x(1).^2+x(2).^2-4; ceq=[];

Poszukiwanie minimum funkcji wielu zmiennych z ograniczeniami Funkcja celu function y=fun_celu(x) y=(x(1)-5).^2+(x(2)-5).^2; function [c ceq]=ograniczenia(x) c=x(1).^2+x(2).^2-4; ceq=[]; [x_opt y_opt]=fmincon(@fun_celu,[10;10],[],[],[],[],[-5;-5],[15;15],@ograniczenia) x_opt = 1.4142 y_opt = 25.7157 Funkcja z ograniczeniami nieliniowymi

Poszukiwanie minimum wielu funkcji wielu zmiennych z ograniczeniami [x_opt y_opt]=fminimax(@fun_celu,x0,A,b,Aeq,beq,lb,ub,@ograniczenia) Argumenty jak przy funkcji fmincon. Minimalizowana funkcja celu zwraca wektor (wiele funkcji celu). Funkcja fminimax poszukuje rozwiązania minimalizującego wszystkie funkcje celu. function y=fun_celu(x) y(1)=(x-1).^2; y(2)=(x+1).^2; [x_opt y_opt]=fminimax(@fun_celu,5) x_opt = 4.8750e-016 y_opt = 1.0000 1.0000

Prezentacja udostępniona na licencji Creative Commons: Uznanie autorstwa, Na tych samych warunkach 3.0. Pewne prawa zastrzeżone na rzecz autorów. Zezwala się na dowolne wykorzystywanie treści pod warunkiem wskazania autorów jako właścicieli praw do prezentacji oraz zachowania niniejszej informacji licencyjnej tak długo, jak tylko na utwory zależne będzie udzielana taka sama licencja. Tekst licencji dostępny jest na stronie: http://creativecommons.org/licenses/by-sa/3.0/deed.pl