Wykorzystanie sieci neuronowych do optymalizacji liniowej i liniowo-kwadratowej Piotr Górecki Opiekun: dr inż. Maciej Ławryńczuk Instytut Automatyki i Inżynierii Oprogramowania

Plan prezentacji Teoria Praca inżynierska Podsumowanie sformułowanie zadania optymalizacji wprowadzenie do sieci neuronowych Praca inżynierska kształt pracy elementy innowacyjności i możliwości rozwoju dotychczasowe osiągnięcia Podsumowanie Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Zadanie optymalizacji kwadratowej minimalizuj: przy ograniczeniach: Q – macierz dodatnio półokreślona (warunek wypukłości) Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Sieci neuronowe - teoria sieć neuronowa – struktura potrafiącą odbierać docierające sygnały i przetwarzać je na użyteczną informację neuron – element sieci, wykonujący pewne przekształcenie na swoich sygnałach wejściowych funkcja energetyczna sieci – malejąca w czasie funkcja związana ze stanami neuronów (ich wartościami na wyjściach) Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Sieci neuronowe - teoria Zastosowania sieci neuronowych rozpoznawanie wzorców (znaków, sygnałów mowy...) klasyfikowanie obiektów aproksymowanie wartości funkcji synteza mowy diagnostyka medyczna optymalizacja Sieci neuronowe do optymalizacji NIE są sieciami uczącymi się! Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Sieci neuronowe - teoria Opis sieci neuronowej stan pojedynczego neuronu – rozwiązanie pewnego równania różniczkowego opis sieci – wektorowo-macierzowe równanie różniczkowe możliwość realizacji analogowej (obwód elektryczny) Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Sieci neuronowe - optymalizacja Wykorzystanie zadania dualnego Warunki KKT (zbieżność) Sformułowanie równania stanu i wyjścia (przykład) równanie stanu: równanie wyjścia: gdzie: g(.) – funkcja nasycenia min p. o. Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Sieci neuronowe - optymalizacja równanie stanu: równanie wyjścia: Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Kształt pracy Omówienie struktury wybranych sieci Zadanie teoretyczne analiza zbieżności, wyprowadzenie wzorów badanie złożoności Zadanie teoretyczne symulacja Simulink Praktyczne zadanie wielowymiarowe (namiot) symulacja Matlab (solver ode45) Zadanie sterowania predykcyjnego sieć jako moduł minimalizujący algorytmu DMC Idea realizacji analogowej Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Innowacyjność Synteza i porównanie wybranych sieci złożoność dokładność szybkość działania Propozycja realizacji sieci, jako elementów obwodu elektrycznego Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Dotychczasowe dokonania Porównanie wybranych trzech sieci neuronowych analiza liczby elementów, w zależności od wyboru sieci Realizacja wybranych sieci w Simulinku proste zadanie akademickie Realizacja wybranych sieci w Matlabie praktyczne zadanie wielowymiarowe (large-scale) Zastosowanie SN w algorytmie DMC Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Wstępna analiza wybranych sieci Liczba elementów realizacji analogowej n - liczba zmiennych decyzyjnych m - liczbę ograniczeń równościowych p - liczba ograniczeń nierównościowych rodzaj sieci liczba neuronów liczba sumatorów liczba wzmacniaczy SDNN p 3p + n p(2n + 1) RNN m + p 3 (m + p) + n (m + p)(m + p + n + 2) DNN 4 (m + p) + n (m + p) (m + p + 2n) Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Przykład akademicki min p. o. Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Przykład akademicki Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Wielowymiarowe zadanie praktyczne Podstawa w kształcie kwadratu (30x30) 5 pali (centralny najwyższy) Elastyczne płótno Ograniczenia (wysokość pali) Funkcja jakości (kształt) Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Wielowymiarowe zadanie praktyczne Sposób rozwiązania rozwiązanie równania różniczkowego du=@(t, u)(-E*MET*u+satur(((E*MET-eye(900))*u+E*s), low)... - E*s)*10^7; [t,u] = ode45(du, tspan, u0); wybór zmiennych stanu, dla końcowego przedziału czasowego wyliczenie zmiennych decyzyjnych x = MET * uk' +s; Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Zadanie sterowania predykcyjnego Wybór algorytmu – DMC algorytm w wersji numerycznej z ograniczeniami p. o. Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Zadanie sterowania predykcyjnego Najważniejsze parametry dobranego regulatora predykcyjnego D = 160 – horyzont dynamiki Np = 20 – horyzont predykcji Ns = 5 – horyzont sterowania T = 0.5 – okres próbkowania Transmitancja modelu Optymalizacja przy użyciu SN w każdej iteracji pętli głównej algorytmu DMC Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Zadanie sterowania predykcyjnego Wyniki symulacji obiekt bez zakłócenia niemierzalnego (dla QP oraz SN) obiekt z mierzalnym zakłóceniem w chwili k = 60 Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Realizacja analogowa (w planach) Realizacja sieci neuronowej, jako połączenia elementów obwodu elektrycznego wzmacniacze operacyjne rezystory kondensatory diody Piotr Górecki - Sieci neuronowe w problemach optymalizacji

Podsumowanie Wprowadzenie teoretyczne Kształt pracy dyplomowej zagadnienie optymalizacji kwadratowej sieci neuronowe w optymalizacji Kształt pracy dyplomowej cele innowacyjność Osiągnięcia synteza i porównanie wybranych sieci realizacja zadania akademickiego – Simulink zasymulowanie zadania praktycznego sprzężenie SN z algorytmem DMC Piotr Górecki - Sieci neuronowe w problemach optymalizacji

dziękuję za uwagę Piotr Górecki - Sieci neuronowe w problemach optymalizacji

dziękuję za uwagę Piotr Górecki - Sieci neuronowe w problemach optymalizacji