Pobieranie prezentacji. Proszę czekać

Pobieranie prezentacji. Proszę czekać

Przewodnik do przeszukiwania losowego - inspiracje przyrodnicze Przyrodnicze (naturalne) algorytmy optymalizacji MC 1)teoria doboru naturalnego – algorytmy.

Podobne prezentacje


Prezentacja na temat: "Przewodnik do przeszukiwania losowego - inspiracje przyrodnicze Przyrodnicze (naturalne) algorytmy optymalizacji MC 1)teoria doboru naturalnego – algorytmy."— Zapis prezentacji:

1 Przewodnik do przeszukiwania losowego - inspiracje przyrodnicze Przyrodnicze (naturalne) algorytmy optymalizacji MC 1)teoria doboru naturalnego – algorytmy genetycze 2)wzrost i hodowla kryształów, metalurgia – algorytm symulowanego wygrzewania wygląd owada zoptymalizowany na drodze przypadkowego krzyżowania genów oraz mutacji z mechanizmem selekcji naturalnej

2 Stabilne formy węgla: każda – lokalne minimum energii +6e orbitale walencyjne 2p x,2p y,2p z -węgiel -tworzy kierunkowe wiązania kowalencyjne grafit diament E wiązania (funkcja struktury układu)=E wiązania (10 23 położeń atomów) E nieobsadzone miejsca na orbitalach atom węgla: grafitdiament

3 metoda Czochralskiego hodowli kryształów zarodek krystaliczny roztopiony materiał ciut powyżej temperatury topnienia Wzrost kryształów jako proces optymalizacji niska T wysoka T E wiązania (funkcja struktury układu)=E wiązania (10 23 położeń atomów)

4 metoda Czochralskiego wzrostu kryształów zarodek roztopiony materiał nieco powyżej temperatury topnienia zarodek wolno wyciągany roztopiony materiał stygnie i powoli krystalizuje jeśli odpowiednio wolno schładzany materiał krystalizuje w idealnej strukturze (o optymalnej energii wiązania) jeśli zarodek zbyt szybko wyciągnięty: kryształ będzie złej jakości – defekty [układ osiąga najbliższe minimum lokalne] Wzrost kryształów jako proces optymalizacji E wiązania ( funkcja struktury układu)=E wiązania ( położeń atomów)

5 Struktura krystaliczna i defekty: Defekty powodują naprężenia wewnętrzne. Kryształ z defektami jest twardy. przywrócenie idealnej struktury: wymaga pokonania bariery energetycznej dyslokacja krawędziowa położenie międzywęzłowe wakansja położenie atomu energia kryształu dla usunięcia defektów (usunięcia naprężeń i zmiany twardości metalu) kryształ nagrzewa się do wysokiej temperatury, potem powoli schładza. Bariera energetyczna pokonana dzięki energii dostarczonej w formie ciepła. [proces odwrotny do hartowania stali]

6 Symulowane wygrzewanie (simulated annealing) Kirkpatrick, Science praca wykonana w IBM przy optymalizacji fizycznego projektowania układów scalonych) Pomysł: optymalizacja funkcji wielu zmiennych naśladująca proces usuwania defektów z kryształu. usuwanie defektów: optymalizacja energii wiązania w funkcji położeń wielkiej liczby atomów. Idealne optimum osiągane, gdy układ powoli schładzany (tak aby zachowana chwilowo równowaga termiczna). Metoda z symulacji mechaniki statystycznej - układu o bardzo wielu stopniach swobody w równowadze termicznej z otoczeniem – algorytm Metropolisa. Kirkpatrick –algorytm Metropolisa do optymalizacji złożonych problemów

7 kontakt termiczny Zachowanie układów o dużej liczbie stopni swobody w równowadze termicznej ze zbiornikiem ciepła kilka informacji o równowadze termodynamicznej i temperaturze – przyda się dla również dla symulacji transportu ciepła (źródło: F. Reiff Mechanika Statystyczna)

8 układ otoczenie kontakt termiczny EoEo EuEu Zachowanie układów o dużej liczbie stopni swobody w równowadze termicznej ze zbiornikiem ciepła

9 układ otoczenie kontakt termiczny EoEo EuEu całość izolowana = układ zamknięty

10 układ otoczenie kontakt termiczny EoEo EuEu całość izolowana = układ zamknięty E c =E u +E o (energia zachowana)

11 układ otoczenie kontakt termiczny EoEo EuEu całość izolowana = układ zamknięty E c =E u +E o (energia zachowana) E c – niezależna od czasu

12 układ otoczenie kontakt termiczny EoEo EuEu za F. Reiff Mechanika Statystyczna całość izolowana = układ zamknięty E c =E u +E o (zachowana) E c – niezależna od czasu ale E c =E u (t)+E o (t) – układy wymieniają energię wymiana energii = w stanie równowagi [równe temperatury zbiorników] fluktuacje (uśredniające się do zera) = poza równowagą [różne temperatury] ukierunkowany transfer ciepła dla wyrównania temperatur (doprowadzenia do równowagi)

13 układ otoczenie kontakt termiczny EoEo EuEu za F. Reiff Mechanika Statystyczna całość izolowana = układ zamknięty E c =E u +E o (zachowana) dążenie do równowagi zimny gorący przekaz energii między układem „gorącym” i „zimnym” aż do osiągnięcia równowagi gorącyzimny (np. blok lodu) (np. garnek z wrzątkiem) stany mikroskopowe gorącego i zimnego zbiornika

14 stan mikroskopowy o minimalnej energii – jeden stanów mikro o większej energii – znacznie więcej  (E) liczba stanów mikroskopowych układu (stan mikro – położenia i prędkości cząsteczek), dla której energia zgromadzona w układzie wynosi E

15 równowaga (jedna z definicji): stan najbardziej prawdopodobny P(E u )=C  (E u )  ’(E c -E u ) pstwo, że układ zawiera energię E u (że podział energii E u,E o =E c -E u ) (inaczej: że układ w takim stanie makroskopowym, że u ma energię E u ) stan mikroskopowy o minimalnej energii – jeden stanów mikro o większej energii – znacznie więcej  (E) liczba stanów mikroskopowych układu (stan mikro – położenia i prędkości cząsteczek), dla której energia zgromadzona w układzie wynosi E mniejszy podukład większy założenie: każdy stan mikroskopowy jest równie prawdopodobny wtedy: pstwo, że realizowany dany stan makroskopowy = proporcjonalne do liczby stanów mikro odpowiadających danemu stanowi makro  (E) – funkcja silnie rosnąca z E (oraz z rozmiarem układu)

16 P(E u )=C  (E u )  ’(E c -E u ) transfer energii (w formie ciepła) między u a o aż do osiągnięcia równowagi stan równowagi: maksymalne prawdopodobieństwo. Możliwe fluktuacje wokół wartości najbardziej prawdopodobnej. E u  E  (E) – funkcja silnie rosnąca z E (oraz z rozmiarem układu)

17 P(E u )=C  (E u )  ’(E c -E u ) transfer energii (w formie ciepła) między u a o aż do osiągnięcia równowagi stan równowagi: maksymalne prawdopodobieństwo. Możliwe fluktuacje wokół wartości najbardziej prawdopodobnej. jeśli P max to również log P max: poniżej na tej folii log = ln E o =E c - E u E u w równowadze (stan najbardziej prawdopodobny):  E  (E) – funkcja silnie rosnąca z E (oraz z rozmiarem układu)

18 P(E u )=C  (E u )  ’(E c -E u ) transfer energii (w formie ciepła) między u a o aż do osiągnięcia równowagi stan równowagi: maksymalne prawdopodobieństwo. Możliwe fluktuacje wokół wartości najbardziej prawdopodobnej. jeśli P max to również log P max: poniżej na tej folii log = ln E o =E c - E u w równowadze: E u w równowadze (stan najbardziej prawdopodobny): (def. temperatury) transfer ciepła – napędzany gradientem T i dążący do jej wyrównania  E  (E) – funkcja silnie rosnąca z E (oraz z rozmiarem układu)

19 w równowadze: układ bardzo mały w porównaniu z otoczeniem, z którym znajduje się w równowadze termicznej pytanie: jakie jest prawdopodobieństwo, że układ ma energię E u : P(E u ) ?

20 w równowadze: układ bardzo mały w porównaniu z otoczeniem, z którym znajduje się w równowadze termicznej pytanie: jakie jest prawdopodobieństwo, że układ ma energię E u : P(E u ) ? E u <

21 niska T- układ będzie przechowywał minimalną wartość energii jeśli T bliskie zeru: znajdziemy go tylko w stanie o najmniejszej energii granica wysokiego T: układ może znaleźć się z równym prawdopodobieństwem przechowywać dowolnie wysoką energię znalezienie układu w stanie o dużej energii jest prawdopodobne

22 Algorytm Metropolisa – symulacja układu, który fluktuuje termicznie w równowadze z otoczeniem (zbiornikiem ciepła) kolejne kroki czasowe – zmiany stanu mikroskopowego układu układ ma podlegać rozkładowi Boltzmana E N exp(-E/10) exp(-E) exp(-E*10)

23 Układ opisany zbiorem zmiennych X=(x 1,x 2,x 3,...,x N ) – punkt w wielowymiarowej przestrzeni chcemy zasymulować fluktuacje termiczne zmiennych, X 1  X 2  X 3  X 4  X 5  tak, żeby układ był w „równowadze” termicznej z otoczeniem o temperaturze T. prawdopodobieństwo tego, że na „ścieżce” fluktuacji pojawi się stan X ma być dane przez zadany z góry rozkład w(X), u nas: Boltzmana w(X)= Cexp(-E(X)/kT) Algorytm Metropolisa za S.Kooninem

24 układ jest w stanie X. Do jakiego stanu przejdzie? wybieramy losowo stan próbny X p z pewnego otoczenia stanu X X p :=X+(  x 1,  x 2,...,  x n ) –  x i losowane z przedziału [-d,d] z rozkładem równomiernym możliwości: 1) X p mniej prawdopodobne liczymy r=w(X p )/w(X) jeśli r  1 [ w(X p )  w(X) ] – akceptujemy stan próbny X:=X p jeśli r<1 [w(X p )

25 punkty na ścieżce wygenerowanej algorytmem M. istotnie podlegają rozkładowi pstwa w(X): wyobraźmy sobie, że mamy wielu wędrowców poruszających się zgodnie z algorytmem Metropolisa N(X) – aktualna liczba wędrowców w punkcie X zmiana liczby wędrowców w Y w wyniku migracji z i do punktu X  = N(X)P(X  Y) - N(Y)P(Y  X) XY w warunkach równowagi (bez zmian w średnim rozkładzie wędrowców N r (X) ) równowaga osiągana po odpowiednio dużej liczbie kroków algorytmu uwagę koncentrujemy na 2 stanach układu

26 N= wędrowców. rozkład w(x)=C exp(-50x 2 ) kropki: liczba wędrowców w przedziale x-dx/2, x+dx/2 dx=0.01 równowaga w schemacie Metropolisa start: rozkład równomierny niebieska linia łączy punkty dane

27 pozostaje pokazać, że N r (X) jest proporcjonalne do w(X) pstwo podjęcia próby (wylosowania Y jako p.próbnego) pstwo zaakceptowania próby losujemy punkty próbne z rozkładem równomiernym mamy 2 przypadki: w(X)>w(Y) : A(Y  X) = 1 A(X  Y) =w(Y)/w(X) w(X)

28 Algorytm symulowanego wyżarzania dla optymalizacji E(P) Wystartuj w punkcie P, ustaw wysoką „temperaturę” T Przesuń P losowo P’=P+dP Nowy punkt akceptowany (P:=P’) zawsze gdy lepszy E(P’) E(P) –prawdopodobieństwo zaakceptowania punktu gorszego P’ dane przez np. exp(-(E(P’)-E(P)) / kT) (rozkład Boltzmana) zmniejszyć T Koniec jeśli T=0 Losujemy liczbę losową q wg rozkładu równomiernego, jeśli q < exp (-(E(P’)-E(P)) / kT) P:=P’ Im niższe T, tym mniej chętnie akceptujemy przesunięcia w górę na skali energii Kirkpatrick – symulowane wygrzewanie w[E(X)]=Cexp(-E(X)/kT) alg. Metropolisa z modyfikacją rozkładu pstwa (T) w miarę działania algorytmu

29 Przykład 1: f(x)=sin(x)+x 2 /1000 w każdej T wykonywana pewna liczba losowań (przesunięcia z przedziału [-2,2]) Wysokie T – punkt P wędruje między minimami Niskie T – P uwięziony wokół jednego minimum Sposób zmiany temperatury: T=0.001 i 2 gdzie i spada od 100 do 1 W wysokiej T przeszukiwany szeroki zakres zmiennych. W niższej – algorytm bada dokładnie minimum, które może być globalne, jeśli schładzanie zostało odpowiednio wykonane. Techniczna uwaga: gdy zmieniamy T: najlepiej startować od najlepszego rozwiązania uzyskanego do tej pory.

30 T>5T<5 Zastosowanie S.A. Dla funkcji testowej de Jonga: Położenia P w kolejnych iteracjach: T<1 Przykład 2.

31 ścieżka (25 kroków) dla T=1 ścieżka (50 kroków) dla T=2 ścieżka (100 kroków) dla T=4 zawężanie zakresu przeszukiwań z temperaturą: generowane ścieżki

32 Przykład 3: Problem komiwojażera Generowanie P’ z P: P = [ ] Losujemy pierwsze i ostatnie miasto P’ = [ ] Losowo zmieniamy kolejność Sposób zmiany T długość P Najlepsze rozwiązanie Strategia schładzania a wynik końcowy zbyt szybkie schłodzenie [do najbliższego minimum lokalnego]

33 Przykład 4: klaster jonowy najprostsze przybliżenie: naładowane kule bilardowe (nie mogą się przenikać) r d dodatnio naładowane – współrzędne r 1,r 2,... ujemnie naładowane – współrzędne d 1,d 2,...

34 Przykład 4: klaster jonowy najprostsze przybliżenie: naładowane kule bilardowe (nie mogą się przenikać) r d dodatnio naładowane – współrzędne r 1,r 2,... ujemnie naładowane – współrzędne d 1,d 2,... potencjał oddziaływania: załóżmy że promienie jonowe są równe 1 oddziaływanie jonów o różnym znaku o tym samym znaku

35 r d fcja 20 zmiennych Weźmy 5 jonów dodatnich, pięc ujemnych, dwa wymiary konfiguracje z symulacji, strzałki pokazują wyniki dla obniżanej temperatury

36 ominięte minima lokalne minimum globalne

37 Przykład 5: najkrótsza droga na płaszczyźnie (kontinuum, nie graf) start meta wzniesienia: utrudnienia na trasie można je pokonać ale to kosztuje y x przeszkody środki przeszkód V(x,y)

38 poruszamy się po odcinkach prostych: liczba zakrętów = parametr rachunku funkcja kosztu: długość z definicji: całka z 1 wzdłuż trasy: całka liczona numerycznie rozwiązanie próbne = przesunięcie każdego z zakrętów w zakresie [-.5,.5]* T (zależna od T) schładzanie paraboliczne

39 wyniki: jeden zakręt

40 3 zakręty 2 zakręty !

41 algorytm Metropolisa położenia „wędrowca” jest zmienną losową podległą zadanemu rozkładowi w(x) Generacja liczb losowych o zadanym (ciągłym) rozkładzie prawdopodobieństwa generacja liczb losowych o zadanym rozkładzie przydatne dla symulacji MC, obliczania całek, rozwiązywanie równań różniczkowych, itd.

42 obliczenia całek MC 1)hit or miss generator o rozkładzie równomiernym f(x) losujemy x losujemy y odchylenie standardowe (cecha w) błąd wyznaczenia średniej: szacowanie błędu

43 obliczenia całek MC 1)hit or miss generator o rozkładzie równomiernym N (jedna sekwencja) wartość dokładna [1-exp(-1)] wartości plus minus   1/sqrt(N)

44 obliczenia całek MC 2) Metoda szacowania średniej generator o rozkładzie równomiernym f(x) losujemy x hit or miss średnia  1/sqrt(N) hom średnia

45 obliczenia całek MC 3)użycie niejednorodnego rozkładu pstwa g(x)  0 taka aby g(x) mogło być gęstością prawdopodobieństwa wtedy: I = g(x) dla zmiennej losowej x opisanej rozkładem g(x) jeśli g(x) tak wybrana, aby h(x) słabo zmienna w przedziale (a,b) - mamy szanse na niski błąd uwaga: jeśli h(x i )=const – błąd będzie 0 / N

46 Przykład liczenia całek z użyciem a. Metropolisa h(x)=sqrt(5*pi) cos(x)/C liczba kroków a.Metropolisa start – wędrowcy rozmieszczeni wg rozkładu równomiernego z przedziału [-5,5] czerwona kreska: = niebieska kreska: dokładna wartość całki (1.1355) -5 5 N=1000 wędrowców : amplituda fluktuacji maleje z N C (gdzie C bliskie jedynce)

47 na brzegu u=0 Schemat Metropolisa a równania różniczkowe - wariacyjna metoda MC rozwiązywania równania Poissona x=+1 y=-1 y=+1 x=-1 pokażemy (w swoim czasie), że dla u - rozwiązania r.Poissona minimalna jest całka: rozwiązanie próbne: r. dokładne: C,a – parametry wariacyjne należy wybrać tak aby S - optymalne

48 Aby wyznaczyć stałą normalizacji E: funkcjonał: średnia z ułamka dla zbioru punktów (x,y) o rozkładzie -wariacyjna metoda MC rozwiązywania równania Poissona rozkład pstwa wyznaczony przez rozwiązanie próbne – generowany przy pomocy algorytmu Metropolisa

49 -wariacyjna metoda MC rozwiązywania równania Poissona wyniki: policzone dla a=2.2, C=0.018 (w pobliżu minimum S) – analityczna wartość S= -5.2e-4 dla wybranej funkcji próbnej (wartość dla rozwiązania dokładnego S=-6.27e-4) iteracje M „chwilowa wartość S” średnia wartość S od iteracji 200 (gdy osiągnięta równowaga w rozkładzie wędrowców) N=100

50 zakres fluktuacji = funkcja 1/sqrt(N) iteracje M N=100 N=1000 N=10 000

51 wyniki w funkcji parametrów wariacyjnych -wariacyjna metoda MC rozwiązywania równania Poissona N=1000 a=2.2, C=0.018 N=1000 a=2*2.2, C=2*0.018

52 -wariacyjna metoda MC rozwiązywania równania Poissona r.dokładne (dokładna S=-6.27e-4) S= -5.2e-4 1)„pik” niższy 2)słabiej zlokalizowany przy tej funkcji próbnej lepiej być nie może trzeba ją poprawić

53 Algorytm Metropolisa jako generator liczb losowych zaleta: pozwala wygenerować zmienną losową o dowolnym rozkładzie prawdopodobieństwa w dowolnej liczbie wymiarów wada:rozkład musi zostać wyhodowany algorytm, który posiada tę samą zaletę, a nie wymaga hodowli rozkładu: metoda von Neumanna


Pobierz ppt "Przewodnik do przeszukiwania losowego - inspiracje przyrodnicze Przyrodnicze (naturalne) algorytmy optymalizacji MC 1)teoria doboru naturalnego – algorytmy."

Podobne prezentacje


Reklamy Google