Sieć jednokierunkowa wielowarstwowa Modele neuronowe Jak wygląda model neuronowy? Model neuronowy jest siecią neuronową Sieć neuronowa jest siecią wielu prostych procesorów (przetworników informacji) zwanych neuronami, z których każdy dysponuje lokalną pamięcią w postaci wag jego połączeń z innymi neuronami. Przetwarzanie realizowane przez neuron ma całkowicie lokalny charakter – zależy ono tylko od wartości docierających do niego sygnałów oraz wartości przechowywanych w jego lokalnej pamięci wag : Sieć neuronowa Sieć jednokierunkowa wielowarstwowa

Nazewnictwo i elementy sieci neuronowych (warstwowych) we1 we2 weR wy1 wy2 wyS : Warstwa wyjściowa neuronów Połączenia neuronów z wagami Sygnały wyjściowe Warstwa wejściowa Sygnały wejściowe Warstwa ukryta neuronów pierwsza Warstwa ukryta neuronów druga Sieć jednokierunkowa wielowarstwowa

Cechy charakteryzujące sieć neuronową – przez co definiujemy sieć neuronową Sieć neuronowa jest charakteryzowana przez: 1. funkcje według których neuron przetwarza docierające do niego sygnały-pobudzenia, nazywane funkcjami pobudzania (propagacji) i funkcjami aktywacji; 2. strukturę połączeń pomiędzy neuronami, nazywaną architekturą sieci; 3. metodę określania wag tych połączeń, nazywaną algorytmem uczenia.

Model neuronu statycznego Model neuronu statycznego o numerze k

Opis matematyczny neuronu o numerze k: Pobudzenie neuronu o numerze k: Odpowiedź neuronu o numerze k: Na przykład:

Uproszczone przedstawienie modelu neuronu statycznego o numerze k

(k - numer neuronu, j - numer wejścia neuronu) Funkcja pobudzania g(.) – prawie wyłącznie stosowana (k - numer neuronu, j - numer wejścia neuronu) 1. Funkcja sumy

1. Funkcja przekaźnikowa unipolarna (niesymetryczna) Funkcje aktywacji f(.) – pojedynczych neuronów - najpopularniejsze 1. Funkcja przekaźnikowa unipolarna (niesymetryczna) Przybornik Neural Network w środowisku MATLAB/Simulink

Przybornik Neural Network w środowisku MATLAB/Simulink 2. Funkcja przekaźnikowa bipolarna (symetryczna) Przybornik Neural Network w środowisku MATLAB/Simulink

Przybornik Neural Network w środowisku MATLAB/Simulink 3. Funkcja liniowa Przybornik Neural Network w środowisku MATLAB/Simulink

Przybornik Neural Network w środowisku MATLAB/Simulink 4. Funkcja sigmoidalna logarytmiczna unipolarna (niesymetryczna) Przybornik Neural Network w środowisku MATLAB/Simulink

Przybornik Neural Network w środowisku MATLAB/Simulink 5. Funkcja sigmoidalna tangensa hiperbolicznego bipolarna (symetryczna) Przybornik Neural Network w środowisku MATLAB/Simulink

Przybornik Neural Network w środowisku MATLAB/Simulink 6. Funkcja Gaussa (Radial Basis) Przybornik Neural Network w środowisku MATLAB/Simulink

Warstwa neuronów Układ neuronów nie powiązanych ze sobą (wyjścia neuronów nie są połączone z wejściami innych neuronów warstwy) do których docierają sygnały z tych samych źródeł (neurony pracują równolegle) b (l) k g j w k1 k2 kj km 1 y (l - 1) m k- ty neuron sieci l-tej warstwy y(l -1)1 y(l -1)2 y(l -1)j y(l)k

S najczęściej j y b w – ty neuron sieci l-tej warstwy (l - 1) 1 (l) k kj km 2 m – ty neuron sieci l-tej warstwy najczęściej

Struktury sieci neuronowych (i) sieci jednokierunkowe (jedno lub wielowarstwowe) (a) jednowarstwowe x y L  przepływ sygnałów od źródeł do warstwy neuronów wyjściowych (b) wielowarstwowe x y L1 L2 L3

Jednowarstwowa sieć neuronowa z R sygnałami wejściowymi i S neuronami w warstwie Wektor wejść: Wektor wyjść:

Jednowarstwowa sieć neuronowa z R sygnałami wejściowymi i S neuronami w warstwie Macierz wag: Wektor progów: