Sieć jednokierunkowa wielowarstwowa

Prezentacja na temat: "Sieć jednokierunkowa wielowarstwowa"— Zapis prezentacji:

1 Sieć jednokierunkowa wielowarstwowa
Modele neuronowe Jak wygląda model neuronowy? Model neuronowy jest siecią neuronową Sieć neuronowa jest siecią wielu prostych procesorów (przetworników informacji) zwanych neuronami, z których każdy dysponuje lokalną pamięcią w postaci wag jego połączeń z innymi neuronami. Przetwarzanie realizowane przez neuron ma całkowicie lokalny charakter – zależy ono tylko od wartości docierających do niego sygnałów oraz wartości przechowywanych w jego lokalnej pamięci wag : Sieć neuronowa Sieć jednokierunkowa wielowarstwowa

2 Nazewnictwo i elementy sieci neuronowych (warstwowych)
we1 we2 weR wy1 wy2 wyS : Warstwa wyjściowa neuronów Połączenia neuronów z wagami Sygnały wyjściowe Warstwa wejściowa Sygnały wejściowe Warstwa ukryta neuronów pierwsza Warstwa ukryta neuronów druga Sieć jednokierunkowa wielowarstwowa

3 Cechy charakteryzujące sieć neuronową
– przez co definiujemy sieć neuronową Sieć neuronowa jest charakteryzowana przez: 1. funkcje według których neuron przetwarza docierające do niego sygnały-pobudzenia, nazywane funkcjami pobudzania (propagacji) i funkcjami aktywacji; 2. strukturę połączeń pomiędzy neuronami, nazywaną architekturą sieci; 3. metodę określania wag tych połączeń, nazywaną algorytmem uczenia.

4 Model neuronu statycznego
Model neuronu statycznego o numerze k

5 Opis matematyczny neuronu o numerze k:
Pobudzenie neuronu o numerze k: Odpowiedź neuronu o numerze k: Na przykład:

6 Uproszczone przedstawienie modelu neuronu statycznego o numerze k

7 (k - numer neuronu, j - numer wejścia neuronu)
Funkcja pobudzania g(.) – prawie wyłącznie stosowana (k - numer neuronu, j - numer wejścia neuronu) 1. Funkcja sumy

8 1. Funkcja przekaźnikowa unipolarna (niesymetryczna)
Funkcje aktywacji f(.) – pojedynczych neuronów - najpopularniejsze 1. Funkcja przekaźnikowa unipolarna (niesymetryczna) Przybornik Neural Network w środowisku MATLAB/Simulink

9 Przybornik Neural Network w środowisku MATLAB/Simulink
2. Funkcja przekaźnikowa bipolarna (symetryczna) Przybornik Neural Network w środowisku MATLAB/Simulink

10 Przybornik Neural Network w środowisku MATLAB/Simulink
3. Funkcja liniowa Przybornik Neural Network w środowisku MATLAB/Simulink

11 Przybornik Neural Network w środowisku MATLAB/Simulink
4. Funkcja sigmoidalna logarytmiczna unipolarna (niesymetryczna) Przybornik Neural Network w środowisku MATLAB/Simulink

12 Przybornik Neural Network w środowisku MATLAB/Simulink
5. Funkcja sigmoidalna tangensa hiperbolicznego bipolarna (symetryczna) Przybornik Neural Network w środowisku MATLAB/Simulink

13 Przybornik Neural Network w środowisku MATLAB/Simulink
6. Funkcja Gaussa (Radial Basis) Przybornik Neural Network w środowisku MATLAB/Simulink

14 Warstwa neuronów Układ neuronów nie powiązanych ze sobą (wyjścia neuronów nie są połączone z wejściami innych neuronów warstwy) do których docierają sygnały z tych samych źródeł (neurony pracują równolegle) b (l) k g j w k1 k2 kj km 1 y (l - 1) m k- ty neuron sieci l-tej warstwy y(l -1)1 y(l -1)2 y(l -1)j y(l)k

15 S najczęściej j y b w – ty neuron sieci l-tej warstwy (l - 1) 1 (l) k
kj km 2 m – ty neuron sieci l-tej warstwy najczęściej

16 Struktury sieci neuronowych
(i) sieci jednokierunkowe (jedno lub wielowarstwowe) (a) jednowarstwowe x y L  przepływ sygnałów od źródeł do warstwy neuronów wyjściowych (b) wielowarstwowe x y L1 L2 L3

17 Jednowarstwowa sieć neuronowa z R sygnałami wejściowymi i S neuronami w warstwie
Wektor wejść: Wektor wyjść:

18 Jednowarstwowa sieć neuronowa z R sygnałami wejściowymi i S neuronami w warstwie
Macierz wag: Wektor progów: