Programowanie sieciowe Laboratorium 3

Prezentacja na temat: "Programowanie sieciowe Laboratorium 3"— Zapis prezentacji:

1 Programowanie sieciowe Laboratorium 3
Zadanie regresji za pomocą sieci typu RBF

2 Plan 1. Dane ze wskaźnikami giełdowymi
2. Sieć neuronowa RBF z centrami funkcji radialnych na wszystkich danych 3. Sieć neuronowa RBF z mniejszą liczbą centów (uzyskanyh algorytmem k-means). w/72d2363e adial-basis-function-network/

3 Dane ze wskaźnikami giełdowymi

4 Trening sieci typu RBF za pomocą pseudoinwersji
1. Wyznaczenie centrów i parametrów funkcji radialnych 2. Obliczenie wag

5 Budowa zbioru danych Kodowanie danych
xi = [yi, yi+1, yi+2,... ,yi+k] yi =yn(i)+k i=1,..,N-(k+1) Model sieci neuronowej z radialnymi funkcjami aktywacji w warstwie ukrytej Funkcja Gaussa jako funkcja RBF i funkcja liniowa na wyjściu

6 Przegląd zupełny przestrzeni hiper-parametrów
Liczba centrów wyznaczanych algorytmem k- means Wartość promienia funkcji radialnej

7 Sposób budowy regresora
1. Robimy skanowanie skanowanie przestrzeni parametru funkcji radialnej użytej w sieci, oraz liczby użytych centrów 1.0 Dla ustalonej liczby centrów wyznaczamy ich położenie za pomocą algorytmu k-means. 1.1 Dla każdego zestawu parametrów tzn liczby centrów oraz parametru funkcji radialnej trenujemy sieć za pomocą procedury podanej na poprzednim slajdzie i sprawdzamy jego działanie na zbiorze walidacyjnym. 2. Pętla, w której dzielimy zbiór danych treningowych na część treningową i testową w stosunku 90% dane treningowe, 10% dane testowe za pomocą polecenia learn.org/stable/modules/generated/sklearn.model_selection.train_test_split.html Pętla ma wykonać 100 iteracji – ma więc wygenerować 100 różnych podziałów zbioru treningowego. 2. Dla każdego podziału i dla aktualnego modelu zbieramy wartość funkcji celu oraz błąd na zbiorze walidacyjnym Rozwiązaniem jest ten regresor, który ma najmniejszy średni błąd na zbiorze walidacyjnym.