Komputerowe modele problemów neurologicznych i demencji Włodzisław Duch & Co Katedra informatyki Stosowanej, Uniwersytet Mikołaja Kopernika, Toruń Dept. of Comp. Science School of Computer Engineering, Nanyang Technological University Google: Duch (c) 1999. Tralvex Yeap. All Rights Reserved

Plan Czym się zajmujemy na pograniczu badań medycznych. Podstawowe modele neuronowe. Reorganizacja kory po amputacji. Modele pamięci. Dyskusja. (c) 1999. Tralvex Yeap. All Rights Reserved

Czym się zajmujemy 1 Rozwojem teorii i zastosowań metod inteligencji obliczeniowej (np. sieci neuronowe, logika rozmyta), uczeniem maszynowym, selekcją informacji, systemami do dogłębnej analizy danych (data mining) oraz rozumienia danych (reguły logiczne, wizualizacja). Zastosowaniami do analizy kwestionariuszy (np. psychometrycznych) i wspomagania diagnostyki medycznej. Ghostminer, nasz system programów data mining (sprzedawany przez Fujitsu) używany jest do analizy danych w kilku szpitalach klinicznych w USA i w firmach bioinformatycznych. Obecnie pracujemy w KIS nad całkiem nowym systemem. Na zjeździe firmy Bayern Diagnostics prowadziliśmy warsztaty na temat zastosowania sieci neuronowych w diagnostyce medycznej; zainteresowanie głównie analizami hematologicznymi. Bioinformatyką, genomiką i modelowaniem komputerowym w medycynie molekularnej – dr hab J. Meller w Cincinnati Children’s Hospital Research Foundation. (c) 1999. Tralvex Yeap. All Rights Reserved

Czym się zajmujemy 2 Informatyką i robotyką neurokognitywną. Funkcjonalnymi modelami neuronowymi funkcji mózgu: pamięci, uwagi, wyższych czynności poznawczych, procesami twórczymi. NTU Singapur + dwa złożone projekty EU, koordynowane przez KCL. Analizą języka naturalnego. Wykorzystując inspiracje neurokognitywne (pamięć rozpoznawcza, semantyczna, epizodyczna) pracujemy nad systemami interpretacji tekstów medycznych, korzystając z ontologii UMLS. Zastosowania: annotacje semantyczne, biling, wspomaganie prac badawczych, systemy wyszukiwania informacji. Doktoranci w Cincinnati + Gdańsku. 5. Rozwój i stymulacja zdolności poznawczych u niemowląt, patent „Układ aktywnego stymulatora ośrodków mowy, zwłaszcza niemowląt i dzieci”, projekt inteligentnej kołyski. (c) 1999. Tralvex Yeap. All Rights Reserved

Podejście neurokognitywne Computational cognitive neuroscience: szczegółowe modele funkcji poznawczych i neuronów, pierwsza doroczna konferencja 11/2005. Informatyka neurokognitywna: uproszczone modele wyższych czynności poznawczych, myślenia, rozwiązywania problemów, uwagi, języka, kontroli zachowania i świadomości. Wiele spekulacji, ponieważ nie znamy szczegółów procesów zachodzących w mózgu, ale modele jakościowe wyjaśniające przyczyny zespołów neuropsychologicznych oraz chorób psychicznych rozwijają się szybko od połowy lat 1990. Nawet proste mózg-podobne przetwarzanie informacji daje podobne rezultaty => złożoność mózgu nie jest głównym problemem! Brain As Complex System (BRACS, EU Project) centralne założenie: najważniejsza jest ogólna neuroanatomiczna struktura kory i obszarów podkorowych mózgu, należy ją w modelach zachować. “Roadmap to human level intelligence” – workshopy ICANN’05, WCCI’06 (c) 1999. Tralvex Yeap. All Rights Reserved

Model transformacji ~ p(MI|X) Myocardial Infarction Output weights Przetwarzanie informacji, pomijane sprzężenia zwrotne: redukcja ilości informacji (kategoryzacja), działania senso-motoryczne. Myocardial Infarction ~ p(MI|X) Sex Age Smoking ECG: ST Pain Intensity Duration Elevation 0.7 5 1 -1 3 65 Inputs: Output weights Input weights (c) 1999. Tralvex Yeap. All Rights Reserved

Model samoorganizacji Topograficzne reprezentacje w licznych obszarach mózgu: bodźców czuciowych, w korze ruchowej i móżdżku, wielomodalne mapy orientacji w wzgórkach czworaczych górnych, mapy w układzie wzrokowym i tonotopiczne mapy kory słuchowej. Najprostszy model (Kohonen 1981): konkurencja między grupami neuronów i lokalna kooperacja. Neurony reagują na sygnały dostrajając swoje parametry tak, by wszystkie bodźce były analizowane i by bodźce do siebie podobne analizowane były przez sąsiednie neurony. (c) 1999. Tralvex Yeap. All Rights Reserved

Model dynamiczny Silne sprzężenia zwrotne, stany kolektywne, neurodynamika. Najprostszy model (Hopfield 1982): pamięć skojarzeniowa, uczenie w oparciu o regułę Hebba, dynamika synchroniczna, neurony dwustanowe. Wektor potencjałów wejściowych V(0)=Vini , czyli wejście = wyjście. Dynamika (iteracje) Þ sieć Hopfielda osiąga stany stacjonarne, czyli odpowiedzi sieci (wektory aktywacji elementów) na zadane pytanie Vini (autoasocjacja). Jeśli połączenia są symetryczne to taka sieć dąży do stanu stacjonarnego (atraktor punktowy). t = dyskretny czas. (c) 1999. Tralvex Yeap. All Rights Reserved

Model biofizyczny Synapses Soma EPSP, IPSP Spike (c) 1999. Tralvex Yeap. All Rights Reserved

Problemy neurologiczne Co wynika z modelowego myślenia? Padaczka: dodatnie sprzężenie zwrotne jest tu ogólną metaforą, zbyt słabe hamowanie prowadzi do ognisk silnych pobudzeń, ale o wiele więcej można się dowiedzieć z modeli biofizycznych. Wyniki: szczegółowe modele biofizyczne komórek piramidowych i neuronów wstawkowych w hipokampie (CA3), poznano mechanizm synchronizacji, zbadano wpływ różnych substancji chemicznych. Częstości 200-600 Hz (phi) obserwowane w niektórych rodzajach padaczki nie da się wygenerować w modelach bez synaps elektrotonicznych na aksonach (kompleksy białkowe koneksyny). Wystarczą dwie takie synapsy/neuron (Traub, Jefferys). Jak wpłynąć na koneksynę by zablokować synchronizację? Potrzebne są modele na poziomie dynamiki molekularnej. (c) 1999. Tralvex Yeap. All Rights Reserved

Udary i reorganizacja kory Reprezentacje topograficzne mogą ulegać reorganizacji na skutek udaru, uszkodzenia nerwu lub amputacji części ciała. W wyniku stymulacji (lub jej braku) na stepuje szybka ekspansja (lub kontrakcja) obszarów w korze S1 reagujących na bodźce. Proste modele SOM dają jakościowo poprawne wyniki. Uwzględnienie wzgórza daje efekt „odwrotnego powiększenia”, czyli wielkość obszaru kory zależy odwrotnie proporcjonalnie od wielkości pola recepcyjnego. Wyzwanie: kończyny fantomatyczne. Reorganizacja projekcji wzgórzowych w tym przypadku osiąga 10 mm, zwykle obszar projekcji jest rzędu 1 mm. Być może powstają nowe połączenia. (c) 1999. Tralvex Yeap. All Rights Reserved

Model reorganizacja kory Reprezentacje topograficzne mogą ulegać reorganizacji na skutek udaru, uszkodzenia nerwu lub amputacji części ciała. W wyniku stymulacji (lub jej braku) na stepuje szybka ekspansja (lub kontrakcja) obszarów w korze S1 reagujących na bodźce. Proste modele SOM dają jakościowo poprawne wyniki. Uwzględnienie wzgórza daje efekt „odwrotnego powiększenia”, czyli wielkość obszaru kory zależy odwrotnie proporcjonalnie od wielkości pola recepcyjnego. Wyzwanie: kończyny fantomatyczne. Reorganizacja projekcji wzgórzowych w tym przypadku osiąga 10 mm, zwykle obszar projekcji jest rzędu 1 mm. Być może powstają nowe połączenia. (c) 1999. Tralvex Yeap. All Rights Reserved

Model szybkiej reorganizacji Szczegółowy model w oparciu o symulator GENESIS. M. Mazza et al, J. Computational Neuroscience 16 (2004) 177-201 Ręka: 512=32*16 receptorów, dłoń 4x32 + 4 palce 8x12, ciałka Meissnera, wysyłają realistyczne ciągi impulsów do części brzuszno-boczno-tylniej (VPL) wzgórza; receptory AMPA, GABA i NMDA. VPL: neurony przekaźnikowe wzgórza i neurony wstawkowe. Kanały jonowe: Na, Ca, trzy rodzaje kanałów K dla neuronów przekaźnikowych, i 3 kanały dla wstawkowych Liczne parametry ustalone doświadczalnie (c) 1999. Tralvex Yeap. All Rights Reserved

Model VPL Siatka 16x16=256 neuronów przekaźnikowych 128 neuronów wstawkowych: wejścia z ręki przez receptory AMPA, z innych neuronów przekaźnikowych przez receptory AMPA i NMDA, hamowanie przez receptory GABA. Tabele prawdopodobieństw połączeń pomiędzy neuronami oparte na neuroanatomicznych danych: komórka łączy się z sąsiednimi w promieniu Rc, z niektórymi (p=0.5) w pierścieniu Rc-Re, eliptycznie dla połączeń miedzy neuronami przekaźnikowymi z kanałami NMDA, oraz neuronami wstawkowymi z kanałami GABA. (c) 1999. Tralvex Yeap. All Rights Reserved

Kora 3b Modelowane warstwy II, IV i V, każda 32x32=1024. Typy neuronów: A: neurony gwiaździste warstwy IV, B: wstawkowe koszyczkowe. C: piramidalne z warstwy III, D: piramidalne z warstwy V, szybkie hamujące GABA; Neurony piramidowe mają po 8 segmentów, gwiaździste 5, neuronów pobudzających jest 3072, wstawkowe mają 2 segmenty i jest ich razem 1536, po 512 w każdej warstwie. (c) 1999. Tralvex Yeap. All Rights Reserved

Połączenia 3b A, neurony gwiaździste warstwy IV, mają wejścia ze wzgórza oraz innych neuronów tej warstwy. B, wstawkowe łączą się z różnymi pobudzającymi. C i D, piramidalne III i V, mają wejścia wzgórzowe i z warstwy II, IV i V. Probabilistycznie określone połączenia. Równania na prądy/potencjały całkowano z krokiem czasowym 0.05 ms na komputerze osobistym, 1 s = ok. 1 godz. symulacji. Można prześledzić tworzenie się stabilnych map topograficznych na poziomie jądra VPL i kory. (c) 1999. Tralvex Yeap. All Rights Reserved

Symulacje Symulacje przypadkowo wybranych fragmentów 2x2 receptorów ręki. 1 s= 20.000 pobudzeń, Aktywność VPL stabilizuje się już po 500 ms, a kory w warstwie II i V po 750 ms, i IV po 800 ms. Jasne pola = słaba reakcja, ciemne >10 impulsów/s Obserwacje: Reprezentacja dłoni jest mniejsza niż palców.  Warstwa IV ma najbardziej precyzyjne odwzorowanie, zgodnie z faktami. Granice reprezentacji ciągle fluktuują. (c) 1999. Tralvex Yeap. All Rights Reserved

Amputacja Po osiągnięciu stabilności i obserwacji powstałych map (900 ms) odcinamy palec = stymulację. Po następnych 400 ms obserwujemy zmiany. Część neuronów nie reaguje na żadne pobudzenia ale reprezentacje palca 1 i 3 zwiększyły swój obszar, zwłaszcza w warstwie II i V, w mniejszym stopniu w warstwie IV i wzgórzu. Eksperymenty pokazują podobną szybką ekspansję i reorganizację reprezentacji, po której następuje wolniejsza konsolidacja. Stabilność map wynika z równowagi pobudzenia i hamowania; reorganizacja jest wynikiem zaniku hamowania i wzrostu aktywności receptorów NMDA. W modelu brakuje jeszcze plastyczności LTP. (c) 1999. Tralvex Yeap. All Rights Reserved

Degeneracja pamięci w AD Degeneracja pamięci, np. w chorobie Alzheimera, może być związana z utratą słabych synaps. Jak wpłynie taka utrata na pojemność pamięci? Odpowiedzi - na razie tylko w oparciu o modele Hopfielda. Kompensacja - pozostałe synapsy mogą się zaadoptować do nowej sytuacji. Jaka kompensacja jest najlepsza? d - stopień uszkodzenia k=k(d) funkcja kompensacji Silne synapsy ulegają dalszemu wzmocnieniu. Samo d nie świadczy jeszcze o stopniu uszkodzenia pamięci. Możliwe są różne objawy przy tym samym stopniu uszkodzenia d. (c) 1999. Tralvex Yeap. All Rights Reserved

Kompensacja Zmiana wielkości basenów atrakcji uszkodzonej sieci w wyniku uczenia bez (górne kółko) i z kompensacją (dolne kółko): widać znaczne zmniejszenie się rozmiarów dominujących atraktorów. Poprawne odpowiedzi jako funkcja ułamka (0.2 i 0.6) usuniętych połączeń bez i z kompensacją. (c) 1999. Tralvex Yeap. All Rights Reserved

Powstawanie trwałej pamięci (c) 1999. Tralvex Yeap. All Rights Reserved

Amnezja wsteczna Główna przyczyna: utrata łączy do kory. Objawy: gradienty Ribota czyli im starsze wspomnienia tym lepiej pamiętane. (c) 1999. Tralvex Yeap. All Rights Reserved

Amnezja następcza Główna przyczyna: uszkodzenie systemu neuromodulacji. Wtórnie: utrata łączy z korą. Objawy: Brak możliwości zapamiętania nowych faktów. (c) 1999. Tralvex Yeap. All Rights Reserved

Amnezja semantyczna Objawy: Trudności w znajdowaniu słów, rozumieniu, zapamiętanie nowych faktów wymaga ciągłego powtarzania. Główna przyczyna: uszkodzenie łączy wewnątrzkorowych. (c) 1999. Tralvex Yeap. All Rights Reserved

Symulacje pamięci Murre, Meeter (2004): uszkodzenie łączy wewnątrzkorowych. 200 kolumn korowych; 42 kolumny hipokampa; neuromodulacja wpływa na parametry, ale nie jest explicite uwzględniana. Połączenia wewnątrz i pomiędzy neuronami - bez ograniczeń. Binarne neurony stochastyczne, p. wysłania impulsu zależy od pobudzeń i hamowania. Uczenie Hebbowskie (Singer 1990), szybkość uczenia w korze mała. Nakrywanie wzorców: spore w hipokampie, niewielkie w korze. Symulacje normalnego uczenia i przypominania: akwizycja - szybkie uczenie, hipokamp. konsolidacja - powolne korowe, spontaniczne przypominanie; testowanie - częściowe wektory, ile kolumn prawidłowo pobudzonych? Dostajemy: potęgowe prawo zapominania, gradienty Ribota i amnezję wsteczną; chwilową amnezję globalną (TGA) w wyniku zaniku aktywności w hipokampie; pamięć utajoną i wiele innych ... (c) 1999. Tralvex Yeap. All Rights Reserved

Dyskusja Szczegółowe modele problemów neurologicznych dają wyniki porównywalne z eksperymentami. Proste modele dają ciekawe jakościowe przewidywania, czasami wskazówki terapeutyczne. Jest wiele modeli problemów neurologicznych, pamięci, zespołów neuropsychologicznych, chorób psychicznych (spekulatywne). Nie widać modeli pnia mózgu. W. Kilmer, W.S. McCulloch, J. Blum, A model of vertebrate central command system. Int. J. Man-Machine Studies 1 (1969) 279-309 M. Arbib, Mózg i jego modele (1972, polskie wydanie 1977) M.D. Humphries, K. Gurney, T.J. Prescott, The brainstem reticular formation is a small-world, not scale-free, network. Proceedings of the Royal Society B: Biological Sciences, in press. (c) 1999. Tralvex Yeap. All Rights Reserved