docWyklad3_handout - Ohio University
download 
Reklamacja Transkrypt
Wyklad3_handout - Ohio University
2008-9-14 Inteligentne Systemy Autonomiczne Implementacja EE141 Janusz A. Starzyk Wyzsza Szkola Informatyki i Zarzadzania w Rzeszowie Potrzebujemy metod jej implementacji Jak stworzyc wysoka inteligencje? Musimy wiedziec jak Musimy rozwinac metody jej implementacji Musimy miec srodki do jej budowy i ciaglej operacji EE141 Potrzebujemy metod jej implementacji Potrzebujemy samo organizujacy sie hardware Mozg jest samoorganizujacy o rzadkiej strukturze polaczen Oszczedza projektowanie Zwieksza niezawodnosc hardware’u Zwieksza wydajnosc produkcji (yield) Zmniejsza koszt projektowania Podstawowy mechanizmem jest zmniejszanie ilosci przypadkowych polaczen Aktywnosc powoduje przyrost nowych neuronow Natura to robi Zapasowe neurony sa uzywane na pozniejszych etapach uczenia Mozg noworodka EE141 EE141 Gestosc Polaczen na Przestrzeni Zycia Mozg 6-cio latka Mozg 1414-to latka Rethinking the Brain, Families and Work Institute, Rima Shore, 1997. Rzadkie Kodowanie Aktywne neurony reprezentuja przedmioty i concepcje Neurons’ activities represent statistical properties of rzadkie the environment – not Wytwarzaja reprezentacje every single bit information neuronowe “sparse coding” C. Connor, “Friends and grandmothers’, Nature, Vol. 435, June, 2005 Thompson, R. A., & Nelson, C. A. (2001). Developmental science and the media: Early brain development. American Psychologist, 56(1), 5-15. EE141 Komorka babci “grandmother cell” J.B. Lettvin – tylko jeden neuron na najwyzszym poziomie reprezentuje i rozpoznaje przedmiot (extremalny przypadek) Mala grupa neuronow na najwyzszym poziome reprezentuje przedmiot EE141 1 2008-9-14 Hierarchiczna Samoorganizujaca sie Pamiec Rzadkie Polaczenia Ekstrakcja cech – uzywajac WTA Uogolnienie – uzywajac polaczonych albo zachodzacych na siebie rejonow zwyciezca … h+1 … (www.visualbiotech.ch), Switzerland Mozg jest rzadko polaczony. … … s Neuron w korze mozgowej moze miec 10,000 synopsow. Mozg ma okolo 1011 neuronow. Gestosc polaczen jest bardzo mala : 0.00001% Wnioski: Polaczenia sa biologicznie kosztowne. Rozwoj polaczen jest scisle kontrolowany. Krotkie, lokalne polaczenia sa tansze I bardziej liczne niz dlugie polaczenia. h … … … … r-th nizszy rejon (pojedynczy WTA w kazdym) EE141 EE141 Rzadka siec zwyciezcy bioracego wszystko (WTA) Rzadka siec WTA - Oddzialywania SensorycznoSensoryczno-Motoryczne Sensoryczno-Motoryczne Mechanizm globalnego zwyciezcy uzywajacy lokalnej WTA Reinforcement Learning Links • Przesylanie danych: propagacja do przodu • Okreslenie sieci WTA: lokalna konkurencja i wsteczna propagacja Levels 2 and 3 Prediction Feedback Links • Selekcja zwyciezcy: propagacja do przodu i dobor wag s2 Swinner … … Swinner Swinner Swinne … r… s1 Swinner Swinner Local WTA Competition Ogolny schemat oddzialywan z lokalnymi WTA i sprzezeniem zwrotnym Level 1 Globalny zwyciezca … … h+1 … h EE141 Planning Links EE141 Rezultaty Eksperymentow Rzadka siec WTA Selekcja zwyciezcy: Propagacja wprzod i dostosowanie wag Initial output signal strength Winner selected in testing, winner is 3728 1.4 Sygnaly sa ponownie obliczone przez logicznie ustalone polaczenia Wagi sa dostosowane uzywajac uczenie Hebb’a w11h n1h x1 EE141 n1h +1 h 21 w n2h x2 w31h n3h x3 h +1 ∆ w11h +1 = λ11 ( x1 − w11h +1 ) h +1 ∆ w12h +1 = λ12 ( x 2 − w12h +1 ) h +1 ∆ w13h +1 = λ13 ( x3 − w13h +1 ) 1.2 2.5 output neuronal activities activation threshold global winner 1 0.8 0.6 2 neuronal activity neuronal activity Motor Outputs to Environment Sensory Inputs from Environment … Sygnal wejsciowy output neuronal activities activation threshold global winner 1.5 1 0.4 0.5 0.2 0 0 1000 2000 3000 neurons 4000 5000 0 0 1000 2000 3000 neurons 4000 5000 EE141 2 2008-9-14 Pamiec: Oligarchia Bierze Wszystko (OTA) ¾Przy malej gestosci polaczen rzadka siec WTA nie gwarantuje pojedynczego zwyciezcy. ¾Na wyjsciu ukladu mala grupa aktywnych neuronow reprezentuje dane wejsciowe. ¾Mozliwosc kodowania informacji przy pomocy kilku grup aktywnych neuronow. ⎛n / g ⎞ ¾Potencjalna pojemnosc pamieci ⎜⎜ ⎟⎟ ⎝ k ⎠ gdzie n – ilosc neuronow wyjsciowych g - ilosc neuronow w jednej grupie k- ilosc grup w oligarchi EE141 Pamiec jest niezbedna do rowoju inteligencji Pamiec biologiczna jest rozlozona na wiele neuronow Pojemnosc pamieci jest zwiazana z poziomem inteligencji Pamiec musi byc 9plastyczna 9asocjacyjna 9sekwencyjna 9dlugo i krotko terminowa EE141 Pamiec Asocjacyjna: z biologicznego punktu widzenia Pamiec Asocjacyjna Zrodlo: “The computational brain” P. S. Churchland and T. J. Sejnowski Asocjacyjna pamiec jest krytycznym elementem (www.visualbiotech.ch), Switzerland zrozumienia i rozwoju inteligentnych systemow EE141 EE141 Pamiec Asocjacyjna Dzialanie pamieci asocjacyjnej I1 Sygnal okreslony 1 3 O1 Sygnal odtworzony Sygnal rozstrzygniety na podstawie asocjacji Dane Wejsciowe I2 f I1 f Sygnal nieokreslony O3 I2 I2 2 I1 I2 f Of O5 4 O4 I2 f 5 Of O2 I2 f I2 T=K EE141 T = K +1 T = K +2 EE141 3 2008-9-14 Pamiec Hetero-Asocjacyjna: Klasyfikacja bazy danych Iris Pamiec Auto-Asocjacyjna: Odtwarzanie obrazu Pandy 64 x 64 binarny obraz Pandy: 3 kategorie, 4 numeryczne cechy, 150 przypadkow pi = ( x1 x2 ... xn ), n = 4096 xi = 1 dla czarnego pixelu xi = 0 dla bialego pixelu 30% brakujacych pixeli Polowa Blad 0.4394% Blad: 2.42% niewidoczna Oryginalny 64 x 64 obraz binary Znieksztalcone obrazy Odtworzone obrazy Asocjacje bazy danych Iris Klasyfikacja dokladnosci: dokladnosci: 96% EE141 EE141 Pamietanie Sekwencji Wejsciowych Mechanizm Uczenia Sekwencyjnego EE141 Przewiwywanie jest wynikiem aktywizacji WTA ktory z kolei stymuluje wybrany neuron wtorny Sekwencje wejsciowe sa przechowywane najpierw w rejestrach wejsciowych (IR); Poczatkowo wszystkie neurony wyjsciowe sa polaczone z wszystkimi IR niewytrenowanymi polaczeniami; Polaczenia zwycieskiego neuronu do aktywnych neuronow w IR sa wzmacniane i wszystkie pozostale polaczenia do zwycieskiego neuronu sa blokujace (inhibitory connections). EE141 Przewidywanie w Uczeniu Sekwencyjnym Aktywny neuron wejscia aktywizuje jego neuron wtorny i pozwala na wytrenowanie polaczen do WTA Organizacja Pamieci Sekwencyjnej WTA Input data IR neurons Pamiec sekwencyjna jest wielowarstwowa i wspolpracuje z pamiecia krotkoterminowa Dual IR neurons Time pointer Mux PN EE141 EE141 4 2008-9-14 Blok Pamieci Sekwencyjnej Blok Pamieci Sekwencyjnej LTM (“ARRAY”) P LTM WPN PN STM Win Aktywizacja neuronu wyjsciowego jest skumulowana aktywizacja neuronow bloku pamieci sekwencyjnej Indywidualne bloki pamieci sekwancyjnej sa sterowanymi czasowo ukladami sprzezania zwrotnego i sa stymulowane z pamieci krotkoterminowej A R Y Link strength 3 Link strength 2 Link strength 1 Fig. 3 LTM cell EE141 Oragnizacja Pamieci Krotkoterminowej SN EE141 Storage neurons Write/Erase pointer Read pointer W/E R 4 8 Playback neurons 3 Oragnizacja Pamieci Krotkoterminowej Write/Erase pointer Read pointer R_Next W_Next Storage neuron Playback neuron W3 PT6 R4 PT4 R3 PT5 W2 R W/E PT3 7 W1 R Pamiec krotkoterminowa jest pamiecia cykliczna w ktorej wszystkie wagi polaczen sa ustalone Zapis i odczyt informacji w pamieci krotkoterminowej Sterowany jest ukladem wskaznikow czasowych. 2 6 R W/E 1 PT2 W/E R2 PT1 W0 R W/E PT0 R1 Initialize 5 Excitation link A A EE141 B C D Input symbol neurons Przyklad oddzialywan minikolumn z pamiecia dlugoterminowa. LTM (“ARRAY”) 2/3 Lateral association 4 Minikolumny wspoldzialaja z pamiecia krotko i dlugoterminowa. 6 Excitation link Inhibition link Pamiec Sekwencyjna i Minikolumny Layer 6 next level Zawieraja one wiele typow polaczen miedzywarstwowych wlaczajac sprzezenie zwrotne i oddzialywania poziome (w tej samej warstwie). D EE141 Organizacja Minikolumny Sztuczne minikolumny sa grupa polaczen neuronow opowiedzialanych za funkcje sensoryczne i motoryczne. B C Input symbol neurons Inhibition link Feedback from higher level 5 Zaznaczone polaczenia do pamieci krotkoterminowej g Si na lo lf From/to STM w … PN Layer 2 Lateral inhibition Layer 6 Input activation EE141 “A” EE141 From/to STM “R” From/to STM “Y” From/to STM Fig. 5 LTM cell with minicolumns 5 2008-9-14 Wspoldzialanie Pamieci Krotko i Dlugo terminowej … LTM R 7 6 W/E LTM 1 LTM 5 LTM “N” Level h-1 2 STM P From/To Symbol neurons LTM “R” “A” “Y” 8 P Write/erase Read pointer pointer Excitation link Inhibition link Level h 1) 3 LTM 9 LTM 4 LTM 10 P WTA Wspoldzialanie Pamieci Krotko i Dlugo terminowej 2) P N 7 8 2 3 Y Sensor input 1 5 3) STM EE141 EE141 6 EE141 ACT-R (Adaptive Control of Thought - Rational ) : Inspirowana przez psychologiczne modele pamieci, umiejetnosci i uczenia Optymalizacja uczenia i pamieci Procedury wiedzy Wspoldzialanie pamieci, akcji i uczenia Uzywa if then regul produkcyjnych Reprezentacja przekonan i celow Selekcja planu dzialnia Programy Rozwoju Inteligencji Obudowanej Analiza zadan poznawczych Identyfikacja wiedzy proceduralnej i deklaratywnej Projektowanie asocjacji semantycznych Projektowanie hierarchi celow Identyfikacja prymitywnych operacji Hierarchical Temporal Memory – Numenta Inc. Uzywa hierarchji asocjacji przestrzenno-czasowych Odkrywa przyczyny w swiecie wydarzen Uczy sie zlozonych zachowan dla osiagniecia celow Uczy sie przewidujac rezyltaty swojego dzialania Laczy samouczenie i uczenie z nauczycielem do tworzenia asocjacji Zamierza przewyzszyc inteligencje ludzi Glowne Dzialania Projektantow Glowne Dzialania Projektantow A Newell, A. 1990. Unified Theories of Cognition. Cambridge, Massachusetts: Harvard University Press. Programy Rozwoju Sztucznej Inteligencji Analiza zadan poznawczych Identifikacja prymitywnych operacji Projektowanie hierarchii celow Projektowanie hierarchi sytuacyjnych Rationalne projektowanie przekonan Wspoldzialanie pomiedzy jednostkami wiedzy http://sitemaker.umich.edu/soar Rysunek -Dan Glaser Inspirowany przez funcjonalnosc i filozofie Hipoteza przestrzeni problemow symboli Minimalny zesta regol dla inteligentnych zachowan Reprezentacja przekonan i celow Selekcja i reprezentacja planu Glowne Dzialania Projektantow Analiza zadan poznawczych Projektowanie hierarchii celow Zdefiniowanie planow i regul selekcji Zdefiniowanie prymitywnych operatorow i ograniczenia srodkow Zaproponowany przez Card, Moran, i Newell (1983), do modelowaia i opisu wykonywanych przez ludzi zadan 1 Soar - State, Operator, Application, Result Inspirowany przez psychologie dzialania Wyrazna hierarchiczna dekompozycja zadan Wyrazne laczenie celow z zadaniami Reprezentacja przekonan Reprezentacja celow Selekcja i reprezentacja planu Glowne Dzialania Projektantow R W/E Programy Rozwoju Sztucznej Inteligencji GOMS - Goals, Operators, Methods, and Selection Rules Playback neurons EE141 Programy Rozwoju Sztucznej Inteligencji Wywolanie sekwencji: ARRAY z pamieci krotkoterminowej Storage neurons 1) Sygnal z pamieci krotkoterminowej pobudza uczenie pamieci dlugoterminowej. 2) Sygnal z pamieci krotkoterminowej aktywizuje pamiec dlugoterminowa. 3) Sygnal sensoryczny pobudza pamiec dlugoterminowa 9 4 R Fig. 4 Hierarchical LTM Analiza struktur poznawczych Uczenie wzorcow w pamieciach hierarchicznych Uczenie sekwencji czasowych Tworzenie celow Stos kostek krzemowych http://www.numenta.com/ i logicznych asocjacji Anderson, John. Rules of the Mind, Lawrence Erlbaum Associates, Hillsdale, NJ (1993). EE141 Irvine Sensors Corporation (Costa Mesa, CA) EE141 6 2008-9-14 Programy Rozwoju Inteligencji Obudowanej Artificial General Intelligence – Adaptive A.I. Inc. Glowne Dzialania Projektantow Ma ogolne umiejetnosci poznawcze Zdobywa wiedze i umiejetnosci Uzywa dwustronnych oddzialywan w czasie rzeczywistym Poszukauje informacji i stosuje adaptacyjna uwage Samouczenie i uczenie z samonadzorem Adaptacyjne i samo-organizujace sie struktury danych Przetwarza wzorce dynamiczne Trojwymiarowa siec neuronowa Pytania ? Projektowanie funkcjonalnosci Rozwoj koncepcji Demonstracja koncepcji Inteligencja na poziomie zwierzat http://adaptiveai.com/ “Krzemowy mozg” nie pozostanie science fiction! EE141 Irvine Sensors Corporation (Costa Mesa, CA) EE141 EE141 7
