Wykład 3: Logiczny neuron. Rachunek sieci neuronowych Wstęp do
Transkrypt
Wykład 3: Logiczny neuron. Rachunek sieci neuronowych Wstęp do
Wstęp do kognitywistyki Wykład 3: Logiczny neuron. Rachunek sieci neuronowych Epistemologia eksperymentalna W. McCulloch: Wszystko, czego dowiadujemy się o organizmach wiedzie nas do wniosku, iż nie są one jedynie analogiczne do maszyn, ale że są one maszynami Eksperymentalna epistemologia: zrozumienie fizjologicznego podłoża wiedzy Jak skończony mózg ludzki jest w stanie rozumieć abstrakcyjne definicje (liczby), radzić sobie z logiką formalną, obliczać? Jak rozpoznajemy przynależność obiektów do tej samej klasy? (wizualnie, drogą symbolicznych obliczeń) Badania, rozwój 1940: dowód, że sieci neuronowe są w stanie obliczyć dowolną liczbę (dowód log.) do którego zdolny jest człowiek 1947: neurofizjologiczna teoria wyjaśniająca: ➔ możliwość wiedzy o uniwersaliach ➔ niezawodne rozpoznawanie wzorców przez mózg 1950: Co oko żaby mówi żabiemu mózgowi? 1964: psychon – najprostszy akt psychiczny: ➔ o charakterystyce czasowej i z historią ➔ wewnętrznie zdolny do wiązania wiedzy i działań ➔ aspekt semiotyczny – psychon odpowiada sądowi ➔ odpowiednik mózgowy – impulsy o charakterze wszystko-albonic Sieci neuronowe łańcuchy psychonów to zdania złożone – odwzorowywalne na terminy logiczne lata 30. - próba wyrażenia sieci neuronowych w notacji podobnej do logiki zdań; problem: sieci kołowe (ze sprzężeniem zwrotnym) W. Pitts: w teorii należy reprezentować opóźnienie [delay] dostarczył niezbędnej wiedzy matematycznej McCulloch, Pitts 1943: A Logical Calculus of the Ideas Immanent in Nervous Activity zintegrowane 3 idee: rachunek zdań, maszyny Turinga, synapsy neuronalne manifest psychologii obliczeniowej oraz AI Rachunek sieci neuronowych sieć jednostek wymodelowanych zgodnie z ówczesną wiedzą ad neuronów neuron MC-P to urządzenie typu w-a-n, odpalające gdy został osiągnięty próg próg definiuje się w kat. liczby impulsów dobiegających z innych neuronów TPE [temporal propositional expressions] – zdarzenia w czasie nie tylko notacja, ale również rachunek neuron MC-P to nie matematyczna abstrakcja, ale uproszczona reprezentacja rzeczy realnej (a) precession (identyczność) N2(t) ≡N1(t1) (b) dysjunkcja N3(t)≡N1(t1)∨N2(t1) (c) koniunkcja N3(t)≡N1(t1)∧N2(t1) (d) binegacja N3(t)≡N1(t1)∧¬N2(t1) próg: wejście z dwóch węzłów Rachunek sieci neuronowych pozwolił m.in. dowieść: zachowanie dowolnej nie-cyklicznej sieci można wyrazić w rachunku zdań każda funkc. log. rachunku zdań jest realizowana przez pewną sieć wszystkie sieci są rekursywnie definiowalne przez 4 podstawowe typy (patrz obrazek powyżej) każda sieć oblicza funkcję obliczalną przez pewną maszynę Turinga dowolna uniwersalna MT może obliczyć wszystko, co jest obliczalne przez sieci MC-P Rachunek sieci neuronowych Niedoskonałość rachunku traktowanego jako logika matematyczna znaczenie miała próba wykorzystania logiki do stawiania psychologicznych i neurologicznych pytań Dla każdej klasy funkcji musimy wyliczać, jaka sieć będzie ją będzie mogła ją obliczyć Nie wiadomo jaka sieć generuje zjawisko – nie wiemy co to za zjawisko Badania miały objąć całość psychologii, nie tylko poznanie (m.in. uczenie się, zachowanie nakierowane na cel, urojenia i halucynacje) Rachunek neuronowy to nie jedynie gra matematyczna, ale teoria (uproszczonych) ale fizycznych neuronów Logiczny neuron McC-P: resume (1943) Ogólna teoria przetwarzania informacji oparta na sieci binarnych przełączników lub elementów decyzyjnych Nazywane „neuronami” były znacznie prostsze niż ich biologiczne odpowiedniki McCulloch i Pitts pokazali, iż takie sieci mogą, w zasadzie, przeprowadzić dowolne obliczanie, podobnie jak komputer cyfrowy czy jego matematyczna abstrakcja: maszyna Turinga Abstrakcyjny manifest McC-P [od rachunku do komputera] ● nie było mowy o modelowaniu komputerowym – von Neumann: wykorzystanie elementów Boole'owskich; definicje podstawowych mechanizmów obliczeniowych – komputery to systemy ogólnego zastosowania manipulujące symbolami – obiecujące podejście w perspektywie wyjaśniania i symulowania myśli – von Neumann: EDVAC, Turing ACE ENIAC: Electronic Numerical Integrator And Computer Abstrakcyjny manifest McC-P [funkcja, nie implementacja] ● materialistyczny w wymowie, ignorował fizyczne szczegóły ● unikali zobowiązań w odniesieniu do neurobiologicznych kontrowersji (proces inhibicji w mózgu) – funkcjonalne efekty obserwowalnego eksperymentalnie uczenia się można reprezentować bez znajomości mechanizmów elektrochemicznych ● psychony dopuszczały wieloraką realizowalność ● skupianie się na procesach mentalnych niezależnie od mózgu EDVAC: Electronic Discrete Variable Automatic Computer