Wykład 3: Logiczny neuron. Rachunek sieci neuronowych Wstęp do

Transkrypt

Wykład 3: Logiczny neuron. Rachunek sieci neuronowych Wstęp do
Wstęp do kognitywistyki
Wykład 3:
Logiczny neuron.
Rachunek sieci neuronowych
Epistemologia eksperymentalna
W. McCulloch:
Wszystko, czego dowiadujemy się o organizmach wiedzie
nas do wniosku, iż nie są one jedynie analogiczne do
maszyn, ale że są one maszynami
Eksperymentalna epistemologia: zrozumienie fizjologicznego
podłoża wiedzy
Jak skończony mózg ludzki jest w stanie rozumieć
abstrakcyjne definicje (liczby), radzić sobie z logiką
formalną, obliczać?
Jak rozpoznajemy przynależność obiektów do tej samej
klasy? (wizualnie, drogą symbolicznych obliczeń)
Badania, rozwój
1940: dowód, że sieci neuronowe są w stanie obliczyć dowolną
liczbę (dowód log.) do którego zdolny jest człowiek
1947: neurofizjologiczna teoria wyjaśniająca:
➔ możliwość wiedzy o uniwersaliach
➔ niezawodne rozpoznawanie wzorców przez mózg
1950: Co oko żaby mówi żabiemu mózgowi?
1964: psychon – najprostszy akt psychiczny:
➔ o charakterystyce czasowej i z historią
➔ wewnętrznie zdolny do wiązania wiedzy i działań
➔ aspekt semiotyczny – psychon odpowiada sądowi
➔ odpowiednik mózgowy – impulsy o charakterze wszystko-albonic
Sieci neuronowe
łańcuchy psychonów to zdania złożone – odwzorowywalne na
terminy logiczne
lata 30. - próba wyrażenia sieci neuronowych w notacji podobnej do
logiki zdań; problem: sieci kołowe (ze sprzężeniem zwrotnym)
W. Pitts:
 w teorii należy reprezentować opóźnienie [delay]
 dostarczył niezbędnej wiedzy matematycznej
McCulloch, Pitts 1943: A Logical Calculus of the Ideas Immanent in
Nervous Activity
zintegrowane 3 idee: rachunek zdań, maszyny Turinga, synapsy
neuronalne
manifest psychologii obliczeniowej oraz AI
Rachunek sieci neuronowych
sieć jednostek wymodelowanych zgodnie z ówczesną wiedzą
ad neuronów
 neuron MC-P to urządzenie typu w-a-n, odpalające gdy został
osiągnięty próg
 próg definiuje się w kat. liczby impulsów dobiegających z
innych neuronów
 TPE [temporal propositional expressions] – zdarzenia w czasie
 nie tylko notacja, ale również rachunek
 neuron MC-P to nie matematyczna abstrakcja, ale
uproszczona reprezentacja rzeczy realnej

(a) precession (identyczność)
N2(t) ≡N1(t­1)
(b) dysjunkcja
N3(t)≡N1(t­1)∨N2(t­1)
(c) koniunkcja
N3(t)≡N1(t­1)∧N2(t­1)
(d) binegacja
N3(t)≡N1(t­1)∧¬N2(t­1)
próg: wejście z dwóch węzłów
Rachunek sieci neuronowych
pozwolił m.in. dowieść:
 zachowanie dowolnej nie-cyklicznej sieci można
wyrazić w rachunku zdań
 każda funkc. log. rachunku zdań jest realizowana przez
pewną sieć
 wszystkie sieci są rekursywnie definiowalne przez 4
podstawowe typy (patrz obrazek powyżej)
 każda sieć oblicza funkcję obliczalną przez pewną
maszynę Turinga
 dowolna uniwersalna MT może obliczyć wszystko, co
jest obliczalne przez sieci MC-P
Rachunek sieci neuronowych
Niedoskonałość rachunku traktowanego jako logika
matematyczna
 znaczenie miała próba wykorzystania logiki do stawiania
psychologicznych i neurologicznych pytań
 Dla każdej klasy funkcji musimy wyliczać, jaka sieć będzie ją
będzie mogła ją obliczyć
 Nie wiadomo jaka sieć generuje zjawisko – nie wiemy co to za
zjawisko
 Badania miały objąć całość psychologii, nie tylko poznanie
(m.in. uczenie się, zachowanie nakierowane na cel, urojenia i
halucynacje)
 Rachunek neuronowy to nie jedynie gra matematyczna, ale
teoria (uproszczonych) ale fizycznych neuronów

Logiczny neuron McC-P:
resume
(1943) Ogólna teoria przetwarzania informacji oparta
na sieci binarnych przełączników lub elementów
decyzyjnych
Nazywane „neuronami” były znacznie prostsze niż ich
biologiczne odpowiedniki
McCulloch i Pitts pokazali, iż takie sieci mogą, w
zasadzie, przeprowadzić dowolne obliczanie,
podobnie jak komputer cyfrowy czy jego
matematyczna abstrakcja: maszyna Turinga
Abstrakcyjny manifest McC-P
[od rachunku do komputera]
● nie było mowy o modelowaniu komputerowym
– von Neumann: wykorzystanie elementów
Boole'owskich; definicje podstawowych
mechanizmów obliczeniowych
– komputery to systemy ogólnego zastosowania
manipulujące symbolami
– obiecujące podejście w perspektywie wyjaśniania i
symulowania myśli
– von Neumann: EDVAC, Turing ACE
ENIAC: Electronic Numerical Integrator And Computer
Abstrakcyjny manifest McC-P
[funkcja, nie implementacja]
● materialistyczny w wymowie, ignorował fizyczne
szczegóły
● unikali zobowiązań w odniesieniu do
neurobiologicznych kontrowersji (proces inhibicji w
mózgu)
– funkcjonalne efekty obserwowalnego
eksperymentalnie uczenia się można
reprezentować bez znajomości mechanizmów
elektrochemicznych
● psychony dopuszczały wieloraką realizowalność
● skupianie się na procesach mentalnych niezależnie od
mózgu
EDVAC: Electronic Discrete
Variable Automatic Computer