Wyklad2_handout

Transkrypt

Wyklad2_handout
2008-9-14
Inteligentne Systemy Autonomiczne
Zał
Założenia Systemowe
EE141
Janusz
Jak stworzyć wysoka inteligencje?
‰ Musimy
wiedzieć jak
‰ Musimy rozwinąć
metody jej
implementacji
‰ Musimy mieć środki
do jej budowy i
ciągłej operacji
A. Starzyk Wyższa Szkoła Informatyki i Zarządzania w Rzeszowie
EE141
EI powstaje dzię
dzięki uczeniu sie wpływu
jego oddziaływań na otoczenie
Wymogi Obudowanej Inteligencji
‰
Zależna od stanu układu
ƒ Uczy się wzorców przestrzenno-czasowych
ƒ Zlokalizowana w czasie i przestrzeni
‰
Uczenie się
Centralny system
nerwowy
ƒ Nie ustające
ƒ Wykrywające nowość
‰
Ma system wartości
ƒ Wykrywanie bólu
ƒ Kontrola bólu
Narządy
zmysłowe
ƒ Tworzenie celu działania
Narządy
motoryczne
ƒ Współzawodniczące cele
‰
Wyłania się
ƒ Sztuczna ewolucja
ƒ Samo-organizacja struktur
EE141
EE141
© Dr Kazimierz Duzinkiewicz, Zespół Inteligentnych Systemów Wspomagania Decyzji i Sterowania
Wspó
Współdziałanie ze Środowiskiem
EI Architecture
Kodowanie Wejść Sensorycznych
Reason
Short-term Memory
Perceive
Act
RETRIEVAL
LEARNING
Kandel Fig. 30-1
Richard Axel, 1995
Wzrok, słuch, smak,
węch, dotyk-> ruch
Long-term Memory
Hip
Trunk
Arm
Hand
Foot
Face
Kandel Fig. 23-5
Tongue
INPUT
Task
Environment
Jak przetwarzać i
reprezentować
informacje zmysłowe?
OUTPUT
Simulation or
Real-World System
EE141
From
Randolph M. Jones, P : www.soartech.com
Larynx
EE141
1
2008-9-14
Wyzwania Inteligencji Obudowanej
Wyzwania Inteligencji Obudowanej
‰
Rozwój połączeń zmysłowych
ƒ
ƒ
ƒ
ƒ
‰
Aktywne widzenie
Przetwarzanie mowy
Dotyk, powonienie, smak, temperatura, ciśnienie
Dodatkowe instrumenty postrzegania
ƒ Asocjacji, pamięci, uczenia sekwencyjnego,
budowania niezmienników, reprezentacji,
oczekiwania, uczenia systemu wartości,
określania celów, planowania
– Wykrywanie podczerwieni, radar, detektor światła i odległości,
ultradźwięki, globalny system lokalizacji (GPS), itp.
– Czy duża liczba sensorów może być mniej użyteczną?
‰
‰
Rozwój połączeń motorycznych
ƒ Ruch ramion, nóg, palców, oczu
EE141
EE141
Mini Kolumny Kory Mózgowej
Jednorodne Struktury Kory Mó
Mózgowej
‰
‰
‰
‰
“The basic unit of cortical operation is
the minicolumn … It contains of the
order of 80-100 neurons except in
the primate striate cortex, where
the number is more than doubled.
The minicolumn measures of the
order of 40-50 µm in transverse
diameter, separated from adjacent
minicolumns by vertical, cellsparse zones … The minicolumn is
produced by the iterative division
of a small number of progenitor
cells in the neuroepithelium.”
V. Mountcastle argumentował ze
wszystkie obszary kory mózgowej
wykonują ten sam algorytm
obliczeniowy
Grupy neuronów (mini kolumny)
połączone są w sposób pseudoprzypadkowy
Taka sama struktura organizacyjna
Mini kolumny zgrupowane są w
kolumny
VB Mountcastle (2003). Introduction [to a special issue of
Cerebral Cortex on columns]. Cerebral Cortex, 13, 2-4.
EE141
(Mountcastle, p. 2)
Copyright © 2006-2008, all rights
reserved, Visualbiotech
.
Stain of cortex in
planum temporale
Grupowanie Mini Kolumn
Grupy mini kolumn organizują sie w fizjologicznie
obserwowalne kolumny funkcyjne. Najbardziej
znanym przykładem są kolumny orientacji w V1.
Kolumny są zdecydowanie większe od mini kolumn,
maja średnice około 0.3-0.5 mm i 4000-8000
neuronów
Wniosek Mountcastle’a:
“Cortical columns are formed by the binding together of
many minicolumns by common input and short range
horizontal connections. … The number of
minicolumns per column varies … between 50 and
80. Long range intracortical projections link columns
with similar functional properties.” (p. 3)
EE141
Rozwój obwodów sieci neuronowych
ƒ Określenie organizacji sztucznych mini kolumn
ƒ Samo-organizacja hierarchii mini kolumn
receptorów i efektorów
ƒ Samo-organizacja układów określania celów
Rozwój sensorów bólu
ƒ Energia, temperatura, ciśnienie, poziom przyspieszenia
ƒ Sygnał od nauczyciela
‰
Znalezienie rozwiązania algorytmicznego
EE141
Zasady Samoorganizacji Mini Kolumn
‰
‰
‰
‰
‰
‰
Przedstaw wejścia z receptorów poprzez stopniowe
coraz bardziej abstrakcyjne cechy w hierarchii
sensorycznej
Użyj “zasadę niezmienności” obserwowanych obiektów
do wykrycia i nauczenia się cech niezmiennych
Naucz się pamiętać sekwencje czasowe
Użyj połączeń przypadkowych do wstępnego wyboru
cech receptorów
Użyj sprzężenia zwrotnego do tworzenia sygnałów
oczekiwań i wykrywania nowości
Użyj nadmiarowych struktur rzadko połączonych
mikroprocesorów
EE141
2
2008-9-14
Hierarchiczna Organizacja Połączeń
Receptoró
Receptorów i Efektoró
Efektorów
Organizacja Mini Kolumn
‰
Neurony receptorów są odpowiedzialne za reprezentacje
środowiska
ƒ otrzymują wejścia z czujników lub receptorów na niższym poziomie
hierarchii
ƒ reprezentują środowisko
ƒ otrzymują sprzężenie zwrotne z efektorów i receptorów na wyższym
poziomie
ƒ pomagają aktywizować neurony efektorów i neurony wymuszeń
‰
‹
‹
Neurony efektorów sa odpowiedzialne za działania i umiejętności
‹
ƒ są aktywizowane przez neurony wymuszeń i efektorów
ƒ aktywizują siłowniki lub wytwarzają wejście dla efektorów niższego
poziomu
ƒ wytwarzają sygnały planowania dla receptorów
‰
Neurony wymuszeń są odpowiedzialne za budowę systemu
wartości, określanie celów, uczenie, i eksploracje
ƒ
ƒ
ƒ
ƒ
Receptory i efektory maja hierarchiczne drogi połączeń
Rozgałęzienia od bardziej ogólnych do bardziej
specyficznych
Łatwo rozgałęziają sie do wyższego poziomu
Stopniowa utrata elastyczności połączeń w kierunku
wejścia
‹
Wewnętrzna
reprezentacja
Wejścia
otrzymują wejścia z niższego poziomu neuronów wymuszeń
otrzymują wejścia z czujników lub receptorów
wytwarzają sygnały wejścia dla efektorów
inicjują uczenie i wymuszają eksploracje
EE141
EE141
Organizacja Połączeń Receptorów i Efektoró
Efektorów
Hierarchiczna Organizacja Połączeń
Receptoró
Receptorów i Efektoró
Efektorów
Increasing connection’s plasticity
Ogólna Charakterystyka :
Sensory pathway
Sensory neurons
in a minicolumn
…………
…
…
…...
Environment
106 neurons
„ Hierarchiczna struktura
„ Przetwarzanie w mini kolumnach
„ Przestrzenne i czasowe asocjacje
przez połączenia i neurony wtórne
„ Połączenia sprzężenia zwrotnego
„ Selektywna adaptacja
Funkcje:
„ Niezmienniki reprezentacji
„ Oczekiwanie
„ Wyszukiwanie nowości
„ Uczenie systemu wartości
... …
10 neurons
104 neurons
EE141
Activation pathway
10 neurons
1011 neurons
Koordynacja SensorowoSensorowo-Motoryczna
‹
Drogi receptorów i efektorów łącza sie na rożnych
poziomach hierarchii
... …
... …
EE141
Koordynacja SensorowoSensorowo-Motoryczna
‹
Sensory feature
extraction and
learning
hierarchy
Wewnętrzne
reprezentacje
Wejścia
Wyjścia
Sensory inputs
refleksy
EE141
Drogi receptorów i efektorów łączą się na rożnych
poziomach hierarchii
Reinforcement
learning
connections
Planning
feedback
path
Motor
control
hierarchical
data path
Motor outputs
działania
przemyślane
EE141
3
2008-9-14
Cel Działania
Koordynacja SensorowoSensorowo-Motoryczna
Drogi receptorów i efektorów łącza się na różnych
poziomach hierarchii
‹
‹
Określanie celów
Połączenia zmysłowe
i system wartości
Zwiększająca możliwość przystosowania
’
Połączenia motoryczne
O
…
…
R
…
… A
EE141
N
R: reprezentacja
O: oczekiwanie
A: asocjacja
N: nakaz
P: planowanie
‹
‹
‹
‹
Środowisko
EE141
Ośrodek Bólu i Określania Celów
‹
‹
‹
‹
‹
‹
Prosty Mechanizm
Prowadzi do stawiania
złożonych celów
Tworzy hierarchie
wartości
Wyczuwa zmiany
poziomu bólu:
• Zwiększenie bólu
• Zmniejszenie bólu
Pobudza uczenie
Wymusza eksploracje
Czy maszyna może być
inteligentna jeśli realizuje
tylko zadane cele?
Jeśli nie to jak dynamicznie
określać jej cele?
Potrzebna jest hierarchia
wartości działań
Nie wszystkie wartości
mogą być wbudowane
Potrzebna jest motywacja
działań, pobudzająca
uczenie i eksploracje
Wtórny poziom Zwiększenie
bólu
bólu
(-)
+
(-)
(+)
Sensor
Środowisko
Określanie Abstrakcyjnych Celó
Celów
9są wytwarzane w oparciu o
niższe cele
9zaspakajają prymitywne
cele
(+)
(-)
(+)
-
Zmniejszenie
bólu
Poziom bólu
EE141
Motor
EE141
refrigerator
Open
-
Level II
+
“food” becomes a
sensory input to
abstract pain center
Association
Inhibition
Reinforcement
Connection
Planning
Expectation
Wymuszanie
eksploracji
Pobudzanie
uczenia
Abstract pain
(Delayed memory of pain)
Food
Eat
Level I
+
Dual pain
Pain
Stomach
Primitive
Level
EE141
Łączenie Trzech Dró
Dróg Oddziaływań
‰
9Potrzebna odpowiednia
reprezentacja problemu
9Umiejętność jego wykonania
9Zgodność z systemem
wartości maszyny
9Priorytet do terminowego
wykonania zadania
Motor pathway
(action, reaction)
-
Abstrakcyjne Cele
‰ Na ile cel abstrakcyjny
może być celem
użytecznym?
‰ Maszyna musi
“zrozumieć” cel abstrakcyjny
zanim go zaakceptuje
Sensory pathway
(perception, sense)
‰ Celem jest zmniejszenie
prymitywnego poziomu
bólu
‰ Abstrakcyjne cele
‰
‰
Sygnały celu, oraz
neurony zmysłowe i
motoryczne
współdziałają na
rożnych poziomach
hierarchii
Celem oddziaływań jest
minimalizacja bólu
Sygnał bólu ustala rangę
celów
EE141
Drzewo bólu I
Drzewo bólu II
Motoryczne połączenie
Zmysłowe połączenie
Działanie bólu na ruch
Działanie zmysłów na ruch
Działanie zmysłów na
ośrodek bólu
4