x - UCI AGH

2013-06-12
Modelowanie niepewności
Zbiory rozmyte,
liczby rozmyte,
logika rozmyta
Niepewność
Losowość
Niedokładność
Zmienna
losowa
Przedziały,
zbiory rozmyte
Rozmyta Zmienna
losowa
Rodzaje niepewności
Logika rozmyta i klasyczna
• Niepewność stochastyczna:
Np. rzut kostką, wypadek, ryzyko ubezpieczenia
- rachunek prawdop.
• Niepewność pomiarowa
Około 3 cm; 20 punktów - statystyka.
• Niepewność informacyjna:
Wiarygodny kredytobiorca, spełniający warunki
- data mining.
• Niepewność lingwistyczna
Np. mały, szybki, niska cena - logika rozmyta
Przykład zbioru klasycznego
Przynależność
do zbioru
studentów
UEk
Przykład zbioru rozmytego
Przynależność
do zbioru
„młodzież”
Liczba punktów uzyskanych podczas rekrutacji
Wiek
1
2013-06-12
Zbiory klasyczne
ZBIORY ROZMYTE
młody = { x  M | wiek(x)  20 }
Zbiorem rozmytym A, określonym na przestrzeni X jest zbiór uporządkowanych par :
A
 x, 
A
( x )| x  X

młody(x)
gdzie A jest funkcją przynależności (funkcją charakterystyczną) zbioru A.
 A  0,1
=0.8
0
x=20
A=“młody”
x [lata]
1
x [lata]
ZBIORY ROZMYTE I FUNKCJA
PRZYNALEŻNOŚCI
Klasyczne i rozmyte pojęcie „młody
człowiek”
A=“młody”
(x)  20
 10 :: wiek
wiek(x) > 20
młody(x) =
1
0
Przykłady
1
Funkcja
charakterystyczna
Zbiór rozmyty
A=“młody”
Funkcja przynależności A
0
x=23
x [lata]
„Temperatura wrzenia” ma wartość około 100
stopni (ciśnienie, skład chemiczny).
W T   e2T 100
2
Inny przykład zbiorów rozmytych.
ROZMYWANIE - FUZZIFICATION
Na rysunku pokazano przykładowy przebieg funkcji
przynależności dla trzech zbiorów rozmytych:
• mała liczba
• średnia liczba
• duża liczba
2
2013-06-12
Nośnik zboru rozmytego i jego jądro
OPERATORY LOGIKI ROZMYTEJ
zbiory rozmyte
osoby niskie LUB średnie
osoby NIE średnie
Rozmyta relacja
osoby średnie I wysokie
Jeszcze jeden przykład
Liczby rzeczywiste znacznie większe od 10
0 dla x  10

2 1

 1  x  10)  dla x  10
 A~  x   

x  11
B~ ( x)  (1  ( x  11)4 )1
1
0.8
0.6
0.4
0.2
0
-0.2
0
5
10
15
20
25
30
x
Jednym z często stosowanych
narzędzi sztucznej inteligencji jest
logika rozmyta
Rozmyta interpretacja określenia „około”
1.2
1
f. przynależności
~  x,  ~ x , x  R
B
B

1.2
f. przynależności
~  x,  ~ x , x  R
A
A
0.8
0.6
0.4
0.2
0
0
5
10
15
20
25
x
W logice tej przynależność określonego obiektu do określonej
kategorii opisywana jest funkcją przynależności przyjmującą
dowolne wartości z przedziału od 0 do 1
3
2013-06-12
Przykład
rozmytego opisu
środowiska dla
prostego robota
Przykład rozmytej kategoryzacji dla
sensorów odległości (dla sterowania
robota wymijającego przeszkody)
Proces tworzenia rozmytego lingwistycznego
modelu systemu rzeczywistego
Interpretacja i wyznaczanie funkcji
przynależności
Stopień podobieństwa – miara bliskości elementu x do wzorca
(rozmyte grupowanie danych, rozmyte sterowanie
Stopień preferencji – A przedstawia zbiór mniej lub bardziej
preferowanych obiektów. μA(x) to określenie preferencji dotyczącej
obiektu x (rozmyta optymalizacja).
Stopień niepewności - μA(x) to stopień możliwości, że zmiennej
X przypisujemy wartość x, gdy jedyną wiedzą, jaką posiadamy
jest „X jest A” (teoria możliwości)
Definicje
Support (baza) zbioru rozmytego A:
supp(A) = { x  X :  A(x) > 0 }
Core (jądro) zbioru rozmytego A:
core(A) = { x  X :  A(x) =1 }
a-cut (a-cięcie) zbioru rozmytego A:
Aa = { x  X :  A(x) > a }
a=0.6
Wysokość = max x  A(x)  1
Zbiór rozmyty normalny: sup x  X  A(x) = 1
4
2013-06-12
Typy Funkcji Przynależności
Terminologia
Trapezoid: <a,b,c,d>
(x)
1
MF
Gaus/Bell: N(m,s)
(x)
1
s
1
0
.5
a
0
Core
X
a
b
a - cut
0
d x
c
 x  a  / 2s 2
2
B  x; a, b  
Support
Funkcje Przynależności
1
xa
1
b
2b
Zmienne lingwistyczne
Singleton: (a,1) i (b,0.5)
Trójkątna: <a,b,c>
(x)
1
0
x

 xa d  x  
Trap  x; a, b, c, d   max  min 
,
,1 , 0 
 ba d c  

G  x; a   e
Crossover points
c
Zmienne lingwistyczne są reprezentowane przez czwórkę
(x)
danych (x, T(x), U, M~ ), gdzie
1
x jest nazwą zmiennej,
a
b
c
x
0
a
b
x

 xa cx 
T  x; a, b, c   max  min 
,
, 0
 b a c b  

T(x) to zbiór wartości zmiennej x,
U – uniwersum,
M~ – reguła przyporządkowania zmiennej lingwistycznej
do zbiorów rozmytych.
Zmienna lingwistyczna WIEK
x = „wiek”
T(x)= (b. stary, stary, w średnim wieku, młody, ...)
U=[0,130]
~(stary)={u, (u), u U}
M
stary
dla u  50
0

2 1

u

50


1   5   dla u  50
 
 
 stary(u )  
(x)
1
0
zimno
ciepło
20
gorąco
40
x [C]
5
2013-06-12
Iloczyn zbiorów rozmytych
~A
~B
~
Funkcja przynależności zbioru C
Na zbiorach rozmytych można
wykonywać działania
jest mniejszą z wartości funkcji przynależności zbiorów A i B
c ( x)  min(  A ( x), B ( x)) dla x  X
Uogólnieniem pojęcia iloczynu zbiorów
na zbiory rozmyte są tzw. t - normy
Operator t-normy (T) określa sposób znalezienia części wspólnej
zbiorów rozmytych. Charakteryzuje się następującymi cechami:
T:[0,1]  [0,1]  [0,1]
przestrzenie odwzorowania
T(0,0) = 0
zerowanie
T(A(x), 1) = A(x)
tożsamość jedynki
T(A(x), B(x)) = T(B(x), A(x))
przemienność
t-normy
minimum (MIN)
AB(x)=MIN(A(x), (B(x))
iloczyn (PROD)
AB(x)=A(x)* (B(x)
ograniczona
różnica
AB(x)=MAX(0, A(x)+B(x)-1)
T(A(x), T(B(x), C(x))) = T(T(A(x), B(x)), C(x)) łączność
A(x) C(x), B(x) D(x)  T(A(x), B(x))  T(C(x), D(x))
monotoniczność
s-normy
Suma zbiorów rozmytych
operatory realizujące sumowanie zbiorów rozmytych
Cechy operatów s-normy:
T: [0,1]  [0,1]  [0,1]
przestrzenie odwzorowania
jest większą z wartości funkcji przynależności zbiorów A i B.
T(0,0) = 0
zerowanie
c ( x)  max(  A ( x), B ( x)) dla x  X
T(A(x), 1) = 1
tożsamość jedynki
~B
~
Funkcja przynależności zbioru C~  A
T(A(x), B(x)) = T(B(x), A(x)) przemienność
T(A(x), T(B(x), C(x))) = T(T(A(x), B(x)), C(x))
łączność
A(x) C(x), B(x) D(x)  T(A(x), B(x))  T(C(x), D(x))
monotoniczność
6
2013-06-12
Przykłady
Operatory sumy zbiorów
Suma
Iloczyn
AB(x)=max{A(x),B(x)}
MAX
AB(x)=MAX(A(x), B(x))
suma algebraiczna
AB(x)=A(x)+B(x)-A(x)B(x)
suma ograniczona
AB(x)=MIN(1, A(x)+B(x))
1
A(x)
AB(x)=min{A(x),B(x)}
B(x)
0
AB(x)=min{1,A(x)+B(x)}
1
B(x)
x
AB(x)=A(x)  B(x)
A(x)
1
0
B(x)
0
x
A(x)
A(x)
1
B(x)
0
x
x
AB(x)=min{A(x),B(x)}
A(x) B(x)
1
0
Przykłady
a•b
MAX(a,b),
min( 0,[1  ( x  11)4 ]1 ) dla x  10
C~ ( x )  
-2 1
4 1
min([1  (x - 10) ] ,[1  ( x  11) ] ) dla x  10
~A
~B
~
C
a+b
max( 0,[1  ( x  11)4 ]1 ) dla x  10
~B
~A
~
D
 D~ ( x )  
- 2 1
4 1
max([1  (x - 10) ] ,[1  ( x  11) ] ) dla x  10
1.2
1
f. przynależności
MIN(a,b),
x
0.8
0.6
iloczyn
0.4
suma
0.2
0
-0.2
0
5
10
15
20
25
x
7
2013-06-12
Czasami użyteczne bywa także
dopełnienie zbioru rozmytego
~  (A
~ )
C
c ( x)  1   A ( x) dla x  X
Wybrane T-normy i S-normy
T-norma T(z(x), y(x))
Minimum
min z ( x),  y ( x) 
S-norma T(z(x), y(x))
Maximum
max z ( x),  y ( x) 
Iloczyn algebraiczny
 z ( x)  y ( x)
Suma algebraiczna
 z ( x)   y ( x)   z ( x)  y ( x)
Iloczyn silny
min  z ( x),  y ( x)  gdy max  z ( x),  y ( x)   1
Silna suma
max  z ( x),  y ( x)  gdy min  z ( x),  y ( x)   0
0 w przeciwnym przypadku
1 w przeciwnym przypadku
AND Łukasiewicza
max 0,  z ( x)   y ( x)  1
OR Łukasiewicza
min 1,  z ( x)   y ( x) 
Iloczyn Einsteina
 z ( x)  y ( x)
2   z ( x)   y ( x)   z ( x)  y ( x) 
Suma Einsteina
 z ( x)   y ( x)
1   z ( x)  y ( x)
Iloczyn Hamachera
 z ( x)  y ( x)
Suma Hamachera
 z ( x)   y ( x)  2 z ( x)  y ( x)
 z ( x)   y ( x)   z ( x)  y ( x)
T-Operator Yagera
1
 

b
1  min 1, 1   z ( x)   1   y ( x)b b  

 
S-Operator Yagera
1
 

min 1,   z ( x)b   y ( x)b b  

 
Liczby rozmyte
1   z ( x)  y ( x)


Dodawanie liczb rozmytych
Zwykle wypukłe, unimodalne (jedno
maksimum).
Liczby: jądro = punkt, x (x)=1
Monotonicznie maleją po obu stronach jądra.
Typowy wybór: trójkątne funkcje (a,b,c) lub singletony.
1
2
3
4
5
6
7
8
9
około trzy dodać około pięć to jest około osiem
Operacje na liczbach rozmytych
Dodawanie: A+B(x) = max{A(y), B(z) | x = y+z}
(x)
A(y) B(z) A+B(x)
1
Funkcja
Jeśli y=f(x), i x=a to y=b.
Dla punktów - krzywa
dla interwałów - pasmo.
y
0
x
Iloczyn: AB(x) = min{A(y), B(z) | x = yz}
(x)
1
A(y) B(z)
y
b
b
y = f(x)
y = f(x)
AB(x)
a
x
x
a
0
x
Dla rozmytych zmiennych x ?
8
2013-06-12
Rozmyte funkcje
Rozmyte relacje
Mamy zbiór rozmyty A i funkcję f :
Jak wygląda f(A)?
• Relacje klasyczne
R  X Y def:
Dla dowolnej funkcji f:
f(A)(y) = max{A(x) | y=f(x)}
R(x,y) opisuje stopień powiązania x i y
A(x) (x)
A
max
x
Inna interpretacja: stopień prawdziwości zdania x R y
x
Przykłady rozmytych relacji
Bliskie: X Y; X zależy od Y; X podobne do Y ...
Jeśli zm. lingw-1 = term-1 i zm. lingw-2 = term-2
to zm. lingw-3 = term-3
Y = { opalanie, wrotki, kamping, lektura }
kamping
lektura
deszczowo
0.0
0.2
0.0
1.0
pochmurnie
0.0
0.8
0.3
0.3
1.0
0.2
0.7
0.0
słonecznie
wrotki
Reguły rozmyte
Wiedzę potoczną można często zapisać w naturalny sposób
za pomocą reguł rozmytych.
X = { deszczowo, pochmurnie, słonecznie }
opalanie
R
{10 iffiff (x,y)
(x,y)  R
• Relacje rozmyte
R  X Y def:
R(x,y)  [0,1]
f
X/Y
R(x,y) =
Relacje rozmyte związane są z korelacjami.
Jeśli Temperatura = zimno i cena ogrzewania = niska
to grzanie = mocno
Co oznacza reguła rozmyta:
Jeśli x jest A to y jest B ?
Korelacja A i B, lub implikacja A =>B
Zastosowania logiki rozmytej
Wszędzie tam, gdzie trudno jest utworzyć matematyczny
model ale daje się opisać sytuację w sposób jakościowy, za
pomocą reguł rozmytych.
Kontrolery rozmyte:
jeśli się przewraca to popchnąć.
Inteligentne lodówki, pralki, windy, opiekacze do grzanek,
aparaty fotograficzne.
Metody logiki rozmytej
są bardzo często łączone
z metodami sieci
neuronowych
Zastosowania medyczne: nieprecyzyjny język daje się
przełożyć na reguły rozmyte.
Wiele zastosowań przemysłowych, głównie dotyczących
kontroli procesów.
9
2013-06-12
Różne sposoby łączenia zbiorów
rozmytych i sieci neuronowych
Architektura systemu
neuronowo-rozmytego
Zbiory
rozmyte
Siła i atrakcyjność logiki rozmytej bierze się
stąd, że zostały opracowane i oprogramowane
metody sprawnego wnioskowania
na podstawie rozmytych przesłanek i reguł
Sieci
neuronowe
Uczenie parametrów
zbioru rozmytego
Rozmyta sieć
neuronowa
Kluczem są tu implikacje rozmyte
AB
gdzie A i B to zbiory rozmyte określone przez swoje funkcje
przynależności
Rozmyta implikacja
Jeśli korelacja to wystarczy T-norma T(A,B).
A=>B ma wiele realizacji
Implikacja rozmyta AB(x,y)
opisana jest funkcją przynależności zdefiniowaną na zbiorze
będącym iloczynem kartezjańskim zbiorów przesłanki i konkluzji.
Istnieje wiele reguł obliczania funkcji
prawdziwości implikacji rozmytych
10
2013-06-12
W rezultacie często systemy, które oryginalnie dostarczają
danych pewnych (a nie rozmytych) są przekształcane do
rozwiązań opartych na logice rozmytej
Przykładowe funkcje przynależności
różnych kategorii związanych ze
sterowaniem bezzałogowego samolotu
Przykład: www.intelligentsolutionsinc.com
Cel: zbudować rozmyty system ekspertowy wspomagający
wnioskowanie o operacjach wydobycia na podstawie:
• cen ropy
• wykazanych rezerw korporacji.
Dane są:
• zbiory rozmyte dla cen ropy
• zbiory rozmyte dla wykazanych rezerw korporacji
• zbiory rozmyte zaangażowania w operację wydobycia
(wyjcie).
• reguły postępowania przy zadanych wejściach.
Przykład – rezerwy korporacji
Przykład – cena ropy
11
2013-06-12
Przykład – zaangażowanie w
zwiększenie wydobycia
Przykład – reguły rozmyte
Reguła 1:
IF cena ropy jest wysoka
AND wykazane rezerwy są niskie
THEN zwiększenie operacji wydobycia wysoce wskazane.
Przykład - fuzzyfikacja
Cena ropy $20.00 za baryłkę i zapasy korporacji 9
MMBBLs (million barrels).
Przykład – rozmyta wartość wynikowa
12
2013-06-12
Interpretacja graficzna metody wyostrzania
średnią geometryczną
1
 a  b+c+d
0.6
0.4
0.2
0
1
Wyostrzanie metodą średniej parametrycznej przy
różnych wartościach parametru p
c  d   a  b
a=Ywyn up(0), b=Ywyn up (1),
c=Ywyn down(1),
d=Ywyn down(0)
0.8
u(y)
Wyostrzanie
wielkości
rozmytych
y=
2
3
4
y
5
6
7
ROZMYTE SIECI NEURONOWE
1
u(y)
0.8
0.6
0.4
0.2
0
1
2
3
4
y
5
6
7
y = mean(Ywyn up(p), Ywyn down(p))
p – parametr mieszczący się przedziale funkcji przynależności
µ [0, 1] określający poziom, na którym zostają obliczone wartości
funkcji up i down zbioru Ywyn
SKŁADNIKI ROZMYTEJ SIECI
NEURONOWEJ
SIEĆ NEURONOWA
LOGIKA ROZMYTA
-APROKSYMACJA DOWOLNEJ
FUNKCJI WIELOWYMIAROWEJ
-FUNKCJE PRZYNALEŻNOSCI
-WNIOSKOWANIE ROZMYTE
-- UCZENIE SIĘ
NA PRZYKŁADACH
RODZAJE INTEGRACJI NN I FS
NEURONOWY I ROZMYTY
NEURONOWY/ROZMYTY
ROZMYTY-NEURONOWY
- PROSTA IMPELMENTACJA
FNN
NEURONO-PODOBNY ROZMYTY
ROZMYTO-PODOBNY NEURONOWY
13
2013-06-12
RODZAJE INTEGRACJI NN I FS
KOOPERACYJNA SIEĆ ROZMYTA
NEURONOWY Z ROZMYTYM WEJŚCIEM/WYJŚCIEM
NEURONOWO ROZMYTY
ROZMYTY NEURONOWY
KOOPERACYJNA FNN WYKORZYSTANIE

WYKORZYSTANIE SIECI NEURONOWYCH
W CELU TWORZENIA
FUNKCJI PRZYNALEŻNOSCI
WSPÓŁBIEŻNE SIECI FNN
FAM – Fuzzy Associative Memory – Rozmyta
Pamięć Skojarzeniowa –macierzowy opis
funkcji przynależności
WYKORZYSTANIE SIECI NEURONOWEJ DO
PRZYGOTOWANIE DANYCH WEJSCIOWYCH
DLA CZĘŚCI ROZMYTEJ
NEURON KLASYCZNY I ROZMYTY
Prosta, klasyczny sieć
NEURON ROZMYTY
AND
OR
neuronowa:
14
2013-06-12
NURON ROZMYTY Kwan & Cai
REGULARNA SIEĆ FNN
HYBRYDOWE SYSTEMU FNN
Fuzzy Adaptive Learning Control Network (FALCON)
Przykłady hybrydowych sieci FNN:
- FALCON
- ANFIS



- GARIC
- Takagi Sugeno
- Mamdani
- NEFCLASS (Neuro-Fuzzy Classification)




Trening sieci FALCON




Pierwsza warstwa odpowiada za
rozmywanie
W drugiej warstwie następuje
wyliczenie stopnia spełnianie
części IF wnioskowania rozmytego
W czwartej warstwie wyliczamy
część THEN wnioskowania
rozmytego
Warstwa trzecia odpowiada
zasadom wnioskowania
Piąta warstwa odpowiada za
wyostrzanie
Nienadzorowane tworzenie
prototypów funkcji przynależności
Wykorzystanie propagacji
wstecznej
ANFIS (Adaptive Network Based Fuzzy Inference System)
Trening sieci opiera się na poszukiwaniu właściwej
postaci trzecie warstwy sieci – zasad wnioskowania
- jeden z pierwszych
hybrydowych FNN (1992)
Przy pomocy dostępnych danych tworzymy pary
rozmyte wejście rozmyte wyjście w oparciu o ustalone
funkcje przynależności
- ustalona struktura
Warstwa trzecie będzie tworzona tak, aby z każdego
węzła wejściowego i wyjściowego połączyć się do
wariantu o najwyższej przynależności
Waga reguły będzie zależeć od stopnia przynależności
węzłów wyjściowych z którymi jest połączona
- adaptacja odbywa się tylko
w ramach wartości
paramentów
- podczas treningu zostają
ustalone funkcje
przynależności
15
2013-06-12
GARIS (Generalized Approximate Reasoning Based
Intelligent Control)
ASN (Action Selection Network)
- sieć FNN 5-cio
warstwowa
- sieć neuronowa i sieć FNN
- ASN (Action Selection Network)
- AEN (Action State Evaluation )
- SAM (Stochastic Action Modifier)
PRASA WALCOWA HITACHI
WENTYLATOR AUTOMATYCZNY SANYO
- logika rozmyta szacuje odległość wiatrak – pilot
- WCZESNE ZASTOSOWANIE METOD NN+FS (ROK
1992)
- sieć neuronowa określa kierunek między osią
wiatraka a pilotem
- SIEĆ NEURONOWA ODPOWIADA ZA ROZPOZNAWNIE
WZORCÓW
- lepsze możliwości śledzenia pilota od
otrzymanych wprost z danych czujników
-LOGIKA ROZMYTA RALIZUJE REAKCJE NA
PODSTAWIE STOPNIE DOPASOWANIA DO
WZORCÓW
BIBLIOGRAFIA
- Robert Full´er, Neural Fuzzy Systems, ˚Abo 1995
- Justyna Signerska i Krzysztof Bartoszek, Logika rozmyta
- Hideyuki Takagi, Fusion Technology of Neural Networks and Fuzzy
Systems: A Chronicled Progression from the Laboratory to Our Daily
Lives
- Sushmita Mitra, Neuro–Fuzzy Rule Generation: Survey inSoft
Computing Framework
- Zadeh, Fuzzy Sets, 1965
- Ajith Abraham, Neuro Fuzzy Systems: State-of-the-art Modeling
Techniques
- HR Berenji, P Khedkar, Learning and tuning fuzzy logic controllers
through reinforcements
16