Wykład 2

Modelowanie Agentowe
Układów Złożonych
Wstęp
Katarzyna Sznajd-Weron
Aperitif (2006)
• Physicists pretend not only to know everything,
but also to know everything better.
• This applies in particular to computational
statistical physicists like US.
D. Stauffer, doktorat honoris causa
Uniwersytet de Liege, 30.03.2006
Po co tu jesteśmy?
•
•
•
•
Maciek Bieniek – „żeby napisać kilka prac”
A po co Ty tu jesteś?
Wiem co odpowie kilka osób …
Jakie mamy możliwości:
– Praca naukowa zakończona publikacją (grupy 2-4)
– Wizualizacja modelu (w NetLogo)
– Jakieś inne pomysły?
Co to jest model agentowy?
• Model mikroskopowy
• Bottom – up
• Agenci (jednostki)
–
–
–
–
Ludzie, zwierzęta, rośliny, cząstki, …
Organizacje, społeczności, populacje, gatunki, …
Jednego typu lub więcej (np. ludzie i organizacje)
Każdy agent ma pewne cechy
• Oddziaływania
• Środowisko (przestrzeń)
Kiedy się pojawiły?
• „Do 2002 ludzie nie zajmowali się na poważnie ABM”
– Dlaczego? A. Borshchev, AnyLogic
• Od 19 lat w naukach społecznych wg. F. Squazzoni,
History of Economic Ideas, xviii/2010/2
• Wg. Web of Science
1991
1993
Źródło: M. Niazi, A. Hussain, Agent-based computing from multi-agent systems
to agent-based models: a visual survey, Scientometrics (2011) 89:479–499
Co to jest układ złożony?
•
•
•
•
Składa się z wielu elementów oddziałujących ze sobą
„Nieliniowe oddziaływanie”: 2 + 2 ≠ 4
Całość to coś więcej niż suma jego części
Typowe:
–
–
–
–
–
Emergencja
Samoorganizacja
Brak równowagi
Sprzężenia zwrotne
Prawa potęgowe
Budowla termitów
Płatki śniegu
More Is Different
• 1977 nagroda Nobla z fizyki
prace nad nieuporządkowanymi
układami magnetycznymi
• P. W. Anderson, More Is Different,
Science, New Series 177
(Aug. 4, 1972), pp. 393-396
• Przejścia fazowe – więcej to coś innego!!!
– Teoria wielkiego wybuchu (cząstki elementarne, kosmologia)
– Zastosowania interdyscyplinarne: ewolucja biologiczna,
genetyka, lingwistyka, epidemiologia, …
Przykład: Segregacja rasowa
Przykład: Model Schellinga (1971)
• Agenci mogą być tylko dwóch typów
i początkowo rozmieszczeni są losowo na sieci
• Agent jest nieszczęśliwy jeżeli ma w otoczeniu zbyt
wielu obcych (>T)
• W każdym kroku symulacji jeden nieszczęśliwy,
losowo wybrany agent jest przesuwany do losowo
wybranej wolnej komórki w sąsiedztwie
Schelling, T.C. Dynamic Models of Segregation,
Journal of Math. Sociology 1: 143-186 (1971)
Przykład: Model Schellinga (1971)
Czego się spodziewacie?
Zajrzyjcie na https://ccl.northwestern.edu/netlogo/
Models Library: Social Science: Segregation
Jaka nauka płynie z tego modelu?
• Model segregacji ze względu na pewną cechę
(rasa, płeć, wiek, styl życia, pozycja, zamożność)
• Nikt nie preferuje ścisłej segregacji
• Ostra segregacja mimo „łagodnych” preferencji
• Mikro motywy i makro zachowanie
Przejście pomiędzy mikro a makro
© Marcin Weron
Temperatura Curie – ciągłe przejście fazowe
magnes
ferromagnetyk
© Katarzyna Sznajd-Weron
•
•
•
•
Przejście fazowe
Ferromagnetyk 𝑇 ≤ 𝑇𝑐
Paramagnetyk 𝑇 > 𝑇𝑐
Jak to zrozumieć?
Model Isinga (Lenza-Isinga?)
•
•
•
•
•
1925 rozprawa doktorska Ernsta Isinga
Brak przejścia fazowego w 1D
Jedyna praca Isinga
Przejście fazowe w 2D (lata czterdzieste)
Skala mikro tłumaczy zachowania makro
𝐿
𝐻 = −𝐽
𝑆𝑖 𝑆𝑗
<𝑖,𝑗>
1𝐷
𝐿
𝐻 = −𝐽
𝑆𝑖 𝑆𝑖+1
𝑖=1
Skąd taki Hamiltonian?
Każdy układ dąży do minimalizacji energii
LÓD
WODA
LÓD
WODA
Lód i woda w równowadze
LÓD
WODA
Przechłodzona woda
Skąd taki Hamiltonian?
𝐿
𝐻 = −𝐽
𝑆𝑖 𝑆𝑖+1 Każdy układ dąży do minimalizacji energii
𝑖=1
𝐿
𝐻 = −𝐽
𝑆𝑖 𝑆𝑖+1 = −𝐽 3 ∙ 1 + 4 ∙ (−1)
𝑖=1
𝐿
𝐻 = −𝐽
𝐿
𝑆𝑖 𝑆𝑖+1 = −𝐽
𝑖=1
1 = −𝐽𝑁
𝑖=1
Oddziaływania pomiędzy cząstkami
Ferromagnetyk
(konformizm)
Antyferromagnetyk
(antykonformizm)
• Wpływ (siła oddziaływania) wzrasta wraz
– Ze zgodnością grupy
– Z rozmiarem grupy
• Wysoka temperatura –„nerwowo”
© Piotr Nyczka
Czego się spodziewacie?
Czego się spodziewacie?
Zajrzyjcie na https://ccl.northwestern.edu/netlogo/
Models Library: Chemistry & Physics: Ising
NetLogo (środowisko do ABM)
Prof. Uri Wilensky
Northwestern's Center for Connected
Learning and Computer-Based
Modeling (CCL)
Ewolucja układu w czasie (ferromagnetyk)
niska temperatura
• Oddziaływanie – porządkuje
• Temperatura – losowe zmiany
1
𝑚 =< 𝑆𝑖 > =
𝑁
– W niskich temperaturach  porządek
– W wysokich temperaturach  nieporządek
𝑁
𝑆𝑖
𝑖=1
Dalsze losy modelu Isinga
• Przejście fazowe w 2D bez pola
– Onsager, lata czterdzieste
• Symulacje Komputerowe – model Isinga w 3D
i 2D z polem
• Wykorzystanie poza fizyką
Symulacja Monte Carlo Modelu Isinga
•
•
•
•
•
•
Przygotuj stan początkowy układu
Pozwól mu ewoluować
Poczekaj aż ustali się magnetyzacja
Zanotuj wartość 𝑚
𝑚 =< 𝑆𝑖 > =
Powtarzaj to „dużo” razy
Policz średnią
magnetyzację
• Jaka to średnia?
1
𝑁
𝑁
𝑆𝑖
𝑖=1
Średnia po czasie
Średnia po zespole
Średnia po czasie i średnia po zespole
Układ ergodyczny to średnia po zespole = średnia po czasie
Algorytm Metropolisa – 1MCS = N losowań
• Wylosuj jeden spin 𝑆𝑖
• Oblicz energię E = 𝐸(𝑆𝑖 ) = −𝑆𝑖 𝐽
• Oblicz energię E ′ = 𝐸(−𝑆𝑖 ) = 𝑆𝑖 𝐽
𝑗∈𝑛𝑛 𝑆𝑗
𝑗∈𝑛𝑛 𝑆𝑗
• Oblicz zmianę energii ΔE = E′ − E
• Jeżeli ΔE ≤ 0 to 𝑆𝑖 → −𝑆𝑖
• Jeżeli ΔE > 0 to wylosuj 𝑟 z przedziału [0,1] i akceptuj
nową konfigurację jeżeli:
Δ𝐸
𝑟 < 𝑝 = 𝑒𝑥𝑝 −
,
𝑘𝐵 = 𝐽 = 1
𝑘𝐵 𝑇
Przejście fazowe w modelu Isinga
Po co model w fizyce?
?
nieznane
zjawisko
Weryfikacja
Model
Eksperyment
Konstrukcja
© Marcin Weron
Spojrzenie fizyka na rzeczywistość
Wszystko powinno być tak proste,
jak to tylko możliwe, ale nie prostsze
Po co nam uproszczenia?
Przykład z rozprawy doktorskiej Piotra Nyczki:
Oryginalny obraz
𝑅, 𝐺, 𝐵 ∈ [0,255]
Zdjęto kolor –
jedna zmienna o
256 wartościach
Coraz mniejsza liczba odcieni szarości, ostatecznie 2
• Łatwiejsza analiza – może nawet analityczna
• Większa kontrola (zrozumienie)
• Możliwość zupełnej analizy wrażliwości na zmianę parametrów
(uwaga na przejścia fazowe!)
„More can be worse” - dyfuzja cząstek
leków przez błony komórkowe
• Bardzo prosty model
T. Rezai et all., J Am Chem Soc. 128(8): 2510-1 (2006)
– Podstawowe założenie: tylko jedna konformacja cząstki
zarówno w wodzie jak i membranie
– Rzeczywistość: typowe cząstki organiczne mają tysiące
konformacji
• Policz konformacje!
R. V. Swift, R. E. Amaro,
J Comput Aided Mol Des.
25(11): 1007-17 (2011)
• Gorsza prognostyka
Przykładowe cząsteczki leku Ventolin (astma, choroby płuc),
http://www.lpdlabservices.co.uk
„More can be worse” - modele klimatu
• Coraz bardziej realistyczne
• Jednocześnie coraz mniej dokładne – w jakim sensie?
• Mniej użyteczne prognostycznie
M. Maslin and P. Austin, „Uncertainty: Climate models at their limit?”, Nature
486, 183–184 (2012)
• Nie zawsze model bardziej
skomplikowany jest gorszy!
• Zacznij od prostego modelu
Jak weryfikować modele?
• Co to znaczy zweryfikować?
• Eksperyment – przywilej fizyki?
• Obserwacja – jak to robić?
Jeden wzór może nie wystarczyć!
• Podstawowe cechy modeli Boidów:
– Starają się unikać zderzeń
– Dopasowują prędkość do sąsiadujących osobników
– Starają się trzymać blisko sąsiadów
obserwowany NND<1
długości ryby
𝑝 = 00 wszystkie w
tym samym kierunku
𝑝 = 900 – w losowych
W rzeczywistości 𝑝 ∈
100 ,200
Odporność na detale
• W modelach 1-9 wpływ od uśrednionego
sąsiedztwa, a w 10-11 wpływ od jednego
• 9 modeli z regułą większościową dało prawie
identyczne wyniki
• Pozostałe różnice okazały się nieistotne
• Odkrywamy najważniejszy
mechanizm!
Czy ABM może zastąpić eksperyment
społeczny?
• ABM powinno być uzupełnieniem
• ABM może pomóc zrozumieć „Dlaczego”
• ABM może pomóc odkryć najważniejsze
czynniki
• Jeżeli nie możemy zrobić
eksperymentu to …
• ABM odpowiada na
„Co by było gdyby …”
Przypadek jako narzędzie budowania
modeli
• Miesięczny zapis gry w ruletkę w Monte Carlo
może dostarczyć nam podstaw do
dyskutowania fundamentów nauki
Karl Pearson (1857-1936)
• Metoda Monte Carlo
• ABM ≠ Metoda Monte Carlo
Liczby losowe
• Tippett (1927) – Random Sampling Numbers
– Pierwsza tablica liczb losowych
– 41 600 cyfr ułożonych w zestawach po 4
– Dane o powierzchni parafii z brytyjskiego spisu
powszechnego (odrzucone 2 pierwsze i 2 ostatnie
cyfry)
Jak inaczej otrzymać liczby losowe? Czy coś
zwraca waszą uwagę?
36
Albo …
• Idź do szpitala po zapis kolejnych urodzeń
chłopców
i dziewczynek: CDDDCCD
• Przetasuj liczby (Tablica liczb przetasowanych
czterocyfrowych Hugo Steinhausa wydana w
1954)
37
Generatory liczb pseudolosowych (PRNG)
• PRNG generuje deterministycznie ciąg bitów,
który pod pewnymi względami jest
nieodróżnialny od ciągu uzyskanego z
prawdziwie losowego źródła.
• Algorytm liniowy (liczby o rozkładzie
jednostajnym):
xn1  axn  b mod c
• a,b,c – liczby magiczne, np:
a  75 , b  0, c  231  1
Cechy dobrego generatora do MC
• Długi okres powtarzalności
• Losowość – brak korelacji, równomierność
(specjalne testy)
• Szybki
Generator Mersenne Twister
(http://www.math.sci.hiroshima-u.ac.jp/~m-mat/MT/emt.html)
• Makoto Matsumoto i Takuji Nishimura,1997
– Nadaje się do Symulacji Monte Carlo, ale nie do
kryptografii
• Zalety MT19937 Mersenne Twistera:
–
–
–
–
Okres 219937 − 1 (udowodnione)
Wysoki stopień równomiernego rozmieszczenia
Spełnia większość testów losowości
Szybki
Metoda Monte Carlo
Metoda Monte Carlo (MC) jest techniką
rozwiązania problemów, która polega na
generowaniu zmiennych losowych w celu
oszacowania parametrów ich rozkładu
John von Neumann
Idea metody Monte Carlo
• Jaka jest szansa ułożenia
pasjansa?
• Ciężko to policzyć
analitycznie bo wygrana
zależy od wielu ruchów
• A gdyby tak parę razy
spróbować ułożyć pasjansa
i zobaczyć ile razy się to uda
?
Przegrana
Przegrana
Wygrana
Przegrana
Szansa ułożenia to ¼ !
Ręczne Monte Carlo
• Pierwsze udokumentowane doświadczenie
wykonał w XVIII w. uczony i pisarz francuski
Buffon
hr. Georges-Louis
Leclerc Buffon
(1707-1788)
• Wykonał 4040 rzutów monetą !
• Otrzymał średnią wartość 0,5069
(orzeł = 1, reszka = 0)
• W XX w. eksperyment powtórzył
rosyjski statystyk Romanowski
• Wykonał 80640 rzutów monetą !!!
• Otrzymał średnią wartość 0,4923
Prawdopodobieństwo jako długoterminowa względna częstość
Igła Buffona a liczba 
• Na kartkę papieru pokrytą liniami równoległymi
oddalonymi od siebie o odległość d
rzucamy losowo igłę o długości l < d
• Zliczamy ile razy przetnie ona linie siatki (liczba
m) w n rzutach
• Można pokazać, że prawdopodobieństwo tego,
że igła przetnie linię wynosi:
m 2l

n d
45
Igła Buffona – sformułowanie problemu
Igła Buffona - rozwiązanie
Igła Buffona – eksperymentalne
wyznaczenie 
Jak dobre jest to oszacowanie?
• W 1864, kapitan O. C. Fox wykonał ten
eksperyment gdy nudził się podczas
rekonwalescencji
n
500
m
236
l
3
d
4
Powierzchnia

nieruchoma 3.1780
530
590
253
939
3
5
4
2
obracająca się 3.1423
obracająca się 3.1416
Sprawdźmy to sami ( = 3,14159)
Współczesna historia metody Monte Carlo
• Stanisław Ulam w trakcie ... rekonwalescencji
układa pasjanse Canfield
• Nicolas Metropolis nadaje nazwę nowej
metodzie – „Monte Carlo” (od kasyna)
• 1949r. – pierwsza publikacja
na temat metody Monte
Carlo napisana przez Ulama
i Metropolisa
Matematyczne podstawy MC
• a - poszukiwana wielkość (np. magnetyzacja)
• a=EX wartość oczekiwana pewnej zmiennej
losowej X.
• Jeżeli jesteśmy w stanie generować niezależne
wartości S1,S2,... z rozkładu zmiennej X, to
• Prawo wielkich liczb:
1
lim S1  S2  ...  Sn   a
n  n
Istota Monte Carlo
• Metoda Monte Carlo polega na szacowaniu
wielkości a przez średnią z pewnej
odpowiednio dobranej n elementowej próby.
• Co to znaczy odpowiednio dobranej?
• Generowana z rozkładu zmiennej X (a=EX)
EX 
x p
xi W
i
i
  VarX  E  X  EX 
2
2
Zastosowania metody MC
•
•
•
•
•
•
•
•
Szacowanie pól figur
Obliczanie układów równań liniowych
Obliczanie równań różniczkowych cząstkowych
Obliczanie całek
Interpolacja funkcji wielu zmiennych
Prognozy pogody
Wycena instrumentów pochodnych
Modele mikroskopowe
Szacowanie pól figur
(c) 2009 K&R Weron
55
Literatura
• D. W. Heermann, Podstawy symulacji
komputerowych w fizyce, WNT 1997
• D. P. Landau, K. Binder, A Guide to Monte Carlo
Simulations in Statistical Physics, Cambridge
University Press 2005
Do zobaczenia w Monte Carlo