docThe conscious mind” Davida Johna Chalmersa
download 
Reklamacja Transkrypt
The conscious mind” Davida Johna Chalmersa
Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind ”The conscious mind” Davida Johna Chalmersa Applications Strong Artificial Intelligence Te rzeczy trzeba przypomnieć: • zasada organizacyjnej niezmienniczości, • fading and dancing qualia argument, • funkcjonalna odwracalność, • chiński pokój, • koneksjonizm. The Chinese room and other objections Oczywiście, przeciwnicy silnej zasady AI przedstawiają czasem konkretne argumenty przeciwko niej. Najbardziej znane z nich to te Johna Searle’a, które opublikował w 1980 roku w artykule ”Minds, Brains and Programs”. Będę używać frameworku, który przedstawiłem wyżej, aby odpowiedzieć na te argumenty. The Chinese room W najbardziej znanym argumencie przeciwko zasadzie silnej AI, Searle (1980) twierdzi, że każdy program może być zrealizowany bez powoływania się na argument umysłu. Wykazuje to pokazując kontrprzykład chińskiego pokoju. Chiński pokój służy jako ilustracja, dla każdego programu (lub systemu, który implementuje ten program), ale któremu brakuje odpowiednich świadomych przeżyć. W pierwotnej wersji, Searle kieruje ten argument przeciwko maszynowej intencjonalności niż przeciw maszynom świadomym, twierdząc, że tym czego brakuje w chińskim pokoju jest ”zrozumienie”. Pokazuje, że chińskiemu pokojowi brakuje tak samo świadomości jak nam świadomego zrozumienia języka chińskiego. Według Searle’a intencjonalność wymaga świadomości, a więc to wystarcza, żeby uzasadnić, że pokój nie jest również intencjonalny. Inni przeczą jednak temu. Możemy usunąć związek między świadomością i intencjonalnością i rozwiązać problem wyłącznie w kategoriach świadomości. Kwestia może się przez to okazać bardziej czytelna. (Oznacza to, że możemy wnioski Searle’a podzielić na dwie części: (1) żaden program nie wystarczy do świadomości; (2) żaden program nie jest zdolny do intencjonalności. Searle stwierdził, że (1) implikuje (2), ale inni temu zaprzeczają. Wszystko staje się jasne, jeśli argument przeciw silnej AI skoncentruje się na (1). Wszystkie strony mogą przyjąć, że jeśli nawet (1) jest prawdziwe, to najbardziej interesującą postacią silnej zasady AI jest ta głupia, a nawet Searle przyjąłby, że przecząc (1) pokazujemy, że argument chińskiego pokój upada. Związek między świadomością i intencjonalnością może być następnie odłożony jako osobny problem, nie znaczący przeciwko AI. Pozwala to uniknąć sytuacji spotykanej często w literaturze, w której przeciwnicy twierdzą, że zaprzeczenie (2) przeczy też (1). Wynika to braku odpowiedniego rodzaju połączenia między chińskim pokojem i jego środowiskiem (Fodor 1980; Rey 1986), oraz odpowiedzi, które dają obliczenia proceduralne lub funkcjonalne intencjonalności (Boden 1988; Thagard 1986). Odpowiedzi te mogą być lub nie być uzasadnione, gdy chodzi o intencjonalność, ale robią oni niewiele, aby uczynić bardziej prawdopodobnym, że chiński pokój jest świadomy, więc zostawiają nas z uczuciem, że problem AI został źle sformułowany. Co najwyżej, co zostało już zaakcentowane, mamy pomocnicze założenie, że intencjonalność wymaga świadomości.) Argument idzie jak poniżej. Weźmy dowolny program, który ma na celu wychwytywanie pewnych aspektów świadomości, takich jak rozumienie chińskiego, czy odróżnienie czerwonego. Wtedy program ten może być zaimplementowany przez kogoś, kto rozumie tylko angielski - będziemy go nazywać demonem w czarno-białym pokoju. Demon wykonuje wszystkie czynności określone przez program manualnie, prowadzi rejestr wszystkich istotnych stanów wewnętrznych i zmiennych na kawałkach papieru, usuwa i uaktualnia ich w miarę potrzeby. Możemy sobie wyobrazić, że demon jest również podłączony do robotycznego 1 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind ciała, odbiera cyfrowe wejścia z percepcyjnych przetworników, manipuluje nimi zgodnie ze specyfikacją programu i wysyła cyfrowe wyjścia silniczkom. W ten sposób program jest perfekcyjnie zrealizowany. Niemniej jednak, wydaje się jasne, że demon nie rozumie świadomie chińskiego i nie ma wyczucia koloru czerwonego. Dlatego implementacja programu nie jest wystarczająca do świadomych doznań. Świadomość musi wymagać czegoś więcej niż tylko wykonanie odpowiedniego programu. Zwolennicy silnej AI mają zazwyczaj odpowiadać, że demon nie rozumie chińskiego, i twierdzą, że zrozumienie i świadomość powinny być przypisane do systemu składającego się z demona i kawałka papieru. Searle zasugerował, że taka odpowiedź jest nieprzekonywująca. Oczywiście, jest coś sprzecznego z intuicją w twierdzeniu, że system złożony z agenta i kawałka papieru ma zbiorową świadomość. W tym momencie argument osiągnie impas. Zwolennicy AI twierdzą, że system jest świadomy, przeciwnicy twierdzą, że to niedorzeczne, więc wydaje się trudne, aby przejść gdzieś dalej. Myślę jednak, że podane argumenty dostarczają podstaw do przełamania impasu na rzecz silnej AI. Załóżmy, że odpowiedni program jest w rzeczywistości automatem kombinatorycznym takim, że odzwierciedla neuron na poziomie organizacji chińskiego mówcy, który szuka informacji o soczystym czerwonym jabłku. Demon w pokoju realizacje CSA poprzez przetwarzanie kawałka papieru dla każdego elementu wektora stanu i aktualizacje kawałki papieru w każdym kroku zgodnie z regułami przejść stan-tłumaczenie. Możemy uruchomić argument Fading and Dancing Qualia1 poprzez zbudowanie spektrum przypadków między oryginalnym mówcą chińskim i chińskim pokojem. Nie jest to trudne do zrobienia. Po pierwsze, możemy sobie wyobrazić, że neurony w głowie chińskiego mówcy zostają zastąpione przez niewielkie demony, z których każdy powiela funkcję wejścia/wyjścia neuronu. Po otrzymaniu stymulacji z sąsiednich neuronów, demon wykonuje odpowiednie obliczenia i stymuluje sąsiednie neurony. Jak tylko coraz więcej neuronów jest zastępowanych przez demony, czaszka zostaje wypełniona miliardami demonów reagujących na wzajemne sygnały wejściowe i sensoryczne, wykonujących obliczenia oraz sygnalizujące je innym demonom i stymulując dalsze wyjścia. (Jeśli ktoś ma zastrzeżenia, że te demony nie będą pasować w głowie, możemy sobie wyobrazić scenariusz z radio transmiterem, który jest poza czaszką). Następnie stopniowo obniżamy liczbę demonów, pozwalając im na podwojenie ich pracy. Po pierwsze zastępujemy dwóch sąsiednich demonów przez jednego demona, który wykonuje pracę ich obu. Nowy demon będzie prowadzić rejestr stanów wewnętrznych neuronów obydwu symulowancyh demonów - możemy sobie wyobrazić, że ten rejestr jest w każdym miejscu na kawałku papieru. Każdy kawałek papieru będzie aktualizowany w zależności od sygnałów z sąsiednich demonów, a także uwzględniając stan z własnej kartki papieru. Demony są konsolidowane dalej, aż w końcu istnieje tylko jeden demon i miliardy maleńkich kawałków papieru. Możemy sobie wyobrazić, że każdy z tych kawałków jest w swoim oryginalnym położeniu odpowiadającego mu neuronu, i że demon przeczesuje mózg aktualizując każdy kawałek papieru w zależności od stanów sąsiednich kawałków i (o ile to konieczne) sensorycznych wejść. Pomimo tych wszystkich zmian, wyjściowy system dziedziczy funkcjonalną organizację pierwotnego mózgu. Przyczynowo-skutkowe relacje pomiędzy neuronami w pierwotnym przypadku są powielane przez przyczynowo-skutkowe relacje pomiędzy demonami w pośrednim przypadku, a także przez relacje przyczynowoskutkowe między kawałkami papieru w ostatnim przypadku. Tak więc przyczynowe relacje są uzgadniane przez podanie w jaki sposób relacja demon-kawałek papieru wpływa na stan demona, co ma wpływ na sąsiednie kawałki papieru, ale one są z kolei tylko stosunkami przyczynowymi. Jeżeli będziemy obserwować system w przyspieszeniu zobaczymy rój interakcji przyczynowych, które odpowiadają właśnie terkotaniu wśród neuronów. Możemy zatem zastosować argumenty Fading and Dancing Qualia. Jeśli końcowemu systemowi brakuje świadomego rozumienia, wtedy musi istnieć pośredni system, który nie ma świadomego rozumienia. To jest nieprzekonywające z tych samych powodów co poprzednio. Możemy również wyobrazić sobie, przełączanie się między obwodem neuronowym i odpowiednim obwodem realizowanym przez demony lub przez jednego demona i kawałki papieru. Tak jak poprzednio, prowadziłoby to do argumentu Dancing Qualia ze stałą funkcjonalną organizacją, tak więc system mógłby nie zauważyć różnicy. Po raz kolejny, jest to o wiele bardziej prawdopodobne, aby podejrzewać, że qualia2 są stałe przez cały czas. Jest więc uzasadnione, aby stwierdzić, że ostateczny system ma świadome doświadczenia pierwotnego systemu. Jeżeli system nerwowy wzbudził zrozumienie koloru czerwonego, to samo zrobi system demonów, i tak samo zrobi sieć kawałków papieru pośrednicząca przez demona. Oczywiście, w tym końcowym 1 Argument ten oznacza... (l.poj. quale) – odczuwalne lub zjawiskowe jakości, związane z doświadczeniami zmysłowymi, np. słyszeniem dźwięków, odczuwaniem bólu, odbieraniem barw. Qualia są własnościami doświadczeń zmysłowych. 2 Qualia 2 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind przypadku jest tylko kopią systemu z chińskiego pokoju. Mamy więc powody, aby sądzić, że system jest naprawdę świadomy w zrozumieniu takich rzeczy jak język chiński, czy doświadczenie czerwonego. Ten sposób patrzenia na rzeczy przedstawia jasno dwie rzeczy, które mogą być zakryte przez opis chińskiego pokoju Searle’a. Po pierwsze, ”kawałki papieru” w pomieszczeniu nie są tylko stosem formalnych symboli. Stanowią one konkretny dynamiczny system przyczynowej organizacji, która odpowiada bezpośrednio organizacji pierwotnego mózgu. Powolne tempo, w jakim łączymy symbole zasłania manipulację, tak samo jak obecność demona manipulacjującego symbolami, ale mimo wszystko jest to dynamika kawałków papieru, która powoduje powstanie świadomego doznania. Po drugie, rola demona jest całkowicie drugorzędna. Najciekawsza dynamika przyczynowa odbywa się między kawałkami papieru, które odpowiadają neuronom w pierwotnym przypadku. Demon działa po prostu jak pewnego rodzaju przyczynowy moderator. Fakt, że demon jest świadomym agentem może kusić do przypuszczeń, że jeżeli doświadczenia układu są wszędzie, to są też w demonie, ale w rzeczywistości świadomość demona jest całkowicie bez znaczenia dla funkcjonowania systemu. Praca demona może być wykonana przez zwykłą funkcję. Zasadniczym elementem tego systemu jest dynamika na symbolach. Argument Searle’a zyskuje swoją wartość w naszej intuicji poprzez implementację programu w dziwaczny sposób, taki, że zasłania on implementecję odpowiednich dynamik przyczynowych. Gdy jednak spojrzymy na obrazy, które przychodzą do głowy na myśl o obecności niepotrzebnego demona i przez powolność zamnieniania symboli widzimy, że dynamika przyczynowa w pokoju odzwierciedla właśnie dynamikę przyczynową w mózgu. W ten sposób nie wydaje się już dłużej tak nieprzekonywające, aby założyć że system powoduje powstanie świadomego doznania. Searle daje również wersję argumentu, w którym demony zapamiętują zasady obliczeń i implementują program wewnętrznie. Oczywiście, w praktyce ludzie nie potrafią zapamiętać nawet stu zasad i symboli, nie mówiąc już o wielu miliardach, ale można wyobrazić sobie, że demon o superpamięci będzie w stanie zapamiętać wszystkie zasad i zapisy stanów wszystkich symboli. W tym przypadku, możemy również oczekiwać, że system zrodzi świadome odczucia, które nie są odczuciami demona. Searle twierdzi, że demon musi mieć odczucia wewnętrzne, skoro wszystko co następuje musi być wewnętrzne dla demona, ale powinno to być raczej uznawane jako przykład dwóch systemów psychicznych realizowanych w ramach tej samej przestrzeni fizycznej. Organizacja, która daje podstawę do zrozumienia chińskiego jest całkiem odmienna od organizacji, który daje podstawę do świadomych doznań demona. Organizacja zrozumienia Chińskiego jest relacją przyczynowo-skutkową pomiędzy miliardami położeń w superpamięci modułu; ponownie, demon działa tylko jako pewnego rodzaju przyczynowy moderator. Staje się to jasne, gdy uznamy spektrum przypadków, w których demon tupocze w całej czaszce stopniowo zapamiętując reguły i symbole, dopóki wszystko nie zostanie zainicjowane. Odpowiednie struktury zostają stopniowo przeniesione z czaszki do superpamięci, ale odczucie pozostaje stałe i całkowicie oddzielone od doświadczeń demona. Niektórzy mogą przypuszczać, że skoro mój argument opiera się na powtórzeniu organizacji w mózgu na poziomie neuronowym, to pokazuje on tylko słabą postać silnej AI, która jest ściśle powiązana z biologią. (W dyskusji tego, co Searle nazywa ”Brain Simulator”, wyraża on zaskoczenie tym, że zwolennik AI dałyby odpowiedź, która zależała by od szczegółowej symulacji ludzkiej biologii.) Byłoby to jednak zmniejszenie siły tego argumentu. Gdy wiemy, że pewien program może spowodować powstanie myśli nawet wtedy, gdy jest realizowany w stylu chińskiego pokoju, siła argumentu Searle’a jest całkowicie zniwelowana: wiemy, że demon i papier w chińskim pokoju maja rzeczywiście niezależne umysły. Otwiera się wtedy furtka dla całego szeregu programów, które mogą być kandydatami do generowania świadomego doświadczenia. Wyjście poza ten zakres jest sprawą otwartą, ale chiński pokój nie jest przeszkodą. Syntax and semantics Drugi argument, wysunięty przez Searle’a (1984), idzie jakoś tak: (a) Program komputerowy jest syntaktyczny; (b) Składnia nie jest wystarczająca dla semantyki; (c) Umysły mają semantykę, a więc (d) Realizacja programu jest niewystarczający dla umysłu Ponownie, jest to przedstawione jako argument przeciw intencjonalności, ale może być również traktowany jako argument przeciw świadomości. Dla Searle’a, centralny rodzaju intencjonalności to intencjonalność 3 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind fenomenalna, która jest nieodłączna od świadomości. Istnieją różne sposoby, za pomocą których ten argument może być interpretowany i krytykowany, ale głównym problemem jest to, że ten argument nie spełnia głównej roli w implementacji. Programy są abstrakcyjnymi obiektami obliczeniowymi i są czysto syntaktyczne. Oczywiście, nie każdy program jest kandydatem do posiadania umysłu. Realizacje programów, z drugiej strony, są konkretnymi systemami, a nie są czysto syntaktyczne. Searle mógłby argumentować, że istnieje umysł, w którym nawet implementacje są syntaktyczne, być może dlatego, że dynamika w implementacji jest określana przez formalne właściwości. Wszelkie znaczenia, w jakich implementacje są syntaktyczne tracą na znaczeniu, dlatego składnia nie jest wystarczająca dla semantyki. Chociaż może to być wiarygodne, że statyczne zestawy abstrakcyjnych symboli nie mają swoistych właściwości semantycznych, to jest znacznie mniej jasne, że formalnie określone przyczynowe procesy nie mogą dawać podstaw do powstania umysłu. Możemy sparodiować argument w następujący sposób: (1) Przepisy są syntaktyczne; // (2) Składnia nie jest wystarczająca dla opisania Crumblliness; // (3) Ciasto jest kruche, dlatego // (4) Realizacja przespiu jest niewystarczająca dla zrobienia ciasta. W tej formie ta wada jest natychmiast widoczna. Argument nie rozróżnia receptur, które są syntaktycznymi obiektami i implementacji receptur, które są fizycznymi systemami w rzeczywistym świecie. Ponownie, wszystko jest wykonywane przez związki implementujące, który odnoszą się do abstrakcyjnych i konkretnych dziedzin. Przepis określa klasy systemów fizycznych, które kwalifikują się do implementacji receptur, i to dokładnie tych systemów, które mają takie cechy jak crumbliness. Podobnie, program domyślnie określa klasę układów fizycznych, które kwalifikują się jako systemy implementacji programu, i to tych systemów, które dają podstawy do takich funkcji, jak umysły. A simulation is just a simulation Znanym kontrargumentem wobec sztucznej inteligencji (np. Searle 1980, Harnad 1989) jest to, że symulacja zjawiska nie jest tym samym co jego realizacja. Na przykład, podczas obliczeniowej symulacji trawienia żywność nie jest faktycznie trawiona. Symulowany huragan nie jest prawdziwym huraganem, gdy huragan jest symulowany na komputerze, nikt nie zostanie mokry. Gdy ciepło jest symulowane, nie jest wcale gorąco. Tak więc, gdy umysł jest symulowany, dlaczego mielibyśmy się spodziewać prawdziwego umysłu? Dlaczego oczekujemy, że w tym przypadku proces nie jest tylko symulacją, ale prawdziwą rzeczą? Jest niewątpliwie prawdą, że do replikacji wielu właściwości symulacja nie jest wystarczająca. Symulowane ciepło nie jest prawdziwym ciepłem. Z drugiej strony, w odniesieniu do niektórych właściwości, symulacja jest replikacją. Na przykład, symulacja systemu z przyczynową pętlą jest systemem z przyczynową pętlą. Pytanie więc brzmi: w jaki sposób odróżnić te rodzaje X, dla których symulacja X daje prawdziwy X, od tych, dla których tak nie jest? Sugeruję, że odpowiedź jest następująca: symulacja X jest X-em dokładnie wtedy, kiedy własność bycia X jest organizacyjnie niezmiennicza. Definicja organizacyjnej niezmienniczości jest taka, jak poprzednio: własność jest organizacyjnie niezmiennicza wtedy, kiedy zależy jedynie od funkcjonalnej organizacji układu, a nie od jego cech. Obliczeniowa symulacja układu fizycznego może zachowywać jego skrótową przyczynową organizację i zapewnić, by organizacja przyczynowa była replikowana w każdej realizacji, niezależnie od implementacji. Takie wdrażanie zreplikuje następnie wszelkie organizacyjne niezmienniki oryginalnego systemu, ale za to inne właściwości zostaną utracone. Własność bycia huraganem nie jest organizacyjnie niezmiennicza, gdyż zależy częściowo od nieorganizacyjnych właściwości, takich jak prędkość, kształt i budowa fizyczna systemu (system z takimi samymi przyczynowymi interakcjami, ale zachowujący się bardzo powoli, tak jak duży zestaw kul bilardowych, nie będzie huraganem). Podobnie, trawienie i ciepło zależy od aspektów fizycznych, które nie są całkowicie organizacyjne. Możemy stopniowo zastąpić składniki biologiczne w układzie pokarmowym, aby reakcje kwasowo-zasadowe były zastąpione przez izomoficzne interakcje między kawałki metalu, a nie będzie się to liczyć jako przykład trawienia. Tak więc nie powinniśmy spodziewać się, że symulacja systemu będzie podobna do tego systemu. Ale właściwości fenomenalne są inne. Jak stwierdziłem w rozdziale 7, te właściwości są organizacyjnie 4 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind niezmiennicze. Tak więc, symulacja systemu z fenomenalnymi właściwości będzie mieć fenomenalne właściwości oryginalnego systemu. Zasada organizacyjnej niezmienniczości sprawia, że świadomość różni się od wymienionych już własności i otwiera to drogę do silnego AI. Functional objections Skoncentrowałem się na najbardziej empirycznych zastrzeżeniach do zasady silnej sztucznej inteligencji, jako, że one są najbardziej istotne dla tematu tej książki, ale także wspomnę przynajmniej o niektórych funkcjonalnych zastrzeżeniach. Jak powiedziałem wcześniej, prima facie przeciw funkcjonalnym zastrzeżeniom do sztucznego świadomości jest silna: są powody, aby sądzić, że prawa fizyki, przynajmniej w postaci, które my obecnie znamy, są obliczalne, i że zachowanie człowieka jest konsekwencją praw fizycznych. Jeśli tak, to układ obliczeniowy może przynajmniej symulować ludzkie zachowanie. Zastrzeżenia są często gdzieś zgłaszane, dlatego będę o nich dyskutować krótko. Objections from rule-following Prawdopodobnie najstarszy funkcjonalne zarzut wobec AI jest taki, że systemy obliczeniowe zawsze kierują się zasadami, więc będą zawsze pozbawione niektórych właściwości ludzkiego poznania, takich jak kreatywność i elastyczność. To jest jedno z najsłabszych funkcjonalnych zastrzeżeń, które częściowo jest niejasne i niesprecyzowane. Rzeczywiście, można łatwo odpowiedzieć na poziomie neuronowym, że ludzki mózg może być dość mechaniczny i refleksyjny, ale nie jest to przeszkodą dla kreatywności i elastyczności na poziomie makroskopowym. Oczywiście przeciwnicy mogą zawsze zaprzeczyć tezie o mechanizmie na poziomie nerwowych, ale w każdym razie wydaje się, że nie ma dobrego argumentu dla tezy, że dynamika obliczeniowa na podstawowym poziomie przyczynowym jest niezgodna z kreatywnością i elastycznością na poziomie makroskopowym. Tego rodzaju sprzeciw mogą spowodować przejście?? z bezpośredniego określenia systemów obliczeniowych z symbolicznym systemem obliczeniowym: systemy, które wykonują symboliczne manipulacje na wysokim poziomie koncepcyjnej reprezenatcji; w skrajnym przypadku, systemy, które nieelastycznie wyciągają wnioski z przesłanek logiki pierwszego rzędu. Sprzeciw może być silny w takich przypadkach, ale mimo jest to kwestia sporna. Jednak w każdym przypadku klasa systemów obliczeniowych jest znacznie szersza niż w tym przypadku. Niskopozioma symulacja mózgu jest obliczeniowa, na przykład, ale nie są to obliczenia symboliczne. Na średnim poziomie modele koneksjonistyczne odwołują się do obliczeń, które nie są symboliczne. W tych przypadkach może być poziom, na którym system wykonuje polecenia, ale nie jest to bezpośrednio widoczne na poziomie zachowań; rzeczywiście, koneksjoniści twierdzą często, że to jest metoda przynoszenia wysokiego poziomu elastyczności z niskiego mechanicznego poziomu. Jak to Hofstadter (1979) powiedział: poziom, na którym myślę, nie musi być koniecznie tym poziomem, na którym sumuję. Objections from Gödel’s theorem Mówi się czasem, że twierdzenie Gödel’a pokazuje, że systemy obliczeniowe są ograniczone w taki sposób, w jaki nie są ludzie. Twierdzenie Gödel’a mówi nam, że dla odpowiednio dużego systemu formalnego, który zawiera pewnego rodzaju system arytmetyczny, będzie istniało zdanie, które nie będzie prawdziwe - zdanie Gödel’a - którego system nie będzie w stanie udowodnić. Ale my widzimy, że zdanie Gödel’a jest prawdziwe, jak to jest argumentowane dalej, więc mamy zdolności, których brakuje systemom formalnym. Wynika z tego, że żaden system formalny nie może dokładnie przejąć ludzkich możliwości. Krótką odpowiedzią na te argumenty jest taka, że nie ma powodu, aby sądzić, że ludzie nie mogą również zobaczyć prawdę odpowiednich zadań Gödel’a. Co najwyżej możemy powiedzieć, że jeśli system jest spójny, to jego zdanie Gödel’a jest prawdziwe, ale nie ma powodu, aby sądzić, że możemy określić spójność dowolnego systemu formalnego. Zachodzi to szczególnie w przypadku złożonych systemów formalnych, takich jak na przykład system, który symuluje ludzki mózgu: zadanie ustalenia, czy taki system jest spójny może być poza naszymi możliwościami. Dlatego może się zdarzyć, że każdy z nas jest symulowane przez złożony system formalny F , w którym nie można ustalić, czy F jest spójne. Jeśli tak, to nie będziemy w stanie zobaczyć prawdę o naszych własnych zdaniach Gödel’a. Objections from continuity and discreteness Zastrzeżenia powyższe są poważnymi argumentami na to, że poznawcza funkcjoność jest nieobliczalna. Można też spróbować ataku na AI z niższego poziomu, argumentując tym, że fizyczna funkcjoność nie jest obliczalna. Penrose (1994) na przykład twierdzi, że może istnieć nieobliczany element prawidłowej kwantowej teorii grawitacji. Niestety jego wszystkie dowody tego wniosku, polega na argumencie Gödel’a jak powyżej. Nie ma nic w teorii fizycznej na 5 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind poparcie tego wniosku, więc jeśli argument Gödel’a jest zły, wszelkie powody do wiary w niekomputacyjne prawa fizyczne znikają. Rzeczywiście, można argumentować, że każdy element w mózgu, taki jak na przykład neuron, ma tylko skończoną liczbę stanów, i biorąc pod uwagę, że istnieje tylko skończona liczba istotnych elementów w mózgu, to odpowiednie przyczynowe struktury mózgu musą być zawierać się w opisie obliczeniowym. Prowadzi to do ostatecznej sprzeczności, która polega na tym, że procesy mózgu musiały by być ciągłe, podczas gdy procesy obliczeniowe są dyskretne, i że ta ciągłość może być naszą przewagą nad dyskretnymi urządzeniami. Być może poprzez aproksymowanie neuronu przez element, który ma jedynie ograniczoną liczbę stanów, tracimy coś istotnego z ich funkcjonowania. Przeciwnik może odwołać się, na przykład na obecność ”wrażliwych zależności od warunków początkowych” w niektórych nieliniowych układach, co implikuje, że nawet mały błąd na jednym z etapów przetwarzania może prowadzić do poważnych różnic makroskopowych na późniejszych etapie. Jeśli przetwarzanie mózgu jest do tego podobne, to każda dyskretna symulacja mózgu da rezultaty, które różnią się od ciągłej rzeczywistości. Istnieje jednak dobry powód, aby sądzić, że ciągłość nie może mieć zasadniczego znaczenia dla naszych kompetencji poznawczych. Obecność szumu tła w układach biologicznych implikuje, że proces nie może przekroczyć pewnej ustalonej precyzji. Poza tym punktem (powiedzmy, że na poziomie 10−10 w odpowiedniej skali), niekontrolowane wahania szumu tła będą zaburzać wszelką dalszą precyzję. Oznacza to, że jeśli przybliżymy stan systemu do tego poziomu precyzji (może trochę dalej, dla bezpieczeństwa powiedzmy, ze na poziomie 10−20 ), to będziemy robić to, co również sam system mógłby samodzielnie zrobić. Prawdą jest, że ze względu na efekty nieliniowe, to przybliżenie może prowadzić do zachowań różniących się od zachowań produkowanych przez system w danym momencie, ale będą prowadzić do zachowań, że system mógłby wyprodukować, gdyby biologiczny szum był trochę inny. Możemy też przybliżyć sam proces szumu, jeżeli tego chcemy. Rezultatem będzie to, że symulowany układ będzie miał takie same możliwości jak oryginalny systemu, nawet jeśli produkuje różne specyficzne zachowania w szczególnych przypadkach. Morał jest taki, że gdy chodzi o duplikację naszych zdolności poznawczych, bliskie aproksymacje są tak dobre, jak w rzeczywiste przedmioty. Prawdą jest, że system z nieograniczoną precyzją może mieć zdolności poznawcze, których żaden dyskretny system nie mógłby mieć kiedykolwiek. Na przykład, można kodować analogowe dane odpowiadające liczbie rzeczywistej, której n-ta cyfra binarna jest 1 wtedy i tylko wtedy, gdy n-ta maszyna Turinga stoi na wszystkich wejściach. Używając tą wielkość, doskonale ciągły system mogłoby rozwiązać ten problem, coś czego nie jest w stanie zrobić system dyskretny. Jednak obecność szumu powoduje, że żaden biologiczny układ nie może korzystać z więcej niż skończonej precyzji, tak więc systemy te są ograniczone na równi z systemami dyskretnymi. Conclusion Wniosek jest taki, że nie ma w zasadzie żadnych barier dla sztucznej inteligencji. Funkcjonalne zastrzeżenia nie wydają się stawiać wiele oporu. Empiryczne sprzeciwy mogą być bardziej niepokojące, ale żaden z argumentów dla tych zastrzeżeń nie wydaje się być przekonujący w analizie; a nawet jeśli argumenty, które podałem w poprzednich rozdziałach są poprawne, mamy dobre powody by sądzić, że wdrożenie odpowiednich obliczeń przyniesie świadome doświadczenie wraz z nim. Tak więc perspektywy dla maszyn świadomych są dobre przynajmniej w teorii, jeśli nie w praktyce. Powiedziałem mało na temat sposobu obliczeń, jaki może wystarczyć do świadomego doświadczenia. W większości argumentów jako przykład korzystałem z symulacji mózgu typu neuron-neuron, ale jest prawdopodobne, że wiele innych rodzajów obliczeń może również wystarczyć do tego celu. Może się okazać, że obliczenia, które odzwierciedlają przyczynową organizację mózgu na tym poziomie mogą wystarczyć do powstania świadomego doświadczenia. Jest wielce prawdopodobne, że obliczenia w zupełnie innej formie, odpowiadające zupełnie innego rodzaju przyczynowej organizacji, mogą również prowadzić do bogatych świadomych doświadczeń. Obraz ten jest na przykład zgodny z podejściem symbolicznym i koneksjonistycznym do postrzegania, w przypadku innych metod obliczeniowych również. Rzeczywiście, można twierdzić, że rola obliczeń w badaniu poznania wynika ze sposobu, w jaki obliczenia mogą odtworzyć niemal każdy rodzaj przyczynowej organizacji. Widzimy obliczeniowe formalizmy jako idealny grunt do wyrażania wzorców przyczynowych organizacji, a nawet (w połączeniu z metodami implementcyjnymi) jako idealne narzędzie do replikacji. Jeśli nawet przyczynowa organizacja okazuje się być kluczem do poznania świadomości, możemy oczekiwać, że sposób obliczeniowy będzie w stanie to uchwycić. Można nawet twierdzić, że to jest ta właśnie elastyczność, która znajduje się często w cytowanej uniwersalności złożoności systemów. Zwolennicy 6 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind sztucznej inteligencji nie są zobowiązani do jednego rodzaju obliczeń jako tego, który może wystarczyć do stworzenia mentalności; teza AI jest tak wiarygodna właśnie dlatego, że klasa złożoności systemów jest tak szeroka. Tak więc pozostaje otwarte pytanie, jaki rodzaj obliczeń jest wystarczający do zreplikowania mentalności ludzkiej. Mamy dobry powód, by wierzyć, że ta klasa jest niepusta. Interpretation of Quantum Theory Na wstępie wytłumaczę pojecia użyte poniżej. • świat dyskretny, • podział i rozdział, • postulat pomiaru, • superpozycjonowany układ (system). Postulate further basic physical principles Zakładając, że prosta interpretacja postulatu pomiaru jest nie akceptowalna i nie może być wywnioskowana z istniejących fizycznych założeń, jest naturalnym, żeby założyć, że jest coś jeszcze. Może, jeśli założymy więcej zasad fizycznych, to będziemy w stanie wyjaśnić efektywność mechaniki kwantowej w mniej problematyczny sposób. Pierwszym sposobem jest zachowanie idei kolapsu funkcji falowej, ale wyjaśnić to inaczej. Taka strategia zakłada, że podstawowymi właściwości fizyczne są funkcje falowe, którymi rządzi równanie Schrödingera, ale wprowadza również nowe zasady, aby wyjaśnić, w jaki sposób mikroskopijne superpozycje zmieniają się w makroskopowe stany dyskretne. Najbardziej znanym przykładem tej strategii jest interpretacja ”GRW” przedstawiona przez Ghirardi, Rimini i Webera (1986; patrz również Bell 1987a). Ta interpretacja zakłada podstawowy postulat, zgodnie z którym wektor miejsca-stanu jakiejkolwiek cząstki elementarnej może ulec kolapsacji w każdej chwili, ale z bardzo małym prawdopodobieństwem (szansa, że cząstka ulegnie kolapsacji w danej sekundzie jest równe jak jeden do 1015 ). Kiedy taki kolaps nastąpi, prowadzi zwykle (przez efekt nieseparowalności) do kolapsu stanu układu makroskopowego, w którym się znajduje. Istnieje wiele takich cząsteczek w każdym makroskopopowym układzie, więc wynika stąd, że dany makroskopowy układ w danym momencie będzie zazwyczaj we względnym stanie dyskretnym. Alternatywą jest wyeliminowanie potrzeby kolapsu poprzez zaprzeczenie tezie, że podstawowy poziom rzeczywistości jest reprezentowany przez superpozycjonowaną funkcję falową. Jeśli właściwości, takie jak położenie ma zdeterminowane wartości już na poziomie podstawowym, to kolpas nie musi nastąpić. Taka teoria zakłada istnienie na poziomie podstawowym ”ukrytych zmiennych”, które bezpośrednio wyjaśniają dyskretność rzeczywistości na poziomie makroskopowym. Ceną tej uwagi jest to, że są potrzebne nowe zasady, aby wyjaśnić, dlaczego funkcje falowe ewolucji i kolpasu działają tak dobrze. Najbardziej widocznym przykładem jest teoria opracowana przez Bohma (1952). W tej teorii położenie cząstek elementarnych jest zawsze określone. Funkcja falowa zachowuje się jak pewnego rodzaju ”pilot”, który kieruje ewolucją położenia cząstki i jest określana przez równanie Schrödingera. Probabilistyczne przewidywania postulatu pomiaru są interpretowane jako prawa statystyczne. Okazuje się, że w tej teorii nigdy nie znasz dokładnie położenia cząstek przed pomiarem, ale tylko ich funkcję falową. Postulat pomiaru mówi nam jaka część cząstek z daną funkcją falową będzie się znajdować w danym miejscu. Dlatego, biorąc pod uwagę naszą niewiedzę, daje lepsze statystyczne prognozy niż moglibyśmy się spodziewać. Wszystkie propozycje z tej klasy mają problemy. Zarówno interpretacja GRW jaki i interpretacja Bohma nakładają specjalne warunki na dereterminowalność położenia, tym samym łamiąc zasadę symetrii między położeniem i dynamiką w mechanice kwantowej. Ma to sens w predykcji celów, ponieważ jest wytłumaczalne sądzić, że określanie położenia podkreśla zawsze nasze decyzje o determinowalności makroskopowej (pomyśl na przykład o pozycji wskaźnika), ale prowadzi do wygodniejszych teorii. Z podobnych powodów istnieją poważne trudności pogodzenia tych metod z teorią względności. W teorii GRW napotykamy dalsze trudności, być może, z których najpoważniejszym jest ta, że nie uzasadnia ona czy makroskopowy świat jest w ogóle dyskretny. Stany makroskopowe są nadal reprezentowane przez superpozycjonowaną funkcję falową: choć większość jej amplitudy jest skoncentrowana w jednym miejscu, amplituda jest niezerowa wszędzie tam, gdzie amplituda funkcji falowej (która nie uległa 7 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind kolapsacji) jest niezerowa. Tak więc pojawiają się problemy z superpozycją. Wskaźnik nadal wskazuje zbyt wiele wskazań, nawet po zakończeniu pomiaru. Prawdą jest, że amplitudy dla większości z tych położeń są bardzo małe, ale trudno zrozumieć, dlaczego superpozycja o niskiej amplitudzie jest bardziej akceptowalna niż ta o wysokiej amplitudzie. Teoria Bohma ma mniej problemów technicznych niż interpretacja GRW, ale za to ma pewne dziwne konsekwencje. Na przykład jest ona w bardzo dużym stopniu nielokalna. (Każda teoria zakładająca ukryte zmienne musi być nielokalna, ze względów podanych przez Bella 19643 ) Nie chodzi tylko o to, że właściwości cząstek mogą natychmiast wpływać na właściwości cząstek bardzo odległych. Okazuje się, że określa ona też trajektorię cząstek i przez to do obliczeń trzeba by uwzględniać cząstki z bardzo odległych galaktyk! Być może powodem, prze który trzeba być podejżliwym wobec tych teorii jest to, że przedkładają złożoność nad prostotę. Niezależnie od problemów, rachunek mechaniki kwantowej jest niezwykle prosty i elegancki. Te interpretacje, z drugiej strony, wprowadzają stosunkowo skomplikowane i doraźne kolejne zasady, żeby zastąpić i wyjaśnić jej prosty framework. Dotyczy to nieco mniej interpretacji GRW, która to wprowadza jedynie dwie nowe stałe i łamie symetrię między położeniem i pędem; ale trzeba też podkreślić, że jest ona niezwykle ”udana”, że wartości tych stałych prawie odtwarzają przewidywania standardowej teorii. Złożoność teorii Bohma jest gorsza: zakład adeterminowalność położenia i funkcji falowej, przez co funkcja falowa określa położenie cząstek i łamie symetrię oryginalnej teorii. Ktoś mógłby powiedzieć, że te interpretacje sprawiają wrażenie, jakby świat został skonstruowany przez złego demona Kartezjusza, ponieważ prowadzą do wniosku, że świat jest zbudowana w jeden sposób, podczas gdy tak naprawdę jest w zupełnie inny. Jak to zauważyli Albert i Loewer (1989) mówiąc, że Bóg u Bohma nie gra w kości, ale ma złośliwe poczucie humoru. Scenariusz, w którym złożona teoria Bohma odtwarza przewidywania prostych teorii różni się niewiele od przypadku, w którym wejścia mózgu są manipulowane, aby wyprodukować wygląd zewnętrznego świata. To przypomina ”interpretację” teorii ewolucji, zgodnie z którą Bóg stworzył pokłady kopalne kilka tysięcy lat temu i zapewnił, że przewidywania teorii ewolucji zachodziły. Prostota wyjaśnienia została poświęcona na rzecz złożonej hipotezy, że da się odtworzyć oryginalne wyniki teorii. Framework mechaniki kwantowej jest tak prosty i elegancki, że każda podstawowa teoria, która nie powtarza tej prostoty i elegancji nigdy nie może być w pełni satysfakcjonująca lub prawdopodobna. Jeśli było kilka nieprawidłowości w kwantowej teorii, których wyników eksperymentalne nie przewiduje ona w pełni, to było by uzasadnione, aby myśleć, że ta prostota jest tylko czubkiem góry lodowej całej złożoności. W obecnej formie, jest tak solidna, że wydaje się nadzwyczajna, i musimy zakładać złożone założenia, aby wyjaśnić jej proste przewidywania. Ze względu na problemy każdej interpretacji mechaniki kwantowej, wszystkie te interpretacje należy traktować poważnie. Naturalnym jest jednak szukać prostszego obrazu świata. The Schrödinger equation is all Równanie Schrödingera jest obecne w takiej czy innej formie we wszystkich interpretacjach mechaniki kwantowej. Różne interpretacje, które rozważaliśmy dodają coś do równania Schrödingera, w celu wyjaśnienia makroskopowej dyskretności świata. Jednak najprostszym nawet interpretacjom daleko jest do stwierdzenia, że równanie Schrödingera zachodzi i to już wystarczy. Oznacza ono jedynie, że stan fizyczny świata jest całkowicie opisany przez funkcję falową, a jego ewolucja jest opisana przez równanie Schrödingera. To jest jedna z wersji interpretacji Everetta (1957; 1973). The Everett interpretation Sercem mechaniki kwantowej jest równanie Schrödingera. Jeśli jednak ono jest wszystkim, to świat jest superpozycjonowany na każdym poziomie. Nie wygląda jednak na to: nigdy nie postrzegamy strzałek w superpozycji. Dlaczego? Na pierwszy rzut oka teoria ta wydaje się być sprzeczna z ludzką intuicją. Zgodnie z nią nie tylko stan pojedynczego elektronu jest w superpozycji stanów, ale także dwa przeciwne wskaźniki. Oznaczało by to, że nie jest prawdą, że strzałka wskazuje dół albo górę. Jest raczej w superpozycji stanów ”w górę”, ”w dół”. To samo tyczy się makroskopowych stanów wszystkiego, czego stan opisuje funkcja falowa, a który nigdy nie będzie dyskretnym stanem. Dlaczego więc świat wydaje się być dyskretny? 3 Twierdzenie Bella - Żadna teoria zmiennych ukrytych zgodna z teorią względności nie może opisać wszystkich zjawisk mechaniki kwantowej. 8 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind Everett odpowiada na to pytanie rozszerzając zasadę superpozycji na umysł. Jeśli wskaźnik mierzy elektron w superpozycji stanów, mózg osoby percepującej ten wskaźnik również będzie w superpozycji. Stan mózgu będzie opisany jako złożenie stanów: jednego percepującego wskaźnik wskazujący ”w górę” i jednego percepującego wskaźnik wskazujący ”w dół”. Głównym posunięciem Everetta było tutaj założenie, że każdy z tych dwóch stanów powinien być powiązany z oddzielnym obserwatorem. Po takim pomiarze ”wyprodukowani” są dwaj obserwatorzy. Jeden z nich odbiera wskaźnik do góry, a jeden na dół. Wtedy każdy z nich postrzega dyskretny stan świata. Everett idzie nawet dalej poza te ramy uważając, że obserwatorzy nie mają dostępu do innych stanów, dlatego superpozycja umysłu nie może być zdradzona w żadnym pojedynczym stanie. Można pokazać, że jeśli jeden obserwator dokonuje jednego pomiaru, inny robi to samo, więc świat jest jakoś spójny. Nie należy mylić tej interpretacji z teorią rozdzielających się wszechświatów (ang. splitting-worlds), zgodnie z którą świat dosłownie rozdziela się na wiele oddzielnych światów kiedykolwiek następuje jakiś pomiar. W jednym z tych wszechświatów wskaźnik pokazuje ”w górę”, a w zupełnie innym - ”w dół”. Dalekie jest to od prawdy. Nie jest jasnym kiedy rozdział powinien nastąpić (kolejny problem pomiaru) i nie jest jasnym jakie powinny być te rozdzielone wszechświaty. Ponadto, żeby dokonać tego podziału funkcja falowa powinna podzielić się na czynniki, ale jest wiele sposobów aby dokonać dekompozycji (w mechanice kwantowej nie ma uprzywilejowanej bazy). Nie ma obiektywnego ”podziału”. Przeciwnie, funkcja falowa ewoluuje w superpozycję stanów, gdzie stany te są rozpatrywane jako składniki jednego świata. Punkt widzenia Everetta jest czasem nazywany teorią wielu światów (ang. Many Worlds) (co sugeruje, rozbicie świata), ale to co dyskutuje Chalmers powinno być bardziej nazwane One-Big-World. Istnieje tylko jeden świat, ale jest w nim więcej niż moglibyśmy pomyśleć. Taki pogląd często był przypisywany Everettowi, ale nie można go znaleźć w żadnym z jego pism. Widzieliśmy więc, że jeśli są jakieś podziały to tylko w umysłach obserwatorów. Gdy działa zasada superpozycji i wpływa na stanu mózgu, powoduje to powstanie szeregu oddzielnych umysłów, odpowiadającym poszczególnym składowym superpozycji. Każdy z nich postrzega odrębny dyskretny świat, odpowiednio do części postrzeganego przez nas świata (nazwijmy go za Chalmersem miniworld, w przeciwieństwie do maxiworld). W rzeczywistym świecie maxiworld i miniworlds są jedynie w umysłach obserwatorów. Everett nazywa to interpretacją relative-state: w stanie miniworld, w którym wskaźniki wskazują na dyskretne miejsca, liczy się tylko stan świata względem wyspecyfikowanego obserwatora. Obiektywnym stanem świata jest superpozycja. Kluczowy element pozostaje jednak nie przeanalizowany w tej interpretacji. Dlaczego jest uzasadnione identyfikowanie każdej składowej stanu mózgu z oddzielnym obserwatorem? Dlaczego nie ma zamiast tego jednego obserwatora z superpozycjonowanym stanem umysłu? Dlaczego rzeczywiście niespójny stan mózgu powoduje powstanie jakichkolwiek umysłów? Wywód Everetta omija te przeszkody w tych kluczowych kwestiach. Rzeczywiście, może się wydawać, że łącząc funkcję falową z stanem mózgu wielu umysłów, z których każdy postrzega oddzielny dyskretny stan, Everett czyni uzasadnionym odwołanie się do wybranej bazy, tak jak robiła to teoria podziałów. Funkcja falowa nie pochodzi z obiektywnego podziału na czynniki, ale może być rozłożona na wiele sposobów, w zależności od wyboru bazy przestrzeni wektorowej. Naturalnym jest często dla naszych celów rozłożyć funkcję falową na jeden ze sposobów, ze względu na jedną bazę, ale takiego rozkładu nie odzwierciedlają obiektywne własności funkcji falowej. Jeżeli stan mózgu może być rozłożony na ”postrzeganie do góry” i ”postrzeganie na dół”, może też być rozłożony na dwa dowolne dowolne stany o przeciwnych wskazaniach. Zasadniczym elementem pominiętym przez Everetta jest analiza relacji pomiędzy umysłem i ciałem (the mind/body problem). Everett zakłada, że mózg w superpozycji stanów będzie miał wiele odrębnych doświadczeń związanych z nim, ale nie robi on nic by uzasadnić to założenie. Oczywiste jest, że ta kwestia zależy w dużej mierze na teorii świadomości. Podobne sugestie są podawane przez Penrose’a. Za najważniejsze pytanie w mechanice kwantowej można uznać problem relacji między procesami fizycznymi a doświadczeniem. W centrum mechaniki kwantowej jest rzeczywistość, której mikroskopowe zachowanie jest opisane przez funkcję falowa w superpozycji ewoluującą zgodnie z równaniem Schrödingera. Ale my doświadczenia świata jako dyskretnego. Centralne pytanie brzmi: jak to możliwe? Różne interpretacje dają różne odpowiedzi. Niektóre (np. Bohm) zaprzeczają pierwszemu założeniu, że rzeczywistość jest złożeniem dyskretnych stanów nawet na poziomie podstawowym. Niektóre teorie starają się wyjaśnić, w jaki sposób superpozycjonowany mikroskopowy świat jest w stanie statystycznie wytwarzać dyskretne makroskopowe stany rzeczywistości. 9 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind Alternatywna strategia ma odpowiedzieć na pytanie o doświadczenie bezpośrednio. Jeśli potraktujemy poważnie równanie Schrödingera, główne pytanie brzmi: dlaczego struktura fizyczna świata jest właśnie taka, dlaczego doświadczamy jej właśnie tak? Jest to pytanie o sposób jak niektóre struktury fizyczne powodują doświadczenia. Jeśli chcielibyśmy, żeby teoria świadomości odpowiedziała na te pytania, interpretacja Everetta będzie mocno zredukowana. Jeśli niezależnie od motywacji teoria świadomości ma odpowiedzieć na to pytanie, wówczas interpretacja Everett zaczyna wyglądać rzeczywiście atrakcyjne. Teoria świadomości, którą poleca Chalmers może odpowiedzieć na to pytanie, oraz potrafi dać dobrą odpowiedź (tak on twierdzi). Okazuje się, że teoria ta przewiduje, że mózg będący w superpozycji stanów jest stowarzyszony z wieloma obiektami dyskretnymi. Aby to zobaczyć niech maksymalny fenomenalny stan będzie stanem fenomenalnym, który cechuje całe doświadczenie w danym czasie. Niech maksymalny stan fizyczny będzie stanem fizycznym, takim że w pełni charakteryzuje swoistość fizycznego stanu układu w danym momencie. Aby dojść do konkluzji, wystarczy pokazać następujące twierdzenie: Jeśli teoria przewiduje, że układ w maksymalnym stanie fizycznym P powoduje powstanie sprzężonego maksymalnego fenomenalnego stanu E, wówczas teoria przewiduje, że układ w superpozycji P z pewnymi ortogonalnymi fizycznymi stanami powoduje również E. Jeśli ten warunek zachodzi, to superpozycja ortogonalnych fizycznych stanów spowoduje wystąpienie co najmniej tych maksymalnych stanów fenomenalych, do których doprowadziły by wcześniejsze stany fizyczne osobno. To jest właśnie to czego potrzebowała interpretacja Everetta. Jeśli mózg jest w superpozycji stanów ”postrzegania w górę” i ”postrzegania w dół”, to będzie prowadził do co najmniej dwóch doświadczeń, gdzie jedno jest doświadczeniem oznaczającym wskaźnik wskazujący ”w górę”, a drugie wskaźnik wskazujący ”w dół”. To samo będzie zachodzić w ogólnym przypadku. Superpozycja będzie prowadzić do układu doświadczeń. Musimy więc dowieść, że teoria przedstawiona powyżej w zarysie zakłada powyższy warunek. Najprostszym sposobem, aby to zobaczyć jest odwołanie się do twierdzenia, że świadomość wynika z realizacji (implementacji) odpowiednich obliczeń. Aby skorzystać z tego by udowodnić powyższe, musimy stwierdzić, że jeśli obliczenia są wykonywane przez układ, w maksymalnym fizycznym stanie P , to również są realizowane przez układ w superpozycji P z ortogonalnymi fizycznymi stanami. W związku z tym należy przyjąć, że oryginalny układ (w maksymalnym stanie fizycznym P ) implementuje obliczenie C. Oznacza to, że istnieje funkcja między fizycznymi podstanami z układu do formalnych podstanów C taka, że przyczynowe relacje między fizycznymi podstanami odpowiadają formalnym relacjom między formalnymi podstanami. Pewna wersja tego samego odwzorowania będzie również realizować C w układzie w superpozycji. Dla danego podstanu S pierwotnego systemu, możemy znaleźć odpowiedni podstan S 0 z systemu w superpozycji poprzez oczywiste rzutowanie: układ w superpozycji jest w stanie S, o ile układ uzyskany przez rzutowanie go na hiperpłaszczyznę P jest w S. Ponieważ system jest superpozycją P z ortogonalnymi stanami, wynika stąd, że jeśli początkowy system jest w stanie S, to superpozycjonowamny system jest w S 0 . Ponieważ równanie Schrödingera jest liniowe, to wynika wynika stąd, że przekształcenie stanów między postanami S dokładnie odzwierciedla relacje między podstanami S 0 . Wiemy, że relacje te z kolei dokładnie odzwierciedlają formalne relacje między podstanami C. Wynika z tego, że system w superpozycji realizuje C, co dowodzi twierdzenia. Według zasady organizacyjnej niezmienniczości, jeżeli pierwotny system powoduje doświadczenie podmiotu, system superpozycjonowany będzie powodował nierozpoznawalne od poprzedniego doświadczenie podmiotu. Oznacza to, że jedynymi fizycznymi podstawami potrzebnymi z mechaniki kwantowej są równanie Schrödingera oraz postulat pomiaru. Innych zasad w tej interpretacji nie trzeba. Objections to the Everett interpretation Objections based on “splitting” Wiele obiekcji wynika z niezrozumienia i nadinterpretacji teorii Everetta jako dzielącego się wszechświata. Jest to niezrozumienie wynikłe z nazwy teorii. Bell twierdził, że nie wie kiedy następuje rozgałęzienie (branching) - niejasny jest też wybór bazy w dzielącym się wszechświecie. Dziś już wiemy, że nie ma czegoś takiego jak rozgałęzienie i nie ma preferowanej bazy. Healey twierdził, że kreacja nowych światów przeczy zasadzie zachowania masy i energii. 10 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind Objections to a preferred basis Jedna z obiekcji wynika z tego, że teoria ta potrzebuje uprzywilejowanej bazy przestrzeni. W szczególności mamy pytanie: dlaczego istnieją tylko te umysły, które są połączone z mózgiem w superpozycji korespondującej do jego rozkładu w pewnej ustalonej bazie? Dlaczego nie ma innych mózgów, które pochodziły by z innych rozkładów lub superpozycji stanu jako całości? Są to zastrzeżenia do pierwotnej teorii Everetta, która wymaga takiej kanonicznej dekompozycji. Nie ma takich zastrzeżeń w stosunku do interpretacji podanej przez Chalmersa, ponieważ ona wymaga jedynie, żeby superpozycja istniała w stowarzyszonych obiektach pochodzących z dyskretnej obserwacji bez potrzeby postulowania istnienia szczególnej bazy. Nie potrzeba też zakładać, że są to jedyne umysły, do których prowadzi superpozycjonowany układ. What about superposed minds? Powstaje pytanie: czy istnieją inne umysły związane w superpozycji? Odpowiedź brzmi: ”być może”. Być może istnieją umysły związane z innymi rozkładami systemu. Być może istnieje duży superpozycjonowany umysł związany z superpozycją całego układu. Istnienie takich umysłów zależy od szczegółów teorii świadomości, ale trudno jest je sprawdzić. Można stawiać zarzuty wobec tej teorii. Obiekcja: Dlaczego mój umysł nie jest w superpozycji? Odpowiedź: Ponieważ jestem kim jestem. Teoria przewiduje, że niesuperpozycjonowane umysły istnieją, i mój umysł jest jednym z nich. Odpowiedź na pytanie dlaczego mój umysł nie jest jednym z wyjściowych umysłów jest tak prosto jak odpowiedzieć na pytanie, dlaczego nie jestem myszą. To jest po prostu brutalne zabezpieczenie mojego istnienia. Umysł myszy istnieje oraz superposed umysły mogą istnieć, ale mój nie jednym z nich. Obiekcja: Dlaczego nie mam dostępu do superposed umysłów, takich jak wspomnienia superposed doświadczeń? Odpowiedź: teoria przewiduje, że w dyskretnych umysłach pytanie o doświadczenie świata jako całości jest dyskretne i oni nie będą mieli bezpośredniego dostępu do innych części w superpozycji. Wszystkie swoje wspomnienia będą dyskretne. Jest wątpliwym twierdzić, że tylko pewne umysły związane z superposed system są znanymi przykładami dyskretnych umysłów. Te umysły są skomplikowane i spójne z doświadczeniem odzwierciedlającym strukturę ich racjonalnych procesów wewnętrznych. W racjonalnych układach struktury kognitywne mogą zostać znalezione tylko w składowych tych preferowanych rozkładów i tylko te będą prowadzić do złożonych, spójnych umysłów. Wszystkie inne podmioty poznania w układzie nie będą klasyfikowały się jako osoby. Objections based on personal identity Istnieją pewne obawy oparte na tożsamości obserwatora. Weźmy mój umysł i przypomnijmy sobie co robiłem wczoraj. Dziś istnieje już wiele umysłów, które rozgałęziły się z pierwotnego. Mój umysł jest tylko jednym z nich. Dlaczego więc jestem tutaj a nie w innych rozgałęzieniach? Dlaczego poczucie mnie nie rozgałęziło się na inne ścieżki? Mój umysł jest właśnie ten, który się do was zwraca. Musi istnieć jakieś głębsze wytłumaczenie, że mój umysł wyewoluował do mojego umysłu dzisiaj, a nie do innego. Z obiektywnego punktu widzenia nie ma nic uprzywilejowanego w tej gałęzi. Wszystkie umysły są równo uprawnione. Wszystkie z nich niosą ze sobą mnie w tej samej ilości. Tylko z punktu, z którego patrzę wydawać mogło by mi się, że jest to jakoś bardziej uprzywilejowane, ale oczywiście inni ”JA” myślą tak samo. Mój umysł jest raczej tutaj niż tam. Jest to zastanawiające, ale raczej nie ma asymetrii we wszechświecie. Jeśli tam gdzieś jest wiele umysłów pochodzących od mojego obecnego stanu musi być jakiś sposób aby stwierdzić, którym z nich tak naprawdę jestem Ja. Istnieje pewna krytyka tego stanowiska dokonana przez Parfita. Jeśli założyć, że jego wnioski są prawdziwe, to każdy z jutrzejszym umysłów jest równie prawdopodobny by być mną i nie można ich odróżnić. The interpretation of probabilities Najbardziej znaczącą obiekcją wobec interpretacji Everetta jest to, że trudno uwierzyć w prawdopodobieństwa, które wynikają z postulatu pomiaru. Przypomnijmy, że postulat ten mówi nam, że wśród wszystkich pomiarów będzie istniało prawdopodobieństwo 0,9 znalezienia wskaźnika ”w górę” i 0,1 znalezienia wskaźnika ”w dół”. Zgodnie z interpretacją Everetta, zarówno wskaźnik i stan mózgu obserwatora przejdą w stan superpozycji, w wyniku czego powstaną co najmniej 11 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind dwa podmioty doświadczeń. Jeden z nich ma doświadczenie wskaźnika wskazującego ”w górę”, a drugi doświadczenie wskaźnika wskazującego ”w dół”. Dokładnie tak samo byłoby, gdyby prawdopodobieństwo było 50-50. Prawdą jest, że w przypadku 90-10 większa cześć amplitudy superpozycjonowanej funkcji falowej jest skoncentrowana w wokół stanu mózgu ”w górę”, ale co to ma wspólnego z prawdopodobieństwem? Everett zajmuje się kwestią przeniesienia miary na przestrzeń obserwatorów, odpowiadających prawdopodobieństwom wynikłym z postulatu pomiaru (tj. odpowiadającym kwadratom amplitudy odpowiedniej części funkcji falowej). Twierdzi on, że w granicy większość obserwatorów (czyli podzbiór obserwatorów miary jeden) będzie miał wspomnienia z obserwacji, które zgadzają się z z częstotliwościami przewidywaniami przez prawdopodobieństwo w postulacie pomiaru. Na przykład, wśród obserwatorów, którzy dokonali wiele razy pomiaru jak powyżej, większość z nich będzie pamiętać znalezienie wskaźnika ”w górę” przez 90 procent czasu i wskaźnika ”w dół” 10 procent czasu. Dlatego powstaje pytanie o znalezienie tych prawdopodobieństw. Powstaje kolejne pytanie, jednak: co uzasadnia użycie miary na przestrzeni obserwatorów? Jeżeli zmierzymy przestrzeń inaczej, może powstać wiele innych prawdopodobieństw. Na przykład, jeśli mamy przypisane równe miary za każdym razem, gdy dwaj obserwatorzy powstają z superpozycji (niezależnie od amplitudy), wtedy większość obserwatorów będzie rejestrowało ”w górę” - ”w dół” w stosunku 50-50. Ani równanie Schrödingera, ani żadne prawo psychofizyczne nie gwarantuje, że jakaś z tych miar jest ”poprawna”. Albert i Loewer (1988) próbowali odpowiedzieć na to zastrzeżenie poprzez usunięcie miar. Zamiast tego postulują bardziej radykalną zasadę psychofizyczną, zgodnie z którą istnieje nieskończenie wiele umysłów związanych z każdym stanem mózgu. Dla każdego umysłu postulowanego przez poprzednie punkty widzenia, teoria ta zakłada nieskończony zespół jakościowo identycznych umysłów. Ponadto, gdziekolwiek teoria Everetta przewiduje, że umysł rozpadnie się na dwa różne umysły, teoria ta mówi, że umysł pójdzie w jednym kierunku lub innym, z prawdopodobieństwem danym przez postulat pomiaru. Zatem, jeśli weźmiemy dowolny umysł związany z mózgiem w danym stanie przed pomiarem jak wyżej, to będzie miał 90 procentowe prawdopodobieństwo, że wyewoluuje w stan ”postrzegania w górę” i 10 procentowe szanse, że wyewoluuje w stan ”postrzegania w dół”. W ten sposób probabilistyczne przewidywania mechaniki kwantowej są zachowane. Istnieje tutaj wyraźna utrata prostoty. Nowe prawa psychofizyczne nie mają niezależnych motywacji, a teoria potrzebuje nowych praw wewnątrz-psychicznych (ang. intra-psychic) regulujących ewolucję umysłów. Zakładając te doraźne postulaty, teoria traci niektóre kluczowe cechy z interpretacji Everetta. Należy też uznać, że wewnątrz-psychiczne prawa są problematyczne, w tym sensie, że postulują głębokie nieredukowalne fakty dotyczące tożsamości w czasie. Nie wiadomo, co zrobić z tymi faktami. Przyjęcie ich wymagałoby na przykład usunięcia analizy tożsamości Parfita. Nie dochodzą oni w naturalny sposób do fizycznych faktów, a więc komplikują metafizyczny portret. Taka interpretacja powinna być potraktowana jako prawdopodobna, ale trzeba pamiętać, że niesie za sobą znaczne koszty. Alternatywą jest praca bez dodatkowej aparatury i sprawdzenie, czy prawdopodobieństwa mogą być uzyskane w inny sposób. Dlaczego ze wszystkich miejsc, gdzie mogła zatrzymać się funkcja falowa, stanęła właśnie w miejscu gdzie moje wspomnienia odpowiadają przewidywaniom rachunku? Jedną z możliwości jest przyjęcia faktu: niektóre umysły są w tym rejonie, a ja jestem jednym z nich. Wydaje się to niesatysfakcjonujące, że zadziwiające prawidłowości rachunku okazują się być olbrzymim fuksem. Co potrzebujemy, aby stwierdzić, że to nie był żaden fuks? Nawet jeśli był to szczęśliwy traf, że zakończyło się to właśnie tutaj, wniosek jaki stąd wynika jest taki, że istnieją pewnego rodzaju miary na przestrzeni umysłów. Sugestia jest taka, że stanowczo bardziej prawdopodobne jest, że powinienem skończyć jako pewien umysł bardziej niż inny ze uwagi na względną wielkość tych klas. Tego rodzaju miara jest obecna w naszym pojmowaniu świata. Kiedy rozumuję indukcyjnie z pewnych założeń do innych, wiem, że dla niektórych obserwatorów w podobnym położeniu te wnioski nie zachodzą, ale zakładam, że dla większości takich obserwatorów zachodzić to będzie, nawet jeśli jest nieskończenie wiele tych klas. To znaczy, zakładam, że jest bardziej prawdopodobne, że znajdę się w tej klasie, a nie innej. Tego rodzaju rozumowanie domyślnie zakłada istnienie pewnej miary na przestrzeni umysłów. Być może będziemy mogli uzasadnić prawdopodobieństwa poprzez bezpośrednie wprowadzenie takiej miary. Oczywiście większość amplitudy funkcja falowej jest skoncentrowana w obszarach, gdzie pamięć obserwatorów zgadza się z przewidywaniami obliczeń. Może jest bardziej prawdopodobne, że mój umysł jest w obszarze o dużej amplitudzie niż w obszarze o niskiej amplitudzie. W szczególności, jeśli zakłada- 12 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind my, że prawdopodobieństwo, że okażę się być pewnym umysłem (a nie innym), jest proporcjonalne do kwadratu amplitudy związanej z tym zdarzeniem części funkcji falowej, to okaże się, że mam wspomnienia z częstotliwością zgodną z przewidywaniami obliczeń mechaniki kwantowej. Pytanie brzmi: czemu obiektywnie odpowiada ta miara? Czy zależy ona od rozkładu jednostek? Czy może być w jakiś sposób uzasadniona jako miara kanoniczna na tej przestrzeni? Są to trudne pytania, które są ściśle związane z tajemnicą indexicality4 - dlaczego jestem bardziej tą osobą, a nie inną? Jest to jedna z podstawowych tajemnice i nie bardzo jest jasne jak należy odpowiedzieć. Niemniej jednak, idea miary na przestrzeni umysłów wydaje się dawać nadzieję i może być potrzebna do innych celów, takich jak uzasadnienie indukcji. Tymczasem interpretacja prawdopodobieństwa pozostaje jedną z największych trudności w teorii Everetta. Conclusion Trzeba przyznać, że interpretacja Everetta jest zbyt mało prawdopodobna, aby w nią uwierzyć. Zakłada, że jest znacznie więcej w świecie niż moglibyśmy uwierzyć. Zgodnie z nią, świat jest tak naprawdę w wielkiej superpozycji stanów, które ewoluują w odmienny sposób od początku czasu, a my doświadczamy tylko małych podstanów tego świata. Zakłada też, że moja przyszłość nie jest określona: w ciągu minuty utworzy się wielka liczba umysłów, które mają równie prawa, aby rościć sobie, że są mną. Tymaczasem minuta upłynęła zanim napisałem te zdanie. Kto wie co te wszystkie inne umysły robią teraz? Z drugiej strony, oczywiste jest, że obecnie wszystkie interpretacje mechaniki kwantowej mają pewnego rodzaju wady. To jest podstawowy paradoks mechaniki kwantowej. Trzema wiodącymi interpretacjami są prawdopodobnie interpretacja Wignera, w którym świadomość powoduje załamanie, nielokalna interpretacja ukrytych zmiennych Bohma i interpretacja Everetta. Spośród nich, interpretacja Wignera twierdzi, że obiekty makroskopowe są często w superpozycji stanów, dopóki działanie obserwatora nie spowoduje kolapsu. Interpretacja Bohma mówi, że trajektoria każdej cząstki we Wszechświecie zależy od stanu wszystkich innych. Interpretacja Everetta mówi, że jest znacznie więcej na świecie niż można by pomyśleć. Spośród nich, być może punkt widzenia Bohma jest najmniej szalony, najbardziej szalona jest Everetta, a Wigner pośrodku. Porządek przydatności teoretycznej jest odwrotny. Bohm jest niesatysfakcjonujący, ze względu na swoją złożoność. Wigner jest dość elegancki, odzwierciedlając dwa podstawowe prawa dynamiczne mechaniki kwantowej. Ale Everett jest zdecydowanie najprostszy. Zakłada tylko równanie Schrödingera, które jest akceptowane przez wszystkie interpretacje mechaniki kwantowej. Ma również zaletę bycia całkowicie lokalną teorią i jest całkowicie zgodny z teorią względności, plusów, których brak innym interpretacjom. Warto również zauważyć, że pozostałe dwie interpretacje zawierają elementy, które nie są intuicyjne w stosunku do interpretacji Everetta. U Wignera musimy zaakceptować, że wszechświat ewoluował w zgodzie z superpozycjami Everetta - może z superposed gwiazd i superposed skał, jeśli nie z superposed kotów, przynajmniej do czasu pierwszego świadomego podmiotu ewoluowały do załamania funkcji falowej. U Bohma z kolei, nieskolapsowana funkcja falowa Everetta nadal jest obecna jako ”pilot”, który kieruje pozycjami poszczególnych cząsteczek. Wszystkie struktury, które są obecne w innych komponentach pozostają obecne w stanie świata, chociaż większość z nich nie ma znaczenia dla ewolucji cząsteczek. Biorąc pod uwagę, że te poglądy, również wymagają nieskolapsowanej funkcji falowej w głównej roli, można argumentować, że względna nieprzyjemność z punktem widzenia Everetta jest zmniejszona. Oczywiście, zawsze istnieje możliwość, że nowa teoria może może przewyższyć wiarygodność i piękno teoretyczne pozostałych, ale nie wydaje się to szczególnie prawdopodobne. Zupełny brak anomalii doświadczalnych sugeruje, że mechanika kwantowa pozostanie na swoim miejscu jako najlepsza teoria predykcyjna. Jeśli tak, to nie można oczekiwać zmian empirycznych rozwiązania problemu. Być może koncepcyjny rozwój może doprowadzić do nowych i ulepszonych interpretacji, ale może się też zdarzyć, że obecnie najbardziej obiecujące nisze koncepcyjne są już wykorzystane. Z tych opcji, interpretacja Everetta wydaje się z wielu powodów najbardziej atrakcyjna, ale jednocześnie jest najtrudniejsza do przyjęcia. Zasugerowałem kilka sprzecznych z intuicją poglądów w tej teorii. Opierałem się przez dualizmem mind/body przez długi czas, ale doszedłem teraz do punktu, gdzie zaakceptuję go, nie tylko jako jedyny rozsądny punkt widzenia, ale jako satyfsakcjonujący punkt widzenia na swoich własnych prawach. Jest możliwe, że mylę się, lub, że jest nowe i radykalne rozwiązanie, które zostało przeoczone, ale moim 4 Indeksalność - w lingwistyce i filozofii języka, zachowanie indeksalne lub wypowiedź wskazują (lub indeksują) niektóre stany rzeczy. 13 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind zdaniem jest bardzo prawdopodobne, że dualizm jest prawdziwy. Zastrzegłem również możliwość pewnego rodzaju panpsychismu5 . Podobnie jak dualizm mind/body, on też początkowo jest sprzeczny z intuicją, ale ta sprzeczność zniknie z czasem. Jestem pewien, nieważne czy ten punkt widzenia jest prawdziwy czy nie, ale jest najmniej atrakcyjny intelektualnie i jest za mało szalony do przyjęcia. Szaleństwo interpretacji Everetta jest innego rzędu. Uważam to zdecydowanie za jedno z najbardziej atrakcyjnych intelektualnie wśród różnych interpretacji mechaniki kwantowej, ale wyznam, że nie mogę w nie w pełni uwierzyć. Jeżeli Bóg zmusiłby mnie do postawienia swojego życia na prawdę lub fałsz doktryn, które przedstawiłem, powiedziałbym odważnie, że doświadczenie jest najważniejsze i mniej odważnie, że doświadczenie jest wszechobecne. Ale w sprawie interpretacji Everetta być może nie byłbym na tyle odważny, aby postawić na nią. Być może jest ona po prostu zbyt dziwna by w nią uwierzyć. Nadal nie jest jasne jak dużo wagi powinniśmy przykładać do tych intuicyjnych wątpliwości w ostatecznym rozrachunku. Punkt widzenia jest prosty i elegancki, przewiduje, że są obserwatorzy, którzy widzą świat tak jak go widzę. Czy to nie wystarczy? Możemy nie być w stanie zaakceptować ten pogląd emocjonalnie, ale powinniśmy przynajmniej podjąć starania, żeby uznać, że to prawda. Bibliography • D. Albert, B. Loewer, Interpreting the many-worlds interpretation, Synthese 77:195-213, 1988 • D. Albert, D., B. Loewer, Two no-collapse interpretations of quantum mechanics, Nous 23:169-86, 1989 • J. S. Bell, On the Einstein-Podolsky-Rosen paradox, Physics 1:195-200. Reprinted in Bell 1987b, 1964 • J. S. Bell, Are there quantum jumps? In Schrodinger: Centenary of a Polymath, Cambridge, UK: Cambridge University Press, 1987a • D. Bohm, A suggested interpretation of quantum mechanics in terms of hidden variables, parts I and II, Physical Review 85:166-93, 1952 • D. J. Chalmers, The conscious mind, 1996 • T. Ciecierski, David Chalmers ’The Conscious Mind’, Przegląd Filozoficzny, 1 (33), 2000 • F. H. C. Crick, The Astonishing Hypothesis: The Scientific Search for the Soul, New York: Scribners, 1994 • H. Everett, Relative-state formulations of quantum mechanics, Reviews of Modern Physics 29: 45462, 1957. Reprinted in Wheeler and Zurek 1983 • H. Everett, The theory of the universal wave function, In (B.S. deWitt & N. Graham, eds.) The Many-Worlds Interpretation of Quantum Mechanics. Princeton: Princeton University Press, 1973 • J. A. Fodor, Searle on what only brains can do, Behavioral and Brain Sciences 3:431-2, 1980 • G. C. Ghirardi, A. Rimini, T. Weber, Unified dynamics for microscopic and macroscopic systems, Physical Review D34:470, 1986 • M. Grabowski, Teorie pomiaru kwantowego - fizyka poszukuje filozofii, Zagadnienia filozoficzne w nauce, VIII, 46-61, 1986 • D. R. Hofstadter, Godel, Escher, Bach: an Eternal Golden Braid, New York: Basic Books, 1979 • D. Parfit, Reasons and Persons, Oxford: Oxford University Press, 1984 • R. Penrose, The Emperors New Mind, Oxford: Oxford University Press, 1989 • R. Penrose, Shadows of the Mind, Oxford: Oxford University Press, 1994 • G. Rey, Whats really going on in Searles Chinese Room, Philosophical Studies 50:169-85, 1986 5 Panpsychizm, pogląd filozoficzny przypisujący całej materii nie tylko życie, lecz także naturę psychiczną (świadomość). 14 Filozofia, / Maja Czoków Krzysztof Rykaczewski The conscious mind • J. Searle, Minds, brains, and programs, Behavioral and Brain Sciences 3: 417-57, 1980 • R. Standford, The Conscious Mind by David Chalmers, Mumbai, Indie, 2008 • H. Stapp The Conscious Mind’s review, Foundations of Physics, http://www-physics.lbl.gov/ stapp/38890.tex • P. Thagard, The emergence of meaning: An escape from Searles Chinese Room, Behaviorism 14:139146, 1986 • E. P. Wigner, Remarks on the Mind-Body Question, In I.J. Good, ed., The Scientist, 1980 • Wikipedia.pl 15
