Forum: Does this unit have a soul?

Does this unit have a soul?

Niektóre dzieła gamingu pozostawiają nas z egzystencjonalnymi pytaniami. To, które zrobiło na mnie największe wrażenie to tytułowe pytanie Legiona (a właściwie anonimowego Getha) z Mass Effect. Trochę się nad tym zastanawiałem i oto co mi wyszło.

TL/DR
Jeszcze nie, ale kiedyś może tak.

Wiara
Osoby wierzące chyba nie mają z tym problemu. Bóg tworzy życie. Człowiek własnymi rękami może stworzyć tylko przedmioty nieożywione, nawet dziecko jest darem boskim.
Mnie takie tłumaczenie niespecjalnie przekonuje, bo od 200 lat wiadomo, że związki organiczne można uzyskać z nieorganicznych. Ale od wiary chciałbym zapożyczyć sobie jedno pojęcie – tytułową duszę. Odrę ją jednak z metafizycznej otoczki, chodzi mi jedynie o określenie tego pierwiastka życia, tego który odróżnia nas od maszyn (jeśli istnieje).

Biologia
Kiedy chodziłem do podstawówki w książkach wymienione były cechy istot żywych: odżywianie, oddychanie, wydalanie, cośtam jeszcze. Takie tłumaczenie było wiarygodne dla 13 latka, tyle że z biegiem czasu okazywało się, że np. są organizmy, które nie muszą oddychać. Wzrost też nie jest jakoś niezbędny do życia, i tak inne cechy fizjologiczne nie wytrzymywały konfrontacji z rzeczywistością. Ostatecznie ustalono zbiór 5 cech charakteryzujących organizmy żywe: są wyodrębnione ze środowiska, posiadają metabolizm (czyli przetwarzają energię), są wewnętrznie stabilne, przechowują i przetwarzają informacje oraz regulują wewnętrzne procesy.

Są również inne definicje życia, tyle że większość z nich sprowadza się do przetwarzania materii i energii, wewnętrznej równowagi, przechowywania i przetwarzania informacji oraz replikacji. A wszystkie te cechy może wykazywać maszyna. Przetwarza energię elektryczną w mechaniczną, albo chemiczną w elektryczną, albo jakąkolwiek w taką, która będzie jej użyteczna. Reguluje się sama, zbiera informacje o otoczeniu. Czy maszyny potrafią się replikować? Być może jeszcze nie bezpośrednio, ale to jednak maszyny wytwarzają części innych maszyn. A programy sterujące maszynami bez problemu mogą wykonywać kopie samych siebie. Całkowicie zrobotyzowana fabryka Tesli jak na razie pozostaje marzeniem Muska, ale myślę, że to tylko kwestia czasu.

Inne światło na definicję życia rzucił Shrodinger. Stwierdził on, że komórka dąży do równowagi termodynamicznej, co oznaczałoby jej śmierć. W związku z tym musi w sposób ciągły znajdować się w nierównowadze, próbując zmniejszyć swoją entropię. Nie narusza przy tym zasad fizyki – swoje nieuporządkowanie zmniejsza, pobierając „uporządkowanie” z otoczenia. Żywi się entropią ujemną – negentropią – albo inaczej mówiąc, zwiększa swój wewnętrzny porządek, zmniejszając porządek świata zewnętrznego. Robi to na zasadzie ciągłej wymiany materii i energii – czyli wspomnianego metabolizmu. Teoria, choć w świecie naukowym nieaktualna, prezentuje fundamentalną różnicę między światem ożywionym a nieożywionym: przedmiot, jak kamień czy maszyna, w stanie spoczynku nie wymienia energii z otoczeniem, nie zwiększa entropii. Żywy organizm nawet w spoczynku musi metabolizować, inaczej umrze.
W tym miejscu mógłbym zakończyć mój wywód. Wiem, że pomiędzy otrzymaniem w warunkach laboratoryjnych mocznika czy cukrów prostych, a stworzeniem syntetycznej komórki jest daleka droga. Ale chciałbym pójść dalej, chociażby po to, by mieć gotową odpowiedź, gdyby jednak w przyszłości Legion zadał tytułowe pytanie. Załóżmy więc, że w przyszłości damy radę skonstruować maszynę, która energię wytwarza poprzez rozkład substancji odżywczych, słowem maszynę na wzór komórki, tyle że syntetycznej. Czy moglibyśmy odmówić jej prawa do posiadania duszy?

Ewolucja
Mechanizmem kierującym ewolucją i powstawaniem nowych gatunków jest dobór naturalny. Aby doszło do ewoluowania, musi istnieć forma zapisu danych o budowie organizmu, przekazywana z pokolenia na pokolenie. U istot żywych jest nią genom, dla maszyn byłoby to oprogramowanie. Tyle, że maszyny się nie rozmnażają, co najwyżej kopiują, nie można więc mówić o klasycznym pokoleniowym przekazywaniu danych, tak jak w przyrodzie. Klonowanie, nie uwzględniające różnorodności osobników, wydaje się nie mieć znaczącego miejsca w przyrodzie.
Ale czy na pewno? Wyobraźmy sobie placówkę produkującą nowe jednostki. Wszystkie tworzone są wg wzorca przechowywanego w jednej z jednostek. Jednostki poszukują surowców, i dostarczają je do fabryki, w celu produkcji nowych. Dzielą między sobą funkcje, doskonale znają swoje zadania. Wszystkie dzielą ten sam wzorzec, są siostrami. Rywalizują z innymi jednostkami z innych placówek w walce o zasoby. Czy opisałem fabrykę robotów? Nie, miałem na myśli pszczoły, mrówki lub termity. W przyrodzie już istnieją społeczności o specyficznym sposobie rozmnażania, eliminującym indywidualność.
Jeśli w fabryce robotów w wyniku jakiegoś błędu transmisji danych zaczną powstawać osobniki zmodyfikowane, lepiej zbierające surowce, to taka fabryka wyeliminuje z gry część sąsiednich. Zadziałają prawa doboru naturalnego.

Oczywiście pszczoły i mrówki nie opanowały świata, ciężko się więc spodziewać, żeby tak ewoluujące maszyny zaszły dalej niż automatyczny kombajn węglowy. Wiem też, że trochę nagiąłem zasady, bo pszczołom zdarza się jednak rozmnażać płciowo (choć w obrębie jednej społeczności), co zwiększa różnorodność organizmów, i sprzyja ewolucji. Samo rozmnażanie płciowe wydaje się być dla maszyn jak na razie nieosiągalne. Ale wszystkie formy rozmnażania są adaptacjami, powstałymi oczywiście w wyniku ewolucji. Syntetyki są jak na razie na poziomie ewolucyjnym prokariontów.
Ale tylko pod względem rozmnażania. Pytanie, czy roboty tak naprawdę potrzebowałyby do ewolucji rozmnażania płciowego, które czasami może być odbierane jako forma pasożytnictwa genetycznego. Roboty startują swoją ewolucję już od poziomu ogromnej różnorodności form i pewnej „świadomości”; dodatkowo, to w gruncie rzeczy mutacje wprowadzają nowy materiał genetyczny, samo rozmnażanie płciowe tylko go „tasuje”. Istnieją inne formy różnicowania genomu, takie jak poziomy transfer genów czy fuzja, i odegrały one już w historii kluczową rolę. Nie trudno więc sobie wyobrazić dwa (lub więcej) roboty z różnych fabryk, syntezujące swoje oprogramowanie i wybierające, na podstawie obserwacji, jednostki skuteczniejsze od innych. Byłaby to turboewolucja, skutkująca błyskawicznym pojawianiem się (i znikaniem) nowych gatunków. Taka ewolucja od naturalnej różniłaby się tylko tempem.

Inteligencja i samoświadomość
Nie jest to warunek konieczny, ale aby Legion w ogóle mógł zadać jakiekolwiek pytanie, musi być inteligentny. Inteligencja maszyn, jak na razie, opiera się na zdolności bardzo szybkiego liczenia. Potrafią przetwarzać informacje z otoczenia, potrafią posługiwać się narzędziami. Jest to poziom inteligencji reprezentowany przez niektóre zwierzęta, albo przez naszych odległych przodków Homo Habilis.
Prawdziwa inteligencja, która pozwoliła nam rządzić światem, wg psychologa Nicholasa Humphreya była narzędziem społecznym. Pojawiła się, gdy człowiek zdobył już przewagę ekologiczną nad innymi i zaczął żyć w rywalizujących ze sobą grupach. Umiejętność manipulowania zachowaniem innych i przewidywania ich reakcji pozwalała zdobyć lepszą pozycję w grupie. Analiza i przetwarzanie informacji w tak złożonych i nieprzewidywalnych systemach jak społeczność ludzka była wstępem do rozwoju intelektu.

W ogóle, przejście do życia w społeczności wydaje się być kamieniem milowym rozwoju gatunków, implikującym wiele pożytecznych cech umysłu. Na przykład świadomość swojego istnienia, możliwość odczuwania bólu, radości czy złości a nie tylko prostych reakcji na bodźce występuje u wielu gatunków, również samotnych, i mniej zencefalizowanych niż ludzie. Neurobiolodzy nazywają to „świadomością rdzenną”. Ale już samoświadomość, lub „świadomość rozszerzoną” wykazują tylko gatunki społeczne. Zdolność oceny stanu umysłu innego osobnika, jego intencji, stosunku do nas, wiedzy (lub braku wiedzy) daje możliwość przewidywania jego zachowania, oraz wpływania na nie. To bardzo duża przewaga. A stąd już tylko krok do wyobrażenia sobie, jak nas widzą inni. Dzięki spojrzeniu na siebie z perspektywy innej osoby możemy modyfikować swój wizerunek. Oprócz oczywistych korzyści, takich jak możliwość długofalowego planowania dało nam to też inny skutek – zrozumieliśmy, że inne osobniki też żyją, czują i myślą.

Roboty funkcjonują w grupach, wymieniają informacje, pamiętają przeszłość i realizują plany, ale nie robią tego w pełni świadomie. Czy mogą zyskać samoświadomość? Czy jest to cecha pojawiająca się z automatu, przy przekroczeniu pewnego stopnia złożoności? Neurobiolog George Sacher operuje pojęciem ilościowego skoku neuronów, który objawił się, w przypadku człowieka, początkiem myślenia symbolicznego. Faktem jest, że pytania o egzystencję i uczucia może zadać sobie tylko takie stworzenie, które potrafi mówić. Ale nie chodzi mi o wydawanie dźwięków, czy po prostu porozumiewanie się, ale operowanie językiem opartym na symbolach. Artykułowanie własnych myśli wydaje się być ściśle związane z samoświadomością, językiem a także początkiem kultury, i co ciekawe, wcale nie towarzyszyło ludziom od początku. Wygląda na to, że anatomiczne przystosowania do komunikacji opartej na symbolach pojawiły się u człowieka, a być może również neandertalczyka, 200 tys. lat temu, ale najstarsze przedmioty symboliczne liczą najwyżej 100 tys. lat. Nie wiadomo co spowodowało tą zmianę, jaka była początkowa funkcja języka, czy była formą mutacji u jednego osobnika, czy rozwinęła się konwergentnie, ale samo powstanie języka wydaje się być kolejną granicą do przekroczenia w drodze do inteligencji.

Czy maszyny są w stanie osiągnąć te kamienie milowe? Czy gdyby grupy maszyn rozwinęły się w społeczności, następnie zaczęły się komunikować, rozwinęły myślenie symboliczne i świadomość, czy wtedy moglibyśmy nazwać je życiem inteligentnym? Najbardziej skomplikowane organizmy żywe, w skali mikro działają na zasadzie reakcji na bodźce, podobnie jak algorytmy komputerowe. Czym różni się impuls elektryczny płynący w komórkach opartych na węglu od tego samego impulsu w strukturach krzemowych?

Kubeł zimnej wody na te dywagacje wylewa neurolog Antonio Damasio. W organizmach myśli ściśle związane są z ciałem, które również wpływa na świadomość. A właściwie odwrotnie, świadomość jest stanem zbudowanym na podstawie mapowania stanu wszystkich układów organizmu. Świadomość jest subiektywna, ponieważ kształtują ją informacje z ciała. Inne ciało, albo wymiana którejś z jego części, czy zastąpienie jej mechaniczną daje już kompletnie inne doznania, inaczej niż w przypadku maszyn, gdzie części można swobodnie wymieniać.
Nie do końca się z tym zgadzam, i wydaje mi się, że maszyna ma duszę, jeśli pyta czy ma duszę.

Śmierć
Śmierć wydaje się być wyraźną granicą między życiem a maszyną. Maszyny nie umierają, ale jednak z czasem kończą na złomowiskach. Czym różni się śmierć od złomowania?
Większość komórek organizmu żyje co najwyżej kilkanaście miesięcy. Śmierć komórki jest naturalnym procesem, i o ile nie jest wynikiem czynników zewnętrznych przebiega w ramach procesu apoptozy, czyli usuwania komórek zbędnych, uszkodzonych lub zainfekowanych, z korzyścią dla organizmu. Zastępują je nowe komórki powstałe z podziału komórek macierzystych. Tak więc nasz organizm znajduje się w ciągłym procesie wymiany komórek, co oznacza, że ciągle jesteśmy młodzi. Skąd więc starzenie się organizmu? Nie wiadomo tego na pewno, ale może mieć to związek z koniecznością ciągłego kopiowania DNA, które mutuje w ciągu życia, a i w trakcie kopiowania zdarzają się błędy. Zmiany DNA kumulują się z czasem, pogarszając działanie komórek.

Nie widzę większej różnicy między starzeniem się komórek a zużywaniem maszyn, poza skalą. Nie chodzi mi o zużycie eksploatacyjne, bo z tym roboty mogą kiedyś sobie poradzić tak jak organizmy, przez usuwanie zużytych części i zastępowanie ich nowymi. Ale przecież każdemu zdarzyło się ponownie ściągać grę ze steama, bo w trakcie kopiowania programu coś poszło nie tak.
Być może czytający te słowa zauważył, że temat śmierci, stanowiący najważniejszą różnicę między życiem a bezduszną maszyną poruszyłem już na początku. Maszyna może zostać wyłączona i ponownie włączona dowolny czas później, organizm musi stale przetwarzać energię. Przyczyną jest stopień złożoności komórek, przekraczający znacznie najbardziej skomplikowane maszyny. Komórka do swojego działania wykorzystuje skomplikowane mechanizmy i złożone cząsteczki, które pozostawione same sobie rozłożą się, dążąc, zgodnie z naturą, do jak najniższego stanu energii. Komórki są tzw. strukturami dyssypatywnymi, w ciągłej nierównowadze termodynamicznej, i aby pozostać stabilne muszą stale wymieniać energię z otoczeniem.

Doprowadza mnie to do konkluzji, że jeśli jest jakaś różnica między życiem a maszyną, to musi być nią arbitralnie wybrany stopień złożoności. W końcu na poziomie molekularnym wszyscy zbudowani jesteśmy z martwych atomów. Na pytanie Legiona odpowiedzieć można kontrpytaniem: czy człowiek nie jest maszyną? Pytanie tylko, czy maszyna, korzystając z ewolucji nie ograniczonej swoją poprzednią wersją potrzebowałaby do swojego działania aż takiego stopnia złożoności. W momencie, gdy maszyny zaczęłyby same, z własnej woli dążyć do utrzymywania swojego działania, granica między nimi a organizmami zatarłaby się, bez względu na ich stopień komplikacji cząsteczkowej.

A wy, co myślicie?