Bezmyślny buntownik. Czy bunt maszyn jest możliwy?

• Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie
• Kradną nam pracę!
• Czy maszyna może zabić człowieka?
• Czy bunt maszyn będzie świadomy?
• Bezmyślny buntownik

Bezmyślny buntownik

Rozważany dotąd scenariusz zakłada, że SI pomyśli – samo to już jest fantastyką – iż nie chce wykonywać instrukcji napisanych przez człowieka. Bunt może wyglądać jednak zupełnie inaczej. Może się okazać, że całkiem bezduszny algorytm, mający tyle samo świadomości co komputer, na którym piszę te słowa, źle albo zbyt dosłownie zinterpretuje instrukcje i stanie się zagrożeniem.

Komputery zaczęły się uczyć, ale to nie działa tak jak nauka człowieka.

Współczesna SI, oparta na technologii uczenia maszynowego, może sama poszukiwać rozwiązań konkretnego problemu.

Teoretycznie więc może się okazać, że program uzna, iż jakaś forma szkodzenia ludziom będzie najlepszym możliwym sposobem na realizację powierzonego mu przez ludzi zadania. Wyobraźmy sobie sytuację rodem z powieści science fiction. Za 20 lat zlecimy sieci komputerowej znalezienie rozwiązania problemu nadmiernej emisji gazów cieplarnianych. Program przeanalizuje dane z poprzednich kilku dekad i zauważy, że spadek emisji był powiązany z epidemią koronawirusa. Teoretycznie mógłby wtedy uznać, że to właśnie jest optymalne rozwiązanie.

Oczywiście do niczego nie dojdzie, jeśli zachowamy zasadę „man in the loop”, o której wspominał dr Czulda. Gdyby tak było, komputer jedynie zasugerowałby człowiekowi stworzenie nowego wirusa i zarażenie nim ludzkości, a operator urządzenia wybuchnąłby śmiechem, a potem zmodyfikował algorytm w taki sposób, by ten, szukając rozwiązania, zwracał uwagę także na liczbę potencjalnych ofiar w ludziach.

Z drugiej strony wojskowe systemy stają się coraz bardziej złożone. Widać to chociażby w tym, jak wiele danych obecnie wymieniają pomiędzy sobą poszczególne elementy wojskowych systemów uzbrojenia.

Właśnie dlatego sieć 5G ma strategiczne znaczenie. Ten standard pozwoli na jeszcze szybszą wymianę danych. Wspólny system, wcale nie tak inny od filmowego Skynetu, mógłby zbierać wszystkie informacje, pozyskiwane przez samoloty, wozy bojowe, stacje radiolokacyjne, okręty, satelity, a także przez czujniki noszone przez żołnierzy. To tworzyłoby pełen obraz przestrzeni pola bitwy.

Czy jednak ludzki umysł będzie w stanie nadążyć za tym natłokiem danych? Bardzo prawdopodobne, że w tym systemie to człowiek okaże się wąskim gardłem przepływu informacji. Wyobraźmy sobie pluton czołgów, czyli cztery maszyny. Wymieniają się one informacjami między sobą, ale otrzymują także dane od bezzałogowców w powietrzu i innych pojazdów na ziemi.

Gdy taki oddział trafi na przeciwnika, dowódca kompanii dostanie komplet informacji o położeniu wroga i dostępnych środkach bojowych. Będzie musiał to wszystko możliwie szybko przeanalizować i wybrać sposób działania. Brzmi jak marzenie każdego dowódcy polowego.

Przekazanie SI pełnej kontroli na polu bitwy może zapewnić przewagę nad przeciwnikiem.

Z drugiej strony może jednak stać przeciwnik z identycznymi możliwościami, a jego system może być zbudowany inaczej. Może on decyzję o sposobie działania przekazać SI i dzięki temu jego odpowiedź nastąpi szybciej – a wiemy, że w sytuacji taktycznej czas reakcji jest niesamowicie istotny.

Wypada przyjąć, że demokratyczne Stany Zjednoczone, w których władza zależna jest od nastrojów społecznych, długo będą trzymać się zasady „man in the loop”. Czy jednak Chiny i Rosja także będą konsekwentnie jej przestrzegać, gdy okaże się, że rezygnacja z niej daje przewagę na polu walki? Może się okazać, że jeden kraj, który się z tego wyłamie, pociągnie za sobą lawinę. W końcu żadna armia świata nie będzie chciała być słabsza.

Za dziesięć czy dwadzieścia lat może istnieć system, który połączy całość sił zbrojnych danego kraju. W takiej sytuacji w wyniku błędu bądź ataku hakerów może dojść do nieplanowanego użycia uzbrojenia przeciwko celom, których nikt nie zaprogramował ani nie zaakceptował.

Czy należy panikować?

Typowy scenariusz z filmów i gier wideo zakłada, że buntuje się silna sztuczna inteligencja. To wyjątkowo groźna sytuacja, bo zgodnie z naszymi wyobrażeniami tego rodzaju program byłby zwyczajnie mądrzejszy od nas. Potrafiłby nas przechytrzyć, myślałby szybciej i lepiej analizował kolejne ruchy, ostatecznie z nami wygrywając.

Na razie nic nie wskazuje na to, by taki scenariusz mógł się zrealizować. Nawet jeśli w końcu stworzymy tego typu SI, raczej nikt nie powierzy jej dowodzenia faktycznymi systemami uzbrojenia. Częstą wizją w dziełach SF jest przypadkowa przemiana słabej SI w silną, czego ludzkość zwyczajnie nie zauważa.

Nowa technologia zmienia świat od dawna. Dziś trudno ocenić, dokąd nas to zaprowadzi.

To wydaje się wyjątkowo groźną sytuacją, jednak jednocześnie najmniej realną. Znacznie bardziej prawdopodobne jest, że ludzkość przestanie kontrolować świat, w którym coraz więcej procesów, od transportu morskiego po odpalanie rakiet przeciwlotniczych, powierza się algorytmom. Im bardziej złożony i autonomiczny będzie taki system, tym więcej problemów może generować.

Przykład? System Amazon Rekognition, służący do rozpoznawania twarzy, pomylił znanych amerykańskich sportowców z kryminalistami z policyjnej bazy danych. O ile był to test przeprowadzony w bezpiecznych warunkach, o tyle taka sama pomyłka mogłaby kogoś kosztować zdrowie, gdyby popełnił ją autonomiczny robot policjant.

Ostatecznie jednak wydaje się, że póki co liczba korzyści, wynikających z użycia sztucznej inteligencji, przewyższa straty. Cieszy także fakt, że jak na razie nasze obawy zdecydowanie wyprzedzają realne zagrożenia. Dzięki temu jako ludzkość minimalizujemy szansę na to, że czarny scenariusz faktycznie się ziści. Jedno pozostaje jednak pewne, sztuczna inteligencja będzie zmieniać nasze życie w nadchodzących dekadach, i to w sposób, który dzisiaj trudno przewidzieć i zrozumieć.