Polecamy Recenzje Przed premierą Publicystyka Warto zagrać
Publicystyka 14 września 2020, 14:55

autor: Marcin Strzyżewski

Gracz od czasów pierwszego Prince of Persia. Niemal zawalił szkołę przez Settlersy II.

Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie

Sztuczna inteligencja ułatwia nam życie, zabiera nam pracę i budzi obawy nawet tych, którzy na niej zarabiają. Czy to możliwe, żeby w którymś momencie zbuntowała się przeciwko nam?

Bezmyślny buntownik

Rozważany dotąd scenariusz zakłada, że SI pomyśli – samo to już jest fantastyką – iż nie chce wykonywać instrukcji napisanych przez człowieka. Bunt może wyglądać jednak zupełnie inaczej. Może się okazać, że całkiem bezduszny algorytm, mający tyle samo świadomości co komputer, na którym piszę te słowa, źle albo zbyt dosłownie zinterpretuje instrukcje i stanie się zagrożeniem.

Komputery zaczęły się uczyć, ale to nie działa tak jak nauka człowieka. - Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie - dokument - 2020-09-14
Komputery zaczęły się uczyć, ale to nie działa tak jak nauka człowieka.

Współczesna SI, oparta na technologii uczenia maszynowego, może sama poszukiwać rozwiązań konkretnego problemu.

Program komputerowy może implementować po prostu konkretny algorytm rozwiązujący problem. Jeśli taki algorytm jest znany, jest to zwykle najlepsza i najszybsza droga dotarcia do celu. Ale może też implementować algorytm szukający algorytmu rozwiązującego problem, bazując na danych historycznych. Innymi słowy – program szuka zależności, które pozwoliły w przeszłości rozwiązać dany problem, próbuje je zgeneralizować i na tej podstawie uczy się odpowiednio przetwarzać przyszłe dane. Tego typu algorytmy nazywany uczeniem maszynowym nadzorowanym.

Piotr Biczyk, QED Software

Teoretycznie więc może się okazać, że program uzna, iż jakaś forma szkodzenia ludziom będzie najlepszym możliwym sposobem na realizację powierzonego mu przez ludzi zadania. Wyobraźmy sobie sytuację rodem z powieści science fiction. Za 20 lat zlecimy sieci komputerowej znalezienie rozwiązania problemu nadmiernej emisji gazów cieplarnianych. Program przeanalizuje dane z poprzednich kilku dekad i zauważy, że spadek emisji był powiązany z epidemią koronawirusa. Teoretycznie mógłby wtedy uznać, że to właśnie jest optymalne rozwiązanie.

Oczywiście do niczego nie dojdzie, jeśli zachowamy zasadę „man in the loop”, o której wspominał dr Czulda. Gdyby tak było, komputer jedynie zasugerowałby człowiekowi stworzenie nowego wirusa i zarażenie nim ludzkości, a operator urządzenia wybuchnąłby śmiechem, a potem zmodyfikował algorytm w taki sposób, by ten, szukając rozwiązania, zwracał uwagę także na liczbę potencjalnych ofiar w ludziach.

Z drugiej strony wojskowe systemy stają się coraz bardziej złożone. Widać to chociażby w tym, jak wiele danych obecnie wymieniają pomiędzy sobą poszczególne elementy wojskowych systemów uzbrojenia.

Jeden tylko zwiadowczy bezzałogowiec Global Hawk potrzebuje łącza o przepustowości do 500 megabitów na sekundę – to pięć razy więcej niż miał 500-tysięczny amerykański kontyngent w trakcie wojny w Zatoce Perskiej w 1991 roku.

Dr Robert Czulda

Właśnie dlatego sieć 5G ma strategiczne znaczenie. Ten standard pozwoli na jeszcze szybszą wymianę danych. Wspólny system, wcale nie tak inny od filmowego Skynetu, mógłby zbierać wszystkie informacje, pozyskiwane przez samoloty, wozy bojowe, stacje radiolokacyjne, okręty, satelity, a także przez czujniki noszone przez żołnierzy. To tworzyłoby pełen obraz przestrzeni pola bitwy.

Czy jednak ludzki umysł będzie w stanie nadążyć za tym natłokiem danych? Bardzo prawdopodobne, że w tym systemie to człowiek okaże się wąskim gardłem przepływu informacji. Wyobraźmy sobie pluton czołgów, czyli cztery maszyny. Wymieniają się one informacjami między sobą, ale otrzymują także dane od bezzałogowców w powietrzu i innych pojazdów na ziemi.

Gdy taki oddział trafi na przeciwnika, dowódca kompanii dostanie komplet informacji o położeniu wroga i dostępnych środkach bojowych. Będzie musiał to wszystko możliwie szybko przeanalizować i wybrać sposób działania. Brzmi jak marzenie każdego dowódcy polowego.

Przekazanie SI pełnej kontroli na polu bitwy może zapewnić przewagę nad przeciwnikiem. - Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie - dokument - 2020-09-14
Przekazanie SI pełnej kontroli na polu bitwy może zapewnić przewagę nad przeciwnikiem.

Z drugiej strony może jednak stać przeciwnik z identycznymi możliwościami, a jego system może być zbudowany inaczej. Może on decyzję o sposobie działania przekazać SI i dzięki temu jego odpowiedź nastąpi szybciej – a wiemy, że w sytuacji taktycznej czas reakcji jest niesamowicie istotny.

Wypada przyjąć, że demokratyczne Stany Zjednoczone, w których władza zależna jest od nastrojów społecznych, długo będą trzymać się zasady „man in the loop”. Czy jednak Chiny i Rosja także będą konsekwentnie jej przestrzegać, gdy okaże się, że rezygnacja z niej daje przewagę na polu walki? Może się okazać, że jeden kraj, który się z tego wyłamie, pociągnie za sobą lawinę. W końcu żadna armia świata nie będzie chciała być słabsza.

Za dziesięć czy dwadzieścia lat może istnieć system, który połączy całość sił zbrojnych danego kraju. W takiej sytuacji w wyniku błędu bądź ataku hakerów może dojść do nieplanowanego użycia uzbrojenia przeciwko celom, których nikt nie zaprogramował ani nie zaakceptował.

Czy należy panikować?

Typowy scenariusz z filmów i gier wideo zakłada, że buntuje się silna sztuczna inteligencja. To wyjątkowo groźna sytuacja, bo zgodnie z naszymi wyobrażeniami tego rodzaju program byłby zwyczajnie mądrzejszy od nas. Potrafiłby nas przechytrzyć, myślałby szybciej i lepiej analizował kolejne ruchy, ostatecznie z nami wygrywając.

Na razie nic nie wskazuje na to, by taki scenariusz mógł się zrealizować. Nawet jeśli w końcu stworzymy tego typu SI, raczej nikt nie powierzy jej dowodzenia faktycznymi systemami uzbrojenia. Częstą wizją w dziełach SF jest przypadkowa przemiana słabej SI w silną, czego ludzkość zwyczajnie nie zauważa.

Nowa technologia zmienia świat od dawna. Dziś trudno ocenić, dokąd nas to zaprowadzi. - Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie - dokument - 2020-09-14
Nowa technologia zmienia świat od dawna. Dziś trudno ocenić, dokąd nas to zaprowadzi.

To wydaje się wyjątkowo groźną sytuacją, jednak jednocześnie najmniej realną. Znacznie bardziej prawdopodobne jest, że ludzkość przestanie kontrolować świat, w którym coraz więcej procesów, od transportu morskiego po odpalanie rakiet przeciwlotniczych, powierza się algorytmom. Im bardziej złożony i autonomiczny będzie taki system, tym więcej problemów może generować.

Przykład? System Amazon Rekognition, służący do rozpoznawania twarzy, pomylił znanych amerykańskich sportowców z kryminalistami z policyjnej bazy danych. O ile był to test przeprowadzony w bezpiecznych warunkach, o tyle taka sama pomyłka mogłaby kogoś kosztować zdrowie, gdyby popełnił ją autonomiczny robot policjant.

Ostatecznie jednak wydaje się, że póki co liczba korzyści, wynikających z użycia sztucznej inteligencji, przewyższa straty. Cieszy także fakt, że jak na razie nasze obawy zdecydowanie wyprzedzają realne zagrożenia. Dzięki temu jako ludzkość minimalizujemy szansę na to, że czarny scenariusz faktycznie się ziści. Jedno pozostaje jednak pewne, sztuczna inteligencja będzie zmieniać nasze życie w nadchodzących dekadach, i to w sposób, który dzisiaj trudno przewidzieć i zrozumieć.

Ostatnia aktualizacja: 2020-09-14

Marcin Strzyżewski

TWOIM ZDANIEM

Boisz się, że sztuczna inteligencja w przyszłości pozbawi cię pracy?

Nie
63,9%
Tak
36,1%
Zobacz inne ankiety
Czy żyjemy w Matrixie? 5 rzeczy, które przewidziane zostały w filmach Wachowskich
Czy żyjemy w Matrixie? 5 rzeczy, które przewidziane zostały w filmach Wachowskich

Niektórzy wierzą, że cały czas żyjemy w jakimś rodzaju symulacji. Inni sami ją sobie tworzą i zamykają się w niej, odcinając od prawdziwego życia. Co tak naprawdę przewidziała matrixowa wyrocznia?

Przedziwne gadżety wojskowe z gier, które naprawdę istnieją
Przedziwne gadżety wojskowe z gier, które naprawdę istnieją

Rzeczywistość coraz częściej dogania fantazję. Rzeczy, które wczoraj wydawały się wymysłem pisarzy lub twórców gier, dziś mogą być już realną technologią. Oto popularne mechaniki i przedmioty z gier komputerowych, które istnieją naprawdę.