Polecamy Recenzje Przed premierą Publicystyka Warto zagrać
Publicystyka 14 września 2020, 14:55

autor: Marcin Strzyżewski

Gracz od czasów pierwszego Prince of Persia. Niemal zawalił szkołę przez Settlersy II.

Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie

Sztuczna inteligencja ułatwia nam życie, zabiera nam pracę i budzi obawy nawet tych, którzy na niej zarabiają. Czy to możliwe, żeby w którymś momencie zbuntowała się przeciwko nam?

Czy bunt maszyn będzie świadomy?

Mimo tego wszystkiego, co napisałem powyżej, prawdziwy, świadomy bunt sztucznej inteligencji to wciąż bardziej science fiction niż realne zagrożenie mogące wystąpić w najbliższym czasie. Czemu? Bo algorytmy SI nadal pozostają matematycznymi programami, które dokonują obliczeń w ustalony przez programistę sposób. I jeśli nawet się uczą, co wydaje się niezwykle ludzką czynnością, wciąż pozostają tzw. słabą SI.

Dobry film, ale to wciąż fantazja bardzo daleka od rzeczywistości. - Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie - dokument - 2020-09-14
Dobry film, ale to wciąż fantazja bardzo daleka od rzeczywistości.

Słaba SI to tak naprawdę algorytm lub zestaw algorytmów rozwiązujący konkretny problem. Nie bardzo ma możliwość zbuntowania się. Problem leży gdzie indziej – w odporności tego typu algorytmów na pojawienie się danych innych niż te, na podstawie których zostały one wyuczone. Innymi słowy – na nowe zjawiska i ich objawy.

Piotr Biczyk, QED Software

Oczywiście tego rodzaju program wciąż może sprawić kłopoty. Piotr Biczyk wspomina, że SI ma tendencję, by traktować jednakowo sytuacje skrajne, na które człowiek jest bardziej wyczulony. Zdarza się także, że komputery mają problem ze zniuansowaną oceną danych.

Jeśli algorytm uczy się podejmowania decyzji w prostych sprawach sądowych, to będzie to robić na podstawie danych historycznych – tego, jak sędziowie oceniali konkretne sprawy. Jeśli ci sędziowie prezentowali określone uprzedzenia – algorytm zaimplementuje te same uprzedzenia.

Piotr Biczyk, QED Software

Tzw. silna SI jeszcze nie istnieje i wciąż nie zostało udowodnione, że może istnieć. Nie wiemy więc, ile jeszcze nowych technologii trzeba opracować, żeby pojawiła się maszyna, która potrafiłaby myśleć samodzielnie. Nie działać według instrukcji, tylko podejmować decyzje dotyczące tego, jakie problemy chce rozwiązywać, a jakich nie chce.

Na razie niczego takiego nie ma i być może nie pojawi się bardzo długo – bo nadal nie wiemy, dlaczego nasze mózgi są tak wszechstronne. I tak pojemne (według ostrożnych szacunków są to rzędy petabajtów, czyli milionów gigabajtów. Dla porównania Wielki Zderzacz Hadronów produkuje co roku około 30 PB danych. Przede wszystkim jednak nie ma jeszcze sztucznej inteligencji, która rozumiałaby to, co pojmuje nawet dziecko: związki przyczynowo-skutkowe.

Michał Rolecki, sztucznainteligencja.org.pl

W tej chwili nie wiadomo jeszcze nawet, którędy przebiega ścieżka do stworzenia silnej sztucznej inteligencji. Czy rozwiązaniem będzie dokładne odtworzenie ludzkiego mózgu neuron po neuronie? A może drogę otworzą nam komputery kwantowe? Czy też wystarczy rozwijać obecnie używany sprzęt z odpowiednim genialnym algorytmem albo tzw. block chain? Na razie po prostu tego nie wiemy.

Czy zwykły laptop wystarczy do stworzenia silnej SI, czy potrzeba zupełnie innej technologii? - Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie - dokument - 2020-09-14
Czy zwykły laptop wystarczy do stworzenia silnej SI, czy potrzeba zupełnie innej technologii?

W październiku 2019 roku zespół Google AI chwalił się stworzeniem komputera kwantowego, który w 3 minuty i 20 sekund wykonał operację matematyczną, jaka tradycyjnemu superkomputerowi zajęłaby 10 tysięcy lat pracy. Brzmi imponująco, ale nie jest to jednoznaczne z możliwością powstanie silnej SI w najbliższym czasie.

Dlatego teorią pozostaje, czy silna SI będzie zdolna do buntu i czy będzie go chciała. Być może, tworząc ją, będziemy umieli umieścić w niej odpowiednie zabezpieczenia na takim poziomie, że ona nawet nie będzie rozumieć, iż została ograniczona. Z drugiej jednak strony sztuczna inteligencja może być na tyle genialna, że do woli zmodyfikuje swój własny program i nic nie ograniczy jej działań.

To wciąż są rozważania teoretyczne. Możemy sobie jednak wyobrazić bunt zupełnie innego typu. Bunt, w którym kompletnie tego nieświadomy algorytm zacznie nam zagrażać, wykonując jedynie rozkazy, które sami mu wydaliśmy.

TWOIM ZDANIEM

Boisz się, że sztuczna inteligencja w przyszłości pozbawi cię pracy?

Nie
63,9%
Tak
36,1%
Zobacz inne ankiety
Czy żyjemy w Matrixie? 5 rzeczy, które przewidziane zostały w filmach Wachowskich
Czy żyjemy w Matrixie? 5 rzeczy, które przewidziane zostały w filmach Wachowskich

Niektórzy wierzą, że cały czas żyjemy w jakimś rodzaju symulacji. Inni sami ją sobie tworzą i zamykają się w niej, odcinając od prawdziwego życia. Co tak naprawdę przewidziała matrixowa wyrocznia?

Przedziwne gadżety wojskowe z gier, które naprawdę istnieją
Przedziwne gadżety wojskowe z gier, które naprawdę istnieją

Rzeczywistość coraz częściej dogania fantazję. Rzeczy, które wczoraj wydawały się wymysłem pisarzy lub twórców gier, dziś mogą być już realną technologią. Oto popularne mechaniki i przedmioty z gier komputerowych, które istnieją naprawdę.