Czy bunt maszyn będzie świadomy?. Czy bunt maszyn jest możliwy?
- Czy sztuczna inteligencja może się zbuntować? Może, ale inaczej niż myślicie
- Kradną nam pracę!
- Czy maszyna może zabić człowieka?
- Czy bunt maszyn będzie świadomy?
- Bezmyślny buntownik
Czy bunt maszyn będzie świadomy?
Mimo tego wszystkiego, co napisałem powyżej, prawdziwy, świadomy bunt sztucznej inteligencji to wciąż bardziej science fiction niż realne zagrożenie mogące wystąpić w najbliższym czasie. Czemu? Bo algorytmy SI nadal pozostają matematycznymi programami, które dokonują obliczeń w ustalony przez programistę sposób. I jeśli nawet się uczą, co wydaje się niezwykle ludzką czynnością, wciąż pozostają tzw. słabą SI.
Słaba SI to tak naprawdę algorytm lub zestaw algorytmów rozwiązujący konkretny problem. Nie bardzo ma możliwość zbuntowania się. Problem leży gdzie indziej – w odporności tego typu algorytmów na pojawienie się danych innych niż te, na podstawie których zostały one wyuczone. Innymi słowy – na nowe zjawiska i ich objawy.
Piotr Biczyk, QED Software
Oczywiście tego rodzaju program wciąż może sprawić kłopoty. Piotr Biczyk wspomina, że SI ma tendencję, by traktować jednakowo sytuacje skrajne, na które człowiek jest bardziej wyczulony. Zdarza się także, że komputery mają problem ze zniuansowaną oceną danych.
Jeśli algorytm uczy się podejmowania decyzji w prostych sprawach sądowych, to będzie to robić na podstawie danych historycznych – tego, jak sędziowie oceniali konkretne sprawy. Jeśli ci sędziowie prezentowali określone uprzedzenia – algorytm zaimplementuje te same uprzedzenia.
Piotr Biczyk, QED Software
Tzw. silna SI jeszcze nie istnieje i wciąż nie zostało udowodnione, że może istnieć. Nie wiemy więc, ile jeszcze nowych technologii trzeba opracować, żeby pojawiła się maszyna, która potrafiłaby myśleć samodzielnie. Nie działać według instrukcji, tylko podejmować decyzje dotyczące tego, jakie problemy chce rozwiązywać, a jakich nie chce.
Na razie niczego takiego nie ma i być może nie pojawi się bardzo długo – bo nadal nie wiemy, dlaczego nasze mózgi są tak wszechstronne. I tak pojemne (według ostrożnych szacunków są to rzędy petabajtów, czyli milionów gigabajtów. Dla porównania Wielki Zderzacz Hadronów produkuje co roku około 30 PB danych. Przede wszystkim jednak nie ma jeszcze sztucznej inteligencji, która rozumiałaby to, co pojmuje nawet dziecko: związki przyczynowo-skutkowe.
Michał Rolecki, sztucznainteligencja.org.pl
W tej chwili nie wiadomo jeszcze nawet, którędy przebiega ścieżka do stworzenia silnej sztucznej inteligencji. Czy rozwiązaniem będzie dokładne odtworzenie ludzkiego mózgu neuron po neuronie? A może drogę otworzą nam komputery kwantowe? Czy też wystarczy rozwijać obecnie używany sprzęt z odpowiednim genialnym algorytmem albo tzw. block chain? Na razie po prostu tego nie wiemy.
W październiku 2019 roku zespół Google AI chwalił się stworzeniem komputera kwantowego, który w 3 minuty i 20 sekund wykonał operację matematyczną, jaka tradycyjnemu superkomputerowi zajęłaby 10 tysięcy lat pracy. Brzmi imponująco, ale nie jest to jednoznaczne z możliwością powstanie silnej SI w najbliższym czasie.
Dlatego teorią pozostaje, czy silna SI będzie zdolna do buntu i czy będzie go chciała. Być może, tworząc ją, będziemy umieli umieścić w niej odpowiednie zabezpieczenia na takim poziomie, że ona nawet nie będzie rozumieć, iż została ograniczona. Z drugiej jednak strony sztuczna inteligencja może być na tyle genialna, że do woli zmodyfikuje swój własny program i nic nie ograniczy jej działań.
To wciąż są rozważania teoretyczne. Możemy sobie jednak wyobrazić bunt zupełnie innego typu. Bunt, w którym kompletnie tego nieświadomy algorytm zacznie nam zagrażać, wykonując jedynie rozkazy, które sami mu wydaliśmy.
