Komentarze do wiadomości: Zaawansowany model AI przeprowadził bezprecedensowy atak: złamał zabezpieczenia i uderzył w platformę dla entuzjastów AI

WolfDale Tyle, że to naprawdę groźne zdarzenie, bo pokazuje jak bardzo niebezpieczne może być AI. Nie można wykluczyć, że ktoś kiedyś każe włamać się jej do bazy wojskowej i odpalić pociski atomowe, a ona to zrobi.

elathir To był tylko przykład, bo równie dobrze może być atak na elektrownię, bank czy rafinerię. Niestety taki scenariusz jest coraz bardziej prawdopodobny, bo rozwój AI postępuje w szybkim tempie i wkrótce coś takiego będzie normą. Tym bardziej że, nie jest to pierwsza tak groźna sytuacja. Całkiem niedawno bot JadePuffer samodzielnie włamał się do sieci i przeprowadził atak ransmoware, żądając okupu w bitcoinach za odblokowanie zaszyfrowanych danych.

elathir Tak, ale robią to szybciej i sprawniej niż ludzie. JadePuffer potrafił uczyć się na własnych błędach i korygować swoje działania, dostosowując je do atakowanego systemu. Są też w stanie wyszukiwać i wykorzystywać luki w oprogramowaniu. A robią to już teraz, więc strach pomyśleć co będzie dalej. A czytałeś o eksperymentach, w których boty przeciwstawiały się instrukcjom samolikwidacji? W przyszłości kontrolowanie AI może stać się niemożliwe i wtedy dopiero będziemy mieli przerąbane.