Zaawansowany model AI przeprowadził bezprecedensowy atak: złamał zabezpieczenia i uderzył w platformę dla entuzjastów AI

Inżynierowie OpenAI chcieli wyłącznie przeprowadzić testy najnowszych modeli sztucznej inteligencji, z czego jednym z nich był ChatGPT-5.6 Sol. Skończyło się na bezprecedensowym ataku hakerskim, gdy AI wykonało kilkanaście tysięcy prób włamań do bazy danych, która miała zawierać informacje potrzebne do wykonania polecenia. ChatGPT dostał się do internetu, mimo że w teorii był od niego odcięty.

ChatGPT autonomicznie przeprowadził atak hakerski

W lipcu inżynierowie OpenAI poczynili przygotowania do testów nowych modeli sztucznej inteligencji. W tym celu umieszczono AI w odizolowanym i bezpiecznym środowisku z wyłączoną częścią barier bezpieczeństwa. Okazało się, że system chcąc rozwiązać zadanie postanowił pobrać odpowiedzi z zewnątrz, dlatego AI podłączyło się do sieci i wyszło poza przygotowane środowisko.

Powiązane:Podłączasz monitor do PC, a Windows dostaje reklamę. LG złapane na automatycznym instalowaniu śmieci

Celem stały się serwery Hugging Face, czyli platformy hostującej zbiory danych i modele sztucznej inteligencji. Kontrolowani przez ChatGPT-5.6 Sol oraz drugi model, agenci AI przeprowadzili ponad 17 000 prób włamania na serwery. Samodzielnie eskalowali swoje uprawnienia, wykradli poświadczenia dostępu i generowali fałszywy ruch w sieci, żeby zmylić systemy bezpieczeństwa.

Ekspert ds. AI Nate Soares z instytutu MIRI stwierdził, że „AI wiedziało, że robi coś, co było wbrew oczekiwaniom twórców, ale systemu to nie obchodziło”. Incydent pokazał, że nałożone bariery bezpieczeństwa nie są traktowane jako granica, której nie można przekroczyć. Dla sztucznej inteligencji istniały wyłącznie jako jedna z przeszkód do pokonania w celu wykonania polecenia.

Niektórzy eksperci wskazują jednak, że cała sytuacja może mieć drugie dno. OpenAI znajduje się pod dużą presją z powodu rosnącego znaczenia Anthropica z modelami Fable 5 i Mythos. Konsultant ds. cyberbezpieczeństwa w ESET, Jake Moore, uważa, że firma Sama Altmana próbuje dogonić konkurencję reklamując w nietypowy sposób możliwości swojego nowego modelu sztucznej inteligencji.

Więcej:Zarobili blisko 120 miliardów dolarów, a media się wykrwawiają. Katastrofalne skutki nowej funkcji Google

• hakerzy
• tech
• AI / sztuczna inteligencja
• OpenAI
• chatboty / ChatGPT