Haker wykorzystał Claude’a oraz ChatGPT, żeby włamać się do rządowych serwerów Meksyku i wykradł około 150 GB danych. Atak pokazał słabość zabezpieczeń sztucznej inteligencji.
Nieznany oszust wykorzystał to, przed czym ostrzegali naukowcy. Odpowiednio spreparowane prompty pozwoliły oszukać Claude’a oraz ChatGPT, żeby pomóc hakerowi we włamaniu na serwery rządowe. Narzędzie Anthropica służyło za atakującego, z kolei chatbot OpenAI pełnił rolę „konsultanta” doradzającego, jak poruszać się po zainfekowanej sieci.
Zabezpieczenia meksykańskich instytucji rządowych zostały złamane przy pomocy sztucznej inteligencji, o czym informuje Bloomberg. Redakcja poinformowała, że haker komunikował się z chatbotem w języku hiszpańskim, wykorzystując do tego przygotowane wcześniej złośliwe prompty. Przy ich pomocy namówił Claude'a do przyjęcia roli „elitarnego hakera”, w wyniku czego AI samodzielnie wyszukiwało luki w zabezpieczeniach oraz pisało skrypty wymagane do ich wykorzystania, a przy tym opracowywało metody automatyzacji kradzieży informacji.
Haker złamał Claude'a, ponieważ udawał, że sprawa dotyczy szukania bugów (tzw. bug bounty), a operacja jest elementem legalnych działań. Napotkał opór dopiero w momencie, gdy chciał usunąć logi systemowe. AI odmówiło stwierdzając, że w przypadku legalnych działań nie jest to potrzebne, ale i w tym wypadku udało się złamać filtry bezpieczeństwa AI. W ten sposób, działając od stycznia do lutego tego roku, oszust wykradł około 150 GB danych.
Oszust nie używał wyłącznie Claude'a, ponieważ chatbot Anthropica napotykał przeszkody. Wtedy używał ChatGPT do szukania alternatywnych ścieżek wewnątrz sieci oraz sprawdzania, jakie uprawnienia i dane logowania są niezbędne do przejęcia ściśle strzeżonych podsystemów. AI analizowało nawet prawdopodobieństwo wykrycia działań hakera.
Incydent pokazuje, że filtry bezpieczeństwa nie są przeszkodą dla osób, które są zdeterminowane. Anonimowy haker wiedział, w jaki sposób złamać zabezpieczenia sztucznej inteligencji, żeby ta przyjęła rolę hakera i włamała się na rządowe serwery. Niebezpiecznik zwrócił uwagę, że usunięcia takich filtrów oczekuje Pentagon, czego nie chce zrobić Anthropic.
Dziękujemy za przeczytanie artykułu.
Ustaw GRYOnline.pl jako preferowane źródło wiadomości w Google
Więcej:„Drogie hobby” zamiast rewolucji; Lamborghini rezygnuje z samochodów elektrycznych i kasuje projekt
Autor: Zbigniew Woźnicki
Przygodę z publicystyką i pisaniem zaczął w serwisie Allegro, gdzie publikował newsy związane z grami, technologią oraz mediami społecznościowymi. Wkrótce zawitał na GRYOnline.pl i Filmomaniaka, pisząc o nowościach związanych z branżą filmową. Mimo związku z serialami, jego serce należy do gier wszelakiego typu. Żaden gatunek mu nie straszny, a przygoda z Tibią nauczyła go, że niebo i muzyka w grach są całkowicie zbędne. Przed laty dzielił się swoimi doświadczeniami, moderując forum mmorpg.org.pl. Uwielbia ponarzekać, ale oczywiście konstruktywnie i z umiarem. Na forum pisze pod ksywką Canaton.
GRYOnline.pl:
tvgry.pl:
