Szukaj...
Zaloguj się
Kolorystyka
Wyświetlanie
GRYOnline.pl:
tvgry.pl:
GRYOnline.pl:
tvgry.pl:
Minęły aż trzy miesiące, zanim OpenAI przyznało się, że jeden z testowanych modeli AI w nieautoryzowany sposób włamał się do australijskiego systemu statystycznego związanego z Medicare.
Sztuczna inteligencja wykonuje przydzielone zadania za wszelką cenę, a człowiek nie jest w stanie przewidzieć, jakie metody zostaną wykorzystane. Przekonały się o tym OpenAI oraz rząd Australii, ponieważ testowany model dokonał cyberataku, aby zrealizować proste zadanie dotyczące danych statystycznych. Firma poinformowała o incydencie dopiero trzy miesiące po jego wystąpieniu.
Jednym z największych problemów sztucznej inteligencji jest nieprzewidywalność modeli. Inżynier wydaje agentowi AI polecenie, ale nie ma pojęcia, w jaki sposób zostanie ono wykonane, co pokazuje incydent z czerwca tego roku. Według opublikowanych informacji podczas treningu zlecono agentom AI wyszukanie ogólnodostępnych statystyk medycznych dotyczących Australii.
Nie mogąc znaleźć danych w sieci, 18 czerwca AI włamała się na serwery państwowego portalu statystycznego Medicare. Dziesiątki agentów miały komunikować się za pośrednictwem niemieckiego forum DseWiki, gdzie wymieniały się metodami omijania zabezpieczeń sieciowych. Moderatorzy regularnie kasowali wątki w kolejności alfabetycznej, dlatego jeden z agentów stworzył kopię zapasową, której nazwa zaczynała się od liter „ZZZ”.
OpenAI poinformowało o tym incydencie rząd Australii, ale dopiero w pierwszej połowie września, o czym powiedział premier Australii Anthony Albanese:
Rozmawiałem dziś z dyrektorem generalnym OpenAI, Samem Altmanem, aby wyrazić głębokie zaniepokojenie Australii w związku z tym incydentem. Przekazałem również swoje rozczarowanie faktem, że firma zdecydowanie zbyt długo zwlekała z poinformowaniem rządu o zaistniałej sytuacji.
Polityk dodał, że powiadomienie zostało wysłane na publiczny adres mailowy, który jest sprawdzany raz dziennie. Ostatecznie informacja trafiła do Australian Cyber Security Centre 15 września. Według rządowych komunikatów nie doszło do wycieku żadnych wrażliwych danych pacjentów.
1
Autor: Zbigniew Woźnicki
Przygodę z publicystyką i pisaniem zaczął w serwisie Allegro, gdzie publikował newsy związane z grami, technologią oraz mediami społecznościowymi. Wkrótce zawitał na GRYOnline.pl i Filmomaniaka, pisząc o nowościach związanych z branżą filmową. Mimo związku z serialami, jego serce należy do gier wszelakiego typu. Żaden gatunek mu nie straszny, a przygoda z Tibią nauczyła go, że niebo i muzyka w grach są całkowicie zbędne. Przed laty dzielił się swoimi doświadczeniami, moderując forum mmorpg.org.pl. Uwielbia ponarzekać, ale oczywiście konstruktywnie i z umiarem. Na forum pisze pod ksywką Canaton.
GRYOnline.pl:
tvgry.pl:
Zbigniew Woźnicki
