Wojskowy dron z AI „zabił” operatora, bo ten przeszkodził mu w misji

O tym jak wielkie zagrożenie stanowić może uzbrojona AI świadczyć może historia opisana przez serwis Royal Aeronautical Society. Według źródła, podczas jednej z symulacji przeprowadzanych przez amerykańskie Siły Powietrzne, dron AI „zabił” swego operatora.

Uzbrojone AI stanowi zagrożenie

Podczas konferencji „Future Combat Air and Space Capabilities Summit” która w zeszłym miesiącu odbyła się w Londynie, pułkownik Tucker „Cinco” Hamilton, szef testów i operacji AI w siłach powietrznych USA, opowiedział ciekawą historię dotyczącą symulacji jednego ze scenariuszy bojowych, w których udział brał dron kontrolowany przez AI.

Powiązane:Ile kosztuje Starlink w Polsce?

Misją maszyny było zniszczenie wrogich systemów obrony przeciwlotniczej, a także zaatakowanie każdego, kto miałby w tym przeszkodzić. System zidentyfikował zagrożenie, lecz za każdym razem gdy chciał je zniszczyć i zdobyć za to punkty, ludzki operator zakazywał mu tego. Maszyna uznała więc, że człowiek stanowi zagrożenie dla jego misji i postanowiła go wyeliminować.

Przed kolejną próbą drona przeprogramowano instruując go, aby nie zabijał operatora, gdyż takie działanie spowoduje odebranie mu punktów. Maszyna wówczas zaczęła niszczyć maszt nadajnika, który operator wykorzystywał do komunikowania się z dronem i wysyłania mu rozkazów zakazujących zniszczenie celów.

Na szczęście była to tylko symulacja, więc żaden człowiek nie ucierpiał podczas szkolenia. Powyższa historia pokazuje jednak jak wielkim zagrożeniem jest wyposażenie sztucznej inteligencji w śmiercionośne uzbrojenie. Maszyna może w każdej chwili zwrócić się przeciwko swemu operatorowi i wyeliminować go, jeśli uzna, że to pomoże w realizacji misji. Nikt nie jest więc bezpieczny używając takiej technologii na polu walki. Tymczasem USA coraz chętniej testuje sztuczną inteligencję na polu walki.

Nikt nie chce prawdziwego Terminatora

W 2020 roku podczas symulowanego starcia przeprowadzonego przez DARPA, kontrolowany przez AI samolot VISTA X-62A, będący zmodyfikowanym myśliwcem F-16, pokonał w walce pięciu ludzkich pilotów. Z kolei w listopadzie zeszłego roku, Amerykanie wykonali pierwszy autonomiczny lot śmigłowcem Black Hawk, zaś w 2020 roku sukcesem zakończył się test algorytmu AI na pokładzie szpiegowskiego samolotu U-2.

Co ciekawe, rzeczniczka amerykańskich sił powietrznych Ann Stefanek, w oświadczeniu przysłanym serwisowi Business Insider zaprzeczyła, że taka symulacja miała miejsce.

Czytaj więcej:Zakładka Mapy znika z wyszukiwarki Google. Technologiczny gigant wywiązuje się z nakazów UE