Karton może oszukać robota; Hideo Kojima miał rację
Sztuczna inteligencja zarządzająca wojskowymi robotami wymaga jeszcze dopracowania. Okazuje się bowiem, że można ją bardzo łatwo oszukać sztuczką znaną z popularnej serii Metal Gear Solid, zakładającą wykorzystanie kartonowego pudła.
Sztuczna inteligencja przydaje się w zastosowaniach cywilnych, np. naprawiając zniszczone zdjęcia czy też zajmując się generowaniem obrazów. Nie da się jednak ukryć, że ma również duży potencjał militarny i coraz chętniej stosowana jest przez wojskowych. Może bowiem nie tylko podejmować decyzje o kolejności leczenia rannych na polu bitwy, ale także kontrolować bojowe roboty. W tej ostatniej kwestii może mieć jednak sporo do nadrobienia.
Shashank Joshi, redaktor The Economist, zamieścił na swoim koncie na Twitterze obszerne fragmenty najnowszej książki Paula Scharre zatytułowanej Four Battlegrounds: Power in the Age of Artificial Intelligence, dotyczącej zastosowania AI w wojsku. Szczególnie interesujący jest opis działań mających na celu ulepszenie algorytmu wykrywania ludzi przez roboty, do którego wykorzystano grupę marines.
Żołnierze chodzili wokół robota przez kilka dni, zaś inżynierowie wykorzystali pozyskane w ten sposób dane do ulepszenia systemu. W pewnym momencie poproszono ich, by spróbowali oszukać maszynę. Robota ustawiono w kręgu, zaś żołnierze musieli dotrzeć do niego bez wykrycia, co udało się każdemu z nich. Wykorzystali w tym celu różne metody – np. jeden z nich udawał drzewo z gałęziami w dłoniach i powoli zbliżał się do maszyny, cały czas się śmiejąc.
AI oszukane kartonowym pudłem
Najlepszą taktyką okazało się jednak ukrywanie pod kartonowym pudłem, co całkowicie ogłupiło algorytmy. Nawiasem mówiąc, ta sztuczka nie jest nowa. Wykorzystał ją już Hideo Kojima w popularnej serii Metal Gear Solid, umożliwiając bohaterowi ukrywanie się przed wrogiem w taki sposób. Wydawałoby się, że w rzeczywistym świecie ten pomysł nie ma szans powodzenia.
Autor książki wyjaśnia, że AI wyszkolono tak, by wykrywać chodzących lub biegnących ludzi. System gubi się jednak, gdy wykonują oni inne ruchy, takie jak turlanie się lub ukrywanie w pudłach. Proste sztuczki, które człowiek z łatwością by przejrzał, jak widać pozwoliły oszukać komputerowe algorytmy. To dowód na to, że sztuczna inteligencja nadal wymaga jeszcze sporo pracy, gdyż ciągle polega na zbieranych danych oraz algorytmach.
Komentarze czytelników
Carrol Konsul
Algorytm.
Teraz już zna sztuczki. Pozna jeszcze więcej. I więcej. I więcej.
I powodzenia.
tassak83 Pretorianin
"To dowód na to, że sztuczna inteligencja nadal wymaga jeszcze sporo pracy, gdyż ciągle polega na zbieranych danych" - Bo my ludzie oczywiście nie polegamy na tym samym?
Jak człowiek rozpozna, że drugi człowiek porusza się przykryty kartonem? Wystarczą dwie informacje:
1. Karton nie umie poruszać się sam
2. Karton nie ma dwóch nóg u dołu lub jednej w przypadku 'skakania na jednej nodze'.
I to wszystko. Nasze mózgi to tylko biologiczne komputery, różniące się od obecnych SI jedynie przytłaczająco większą liczbą danych..
tynwar Senator
Nie żeby coś, ale to AI jako algorytm właśnie uczy się na podstawie zebranych zbiorów danych z przypisanymi znaczeniami i tyle. Najprostszy przykład AI rozpoznającego cyfrę na obrazku/zdjęciu. Ai dostaje w sumie 10 zbiorów danych, każdy zawiera ileś zdjęć rysunku każdej cyfry, każde zdjęcie oznaczone jako ta przedstawiona cyfra(1, 2, 3 itd.). A teraz dasz mu jakieś zdjęcie z cyfrą i każesz mu ocenić cyfrę. Przetwarza te zbiory, znajduje największe podobieństwa i w zasadzie tyle. Tak działa większość stosowanego AI, choć przedstawiony przykład jest skrajnie uproszczony, ale generalnie zasada jest podobna: przetwarzanie zbiorów i wybranie najbardziej dla niego prawdopodobnego scenariusza.
Póki co nie ma takiego AI podejrzliwego i raczej nigdy nie będzie. AI z definicji ma tylko naśladować człowieka. Dosłownie to często naśladuje bardzo prozaiczne rzeczy jakie wykonuje człowiek i to bez trudności, a nawet bez myśli o tym(automatyczny ruch ciała, rozróżnianie). Podejrzliwe AI to już jest bardzo zaawansowana klasa AI, jednak tej klasy już nie osiągnie się. Póki co, to mamy co najwyżej zaawansowane AI czy też po prostu algorytmy wyspecjalizowane tak by "uczyły" się. Tak, sztuczna inteligencja uczy się i dalej jest algorytmem. Tego nie zmieni to co myślałeś o AI, oficjalnie taka jest definicja i tyle. Pogadaj najpierw z ludżmi od definicji. Tak czy siak niezależnie od tego co myślisz, to aktualne zaawansowane AI jest łatwe do oszukania. Uczy się, a i tak można ukryć się pod czymś co nie wygląda jak człowiek. Co to zmieni, że AI się uczy? To dalej będzie algorytm. Trzeba rozróżnić obie definicje: te z sci-fi i te realne. Te z sci-fi oczywiście nigdy nie zaistnieją, to już jest klasa super AI albo nawet samoświadome AI :).
Nawet gdyby nauczyć AI samego schematu zachowania tj. ruchomy karton, człowiek chowający się pod karton, to po prostu będzie to zaklasyfikowane jako człowiek. Jednakże to żadne genialne rozwiązanie nie jest, jeśli bardzo chcesz, możesz go nauczyć rozpoznawania człowieka w olbrzymiej ilości scenariuszów. Jednakże to będzie okupione bardzo długim czasem przetwarzania wielu zbiorów danych. Tak to nawet człowiek może przejść bez ukrywania się o ile nie zostało zastosowane prostego kodu nakazującego AI przetwarzać najbardziej podstawowe zbiory danych(chodzący lub biegający człowiek)...
Meno1986 Senator
Czujnik ruchu i czujnik podczerwieni, ustawiasz perymetr i działko wali do wszystkiego. A jak już musi być ten robot, to niech sobie chodzi w trybie patrolowania z punktu A, do punktu B wyposażony w taki sprzęt. Nie potrzeba żadnego AI.
SpookyYuuki Generał
Każde urządzenie które nie widzi człowieka nie będzie podejrzewać że człowiek ukrywa się pod czymś. Są tak zaprogramowane aby widziały człowieka bądź ruch. MythBusters sprawdzili to dawno temu. Aby oszukać czujnik ruchu wystarczy się bardzo powoli poruszać, aby oszukać czujnik ciepła wystarczy zarzucić na siebie prześcieradło. Aby oszukać urządzenie która wykrywa ludzi zakryj się czymś co nie przypomina człowieka. Sztuczna inteligencja się uczy. Jeśli nie to tylko durny algorytm, żadna inteligencja. Dopóki nie nauczą się podejrzliwości i podobnych cech nie ma mowy aby taka technologia była w stanie pokonać człowieka.
GRYOnline.pl:
tvgry.pl:
