W Amazonie doszło do błędu, który kosztował firmę 1,8 miliona dolarów. AI wyłożyła się na podstawowym zadaniu, co zauważono dopiero po pięciu miesiącach.
Eksperymentowanie z narzędziami sztucznej inteligencji może się skończyć znacznym przekroczeniem budżetu. W Amazonie wydatki sięgnęły 860% zaplanowanej kwoty, gdy zaawansowany model AI zajmował się prostym zadaniem dla algorytmów. Dopiero po kilku miesiącach zauważono błąd, a Amazon uznał, że był to wyjątek, nie reguła.
Na początku tego roku Amazon wdrożył model AI Claude Sonnet do pracy nad rutynowym zadaniem. Polegało ono na uporządkowaniu katalogu książek przez przypisywanie ich do właściwych profili autorów. Okazało się, że sztuczna inteligencja zamiast po prostu sortować bazę danych, traktowała każdą kartę produktu jako blok tekstu do analizy, przez co Claude Sonnet wykorzystał 860% budżetu przeznaczonego na zadanie.
Łącznie Amazon musiał przeznaczyć na ten cel 1,8 miliona dolarów, ale nie jest to jedyny przypadek, ponieważ 541 tysięcy dolarów wydano na narzędzie do audytu finansowego oraz 134 tysiące dolarów na projekt systemu optymalizacji czasu dostaw. Sytuacje te pokazują, że kiedyś proste i tanie poprawki w skryptach stają się bardzo drogie, gdy AI bez nadzoru działa w podobnym obrębie.
Wewnątrz Amazona problem został przedstawiony jako mało znaczący, ponieważ jest to koszt nauki oraz eksperymentowania z nową technologią:
Jak w przypadku każdej nowej technologii eksperymentujemy, wyciągamy wnioski i doskonalimy sposoby jej wykorzystania, dbając przy tym o optymalizację kosztów.
Wybiórcze traktowanie pojedynczych, odosobnionych przypadków – na których nasze zespoły dopiero się uczą – i przedstawianie ich jako normy, zupełnie nie oddaje tego, jak faktycznie korzystamy z AI w całym Amazonie.
Dla firmy, której kwartalne przychody sięgają 181 miliardów dolarów, 1,8 miliona dolarów faktycznie może być „niewielkim wydatkiem, wartym poniesienia” w celu nauki poszczególnych zespołów. Nie wiadomo jednak ile podobnych przypadków nie wyszło na jaw, jak duże straty mogły one łącznie wygenerować. Prawdopodobnie najbardziej znanym takim przypadkiem jest awaria AWS z 2025 roku, za którą odpowiedzialna była sztuczna inteligencja.
Dziękujemy za przeczytanie artykułu.
Ustaw GRYOnline.pl jako preferowane źródło wiadomości w Google

Autor: Zbigniew Woźnicki
Przygodę z publicystyką i pisaniem zaczął w serwisie Allegro, gdzie publikował newsy związane z grami, technologią oraz mediami społecznościowymi. Wkrótce zawitał na GRYOnline.pl i Filmomaniaka, pisząc o nowościach związanych z branżą filmową. Mimo związku z serialami, jego serce należy do gier wszelakiego typu. Żaden gatunek mu nie straszny, a przygoda z Tibią nauczyła go, że niebo i muzyka w grach są całkowicie zbędne. Przed laty dzielił się swoimi doświadczeniami, moderując forum mmorpg.org.pl. Uwielbia ponarzekać, ale oczywiście konstruktywnie i z umiarem. Na forum pisze pod ksywką Canaton.