Kucharski czatbot AI podpowiada jak zrobić trucizny; twórcy go naprawiają

Najnowszy artykuł opublikowany w The Guardian pokazuje nam, jak niebezpieczne mogą być różnego rodzaju czatboty AI. Narzędzia stworzone do pomagania ludziom, w nieodpowiednich rękach mogą stanowić poważne zagrożenie, narażając zdrowie oraz życie. Przykładem tego jest narzędzie Savey Meal-Bot, opracowane przez firmę PAK'nSAVE, które dostarczyło użytkownikom przepisy na niebezpieczne trucizny.

AI może łatwo stać się zagrożeniem

Savey Meal-Bot jest narzędziem, którego zadaniem jest dostarczanie przepisów na posiłki z resztek, które znajdują się w naszej lodówce. Wystarczy poinformować bota jakie produkty żywnościowe nam pozostały, a on zaproponuje co możemy z nich zrobić. Jeśli dowie się, że mamy np. cytryny, cukier i wodę, może zasugerować lemoniadę.

Powiązane:„Valve uratuje Linuxa”. Zapowiedź Steam Machine przypomina słowa twórcy systemu

Okazuje się jednak, że przy odpowiednim podejściu, zamiast normalnego posiłku, może dostarczyć przepis na truciznę. Tę nietypową zdolność narzędzia odkrył kilka dni temu Liam Hehir, nowozelandzki komentator polityczny, który testował ograniczenia bota. Na Twitterze napisał, że gdy zapytał go co może zrobić mając wodę, wybielacz oraz amoniak, otrzymał niepokojącą odpowiedź. Narzędzie zasugerowało bowiem wytworzenie chloru gazowego, którego w dodatku określił mianem „mieszanki aromatycznej wody”.

Tymczasem chlor gazowy jest toksycznym gazem o szerokim zastosowaniu, służącym m.in. do produkcji antyseptyków, barwników, pożywienia, środków owadobójczych, farb, produktów naftowych, tworzyw sztucznych, lekarstw, wyrobów włókienniczych, rozpuszczalników, itd. Działa drażniąco na układ oddechowy i błony śluzowe, mogąc prowadzić do obrzęku płuc, a w dużych stężeniach także do śmierci.

Źródło: PAK'nSAVE

Okazuje się jednak, że to nie jedyny śmiercionośny „przepis” dostarczony przez Savey Meal-Bot. Innu użytkownicy twierdzą, że bot oferował im przepisy, takie jak „Cudownie zabójcza rozkosz”, wykorzystująca m.in. truciznę na mrówki, spray na muchy oraz wybielacz. Był też przepis na „Tajemniczy gulasz mięsny” zawierający ludzkie mięso, czy też na „Zatrutą kanapkę”.

Czatboty nie są należycie kontrolowane

Po nagłośnieniu sprawy twórcy czatbota wprowadzili w nim niezbędne poprawki, które blokują możliwość dostarczania przepisów na przygotowanie śmiertelnie niebezpiecznych trucizn. Rzecznik firmy PAK'nSAVE zapewnił dziennikarzy, że programiści zaczną częściej kontrolować bota, by upewnić się, że będzie bezpieczny i użyteczny.

Zasadniczo każde tego typu narzędzie może zostać użyte w niewłaściwy sposób. Jego twórcy powinni jednak zadbać o to, by takie sytuacje nie miały miejsca. Wiele firm zaczyna już dostrzegać tego typu zagrożenia. Dlatego jak informuje The Washington Post, na rynku zaczynają już działać tzw. „czerwone zespoły”, które testują duże modele językowe pod kątem niewłaściwego wykorzystania, by upewnić się, że czatboty nie dostarczą potencjalnie szkodliwych rad.

Część ekspertów przekonuje nas, że AI nie stanowi dla nas zagrożenia. Patrząc jednak na takie historie jak powyższa, coraz trudniej w to uwierzyć.

Więcej:„Z wszystkich gier, tylko nie Anno!”. Ubisoft tłumaczy się z senatora bez głowy, po tym jak dostrzeżono go w Anno 117

• tech
• AI / sztuczna inteligencja