futurebeat.pl NEWSROOM Kucharski czatbot AI podpowiada jak zrobić trucizny; twórcy go naprawiają Kucharski czatbot AI podpowiada jak zrobić trucizny; twórcy go naprawiają Sztuczna inteligencja potrafi nam pomagać w codziennym życiu, ale także szkodzić, jeśli zostanie użyta w niewłaściwy sposób. Popularny czatbot dostarczający przepisy na smaczne posiłki, podał użytkownikom przepisy na groźne trucizny. techMarek Pluta11 sierpnia 2023 Źrodło fot. kalhh/Pixabayi Najnowszy artykuł opublikowany w The Guardian pokazuje nam, jak niebezpieczne mogą być różnego rodzaju czatboty AI. Narzędzia stworzone do pomagania ludziom, w nieodpowiednich rękach mogą stanowić poważne zagrożenie, narażając zdrowie oraz życie. Przykładem tego jest narzędzie Savey Meal-Bot, opracowane przez firmę PAK'nSAVE, które dostarczyło użytkownikom przepisy na niebezpieczne trucizny. AI może łatwo stać się zagrożeniemSavey Meal-Bot jest narzędziem, którego zadaniem jest dostarczanie przepisów na posiłki z resztek, które znajdują się w naszej lodówce. Wystarczy poinformować bota jakie produkty żywnościowe nam pozostały, a on zaproponuje co możemy z nich zrobić. Jeśli dowie się, że mamy np. cytryny, cukier i wodę, może zasugerować lemoniadę. Powiązane:Commodore 64 tworzy obrazy AI - potrzebuje 20 minut, aby wygenerować 64 piksele Okazuje się jednak, że przy odpowiednim podejściu, zamiast normalnego posiłku, może dostarczyć przepis na truciznę. Tę nietypową zdolność narzędzia odkrył kilka dni temu Liam Hehir, nowozelandzki komentator polityczny, który testował ograniczenia bota. Na Twitterze napisał, że gdy zapytał go co może zrobić mając wodę, wybielacz oraz amoniak, otrzymał niepokojącą odpowiedź. Narzędzie zasugerowało bowiem wytworzenie chloru gazowego, którego w dodatku określił mianem „mieszanki aromatycznej wody”. Tymczasem chlor gazowy jest toksycznym gazem o szerokim zastosowaniu, służącym m.in. do produkcji antyseptyków, barwników, pożywienia, środków owadobójczych, farb, produktów naftowych, tworzyw sztucznych, lekarstw, wyrobów włókienniczych, rozpuszczalników, itd. Działa drażniąco na układ oddechowy i błony śluzowe, mogąc prowadzić do obrzęku płuc, a w dużych stężeniach także do śmierci. Źródło: PAK'nSAVE Okazuje się jednak, że to nie jedyny śmiercionośny „przepis” dostarczony przez Savey Meal-Bot. Innu użytkownicy twierdzą, że bot oferował im przepisy, takie jak „Cudownie zabójcza rozkosz”, wykorzystująca m.in. truciznę na mrówki, spray na muchy oraz wybielacz. Był też przepis na „Tajemniczy gulasz mięsny” zawierający ludzkie mięso, czy też na „Zatrutą kanapkę”. Czatboty nie są należycie kontrolowanePo nagłośnieniu sprawy twórcy czatbota wprowadzili w nim niezbędne poprawki, które blokują możliwość dostarczania przepisów na przygotowanie śmiertelnie niebezpiecznych trucizn. Rzecznik firmy PAK'nSAVE zapewnił dziennikarzy, że programiści zaczną częściej kontrolować bota, by upewnić się, że będzie bezpieczny i użyteczny. Zasadniczo każde tego typu narzędzie może zostać użyte w niewłaściwy sposób. Jego twórcy powinni jednak zadbać o to, by takie sytuacje nie miały miejsca. Wiele firm zaczyna już dostrzegać tego typu zagrożenia. Dlatego jak informuje The Washington Post, na rynku zaczynają już działać tzw. „czerwone zespoły”, które testują duże modele językowe pod kątem niewłaściwego wykorzystania, by upewnić się, że czatboty nie dostarczą potencjalnie szkodliwych rad. Część ekspertów przekonuje nas, że AI nie stanowi dla nas zagrożenia. Patrząc jednak na takie historie jak powyższa, coraz trudniej w to uwierzyć. Czytaj więcej:AMD uprości nazewnictwo mobilnych procesorów, nadchodzi Ryzen AI POWIĄZANE TEMATY: tech AI / sztuczna inteligencja Marek Pluta Marek Pluta Od lat związany z serwisami internetowymi zajmującymi się tematyką gier oraz nowoczesnych technologii. Przez wiele lat współpracował m.in. z portalami Onet i Wirtualna Polska, a także innymi serwisami oraz czasopismami, gdzie zajmował się m.in. pisaniem newsów i recenzowaniem popularnych gier, jak również testowaniem najnowszych akcesoriów komputerowych. Wolne chwile lubi spędzać na rowerze, zaś podczas złej pogody rozrywkę zapewnia mu dobra książka z gatunku sci-fi. Do jego ulubionych gatunków należą strzelanki oraz produkcje MMO. Samsung Galaxy Z Fold 6 dostrzeżony w popularnym benchmarku Samsung Galaxy Z Fold 6 dostrzeżony w popularnym benchmarku Tak wygląda przyszłość lotnictwa? Airbus prezentuje połącznie samolotu i helikoptera Tak wygląda przyszłość lotnictwa? Airbus prezentuje połącznie samolotu i helikoptera UE przygląda się wyszukiwarce Bing i żąda od Microsoftu informacji na temat zagrożeń wynikających z wykorzystania AI UE przygląda się wyszukiwarce Bing i żąda od Microsoftu informacji na temat zagrożeń wynikających z wykorzystania AI Windows 11 otrzyma wsparcie dla dwóch popularnych formatów Windows 11 otrzyma wsparcie dla dwóch popularnych formatów Tesla nadal zmaga się z problemami. Ogłoszono kolejne zwolnienia Tesla nadal zmaga się z problemami. Ogłoszono kolejne zwolnienia