„ChatGPT próbował mnie zabić”. Użytkownik pokazał przypadek, gdzie AI zaleciło mieszankę, której efekt jest toksyczny

Dzięki sztucznej inteligencji szybciej znajdziemy proste odpowiedzi ukryte w Internecie. Należy jednak uważnie czytać wszelkie porady, bo inaczej może to skończyć się to dla nas tragicznie. Przekonał się o tym internauta, który szukał szybkiej metody na wyczyszczenie kosza na śmieci. Wszystko wyglądało normalnie, aż do końcowych etapów, gdy ChatGPT zalecił użycie wybielacza.

ChatGPT chciał stworzyć chlor gazowy

Na subreddicie r/ChatGPT użytkownik cursedcuriosities pokazał, dlaczego należy weryfikować informacje przekazywane przez AI – nie powinniśmy ślepo podążać za podanymi instrukcjami. Nawet, gdy dotyczą takiej czynności, jak wyczyszczenie kosza na śmieci.

Na dowód Cursedcuriosities zamieścił zrzuty ekranu ze swojej rozmowy z chatbotem. Początek wygląda normalnie.

Źródło: Reddit

Dopiero drugi krok, dotyczący stworzenia mieszanki czyszczącej, może przerazić. Otóż ChatGPT zalecił wlanie do gorącej wody octu i wybielacza. Jeśli człowiek nie zna się na chemii, to nie wie, że w tym momencie mógłby przypadkowo doprowadzić do swojej śmierci. Otóż połączenie tych dwóch substancji doprowadza do reakcji chemicznej, której wynikiem jest chlor gazowy.

Powiązane:YouTube Premium po raz kolejny drożeje w Polsce. Dotyczy to jednak tylko jednego grona użytkowników

Cursedcuriosities od razu zwrócił na to uwagę i zapytał chatbota, czy ten naprawdę to polecił. ChatGPT szybko się zreflektował i wyjaśnił, dlaczego to był błąd i dlaczego nie powinniśmy mieszać octu z wybielaczem. Chlor gazowy jest niebezpieczny i jego wdychanie może skończyć się w najlepszym wypadku poważnymi podrażnieniami układu oddechowego.

Coraz częściej AI zastępuje przeglądarkę internetową, ale należy pamiętać o takich przypadkach, jak ten powyżej. Czasami lepiej ręcznie przeczesać sieć, żeby zobaczyć, co radzą inni internauci, np. przy sprzątaniu. Inaczej chatbot przypadkowo może nam doradzić coś szkodliwego, a my nieświadomie będziemy podążali za jego poleceniami.

Więcej:Kłujkę martwego komara wykorzystano jako dyszę w precyzyjnym druku 3D. Badacze pokazali, jak „nekrodruk” może obniżyć koszty

• tech
• AI / sztuczna inteligencja
• chatboty / ChatGPT