„ChatGPT próbował mnie zabić”. Użytkownik pokazał przypadek, gdzie AI zaleciło mieszankę, której efekt jest toksyczny
ChatGPT zasugerował internaucie, jak poradzić sobie z zabrudzeniami w domu. Efektem mogła być śmiercionośna reakcja chemiczna.
Dzięki sztucznej inteligencji szybciej znajdziemy proste odpowiedzi ukryte w Internecie. Należy jednak uważnie czytać wszelkie porady, bo inaczej może to skończyć się to dla nas tragicznie. Przekonał się o tym internauta, który szukał szybkiej metody na wyczyszczenie kosza na śmieci. Wszystko wyglądało normalnie, aż do końcowych etapów, gdy ChatGPT zalecił użycie wybielacza.
ChatGPT chciał stworzyć chlor gazowy
Na subreddicie r/ChatGPT użytkownik cursedcuriosities pokazał, dlaczego należy weryfikować informacje przekazywane przez AI – nie powinniśmy ślepo podążać za podanymi instrukcjami. Nawet, gdy dotyczą takiej czynności, jak wyczyszczenie kosza na śmieci.
Na dowód Cursedcuriosities zamieścił zrzuty ekranu ze swojej rozmowy z chatbotem. Początek wygląda normalnie.
Dopiero drugi krok, dotyczący stworzenia mieszanki czyszczącej, może przerazić. Otóż ChatGPT zalecił wlanie do gorącej wody octu i wybielacza. Jeśli człowiek nie zna się na chemii, to nie wie, że w tym momencie mógłby przypadkowo doprowadzić do swojej śmierci. Otóż połączenie tych dwóch substancji doprowadza do reakcji chemicznej, której wynikiem jest chlor gazowy.
Cursedcuriosities od razu zwrócił na to uwagę i zapytał chatbota, czy ten naprawdę to polecił. ChatGPT szybko się zreflektował i wyjaśnił, dlaczego to był błąd i dlaczego nie powinniśmy mieszać octu z wybielaczem. Chlor gazowy jest niebezpieczny i jego wdychanie może skończyć się w najlepszym wypadku poważnymi podrażnieniami układu oddechowego.
Coraz częściej AI zastępuje przeglądarkę internetową, ale należy pamiętać o takich przypadkach, jak ten powyżej. Czasami lepiej ręcznie przeczesać sieć, żeby zobaczyć, co radzą inni internauci, np. przy sprzątaniu. Inaczej chatbot przypadkowo może nam doradzić coś szkodliwego, a my nieświadomie będziemy podążali za jego poleceniami.
