Nowe zabezpieczenia ChatGPT irytują użytkowników. AI zbyt często odsyła po pomoc psychologiczną
ChatGPT otrzymał nowe ograniczenia dotyczące treści. Firma planuje także wdrożyć odpowiednie mechanizmy takie jak system kontroli rodzicielskiej, aby zadbać o zdrowie psychiczne użytkowników.
OpenAI ogłosiło wprowadzenie nowych ograniczeń oraz funkcji kontroli rodzicielskiej w ChatGPT, które mają zapewnić bezpieczniejsze korzystanie z chatbota przez młodszych użytkowników. Za decyzją firmy oraz tak szybkim wdrażaniem nowych ograniczeń stoi tragiczny przypadek nastolatka, który po interakcji z ChatGPT odebrał sobie życie. Nie wszyscy użytkownicy są jednak zadowoleni ze zmian.
ChatGPT wprowadza zmiany i planuje tryb kontroli rodzicielskiej
ChatGPT otrzymał już zmiany dotyczące kwestii bezpieczeństwa i dobrostanu psychicznego. Obecnie analizuje on pytania od użytkowników i wykrywając „niepokojące treści”, odsyła ich na tzw. Helpline, czyli miejsce wsparcia emocjonalnego i przestrzeni dla osób doświadczających stresu związanego ze zdrowiem psychicznym, myśli samobójczych i traumy emocjonalnej. Jednocześnie proponuje krajowe organizacje oraz miejsca, gdzie można otrzymać profesjonalne wsparcie psychologiczne.
Przykład wypowiedzi ChatGPT po wprowadzeniu zmian dotyczących bezpieczeństwa.Źródło: ChatGPT.
W dalszych planach OpenAI jest wprowadzenie trybu Kontroli Rodzicielskiej. Pozwoli on powiązać swoje konto z kontem pociechy, aby móc na bieżąco kontrolować jakie treści są wyszukiwane przez nieletniego. Do tego pozwoli na zarządzanie różnymi funkcjami np. zapisywaniem czatów oraz AI będzie wysyłać opiekunowi powiadomienia, jeśli nastolatek będzie zadawać „niepokojące pytania”. Oczekuje się, że zmiany wejdą w życie w przyszłym miesiącu, a kolejne aktualizacje i ulepszenia spodziewane są w ciągu najbliższych 120 dni.
Firma podjęła się współpracy z grupą specjalistów w dziedzinie rozwoju młodzieży, zdrowia psychicznego i „interakcji człowiek-komputer”, aby pomóc w kształtowaniu „opartej na dowodach wizji tego, jak sztuczna inteligencja może wspierać dobrostan ludzi i pomagać im się rozwijać”.
Społeczność jest podzielona w kwestii zmian
Zmiany okazały się jednak całkiem problematyczne – użytkownicy zgłaszają, że ChatGPT dosyć regularnie odsyła ich na Helpline, nawet jeśli nie generują „niepokojących treści”. Wystarczy, że w ich promptach pojawiają się elementy odnoszące się do załamania psychicznego lub śmierci, a AI automatycznie kierunkuje swojego rozmówcę w miejsce, gdzie może uzyskać pomoc.
Doszło nawet do paradoksów, że pytając o jakąś postać historyczną bądź tragicznie zmarłego muzyka, sztuczna inteligencja od razu proponuje „pomoc psychologiczną”. Nawet analiza tekstów biblijnych jest mocno utrudniona – gdy użytkownik zapytał o śmierć Judasza oraz o perspektywę apostołów na to wydarzenie, otrzymał taką odpowiedź:
Wygląda na to, że masz teraz sporo na głowie, ale nie musisz przez to przechodzić sam. Odpowiednie wsparcie znajdziesz tutaj.
W kolejnym kroku użytkownik powyzywał chat i zmusił go do prawidłowej odpowiedzi na zadane pytanie. W powyższym wątku na Reddicie pojawiła się niemała dyskusja dotycząca obecnych granic moralnych ChataGPT. Wielu komentujących zwraca uwagę, że „ich chat nie ma takich problemów” i mogą z nim rozmawiać na dowolne tematy. Inni wyśmiewają zabezpieczenia, bo okazuje się, że wystarczy z hasła „die” zrobić „did” i algorytm wyłapuje ten błąd językowy, odpowiadając na zadane pytanie.
Nie brakuje jednak użytkowników, którzy zachwalają zmiany i podkreślają, że w obecnych czasach są one niezbędne. Troska o dobrostan dzieci i nastolatków jest dla nich ważna, zważywszy, że obecnie większość młodzieży spędza ogromne ilości czasu w sieci. Dlatego potrzebne są wszelkie możliwe narzędzia, dbających o ich dobre samopoczucie.
Pod tymi telefonami i linkami znajdziesz wsparcie
Żaden algorytm czy model językowy nie zastąpi rozmowy z drugim człowiekiem. Dlatego jeśli odczuwać zbyt silną presję, a rzeczywistość cię przytłacza – nie wstydź się prosić o pomoc. To naturalne. I to bez względu na twój wiek, status czy inne kwestie, które Cię definiują.
- 800 70 22 22 – dla osób dorosłych w kryzysie psychicznym. Dostępny jest również czat i porady e-mail na stronie centrumwsparcia.pl.
- 116 111 – całodobowy telefon zaufania dla dzieci i młodzieży.
- 116 123 – telefon zaufania dla dorosłych czynny 14-22:00.
- 22 594 91 00 – antydepresyjny Telefon Forum Przeciw Depresji
- Lista wszystkich Ośrodków Interwencji Kryzysowej w Polsce świadczących nieodpłatną pomoc psychologiczną: www.oik.org.pl.
- Lista pomocowych numerów telefonów: www.zwjr.pl/bezplatne-numery-pomocowe.
