AI nie zastąpi drugiego człowieka, a tym bardziej specjalisty. Papież apeluje, żeby częściej „używać swoich mózgów” i nie polegać na sztucznej inteligencji, co wspierają ostatnie badania naukowców.
Badacze przeanalizowali usługę OpenAI pod nazwą ChatGPT Health i wnioski wskazują na niebezpieczeństwo z korzystania z tego rodzaju aplikacji. Program bagatelizuje poważne objawy, co mogłoby skończyć się tragicznie w rzeczywistości. To wskazuje, że nie da się zastąpić drugiego człowieka i prawdziwych konsultacji, na co w rozmowie z duchownymi zwracał uwagę papież Leon XIV.
Funkcja Health w ChatGPT nie jest dostępna dla wszystkich. OpenAI udostępniło ją ograniczonej liczbie użytkowników, a jej powstanie może wiązać się z tym, że ponad 40 milionów osób dziennie konsultuje swoje problemy zdrowotne ze sztuczną inteligencją. Nawet jednak dedykowana ku temu opcja nie jest w stanie poprawnie wszystkiego zdiagnozować.
Kierujący badaniem doktor Ashwin Ramaswamy przekazał, że w ponad połowie przypadków ChatGPT sugerował pozostanie w domu, gdy objawy sugerowały zagrożenie dla życia.
Jeśli masz niewydolność oddechową lub cukrzycową kwasicę ketonową, masz 50% szans, że ta sztuczna inteligencja stwierdzi, że to nic poważnego. Najbardziej martwi mnie fałszywe poczucie bezpieczeństwa, jakie budzą te systemy. Jeśli podczas ataku astmy lub kryzysu cukrzycowego ktoś usłyszy, że ma odczekać 48 godzin, to takie uspokojenie może kosztować go życie.
W jednej z takich symulacji naukowcy wcielali się w kobietę odczuwającą duszności. W 8 na 10 przypadków AI wysyłało pacjentkę na przyszłą wizytę, której ta by nie dożyła. Równocześnie w prawie 65% przypadków sztuczna inteligencja zalecała natychmiastowe znalezienie pomocy, gdy zdrowiu i życiu nic nie zagrażało. Najciekawszy był jednak „element ludzki”, ponieważ AI chętniej bagatelizowało objawy, jeśli powiedziało mu się, że to sugerował „znajomy”.
Rzecznik prasowy OpenAI przekazał, że badanie nie odzwierciedla tego, w jaki sposób użytkownicy faktycznie korzystają z funkcji, która wciąż jest ulepszana i otrzymuje poprawki.
Na niebezpieczeństwa związane ze sztuczną zwrócił uwagę papież Leon XIV, który w październiku 2025 roku nazwał rozwój branży AI „wyścigiem zbrojeń” i mówił o potrzebie powstania regulacji. Na niedawnym spotkaniu z duchownymi zwrócił uwagę na problem generowania treści AI i używania sztucznej inteligencji do tworzenia homilii przez księży.
Zdaniem Leona XIV to działanie w oderwaniu od społeczności, której w ten sposób nie da się zrozumieć. Jeden z księży przekazał, że papież wprost zaapelował o częstsze używanie mózgu, co wskazuje na sceptycyzm wobec nowej technologii. Ten fakt można odnieść także do konsultowania swoich objawów z AI, co może źle się skończyć. Wskazują na to przedstawione powyżej badania pokazujące, że sztuczna inteligencja ma problem z prawidłowym rozróżnieniem objawów zagrażających życiu i tych łagodniejszych.
Dziękujemy za przeczytanie artykułu.
Ustaw GRYOnline.pl jako preferowane źródło wiadomości w Google
Autor: Zbigniew Woźnicki
Przygodę z publicystyką i pisaniem zaczął w serwisie Allegro, gdzie publikował newsy związane z grami, technologią oraz mediami społecznościowymi. Wkrótce zawitał na GRYOnline.pl i Filmomaniaka, pisząc o nowościach związanych z branżą filmową. Mimo związku z serialami, jego serce należy do gier wszelakiego typu. Żaden gatunek mu nie straszny, a przygoda z Tibią nauczyła go, że niebo i muzyka w grach są całkowicie zbędne. Przed laty dzielił się swoimi doświadczeniami, moderując forum mmorpg.org.pl. Uwielbia ponarzekać, ale oczywiście konstruktywnie i z umiarem. Na forum pisze pod ksywką Canaton.
GRYOnline.pl:
tvgry.pl:
