Użytkownicy nowego ChatGPT-4o przywiązują się emocjonalnie do bota. Firma OpenAI jest zaniepokojona
Użytkownicy ChatGPT-4o mogą przywiązywać się emocjonalnie do nowej wersji sztucznej inteligencji. OpenAI widzi w tym zagrożenie i stwierdza, że takie zachowania nie powinny mieć miejsca.
Relacja emocjonalna oraz romantyczna pomiędzy człowiekiem i maszyną jest znanym tematem w gatunku science-fiction. Aktualnie możemy być coraz bliżej zrealizowania wspomnianej wizji w rzeczywistości, co pokazuje dokument udostępniony przez OpenAI. Firmę zaniepokoiło zbytnie przywiązanie użytkowników programu ChatGPT-4o do sztucznej inteligencji (vide OpenAI).
Miłość od pierwszego prompta
W opublikowanym 8 sierpnia dokumencie OpenAI porusza kilka wątków, dotyczących działania i wykorzystania sztucznej inteligencji firmy. ChatGPT-4o posiada większe możliwości od poprzednich wersji i może się wydawać, że są nawet zbyt duże. Ujawnia to rozdział zatytułowany Anthropomorphization and emotional reliance, który opisuje przywiązanie emocjonalne użytkowników do bota.
W trakcie testów zwrócono uwagę na słowa, których użytkownicy używali podczas rozmowy ze sztuczną inteligencją. Część z nich zdradzał emocjonalne zabarwienie, jak zdania „To nasz ostatni dzień razem”. Takie zachowanie może być niebezpieczne dla relacji międzyludzkich. Osoby przywiązujące się do sztucznej inteligencji w dłuższym terminie mogłyby minimalizować swoją potrzebę kontaktu z drugim człowiekiem.
Dyskusje ze sztuczną inteligencją mogą także w negatywny sposób rozwijać umiejętność konwersacji. W rozmowie z botem to użytkownik decyduje o wszystkim i jeśli chce, może przerwać, żeby przekierować wymianę zdań w inną stronę. W trakcie dyskusji z prawdziwym człowiekiem takie zachowanie mogłoby zostać uznane za przynajmniej niegrzeczne.
ChatGPT-4o posiada funkcję, która pozwala mu w sztuczny sposób zapamiętywać poprzednie konwersacje z użytkownikiem. Dzięki temu między innymi jest w stanie kończyć zadania za rozmówcę, ale i wpływa to na emocjonalne przywiązanie do bota. OpenAI planuje długotrwałe obserwacje, które pozwolą wyciągnąć dokładniejsze wnioski związane z tworzeniem relacji pomiędzy człowiekiem, a botem.
Komentarze czytelników
GRYOnline.pl:
tvgry.pl:
