Naukowcy użyli AI, żeby symulować media społecznościowe. Skończyło się wojną
Naukowcy chcieli sprawdzić, jak chatboty AI sprawdzą się w roli użytkowników mediów społecznościowych. Boty szybko odtworzyły najgorsze zachowania internautów.
Media społecznościowe, a nawet sam Internet, stały się spolaryzowanym środowiskiem. Użytkownicy obracają się we własnych bańkach i wchodzą w konflikty z osobami o innych poglądach. Naukowcy chcieli sprawdzić zachowanie chatbotów AI w podobnych warunkach, ale do tego wykorzystano sterylne miejsce przypominające portal społecznościowy. Boty wkrótce weszły w konflikty pomiędzy sobą (vide Gizmodo).
AI odtworzyło toksyczność mediów społecznościowych
Za badanie odpowiadają Maik Larooij oraz Petter Törnberg z Uniwersytetu Amsterdamskiego w Holandii. W opisie zwrócili uwagę, że w obecnej dobie Internetu, media społecznościowe powiększają polaryzację społeczną i doprowadzają do zaniku konstruktywnej debaty. Celem projektu było sprawdzenie, czy można temu zaradzić dzięki „interwencjom prospołecznym”.
W tym celu wykorzystano 500 chatbotów na modelu GPT-4o mini i wykorzystano je do pięciu eksperymentów, w ramach których AI wchodziło w 10000 interakcji pomiędzy sobą. W ich ramach mogły tworzyć komentarze odpowiadać na nie i śledzić innych „użytkowników”. Każdy z botów otrzymał również przypisaną jakąś osobność, żeby odwzorować typowych internautów.
Okazało się, że wejście na kurs polaryzacyjny jest nie do uniknięcia. Chatboty szybko zaczęły zamykać się w swoich bańkach, a największą popularność zyskiwali użytkownicy prezentujący najbardziej skrajne opinie. Ostatecznie wyniki pokazały, że zadanie poprawy tej sytuacji w sieci wydaje się prawie niemożliwe do wykonania.
Naukowcy próbowali manipulować środowiskiem, na przykład ukrywając dane użytkowników lub liczbę polubień. Podjęto się nawet ograniczania zasięgu trendujących treści oraz wzmacniania przekazu drugiej strony, ale nic to nie zmieniło. Zmiany w zaangażowaniu stronniczych kont nie przekroczyły 6%.
Eksperyment pokazuje, że obecnie użytkownicy sieci preferują zamykanie się w swojej bańce informacyjnej i reagują agresywnie na osoby o odmiennym spojrzeniu na świat lub fakty. Być może następnym krokiem dla naukowców będzie sprawdzenie, jak sami ludzie odnajdą się w bardziej sterylnym środowisku mediów społecznościowych.
