1140 kont botów - X ofiarą nawałnicy postów pisanych przez ChatGPT
ChatGPT jest coraz chętniej wykorzystywany przez przestępców. Naukowcy ze Stanów Zjednoczonych odkryli botnet bazujący na popularnym czatbocie, którego wykorzystywano do oszustw związanych z kryptowalutami.
ChatGPT to bardzo użyteczne narzędzie o szerokim zastosowaniu, które może dostarczyć danych do pracy naukowej, a także pomóc w pisaniu wypracowania. Niepokojące jest jednak to, że coraz częściej wykorzystują go przestępcy. Jak informuje serwis Wired, grupa badaczy z Uniwersytetu Indiany w Bloomington odkryła botnet działający na platformie X (dawny Twitter), który wykorzystywał popularną AI stworzoną przez firmę OpenAI.
ChatGPT zarządzający botnetem
Według badaczy, botnet o nazwie Fox8 składał się z 1140 kont, które wykorzystywały ChatGPT do generowania postów oraz odpowiadania na wpisy użytkowników. Działania te miały na celu zachęcenie internautów do odwiedzenia stron promujących kryptowaluty.
Filippo Menczer, profesor na Uniwersytecie Indiany będący jednym z autorów badań podkreśla, że choć botnet szybko się rozrastał, to trudno uznać go za wyrafinowany system. Stąd też jego wykrycie było bardzo proste. Badacze znaleźli go podczas przeszukiwania platformy X pod kątem charakterystycznej frazy „Jako model języka sztucznej inteligencji…”, którą czatbot czasem wykorzystuje do podpowiedzi dotyczących drażliwych tematów. Następnie przeprowadzili dokładniejszą analizę podejrzanych kont, by ustalić które były obsługiwane przez bota.
Zdaniem profesora, wykrycie bota okazało się łatwe także dlatego, że jego twórcy najwyraźniej nie byli obeznani w obsłudze takich systemów. Uważa bowiem, że prawidłowo skonfigurowany botnet oparty na ChatGPT byłby niezwykle trudny do wykrycia. Stałby się wówczas lepszy w oszukiwaniu użytkowników i skuteczniejszy w wykorzystywaniu algorytmów używanych do ustalania priorytetów treści w mediach społecznościowych.
Platforma X poligonem doświadczalnym dla złośliwych botów
Badacz uważa, że platforma X może być doskonałym poligonem doświadczalnym dla takich narzędzi. Odkąd Elon Musk przejął dawnego Twittera, liczba złośliwych botów w tym serwisie znacznie wzrosła. Niestety ze względu na niedawny znaczny wzrost kosztów korzystania z API, specjalistom jest coraz trudniej badać ten problem. Może to więc oznaczać, że w przyszłości będzie ich znacznie więcej.
Po tym, gdy naukowcy opublikowali artykuł, platforma X usunęła botnet Fox8. Można jednak założyć, że pojawi się pod inną nazwą i będzie lepiej dopracowany, by trudniej było go wykryć. Poza tym sami badacze nie zamierzają już informować firmy o nowych odkryciach, ponieważ ich zdaniem nie przynosi to żadnego efektu. Portal reaguje zbyt wolno na tego typu zgłoszenia, co prawdopodobnie wynika z braku personelu.
Doniesienia naukowców są bardzo niepokojące, ponieważ sugerują, że na platformie X może zaroić się od botnetów, które będą rozpowszechniały dezinformację oraz służyły do oszustw. Natomiast brak szybkiej reakcji ze strony administratorów serwisu na pojawianie się takich narzędzi jeszcze bardziej pogłębi problem. Spowoduje bowiem, że trudno będzie ufać publikowanym treściom, co może mieć negatywny wpływ na liczbę użytkowników tej platformy.
