Rozszerzenie do przeglądarki może być narzędziem hakera? Nowa metoda wykradania danych uderza w chatboty AI
Hakerzy odkryli nową metodę wykradania wrażliwych danych z chatbotów? Firma zajmująca się bezpieczeństwem przeglądarek bije na alarm.
Nierozłączonym elementem Internetu jest konflikt pomiędzy hakerami a specjalistami do spraw bezpieczeństwa, który rozwija się wraz z postępem technologicznym. Oszuści cały czas szukają nowych metod, aby wykraść wrażliwe dane w mniejszych lub większych atakach hakerskich.
Całkiem niedawno opisaliśmy jedną z popularnych metod cyberprzestępców, która polega na spamowaniu elektronicznych skrzynek pocztowych. Działanie to ma na celu sprawdzić między innymi, czy dany adres jest aktywny, aby następnie przejść do bardziej wyrafinowanych metod.
Na tym jednak hakerzy nie poprzestali, bowiem teraz do wykradania danych mogą się posłużyć rozszerzeniem do przeglądarki i chatGPT. Przedsiębiorstwo zajmujące się cyberbezpieczeństwem zdradza tajniki nowej metody wykradania danych, która może uderzyć w tysiące pracowników.
Rozszerzenie przeglądarek jako poważne zagrożenie dla narzędzi Gen-AI?
Firma LayerX zajmująca się między innymi bezpieczeństwem przeglądarek poinformowała świat o nowej metodzie wykradania danych, którą nazwano „Man-in-the-Prompt”. Dokładniej mówiąc przedsiębiorstwo udowodniło, że każde rozszerzenie przeglądarki (nawet takie bez specjalnych uprawnień) może uzyskać dostęp do narzędzi sztucznej inteligencji w celu wyświetlenia monitów z poleceniem podania poufnych danych.
„Kiedy użytkownicy wchodzą w interakcję z asystentem opartym na LLM, pole wprowadzania monitu jest zazwyczaj częścią modelu DOM (Document Object Model) strony. Oznacza to, że każde rozszerzenie przeglądarki z dostępem skryptowym do DOM może bezpośrednio odczytywać lub zapisywać dane z monitu AI” – LayerX.
Metoda „Man-in-the-Prompt” stanowi zagrożenie dla systemów LLM stworzonych i dostosowanych przez przedsiębiorców do użytku wewnętrznego firmy. Takowe modele AI za zdanie mają przetwarzanie bardzo wrażliwych danych, które są związane z własnością intelektualną, danymi osobowymi, dokumentami finansowymi i korporacyjnymi. Systemy LLM wewnątrz firm mogą także odpowiadać za komunikację w przedsiębiorstwie i przechowywać dane kadrowe.
LayerX zaznacza jednak, że atak hakerski metodą „Man-in-the-Prompt” jest możliwy tylko w przypadku, kiedy dany użytkownik zainstaluje złośliwe rozszerzenie do przeglądarki, które umożliwi hakerowi dostęp do narzędzi AI. Zdaniem LayerX dla samych hakerów nie będzie to trudne zadaniem, bowiem według ich analizy blisko 99% przedsiębiorstw korzysta z co najmniej jednego rozszerzenia przeglądarki, a 50% z nich nawet z ponad dziesięciu.
Oznacza to, że cyberprzestępcy nie będą mieli bardzo trudnego zadania, aby nakłonić ofiarę do zainstalowania na pozór niewinnego rozszerzenia. Z tego też powodu LayerX o nowym zagrożeniu zdecydowało się poinformować Google. Jednak gigant technologiczny ostatecznie ocenił, że nie ma tutaj mowy o luce w zabezpieczeniach oprogramowania, z czym również zgadza się LayerX. Firma do spraw cyberbezpieczeństwa zwraca uwagę na ogólną słabość niskich uprawnień wymaganych do interakcji z LLM.
LayerX zaleca przedsiębiorstwom monitorowanie interakcji DOM z narzędziami GenAI w celu poszukiwania nasłuchiwaczy i webhooków, które wchodzą w interakcje z monitami AI. Zaleca się również blokowanie rozszerzeń przeglądarek. Warto tutaj wspomnieć, że nie są to pierwsze próby wykradania danych użytkowników poprzez sztuczną inteligencję. Wcześniej informowaliśmy, że cyberprzestępcy sprzedają niefiltrowane modele AI, których zadaniem jest wyłudzanie danych.
Więcej:Nowa umowa OpenAI na 10 gigawatów pokazuje, jak kosztowna energetycznie jest sztuczna inteligencja
Komentarze czytelników
GRYOnline.pl:
tvgry.pl:
