Istnieją cyberprzestępcy sprzedający niefiltrowane modele sztucznej inteligencji. Zaskakujące jest to, że wydają się być oparte na Grok i Mixtral

Sztuczna inteligencja stopniowo rozpowszechnia się w naszym życiu. Nie powinno więc dziwić, że korzystają z niej właściwie wszyscy – w tym również przestępcy. Duże modele językowe, ze względów bezpieczeństwa, posiadają jednak ograniczeni. Dlatego też w odmętach Internetu pojawiają się bardziej podejrzane alternatywy. Co ciekawe, wydają się być oparte na Grok i Mixtral (via Xataka).

Cała historia rozpoczęła się jeszcze w 2023 roku, kiedy to w sieci pojawił się WormGPT oparty na modelu GPT-J o otwartym kodzie źródłowym. Narzędzie to nie posiadało żadnych ograniczeń, więc pozwalało przestępcom na wykorzystanie je do właściwie każdego celu. Oczywiście dostęp do AI był płatny. Pierwotna wersja została zamknięta pod koniec tego samego roku, po tym jak dziennikarzom udało się ustalić tożsamość twórcy. Tutaj jednak historia się nie kończy. Na Telegramie pojawiły się bowiem

1. Pod koniec 2024 roku ukazał się xzin0vich-WormGPT, czyli pierwsza zmodyfikowana wersja modelu. Tym razem jednak bazowała ona na Mixtral.
2. Na początku 2025 roku pojawił się natomiast kolejny konkurent – keanu-WormGPT. Ten model ma uzyskiwać bezpośredni dostęp do API Grok i modyfikują komendy w taki sposób, by otrzymywać odpowiedzi na wszystkie zapytania.

Oczywiście to nie wszystko. Na przestrzeni lat pojawiło się bowiem wiele różnych modeli pozbawionych ograniczeń bezpieczeństwa. Wśród nich znajdziemy między innymi FraudGPT, DarkBERT i EvilGPT. Pozwalają w prosty sposób napisać skrypty do kradzieży danych czy też w łatwy sposób generować treść do maili wyłudzających dane. Można więc założyć, że w przyszłości będzie powstawać więcej takich narzędzi.

Powiązane:Microsoft Teams będzie teraz monitorować, kto tak naprawdę pracuje w biurze. I szef będzie mógł to w każdej chwili sprawdzić

Czasem również klasyczne modele językowe można oszukiwać przy pomocy odpowiednich komend. Warto tutaj przypomnieć chociażby sytuację, w której ChatGPT wcielając się w babcię podawał klucze aktywacyjne Windows.

Więcej:Amazon testuje okulary AI wśród swoich kurierów. „Amelia” pomoże w pracy i unikaniu agresywnych psów

• tech
• AI / sztuczna inteligencja