Gracz przerobił swoje PlayStation 5 w serwer do uruchamiania lokalnego modelu AI. Konstrukcja konsoli pozwoliła zrobić to, co normalnie wymagałoby drogiej karty graficznej.
Jailbreak PlayStation 5 służy nie tylko do instalowania „sklepu” z pirackimi wersjami gier. Jeden z internautów postanowił wykorzystać zhakowaną konsolę Sony w inny sposób i przemienił ją w domowy serwer AI. Zunifikowana konstrukcja PS5 pozwala na uruchomienie lokalnego modelu sztucznej inteligencji, który w teorii wymagałby więcej pamięci VRAM niż dysponuje tym konsola.
Na subreddicie r/ps5homebrew metover pokazał, w jaki sposób można przerobić zhakowane PlayStation 5. Nie ograniczał się do instalowania nielegalnego sklepu z grami, który zaraz może zlikwidować Sony walczące obecnie z piratami. Stworzył port pozwalający uruchomić lokalne modele AI, jak Qwen, Llama, Mistral i Gemma bez podłączania sprzętu do internetu.
Początkowy projekt ograniczał pamięć do 6 GB. Jednak inny użytkownik, AdIllustrious7246, przeniósł llama.cpp na natywną aplikację używając API Vulkan, co zwiększyło pulę do 11,4 GB. Pozwoliło to wgrać model Qwen3.8-27B, który w 16-bitowej precyzji wymaga 54 GB. Wykorzystano w tym celu 2-bitową kwantyzację, co skompresowało rozmiar modelu do zaledwie 6,8 GB i pozwoliło ominąć limity systemowe.

Zostawia to przestrzeń na działanie systemu operacyjnego konsoli. To nie jedyna teoretyczna przeszkoda. Tak potężny model sztucznej inteligencji wymagałby drogiej karty graficznej, na przykład RTX-a 5090, który ma 32 GB pamięci VRAM. Powodem są rozdzielone pule pamięci między GPU a CPU, które korzysta z RAM-u zamontowanego na płycie głównej.
PlayStation 5 ma jednak zunifikowaną pamięć 16 GB, którą współdzielą GPU i CPU. Daje to błyskawiczny dostęp do przydzielonej puli RAM-u, co pozwala modelowi szybko przeprowadzać wymagane obliczenia. Dzięki modyfikacjom AdIllustrious7246 model 27B w pełni działa, generując 20,9 tokena na sekundę przy 100% obciążeniu GPU. Mniejsze warianty, jak Llama 3.2 3B, osiągają 124 tokeny na sekundę.
1

Autor: Zbigniew Woźnicki
Przygodę z publicystyką i pisaniem zaczął w serwisie Allegro, gdzie publikował newsy związane z grami, technologią oraz mediami społecznościowymi. Wkrótce zawitał na GRYOnline.pl i Filmomaniaka, pisząc o nowościach związanych z branżą filmową. Mimo związku z serialami, jego serce należy do gier wszelakiego typu. Żaden gatunek mu nie straszny, a przygoda z Tibią nauczyła go, że niebo i muzyka w grach są całkowicie zbędne. Przed laty dzielił się swoimi doświadczeniami, moderując forum mmorpg.org.pl. Uwielbia ponarzekać, ale oczywiście konstruktywnie i z umiarem. Na forum pisze pod ksywką Canaton.