Badacze udowodnili, że sztuczną inteligencję można zoptymalizować. Model AI udało się uruchomić na komputerze z 1997 roku z systemem Windows 98.
Centra danych zasilające modele sztucznej inteligencji potrzebują dużej przestrzeni, zasilania oraz systemów chłodzenia, które ważą kilka ton. Google pracuje nad zoptymalizowaniem zużycia RAM-u przy użyciu technologii TurboQuant, ale badacze pokazali już wcześniej, że model AI da się uruchomić na prawie 30-letnim komputerze z zainstalowanym Windowsem 98.
Gdy programiści byli znacznie bardziej ograniczeni konfiguracjami komputerów, musieli wykazać się większą pomysłowością. Do tych wymagających czasów lat 90. cofnęli się programiści EXO Labs w grudniu 2024 roku, gdy postawili przed sobą zadanie opracowania modelu AI na komputer z 1997 roku, co udało się wykonać.
LLM (Large Language Model) oparty na kodzie Llama od Mety został przeprogramowany na potrzeby sprzętu z 128 MB pamięci RAM i procesorem Intel Pentium II o taktowaniu 350 MHz. Wyzwaniem było nawet przeniesienie plików na komputer, ponieważ nie obsługiwał on jeszcze pamięci USB. Ostatecznie cel, czyli uruchomienie AI, udało się osiągnąć dzięki architekturze BitNet.
Rozwiązanie przygotowane przez programistów Microsoftu pozwoliło badaczom zmodyfikować sposób, jaki sztuczna inteligencja przechowuje dane. Zamiast wykorzystywać format 16- lub 32-bitowy EXO Labs wykorzystało wagi przyjmujące wyłącznie trzy wartości: -1, 0 oraz 1. Dzięki temu procesor nie musiał wykonywać zaawansowanych operacji mnożenia, a zamiast tego skupiał się na odejmowaniu i dodawaniu, co zmniejszyło obciążenie całego systemu.
Powyższa metoda nie wystarczyła, dlatego programiści napisali od zera silnik, a następnie skompilowali go za pomocą Borland C++ 5.02, ponieważ Intel Pentium II nie byłby w stanie wykorzystać nowoczesnych kompilatorów.
Zaprojektowany w ten sposób model sztucznej inteligencji był prosty w porównaniu ze współczesnymi modelami, ponieważ miał około 260 tysięcy parametrów (wirtualnych neuronów AI), podczas gdy Claude Opus 4.7 lub ChatGPT-5.5 mają ich po kilka bilionów. Eksperyment sprzed prawie dwóch lat pokazał jednak, że odpowiednia optymalizacja u samych podstaw modelu AI pozwala odchudzić sztuczną inteligencję i może być kierunkiem rozwoju niewielkich lokalnych modeli na urządzeniach, które wydają się przestarzałe.
Dziękujemy za przeczytanie artykułu.
Ustaw GRYOnline.pl jako preferowane źródło wiadomości w Google
Autor: Zbigniew Woźnicki
Przygodę z publicystyką i pisaniem zaczął w serwisie Allegro, gdzie publikował newsy związane z grami, technologią oraz mediami społecznościowymi. Wkrótce zawitał na GRYOnline.pl i Filmomaniaka, pisząc o nowościach związanych z branżą filmową. Mimo związku z serialami, jego serce należy do gier wszelakiego typu. Żaden gatunek mu nie straszny, a przygoda z Tibią nauczyła go, że niebo i muzyka w grach są całkowicie zbędne. Przed laty dzielił się swoimi doświadczeniami, moderując forum mmorpg.org.pl. Uwielbia ponarzekać, ale oczywiście konstruktywnie i z umiarem. Na forum pisze pod ksywką Canaton.
GRYOnline.pl:
tvgry.pl:
