Szef OpenAI, firmy stojącej za ChatGPT, powiedział, że trzymanie pamięci w domowych komputerach to z globalnego punktu widzenia „całkiem okropna” sprawa. Internet zawrzał. Oczywiście jak to bywa w dzisiejszej sieci, reakcje są przesadzone, a cała sprawa nieco wyolbrzymiona, bo klasycznie, gdzieś po drodze w kolejnych przekazach, wypaczono kontekst.
W sieci krąży grafika z Altmanem i dwiema kośćmi RAM-u, a pod nią podpis: szef OpenAI uważa, że posiadanie pamięci przez zwykłych ludzi to marnotrawstwo, a jej miejsce jest w centrach danych. Na reddicie r/PcBuild wątek dostał tytuł „Ludzie, nasz RAM jest bezużyteczny”, a w podobnej dyskusji na r/technology jeden z użytkowników zapowiedział, że swoje 64 GB Altman może mu najwyżej „wyrwać z martwych, zimnych rąk”. I tak jest to jedna z łagodniejszych reakcji.

Wpis profilu Pubity na X - w dobę ponad 15 milionów wyświetleń. Na zdjęciu kości Crucial BallistixX / @pubity
Cytat jest prawdziwy, ale wyrwany z kontekstu. Altman powiedział to w podcaście Cheeky Pint, który prowadzi John Collison, współzałożyciel Stripe’a, czyli firmy obsługującej płatności internetowe. W 29. minucie rozmowy pada:
„Z perspektywy globalnej alokacji to właściwie całkiem okropne, że każdy ma w swoim komputerze kawałek ograniczonych światowych zapasów DRAM-u, który jest używany przez 5 procent czasu. W tak ograniczonych warunkach chcesz maksymalnego wykorzystania w chmurze. A intuicja wielu ludzi podpowiada coś odwrotnego”.
Tak jak zaznaczyłem powyżej, kontekst jest jednak trochę inny niż ten powielany w mediach społecznościowych. Rozmowa dotyczyła niedoborów pamięci, a Collison dopytywał, dlaczego rynek wciąż nie odpowiedział na wysokie ceny. Altman przyznał, że z rozwiązaniami jest „źle”, i podał przykład tego, jak nieoczywisty bywa łańcuch dostaw: wielu ludzi uważa, że skoro są otwarte modele, to wszyscy będą puszczać sztuczną inteligencję na własnych komputerach, a centra danych przestaną być potrzebne. Szef OpenAI uważa, że to błąd, bo domowy sprzęt przez większość czasu stoi bezczynnie, a serwerownia pracuje non stop. Nie powiedział więc „oddajcie RAM ze swoich pecetów”. Powiedział raczej „nie róbcie AI u siebie, róbcie ją u nas”.
Skoro już wyprostowaliśmy fakty, to pozostaje pytanie. Czy to dużo lepiej? Raczej średnio. Szef firmy, która żyje ze sprzedawania dostępu do modeli w chmurze, przekonuje, że lokalna AI to marnotrawstwo. Trudno o mniej bezinteresowną opinię. Do tego OpenAI ma w tej sprawie swój interes. W ramach projektu Stargate firma podpisała z Samsungiem i SK Hynix listy intencyjne na nawet 900 tysięcy wafli krzemowych miesięcznie, co według szacunków Tom’s Hardware odpowiada nawet 40 procentom światowej produkcji DRAM-u. Mówi to więc ktoś, kto sam jest jednym z powodów, dla których pamięć drożeje.
A drożeje bardzo, o czym każdy, kto składał ostatnio peceta, wie aż za dobrze. Micron zamknął konsumencką markę Crucial, żeby produkcję oddać centrom danych, a SK Hynix zapowiada, że popyt na pamięci będzie przewyższał podaż do końca 2030 roku. Ironia losu: na viralowej grafice są kości Ballistix, czyli właśnie Microna, który tę gamingową serię skasował już w 2022 roku.
Słowa o 5 procentach wykorzystania można by zresztą odwrócić. Mój RAM pracuje wtedy, kiedy ja tego chcę: w grze, w montażu, w czterdziestu kartach przeglądarki. Nie muszę za to płacić abonamentu ani czekać w kolejce do serwera. Dla gracza to nie jest „nieefektywna alokacja”. To po prostu komputer.
2

Autor: Przemysław Bartula
W 2000 roku dołączył do ekipy tworzącej serwis GRYOnline.pl i realizuje się w nim po dziś dzień. Zaczął od napisania kilku recenzji, a potem płynnie poszły newsy, wpisy encyklopedyczne i cała masa innych aktywności. Na przestrzeni 20 lat uczestniczył w tworzeniu niemal wszystkich działów i projektów firmy; przez lata piastował stanowisko szefa encyklopedii gier i szefa newsroomu, a ostatecznie trafił do zarządu firmy GRY-OnLine S.A. Obecnie jest dużo bardziej zaangażowany w aktywności zarządcze aniżeli redaktorskie. Posiada dyplom technika elektrotechnika i inżyniera budownictwa wodnego.