Szef OpenAI, firmy stojącej za ChatGPT, powiedział, że trzymanie pamięci w domowych komputerach to z globalnego punktu widzenia „całkiem okropna” sprawa. Internet zawrzał. Oczywiście jak to bywa w dzisiejszej sieci, klasycznie, gdzieś po drodze w kolejnych przekazach, nieco wypaczono kontekst jego wypowiedzi.
W sieci krąży grafika z Altmanem i dwiema kośćmi RAM-u, a pod nią podpis: szef OpenAI uważa, że posiadanie pamięci przez zwykłych ludzi to marnotrawstwo, a jej miejsce jest w centrach danych. Na reddicie r/PcBuild wątek dostał tytuł „Ludzie, nasz RAM jest bezużyteczny”, a w podobnej dyskusji na r/technology jeden z użytkowników zapowiedział, że swoje 64 GB Altman może mu najwyżej „wyrwać z martwych, zimnych rąk”. I tak jest to jedna z łagodniejszych reakcji.

Wpis profilu Pubity na X - w dobę ponad 15 milionów wyświetleń. Na zdjęciu kości Crucial BallistixX / @pubity
Cytat jest prawdziwy, ale wyrwany z kontekstu. Altman powiedział to w podcaście Cheeky Pint, który prowadzi John Collison, współzałożyciel Stripe’a, czyli firmy obsługującej płatności internetowe. W 29. minucie rozmowy pada:
„Z perspektywy globalnej alokacji to właściwie całkiem okropne, że każdy ma w swoim komputerze kawałek ograniczonych światowych zapasów DRAM-u, który jest używany przez 5 procent czasu. W tak ograniczonych warunkach chcesz maksymalnego wykorzystania w chmurze. A intuicja wielu ludzi podpowiada coś odwrotnego”.
Tak jak zaznaczyłem powyżej, kontekst jest jednak trochę inny niż ten powielany w mediach społecznościowych. Rozmowa dotyczyła niedoborów pamięci, a Collison dopytywał, dlaczego rynek wciąż nie odpowiedział na wysokie ceny. Altman przyznał, że z rozwiązaniami jest „źle”, i podał przykład tego, jak nieoczywisty bywa łańcuch dostaw: wielu ludzi uważa, że skoro są otwarte modele, to wszyscy będą puszczać sztuczną inteligencję na własnych komputerach, a centra danych przestaną być potrzebne. Szef OpenAI uważa, że to błąd, bo domowy sprzęt przez większość czasu stoi bezczynnie, a serwerownia pracuje non stop. Nie powiedział więc „oddajcie RAM ze swoich pecetów”. Powiedział raczej „nie róbcie AI u siebie, róbcie ją u nas”.
Skoro fakty mamy już wyprostowane, zostaje pytanie: czy to dużo lepiej? Raczej średnio. Altman kieruje firmą, która żyje ze sprzedawania dostępu do modeli w chmurze, a w ramach projektu Stargate podpisała z Samsungiem i SK Hynix listy intencyjne na nawet 900 tysięcy wafli krzemowych miesięcznie, czyli według szacunków Tom’s Hardware nawet 40 procent światowej produkcji DRAM-u. Kiedy ktoś taki przekonuje, że lokalna AI to marnotrawstwo, trudno o mniej bezinteresowną opinię.
Rynek zresztą już robi dokładnie to, do czego Altman namawia. Micron zamknął konsumencką markę Crucial, żeby produkcję oddać centrom danych (ironia losu: na viralowej grafice są kości Ballistix, czyli właśnie Microna, który tę gamingową serię skasował już w 2022 roku). Z dyskami jest tak samo: Kioxia sprzedała z góry całą tegoroczną produkcję NAND pod AI, a wiceprezes Silicon Motion, producenta kontrolerów SSD, mówi wprost, że detaliczny rynek dysków „niemal przestał istnieć”, bo producenci kości kierują większość pamięci do serwerowni, a Dell, HP i Lenovo biorą to, co zostanie. I nie jest to chwilowy stan. SK Hynix zapowiada, że popyt na pamięci będzie przewyższał podaż do końca 2030 roku, więc zwykły użytkownik ma przed sobą lata drogiego RAM-u i drogich SSD.
5

Autor: Przemysław Bartula
W 2000 roku dołączył do ekipy tworzącej serwis GRYOnline.pl i realizuje się w nim po dziś dzień. Zaczął od napisania kilku recenzji, a potem płynnie poszły newsy, wpisy encyklopedyczne i cała masa innych aktywności. Na przestrzeni 20 lat uczestniczył w tworzeniu niemal wszystkich działów i projektów firmy; przez lata piastował stanowisko szefa encyklopedii gier i szefa newsroomu, a ostatecznie trafił do zarządu firmy GRY-OnLine S.A. Obecnie jest dużo bardziej zaangażowany w aktywności zarządcze aniżeli redaktorskie. Posiada dyplom technika elektrotechnika i inżyniera budownictwa wodnego.