Superkomputery Google A3 będą używać układów graficznych Nvidii

Podczas wczorajszego wydarzenia Google I/O firma omówiła swój model językowy PaLM 2, którego używa chatbot Bard (bezpośredni rywal ChatGPT). Sztuczna inteligencja ma być używana w wielu usługach Google, nie tylko w przeglądarce, ale także na Mapach Google, Zdjęciach Google i w Gmailu. Aby obsłużyć miliardy zapytań użytkowników, nawet tak prozaicznych, jak napisanie maila, potrzebna jest potężna moc obliczeniowa. AI Google będzie wykorzystywać superkomputery A3 do działania, wyposażone w procesory Xeon i układy graficzne Nvidia A100.

Intel Xeon i Nvidia H100

Google A3 to potężne maszyny posiadające procesory Intel Xeon Scalable 4 na pokładzie. Korzystają one z 2 TB pamięci DDR5-4800 i ośmiu procesorów graficznych Nvidia H100, a wyjątkową przepustowość 3,6 TB/s osiągają dzięki wykorzystaniu technologii NVLink 4.0 i NVSwitch.

Karta graficzna Nvidia H100. Źródło: Nvidia

Według Google w maszynach A3 zastosowano interfejs danych GPU-to-GPU o nazwie IPU, który pozwala na udostępnianie danych z prędkością 200 Gb/s bez użycia CPU hosta. Interfejs ten jest dostępny na maszynach wirtualnych A3 i zapewnia 10-krotnie większą przepustowość sieci w porównaniu z maszynami A2.

Maszyny A3 mogą zaoferować 26 exaFlopów mocy obliczeniowej. Tak duża wydajność będzie potrzebna, aby obsłużyć miliony zapytań jednocześnie. Rzecz jasna nie wiadomo, ile takich maszyn skompletuje Google, ale na pewno będzie ich sporo. Dla przykładu – ChatGPT obecnie wymaga już ponad 3 tysięcy serwerów HGX 100 i dziesiątek tysięcy układów graficznych Nvidii, aby móc kontynuować naukę oraz obsługiwać zapytania wszystkich użytkowników.

Ten materiał nie jest artykułem sponsorowanym. Jego treść jest autorska i powstała bez wpływów z zewnątrz. Część odnośników w materiale to linki afiliacyjne. Klikając w nie, nie ponosisz żadnych dodatkowych kosztów, a jednocześnie wspierasz pracę naszej redakcji. Dziękujemy!

Arkadiusz Strzała

Arkadiusz Strzała

Swoją przygodę z pisaniem zaczynał od własnego bloga i jednego z wczesnych forum (stworzonego jeszcze w technologii WAP). Z wykształcenia jest elektrotechnikiem, posiada zamiłowanie do technologii, konstruowania różnych rzeczy i rzecz jasna – grania w gry komputerowe. Obecnie na GOL-u jest newsmanem i autorem publicystyki, a współpracę z serwisem rozpoczął w kwietniu 2020 roku. Specjalizuje się w tekstach o energetyce i kosmosie. Nie stroni jednak od tematów luźniejszych lub z innych dziedzin. Uwielbia oglądać filmy science fiction i motoryzacyjne vlogi na YouTube. Gry uruchamia głównie na komputerze PC, aczkolwiek posiada krótki staż konsolowy. Preferuje strategie czasu rzeczywistego, FPS-y i wszelkie symulatory.