Superkomputery Google A3 będą używać układów graficznych Nvidii

Podczas wczorajszego wydarzenia Google I/O firma omówiła swój model językowy PaLM 2, którego używa chatbot Bard (bezpośredni rywal ChatGPT). Sztuczna inteligencja ma być używana w wielu usługach Google, nie tylko w przeglądarce, ale także na Mapach Google, Zdjęciach Google i w Gmailu. Aby obsłużyć miliardy zapytań użytkowników, nawet tak prozaicznych, jak napisanie maila, potrzebna jest potężna moc obliczeniowa. AI Google będzie wykorzystywać superkomputery A3 do działania, wyposażone w procesory Xeon i układy graficzne Nvidia A100.

Intel Xeon i Nvidia H100

Google A3 to potężne maszyny posiadające procesory Intel Xeon Scalable 4 na pokładzie. Korzystają one z 2 TB pamięci DDR5-4800 i ośmiu procesorów graficznych Nvidia H100, a wyjątkową przepustowość 3,6 TB/s osiągają dzięki wykorzystaniu technologii NVLink 4.0 i NVSwitch.

Karta graficzna Nvidia H100. Źródło: Nvidia

Według Google w maszynach A3 zastosowano interfejs danych GPU-to-GPU o nazwie IPU, który pozwala na udostępnianie danych z prędkością 200 Gb/s bez użycia CPU hosta. Interfejs ten jest dostępny na maszynach wirtualnych A3 i zapewnia 10-krotnie większą przepustowość sieci w porównaniu z maszynami A2.

Maszyny A3 mogą zaoferować 26 exaFlopów mocy obliczeniowej. Tak duża wydajność będzie potrzebna, aby obsłużyć miliony zapytań jednocześnie. Rzecz jasna nie wiadomo, ile takich maszyn skompletuje Google, ale na pewno będzie ich sporo. Dla przykładu – ChatGPT obecnie wymaga już ponad 3 tysięcy serwerów HGX 100 i dziesiątek tysięcy układów graficznych Nvidii, aby móc kontynuować naukę oraz obsługiwać zapytania wszystkich użytkowników.

Część odnośników na tej stronie to linki afiliacyjne. Klikając w nie zostaniesz przeniesiony do serwisu partnera, a my możemy otrzymać prowizję od dokonanych przez Ciebie zakupów. Nie ponosisz żadnych dodatkowych kosztów, a jednocześnie wspierasz pracę naszej redakcji. Dziękujemy!

Więcej:Gen Z dalej będzie miało problem ze znalezieniem pracy; AI pozwala na wzrost wydajności bez udziału ludzi

• komputery
• Google
• Nvidia
• Internet
• gaming
• AI / sztuczna inteligencja
• karty graficzne