Nvidia zaprezentowała nową generację układów Blackwell do obsługi AI
W trakcie konferencji GTC ogłosiła nową generację czipów do obsługi sztucznej inteligencji Blackwell.
Dzisiaj rozpoczęła się konferencja GTC. W jej trakcie Nvidia zaprezentowała najnowsze układy do obsługi AI. Dokładniej chodzi o serię Blackwell, która zawiera nie tylko czipy przeznaczone do obsługi sztucznej inteligencji, ale również procesory przystosowane do ich łączenia w jedno GPU. Czego więc możemy spodziewać się po nadchodzących układach?
Najważniejszym układem jaki zaprezentowano jest GB 200. Składa się on z dwóch procesorów graficznych NVIDIA B200 Tensor Core oraz czipu NVIDIA Grace, które są połączone za pomocą NVLink. Według zapewnień firmy takie połączenie ma gwarantować nawet 5-krotny wzrost wydajności względem obecnie oferowanego układu H100. Trzeba jednak zaznaczyć, że dotyczy to obliczeń opartych o nowy format FP4. W przypadku standardowego FP8 wydajność wzrasta 2,5-krotnie.
Jak można było się domyślić, takie połączenie wymaga znacznej ilości energii do pracy. Jak donosi Nvidia jeden układ B 200 może pobierać aż 1200 W. Dla porównania H100 wymagał „jedynie” 700W. Przy tak dużym poborze energii, GB 200 ma wydzielać znacznie więcej ciepła od swojego poprzednika. Dlatego, aby uzyskać pełną wydajność Nvidia zaleca zastosowanie chłodzenia wodnego. Oczywiście firmy nadal mogą korzystać ze standardowego chłodzenia powietrznego. Jednak w tym przypadku GB 200 może to nie wystarczyć.
Niestety połączenie kilku czipów w jednym układzie wymagało znacznego zwiększenia jego wymiarów. W związku z tym nie będzie on pasował do aktualnie wykorzystywanych serwerów. Dlatego Nvidia przygotowała specjalny model o nazwie NVIDIA GB200 NVL72. Umożliwia on połączenie nawet 36 układów GB 200.
Nvidia nie zapomniała jednak o firmach, które nie zamierzają wymieniać całego sprzętu na nowy. Dla nich został przygotowany kolejny chip z serii Blackwell, B100. Ma być on kompatybilny z do tej pory stosowanymi serwerami. Dodatkowo układ ma pobierać podobne ilości energii jak swój poprzednik. Dzięki temu firmy będą mogły w łatwy sposób wymienić obecnie stosowane H100 na B100.
Według dostępnych informacji, układy od Nvidii mają pojawić się na rynku jeszcze w tym roku. Nie zostało jednak podane jaka może być ich cena. Jednak nie powstrzymało to firmy od ogłoszenia, że pojawiły się już pierwsze zamówienia. Amazon ma w planach zakupić ponad 20 tysięcy układów GB 200.
Poza nowymi układami, Nvidia ogłosiła również kilka technologii oraz rozwiązań, które mają ułatwić wprowadzanie sztucznej inteligencji. Wśród nich na wyróżnienie zasługuje Nvidia Inference Manager (NIM). Dzięki niej nawet starsze układy graficzne, będą mogły obsługiwać sztuczną inteligencję. Ma być to możliwe, dzięki wnioskowaniu, które w odróżnieniu od uczenia AI, wymaga o wiele mniejszej mocy obliczeniowej. W założeniach NIM ma pomóc firmom, które wciąż stosują starsze układy Nvidii we wprowadzaniu rozwiązań opartych o sztuczną inteligencję.
Komentarze czytelników
GRYOnline.pl:
tvgry.pl:
