Działanie ChatGPT kosztuje setki tysięcy dolarów dziennie

Ile kosztuje praca ChatGPT, sztucznej inteligencji używanej dziennie nawet przez 25 milionów osób? Okazuje się, że całkiem sporo, wyraźnie też jest wyższy koszt wyszukiwania w Internecie przy użyciu AI.

Arkadiusz Strzała

21 kwietnia 2023 14:10

Działanie ChatGPT kosztuje setki tysięcy dolarów dziennie Źródło: DALL-E.

Pogawędki z AI ChatGPT, na stronie OpenAI, lub za pośrednictwem przeglądarki Edge i Binga, stały się dość popularne w ostatnim czasie. Skoro chaty ze sztuczną inteligencją są tak rozchwytywane, to ciekawe jest, jakie są jej koszty działania? Dylan Patel, szef firmy analitycznej SemiAnalisys twierdzi, że dzień pracy ChatGPT pochłania niemal 700 tys. dolarów.

Ile kosztuje ChatGPT

Na początek kilka interesujących faktów o ChatGPT:

ChatGPT obecnie działa na 3617 serwerach HGX A100.
Model językowy ChatGPT wymaga mocy obliczeniowej 28936 kart graficznych (głównie Nvidia A100 i H100) do działania.
Średni dzienny koszt działania ChatGPT to ok. 694,5 tys. dolarów.
Średni koszt jednego wyszukiwania przy użyciu AI to 0,36 centa (0,0036 dolara).

Firma SemiAnalysis przeprowadziła też symulację, o ile wzrosły by koszty działania wyszukiwarki Google, gdyby wyszukiwania były wspomagane przez AI ChatGPT.

Działanie ChatGPT kosztuje setki tysięcy dolarów dziennie - ilustracja #1

Przychody Google, gdyby wyszukiwania były wspomagane przez ChatGPT. Źródło: SemiAnalysis

W przypadku 320 tys. wyszukiwań na sekundę roczne dochody Google spadną z 55 miliardów dolarów do 19,5 miliarda dolarów. Tak stanie się, jeśli do kosztu każdego wyszukania (0,0106 dolara) dodamy te 0,36 centa kosztu pracy ChatGPT. Aby to AI podołało takiej liczbie zapytań, potrzebowałoby ponad 512 tysięcy serwerów A100 HGX.

Google rozwija własne AI Bard, oparte na modelu językowym LaMDA. Firma twierdzi jednak, że Bard jest znacznie mniej skomplikowany, więc można założyć, że jego koszty operowania będą mniejsze:

Ten znacznie lżejszy model wymaga znacznie mniejszej mocy obliczeniowej, co pozwala nam na skalowanie do większej liczby użytkowników, umożliwiając uzyskanie większej ilości informacji zwrotnych. – Google

Tymczasem Bard jednak miewa problemy z trafnością odpowiedzi, na co może mieć wpływ jego uproszczenie w stosunku do modeli GPT. Biorąc pod uwagę stale rosnące zapotrzebowanie na rozwój AI takich jak ChatGPT, możemy założyć, że przedstawione powyżej koszty to dopiero początek wydatków i jest to naprawdę ciekawe, jak sytuacja zmieni się w ciągu najbliższych miesięcy.

Może Cię zainteresować:

Więcej:Battlefield 6 może być wzorem, jak optymalizować gry