Działanie ChatGPT kosztuje setki tysięcy dolarów dziennie

Ile kosztuje praca ChatGPT, sztucznej inteligencji używanej dziennie nawet przez 25 milionów osób? Okazuje się, że całkiem sporo, wyraźnie też jest wyższy koszt wyszukiwania w Internecie przy użyciu AI.

tech
Arkadiusz Strzała21 kwietnia 2023
4
Źrodło fot. DALL-E
i

Pogawędki z AI ChatGPT, na stronie OpenAI, lub za pośrednictwem przeglądarki Edge i Binga, stały się dość popularne w ostatnim czasie. Skoro chaty ze sztuczną inteligencją są tak rozchwytywane, to ciekawe jest, jakie są jej koszty działania? Dylan Patel, szef firmy analitycznej SemiAnalisys twierdzi, że dzień pracy ChatGPT pochłania niemal 700 tys. dolarów.

Ile kosztuje ChatGPT

Na początek kilka interesujących faktów o ChatGPT:

  • ChatGPT obecnie działa na 3617 serwerach HGX A100.
  • Model językowy ChatGPT wymaga mocy obliczeniowej 28936 kart graficznych (głównie Nvidia A100 i H100) do działania.
  • Średni dzienny koszt działania ChatGPT to ok. 694,5 tys. dolarów.
  • Średni koszt jednego wyszukiwania przy użyciu AI to 0,36 centa (0,0036 dolara).

Firma SemiAnalysis przeprowadziła też symulację, o ile wzrosły by koszty działania wyszukiwarki Google, gdyby wyszukiwania były wspomagane przez AI ChatGPT.

Działanie ChatGPT kosztuje setki tysięcy dolarów dziennie - ilustracja #1
Przychody Google, gdyby wyszukiwania były wspomagane przez ChatGPT. Źródło: SemiAnalysis

W przypadku 320 tys. wyszukiwań na sekundę roczne dochody Google spadną z 55 miliardów dolarów do 19,5 miliarda dolarów. Tak stanie się, jeśli do kosztu każdego wyszukania (0,0106 dolara) dodamy te 0,36 centa kosztu pracy ChatGPT. Aby to AI podołało takiej liczbie zapytań, potrzebowałoby ponad 512 tysięcy serwerów A100 HGX.

Google rozwija własne AI Bard, oparte na modelu językowym LaMDA. Firma twierdzi jednak, że Bard jest znacznie mniej skomplikowany, więc można założyć, że jego koszty operowania będą mniejsze:

Ten znacznie lżejszy model wymaga znacznie mniejszej mocy obliczeniowej, co pozwala nam na skalowanie do większej liczby użytkowników, umożliwiając uzyskanie większej ilości informacji zwrotnych. – Google

Tymczasem Bard jednak miewa problemy z trafnością odpowiedzi, na co może mieć wpływ jego uproszczenie w stosunku do modeli GPT. Biorąc pod uwagę stale rosnące zapotrzebowanie na rozwój AI takich jak ChatGPT, możemy założyć, że przedstawione powyżej koszty to dopiero początek wydatków i jest to naprawdę ciekawe, jak sytuacja zmieni się w ciągu najbliższych miesięcy.

Arkadiusz Strzała

Arkadiusz Strzała

Swoją przygodę z pisaniem zaczynał od własnego bloga i jednego z wczesnych forum (stworzonego jeszcze w technologii WAP). Z wykształcenia jest elektrotechnikiem, posiada zamiłowanie do technologii, konstruowania różnych rzeczy i rzecz jasna – grania w gry komputerowe. Obecnie na GOL-u jest newsmanem i autorem publicystyki, a współpracę z serwisem rozpoczął w kwietniu 2020 roku. Specjalizuje się w tekstach o energetyce i kosmosie. Nie stroni jednak od tematów luźniejszych lub z innych dziedzin. Uwielbia oglądać filmy science fiction i motoryzacyjne vlogi na YouTube. Gry uruchamia głównie na komputerze PC, aczkolwiek posiada krótki staż konsolowy. Preferuje strategie czasu rzeczywistego, FPS-y i wszelkie symulatory.

Walka z OpenAI kosztowała New York Times już milion dolarów

Walka z OpenAI kosztowała New York Times już milion dolarów

NASA stawia na rozwiązania rodem z filmów science-fiction. Na Księżycu ma powstać lewitująca kolej

NASA stawia na rozwiązania rodem z filmów science-fiction. Na Księżycu ma powstać lewitująca kolej

Radeony RX 7000 nie zawojowały rynku. Wyniki finansowe AMD pokazują słabą sprzedaż kart graficznych

Radeony RX 7000 nie zawojowały rynku. Wyniki finansowe AMD pokazują słabą sprzedaż kart graficznych

Windows 11 z jeszcze większą liczbą reklam. Game Pass będzie promowany w ustawieniach systemu

Windows 11 z jeszcze większą liczbą reklam. Game Pass będzie promowany w ustawieniach systemu

Najpierw pożar, teraz próba wtargnięcia. Kolejne kłopoty fabryki Tesli w Niemczech

Najpierw pożar, teraz próba wtargnięcia. Kolejne kłopoty fabryki Tesli w Niemczech