Komentarze do wiadomości: To może być koniec lepszego AI w subskrypcji, Anthropic udostępniło model AI Claude Fable 5 i zmienia zasady

Nirgar

Ceny będą spadać, nie rosnąć dla normalnych użytkowników.

Taaaa. Jak "profitable" jest AI widać po IPO SpaceXa (hint: miliardy w plecy), zaraz OpenAI wjeżdża na giełdę i będzie bloodbath.

Copilot zdrożał (dla power userów) w tym kwartale dosłownie kilkudziesięciokrotnie, Claude na subskrypcji 200$ można zajechać dosłownie w jeden wieczór. Mythos (czy tam Fable) żre tokeny jak szalony, ponad 2x tyle co 4.8 Opus. Jak ktoś korzysta dłużej niż pół roku to przykręcenie kurka widać gołym okiem. Przyjmowanie kosztów na klatę się kończy i zaraz trzeba będzie zacząć zarabiać, i to mocno odbije się czkawką.

Z resztą w "tech worldzie" po "tokenmaxxingu" (cóż to był za debilny trend) coraz częściej słyszy się o tym że managerowie zachęcają jednak do "rozsądnego używania" AI. (a jak widać, sky is the limit: https://finance.yahoo.com/sectors/technology/articles/company-blew-500m-claude-ai-173519468.html?guccounter=1 )

Mogę się założyć że będzie tylko drożej i drożej, przez wiele lat. Dziesiątki miliardów straty kwartalnej jakoś trzeba odbić, a jedyny sposób na większy profit dla firm AIowych to podbijanie cen, przecież oni nie mają innych usług poza "sprzedawaniem" modeli. Już widzę jak Altman siedzi i myśli "no dobra, może tracimy miliardy miesięcznie, ale obniżmy ceny żeby biedniejsi klienci też mogli korzystać" ;)

Amadeoosh
Moim zdaniem robisz podstawowy błąd: traktujesz sztuczną inteligencję jak telefon, kartę graficzną albo konsolę — nowsze, lepsze, droższe, więc wszyscy będą płacić więcej. Tylko że AI działa inaczej.

Granica możliwości będzie droga, jasne. Najnowsze modele dla firm, laboratoriów, naukowców i ludzi, którzy wiedzą, co robią, będą kosztować. Ale użyteczna AI dla zwykłego użytkownika będzie tanieć, bo dzisiejszy „kosmos” za chwilę stanie się zwykłą średnią półką. DeepSeek już pokazał kierunek majowymi obniżkami.

I nie chodzi tylko o konkurencję. Główny mechanizm jest prostszy i brutalniejszy: możliwości modeli rosną szybciej niż zdolność ludzi do ich sensownego używania. To nadwyżka możliwości połączona z ludzkim wąskim gardłem poznawczym. AI dostaje potężną aktualizację co kilka miesięcy, a człowiek nie dostaje nowej kory przedczołowej w abonamencie. Modele coraz lepiej rozumują, a przeciętny użytkownik dalej wpisuje: „napisz ładnie”, „zrób lepiej”, „daj coś fajnego”.

Oczywiście można wszystko wyjaśnić hasłem: „złe korporacje podniosą ceny, bo kapitalizm”. To wygodne dla mózgu: jeden wróg, jedna warstwa, chaos uporządkowany, ACC głaszcze po głowie, kortyzol spada. Tylko że rzeczywistość ma więcej niż jedną warstwę. Kapitalizm często skręca w patologię i sam się o to wkurzam, ale „korpo złe” nie tłumaczy wszystkiego. W AI liczy się też konkurencja, otwarte modele, spadające koszty użycia, specjalizacja modeli i fakt, że większość ludzi nie będzie potrzebować najnowszego potwora.

Bo po co im? Nie dlatego, że topowy model będzie zły, tylko dlatego, że człowiek będzie za słabym ogniwem, żeby w ogóle wykorzystać różnicę. Przy telefonie lepszy aparat, bateria i ekran są od razu widoczne. Przy AI różnica między modelem świetnym a absurdalnie świetnym dla większości będzie niewidzialna, bo i tak użyją go do maila, streszczenia, nazwy projektu albo prostych codziennych zadań.

Do tego dochodzi mit: „nowszy model = lepszy do wszystkiego”. Nie. To zależy od zadania. Modele rozumujące przy prostych rzeczach potrafią przesadnie analizować, komplikować banały i marnować zasoby bez poprawy jakości. Apple wypuścił publikację dokładnie o tym problemie. Czasem tańszy, prostszy model zrobi robotę szybciej i lepiej, bo nie odpali doktoratu habilitowanego do przeniesienia krzesła do kuchni.

Dlatego AI to nie religia ciągłych ulepszeń: „biorę najdroższy model, bo ma największy numerek”. To dobór narzędzia do zadania. Proste zadanie — prostszy model. Trudna analiza — mocniejszy. Kod, analiza źródeł, streszczenie, szybka odpowiedź — różne modele, różne zastosowania. Problem w tym, że ludzie w większości nawet nie wiedzą jak zadać pytanie, a co dopiero zrozumieć odpowiedź.

Więc tak: najnowsze modele będą drogie. Ale realnie użyteczna AI dla większości ludzi będzie tanieć, bo starsze modele bardzo szybko będą wystarczająco mocne dla 95% zastosowań.

Największym ograniczeniem nie będzie cena modelu. Największym ograniczeniem będzie człowiek, który nie odróżnia iPhone’a od tostera, jeśli oba dadzą mu banana. Przykre, ale prawdziwe.

Beneksor
To, że dziś moc obliczeniowa i energia kosztują, nie znaczy, że ceny dla zwykłych użytkowników muszą długofalowo rosnąć. To jest mylenie chwilowej ciasnoty infrastrukturalnej z trendem cywilizacyjnym. Dobrze pokazują to Chiny: gdy odcięto je od części najnowszych chipów, zaczęły szukać obejść — lepszej organizacji obliczeń, własnych układów, optymalizacji i nowych sposobów budowania wydajności zamiast prostego „dajcie nam droższy sprzęt”. Historia technologii nie polega na tym, że ludzkość widzi drogi problem i mówi: „no trudno, płaćmy więcej do końca świata”, tylko na tym, że szuka obejść, optymalizacji i wyciska coraz więcej z tej samej materii i energii. Internet, komputery, pamięć, procesory — wszystko na początku było drogie, ciężkie i „dla wybranych”. Potem przyszła skala, konkurencja, lepszy sprzęt, lepsze metody i luksus zamienił się w codzienność.

Apple to zresztą żaden dowód na trend, tylko dowód na Apple — firma sprzedałaby abonament na oddychanie, gdyby dało się to nazwać „bardziej osobistym doświadczeniem”. W AI drogi będzie szczyt możliwości, jasne. Ale użyteczna AI dla zwykłego człowieka będzie tanieć, bo presja na tańszą energię, lepsze układy, mniejsze wyspecjalizowane modele, otwarte rozwiązania i optymalizację będzie gigantyczna. AI jest zbyt ważna gospodarczo, wojskowo i naukowo, żeby problem energii zostawić z karteczką „nie da się”. To jest dokładnie logika Simona: zasoby nie są nieskończone magicznie, tylko ludzka pomysłowość ciągle przesuwa granicę tego, co z tych zasobów potrafimy wycisnąć.

Nirgar "Historia technologii nie polega na tym, że ludzkość widzi drogi problem i mówi: „no trudno, płaćmy więcej do końca świata”, tylko na tym, że szuka obejść, optymalizacji i wyciska coraz więcej z tej samej materii i energii. "

No, szkoda tylko że AI idzie drogą "Ubera", tzn: mamy niebotyczne zaplecze finansowe więc przez pierwsze lata przyjmujemy koszty na klatę, świetnymi ofertami pozyskujemy użytkowników i kiedy są już zasadniczo "uzależnieni" (ej aje są wdrożone w całej organizacji, są codzienną częścią pracy itd) to stopniowo przykręcamy śrubę.

Przecież teraz jak copilot przeszedł na token-based billing to okazało się że było mnóstwo użytkowników którzy w subskrypcji za 39$ palili tokeny za 5000$+ to jest poziom o którym mówimy.

Na obniżenie ceny energii nie ma co liczyć, bo już teraz obciążony grid USA jeszcze nie obsługuje większości nowych datacentrów (które nadal są budowane), na jakiś kosmiczny wzrost wydajności mocy obliczeniowej też nie można liczyć w krótkim oknie czasowym, bo dopiero co wpakowano 250 miliardów+ w OBECNE akceleratory AI nVidii.

Jak Amazon (który przodował w "tokenmaxxingu" - od nich się zaczęło) pisze coś takiego: https://x.com/awscloud/status/2064449711155589396 To wiedz że coś się dzieje.

Oczywiście chwilowo teraz ceny mogą maleć, bo firmy stają na głowie przed IPO żeby wyciągnąć najwięcej kasy. Ale miliardy kwartalnej straty kiedyś trzeba będzie zacząć nadrabiać. Przypominam, że my tu rozmawiamy o firmach które przynoszą wielomiliardowe straty w oknie kwartalnym, które nigdy w historii nie osiągnęły profitu.

Jestem prawie przekonany że za rok+ jeżeli ktoś będzie chciał mieć tanie AI, to będzie musiał postawić lokalny model.

Nirgar zakładasz, ze AI wyczaruje prąd z powietrza czy jak? Obecnie AI jest silnie dotowana przez inwestorów, kiedyś przestanie być. A nic nie wskazuje na to by nagle z dnia na dzień modele miały zacząć zużywać 3-5 razy mniej energii.

Oczywiście może być tak, ze dla szaraczka będzie w miarę tanio by go uzależnić ale potem dla firm ceny będą kosmiczne (tak MS robił z Windowsem i officem, mając też w tyłku piractwo indywidualne). Jednak tutaj to się nie sprawdzi bo to jednak koszt utrzymania duży a nie tylko koszt straconego zysku.

AI będzie drożeć bo energia drożeje. Nawet jak przytną zużycie o te 20% to i tak nie starczy na pokrycie strat.

elathir Amadeoosh

Nie neguję, że dziś firmy tną koszty, wprowadzają rozliczanie zużycia i kończy się epoka palenia tokenów. To oczywiste. Problem w tym, że z dzisiejszej ciasnoty — drogie układy, prąd, sieć, transformatory — robicie długoterminowe prawo fizyki. A technologia działa odwrotnie: pojawia się wąskie gardło, wszyscy krzyczą „nie da się”, po czym zaczyna się optymalizacja, specjalizacja, tańsze modele, lokalne modele, lepsze układy i wyciskanie więcej z tego samego. Drogi będzie szczyt możliwości, jasne. Ale to nie znaczy, że zwykły użytkownik będzie wiecznie płacił więcej za sensowną AI.

Z energią jest dokładnie tak samo: nie bierze się z powietrza, ale jest produktem, a gwałtowny popyt jest paliwem dla innowacji. Skoro energia staje się wąskim gardłem AI, to właśnie dlatego wszyscy rzucają się na jego rozpychanie: małe reaktory, restart atomu, geotermia ulepszona, magazyny żelazo-powietrze, lepsze sieci, perowskitowe ogniwa słoneczne, chłodzenie i optymalizacja obliczeń. Google z Xcel Energy dokładają do sieci wiatr, słońce i ogromny magazyn energii pod centrum danych, Microsoft podpina się pod restart atomu, a Chiny bawią się już nawet w orbitalne elektrownie słoneczne i bezprzewodowy przesył energii. To nie jest „koniec, bo prąd drogi”. To jest moment, w którym rynek widzi ścianę i zaczyna szukać drabiny, tunelu albo dynamitu.

Dlatego krótkoterminowo — jasne, macie rację: energia jest problemem. Długoterminowo — właśnie dlatego będzie jednym z pierwszych pól, gdzie zobaczymy potężne zmiany. Nie dlatego, że rynek jest dobry albo moralny, tylko dlatego, że potężny popyt tworzy potężną presję na rozwiązania. Jeśli energia staje się wąskim gardłem AI, to kapitał, państwa i technologia rzucą się na jej rozpychanie. Nie z miłości do ludzkości, tylko dlatego, że za tą ścianą leży absurdalna kasa.

Nirgar ale to co piszesz to jest kwestia dekad a nie lat. Obecnie to energia jest podstawowym blokerem. OZE pomaga ograniczyć koszty ale dopiero fuzja rozwiąże problem całkowicie. A to kwestia co najmniej 30 lat. Co w między czasie? Przecież nikt nie będzie dotował AI tak długo.

A co będzie za 30 lat to nie mamy pojęcia. Może AI się rozwinie, może w ogóle o nim zapomnimy z jakiś powodów. Może wykończą nas zmiany klimatyczne i będziemy koncentrować się na pozbyciu się zbędnych elementów. Kto wie.

elathir
Nigdzie nie pisałem, że tylko fuzja rozwiąże problem, wręcz przeciwnie, szuka się różnych rozwiązań, przeczytaj mój wpis jeszcze raz. Popyt determinuje podaż, a popyt jest tak duży, że nie ma możliwości, aby to zostawili, to czyste złoto na ulicy. Fuzja to tylko jeden, długoterminowy kierunek. Po drodze są jeszcze: atom, małe reaktory, geotermia, magazyny energii, lepsze sieci, lepsze chłodzenie, wydajniejsze układy, mniejsze modele i optymalizacja obliczeń i sieci neuronowych. Na te zmiany nie trzeba czekać 30 lat, to już się dzieje.