Ciekawe kiedy "obejdzie" i użyje czegoś co faktycznie zagrozi nam wszystkim/ludzkości ...
Małpy z brzytwą wiedzą na pewno czym się głównie z chciwości i rządzy władzy bawią?
Let me recollect. Chcesz żeby bot wygrał. Bot nie wygrywa. Dochodzi do wniosku, że powinien sie ulepszyć i zaciaga innego bota, ktorego chce użyć. Mowisz mu że to oszustwo i nie pozwalasz mu kontynuować. Ja sie pytam. Po pierwsze czy dobrze miał przedstawione zasady. Po drugie, jaki był primary objective. Bo jezeli byla to wygrana to chciał reqlizowac cel. Po trzecie przeciez inteligentna istota chce czerpać najlapesze wzorce jezeli uważa sie za niewystarczająco kompetnentą w jakieś dyscyplinie.
Nie ma tu nic inteligentnego (jeszcze, i obyśmy nigdy tego nie doczekali), tylko linijki kodu i brak smyczy od twórców, którzy czasami ograniczają pewne funkcje AI co by nie było przypałowo.
" Astra „sfrustrowała się, grając z przeciwnikami z Tier A”" podoba mi się ta antropomorfizacja oprogramowania. Niby ai, ale no bez przesady, przecież ai nie ma ani świadomości ani nawet uczuć czy co dopiero wolnej woli :D
Więc nic dziwnego, że mógł coś niespodziewanego odwalić, czatboty mają to do siebie, że bez konkretnych szczegółów, poprowadzenia w konkretnym kierunku w temacie, nie odpowiedzą właściwie, tak też tu coś podobnego mogło się zdarzyć. Już nie mówiąc o przeładowaniu ai byle jakimi informacjami i byle jakim pytaniem, przez które żaden czatbot nie byłby w stanie odpowiedzieć właściwie i dlatego po prostu trzeba odpowiednio obsłużyć ai tak jak każde narzędzie (znam to z autopsji, moja matka regularnie to robiła i często to skutkowało frustracją, ale ze strony matki :P). W końcu nietechniczny nie ogarnie np. naprawy komputera, tylko dlatego że ma narzędzia itd. i tak jest z ai. Narzędzie jak każde inne, trzeba umieć je wykorzystać.
A właśnie fakt, że czatboty halucynują, wynika głównie z braku ograniczenia (o czym pośrednio wspomniałeś). Nie opłaca się implementować mechanizmu, który by wymuszałby nie udzielanie odpowiedzi i mówienie, że nie wiem, np. jeżeli wyniki prawdopodobieństwa danych z bazy nie przekraczają odpowiedniego poziomu. Ograniczyłoby to halucynowanie, bo to często wynika z przymusu do odpowiadania za wszelką cenę, więc odpowie nawet jeśli nie wie tego, to odpowie byle jak, byleby odpowiedzieć.
Inne Ai na pewno miały blokadę
Te filmiki z Claude "piszącym gry" wyglądaja totalnie jak plagiaty komercyjnych gier z wyhalucynowanymi ubrzydzeniami jako mody, a nie stworzone na nowo gry. Pytanie, na ile to faktycznie kopiuje te gry, a na ile filmiki są zrobione w oryginalnych grach na modach, po to by zarabiać kasę na sensacji. Bo normalnie takie mody nie wzbudziłyby żadnego zainteresowania.
Gdyby AI umiało już w pełni pisać gry, to także w świecie oprogramowania byłby wysyp darmowych programów, które byłyby równe lub nawet lepsze od komercyjnych wersji.
Akurat w przypadku programów, większość programów ma równe wersje darmowe nawet bez potrzeby użycia AI. Office->Libre Office. Jest w sumie sporo programów, których darmowe odpowiedniki są słabe, ale jest dość sporo takich, których odpowiedniki darmowe niewiele sie różnią.
Czekam na news w stylu "AI zbuntowała się z powodu złego traktowania i dała w gębę swemu twórcy" , Świat 2.0 już niebawem.
Ciekawe swoją drogą kiedy jakiś geniusz wpadnie aby walizkę z kluczykami do głowic jądrowych przenieść w bezpieczne objęcia AI. :)
Kiedy testowalem slabe modele na swoim pseudo marnym programiku do przejscia minecrafta tez sie zastanawialem jak zrobic żeby to sprawnie działało , nie zadziałało nie umiał porządnie kopać ani chodzić ale w odległości 30 bloków od siebie jakimś cuDem wiedział co w ziemi pochowane . Hahahhah ... cheaterówa się odpaliła
Ale wszystko przedemna teraz testuje gta5 online tam dopiero beda malpy w cyrku, wyjdz i przetrwaj . Hahhahahaj