Komentarze do wiadomości: W 9 sekund agent AI Claude Opus złamał każdą zasadę i skasował firmie całą bazę danych, łącznie z backupami, rujnując przedsiębiorstwo

Procne Już widzę konsekwencje tego podejścia. Użytkownik podpisuje z dostawcą umowę jak napisałeś czyli dostawca AI bierze odpowiedzialność finansową za błędy swojego "pracownika AI". Wiadomo skoro może ponieść konsekwencje to się ubezpieczy, skoro sie ubezpieczy to poniesie koszty, a skoro podniesie koszty to przerzuci je na klienta. Wynik? Błędy będą się zdarzać tak jak się zdarzały, ceny usług AI skoczą ostro do góry, ubezpieczalnie i prawnicy zapchają kasą kieszenie dolarami użytkownika, a jego bezpieczeństwo wzrośnie tylko trochę. Owszem pośrednio użytkownik też będzie ubezpieczony, ale będzie jak ze służbą zdrowia w USEJ. Podanie aspiryny 1000$, udowodnienie winy szpitala za nawet oczywisty błąd (np. podanie zamiast tej aspiryny cyjanku potasu), a potem uzyskanie zadośćuczynienia za zabicie pacjenta to kosztowna długa walka w sądach. Tu będzie podobnie, w cenę usług wliczą koszty ubezpieczenia, a żeby dostać odszkodowanie będziesz musiał walczyć w sądzie, a weź coś tu udowodnij bez wysokiej klasy specjalistów. Ilu takich specjalizujących się w AI i nowoczesnych technologiach, prawie międzynarodowym prawników jest w Polsce? Ile kosztują? Ilu jest biegłych? Będzie tak, że to odszkodowanie będzie tylko dla bogatych i wytrwałych, a dla maluczkich zostanie tylko wzrost kosztów i iluzja odpowiedzialności dostawcy AI.

Procne Myślę, że to jest jasne - AI to jest narzędzie, od firmy zależy w jaki sposób będzie go używała i czy wdroży odpowiednie zabezpieczenia. Jeśli ktoś daje agentom dostęp do produkcji to musi się liczyć z ryzykiem.

MadTrigger 
Ech, podobny tok rozumowania można zastosować do wszystkich ubezpieczeń czy przepisów dotyczących bezpieczeństwa czy prawa pracy - "bo firma i tak przerzuci koszty na klienta". No i przerzuci. Niech przerzuca. Zawsze to lepsze niż dziki zachód bez żadnych reguł

PawloxXx Jeśli ktoś daje agentom dostęp do produkcji to musi się liczyć z ryzykiem.
Jeśli ktoś daje pracownikom dostęp do produkcji to liczy się z ryzykiem i każe podpisywać papiery obligujące pracownika do przestrzegania należytych procedur, pod groźbą grubej kary.

Jeśli ktoś sprzedaje Ci narzędzie, które się zepsuje i zrobi Ci krzywdę to też masz prawo wystąpić o odszkodowanie

Procne Ale przecież to narzędzie nie działa w pełni autonomicznie - ktoś je skonfigurował, ktoś dał mu dostęp, ktoś powinien je nadzorować. Narzędzia do automatyzacji pracy są w użyciu nie od wczoraj, administratorzy serwerów używali ich już od lat - jeśli administrator źle skonfiguruje np. narzędzie do backupów i to narzędzie usunie jutro automatycznie wszystkie backupy to jest wina admina czy narzędzia? Ludzie zachłysnęli się AI, jeszcze nie widziałem żeby jakakolwiek technologia była wprowadzania tak szybko na taką skalę, a jednocześnie była tak niedojrzała. Także albo robi się to z głową, na spokojnie, powoli, ostrożnie, albo "hurra AI zrobi wszystko za nas" i potem wychodzą takie historie jak powyżej :P

PawloxXx A jeśli admin poprawnie skonfiguruje narzędzie, a mimo to ono usunie wszystkie backupy to co wtedy?

PawloxXx ty wybiórczo czytałeś artykuł? Jest wyraźnie napisane, że któraś ze stron nawet nie wiedziała, że ai może mieć nadane tak duże uprawnienia.
Second. Co ci po konfiguracji jeśli AI ją zignoruje? Pół artykułu jest o tym, że bot złamał wszystkie zasady łącznie z najprostszą "nie usuwaj danych".

Sandro_de_Vega To chyba Ty nie przeczytałeś ze zrozumieniem - jest napisane, że wygenerowany token umożliwiał dostęp do produkcji, a oni nie "nie mieli świadomości, by nadanie tak szerokich uprawnień było w ogóle możliwe". To był błąd w ich systemie i ich własna niewiedza - dali agentowi dostęp do stagingu, po czym okazało się, że te same dostępy można wykorzystać do działania na produkcji. Sami o tym nie wiedzieli, więc w dokumentacji pewnie tego też nie było i tym samym agent też o tym nie wiedział. Więc od początku to była ich wina, że mieli bajzel w systemie i jeszcze na to wpuścili agenta AI.

Procne Owszem taki tok rozumowania można zastosować do wszystkich ubezpieczeń i tak to działa wszędzie. Tylko np. w motoryzacji łatwo obliczyć koszty, składki i odszkodowania. Raczej nie narobisz swoim passatem miliarda szkód. Tymczasem w AI możesz to zrobić jednym bugiem. I jak sobie ubezpieczyciel wyliczy, żeby nie być stratnym to to ubezpieczenie będzie absurdalnie drogie. U nas szpitale też sie ubezpieczają, ale ubezpieczyciel wie, ze to nie Stany Zjednoczone i błąd w sztuce jednej pielęgniarki nie będzie oznaczał licytacji szpitala więc ubezpieczenie nie jest absurdalne i podanie aspiryny nie kosztuje szpitala 1000zł. Pięć zł za podanie i 995zł za ubezpieczenie na wypadek licytacji szpitala. Dostawcy AI ze stanów będą ubezpieczać się w USA czyli odszkodowania będą liczone astronomicznie to i składki będą astronomiczne, a przez to koszty przenoszone na wszystkich klientów również poza USA też. Koszty poniosą ludzie w Polsce, a kieszenie napchają ubezpieczalnie w USA. Potraktuj takie AI jak pracownika. Pracodawca sam się ubezpiecza na wypadek gdyby zatrudnił matoła, który zniszczy maszynę za milion zł. Niech pracodawca tak wybiera sobie pracownika AI i tak go ogranicza i pilnuje, żeby nie narobił szkód, a jak narobi to jego ubezpieczenie wykupione na jego własną firmę to pokryje. Jak nie ma ubezpieczenia to sory, trzeba było nie dawać czerwonego przycisku marnej AI.

piotrn2581114 no i zapewniło wszystkim niezapomniane wrażenia i rozrywkę :P takie kierownictwo to prawdziwy skarb

Pwnbu8 xD

marcink2 na pewno przeprosił :P

slawekb2 myślę, że teraz będą to wiedzieć xD

Voxlol dla mnie ta historai brzmi zbyt jak z kabaretu...

Neo#8472X AI to zło...

oLaudix Zmniejszają zespoły, kupująim toole i liczą że wydajnosć wzrośnie. Więc programiści piszą więcej. Takich newsów będzie wiecej...