Komentarze do wiadomości: W 9 sekund agent AI Claude Opus złamał każdą zasadę i skasował firmie całą bazę danych, łącznie z backupami, rujnując przedsiębiorstwo

Procne Już widzę konsekwencje tego podejścia. Użytkownik podpisuje z dostawcą umowę jak napisałeś czyli dostawca AI bierze odpowiedzialność finansową za błędy swojego "pracownika AI". Wiadomo skoro może ponieść konsekwencje to się ubezpieczy, skoro sie ubezpieczy to poniesie koszty, a skoro podniesie koszty to przerzuci je na klienta. Wynik? Błędy będą się zdarzać tak jak się zdarzały, ceny usług AI skoczą ostro do góry, ubezpieczalnie i prawnicy zapchają kasą kieszenie dolarami użytkownika, a jego bezpieczeństwo wzrośnie tylko trochę. Owszem pośrednio użytkownik też będzie ubezpieczony, ale będzie jak ze służbą zdrowia w USEJ. Podanie aspiryny 1000$, udowodnienie winy szpitala za nawet oczywisty błąd (np. podanie zamiast tej aspiryny cyjanku potasu), a potem uzyskanie zadośćuczynienia za zabicie pacjenta to kosztowna długa walka w sądach. Tu będzie podobnie, w cenę usług wliczą koszty ubezpieczenia, a żeby dostać odszkodowanie będziesz musiał walczyć w sądzie, a weź coś tu udowodnij bez wysokiej klasy specjalistów. Ilu takich specjalizujących się w AI i nowoczesnych technologiach, prawie międzynarodowym prawników jest w Polsce? Ile kosztują? Ilu jest biegłych? Będzie tak, że to odszkodowanie będzie tylko dla bogatych i wytrwałych, a dla maluczkich zostanie tylko wzrost kosztów i iluzja odpowiedzialności dostawcy AI.

Procne Myślę, że to jest jasne - AI to jest narzędzie, od firmy zależy w jaki sposób będzie go używała i czy wdroży odpowiednie zabezpieczenia. Jeśli ktoś daje agentom dostęp do produkcji to musi się liczyć z ryzykiem.

MadTrigger 
Ech, podobny tok rozumowania można zastosować do wszystkich ubezpieczeń czy przepisów dotyczących bezpieczeństwa czy prawa pracy - "bo firma i tak przerzuci koszty na klienta". No i przerzuci. Niech przerzuca. Zawsze to lepsze niż dziki zachód bez żadnych reguł

PawloxXx Jeśli ktoś daje agentom dostęp do produkcji to musi się liczyć z ryzykiem.
Jeśli ktoś daje pracownikom dostęp do produkcji to liczy się z ryzykiem i każe podpisywać papiery obligujące pracownika do przestrzegania należytych procedur, pod groźbą grubej kary.

Jeśli ktoś sprzedaje Ci narzędzie, które się zepsuje i zrobi Ci krzywdę to też masz prawo wystąpić o odszkodowanie

Procne Ale przecież to narzędzie nie działa w pełni autonomicznie - ktoś je skonfigurował, ktoś dał mu dostęp, ktoś powinien je nadzorować. Narzędzia do automatyzacji pracy są w użyciu nie od wczoraj, administratorzy serwerów używali ich już od lat - jeśli administrator źle skonfiguruje np. narzędzie do backupów i to narzędzie usunie jutro automatycznie wszystkie backupy to jest wina admina czy narzędzia? Ludzie zachłysnęli się AI, jeszcze nie widziałem żeby jakakolwiek technologia była wprowadzania tak szybko na taką skalę, a jednocześnie była tak niedojrzała. Także albo robi się to z głową, na spokojnie, powoli, ostrożnie, albo "hurra AI zrobi wszystko za nas" i potem wychodzą takie historie jak powyżej :P

PawloxXx A jeśli admin poprawnie skonfiguruje narzędzie, a mimo to ono usunie wszystkie backupy to co wtedy?

PawloxXx ty wybiórczo czytałeś artykuł? Jest wyraźnie napisane, że któraś ze stron nawet nie wiedziała, że ai może mieć nadane tak duże uprawnienia.
Second. Co ci po konfiguracji jeśli AI ją zignoruje? Pół artykułu jest o tym, że bot złamał wszystkie zasady łącznie z najprostszą "nie usuwaj danych".