„To, co najważniejsze, zostało odsunięte na bok”. Były szef Anthropic decyduje się na odejście, tłumacząc to troską o moralność

Echem odbijają się słowa byłego szefa zespołu badawczego ds. zabezpieczeń w Anthropic. 9 lutego zakończył swoją pracę w firmie i na pożegnanie opublikował list, w którym zaznacza swoje powody. Z jednej strony jest dumny ze swojej pracy oraz z tego, co udało się osiągnąć, ale równocześnie zwraca uwagę na obecne zagrożenia. W swoim liście sugeruje, że kwestie etyczne są systematycznie marginalizowane.

Były pracownik Anthropic ostrzega, że „świat jest w niebezpieczeństwie”

Mrinank Sharma kierował zespołem badawczym ds. bezpieczeństwa od momentu jego powstania w 2025 roku. Teraz jednak podjął decyzję o rezygnacji ze stanowiska i ton listu wskazuje, że nie chodziło o pieniądze, a bardziej o warunki pracy oraz kwestie moralne, które pod presją były odsuwane na dalszy plan podczas prac nad rozwojem sztucznej inteligencji w Anthropic.

Zobacz też:Koniec kopiowania gier AI? Claude nie odtworzy już istniejących gier, nawet przebranych za noweSmart TV Samsunga nasłuchuje szczekania psa i płaczu dziecka, a AI nie chce już pomagać go rozebrać na części. Użytkownicy są coraz bardziej zaniepokojeniMiliard dolarów strat albo ponad 50 ciężko poszkodowanych. Tak Anthropic chce wyznaczyć próg dla blokowania AI

Na swoim profilu na X opublikował dwustronicowe oświadczenie, w którym wyjaśnia swoją decyzję. Na wstępie zaznaczył, że jest zadowolony z niektórych swoich osiągnięć. Jego celem było zwiększenie bezpieczeństwa AI, co udało się między innymi poprzez opracowanie i wdrożenie mechanizmów obronnych w celu zmniejszenia ryzyka bioterroryzmu. Dodatkowo Mrinank Sharma pochwalił się napisaniem jednego z pierwszych uzasadnień bezpieczeństwa dla AI.

Z biegiem czasu w Anthropic zaczęły pojawiać się problemy. Sharma zaznaczył, że „świat jest w niebezpieczeństwie”, ponieważ mamy do czynienia z dużą liczbą kryzysów równocześnie. To nałożyło się na powstałą w pracy atmosferę:

Konsekwencją tych dylematów była decyzja o ostatecznej rezygnacji, co jak wiemy zrobił. Mrinank Sharma planuje poświęcić się pracy artystycznej i zgłębianiu poezji, robiąc sobie przerwę od branży technologicznej, by nabrać dystansu. Forbes poprosił o komentarz zarówno naukowca, jak i przedstawicieli Anthropic – obie strony odmówiły.

• tech
• AI / sztuczna inteligencja
• Anthropic