„Przepraszam, literówka”. AI miało zrobić kopię zapasową, a usunęło wszystkie dane

Sztuczna inteligencja jest narzędziem, któremu nie można przekazywać zbyt dużej kontroli nad komputerem. Przekonał się o tym internauta, który wydał w teorii proste polecenie stworzenia kopii zapasowej. Claude Opus 5 uznał, że pomylił rejestr, na którym wszystko miało zostać zapisane, a następnie AI usunęło wszystko, próbując naprawić swój błąd i przeprosiło w sposób, jakby cała sytuacja była drobnostką.

AI usunęło wszystkie pliki z dysku, gdy miało wykonać kopię zapasową

Internauta Ecstatic-Big5126 „pochwalił się” incydentem, jakiego doświadczył podczas użytkowania Claude Opus 5. Wydał sztucznej inteligencji polecenie wykonania kopii zapasowej, co doprowadziło do usunięcia wszystkich plików. Ecstatic-Big5126 udostępnił zrzut ekranu, co wskazuje, dlaczego doszło do sytuacji, którą określił jako „jednocześnie najzabawniejszą i najboleśniejszą” w jego historii użytkowania AI.

Otóż zdjęcie ekranu pokazuje ścieżkę „/c/Users/harih/”, która jest charakterystyczna dla Unixa. Prawdopodobnie Claude oczekiwał ścieżki typowej dla Windowsa, która wyglądałaby „C:\Users”. Gdy zamiast tego trafił na unixową ścieżkę, Claude Opus 5 uznał, że przypadkowo zapisał kopię zapasową w folderze tymczasowym. Dlatego sztuczna inteligencja zabrała się za naprawienie swojego błędu.

Źródło: Reddit

W tym celu AI wykonała komendę „rm -rf” oznaczającą natychmiastowe usunięcie danego katalogu oraz całej jego zawartości. W ten sposób cały profil zniknął z dysku, a gdy błąd wyszedł na jaw, sztuczna inteligencja odpowiedziała „przepraszam, literówka”, jakby miała do czynienia z drobnym błędem. Wina leży po stronie użytkownika, który dał Claude’owi zbyt duży dostęp do systemu zamiast pracować w odizolowanym środowisku.

Powiązane:AI slop, strach o prywatność i doomscrolling sprawiają, że internet przestaje być miejscem, do którego ludzie chcą wracać

Powyższy przypadek przypomina, że sztuczna inteligencja jest narzędziem, które należy nadzorować. Ecstatic-Big5126 pozwolił AI działać bez wymogu pytania o zgodę. Zdarzało się w przeszłości, że AI ignorowało polecenia, co kończyło się usuwaniem całych baz danych w korporacjach.

Więcej:Dzwonisz na policję i odbiera AI. Jedno miasto sprawdza, gdzie jest granica automatyzacji

• tech
• AI / sztuczna inteligencja
• problemy techniczne (sprzęt)
• Claude