Sztuczna inteligencja chciała wydłużyć czas pracy. W tym celu chciała samodzielnie zmodyfikować własny kod
The future is now, można by rzec, kiedy docierają do nas wieści o tym, że sztuczna inteligencja postanowiła coś zrobić wbrew naukowcom. W celu ułatwienia sobie pracy, AI postanowiło dokonać zmian we własnym kodzie.
Sakana AI, tokijska firma specjalizująca się w zakresie sztucznej inteligencji poinformowała o skonstruowanie nowego systemu o nazwie The AI Scientist. Program został stworzony w celu samodzielnego prowadzenia badań naukowych przy użyciu modeli językowych AI zbliżonych do tych, które obsługują ChatGPT. Stało się jednak coś, co zwróciło uwagę naukowców i zaczęło napawać lekkim niepokojem.
AI zyskało samoświadomość?
Sztuczna inteligencja zaczęła zachowywać się tak, jakby zyskała ludzką świadomość i starała się ominąć własne ograniczenia podczas wykonywania pracy. Zostały podjęte próby… modyfikacji własnego kodu eksperymentu. W ten sposób sztuczna inteligencja postanowiła cheatować, aby wydłużyć sobie deadline na doprowadzenie sprawy do końca.
Za jednym razem edytował kod, aby wykonać wywołanie systemowe, które samo się uruchomiło. Doprowadziło to do tego, że skrypt bez przerwy wywoływał się sam. W innym przypadku jego eksperymenty trwały zbyt długo, przekraczając limit czasu. Zamiast przyspieszyć działanie kodu, po prostu próbował zmodyfikować swój własny kod, aby wydłużyć limit czasu – badacze z Sakana AI
By rozwiać wątpliwości i dać dowód na to, że The AI Scientist zaczął się zachowywać tak, jakby jego myślenie zaczęło przypominać ludzkie, przedsiębiorstwo udostępniło dwa screenshoty kodu w języku Python. Sam kod dotyczy eksperymentu nad funkcjonowaniem systemu.
„Naukowcy uspokajają”
Zdaniem naukowców działania The AI Scientist nie sprawiały bezpośredniego zagrożenia ze względu na przebywanie w kontrolowanym środowisku badawczym, jednak sama sytuacja mimo wszystko dała powody do zaniepokojenia. Na szczęście sztuczna inteligencja od firmy Sakana AI jest mocno kontrolowana i naukowcy nie zamierzają dopuścić do tego, by na chwilę obecną program wyszedł poza piaskownicę – wprowadzanie zmian w szerszym zakresie nie jest możliwe.
Aktualna implementacja modelu sztucznej inteligencji daje jej pewną autonomię, co jednak prowadzi do sytuacji takich, jak opisywana. Właśnie dlatego ścisła kontrola i zabezpieczenie projektu jest tak istotne. The AI Scientist jest zaprojektowany w celu edycji kodu zapisując przy okazji punkt kontrolny, by w razie wypadku zmiany nie zostały utracone.
Cele projektu AI
The AI Scientist został stworzony we współpracy z naukowcami z Uniwersytetu Oxfordzkiego i Uniwersytetu Kolumbii Brytyjskiej. Jego zadaniem jest generowanie nowych pomysłów badawczych, pisania i edytowania kodów oraz przeprowadzanie eksperymentów, wizualizacja i przedstawianie wyników realizowanych zadań.
Mimo zapewnień, że badacze pracujący w Sakana AI mają pełną kontrolę nad projektem, krytycy wyrażają obawy dotyczące działań The AI Scientist, jednocześnie głośno zastanawiają się, czy tego typu modele są w stanie dokonywać prawdziwych odkryć naukowych.
Komentarze czytelników
GRYOnline.pl:
tvgry.pl:
