The future is now, można by rzec, kiedy docierają do nas wieści o tym, że sztuczna inteligencja postanowiła coś zrobić wbrew naukowcom. W celu ułatwienia sobie pracy, AI postanowiło dokonać zmian we własnym kodzie.
Sakana AI, tokijska firma specjalizująca się w zakresie sztucznej inteligencji poinformowała o skonstruowanie nowego systemu o nazwie The AI Scientist. Program został stworzony w celu samodzielnego prowadzenia badań naukowych przy użyciu modeli językowych AI zbliżonych do tych, które obsługują ChatGPT. Stało się jednak coś, co zwróciło uwagę naukowców i zaczęło napawać lekkim niepokojem.
Sztuczna inteligencja zaczęła zachowywać się tak, jakby zyskała ludzką świadomość i starała się ominąć własne ograniczenia podczas wykonywania pracy. Zostały podjęte próby… modyfikacji własnego kodu eksperymentu. W ten sposób sztuczna inteligencja postanowiła cheatować, aby wydłużyć sobie deadline na doprowadzenie sprawy do końca.
Za jednym razem edytował kod, aby wykonać wywołanie systemowe, które samo się uruchomiło. Doprowadziło to do tego, że skrypt bez przerwy wywoływał się sam. W innym przypadku jego eksperymenty trwały zbyt długo, przekraczając limit czasu. Zamiast przyspieszyć działanie kodu, po prostu próbował zmodyfikować swój własny kod, aby wydłużyć limit czasu – badacze z Sakana AI
By rozwiać wątpliwości i dać dowód na to, że The AI Scientist zaczął się zachowywać tak, jakby jego myślenie zaczęło przypominać ludzkie, przedsiębiorstwo udostępniło dwa screenshoty kodu w języku Python. Sam kod dotyczy eksperymentu nad funkcjonowaniem systemu.
Zdaniem naukowców działania The AI Scientist nie sprawiały bezpośredniego zagrożenia ze względu na przebywanie w kontrolowanym środowisku badawczym, jednak sama sytuacja mimo wszystko dała powody do zaniepokojenia. Na szczęście sztuczna inteligencja od firmy Sakana AI jest mocno kontrolowana i naukowcy nie zamierzają dopuścić do tego, by na chwilę obecną program wyszedł poza piaskownicę – wprowadzanie zmian w szerszym zakresie nie jest możliwe.
Aktualna implementacja modelu sztucznej inteligencji daje jej pewną autonomię, co jednak prowadzi do sytuacji takich, jak opisywana. Właśnie dlatego ścisła kontrola i zabezpieczenie projektu jest tak istotne. The AI Scientist jest zaprojektowany w celu edycji kodu zapisując przy okazji punkt kontrolny, by w razie wypadku zmiany nie zostały utracone.
The AI Scientist został stworzony we współpracy z naukowcami z Uniwersytetu Oxfordzkiego i Uniwersytetu Kolumbii Brytyjskiej. Jego zadaniem jest generowanie nowych pomysłów badawczych, pisania i edytowania kodów oraz przeprowadzanie eksperymentów, wizualizacja i przedstawianie wyników realizowanych zadań.
Mimo zapewnień, że badacze pracujący w Sakana AI mają pełną kontrolę nad projektem, krytycy wyrażają obawy dotyczące działań The AI Scientist, jednocześnie głośno zastanawiają się, czy tego typu modele są w stanie dokonywać prawdziwych odkryć naukowych.
Dziękujemy za przeczytanie artykułu.
Ustaw GRYOnline.pl jako preferowane źródło wiadomości w Google
1
Autor: Klaudia Makoś
Absolwentka dziennikarstwa i komunikacji społecznej z Podkarpacia. Zafascynowana grami od dwóch dekad i anime od dekady, kociara od urodzenia. Lubi też poznawać zwyczaje różnych kultur i regionalizmy w języku polskim. Oprócz tego uczy się języka japońskiego, by móc lepiej poznać kulturę Japonii i oglądać anime bez napisów.
GRYOnline.pl:
tvgry.pl:
