OpenAI chce chronić ludzkość przed zagrożeniem ze strony AI

Na oficjalnej stronie OpenAI, możemy przeczytać o nowej inicjatywie, której celem jest ochrona ludzkości przed zagrożeniami, płynącymi ze strony AI. Firma powołała właśnie do życia specjalny zespół ekspertów o nazwie Preparedness, a jego zadaniem będzie śledzenie, prognozowanie i ochrona przed zagrożeniami związanymi z przyszłymi systemami sztucznej inteligencji.

OpenAI chce badać ryzyko związane z AI

Obecnie sztuczna inteligencja postrzegana jest jako użyteczne narzędzie, ale nie można też zapominać o zagrożeniach, jakie niesie ze sobą jej rozwój. A tych jest bardzo wiele, takie jak pisanie złośliwego kodu, skuteczniejszy phishing czy generowanie obrazów, wykorzystywanych do kreowania fałszywej rzeczywistości. Tymczasem to tylko przykłady pierwsze z brzegu, bo gdy technologia stanie się bardziej zaawansowana, może posłużyć do znacznie groźniejszych działań.

Powiązane:Teraz nieco lepiej rozumiemy kryzys w OpenAI. Zarząd mógł mieć rację co do nieuczciwości Sama Altmana

Firma OpenAI, odpowiedzialna za czatbota ChatGPT, doskonale zdaje sobie sprawę z istniejącego ryzyka, dlatego tworzy zespół ekspertów, który zajmie się tą kwestią. Pokieruje nim Aleksander Madry, dyrektor Centrum wdrażania uczenia maszynowego na MIT, a jego zadaniem będzie śledzenie, ocenianie, prognozowanie i ochrona przed katastrofalnym ryzykiem, obejmującymi wiele kategorii. Są to: Zindywidualizowana perswazja, Bezpieczeństwo cybernetyczne, Zagrożenia chemiczne, biologiczne, radiologiczne i nuklearne (CBRN) oraz Autonomiczna replikacja i adaptacja (ARA).

Zespół na razie jest w fazie tworzenia, zaś OpenAI zaprasza wszystkich chętnych, którzy chcieliby do niego dołączyć. W tym celu stworzono wyzwanie AI Preparedness Challenge, którego celem jest znalezienie najlepszych pomysłów na zapobiegnięcie katastrofalnym nadużyciom z wykorzystaniem sztucznej inteligencji. Autorzy 10 najlepszych koncepcji, mogą liczyć na 25 tys. dolarów nagrody, a także szansę zostania członkiem zespołu Preparedness.

Firma uważa, że modele AI mają potencjał, aby przynieść korzyści całej ludzkości. Stwarzają również poważne ryzyko, dlatego trzeba upewnić się, że istnieje infrastruktura oraz narzędzia niezbędne do zapewnienia bezpieczeństwa i w razie potrzeby ograniczenia ich możliwości.

Czytaj więcej:Tłumacze mogą bać się o pracę, ChatGPT-4o szokuje jakością