AI wymyśliło 40 tysięcy nowych rodzajów broni chemicznej w 6 godzin
Oto kolejny przykład, jak niebezpieczne może być niewłaściwe wykorzystanie AI. Odpowiednio przeprogramowane algorytmy używane w pracy nad lekami stworzyły 40 tys. potencjalnych trucizn w 6 godzin.
- sztuczna inteligencja potrafi stworzyć potencjalnie niebezpieczne trucizny – udowodniła to grupa naukowców.
Pracownicy naukowi z firmy farmaceutycznej Collaborations Pharmaceuticals użyli sztucznej inteligencji i w 6 godzin opracowali 40 tys. potencjalnie niebezpiecznych związków chemicznych. Niektóre z nich teoretycznie wykazują większą toksyczność od „najmocniejszej” znanej obecnie neurotoksyny VX.
Oczywiście celem grupy naukowców (którym przewodzi Fabio Urbina) nie jest zniszczenie świata. Zostali oni zaproszeni przez szwajcarski Federalny Instytut Ochrony NBC (tj. jądrowej, biologicznej i chemicznej) na serię konferencji o nazwie „Konwergencja”. To inicjatywa, która ma na celu poznanie obecnych możliwości w dziedzinie konstruowania broni chemicznych i biologicznych.
To tylko eksperyment
Efekty ich pracy to tylko skutek doświadczenia. AI, która w tym celu została wykorzystana, na co dzień pomaga w pracy nad lekami, ograniczając ich toksyczność. Przestawili oni tylko priorytety, by zamiast szukać cząstek jak najmniej toksycznych, skrypty pracowały odwrotnie.
Oczywiście związki, które otrzymali naukowcy, są czysto teoretyczne. Nie wiadomo nawet, czy rzeczywiście można je uzyskać i czy w ogóle są tak toksyczne, jak widoczne jest to „na papierze”. Poprzez eksperyment chciano tylko pokazać, jak łatwe jest obecnie tworzenie nowych, potencjalnie niebezpiecznych molekuł.
Chcemy tylko, aby więcej badaczy było świadomych potencjalnych nadużyć. Kiedy zaczyna się pracę w chemii, otrzymuje się informacje o jej niewłaściwym wykorzystaniu i jest się w pewnym sensie odpowiedzialnym za unikanie tego w jak największym stopniu. W przypadku uczenia maszynowego nie ma nic podobnego. Nie ma żadnych wskazówek dotyczących niewłaściwego wykorzystania technologii.
– Fabio Urbina w rozmowie z TheVerge
Więcej:„Hej matołku”. Według badaczy AI daje lepsze odpowiedzi, gdy zapytanie jest nieuprzejme
Komentarze czytelników
zanonimizowany602264 Legend
Tego typu newsy tylko utwierdzają Mirków w przekonaniu, że ta cała szcztuczno ynteligencja to zagrożenie, anulować to!!! Po co produkować takie newsy, żeby siać głupią panikę dalej? Jest dużo eksperymentów przeprowadzane w dziedzinie AI i nikt o tym nie mówi, bo to nie ma sensu. Bez prawidłowej walidacji, może się okazać, że te związki wcale nie są truciznami, bo tworzenie nowych przypadków na podstawie innych znanych już, które istnieją w mniejszej ilości ZAWSZE jest obarczone błędem, bądź nadmiarowością. Nie zdziwiłbym się gdyby większość z nich było jednym i tym samym.
Serio dajcie spokój z takimi newsami, bo ludzie coraz bardziej boją się AI i uważają, że jest to diabeł wcielony.
tynwar Senator
Jakie to ma znaczenie? Tak ogromna ilość powoduje, że to co SI wymyśliło jest nic nie warte dla terrorystów. Musieliby sprawdzać każdą, musieliby ciągle zaopatrywać się w określone substancje, musieliby pracować w laboratorium, musieliby sprawdzić opłacalność produkcji itd.
Herr Pietrus Legend
Super. Takiego AI było nam trzeba.
Zabawne, że AI szuka też od lat nowych leków i nie słyszałem, by jakieś znalazło. :P
No dobra, z pewnością jakieś teoretycznie skuteczne substancje już tak odkryto, ale nie sądzę, że tak szybko i w tak dużej liczbie.
Nawet z pomocą AI łatwiej niszczyć niż budować.
GRYOnline.pl:
tvgry.pl:
