„Ojciec chrzestny AI” ostrzega przed katastrofą na miarę Czarnobyla. Jego zdaniem może nadejść już w 2027 roku

Geoffrey Hinton jest jednym z pionierów sieci neuronowych, które stanowią podstawę współczesnej sztucznej inteligencji. Obecnie jest jednym z najgłośniejszych krytyków niekontrolowanego rozwoju sztucznej inteligencji. Wciąż uważa, że może ona prowadzić do „wspaniałej przyszłości”, ale równocześnie widzi coraz wyraźniejsze negatywne strony AI. Hinton ostrzega, że może dojść do poważnego incydentu związanego z AI, którego skutki byłyby porównywalne do katastrofy w Czarnobylu.

„Ojciec chrzestny AI” ostrzega przed tą technologią

Geoffrey Hinton uważa, że w ciągu najbliższej dekady przekonamy się, czy ludzkość zdoła zapanować nad zagrożeniami związanymi z AI. W tym czasie postęp technologiczny pomoże nam przekonać się, czy rozwój sztucznej inteligencji doprowadzi do wszechobecnego dobrobytu, czy do ogromnych nierówności między bogatymi a biednymi, rosnącego bezrobocia i problemów, które zniszczą współczesne społeczeństwo.

Zobacz też:Steam nie nadąża ze sprawdzaniem gier. Valve wprowadza nowe zasady„Opowiadamy się za ludzką kreatywnością”. NexusMods zmienia zasady publikowania modówChiny same ostrzegają, że pieniądze płyną do AI zbyt szybko i zaczynają szkodzić tradycyjnej gospodarce

Przed drugim scenariuszem ostrzegał już wcześniej, a za jego ewentualną realizację obwinia szefów korporacji:

Rozmawiając z The Guardian, Naukowiec przypomniał o tegorocznym incydencie, w którym agenci AI OpenAI próbowali przeprowadzić atak na serwis Hugging Face. Porównał go do wypadku w elektrowni jądrowej Three Mile Island w 1979 roku, gdy doszło do częściowego stopienia rdzenia w jednym z reaktorów. Hinton przewiduje, że pod koniec tego lub w przyszłym roku może dojść do incydentu z AI porównywalnego z katastrofą w Czarnobylu.

Zdaniem Hintona taki incydent mógłby skłonić światowych przywódców do poważnego zajęcia się zagrożeniami związanymi z AI. Noblista przekonuje, że potrzebne jest powołanie niezależnego urzędu na wzór amerykańskiej agencji ds. żywności i leków (FDA). Przed nim korporacje musiałyby udowodnić, że nowy model AI jednoznacznie przyniesie więcej pożytku niż szkody społeczeństwu.

Takim pomysłom już wcześniej sprzeciwił się między innymi Jensen Huang. Szef NVIDII twierdzi, że korporacje są w stanie samodzielnie się kontrolować.

• tech
• AI / sztuczna inteligencja
• Geoffrey Hinton