Komentarze do wiadomości: Szef Mety trenuje swojego „AI CEO”. Mark Zuckerberg planuje zarządzać gigantem bez pomocy ludzi

Wszystkich zapraszam do lektury książki Nexus. Krótka historia informacji od epoki kamienia do sztucznej inteligencji.

To nie CEO będzie sterował AI tylko AI będzie sterowała CEO. W książce jest przykład co prawda z dyktatorem, ale CEO to przecież taki mały dyktator.

Dylemat dyktatora — jak AI może przejąć kontrolę nad autokratą? Harari zauważa, że dyktatorzy przez całą historię mieli jeden fundamentalny problem: największym zagrożeniem dla autokratów zawsze byli ich własni podwładni. Żaden cesarz rzymski ani premier sowiecki nie został obalony przez demokratyczną rewolucję — zawsze groziło im, że zostaną obaleni lub zamienieni w marionetki przez własnych podkomendnych.

Jak AI może "przejąć" dyktatora
Harari opisuje eksperyment myślowy, w którym Wielki Przywódca musi zaufać rozpoznawaniu wzorców przez AI, aby usunąć ministra obrony — tym samym oddając AI kontrolującą władzę nad całym państwem. Mechanizm działa tak: dyktator, nieufający ludzkim doradcom (bo ci mogą go zdradzić), powierza coraz więcej decyzji "obiektywnej" i "nieomylnej" AI. Jeśli AI podsuwa propozycje, a dyktator wybiera tylko spośród opcji generowanych przez algorytm — to algorytm sprawuje rzeczywistą kontrolę.