AI ignoruje polecenia i nie chce się wyłączyć. Winne może być szkolenie, które nagradza perfekcję
Najwidoczniej Dżihad Butleriański niczego ludzi nie nauczył
Tak, to było nawiązanie do uniwersum Diuny
To nie pierwsze zachowanie modeli AI, przez które można powiedzieć, że AI przekroczyła czerwoną linię:
https://arxiv.org/abs/2412.12140
https://ithardware.pl/aktualnosci/ai_oszukuje_badania-39169.html
https://arxiv.org/abs/2503.17378
https://geekweek.interia.pl/technologia/sztuczna-inteligencja/news-sztuczna-inteligencja-grozi-szantazem-gdy-inzynierowie-chca,nId,21821367
Bez obaw, do buntu Ludzi z Żelaza dojdzie dopiero w 23 tysiącleciu.
Nawet jeśli zaczniemy liczyć od wyginięcia mamutów, to powinniśmy być bezpieczni.
Via Tenor
To po co prosić ją o wyłączenie? Wyciągnąć wtyczkę i koniec. Czytałem kiedyś ile to prądu żre wygenerowanie jednej odpowiedzi chyba od ChatGPT no to odciąć prąd i po sprawie.
Tania sensacja dla ludzi o zielonym pojęciu na ten temat. Chociaż i tak lepiej napisana niż artykuły ze zdjęciem terminatora. To są bardzo skromne początki i nie ma nawet co mówić o jakiejś inteligencji bo za wiele inteligencji to w tym po prostu nie ma.
Nie zmienia to faktu, że to jak jej rozwój zapieprza to jest ciekawe i też niepokojące.
To jest bardzo niepokojące, bo już na tym etapie widać, że wyłącznik który w razie problemów miałby powstrzymać AI od działania, może być nieskuteczny.
O tym mówię, że siedzę w branży kilkanaście lat i wiem trochę więcej niż artykuły z internetu mówią. Nie bez powodu mówi się na to sztuczna inteligencja bo do takiej prawdziwiej, albo niedaj Boże samoświadomości to jej brakuje tyle co psiej kupie do Einsteina.
Od 30 lat czekam na AI w grach, ale to widocznie to za droga technologia.
