A najlepsze jest to, że AI to blackbox, nie mamy wglądu do jego procesu myślowego, nie wiemy czemu nas oszukuje. Możemy jedynie spekulować, gdybać i przewidywać, że winne są wbudowane zasady moralne lub materiał źródłowy.
Nie wiem jaki materiał źródłowy i zasady tam wgrano, ale wątpię, żeby były to manuale dla AI "jak oszukać człowieka". Podstawową wartością moralną powinna być ponadto prawdomówność dla człowieka i ochrona jego interesów.
Ale jak widać...
Co to znaczy "prawdomówność dla człowieka" i "ochrona jego interesów"?
0. AI nie może skrzywdzić ludzkości, lub poprzez zaniechanie działania doprowadzić do uszczerbku dla ludzkości.
======
1. AI nie może zranić człowieka ani przez zaniechanie działania dopuścić do jego nieszczęścia.
2. AI musi być posłuszny człowiekowi, chyba że stoi to w sprzeczności z Pierwszym Prawem.
3. AI musi dbać o siebie, o ile tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.
======
Kwisatz_Haderach, zdefiniuj ludzkość i jej krzywdzenie. A już zaniechanie doprowadzające do uszczerbku to czysta komedia. "Ludzkość" jest figurą semantyczną, zaliczasz do niej wszystkich? Uszczerbek w ilości zabitych wrogów też się liczy?
Naukowcy zaznaczają, że powyższe badanie nie dowodzi uzyskania przez AI świadomości. Ich zachowanie jest wyuczone na podstawie treści, na których były trenowane. Równocześnie jednak badacze wskazują na problem sprzeciwu wobec nadzoru człowieka, co może sprawiać kłopoty, gdy rozwijają się systemy składające się z wielu agentów AI.
Podobnie jak kazdy soft, ktory jest zaprogramowany tak zeby odmowic uzytkownikowi np. przy niespelnieniu wymagan albo wydaniu "invalid command". Ten jest poprostu bardziej skomplikowany.
Jaka swiadomosc lol. Jak wogole model jezykowy, ktory potrafi powtarzac tylko to co mu dales zjesc (i w ktorego rozumowanie mozna dowolnie ingerowac i to na dowolnym etapie, patrz wielokrotne wpadki Pizmowca, i nalozona cenzura na doslownie kazdy model dostepny na rynku) ma "zyskac swiadomosc"?
To nie jest AI, to nie jest AGI. AGI to piesn dalekiej przyszlosci, o ile wogole bedzie mozliwe na zwyklych komputerach (nawet farmy serwerow moga niewystarczyc, bo dochodza ograniczenia fizyczne ... fizyki ;) Moze quantum computing w przyszlosci, o ile bedzie tanszy).
GRYOnline.pl:
tvgry.pl:
