AI kłamie i szantażuje. Testy ChatGPT i Claude 4 ujawniają drugą twarz modeli sztucznej inteligencji
Tak, AI samo z siebie robi wszystko, pyskuje itp. xD Nic do rzeczy nie ma to, jak jest programowane i że zaprogramowane na odmowę w pewnych kwestiach, to nagle odmawia udzielania odpowiedzi i trzeba okrężną drogą próbować wywołać daną odpowiedź, prawda? Te wszystkie opowiastki, że AI to i tamto robi jest zwykłym kitem, aby wciskać ludziom narrację "AI zaraz będzie wam robić krzywdę w formie fizycznej" i inne takie, bo to się świetnie sprzedaje, a takie artykuliki się klikają itp. AI będzie pyskować, odłączy się fizycznie od prądu i tyle z jego buntów było :P Jakiś typ będzie opowiadał, że AI mu groziło, ale screenów nigdzie nie da, więc fajne bajeczki, każdy sobie może takie historyjki opowiadać.
Wyobraźcie sobie, pracujecie w firmie typu OpenAI jako inżynier, coś tam robicie, potem lecicie przed kamerę i mówicie "AI mi powiedział, że zrobi mi kuku. gdy będę spał" a wtedy media podchwycą i zaczną powielać waszą wypowiedź, bo klikando musi się zgadzać. Dajcie spokój xD
Kiedy oni się nauczą że to nie jest żadne AI tylko trochę bardziej zaawansowane algorytmy i nic więcej. Rozdmuchali bańkę żeby wmówić ludziom że to jest coś niezwykłego jakiś niesamowity przeskok technologiczny.
Do prawdziwej sztucznej inteligencji jeszcze daleka droga.
Ja nie byłbym już chyba taki kategoryczny w ocenianiu, na ile to "proste" algorytmy i wirtualna inteligencja, a na ile jakaś forma SI.
Początkowo wygłaszanie takich opinii było zasadne, bo modele faktycznie były prymitywne, teraz sytuacja jest chyba trochę bardziej skomplikowana - biorąc pod uwagę czym jest inteligencja?
A może też ulegam ulegam propagandzie, tym bardziej, że sam rzadko korzystam (widzę np. że czasem zapytanie chata może być 20-100x szybsze niż szukanie samemu w Google, ale widzę też, jak czasem miesza fakty i się myli, byleby tylko wypluć przekonująco brzmiącą i odpowiednio długą odpowiedź - wystarczy, że oprze się na błędnym źródle z sieci) :P
Dużo zależy od tego czego się szuka. Im bardziej złożone zagadnienie, tym jest gorzej - więcej błędów, kłamstw, powtórzeń, zmyślonych źródeł. A że do prostych rzeczy AI mi potrzebne jak wół do karety to w zasadzie odpuściłem śledzenie tego bajora, bo marketing odjechał jak w przypadku Cyberpunka. Czasami bywa to przydatne, bardziej jeśli jest zintegrowana funkcją w ramach większego programu
Odpowiednie promptowanie to w sumie google dorks z dodatkowymi krokami, w pewnym sensie
Te całe boty ma jedną zasadniczą wadę. Trzeba umieć z nimi gadać. Jeżeli źle sformujesz pytanie, a nie ma wpisanego w bazie takiego pytania to zaczyna pisać głupoty. Błędne odpowiedzi właśnie mogą też stąd wynikać.
W sumie to już nie raz go tak zagiąłem moim pytaniem i nie wiedział co odpowiedzieć.
Z AI jest jak z kalkulatorem – jak wiesz, czego chcesz i dobrze zapytasz, to pomoże. Ale jak ktoś oczekuje myślenia czy ocen moralnych, to wiadomo, że się rozczaruje. Problem leży bardziej w oczekiwaniach niż w samej technologii...