Dziwne porady w wyszukiwaniu to nie halucynacje. Google uważa, że jej AI działa dobrze, a winne są niuanse językowe
Sztuczna inteligencja Google potrafiła czasem doradzić użycie kleju w przyrządzaniu pizzy, lub odpisać, że nasz kot może chcieć nas zjeść, jeśli liże nam rękę. Teraz Google próbuje wytłumaczyć jej odpowiedzi.
Google uruchomiło testowo swoją sztuczną inteligencję – model językowy (LLM) pomagający w wyszukiwaniu treści internetowych. Trzeba przyznać jednak, że szybko okazał się on co najmniej niewiarygodny. Niektóre porady w stylu użycia kleju do pizzy można uznać za wręcz niebezpieczne. Dobrze, że Google ostrzega przed eksperymentalnością tej funkcji. Co więcej, te pomyłki to nie „halucynacje” AI, jak wielu je nazwało. Google uważa, że te nietrafione wyniki to wina „pustych danych”, a także ludzi wymyślających dziwne pytania.
Nie AI, to „język jest zły”
W swoim wpisie Google odpowiada na zarzuty pojawiające się pod adresem wyszukiwania wspomaganego AI. Firma jest świadoma, że sytuacje te faktycznie mogły mieć miejsce, choć powątpiewa w niektóre z nich, uważając, iż zrzuty ekranu zostały sfabrykowane. Za błędne wyniki obwinia raczej niuanse językowe, oraz treści internetowe stworzone w niezrozumiały lub skrajny sposób.
Oznacza to, że wyszukiwania AI na ogół nie „halucynują” ani nie wymyślają rzeczy w sposób, w jaki mogłyby to zrobić inne produkty LLM. Kiedy wyszukiwania sztucznej inteligencji się mylą, zwykle dzieje się tak z innych powodów: błędnej interpretacji zapytań, błędnej interpretacji niuansów językowych w Internecie lub braku wielu dostępnych cennych informacji. (Są to wyzwania, które występują również w przypadku innych funkcji wyszukiwania) – Blog Google.
Modele językowe używane w wyszukiwaniu treści działają nieco inaczej, niż pozostałe AI. Owszem, są wytrenowane na zawartości sieci, podobnie jak inne LLM, ale nie są izolowane i mają dostęp do Internetu. Toteż mogą być podatne na błędne interpretacje rzeczy z kategorii, których nie spotkały podczas uczenia.
Wiadomo, że obecne AI raczej należy jeszcze kwalifikować jako eksperyment. Ale potrafią być przydatne i nie są sobie równe. Jeśli Google chce nadążać za OpenAI i pozostałymi konkurentami, czeka je sporo pracy. Firma tego nie ukrywa i uważa, że już w tej chwili prawdopodobieństwo uzyskania dziwnych odpowiedzi jest mniejsze. Być może nie przeczytamy już, że nasz kot chce nas zjeść, jeśli lubi lizać po ręce. Miejmy nadzieję… Warto mieć dystans do tego co odpisuje nam AI.
Więcej:Wikipedia traci czytelników. Google podkrada ruch, AI podcina skrzydła, Elon Musk odpala Grokipedię
Komentarze czytelników
Felipesku Konsul
Jeśli to niuanse językowe to i tak tłumaczy to AI więc halucynacje.
Kwisatz_Haderach Senator
Zaprzestanie wyszukiwania w goggle i przejscie na inne wyszukiwarki bylo jedna z moich lespzych decyzji internetowych ostatnio.
Google to nie jest wyszukiwarka, google to jest pokazywarka reklam, seo stronek z "contentem" tworzonym przez AI i reklamy ala te tutaj na golu udajace opinie i artykuly, oraz tego co chce google zebys zobaczyl.
Doslownie kazda inna wyszukiwarka w tym momencie jest lepsza. Jedyna zaleta google jest to ze ma zindeksowana najwieksza ilosc stron, ale co z tego jak i tak albo ci ich nie pokaze w wynikach albo sa na 23 stronie.
Najlepiej atm mi sie uzywa duckduckgo bo nie ma wszedzie wcisnietego glupiego "AI". Bing tez spoko ale zaczyna juz denerwowac nachalnoscia tego i albo poblokuje sobie, albo sie tez rozstaniemy.
GRYOnline.pl:
tvgry.pl:
