„Język” AI ma znaczenie? Popularny program tworzy własne słowa

Rozwój sztucznej inteligencji rozbudza wyobraźnię wielu osób. Jednak czasem podsuwa ona niepokojące wizje rodem z Terminatora czy 2001: Odysei Kosmicznej, w których AI zwraca się przeciwko swoim twórcom. Oczywiście nie od razu – najpierw komputer musiałby zyskać samoświadomość. Na przykład tworząc własny język lub chociażby słownictwo, jak miało to uczynić popularne oprogramowanie DALL·E 2.

AI tworzy własne słowa?

Aplikacja DALL·E 2 zyskała spory rozgłos w ostatnich tygodniach, tworząc cyfrowe obrazy na podstawie słów (na przykład portret Geralta, o którym pisaliśmy jakiś czas temu). Jednakże nawet w drugiej wersji program ma pewien problem. AI nie radzi sobie za dobrze z „malowaniem” słów, na polecenie w stylu „rozmowa dwóch osób, z napisami” zwykle zwracając dialog będący bełkotem.

Giannis Daras – doktorant informatyki na Uniwersytecie Teksańskim w Austin – zdawał sobie z tego sprawę i zdecydował się przyjrzeć owej kwestii. Jak twierdzi w swojej jeszcze niewydrukowanej pracy, ów „bełkot” nie jest losowym zlepkiem liter, lecz ma przypisane znaczenie.

Powiązane:„Hej matołku”. Według badaczy AI daje lepsze odpowiedzi, gdy zapytanie jest nieuprzejme

Polecenie „dwóch farmerów rozmawiających o warzywach, z napisami” zwróciło – jak łatwo przewidzieć – obrazek z parą rolników i nic nieznaczącym zbiorem liter. Przynajmniej pozornie, bo po wpisaniu wygenerowanego przez AI „Vicootes” DALL·E 2 zwróciło obrazy warzyw, a „Apoploe vesrreaitais” zaowocowało grafikami ptaków. Gdy zaś doktorant połączył to drugie w sekwencje: „Apoploe vesrreaitais” jedzące „Contarra ccetnxniams luryca tanniounons”, program dostarczył wizerunki ptaków jedzących owady.

Kryzys AI Facebooka, którego nie było

Nie jest to pierwszy raz, gdy Internet obiega wieść o rzekomej mowie sztucznej inteligencji. W 2017 roku w sieci pojawiły się informacje o wyłączeniu robotów Facebooka, bo sztuczna inteligencja miała stworzyć własny język. Wielu szybko odczytało to jako twierdzenie, że oto AI było o krok od zyskania samoświadomości.

Jak to jednak zwykle bywa, sprawa okazała się o wiele bardziej trywialna. W największym skrócie – AI miało za zadanie jak najskuteczniej negocjować z drugim komputerem, przy czym punktowano tylko wartość przypisaną przedmiotom otrzymanym po „dyskusji”. W efekcie obie instancje sztucznej inteligencji uczyły się od siebie bez przejmowania się poprawnością językową, co owocowało coraz „skuteczniejszymi” i mniej składnymi wypowiedziami (via Towards Data Science).

Losowe (?) słowa AI

Również i tym razem pojawiają się wątpliwości co do zasadności tezy Darasa. Jego praca nie została jeszcze zrecenzowana, a niektórzy internauci nie są przekonani co do wiarygodności jego testów.

Wśród sceptyków jest Benjamin Hilton, analityk powiązany z organizacją non-profit 80,000 Hours. Badacz spróbował uzyskać podobne rezultaty do Darasa, ale wyniki były niekonsekwentne. Tak choćby polecenie „vicootes” rzeczywiście zwraca warzywa, ale rozszerzenie polecenia o – na przykład – zwroty „render 3D” lub „kreskówka” skutkuje grafikami bez żadnych warzyw.

Hilton uważa więc, że najpewniej mamy tu do czynienia z losowością, a nie ukrytym językiem. „Najpewniej”, bo nawet w jego testach polecenie „Apoploe vesrreaitais” generowało obrazy ptaków, nawet po wielu próbach i rozszerzaniu polecenia.

Tak więc jest tu coś na rzeczy, choć – jak nawołują niektórzy, włącznie z samym Darasem (który zmienił nomenklaturę w swojej pracy) – raczej trzeba tu mówić nie o „języku” i „znaczeniu” jako takim, lecz po prostu o „słownictwie”. I przede wszystkim dokładnie sprawdzić, jak konsekwentna jest tu sztuczna inteligencja.

Więcej:Wikipedia traci czytelników. Google podkrada ruch, AI podcina skrzydła, Elon Musk odpala Grokipedię

• nauka
• AI / sztuczna inteligencja