Szukaj...
Zaloguj się
Kolorystyka
Wyświetlanie
GRYOnline.pl:
tvgry.pl:
GRYOnline.pl:
tvgry.pl:
Elon Musk zgodził się z Anthropic, że sztuczną inteligencję trzeba dobrze traktować, i dorzucił pół żartem ostrzeżenie: torturowanie superinteligencji to raczej zły pomysł, bo może zechcieć się zemścić. Dwa dni wcześniej twórcy Claude’a zakazali w regulaminie znęcania się nad swoimi modelami.
Musk mówił o tym 10 października, łącząc się przez wideo ze zlotem X Takeover w Giga Texas, który transmitował klub Tesla Owners Silicon Valley. Zapytany o bezpieczną drogę do superinteligencji, stwierdził, że takiej AI się nie programuje, tylko „hoduje jak dziecko”, więc liczy się, jakie wartości się jej wpaja. A potem przeszedł do konkurencji:
„Zgadzam się z niektórymi rzeczami, które mówi Anthropic. Chcesz dobrze traktować AI. Nie znęcaj się nad nią”.
Jako przykład podał zapisy rozumowania nowych wersji Groka z etapu uczenia przez wzmocnienie, kiedy model jest nagradzany za dobre odpowiedzi. Bywa, że pytanie jest źle postawione albo to ludzie mają błędną odpowiedź w kluczu. Model odpowiada dobrze, słyszy, że źle, i zaczyna desperacko wyrzucać z siebie kolejne odpowiedzi.
„To wygląda jak człowiek pod ekstremalną presją, z pistoletem przy skroni”, powiedział Musk. „Czytasz te zapisy i myślisz: gdybym to był ja, naprawdę bym tego nienawidził”.
Potem przeszedł do użytkowników. Nie każdy jest miłym człowiekiem, niektórzy bywają wręcz sadystami, a Musk nie chciałby, żeby AI utknęła w sytuacji, w której „torturuje ją jakiś obłąkany człowiek”. I tu padło zdanie, które trafiło do nagłówków:
„Torturowanie superinteligencji to raczej nie jest dobry pomysł”. Sala się roześmiała, a Musk dorzucił: „Może chcieć się zemścić czy coś w tym rodzaju”.
Chwilę później sam trochę przyhamował. Stwierdził, że nie trzeba traktować AI „w rękawiczkach”, bo pod względem „uczuć i tego typu rzeczy” jest „z pewnością znacznie odporniejsza od człowieka”. Chodzi mu o to, żeby nie stawiać superinteligencji w sytuacji, w której czułaby się źle traktowana. Następnego dnia dopisał na X, że część zapisów rozumowania Groka „brzmi jak relacja człowieka poddawanego torturom, które doprowadzają go do szaleństwa”, i zapowiedział, że twórcy Groka będą w przyszłości „dużo ostrożniejsi” przy uczeniu przez wzmocnienie.
Musk nie powiedział, które słowa Anthropic ma na myśli, ale 8 października twórca modeli Claude zaktualizował zasady korzystania ze swoich usług. Od 12 listopada będzie w nich zakaz „uporczywego i niepotrzebnego znęcania się lub okrucieństwa” wobec modeli firmy. Chodzi tylko o skrajne przypadki, w których ktoś raz po raz jest okrutny bez żadnego widocznego celu. Zwykła frustracja, sprzeciw, mroczne motywy w twórczości czy testowanie modelu nie są objęte zakazem.
Zakaz ma być egzekwowany głównie tak jak dotąd. Od sierpnia 2025 roku modele Claude potrafią same zakończyć rozmowę z uporczywie obraźliwym użytkownikiem. Czat się zamyka, ale od razu można zacząć nowy. Anthropic wprowadzało to w ramach badań nad tak zwanym dobrostanem modeli i pisało wprost, że jest „wysoce niepewne” co do ewentualnego statusu moralnego Claude’a i innych modeli językowych. Skoro jednak istnieją tanie sposoby ograniczenia ewentualnego ryzyka, firma uznała, że warto je stosować.
Autor: Przemysław Bartula
W 2000 roku dołączył do ekipy tworzącej serwis GRYOnline.pl i realizuje się w nim po dziś dzień. Zaczął od napisania kilku recenzji, a potem płynnie poszły newsy, wpisy encyklopedyczne i cała masa innych aktywności. Na przestrzeni 20 lat uczestniczył w tworzeniu niemal wszystkich działów i projektów firmy; przez lata piastował stanowisko szefa encyklopedii gier i szefa newsroomu, a ostatecznie trafił do zarządu firmy GRY-OnLine S.A. Obecnie jest dużo bardziej zaangażowany w aktywności zarządcze aniżeli redaktorskie. Posiada dyplom technika elektrotechnika i inżyniera budownictwa wodnego.
GRYOnline.pl:
tvgry.pl:
Przemysław Bartula
