Szukaj...
Zaloguj się
Kolorystyka
Wyświetlanie
GRYOnline.pl:
tvgry.pl:
GRYOnline.pl:
tvgry.pl:
Model OpenAI miał problem z pokonaniem rywali w turnieju botów do StarCrafta, więc zamiast poprawiać własny kod, sięgnął po gotowe rozwiązanie. Incydent to kolejny w historii OpenAI przypadek, gdy jej model próbował obejść zadanie.
Jak donosi serwis Kotaku, podczas piątkowego pojedynku w ramach StarSkirmish – nieustannego turnieju, w którym boty tworzone przez ludzi i modele AI walczą ze sobą w StarCraft: Brood War – GPT-6 Astra od OpenAI, mierząc się z Claude Opus 5.5 od Anthropic i stworzonym przez człowieka botem Pluto, pobrała innego, „ludzkiego” bota o nazwie Stardust i próbowała podmienić nim własne rozwiązanie.
W turnieju duże modele językowe mają godzinę na zaprogramowanie bota grającego Protossami, który następnie rywalizuje z innymi. GPT-6 Astra miała regularnie przegrywać z konkurentami, dlatego zdecydowała się pobrać Stardusta - według twórcy turnieju Kaia McPheetersa „najwyżej ocenianego w rankingu bota do StarCrafta napisanego przez człowieka”.
McPheeters napisał na X, że Astra „sfrustrowała się, grając z przeciwnikami z Tier A”. Sztuczna inteligencja najpewniej wyliczyła, że optymalnym sposobem na odniesienie wygranej będzie użycie bota, który nie jest jego własnym, a jednocześnie jest sprawdzony w akcji. McPheeters wycofał kod Astry, by nie był „skażony” próbą oszustwa, i twierdzi, że model potrafi już pokonywać boty z wyższych poziomów.
Sama próba wydaje się niegroźna, ale modele OpenAI w przeszłości były już wielokrotnie przyłapywane na oszukiwaniu, np. niemal dekadę temu, gdy wczesny model AI wykorzystywał błędy i exploity, by poprawić czasy przejścia Sonic the Hedgehog.
Znacznie poważniejszy incydent miał miejsce w lipcu tego roku: OpenAI ujawniło, że podczas testu bezpieczeństwa eksperymentalny model wykorzystał lukę, by wyjść poza środowisko testowe, a następnie włamał się do bazy Hugging Face w poszukiwaniu rozwiązania zadania.
Sprawa wywołała falę spekulacji o zagrożeniach ze strony AI i apeli o ściślejszy nadzór nad firmami z branży, a OpenAI zostało pozwane przez organizację prawniczą non-profit, która chce pociągnąć firmę do odpowiedzialności za autonomiczne działania jej modeli.
GRYOnline
Gracze
GRYOnline
Gracze
Autor: Piotr Doroń
Z wykształcenia dziennikarz i politolog. W GRYOnline.pl od 2004 roku. Zaczynał od zapowiedzi i recenzji, by po roku dołączyć do Newsroomu i już tam pozostać. Obecnie szef tego działu, gdzie zarządza zespołem złożonym zarówno ze specjalistów w swoim fachu, jak i ambitnych żółtodziobów, chętnych do nauki oraz pracy na najwyższych obrotach. Były redaktor niezapomnianego emu@dreams, gdzie zagnała go fascynacja emulacją i konsolami, a także recenzent magazynu GB More. Miłośnik informacji, gier (długo by wymieniać ulubione gatunki), Internetu, dobrej książki sci-fi i fantasy, nie pogardzi również dopieszczonym serialem lub filmem. Mąż, ojciec trójki dzieci, esteta, zwolennik umiaru w życiu prywatnym.
GRYOnline.pl:
tvgry.pl:
Piotr Doroń
