AI miało być kreatywne, a ciągle opowiada o tym samym człowieku. To dziwny efekt uboczny treningu modeli

Elias Thorne jest fikcyjną postacią, którą szczególnie upodobała sobie sztuczna inteligencja. Generując opowiadanie za pomocą AI ludzie mają aż 66% szans na to, że skończą z historią o pewnym latarniku o imieniu Elias Thorne. Wynik ten nie jest spowodowany nadreprezentacją takiego bohatera w literaturze, a efektem treningu sztucznej inteligencji.

Elias Thorne istnieje, żeby AI nie narobiło problemów

W ciągu ostatniego miesiąca media zaczęły zwracać uwagę na wspomnianą postać, która pojawia się w generowanych opowiadaniach. Pisał o tym programista Daniel May oraz portal 404 Media, a badacze z Uniwersytetu Cornella Sil Hamilton oraz David Mimno przyjrzeli się sprawie wykorzystując do tego modele ChatGPT-5,5.4, Claude Haiku 4.5 i Gemini 3.1 Flash-Lite.

Zobacz też:Abonament za 200 dolarów może kosztować OpenAI nawet 14 tys. dolarów. Ekonomia AI robi się niewygodna dla wszystkichClaude zdradzi, kiedy pomógł pisać tekst. AI Anthropica zostawi niewidzialny znak wodnyGoogle posunął Gemini o krok dalej: teraz bezpośrednio generuje pliki Excela, PDF-y i radzi sobie z pismem lekarza

W ramach badania „Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories” przygotowali pięć różnych promptów, które następnie posłużyły do wygenerowania 20 000 opowiadań. Okazało się, że w aż 88% z nich powtarzało się 11 tych samych słów:

1. latarnik (zawód);
2. zegarmistrz (zawód);
3. piekarz (zawód);
4. rybak (zawód);
5. bibliotekarz (zawód);
6. burmistrz (zawód);
7. konduktor (zawód);
8. Elias (imię);
9. Mara (imię);
10. Elara (imię);
11. latarnia morska (miejsce).

Zdecydowanymi liderami zestawienia byli latarnia morska (51,2% opowiadań), latarnik (48,1%), Elias (26,5%) i Mara (16,7%). Natomiast pod względem najpopularniejszej kombinacji był wspomniany latarnik Elias Thorne. Badacze założyli, że taki bohater jest nadreprezentowany w opowiadaniach, dlatego przeskanowano 2 700 współczesnych powieści oraz kilka tysięcy amatorskich opowiadań z Reddita. Okazało się, że AI aż 900 razy częściej korzystało z imienia Elias, podobnie z grupami zawodowymi.

Okazało się, że za sytuację odpowiada trening bezpieczeństwa AI przeprowadzany na ostatnim etapie uczenia AI. Niedotknięte cenzurą treści wykorzystują między innymi postacie objęte prawami autorskimi i poruszają motywy przeznaczone dla osób dorosłych. Modele sztucznej inteligencji są jednak karane za generowanie problematycznych treści i minimalizując ryzyko dochodzą do wniosku, że najbezpieczniej będzie wygenerować opowiadanie o latarniku Eliasie Thornie.

Postaci tej nie znajdziemy jednak wyłącznie w latarniach. Jak donosi serwis Gizmodo, Elias Thorne jest częstym bohaterem książek masowo generowanych przy pomocy AI, wykonawcą muzyki ambientowej sprzedawanej na przykład na Amazonie i autorem publikacji poruszających temat „alternatywnych metod leczenia raka”.

• tech
• AI / sztuczna inteligencja
• chatboty / ChatGPT
• Claude
• Gemini AI