Wideo z kondolencjami Donalda Trumpa po tragedii w USA zawiera anomalie, wskazujące na użycie AI
Po opublikowaniu przez Biały Dom nagrania z Trumpem internauci zaczęli kwestionować jego autentyczność. Nienaturalny ruch rąk i „glitche” w wideo sugerują użycie AI, choć w grę wchodzi też pośpieszny montaż.
Kilka godzin po zastrzeleniu konserwatywnego aktywisty Charliego Kirka na oficjalnym profilu Białego Domu pojawiło się nagranie z Donaldem Trumpem, odnoszącym się do tego wydarzenia. Internauci zaczęli jednak zwracać uwagę, że prezydent USA wygląda nienaturalnie, a pewne tropy sugerują, że całe nagranie… mogło zostać wygenerowane przez AI. Uważniejsi użytkownicy zwrócili uwagę m.in. na:
- Nienaturalny ruch dłoni w 18. sekundzie nagrania;
- Dodatkowo między 18. a 20. sekundą, gdy Trump wypowiada słowo „patriota”, jego postać dosłownie „glitchuje”;
- Między 46. a 48. sekundą ręce poruszają się nienaturalnie szybko;
- W tym samym przedziale czasowym widać odbicie głowy prezydenta w oknie, które gwałtownie przeskakuje w prawo i już tam zostaje.
Jak widać, hasło o „patrzeniu komuś na ręce” jest bardzo skuteczne w kontekście analizowania materiałów wideo – AI wciąż ma problem z generowaniem dłoni, czasami dodając lub odejmując palce. W tym materiale również widać problemy z ich wyglądem.
Nagranie jest prawdziwe, ale problemem jest montaż?
Według obrońców „prawdziwości” nagrania za dziwne artefakty graficzne (tzw. glitche) odpowiedzialny jest Morph Cut, czyli technika z programu Adobe Premiere Pro. Pozwala ona na płynne połączenie dwóch różnych ujęć poprzez morfing (przekształcenie) końca jednego klipu w początek drugiego. Według użytkowników czasami powoduje to pojawianie się „drobnych różnic”, przez co może się wydawać, że za całość odpowiada sztuczna inteligencja.
Kolejnym argumentem w tej kwestii jest presja czasowa – montażysta chciał jak najszybciej przygotować oświadczenie, co poskutkowało pójściem na skróty i wykorzystaniem narzędzi AI do szybszego zmontowania całej wypowiedzi. Nawet Grok ma pewne wątpliwości co do autentyczności nagrania. Na zapytania użytkowników odpowiedział:
Zgodnie z analizą nagranie wykazuje oznaki, które mogą sugerować wygenerowanie go przez AI, takie jak „glitche” i minimalny ruch, co zauważyli niektórzy użytkownicy platformy X. Jednakże duże serwisy informacyjne, jak „The New York Times” i Associated Press, podają, że jest to autentyczne oświadczenie Trumpa. Bez oficjalnego potwierdzenia sytuacja pozostaje niejasna — nagranie mogło zostać zmontowane z użyciem AI, ale nie w pełni przez nie wygenerowane.
Pewne jest więc jedno – sztuczna inteligencja na pewno maczała palce w stworzeniu tego nagrania. W jak dużym stopniu, ciężko stwierdzić. Skoro jednak serwisy informacyjne potwierdzają, że Trump realnie nagrał taką wypowiedź i trafiła ona na oficjalne konto Białego Domu na platformie X, jest wątpliwe, aby „fejkowe” oświadczenie mogło tam wisieć przez kilka godzin.
Precedens, który może być bardzo niebezpieczny w przyszłości
Na razie internautów może to śmieszyć, ale skoro głowa najpotężniejszego państwa na świecie musi uciekać się do stosowania AI w tworzeniu materiałów prasowych… to, kiedy spotka nas poważny kryzys, wywołany przez fałszywe nagranie jakiegoś polityka lub lidera społecznego? Już w 2017 roku naukowcy ostrzegali przed technologią Deep Fake, która służyła (obok tworzenia pornografii) do kreowania fałszywych wypowiedzi polityków. W ten sposób udało im się wygenerować wypowiedź Baracka Obamy.
Dyskusja pod orędziem Trumpa tylko pokazuje, jak duże trudności mamy z rozpoznawaniem prawdziwych treści. I paradoksalnie, w tym celu także korzystamy z AI… co dodatkowo wzbudza chaos.
XXI wiek, przy dominacji internetu jako źródła informacji, jest przesycony chaosem informacyjnym. Warto o tym pamiętać przy konsumowaniu wszelkich treści pochodzących z sieci, zwłaszcza iż nie brakuje w niej botów.
