Chcesz uchronić swoje zdjęcia przed AI? Skorzystaj z nowego narzędzia
Naukowcy z MIT stworzyli oprogramowanie, które jest w stanie zabezpieczyć fotografie przed ingerencją sztucznych inteligencji. Wprowadza ono specyficzne zakłócenia, z którymi generatywne AI mają problem.
Generatywne sztuczne inteligencje pozwalają tworzyć całkowicie nowe dzieła, jak i przerabiać istniejące fotografie. Są w stanie wykorzystać wizerunek osoby, by umieścić ją w zupełnie innej sytuacji, całkowicie zmyślonej. W ten sposób powstało wiele deepfake-ów kompromitujących np. polityków. Nie lękajmy się jednak, właśnie powstało narzędzie, które pozwoli zabezpieczyć fotki przed ingerencją AI.
PhotoGuard od MIT
Naukowcy z MIT CSAIL (Computer Science and Artificial Intelligence Laboratory) stworzyli oprogramowanie o nazwie PhotoGuard, które może być wykorzystane do zabezpieczenia fotografii, lub tylko wybranych ich obszarów. AI nie będzie w stanie zmodyfikować zakodowanych w ten sposób zdjęć lub efekt edycji może raczej nie nadawać się do publikacji.
PhotoGuard wykorzystuje fakt, że AI inaczej „spoglądają” na zdjęcia niż człowiek. Nie widzą ich w dosłowny sposób, ale raczej analizują ich kod. Narzędzie wykorzystując złożone obliczenia matematyczne, dodaje specyficzne artefakty (zakłócenia) do obszarów plików graficznych, które zaznaczymy do immunizacji. Ludzkie oko nie jest w stanie ich zauważyć, ale AI je odczytuje, np. widząc pewien obszar zdjęcia jako jednolicie szary, podczas gdy dla ludzkiego oka tam znajduje się twarz.
Działanie enkodera sprawia, że model myśli, że obraz wejściowy (do edycji) jest innym obrazem (np. szarą plamą) – Hadi Salman, doktorant MIT.
PhotoGuard został przetestowany w generatywnych AI, jak Stable Diffusion i DALL-E. Najczęściej obserwowanym rezultatem zakodowania było pozostawienie przez sztuczną inteligencję zakodowanych obszarów nienaruszonych – AI jakby ich nie dostrzegało. Dodatkowo w wynikowych plikach granica między obszarami objętym i nieobjętym działaniem PhotoGuard była bardzo wyraźna – efekt pracy AI wyglądał jak amatorski fotomontaż sprzed pół wieku przy użyciu wyciętej fotki i kleju.
Technika ta nie jest niestety niezawodna. Umiejętne osoby po zorientowaniu się, że zdjęcie jest zabezpieczone, mogą próbować usunąć ochronę. Jest to możliwe, eksperymentując z dodawaniem szumu cyfrowego, przycinając i dodatkowo obracając zdjęcie. Dlatego naukowcy uważają, że ich narzędzie jest tylko jednym z wielu elementów, które mają się przyczynić do walki z deepfake-ami. Potrzebna jest współpraca serwisów z albumami i grafiką, a także podmiotów stojących za generatywnymi AI.
Komentarze czytelników
dienicy Generał
właśnie powstało narzędzie, które pozwoli zabezpieczyć fotki przed ingerencją AI.
Takie narzedzie powstalo dawno temu. Nazywa sie Zorki 5...
Mqaansla Generał
Przeciez zaraz powstanie jakis antyfiltr dostepny dla kazdego z komputerem i dwoma komurkami mozgowymi - gdzie jedynym kierunkiem w ktorym to zmierza jest coraz mniej czytelny obraz ktory predzej czy pozniej rozeznac beda mogly wylacznie komputery przed ktorymi jest zabezpieczany bo zwykly czlowiek bedzie widzial mrowy (znieksztalcenie obrazu) i szarobure plamy jak w niektorych testach anty spamowych...
Mqaansla Generał
"Sami"?
Kazdy chce dostepu do wszystkich danych, osobiscie utrzymuje relatywna prywatnosc (co jesli juz nie jest to w krotce bedzie wymogiem przy jakiejkolwiek pracy umyslowej a moze nawet nietylko) ale sporym kosztem. Co ma zrobic zwyczajny Kowalski ktoremu z jednej strony molochy wyszarpuja dane niczymn watacha wilkow zeby je wcisnac do chmury (swoich serwerow, swoich kierzeni), a z drugiej prostaczki majace gdzies prawo udostepniaja wlasnosc innych?
Mqaansla Generał
właśnie powstało narzędzie, które pozwoli zabezpieczyć fotki przed ingerencją AI.
Zabraklo: "chwilowo", jak dlugo kradziesz w wykonaniu "AI" wlasnosci bedzie legalna tak dlugo beda powstawaly narzedzia je umozliwiajace.
Ignazzio Konsul
Podobne metody już od kilku miesięcy próbowano reklamować jako metodę przed "kradzieżą" sztuki do nauki AI. Szybko przestały działać. Chwilowo może działa jednak nie wróżę sukcesów na dłuższą metę.
GRYOnline.pl:
tvgry.pl:
