Prywatny dokument nie był zbyt prywatny. Google AI podało szczegół z gry, którego twórca nikomu nie zdradził

Coraz powszechniejsze stosowanie różnych modeli sztucznej inteligencji w branży gier okazuje się mieć ciekawy efekt uboczny: AI zaczyna sprawdzać się w roli insidera, ujawniającego informacje o nadchodzących produkcjach zanim zrobią to sami deweloperzy i wydawcy. A przynajmniej tak było w przypadku pewnego niezależnego twórcy.

1. O sprawie napisał deweloper z jednoosobowego studia Klub Kofta. Skontaktował się z nim gracz, który wypytywał AI Google o różne rzeczy dotyczące gry tego „zespołu” zatytułowanej Operation Octo. Sztuczna inteligencja nie tylko udzieliła właściwych odpowiedzi na tematy bazujące na powszechnie dostępnych informacjach, ale również podała konkrety dotyczące nadchodzących aktualizacji, których twórca nigdzie publicznie nie ujawnił.
2. Oczywiście, nie ma tutaj mowy o żadnych magicznych zdolnościach AI. Gracze zgadują, Google skanuje plik i dane prywatnych użytkowników uzyskując dane do trenowania swoich modeli. W przypadku Operation Octo wspomniany gracz dowiedział się, że jedna z aktualizacji doda postać nazwaną Vantage Tripod. Twórca wspomniał o niej wyłącznie w dokumentach projektowych umieszczonych w usłudze Google Docs, więc oczywistym jest, że właśnie stamtąd zaczerpnęło tę informację Gemini AI.
3. Co prawda, standardowo z Google Docs nie powinny być czerpane dane do trenowania modeli AI (choć na ile można ufać tym zapewnieniom, pozostaje kwestią otwartą), ale to się zmienia, gdy zaczynamy korzystać z niektórych funkcji sztucznej inteligencji oferowanych przez firmę. Do tego w przypadku np. Gmaila, standardowo ta funkcja jest włączona i musimy ją sami dezaktywować.

Historia tego dewelopera to przykład tego, że korzystając z modeli AI niedziałających natywnie na naszym PC, nigdy tak naprawdę nie możemy być pewni, co dokładnie dzieje się z naszymi danymi. Wiele firm boleśnie się o tym przekonało. W USA było kilka przypadków, gdy kancelarie prawnicze pomagały sobie sztuczną inteligencją i nie zabezpieczyły odpowiednio danych, w skutek czego kto był potem w stanie wyciągnąć od tych modeli poufne informacje klientów.

1. Operation Octo na Steamie

Więcej:Dzwonisz na policję i odbiera AI. Jedno miasto sprawdza, gdzie jest granica automatyzacji

• Google
• AI / sztuczna inteligencja
• kradzieże i wycieki danych
• PC