Sztuczna inteligencja, która opróżnia konto w przypadku halucynacji: Visa i Mastercard pracują nad zabezpieczeniami

Sztuczna inteligencja powoli wchodzi do świata płatności, czego dowodem jest współpraca Visy z OpenAI. Problemem jest jednak działanie technologii i nie do końca przewidywalne zachowanie AI. Dlatego giganci związani z rynkiem finansowym zawiązali współpracę. Korporacje łączą swoje odrębne protokoły we wspólny system pod nazwą Know-Your-Agent.

System ma monitorować AI, żeby nie wykonywało zakupów będących efektem halucynacji

Współpracując z OpenAI Visa opracuje pewne standardy działania, ale żeby zakupy i płatności dokonywane przez AI były w pełni bezpieczne, to potrzebne są globalne rozwiązania. Stąd pomysł na standard Know-Your-Agent, który powstaje we współpracy z innymi korporacjami z branży finansowej. System zakłada kontrolowanie agentów AI na trzech różnych poziomach.

Pierwszy z nich zakłada stworzenie swego rodzaju tożsamości dla każdego z botów. Będzie on przypisany do danego operatora, który następnie przejdzie testy. Mają one wykazać, że AI zachowuje się bezpiecznie podczas wykonywania zakupów. System będzie na bieżąco analizować zachowanie sztucznej inteligencji, a w razie wystąpienia ryzykownej operacji, dojdzie do oflagowania i zablokowania.

Powiązane:Xiaomi Auto szykuje wejście do Europy w 2027 roku, a kierowcy już pytają, czy europejskie marki same oddały tani rynek Chińczykom

Należy jednak brać pod uwagę różne sytuacje, a powyższe zabezpieczenia nie muszą zawsze działać. Dlatego nad dodatkowymi metodami weryfikacji pracuje organizacja EMVCo, która specjalizuje się w zabezpieczeniach płatności internetowych. Chce ona przygotować system, który będzie weryfikował tak zwane „intencje płatnicze”. W ten sposób będzie wiadomo, czy dany zakup miał zostać wykonany, czy jest wynikiem halucynacji AI.

Pozostaje pytanie, czy internauci na pewno tego oczekują i chcą robić zakupy z użyciem AI. Zdaniem szefa ds. produktu i strategii w Visie Jacka Forestella tak i podobnie muszą uważać inne korporacje. Inaczej na początku tego roku nie ogłoszono by współpracy Walmarta z Googlem. Połączenie obu kont ma dać Gemini dostęp do historii zakupów użytkownika, które na tej podstawie ma samodzielnie dokonywać dalszych zakupów.

Więcej:CERN miał dwa wyjścia: zmianę systemu operacyjnego albo wymianę ponad 2 tysięcy komputerów. Wybrano to najrozsądniejsze

• tech
• AI / sztuczna inteligencja
• VISA
• Mastercard