Co wiedzą o nas algorytmy?. Czy ludźmi da się sterować, używając technologii?

Adam Bełda

6 czerwca 2022

Co wiedzą o nas algorytmy?

Algorytmy, które wykrywają potrzeby użytkowników są tak skuteczne, że mogą wiedzieć czego będziemy chcieli zanim jeszcze sami o tym pomyślimy. Popularna jest historia o mężczyźnie, który chciał pozwać serwis Zuckerberga za to, że ten zaczął wyświetlać jego nastoletniej córce reklamy produktów przeznaczonych do pielęgnacji noworodków. Plan uzyskania odszkodowania od giganta spalił na panewce, gdy okazało się, iż dziewczyna faktycznie jest w ciąży, a sztuczna inteligencja zarządzająca reklamami po prostu na podstawie jej zachowania w sieci wydedukowała, że ma do czynienia z młodą matką zanim sama zainteresowana zdała sobie z tego sprawę. Muszę jednak uczciwie przyznać, że nie udało mi się zweryfikować prawdziwości tej anegdoty. Być może powyższa historia nigdy się nie wydarzyła… ale z pewnością mogłaby.

Świadczyć o tym może chociażby wpis Talii Shadwell. Kobieta na swoim Twitterze opisała, jak w pewnym momencie zaczęła dostawać coraz więcej reklam dotyczących ciąży i opieki nad małymi dziećmi. Kobieta była również użytkowniczką aplikacji do śledzenia miesiączki, do danych której dostęp miała mobilna wersja Facebooka. Natłok nieadekwatnych ofert pojawił się mniej więcej wtedy, kiedy przez miesiąc nie logowała się do rzeczonej aplikacji i program uznał, iż okres znacząco się jej spóźnia. Przypadek?

INFORMACJE ZGROMADZONE PRZEZ FACEBOOKA

Dobrze, serwisy społecznościowe gromadzą ogromne ilości informacji na temat użytkowników. Czy możemy się dowiedzieć jakie to informacje i ile zajmują? Okazuje się, że na przykład Facebook umożliwia bezpośredni dostęp do zebranych przez siebie danych. Użytkownik może w prosty sposób pobrać na swój komputer paczkę zawierającą wszystko, co serwis Zuckerberga dowiedział się na jego temat. Przygotowanie takiego pliku trwa jednak kilka dni, a jego rozmiar może zaniepokoić. Informacja o tym jak to zrobić znajduje się na stronie pomocy.

Pozostając w temacie ciąży, trochę światła na to jak – poza pożyczaniem danych z innych aplikacji – reklamodawcy wyłapują przyszłych rodziców rzucić może ciekawa rozmowa z Andrew Polem, statystykiem sieci sklepów Target.

Target ma cię na muszce

Ujawnił on, że algorytm może przewidzieć szansę na to, że klientka spodziewa się dziecka na podstawie jej wcześniejszych zakupów. Firmie udało się zidentyfikować 25 produktów, które analizowane razem, pozwalają z bardzo dużym prawdopodobieństwem ocenić, czy mamy do czynienia z osobą w ciąży lub planującą ciążę.

Przykładowo, kobiety na początku drugiego trymestru kupują więcej bezzapachowych balsamów do ciała, a w ciągu pierwszych 20 tygodni suplementy takie jak magnez, wapń czy cynk. Wydawać by się mogło, że to dość proste do wydedukowania fakty, ale wrażenie robi tak naprawdę powiązanie tego wszystkiego matematyką i ustalenie niepokojąco precyzyjnych szczegółów, takich jak termin porodu.

Weźmy na przykład fikcyjną klientkę sieci Target, 23-letnią Jenny Ward, mieszkającą w Atlancie. Kobieta w marcu kupiła balsam z masłem kakaowym, torebkę wystarczająco dużą, by mogła służyć jako torebka na pieluchy, suplementy z cynkiem i magnezem oraz jasnoniebieski dywan. Oszacować można, że jest 87-procentowe prawdopodobieństwo, że jest w ciąży, a jej data porodu przypada na koniec sierpnia. Aha, a dzieciak pewnie będzie chłopcem, biorąc pod uwagę kolor dywanu.

Fakt, iż ktoś na podstawie błahych informacji jest w stanie wiedzieć tak wiele o naszym intymnym życiu może budzić niepokój, ale w gruncie rzeczy dostosowywanie reklam to nie jest żadne zagrożenie, prawda? Otóż niekoniecznie. Podstawowy problem jest taki, że mimo deklaracji Facebooka, użytkownik nie ma nad wyświetlanymi mu treściami żadnej kontroli. Dość dobrze opisuje to raport fundacji Panoptykon. Opisana jest w nim historia użytkowniczki, której natrętnie wyświetlane reklamy dotyczące niechcianych, ale trudnych do zignorowania treści wpłynęły na pogorszenie zdrowia psychicznego i nasilenie dolegliwości lękowych.

Kobieta przez pewien czas przeglądała w internecie treści dotyczące chorób onkologicznych oraz pielęgnacji dzieci, co miało związek z tym, iż sama niedawno stała się matką, a jedno z jej rodziców zmarło na raka. Facebook na tej podstawie przypisał do jej zainteresowań tagi takie jak: onkologia, świadomość raka, wady genetyczne, nowotwór czy rdzeniowy zanik mięśni. Serwis zaczął więc wyświetlać jej artykuły na temat zdrowia, chorób dzieci czy reklamy badań genetycznych. Ze względu na to iż tego rodzaju treści powodowały u niej silny dyskomfort, użytkowniczka zaznaczała, iż nie chce aby były one dalej wyświetlane… co było skuteczne jedynie na kilka dni.

Po pewnym czasie ilość proponowanych materiałów na te tematy wracała do tej sprzed teoretycznego wpisania ich na czarną listę. Algorytm uznał najwyraźniej, że wie lepiej niż kobieta, co powinno być jej prezentowane. Co ciekawe, program zadziałał tutaj podobnie do ludzkiego mózgu, który częstokroć uporczywie podsyła stresujące, niechciane myśli dotyczące sytuacji budzących lęk. Takie zjawisko nazywane jest obsesjami.