Za pomocą specjalnie przygotowanego programu stworzyli nagranie głosu prezesa firmy, który polecił dyrektorowi spółki córki szybkie przelanie pieniędzy na konto węgierskiego kontrahenta. Dyrektor nie miał żadnych wątpliwości, prezes mówił ze swoim charakterystycznym niemieckim akcentem. Mało tego, po południu zadzwonił jeszcze raz, dziękując za przelew. Dyrektor nabrał podejrzeń dopiero, gdy prezes zadzwonił po raz trzeci i zlecił wykonanie kolejnej transakcji. Ale – jak opisywał niedawno „The Wall Street Journal" – wtedy już było za późno. Pieniądze z Węgier przetransferowano do Meksyku i ślad po nich zaginął.
Właśnie tak działa deepfake. Tym mianem określane są oparte na sztucznej inteligencji narzędzia pozwalające tworzyć zupełnie fałszywe nagrania audio i wideo, których nawet wprawne oko nie może odróżnić od prawdziwych. Kilka lat temu wydawało się, że to coś ze sfery science fiction, ale historia kradzieży opisana przez „WSJ", a nagłośniona w Polsce przez portal Konkret24, pokazuje, że żarty się skończyły i że trzeba się przygotować na nową rzeczywistość. Ktoś powie, że to tylko udoskonalenie dobrze znanej metody na wnuczka – ktoś wyłudza pieniądze, twierdząc, że przekaże je członkowi rodziny w potrzebie. Ale to nie tylko techniczne udoskonalenie. To nowa rzeczywistość.
Chińska agencja Xinhua w ostatnich miesiącach stworzyła dwóch prezenterów – awatar kobiety czytającej informacje w języku chińskim i mężczyzny dla wiadomości w języku angielskim. Z kolei na przełomie sierpnia i września Chińczycy oszaleli na punkcie aplikacji Zao, która służy do tworzenia deepfake'ów. Natychmiast pojawiły się zastrzeżenia co do poziomu prywatności i bezpieczeństwa, które oferują. A jedno jest z drugim związane. Powstały bowiem obawy, że program potrafiący robić m.in. wideo ze zdjęcia człowieka może posłużyć do łamania zabezpieczeń transakcji. Największy w Chinach operator płatności elektronicznych Alipay (870 mln użytkowników) posługuje się systemem Smile to Pay – w restauracji czy sklepie wystarczy spojrzeć w obiektyw kamery smartfona, a system rozpoznaje twarz, czym potwierdza transakcję. I choć Alipay wydał oświadczenie, że system jest absolutnie bezpieczny, to już na przykład WeChat – największy chiński komunikator – zablokował możliwość wrzucania filmików powstałych dzięki aplikacji Zao, powołując się właśnie na względy bezpieczeństwa.
Ryzyko stało się tak poważne, że w tym tygodniu Facebook wyłożył na stół 10 mln dol. na nagrodę w konkursie Deepfake Detection Challenge. Do inicjatywy dołączyły Microsoft i kilka uczelni – jak choćby słynny MIT czy Berkeley. Celem konkursu jest stworzenie powszechnie dostępnej technologii, która pozwoli identyfikować sfałszowane nagrania czy zdjęcia.
Z deepfake'ami oczywiście trzeba walczyć. Ale nie jestem optymistą. W czasach, gdy wiedzę o świecie czerpiemy z nagłówków w mediach społecznościowych, memów i krótkich filmików, fałszywe materiały dokonają wielkiego spustoszenia. Fałszywki pójdą w świat i będą się sączyły jak jad, niszcząc politykę, biznes, ale też i życie prywatne wielu ludzi.
