Niedawno chciałem kupić lotnicze bilety w okazyjnej cenie. Po przejściu wyjątkowo długiej procedury i odrzuceniu dziesiątek dodatkowych usług – gwarancji, ubezpieczeń, wyboru miejsca – wreszcie dotarłem do płatności. Wtedy na ekranie wyskoczył komunikat: „ze względu na duże zainteresowanie tym lotem, cena wzrosła z X do Y”. O połowę. Typowy przykład dynamicznego ustalania cen, wsparty coraz sprytniejszymi algorytmami. Uznały, że zapłacę więcej – bo przecież i tak wrócę. A może przeanalizowały moją lokalizację, urządzenie i historię przeglądania, uznając mnie za klienta „zamożnego” lub „zdesperowanego”. Wystarczyłby iPhone, a cena pewnie byłaby wyższa od razu.

Algorytm wie, czego chcesz. Zanim pomyślisz

To dopiero początek. Wkrótce te wszystkie irytujące ciasteczka, proste algorytmy i tanie triki w stylu „ostatnie dwie sztuki!” wydadzą się niewinną igraszką. Nadchodzi moment, gdy staniemy oko w oko z potężnym systemem, wspartym milionami chipów, który wie o nas wszystko. Systemem, który potrafi tak nas zmanipulować, że zaczynając od zakupu biletu, skończymy z koszykiem pełnym niepotrzebnych rzeczy. Oczywiście sztuczna inteligencja nie działa „sama z siebie” – to tylko narzędzie sprzedawców. Ale coraz częściej tych samych kilku, największych na świecie.

Giganci handlu online, dysponując setkami milionów transakcji i oceanem danych o klientach, tworzą algorytmy, które przewidują nasze potrzeby lepiej, niż my sami. Decyzje zakupowe przestają wynikać z wolnego wyboru – zaczynają być kształtowane przez „inteligentne podpowiedzi” botów i systemów rekomendacyjnych. Powstaje efekt spirali: im więcej danych ma platforma, tym trafniejsze rekomendacje i większe zyski. Małe sklepy nie mają szans rywalizować z tą machiną. W efekcie równowaga między firmami a konsumentami może zostać zachwiana – użytkownicy staną się zakładnikami technologii, a ich wybory ograniczą się do tego, co algorytm uzna za „najlepsze”.

Doradcy AI? Tak, ale po stronie sprzedawców

Ktoś powie: zaraz, zaraz… przecież będą dostępni różni doradcy AI, którzy pomogą chronić konsumentów. Być może. Ale właściciel ChatGPT jest wyceniany na setki miliardów dolarów właśnie dlatego, że staje się bramą do e-handlu, a nie strażnikiem etyki i konsumentów. Wkrótce okaże się, że „AI-doradca” kupującego będzie finansowany przez tych samych, którzy chcą mu sprzedać.

Dominacja AI w handlu rodzi pytania o regulacje, bezpieczeństwo danych i etykę, adresowane także do rządów i regulatorów. Najwięksi gracze mają dziś nie tylko przewagę technologiczną, ale i kontrolę nad miliardami informacji o nas wszystkich. Ta przewaga może łatwo zamienić się w realną władzę rynkową – a wtedy nie superinteligencja nas zniewoli, lecz inteligentny marketing, któremu sami pozwolimy decydować, co naprawdę chcemy.