"It's not a bug, it's a feature" - w ten sposób Microsoft miał podobno odpowiedzieć na zarzuty, że odpowiednio zmodyfikowany plik .doc powoduje nagłe zamykanie się ich edytora tekstu. Zdanie obiegło internety i weszło na stałe do memetycznego repozytorium. I zupełnie nie ma znaczenia, że w tym konkretnym przypadku to właśnie Microsoft miał rację, ponieważ lepiej jest zamknąć aplikację niż dopuścić do jej niekontrolowanego działania i wykorzystania w szemranych celach.
Pracuję wystarczająco długo w branży IT, aby rozumieć, że ostateczna interpretacja, czy w danym momencie mamy do czynienia z błędem oprogramowania - a może raczej z celowym działaniem? - nie zawsze wynika z faktycznych założeń projektowych. Nierzadko bowiem zależy od naszej wygody, nastroju i światopoglądu. Mówiąc krótko: od tego, czy rzekomy "błąd" przynosi nam aktualnie więcej strat czy korzyści.
Weźmy na przykład takie "grupy zainteresowań" na Facebooku. Pod koniec 2015 roku działało to tak, że Facebook pozwalał użytkownikom dowolnie łączyć się w pary, trójkąty, kwadraty i kółka - i w ramach tych figur geometrycznych wymieniać się wiadomościami. Nic nadzwyczajnego, coś w rodzaju internetowych forów dyskusyjnych. Istotne jest to, że każdy członek grupy mógł zapisać do niej wszystkich swoich znajomych z portalu - i to bez ich wiedzy i zgody. Nie zaprosić, ale właśnie zapisać. Co więcej - jeśli już zapisano cię do jakiejś grupy, to z kolei twoi znajomi mogli zobaczyć w swoim strumieniu facebookowych wiadomości, że oto nagle stałeś się ni z gruszki ni z pietruszki miłośnikiem na przykład inkunabułów, filatelistą lub członkiem bliżej nieznanego Komitetu Obrony Demokracji. I pozostawałeś członkiem grupy dopóty, dopóki sam się z niej nie wypisałeś.
Mechanizm jak mechanizm - sam w sobie zapewne dość przydatny dla hobbystów - aczkolwiek niekoniecznie przewidziany jako opcja dla ruchów politycznych, jeśli zgodzimy się, że możliwość zapisywania kogoś wbrew jego woli do grup o charakterze światopoglądowym jest jednak pewnym błędem projektowym, a przynajmniej nadużyciem istniejącej funkcji.
Marketing rekomendacji
It's not a bug, it's a feature? Ano właśnie. Trudno przypuszczać, by twórcy aplikacji zakładali, że ich dzieło posłuży do masowego żyrowania mikropożyczek - bo przecież trudno całą sytuację porównywać do jednego spektakularnego oszustwa czy też napadu na bank. Mieliśmy tu do czynienia raczej z serią drobnych wyłudzeń, a o skuteczności przedsięwzięcia zadecydował efekt skali. Należy bowiem pamiętać o jeszcze jednej rzeczy: niemal każdy, kto przypadkiem lub z ciekawości zajrzał do facebookowej grupy KOD-u w drugiej połowie listopada 2015 roku, mógł odnieść wrażenie, że jakaś część jego znajomych i rodziny czynnie popiera bądź aprobuje tę inicjatywę.
Nie bagatelizujmy tego faktu: marketing rekomendacji (a przecież o nim właśnie mówimy, nawet jeśli rekomendacje w pewnym sensie sfałszowano) należy do najskuteczniejszych narzędzi reklamowych - według niektórych badań opiniom osób z bliskiego otoczenia ufa blisko 90 proc. badanych. Nawet jeśli podzielimy ten wynik przez dwa, trzy lub cztery - pamiętając, że polityczne produkty są jednak mniej sexy od, dajmy na to, batoników w czekoladzie - to i tak otrzymamy rezonans nieporównywalnie większy od rezonansu, z jakim spotykają się zazwyczaj zapisy programowe w deklaracjach założycielskich ruchów i partii politycznych.
Wybaczam sobie, że opisuję rzeczy w tej chwili aż nadto dla użytkowników Facebooka oczywiste. Robię jednak ten "spis z natury" najzupełniej świadomie i celowo - albowiem algorytmy się zmieniają, a korporacje nie zwykły się z nich spowiadać. Za chwilę nikt nie będzie sobie zawracał głowy takimi szczegółami ani o nich pamiętał. I znowu po latach wyjdzie jak z tym skakaniem Wałęsy przez mur i motorówką.
Zresztą już tak się dzieje, legendy powstają w trybie ekspresowym, wystarczy zerknąć do Wikipedii: "[Mateusz Kijowski] 19 listopada 2015 założył na portalu społecznościowym Facebook grupę o nazwie Komitet Obrony Demokracji, po trzech dniach w grupie znajdowało się trzydzieści tysięcy uczestników". Imponujące. Zwróćmy uwagę: nie "zapisało się", lecz "znajdowało". W żaden sposób nie ustali się już w tej liczbie martwych, przypadkowych lub na siłę zapisanych dusz.
I nie o liczbę tu chodzi, a o dynamikę. 30 tys. nazwisk to znacznie więcej niż potrzeba, aby zainteresowane media głównego nurtu podjęły wątek i odpowiednio go wypromowały, uzyskując duże sprzężenie zwrotne. Pamiętajmy, że przy daleko skromniejszym poparciu - rzędu kilkuset osób - różne inicjatywy potrafią znaleźć się na elektronicznych i papierowych "jedynkach" opatrzone nagłówkami "internauci oburzeni", "w sieci wrze" itp. Dla porównania - rozpowszechniana bardziej tradycyjnymi metodami petycja przeciwko elektronicznej inwigilacji zebrała w podobnym czasie dziesięć razy mniej podpisów.
Daleki jestem od twierdzenia, że KOD zdarzył się tylko przez jeden błąd w kodzie - z całą pewnością inicjatywa trafiła na podatny grunt, wypełniła jakąś społeczną potrzebę. Jestem jednak pewny, że przy bardziej tradycyjnych i równocześnie nieco mniej wątpliwych moralnie sposobach akwizycji początkowa dynamika nie byłaby aż tak olśniewająca i ośmielająca. Przypominam o skali: informacja o grupie zainteresowania dotarła na Facebooku do geometrycznie większej liczby osób niż trafiłaby taka sama informacja o organizowanym wydarzeniu lub fanpage'u. It's not a bug, it's a feature. Albo na odwrót, zależy kto patrzy.
W tym kontekście oczywiście przezabawnie zabrzmiały gorzkie żale Komitetu Obrony Demokracji, kiedy ich przeciwnicy polityczni wykorzystali inny mechanizm i zaczęli na początku stycznia 2016 roku masowo zgłaszać do Facebooka ich strony i grupy jako zawierające niepożądane treści. Tym razem bug nie był po stronie KOD-u, algorytm sypnął piaskiem w oczy i zareagował automatycznie blokadą po przekroczeniu krytycznej liczby zgłoszeń. An error has occured. Or a feature. Tak to działa.
Zablokowani KOD-owcy wystosowali w tej sprawie cokolwiek histeryczny list otwarty do Facebooka, zredagowany w tonie dawnych listów w obronie wolności słowa. A być może wystarczyłoby banalne zgłoszenie w dziale pomocy technicznej. Tak czy owak, dali poważny asumpt do akademickich rozważań, czy w ich motywacjach i działaniach więcej jest cynizmu, czy jednak cyfrowego analfabetyzmu. Bo wcale nie można wykluczyć, że decyzja o wykorzystaniu mechanizmu grup była in statu nascendi przypadkowa i pozbawiona wyrachowania. Sami zainteresowani w każdym razie już dowiedzieli się o swoim bezpowrotnie utraconym dziewictwie, gdyż na stronie swojej grupy stanowczo obwieszczają, iż "Można zachęcać do dołączenia do KOD, ale NIE DODAJEMY SWOICH ZNAJOMYCH. Każdy musi sam poprosić o przyjęcie do grupy".
Jako się rzekło, legendy powstają w trybie ekspresowym: słyszę oto, że Mateusz Kijowski otrzymał już stworzoną ad hoc Nagrodę Wolności "za zorganizowanie w niebywale krótkim czasie (...) pokojowych protestów setek tysięcy Polaków w obronie wolności i demokracji". Zostawiając na boku kwestię fundatora ("Towarzystwo Dziennikarskie" - doprawdy trudno o nazwę trafniej oddającą cel i sens istnienia), należy powiedzieć, że samo uzasadnienie o "krótkim czasie" jest jak najbardziej w porządku - wątpliwości budzi jednak nazwanie tej nagrody Nagrodą Wolności. Z równie komicznym efektem można by dać ekonomicznego Nobla Bernardowi Madoffowi za piramidę finansową, a pokojowego, dajmy na to, Barackowi Obamie. A nie, wróć, rozpędziłem się. No to literackiego za wpisy na Twitterze.
Wystarczy drobna zmiana
Ktoś mógłby powiedzieć, że żal mi róż, kiedy płoną lasy, że są to wszystko kwestie trzeciorzędne, które w żaden sposób nie odnoszą się do istotnych sporów politycznych w Polsce. I zgodzę się z tym bardzo chętnie - tym chętniej, że nie mam zbyt wysokiego mniemania o ogólnym poziomie naszej debaty publicznej, a do tezy o pełzającym zamachu stanu podchodzę, jak można się domyślić, z daleko idącym sceptycyzmem.
W całej tej sprawie interesuje mnie zupełnie inna perspektywa, a przypadek KOD-u traktuję jako poręczne exemplum dla ukazania znacznie bardziej fundamentalnych dylematów niż te, które dzielą dzisiaj miłośników i przeciwników piknikowania na świeżym powietrzu. Kiedy więc czytam w "Rzeczpospolitej" (15.01.2016) rozmowę Roberta Mazurka z Mateuszem Kijowskim, w której pada taka oto deklaracja: "dla mnie niesłychanie ważna jest zasada owocu zatrutego drzewa", to rozumiem, że troskliwy ojciec założyciel KOD-u takie owoce odrzuca. Otóż z pewnego punktu widzenia - i to niekoniecznie motywowanego politycznie - mamy tu do czynienia właśnie z owocem zatrutego drzewa.
Bo w całej sprawie początków KOD-u najbardziej interesujący jest jej technologiczno-korporacyjny aspekt, a nie odwieczne rozważania, czy słuszny cel uświęca niezbyt szlachetne środki. Mówiąc krótko: chodzi o kwestię przełożenia, jakie może mieć banalny błąd w kodzie na codzienne życie. Wystarczy choćby drobna zmiana w obliczaniu średniej ważonej, nieuwaga programisty, niechlujność testera, niedopracowane procedury lub zbytni optymizm projektowy, a czyjaś wirtualna kariera oligarchy lajkowego legnie w gruzach, jakaś firma przestanie istnieć w wynikach wyszukiwania, a więc na rynku, ktoś obali rząd, a ktoś inny flaszkę, ale w złym miejscu i złym czasie.
To jeszcze nie jest Matrix braci Wachowskich, ale nie jest to też pieśń aż tak bardzo odległej przyszłości - to codzienność, w której suche algorytmy mają coraz większy wpływ na nasze, zdawałoby się, niepodległe wybory. Pozostając w orbicie Facebooka i mediów społecznościowych: weźmy przykład najprostszy z możliwych, czyli to, co widzimy na ekranie komputera zaraz po zalogowaniu się. Zapewne nie tylko mnie irytuje, że portal z uporem godnym lepszej sprawy prezentuje w strumieniu wiadomości (tzw. feedzie) arbitralnie wybrane przez siebie (a więc przez algorytm) "najciekawsze zdarzenia" zamiast pokazywać po kolei wszystko to, co działo się podczas mojej nieobecności.
W tej chwili, korzystając ze strony WWW Facebooka, mogę jeszcze zmienić ustawienia i wyświetlać sobie wiadomości z kraju i wszechświata w porządku chronologicznym, nie dzieląc ich na dobre i złe, ciekawe i nieciekawe. Ale na telefonie, w którym korzystam z aplikacji mobilnej, już takiej możliwości nie mam - zawsze najpierw widzę te rzekomo najciekawsze. Jako programista potrafię sobie to wytłumaczyć i usprawiedliwić - w aplikacji, z której korzystają setki milionów użytkowników, domyślny sposób prezentacji danych ma realne przełożenie na infrastrukturę, która jest potrzebna, aby te dane poprawnie wyświetlić, a więc na koszt serwerów, łącz internetowych, nie mówiąc już o energii elektrycznej wyemitowanej do atmosfery. Ale jako poeta, poniekąd zawodowo szukający dziury w całym, zastanawiam się, czy przypadkiem ktoś tu nie upiekł dwóch pieczeni na jednym ogniu. Bo skąd niby algorytm ma "wiedzieć", co jest dla mnie najciekawsze i warte zaprezentowania, a co może zejść na plan dalszy, jak nie z głębszej lub płytszej analizy mojego sieciowego behawioru: z lajków, z komentarzy, z wiadomości wymienianych ze znajomymi, a także z odwiedzin różnych stron WWW, które łaskawe były poczęstować mój komputer ciasteczkami?
Cel wydaje się oczywisty i tak naprawdę jest już w miarę dobrze rozpoznany - chodzi o targetowanie użytkowników, aby dopasować pod ich preferencje przekaz reklamowy. Nie można jednak zapominać o efekcie ubocznym: algorytm stawia nas w roli inżynierów Mamoniów, lubiących tylko te piosenki, które już słyszeli, a odcina nas od dźwięków, które potencjalnie mogłyby nam zgwałcić uszy i zepsuć dobre samopoczucie. Najciekawsze jest to, co już polubiliśmy, a lubimy to, co jest najciekawsze. Koło się zamyka.
Zmierzam do tego, że już sam interfejs użytkownika na Facebooku nie sprzyja wymianie i negocjacji poglądów, ale służy raczej uziemianiu się we wcześniej podjętych decyzjach. Co prawda pierwotnie chodziło zapewne tylko o ulubioną markę samochodu, kawy lub butów, ale siłą inercji algorytm obejmuje także nasz światopogląd. Bo to lepiej służy sprzedaży, jak w starej i często obśmiewanej reklamie proszku do prania, który miał sprawić, że biel będzie jeszcze bielsza. W tym przekazie nie chodziło ani o prawdę, ani o fałsz, ani nawet o pozyskanie nowych klientów, ale o utwardzenie i tak już dość twardego targetu vel elektoratu.
Poważniejsza rozmowa - na przykład o kształcie ustrojowym Polski, paradygmacie stanowienia prawa, polityce historycznej itp. - wydaje się więc w ramach mediów społecznościowych strukturalnie niemożliwa, a przynajmniej mocno utrudniona. Ale to podpowiada intuicja i doświadczenie bez konieczności analizowania algorytmów. Widać to zresztą wyraźnie w grupie KOD-u, która służy głównie do trybalnego heheszkowania z partii rządzącej (ze szczególnym uwzględnieniem Jarosława Kaczyńskiego), a nie do pracy programowej. Notabene grupa ta nie wygląda pod tym względem w żaden sposób wyjątkowo - to samo można powiedzieć o myśliwych i weganach.
Znacznie ciekawsze wydaje się obserwowanie dynamiki "eventów". Śledzenie, jak rzucony w wirtualną przestrzeń mem (i sposób jego dystrybucji narzucony przez oprogramowanie) przeradza się w wystarczający powód, dla którego ludzie są skłonni wyjść manifestować na ulice. To, co stanowi o sile mediów społecznościowych na początku, a więc możliwość szybkiego kanalizowania strachów i idiosynkrazji, możliwość szybkiego "policzenia się", na dłuższą metę okazuje się ich największą słabością, gdyż zawężanie perspektywy i okopywanie się na z góry lubianych pozycjach zostało wpisane w ich modus operandi. KOD nie jest tu przykładem ani pierwszym, ani jedynym. Jeśli zupełnie poważnie zastanawiamy się, jak projekt interfejsu - czyli karty do głosowania - może wpłynąć na wynik wyborów samorządowych czy parlamentarnych, to nie od rzeczy będzie też zwrócić baczniejszą uwagę na szereg innych, mniejszych interfejsów, które w telefonach, komputerach i tabletach mniej lub bardziej wpływają na nasze codzienne decyzje i osądy.
Jest jeszcze jedna rzecz, kto wie, czy nie najważniejsza, o której warto pamiętać: sterowność. Przykład KOD-u pokazuje, że media społecznościowe są nie mniej, a może nawet bardziej niż media tradycyjne podatne na nadużycia i manipulacje. Jakościowo nie ma tu nic nowego: zawsze znajdzie się ktoś, kto wykorzysta przewagę, jaką daje mu wiedza o mechanizmach i procedurach działania - i umieści swój przekaz na eksponowanym miejscu wśród "najciekawszych zdarzeń". Cała gałąź elektronicznego marketingu znana pod kryptonimem SEO (search engine optimization) opiera się właściwie tylko na poznawaniu algorytmów Google'a, aby na potrzeby reklamy umieścić produkt możliwie wysoko w wynikach wyszukiwania. Przy czym produktem niekoniecznie musi być pasta do zębów - może nim być także idea bądź mem. Albo hasło na sztandary.
(Wystarczy przypomnieć, że kilka lat temu udało się komuś tak dowartościować słowo "idiota", że po jego wpisaniu w wyszukiwarkę zamiast informacji o książce Dostojewskiego dostawaliśmy biogram nieżyjącego już, strzaskanego na mahoń polityka, który zwykł z trybuny sejmowej "tylko pytać").
Feudalna okoliczność
Podatność algorytmów na nadużycia to jedna strona medalu. Jest i druga. Przywołany wcześniej list otwarty KOD-u w obronie wolności słowa i zrzeszania się (na Facebooku) został zaadresowany, to niby logiczne, do spółki giełdowej Facebook Inc. z siedzibą w Menlo Park w Kalifornii. Byłoby to nawet śmieszne, gdyby nie było takie smutne - bo nic nie wskazuje na to, by naszych obrońców demokracji jakoś mocno uwierała ta feudalna okoliczność, że swoją petycję, jakkolwiek górnolotnie by nie brzmiała, kierują do seniora z pozycji wasala. I że wyroki seniora są ostateczne jak, nie przymierzając, Trybunału Konstytucyjnego. Algorytmy, owszem, działają bezdusznie, ale wciąż mają swoich właścicieli, a właściciele mają swoje interesy. W różnych miejscach, na przykład w Chińskiej Republice Ludowej, Egipcie lub Libii. Nie ma powodu, by sądzić, że nie mają ich w Polsce.
Daleki jestem od snucia spiskowych teorii, staram się tylko nie tracić z pola widzenia faktu, że wygoda komunikowania się i możliwość doraźnego zwoływania wirtualnych sejmików i zajazdów w mediach społecznościowych może mieć (i pewnie ma) swoją, nieznaną nam jeszcze, cenę. I że oferowany przez speców od usability komfort używania aplikacji oznacza wprost mniejszą kontrolę nad podejmowanymi przez nas decyzjami.
Bo ostatecznie spór o to, czy coś jest błędem, czy jednak opcją, czy coś jest ruchem społecznym, czy tylko kółkiem zainteresowań, i tak na końcu rozstrzygnie korporacja, która nam to wszystko dostarcza w pakiecie z aplikacjami do kolorowania zdjęć profilowych.
Autor jest poetą i prozaikiem. Niegdyś był sekretarzem redakcji miesięcznika „Odra", publikował też m.in. w kwartalniku „Fronda". Obecnie jest projektantem aplikacji internetowych
