W miarę jak decyzje podejmowane przez algorytmy oraz generatywną AI coraz bardziej wplatają się w nasze codzienne życie, ludzie ponoszący największe koszty funkcjonowania tych systemów zaczynają domagać się zadośćuczynienia. Automatyczne systemy są w dużym stopniu niewidoczne i nieprzejrzyste, a osoby dotknięte ich działaniem rzadko zdają sobie sprawę z ich roli. Nawet jeśli mają tę świadomość, na ogół nie są w stanie się dowiedzieć, jak te systemy działają, gdyż nie podlegają one regulacjom prawnym i są ukryte przed wzrokiem ludzi. Bezbronność społeczności dotkniętych ich funkcjonowaniem – pracowników o niskich dochodach, imigrantów, pacjentów szpitali albo ludzi o innym kolorze skóry – często bardzo utrudnia poszukiwanie sposobów na zakwestionowanie użycia tych enigmatycznych systemów.
Z tych samych powodów trudno też znaleźć prawdziwe historie przybliżające skutki działania systemów AI na ludzi. Skrzywdzeni przez algorytmy niechętnie opowiadają o swoich doświadczeniach. Helen Mort, poetka, która znalazła w sieci swoje sfałszowane zdjęcia pornograficzne, Diana Sardjoe, matka młodego mężczyzny napiętnowanego przez policyjny algorytm, a także kierowca Ubera Alexandru Iftimie byli jednymi z pierwszych osób gotowych podzielić się ze mną swoimi opowieściami, by mogły one przyczynić się do wprowadzenia zmian w tym nieprzejrzystym środowisku, często ze szkodą dla nich samych.
W miarę upływu czasu spotykałam coraz więcej takich ludzi czynu. Poznałam 32-letnią Brytyjkę po przeszczepie wątroby, Sarę Meredith, i jej rodzinę, którzy walczą z niesprawiedliwym ich zdaniem algorytmem przydziału narządów. Rick Burgess, członek organizacji Greater Manchester Coalition of Disabled People, zrzeszającej osoby z niepełnosprawnościami, podjął kroki prawne przeciwko Departamentowi Pracy i Emerytur – jednostce brytyjskiego rządu zajmującej się wypłatami zasiłków – aby dowiedzieć się więcej na temat algorytmu, który sygnalizował podejrzenia o oszustwa związane z zasiłkami. Rick uważał, że był on dyskryminujący i nie podlegał wystarczającemu nadzorowi ze strony człowieka.
We wszystkich tych przypadkach sedna sprawy nie stanowiły tylko stronniczość algorytmów lub ich szkodliwe działanie na mniejszości, ponieważ te rzeczy stosunkowo trudno udowodnić. Zebrane przeze mnie historie pokazywały również, jak niejasne i zawiłe są te systemy dla osób, wobec których je stosowano. Sposób wdrażania algorytmów i zarządzania nimi w coraz większym stopniu staje się kwestią praw człowieka.
Czytaj więcej
Przed pierwszym spotkaniem z Sergeyem Brinem i Larrym Page’em, którzy zaledwie rok wcześniej założyli firmę Google, znajomy inwestor uprzedzał mnie...
Moderatorzy cierpią na PTSD
Właśnie dlatego do tej walki przyłączyła się Cori Crider, adwokatka od dawna zajmująca się prawami człowieka, a od kilku lat broniąca więźniów politycznych z bazy w Guantanamo.
Cori jest szybko mówiącą Teksanką mieszkającą na stałe w Londynie. Zawsze uważała, że nie może być większej dysproporcji siły niż między więźniem Guantanamo a przetrzymującym go bez zarzutów i procesu Departamentem Obrony.
W 2019 roku natknęła się jednak na niewidoczną dla większości ludzi społeczność moderatorów treści, pracujących dla takich gigantów medialnych jak Meta. Dostrzegła ich zdumiewające i uderzające podobieństwo do nielegalnie przetrzymywanych więźniów.
Cori przeprowadziła wywiady z ponad setką moderatorów Facebooka, Instagrama i TikToka – między innymi z Danielem Motaungiem z kenijskiej Samy – których zadaniem było oczyszczanie zatrutej studni mediów społecznościowych i szkolenie sztucznej inteligencji do pracy, w której miała ich zastąpić. Odwiedziła Warszawę, Kraków, Nairobi i Dublin, czyli miejsca działalności podwykonawców Mety. Wszystkim swoim rozmówcom gwarantowała anonimowość.
W czasie tych rozmów dowiedziała się o treściach, z którymi moderatorzy mają regularną styczność: obrazach przedstawiających dekapitacje, masowe rozstrzelania, akty terroru, przemoc seksualną i molestowanie dzieci.
Cori wie, jak wyglądają objawy zespołu stresu pourazowego (PTSD). Nawykła do rozmów z więźniami politycznymi, którzy padli ofiarą porwań, byli bici i siłą karmieni. Podczas spotkań z moderatorami, wyraźnie dotkniętymi traumą, przed oczami stawały jej wizyty w Guantanamo. Oczywiście wiedziała, że to nieporównywalne sytuacje, ale mimo wszystko wiele elementów się zgadzało. Przede wszystkim opisywane przez nich retrospekcje – powracające obrazy przemocy, których nie potrafili wymazać z pamięci. Zanim dowiedziała się o istnieniu tej branży, nigdy by nie pomyślała, że samo patrzenie godzinami na obrazy przemocy na ekranie, przesiewanie ich i szczegółowe badanie może wywołać PTSD. Po rozmowach z moderatorami wydawało jej się to absolutnie oczywiste.
Przekonała się na własne oczy, że najcenniejsze elementy produktów Doliny Krzemowej, czyli oparte na sztucznej inteligencji mechanizmy rekomendacji, podsuwające nam potencjalnie interesujące treści na głównych stronach Instagrama i TikToka albo w zakładce Dla Ciebie w serwisie X, są często tworzone kosztem najbardziej bezbronnych grup społecznych: ubogiej młodzieży, kobiet i imigrantów, których prawo do życia i pracy w obcym kraju jest uzależnione od wykonywania tego zajęcia. Bez pracy tych moderatorów treści wspomniane serwisy nie nadawałyby się do użytku, ponieważ ich zawartość byłaby zbyt toksyczna dla naszego żarłocznego społeczeństwa.
Problemem była nie tylko sama natura treści, ale także warunki pracy moderatorów, czyli przekształcenie pracującego człowieka w automat, który jednocześnie szkoli sztuczną inteligencję do wykonywania własnej pracy. Oczekiwano od nich przetwarzania setek fragmentów materiałów każdego dnia, bez względu na charakter ich toksyczności. Moderatorzy musieli zwracać uwagę na szczegóły w filmach, aby określić intencje twórców i kontekst, a także powiększać nieprzyjemne obrazy ran lub części ciała, aby odpowiednio je sklasyfikować. Rzekomo co 15–30 minut oceniano jakość ich pracy, która musiała utrzymywać się na arbitralnie ustalonym poziomie 98 proc. Ogrom zadań oraz szybkość i presja, pod jaką trzeba je było wykonywać, były przytłaczające.
Wszystko to odbywało się w aurze tajemnicy i klimacie strachu, niczym praca w sektorze bezpieczeństwa narodowego, z którą Cori oswoiła się na wcześniejszym etapie kariery. Klienci, w tym Meta, często wymagali od pracowników podpisywania klauzul poufności, zabraniających rozmawiania o pracy z kimkolwiek, nawet z rodziną i adwokatem. Przyzwyczaiła się do tego, że amerykański rząd utajnia wszystkie informacje o jej klientach z Guantanamo, łącznie z tym, co jedzą na obiad, częściowo po to, by ich odczłowieczyć. Moderatorzy Facebooka również byli związani drakońskimi umowami o poufności, z powodu których nie mogli mówić o swoim dramacie. Niektóre z tych umów, przygotowane w imieniu Facebooka przez firmę konsultingową Accenture, zawierały oświadczenie pracownika, że wie o tym, iż wykonywana praca może wywołać PTSD, i nie będzie podejmował kroków prawnych w celu pociągnięcia Accenture i Facebooka do odpowiedzialności za pogorszenie swojego zdrowia psychicznego.
Klauzule poufności niszczyły wzajemne zaufanie ludzi do siebie, uniemożliwiały nawiązywanie kontaktów i łączenie się w grupy w celu zwiększenia siły nacisku.
– Bali się rozmawiać o tym nawet ze mną, swoją prawniczką. Tak nie może być – mówi Cori.
Przywracanie ludziom poczucia sprawczości
Kiedy na wcześniejszym etapie kariery Cori z ramienia fundacji Reprieve prowadziła sprawy przeciwko władzom publicznym, walczyła ze znanym sobie i mającym konkretną formę wrogiem: rządem wielkiego państwa. W Guantanamo miała proste zadanie – wymyślić, jak wydobyć klientów z pułapki, w której się znaleźli. Ich opłakane położenie było rezultatem widocznej, uderzającej brutalności.
W ramach tej pracy spotykała się też z osobami, które przeżyły ataki dronów w Jemenie i Pakistanie, oraz z przedstawicielami amerykańskiego rządu. Zauważyła, że przeciwnik zaczyna zmieniać kształt. Opowieści poszkodowanych sugerowały wzrost znaczenia algorytmów do potajemnego gromadzenia danych i ukierunkowywania działań w dziedzinie bezpieczeństwa narodowego i obronności. Podstawą inwigilacji wrogów i działań militarnych w coraz większym stopniu stawała się analiza danych. Z czasem Cori zauważyła, że nie może przestać myśleć o tych pożerających dane samouczących się algorytmach i ich twórcach – wielkich korporacjach, które zdawały się działać w sposób sprzeczny z liberalnymi zachodnimi ideałami samostanowienia i wolności. Jako osoba spoza świata zaawansowanych technologii zaczęła się zastanawiać, czy narzędzia predykcyjne bazujące na masowych danych, w tym sztuczna inteligencja, nie stanowią przypadkiem egzystencjalnego zagrożenia dla demokracji i naszych swobód obywatelskich.
Kiedy już raz spojrzała na problem z tej perspektywy, zaczęła dostrzegać go wszędzie. Największym zagrożeniem wydawały się kontrolowane przez państwo algorytmy zdalnie sterujące misjami wywiadowczymi, inwigilacją, a nawet zabójstwami. Zautomatyzowane systemy były jednak znacznie bardziej wszechobecne. W Stanach Zjednoczonych, Azji i Europie rządy testowały je w sądownictwie, edukacji, służbie zdrowia i ochronie granic. W Wielkiej Brytanii, gdzie mieszka Cori, Ministerstwo Spraw Wewnętrznych używa dronów wyposażonych w technologię AI do monitorowania linii brzegowej w poszukiwaniu niewielkich pontonów przewożących nielegalnych imigrantów. Niedofinansowane brytyjskie instytucje publiczne, takie jak Departament Pracy i Emerytur, próbują wykorzystywać oprogramowanie do wykrywania wzorców w celu podejmowania decyzji dotyczących opieki społecznej, podobnie jak Microsoft i rząd Salty w Argentynie.
W sektorze prywatnym Cori widziała przytłaczający, dehumanizujący wpływ zarządzania opartego na analizie danych i sztucznej inteligencji na kurierów korzystających z aplikacji i pracowników magazynów Amazona.
Mimo widocznych dowodów na występowanie powszechnych szkód społeczność zajmująca się prawami człowieka stawiała w tamtym czasie niewielki opór. Cori brała udział w publicznych dyskusjach i konferencjach na temat tego, jak poradzić sobie z potęgą sektora Big Tech lub ograniczyć szkody wyrządzane przez AI, ale szybko się zorientowała, że ich głównymi uczestnikami byli informatycy proponujący rozwiązania programistyczne.
Zastanawiała się, gdzie się podziewają aktywiści i prawnicy zajmujący się prawami człowieka, którzy powinni walczyć o ludzi skrzywdzonych lub poszkodowanych przez technologię opartą na analizie danych. Kto pozywał korporacje za nadużywanie indywidualnych danych osobowych, niszczenie społeczności za pomocą algorytmów rekomendacji i przedmiotowe traktowanie rzeszy niewidzialnych pracowników zatrudnionych przy tworzeniu produktów opartych na AI – ludzi takich jak Ian Koli, Daniel Motaung czy Alexandru Iftimie?
Cori wie z doświadczenia, że konflikt jest motorem zmian społecznych, ale nie zauważyła, żeby w świecie nowoczesnych technologii cokolwiek się zmieniało.
– Trudno oczekiwać, że poczucie winy nagle obezwładni Jeffa Bezosa przy świeżo wyciśniętym soku i puddingu z chia – stwierdziła. – Jak powiedział Frederick Douglass, „siła nie ustępuje, jeśli nie stawia się jej żądań”.
Dlatego latem 2019 roku razem z dwiema koleżankami, Marthą Dark i Rosą Curling, spędziła kilka tygodni w użyczonym kącie biura znajomego, opracowując koncepcję nowej organizacji prawnej o nazwie Foxglove (naparstnica – przyp. tłum.), od rośliny, która może działać leczniczo lub toksycznie, w zależności od dawki. Jej misją było używanie dostępnych narzędzi prawnych do pociągania firm do odpowiedzialności za takie produkty jak algorytmy masowej analizy danych i sztuczna inteligencja, a przez to przywracanie ludziom poczucia sprawczości.
Obecnie Foxglove reprezentuje moderatorów treści w mediach społecznościowych, pracowników fabryk Amazona i kierowców Ubera. Organizacja pozwała firmę Meta w imieniu ofiar przemocy społecznej w Etiopii, które obwiniają algorytmy mediów społecznościowych o przyczynianie się do morderstw. Pomaga walczyć z automatyzacją systemu opieki społecznej w Wielkiej Brytanii i o przejrzystość wykorzystania danych w brytyjskiej służbie zdrowia.
Czytaj więcej
Kobiecy mózg jest nie tyle bardziej kruchy, ile kruchy inaczej niż mózg męski. Częściowo wynika to z działania hormonów płciowych, a częściowo z gł...
Cori nie jest jedyna – należy do coraz liczniejszej grupy ludzi na całym świecie, którzy walczą o odzyskanie kolektywnej sprawczości odebranej im przez nieprzejrzyste systemy AI oraz domagają się przestrzegania zasad etyki przy tworzeniu i wykorzystywaniu systemów analizy dużych zbiorów danych. Jej przykład pokazuje, że aby zostać współczesnym luddystą, trzeba mieć wystarczająco dużo odwagi, by mierzyć się z najpotężniejszymi podmiotami w historii naszej cywilizacji.
Kiedy w 2019 roku Cori i jej koleżanki zakładały organizację, postrzegały jej cele niezwykle idealistycznie. Chciały walczyć o prawa maluczkich schwytanych w pułapkę przez automatyczne systemy. Zamierzały korzystać z narzędzi demokracji i wymiaru sprawiedliwości. Na razie wszystkie ich sprawy dotyczyły ludzi zawiedzionych przez technologie oparte na danych.
Na przykład w 2020 roku zasłynęły dzięki dwóm procesom sądowym dotyczącym nieuczciwego korzystania z algorytmów przez rząd Wielkiej Brytanii. Najpierw pozwały Ministerstwo Spraw Wewnętrznych w związku z tajnym algorytmem przyznawania wiz, który ich zdaniem dyskryminował wnioskodawców ze względu na narodowość. Oprogramowanie było używane do kierowania wniosków wizowych na ścieżki o różnym priorytecie, w zależności od poziomu ryzyka. Biorąc pod uwagę sposób, w jaki algorytm traktował poszczególne narodowości, założycielki Foxglove nazwały go „szybką ścieżką dla białych”. Ministerstwo nie ujawniło szczegółów działania algorytmu ani nie podjęło walki w sądzie, zawiesiło jednak system decyzyjny i zgodziło się przeprojektować model.
Kilka miesięcy później, w sierpniu 2020 roku, Foxglove zakwestionowała stosowanie powszechnie krytykowanego algorytmu do przyznawania ocen z egzaminów absolwentom brytyjskich szkół podczas pandemii covidu, po odwołaniu egzaminów krajowych.
System wdrożony przez Ofqual – krajowy organ nadzorujący egzaminy w Anglii – uwzględniał historyczne dane dotyczące ocen z poszczególnych szkół i opracowywał rozkład aktualnych ocen na podstawie wcześniejszych wyników. Następnie korygowano je w górę lub w dół, jeśli ze świadectw wynikało, że uczniowie w danym roczniku są lepsi niż w poprzednich latach.
Ze względu na sposób, w jaki go zaprojektowano, system nie brał jednak pod uwagę jednostek odstających w górę lub w dół ani nie korygował zawyżonych ocen z przedmiotów wybieranych przez niewielką liczbę uczniów, zwłaszcza w szkołach prywatnych. Koniec końców algorytm za nisko ocenił tysiące uczniów, szczególnie z placówek, które w przeszłości osiągały gorsze wyniki.
Groźba pozwów ze strony takich organizacji jak Foxglove, a także powszechne protesty i niezadowolenie samych uczniów – którzy posługiwali się hasłem „Pieprzyć algorytm” – zmusiły rząd do wycofania się z tego pomysłu i pozostawienia ocen w gestii nauczycieli.
Foxglove bierze na celownik nie tylko rządy. Równolegle przygotowuje się do walki z Doliną Krzemową. Od Mjanmy po Mumbaj i Melbourne wielkie firmy z sektora nowoczesnych technologii podejmują codziennie decyzje polityczne, etyczne i kulturalne w imieniu miliardów użytkowników. W większości kierują się przy tym swoim uprzywilejowanym oglądem świata z perspektywy Stanów Zjednoczonych. Zwłaszcza w krajach rozwijających się te algorytmicznie sterowane platformy tworzą własne rynki pracy, definiują granice internetu, naruszają lokalne prawa, ustanawiają własne zasady wolności słowa, a czasem nawet ułatwiają przemoc polityczną, wojny i ludobójstwo.
Zagłębiając się w świat nowoczesnych technologii, Cori spojrzała z nowej perspektywy na to, z kim przyszło jej się zmierzyć. Odkryła, że wszechmocny kompleks przemysłowy amerykańskich korporacji, nazywany ogólnie Big Tech, skupił w swoich rękach władzę i zgromadził informacje, których mogłaby mu pozazdrościć większość rządów państw.
Czytaj więcej
Bez zabójczych konsekwencji działania bakterii wywołującej dżumę nie sposób byłoby sobie wyobrazić, żeby islam z małej sekty rozwinął się w jedną z...
– Haczyk tkwi w nazwie: to są spółki z ograniczoną odpowiedzialnością – mówi prawniczka.
Nieograniczona jest za to ich władza, co nasunęło jej myśl, że walka z nimi będzie trudniejsza niż z rządami demokratycznych państw.
Niedawno Cori przeczytała dwie książki pozwalające spojrzeć na problem z historycznej perspektywy: „Anarchię” Williama Dalrymple’a, o narodzinach potęgi Brytyjskiej Kompanii Wschodnioindyjskiej, oraz „All the Shah’s Men” (Wszyscy ludzie szacha) dziennikarza Stephena Kinzera, który opisał zamach stanu w Iranie, przeprowadzony w 1953 roku przy wsparciu CIA.
– Bardzo trudno było stwierdzić, gdzie kończy się państwo, a zaczyna korporacja – ocenia. – To fascynujące, jak bardzo państwo potrafiło dostosować się do polityki firmy.
W odczuciu Cori dzisiejsi obywatele również są wyzyskiwani przez żarłoczny system opanowany przez ludzi dysponujących największą wiedzą techniczną. A najbardziej marginalizowane grupy są narażone na największe niebezpieczeństwo w przypadku rekonfiguracji globalnych wpływów.
Fragment książki Madhumity Murgii „W cieniu AI. Jak sztuczna inteligencja ingeruje w nasze życie?”, w przekładzie Michała Lipy, która ukazała się nakładem Wydawnictwa Port, Warszawa 2025
Tytuł i śródtytuły od redakcji
