W miarę jak decyzje podejmowane przez algorytmy oraz generatywną AI coraz bardziej wplatają się w nasze codzienne życie, ludzie ponoszący największe koszty funkcjonowania tych systemów zaczynają domagać się zadośćuczynienia. Automatyczne systemy są w dużym stopniu niewidoczne i nieprzejrzyste, a osoby dotknięte ich działaniem rzadko zdają sobie sprawę z ich roli. Nawet jeśli mają tę świadomość, na ogół nie są w stanie się dowiedzieć, jak te systemy działają, gdyż nie podlegają one regulacjom prawnym i są ukryte przed wzrokiem ludzi. Bezbronność społeczności dotkniętych ich funkcjonowaniem – pracowników o niskich dochodach, imigrantów, pacjentów szpitali albo ludzi o innym kolorze skóry – często bardzo utrudnia poszukiwanie sposobów na zakwestionowanie użycia tych enigmatycznych systemów.