Algorytmy moderacji Facebooka zwariowały, bo zabrakło moderatorów?

W nocy z 17 na 18 marca czasu polskiego tysiące udostępnianych przez ludzi artykułów o koronawirusie ze stron potwierdzonych jako wiarygodne źródła były przez Facebook automatycznie oznaczane jako „naruszające standardy społeczności". Użytkownicy Facebooka natychmiast zaczęli na to narzekać korzystając zarówno z Facebooka jak i innych mediów społecznościowych. Problem miał charakter globalny – informowali o nim użytkownicy na całym świecie.

O problemie informowały też serwisy takie jak BuzzFeed. BuzzFeed padł, notabene, ofiarą błędu i jego linki do tekstów o koronawirusie były również traktowane jako spam. Były dyrektor ds. bezpieczeństwa Facebooka Alex Stamos spekulował, że winę za to, że algorytmy „zwariowały" może ponosić fakt, że Facebook wysłał swoich moderatorów do domu na czas pandemii Covid-19.

- Wygląda na to, że reguły antyspamowe na Facebooku zwariowały. Facebook odesłał swoich moderatorów do domu, a oni generalnie nie mogą pracować z domu ze względu na zobowiązania dotyczące prywatności. Możliwe, że obserwujemy, jak uczenie maszynowe (machine learnig) świruje gdy zaczyna brakować ludzkiego nadzoru.

Facebook zaprzecza, że przyczyną jest odesłanie moderatorów do domów. Według Guya Rosena z Facebooka problemem jest błąd w systemie antyspamowym, który nie jest powiązany z odesłaniem moderatorów do domu.

Wszystkie posty nieprawidłowo oznaczone jako niespełniające standardów społeczności zostały przywrócone w nocy czasu polskiego.

Prawdziwej przyczyny awarii możemy się nie dowiedzieć. Mógł to faktycznie być błąd, mogło to być spowodowane brakiem moderatorów albo połączeniem obu czynników. W chwili obecnej pozostaje wierzyć Facebookowi na słowo.