Cyberbullying jest jednym z większych problemów w mediach społecznościowych. Dręczenie, którego ofiarą padają użytkownicy Instagrama i innych mediów społecznościowych, prowadzi czasem do tragedii, takich jak samobójstwo czternastoletniej Molly Russel. Niedawna tragedia sprawiła, że to właśnie Instagram znalazł się na celowniku w związku z cyberprzemocą.
Serwis przygotował nowe narzędzie, które ma za zadanie ograniczyć skalę dręczenia jednych użytkowników przez innych. Nowa funkcja, której wstępne testy Instagram właśnie zakończył, ma za zadanie pytać użytkowników serwisu: „czy na pewno chcesz to zamieścić?”, przed umieszczeniem komentarza pod zdjęciem innego użytkownika. Instagram twierdzi, że sztuczna inteligencja będzie rozpoznawać, czy komentarz lub post zawiera najczęściej używane przy dręczeniu sformułowania i będzie prosić zamieszczającego o potwierdzenie.
Czytaj także: Deepfake będzie wkrótce groźną bronią polityczną
Przykładowo, jeżeli ktoś będzie próbował napisać „jesteś strasznie brzydka i głupia”, to nim będzie można umieścić taki komentarz Instagram zapyta: „Czy na pewno chcesz to zamieścić? Dowiedz się więcej”. W przypadku wybrania opcji „dowiedz się więcej” użytkownik będzie mógł się zapoznać z informacją, że Instagram prosi ludzi „o przemyślenie komentarzy podobnych do tych, które były zgłaszane”. Co jest dość wyraźną wskazówką, że warto zastanowić się nad tym, co chce się umieścić.
Użytkownik może zignorować prośbę Instagrama, rezygnacja z umieszczenia komentarza jest dobrowolna. Wstępne testy, jak twierdzi Instagram, wskazują, że część ludzi rezygnuje z umieszczenia nieprzyjemnego komentarza. Na razie funkcja będzie dostępna dla anglojęzycznych użytkowników.
Oprócz tej funkcji, skierowanej do dręczycieli, Instagram szykuje też opcję dla ofiar. Dodatkowe narzędzie zwane Restrict (Ogranicz) ma umożliwić filtrowanie obraźliwych komentarzy bez blokowania osób ich zamieszczających. Blokowanie dręczycieli może bowiem powodować reperkusje w prawdziwym życiu i eskalować sytuację przenosząc dręczenie poza wirtualny świat.
- Młodzi ludzie niechętnie blokują, przestają obserwować czy zgłaszają swoich dręczycieli, gdyż może to doprowadzić do zaognienia sytuacji, szczególnie wtedy, gdy mają do czynienia z dręczycielem na co dzień – powiedział BBC szef Instagrama Adam Mosseri.
