W rezolucji Parlamentu Europejskiego zwrócono uwagę na ryzyko stronniczości algorytmów w zastosowaniach AI. Podkreślono, że ludzki nadzór i silne uprawnienia prawne są potrzebne, aby zapobiec dyskryminacji przez AI, zwłaszcza w kontekście egzekwowania prawa lub przekraczania granic. Zdaniem posłów, ostateczne decyzje muszą zawsze podejmować ludzie, a osoby monitorowane przez systemy oparte na AI muszą mieć dostęp do środków odwoławczych.

W tekście rezolucji zauważano, że systemy identyfikacji oparte na sztucznej inteligencji już teraz częściej błędnie identyfikują mniejszościowe grupy etniczne, osoby LGBTI, seniorów i kobiety, co jest szczególnie niepokojące w kontekście egzekwowania prawa i sądownictwa.

Czytaj więcej

Sztuczna inteligencja - jakie rodzi wyzwania prawne

Posłowie chcą wprowadzenia stałego zakazu automatycznego rozpoznawania osób w przestrzeni publicznej. Ich zdaniem, obywatele powinni być monitorowani tylko w przypadku podejrzenia o popełnienie przestępstwa. Parlament wzywa też do zakazania korzystania z prywatnych baz danych do rozpoznawania twarzy (takich jak Clearview AI system, który jest już w użyciu) oraz prewencyjnych działań policji na podstawie danych behawioralnych.

Posłowie są również przeciwni wszelkim systemom klasyfikacji, które starają się oceniać, czy obywatel jest godny zaufania na podstawie jego zachowania lub osobowości.

Wreszcie, Parlament niepokoi użycie danych biometrycznych do identyfikowania ludzi na odległość. Na przykład bramki kontroli granicznej, które wykorzystują automatyczne rozpoznawanie oraz projekt iBorderCtrl ("inteligentny system wykrywania kłamstw" dla podróżnych wjeżdżających do UE) powinny zostać usunięte przez używające je państwa członkowskie, twierdzą posłowie, którzy wzywają Komisję Europejską do wszczęcia postępowania w sprawie uchybienia zobowiązaniom państwa członkowskiego, jeśli okaże się to konieczne.