W rezolucji Parlamentu Europejskiego zwrócono uwagę na ryzyko stronniczości algorytmów w zastosowaniach AI. Podkreślono, że ludzki nadzór i silne uprawnienia prawne są potrzebne, aby zapobiec dyskryminacji przez AI, zwłaszcza w kontekście egzekwowania prawa lub przekraczania granic. Zdaniem posłów, ostateczne decyzje muszą zawsze podejmować ludzie, a osoby monitorowane przez systemy oparte na AI muszą mieć dostęp do środków odwoławczych.
W tekście rezolucji zauważano, że systemy identyfikacji oparte na sztucznej inteligencji już teraz częściej błędnie identyfikują mniejszościowe grupy etniczne, osoby LGBTI, seniorów i kobiety, co jest szczególnie niepokojące w kontekście egzekwowania prawa i sądownictwa.
Czytaj więcej
Korzystanie z tzw. „sztucznej inteligencji” generuje szereg problemów prawnych, które dotychczas nie zostały uregulowane. Trudności pojawiają się j...
Posłowie chcą wprowadzenia stałego zakazu automatycznego rozpoznawania osób w przestrzeni publicznej. Ich zdaniem, obywatele powinni być monitorowani tylko w przypadku podejrzenia o popełnienie przestępstwa. Parlament wzywa też do zakazania korzystania z prywatnych baz danych do rozpoznawania twarzy (takich jak Clearview AI system, który jest już w użyciu) oraz prewencyjnych działań policji na podstawie danych behawioralnych.
Posłowie są również przeciwni wszelkim systemom klasyfikacji, które starają się oceniać, czy obywatel jest godny zaufania na podstawie jego zachowania lub osobowości.
