Organizacje biją na alarm ws. rozporządzenia UE o sztucznej inteligencji

Wersja rozporządzenia o sztucznej inteligencji (AI Act) przyjęta przez Parlament Europejski zakłada całkowity zakaz systemów zdalnego rozpoznawania twarzy. Organizacje pozarządowe biją na alarm, że może on zostać zniesiony w czasie tzw. trilogu.

Publikacja: 13.11.2023 07:50

Organizacje biją na alarm ws. rozporządzenia UE o sztucznej inteligencji

Foto: Adobe Stock

Rozporządzenie o sztucznej inteligencji ma być przełomowym aktem prawnym, regulującym korzystanie z tej technologii w Unii Europejskiej. Eksperci oczekują nawet, że podobnie jak RODO, AI Act może wyznaczyć standardy, z którymi będą musiały się też liczyć podmioty spoza UE. Obecnie trwają trójstronne negocjacje między Parlamentem, Komisją a Radą UE (tzw. trilog), w toku których powstanie ostateczna wersja aktu.

Całkowity zakaz systemów AI do zdalnej identyfikacji biometrycznej

Jednym z kluczowych założeń AI Act był całkowity zakaz m.in. systemów AI do zdalnej identyfikacji biometrycznej, czyli np. rozpoznawania twarzy. W maju Parlament Europejski odrzucił poprawki mające wprowadzić możliwość stosowania takich technologii np. w celu odnajdywania zaginionych osób i zwalczania terroryzmu lub innych poważnych przestępstw.

Teraz jednak pomysł poluzowania zakazu wrócił w trilogu, podnoszony przez niektóre państwa członkowskie. Jak informuje portal Euroactive, miałoby to być dopuszczalne w ściganiu przestępstw z zamkniętej listy, zagrożonych karą powyżej pięciu lat więzienia. System musiałby przejść ocenę wpływu na prawa podstawowe, a jego użycie byłoby zatwierdzane przez sąd (czasem ex post w ciągu 48 godz.).

– Do nas również docierają głosy o próbach wprowadzania daleko idących wyjątków, zwłaszcza dla policji i innych służb – mówi Karolina Iwańska, doradczyni ds. praw cyfrowych w Europejskim Centrum Prawa Organizacji Pozarządowych. – Jeśli zostaną przyjęte, AI Act obniży istniejące standardy ochrony praw człowieka wynikające z przepisów o ochronie danych osobowych czy europejskiej konwencji praw człowieka.

Czytaj więcej

Co trzecia spółka wykorzystująca AI ma problemy z prawem

Zastosowanie sztucznej inteligencji pozbawia ludzi anonimowości w przestrzeni publicznej

Ekspertka wskazuje, że międzynarodowe standardy praw człowieka wymagają, żeby każda ingerencja w nie była niezbędna i proporcjonalna. Wspomniane systemy zaś jej zdaniem nie spełniają tych wymogów, ponieważ istnieją bardziej skuteczne i mniej ingerujące w prawo do prywatności metody utrzymywania bezpieczeństwa. Naruszają one istotę prawa do prywatności, a przez to i innych praw obywatelskich, np. wolności słowa i zgromadzeń.

– Potwierdził to europejski inspektor ochrony danych osobowych, który podniósł, że to zastosowanie sztucznej inteligencji pozbawia ludzi anonimowości w przestrzeni publicznej, niezbędnej do tego, żeby bezpiecznie protestować i wyrażać obywatelskie niezadowolenie bez obawy o potencjalne reperkusje – tłumaczy Karolina Iwańska.

Systemy takie stosowane są przez państwa autorytarne, np. Rosję, która zresztą została ukarana przez ETPC za użycie ich do namierzenia i aresztowania pokojowo protestującego aktywisty.

–Jeżeli RBI nie znajdzie się na liście zakazów, należy się spodziewać, że niedługo takie narzędzia będą w każdym europejskim kraju – zauważa z kolei Filip Konopczyński z Fundacji Panoptykon. – Nawet najmniejszy wyjątek daje organom ścigania prawną podstawę, aby taki system zbudować lub kupić. A jeśli biometryczna AI będzie już w arsenale policji czy Straży Granicznej, to zgodnie z logiką źle rozumianej gospodarności wzrośnie pokusa, aby jej używać. Konsekwencją będzie dalsza ingerencja w naszą prywatność i rozrost państwowej inwigilacji – podkreśla.

I wskazuje, że formalna kontrola sądowa użycia takich systemów może się okazać równie nieskuteczna, jak w podsłuchiwaniu rozmów, gdzie sądy wyrażają zgodę w 96 proc. spraw.

W odpowiedzi na nasze pytanie resort cyfryzacji zapewnił, że Polska popiera kierunkowo zakaz stosowania takich systemów „w przestrzeni publicznej do celów egzekwowania prawa”. Jest to bowiem jeden z podstawowych przejawów zastosowania AI, który może prowadzić do naruszenia praw podstawowych.

Następna sesja trilogu planowana jest na 6 grudnia.

Czytaj więcej

Prawo dla sztucznej inteligencji. UE przegrywa wyścig z USA

Rozporządzenie o sztucznej inteligencji ma być przełomowym aktem prawnym, regulującym korzystanie z tej technologii w Unii Europejskiej. Eksperci oczekują nawet, że podobnie jak RODO, AI Act może wyznaczyć standardy, z którymi będą musiały się też liczyć podmioty spoza UE. Obecnie trwają trójstronne negocjacje między Parlamentem, Komisją a Radą UE (tzw. trilog), w toku których powstanie ostateczna wersja aktu.

Całkowity zakaz systemów AI do zdalnej identyfikacji biometrycznej

Pozostało 89% artykułu
2 / 3
artykułów
Czytaj dalej. Kup teraz
Praca, Emerytury i renty
Koniec 500+. Kiedy ostatnie wypłaty? 800+ na koncie już w grudniu?
Konsumenci
Nowy Sejm przyjął pierwszą ustawę. Dotyczy zakazu handlu w niedziele
W sądzie i w urzędzie
PESEL można już zastrzec. Jak to zrobić?
Prawo pracy
Szef może zablokować samowolną pracę po godzinach
Zdrowie
Ziobro na odchodne złożył wniosek do TK. Ma duże znaczenie dla lekarzy
Materiał Promocyjny
Razem dla Planety, czyli chemia dla zrównoważonej przyszłości