Organizacje biją na alarm ws. rozporządzenia UE o sztucznej inteligencji

Wersja rozporządzenia o sztucznej inteligencji (AI Act) przyjęta przez Parlament Europejski zakłada całkowity zakaz systemów zdalnego rozpoznawania twarzy. Organizacje pozarządowe biją na alarm, że może on zostać zniesiony w czasie tzw. trilogu.

Publikacja: 13.11.2023 07:50

Organizacje biją na alarm ws. rozporządzenia UE o sztucznej inteligencji

Foto: Adobe Stock

Rozporządzenie o sztucznej inteligencji ma być przełomowym aktem prawnym, regulującym korzystanie z tej technologii w Unii Europejskiej. Eksperci oczekują nawet, że podobnie jak RODO, AI Act może wyznaczyć standardy, z którymi będą musiały się też liczyć podmioty spoza UE. Obecnie trwają trójstronne negocjacje między Parlamentem, Komisją a Radą UE (tzw. trilog), w toku których powstanie ostateczna wersja aktu.

Całkowity zakaz systemów AI do zdalnej identyfikacji biometrycznej

Jednym z kluczowych założeń AI Act był całkowity zakaz m.in. systemów AI do zdalnej identyfikacji biometrycznej, czyli np. rozpoznawania twarzy. W maju Parlament Europejski odrzucił poprawki mające wprowadzić możliwość stosowania takich technologii np. w celu odnajdywania zaginionych osób i zwalczania terroryzmu lub innych poważnych przestępstw.

Teraz jednak pomysł poluzowania zakazu wrócił w trilogu, podnoszony przez niektóre państwa członkowskie. Jak informuje portal Euroactive, miałoby to być dopuszczalne w ściganiu przestępstw z zamkniętej listy, zagrożonych karą powyżej pięciu lat więzienia. System musiałby przejść ocenę wpływu na prawa podstawowe, a jego użycie byłoby zatwierdzane przez sąd (czasem ex post w ciągu 48 godz.).

– Do nas również docierają głosy o próbach wprowadzania daleko idących wyjątków, zwłaszcza dla policji i innych służb – mówi Karolina Iwańska, doradczyni ds. praw cyfrowych w Europejskim Centrum Prawa Organizacji Pozarządowych. – Jeśli zostaną przyjęte, AI Act obniży istniejące standardy ochrony praw człowieka wynikające z przepisów o ochronie danych osobowych czy europejskiej konwencji praw człowieka.

Czytaj więcej

Co trzecia spółka wykorzystująca AI ma problemy z prawem

Zastosowanie sztucznej inteligencji pozbawia ludzi anonimowości w przestrzeni publicznej

Ekspertka wskazuje, że międzynarodowe standardy praw człowieka wymagają, żeby każda ingerencja w nie była niezbędna i proporcjonalna. Wspomniane systemy zaś jej zdaniem nie spełniają tych wymogów, ponieważ istnieją bardziej skuteczne i mniej ingerujące w prawo do prywatności metody utrzymywania bezpieczeństwa. Naruszają one istotę prawa do prywatności, a przez to i innych praw obywatelskich, np. wolności słowa i zgromadzeń.

– Potwierdził to europejski inspektor ochrony danych osobowych, który podniósł, że to zastosowanie sztucznej inteligencji pozbawia ludzi anonimowości w przestrzeni publicznej, niezbędnej do tego, żeby bezpiecznie protestować i wyrażać obywatelskie niezadowolenie bez obawy o potencjalne reperkusje – tłumaczy Karolina Iwańska.

Systemy takie stosowane są przez państwa autorytarne, np. Rosję, która zresztą została ukarana przez ETPC za użycie ich do namierzenia i aresztowania pokojowo protestującego aktywisty.

–Jeżeli RBI nie znajdzie się na liście zakazów, należy się spodziewać, że niedługo takie narzędzia będą w każdym europejskim kraju – zauważa z kolei Filip Konopczyński z Fundacji Panoptykon. – Nawet najmniejszy wyjątek daje organom ścigania prawną podstawę, aby taki system zbudować lub kupić. A jeśli biometryczna AI będzie już w arsenale policji czy Straży Granicznej, to zgodnie z logiką źle rozumianej gospodarności wzrośnie pokusa, aby jej używać. Konsekwencją będzie dalsza ingerencja w naszą prywatność i rozrost państwowej inwigilacji – podkreśla.

I wskazuje, że formalna kontrola sądowa użycia takich systemów może się okazać równie nieskuteczna, jak w podsłuchiwaniu rozmów, gdzie sądy wyrażają zgodę w 96 proc. spraw.

W odpowiedzi na nasze pytanie resort cyfryzacji zapewnił, że Polska popiera kierunkowo zakaz stosowania takich systemów „w przestrzeni publicznej do celów egzekwowania prawa”. Jest to bowiem jeden z podstawowych przejawów zastosowania AI, który może prowadzić do naruszenia praw podstawowych.

Następna sesja trilogu planowana jest na 6 grudnia.

Czytaj więcej

Prawo dla sztucznej inteligencji. UE przegrywa wyścig z USA

Rozporządzenie o sztucznej inteligencji ma być przełomowym aktem prawnym, regulującym korzystanie z tej technologii w Unii Europejskiej. Eksperci oczekują nawet, że podobnie jak RODO, AI Act może wyznaczyć standardy, z którymi będą musiały się też liczyć podmioty spoza UE. Obecnie trwają trójstronne negocjacje między Parlamentem, Komisją a Radą UE (tzw. trilog), w toku których powstanie ostateczna wersja aktu.

Całkowity zakaz systemów AI do zdalnej identyfikacji biometrycznej

Pozostało 89% artykułu
2 / 3
artykułów
Czytaj dalej. Subskrybuj
Prawnicy
Jeden z najbardziej znanych prawników w Polsce odsunięty od zajęć ze studentami
Prawo dla Ciebie
Pokłosie afery Collegium Humanum? Będzie zaostrzenie przepisów o studiach podyplomowych
Spadki i darowizny
Ten testament wywołuje najwięcej sporów. Sąd Najwyższy wydał ważny wyrok
Samorząd
Krzyże w warszawskich urzędach zakazane. Sprawa trafi do prokuratury
Praca, Emerytury i renty
Czternasta emerytura - rząd proponuje termin
Materiał Promocyjny
Technologia na etacie. Jak zbudować efektywny HR i skutecznie zarządzać kapitałem ludzkim?