Organizacje biją na alarm ws. rozporządzenia UE o sztucznej inteligencji

Rozporządzenie o sztucznej inteligencji ma być przełomowym aktem prawnym, regulującym korzystanie z tej technologii w Unii Europejskiej. Eksperci oczekują nawet, że podobnie jak RODO, AI Act może wyznaczyć standardy, z którymi będą musiały się też liczyć podmioty spoza UE. Obecnie trwają trójstronne negocjacje między Parlamentem, Komisją a Radą UE (tzw. trilog), w toku których powstanie ostateczna wersja aktu.

Całkowity zakaz systemów AI do zdalnej identyfikacji biometrycznej

Jednym z kluczowych założeń AI Act był całkowity zakaz m.in. systemów AI do zdalnej identyfikacji biometrycznej, czyli np. rozpoznawania twarzy. W maju Parlament Europejski odrzucił poprawki mające wprowadzić możliwość stosowania takich technologii np. w celu odnajdywania zaginionych osób i zwalczania terroryzmu lub innych poważnych przestępstw.

Teraz jednak pomysł poluzowania zakazu wrócił w trilogu, podnoszony przez niektóre państwa członkowskie. Jak informuje portal Euroactive, miałoby to być dopuszczalne w ściganiu przestępstw z zamkniętej listy, zagrożonych karą powyżej pięciu lat więzienia. System musiałby przejść ocenę wpływu na prawa podstawowe, a jego użycie byłoby zatwierdzane przez sąd (czasem ex post w ciągu 48 godz.).

– Do nas również docierają głosy o próbach wprowadzania daleko idących wyjątków, zwłaszcza dla policji i innych służb – mówi Karolina Iwańska, doradczyni ds. praw cyfrowych w Europejskim Centrum Prawa Organizacji Pozarządowych. – Jeśli zostaną przyjęte, AI Act obniży istniejące standardy ochrony praw człowieka wynikające z przepisów o ochronie danych osobowych czy europejskiej konwencji praw człowieka.

Czytaj więcej:

ABC Firmy Co trzecia spółka wykorzystująca AI ma problemy z prawem

Co trzecia spółka na świecie wdrażająca rozwiązania oparte na sztucznej inteligencji (AI) napotkała z tego tytułu kłopoty prawne i poniosła karę lu...

Pro

Zastosowanie sztucznej inteligencji pozbawia ludzi anonimowości w przestrzeni publicznej

Ekspertka wskazuje, że międzynarodowe standardy praw człowieka wymagają, żeby każda ingerencja w nie była niezbędna i proporcjonalna. Wspomniane systemy zaś jej zdaniem nie spełniają tych wymogów, ponieważ istnieją bardziej skuteczne i mniej ingerujące w prawo do prywatności metody utrzymywania bezpieczeństwa. Naruszają one istotę prawa do prywatności, a przez to i innych praw obywatelskich, np. wolności słowa i zgromadzeń.

– Potwierdził to europejski inspektor ochrony danych osobowych, który podniósł, że to zastosowanie sztucznej inteligencji pozbawia ludzi anonimowości w przestrzeni publicznej, niezbędnej do tego, żeby bezpiecznie protestować i wyrażać obywatelskie niezadowolenie bez obawy o potencjalne reperkusje – tłumaczy Karolina Iwańska.

Systemy takie stosowane są przez państwa autorytarne, np. Rosję, która zresztą została ukarana przez ETPC za użycie ich do namierzenia i aresztowania pokojowo protestującego aktywisty.

–Jeżeli RBI nie znajdzie się na liście zakazów, należy się spodziewać, że niedługo takie narzędzia będą w każdym europejskim kraju – zauważa z kolei Filip Konopczyński z Fundacji Panoptykon. – Nawet najmniejszy wyjątek daje organom ścigania prawną podstawę, aby taki system zbudować lub kupić. A jeśli biometryczna AI będzie już w arsenale policji czy Straży Granicznej, to zgodnie z logiką źle rozumianej gospodarności wzrośnie pokusa, aby jej używać. Konsekwencją będzie dalsza ingerencja w naszą prywatność i rozrost państwowej inwigilacji – podkreśla.

I wskazuje, że formalna kontrola sądowa użycia takich systemów może się okazać równie nieskuteczna, jak w podsłuchiwaniu rozmów, gdzie sądy wyrażają zgodę w 96 proc. spraw.

W odpowiedzi na nasze pytanie resort cyfryzacji zapewnił, że Polska popiera kierunkowo zakaz stosowania takich systemów „w przestrzeni publicznej do celów egzekwowania prawa”. Jest to bowiem jeden z podstawowych przejawów zastosowania AI, który może prowadzić do naruszenia praw podstawowych.