Rozporządzenie o sztucznej inteligencji ma być przełomowym aktem prawnym, regulującym korzystanie z tej technologii w Unii Europejskiej. Eksperci oczekują nawet, że podobnie jak RODO, AI Act może wyznaczyć standardy, z którymi będą musiały się też liczyć podmioty spoza UE. Obecnie trwają trójstronne negocjacje między Parlamentem, Komisją a Radą UE (tzw. trilog), w toku których powstanie ostateczna wersja aktu.
Całkowity zakaz systemów AI do zdalnej identyfikacji biometrycznej
Jednym z kluczowych założeń AI Act był całkowity zakaz m.in. systemów AI do zdalnej identyfikacji biometrycznej, czyli np. rozpoznawania twarzy. W maju Parlament Europejski odrzucił poprawki mające wprowadzić możliwość stosowania takich technologii np. w celu odnajdywania zaginionych osób i zwalczania terroryzmu lub innych poważnych przestępstw.
Teraz jednak pomysł poluzowania zakazu wrócił w trilogu, podnoszony przez niektóre państwa członkowskie. Jak informuje portal Euroactive, miałoby to być dopuszczalne w ściganiu przestępstw z zamkniętej listy, zagrożonych karą powyżej pięciu lat więzienia. System musiałby przejść ocenę wpływu na prawa podstawowe, a jego użycie byłoby zatwierdzane przez sąd (czasem ex post w ciągu 48 godz.).
– Do nas również docierają głosy o próbach wprowadzania daleko idących wyjątków, zwłaszcza dla policji i innych służb – mówi Karolina Iwańska, doradczyni ds. praw cyfrowych w Europejskim Centrum Prawa Organizacji Pozarządowych. – Jeśli zostaną przyjęte, AI Act obniży istniejące standardy ochrony praw człowieka wynikające z przepisów o ochronie danych osobowych czy europejskiej konwencji praw człowieka.
Czytaj więcej
Co trzecia spółka na świecie wdrażająca rozwiązania oparte na sztucznej inteligencji (AI) napotkała z tego tytułu kłopoty prawne i poniosła karę lub została objęta dochodzeniem regulatorów, wynika z raportu międzynarodowej kancelarii prawnej DLA Piper. Główne przyczyny sporów z regulatorami dotyczą ochrony danych osobowych, kwestii konkurencji i bezpieczeństwa produktu.