Bruksela bije w bota paragrafem. Co teraz czeka AI w Europie?

Rok 2024 w Unii Europejskiej z pewnością będzie stał – jak i w innych regionach świata – pod hasłem ekspansji systemów AI. Sztuczna inteligencja rewolucjonizuje kolejne branże oraz sfery naszego życia i tego już raczej nic nie zatrzyma.

Pytanie jednak, na ile powinien być to proces swobodny, a gdzie i kiedy powinien pojawić się nadzór. Globalny wyścig o prymat w rozwoju różnego rodzaju botów nabiera coraz większego tempa, co grozi utratą kontroli człowieka. UE, jako pierwsza na świecie, może zdołać zamknąć te palące kwestie w ramy prawne.

Czytaj więcej

Technologie

Sztuczna inteligencja zbadała, czy to obraz Rafaela. Zaskakujące odkrycie

Madonna della Rosa, jedno z bardziej rozpoznawalnych dzieł Rafaela Santi, znajdujące się w muzeum Prado w Madrycie, może wcale nie być jego pracą. A raczej wyłącznie jego. Tak przynajmniej wskazują najnowsze badania przy użyciu algorytmów.

Prawa człowieka ponad wszystko

W grudniu w Brukseli udało się wypracować porozumienie polityczne dotyczące aktu ws. sztucznej inteligencji (AI Act). Wydaje się, że przyjęcie końcowych regulacji jest bliżej niż kiedykolwiek wcześniej. Według przewodniczącej Komisji Europejskiej to historyczny moment. – Sztuczna inteligencja już teraz wpływa na nasze codzienne życie. A to dopiero początek. Stosowana mądrze i powszechnie AI może zapewnić ogromne korzyści dla naszej gospodarki i naszego społeczeństwa – mówi Ursula von der Leyen. I zaznacza, że unijny akt stanowi pierwsze w historii kompleksowe ramy prawne dla tej technologii.

Jej zdaniem AI Act „transponuje europejskie wartości do nowej epoki”, a przyczyni się do „odpowiedzialnej innowacyjności” w Europie. – Gwarantując bezpieczeństwo i poszanowanie praw podstawowych obywateli i przedsiębiorstw, porozumienie wesprze rozwój, wdrażanie i wykorzystanie godnej zaufania sztucznej inteligencji w UE. Akt ten wniesie istotny wkład w rozwój światowych przepisów i zasad dotyczących AI ukierunkowanej na człowieka – przekonuje szefowa KE.

Nowe przepisy, które mają być stosowane bezpośrednio w ten sam sposób we wszystkich państwach członkowskich, bazują na podejściu opartym na analizie ryzyka. I tak – rozróżniono kilka jego kategorii. Pierwsza to minimalne ryzyko, do której zaklasyfikowano zdecydowaną większość systemów AI (np. systemy rekomendacji czy filtry antyspamowe): te będą zwolnione z wymagań i zobowiązań prawnych, ponieważ nie wiąże się z nimi zagrożenie dla praw lub bezpieczeństwa obywateli.

Czytaj więcej

Technologie

Fascynujące odkrycie. Sztuczna inteligencja potrafi uczyć się jak ludzki mózg

Koreańscy naukowcy odkryli, że procesy konsolidacji pamięci AI przypominają te zachodzące w ludzkim mózgu, szczególnie w hipokampie, co stwarza potencjał do rozwoju taniej i wydajnej sztucznej inteligencji i zrozumienia mechanizmów ludzkiej pamięci.

Druga kategoria to ryzyko wysokie. A tu chodzi już o zaawansowane algorytmy, które mają związek z infrastrukturą krytyczną (m.in. w obszarach wody, gazu i energii), kontrolą graniczną, wyrobami medycznymi, a także ze sprawowaniem wymiaru sprawiedliwości czy z systemami podejmowania decyzji w procesach rekrutacyjnych (ważną decyzją Brukseli jest ponadto uznanie za systemy wysokiego ryzyka wszelkich technologii identyfikacji biometrycznej czy rozpoznawania emocji). Takie technologie będą musiały spełniać rygorystyczne wymogi, choćby w zakresie systemów ograniczania ryzyka, zbiorów danych wysokiej jakości, ewidencjonowania działania, jak również szczegółowej dokumentacji czy – co istotne – sprawowania nadzoru przez człowieka. Dochodzą też dodatkowe wymagania dotyczące wysokiego poziomu solidności, dokładności takich rozwiązań oraz odpowiednich cyberzabezpieczeń. Pomocne w rozwijaniu takich systemów AI w Europie mają być tzw. piaskownice regulacyjne.

Trzecią kategorią wyróżnioną w UE jest tzw. niedopuszczalne ryzyko. W tym wypadku chodzi o AI, która może stanowić fundamentalne zagrożenie dla praw obywateli. Takie algorytmy będą zakazane. Przykład? Aplikacje wykorzystujące sztuczną inteligencję do manipulowania zachowaniem ludzi w celu obejścia wolnej woli użytkowników, zabawki z wbudowanym asystentem głosowym zachęcające małoletnich do niebezpiecznych zachowań, systemy prognozowania przestępczości czy także obecne już np. w Chinach systemy „klasyfikacji punktowej osób” oraz czujniki emocji w miejscach pracy.

Krok w dobrym kierunku, ale…

W KE podkreślają, iż podczas korzystania z botów użytkownicy powinni mieć świadomość, że wchodzą w interakcję z maszyną. W efekcie tzw. deepfake i inne treści generowane przez sztuczną inteligencję będą musiały zostać oznakowane. Wygenerowane w taki sposób treści (audio, wideo, tekst i obrazy) mają być w prosty sposób możliwe do zidentyfikowania jako sztucznie generowane.

Jednak AI Act nie będzie odnosił się jedynie do produktów i usług bazujących na tzw. modelach podstawowych, ale również danych tych modeli. „Potężne modele, mogące stwarzać ryzyko systemowe, będą podlegały dodatkowym zobowiązaniom w zakresie zarządzania ryzykiem, monitorowania poważnych incydentów oraz oceny modelu”.

Czytaj więcej

Biznes

Innowacje z Polski. Ochrona zdrowia w nowoczesnej odsłonie

Innowacyjne rozwiązania pomagają w diagnozowaniu i leczeniu chorób oraz w odkrywaniu leków. Usprawniają też funkcjonowanie całego systemu opieki zdrowotnej.

Istotny jest fakt, że Bruksela utworzy Europejski Urząd ds. Sztucznej Inteligencji (w ramach KE), który będzie m.in. nadzorował wdrażanie i egzekwowanie nowych przepisów dotyczących modeli AI ogólnego przeznaczenia. Z kolei specjalny panel naukowy, złożony z niezależnych ekspertów, ma wydawać ostrzeżenia dotyczące tzw. ryzyka systemowego.

Aby jednak wszystkie te przepisy weszły w życie, porozumienie polityczne musi zostać przekute w oficjalną zgodę Parlamentu Europejskiego i Rady. Kiedy to nastąpi? Na razie nie wiadomo, ale można się spodziewać, że już w nowym roku. AI Act zacznie w takiej sytuacji obowiązywać dwa lata później (nastąpi to więc zapewne w 2026 r.), nie licząc pewnych regulacji, które wejdą w życie po pół roku lub 12 miesiącach.

Eksperci już dziś są jednak podzieleni co do przyszłych przepisów. Leszek Tasiemski, ekspert ds. cyberbezpieczeństwa w WithSecure, twierdzi, że AI Act to krok w dobrym kierunku, bo wyraźne wskazanie kategorii zastosowań i obszarów, w których sztuczna inteligencja nie może być używana, nałoży na spółki techniczne ramy prawne, do których będą musiały się stosować.

– To podejście pomoże powstrzymywać rozwijanie AI w obszarach, które mogą być szkodliwe i kuszą możliwością uzyskania dużego i szybkiego przychodu. W czasach, gdy firmy nieustannie szukają nowych źródeł zysku, naiwne byłoby oczekiwanie, że same ograniczą się w sytuacji, gdy konkurencja na rynku jest coraz bardziej zacięta – tłumaczy.

… nie ma innowacji bez ryzyka

Jednocześnie uważa on, że AI Act stworzy obszary ryzyka, gdyż te normy będą obowiązywać jedynie na terenie UE, a więc firmy, które operują poza obszarem Wspólnoty, nie zostaną objęte ograniczeniami. W konsekwencji może dojść do sytuacji, w której globalni gracze będą wypuszczali specjalną wersję swojego rozwiązania lub usługi na rynek europejski oraz „pełną” wersję na inne rynki. To grozi rozwijaniem się opartej na AI gospodarki dwóch prędkości.