Maciej Gawroński: Za 30 mln zł rocznie Komisja będzie nakładać makijaż sztucznej inteligencji

Kluczowym stwierdzeniem jest jednak następujące sformułowanie polemiki „Pokazuje to jednak ,że autor [znaczy ja – wstawka moja] mylnie utożsamia nadzór nad rynkiem z ochroną praw podstawowych”. Otóż, obawiam się, że w AIA chodzi właśnie o ochronę praw podstawowych osób fizycznych.

Istotą nadzoru nad wykorzystaniem SI na rynku EU jest ochrona praw podstawowych osób fizycznych przed ryzykiem dla nich płynącym z korzystania z tych technologii.

W RODO nie chodzi wcale o zagrożenia dla prywatności

AIA reguluje wykorzystanie sztucznej inteligencji WYSOKIEGO RYZYKA dla PRAW PODSTAWOWYCH osób fizycznych. O to samo chodzi w RODO. RODO ma chronić prawa i wolności osób fizycznych oraz nadzorować ryzyko dla tych praw i wolności. AIA ma nadzorować ryzyko dla praw podstawowych. Jaka jest różnica? Żadna. Nadzór nie ma się skupiać na tym, który z dostawców technologii zarobi na naszym rynku więcej, ani żeby to była uczciwa konkurencja. Nadzór ma chronić osoby fizyczne przed ryzykiem dla ich praw podstawowych płynącym z wykorzystania SI wysokiego ryzyka.

Niezrozumienie celu AIA wiąże się najwyraźniej z niezrozumieniem samego RODO. W RODO nie chodzi wcale o zagrożenia dla prywatności. Chodzi o (wszelkie) ryzyka dla praw i wolności człowieka płynące z naruszenia prywatności. Te ryzyka to mogą być ryzyka uszkodzeń ciała, śmierci, katastrof, utraty pracy, manipulacji, ograniczenia praw obywatelskich, inwigilacji, oszustwa, odmowy świadczeń medycznych lub ich refundacji etc. I o takie właśnie zagrożenia chodzi w AIA.

Owszem, zarządzanie ryzykiem jest dużo starsze niż RODO, tak ja jestem dużo starszy niż autor polemiki. Nowością jednak w zarządzaniu ryzykiem, że tak jak w RODO, w AIA ocenia się ryzyko dla podmiotu trzeciego – osób fizycznych, a nie dla organizacji, oraz ocenia się je w kategoriach bezwzględnych.

RODO opiera się na koncepcji rozproszonego, oddanego rynkowi zarządzania ryzykiem i nadzoru następczego. W RODO zawarte są też elementy systemu prewencyjnego, na którym opiera się AIA. Chodzi o kodeksy postępowania i certyfikację. UODO poczynił już istotne kroki w tym zakresie. Ochrona danych osobowych to jedyny (oprócz elementów nieustandaryzowanej infrastruktury krytycznej) obszar wymagający tworzenia systemu zarządzania zgodnością (oceny ryzyka, zarządzania jakością i certyfikacji), spośród wszystkich regulowanych przez AIA obszarów. Pozostałe obszary (różne maszyny, zabawki, urządzenia radiowe etc) już mają swoje systemy zarządzania zgodnością. UODO właśnie teraz tworzy takie systemy zgodności, w oparciu o prerogatywy z RODO i doświadczenia z praktyki stosowania RODO jak i pozyskaną wiedzę rynkową. Edison, który wymyślił, żeby powierzyć tworzenie alternatywnych systemu zgodności sztucznej inteligencji w ochronie danych organowi konkurencyjnemu do PUODO, powinien otrzymać nagrodę Darwina.

Owszem las to nie to samo co las krzyży. Sens tej analogii idzie jednak w drugą stronę. Regulacja SI ma na celu właśnie to, żeby las nie przekształcił się w las krzyży. A RODO, przywołam tu Prezesa Jana Nowaka, to nie jest akt o danych osobowych, tylko akt o ochronie osób fizycznych. AIA też nie jest aktem o ochronie korporacji rozwijających używających sztucznej inteligencji tylko aktem o ochronie osób fizycznych.

Czytaj więcej

Rzecz o prawie

Przemysław Sotowski: Nie sprowadzajmy AI do danych osobowych

Czasy się zmieniają, a prawnicy specjalizujący się w ochronie danych osobowych nadal twierdzą, że...

Nie istnieją dobre standardy bezpieczeństwa

Jak to dobitnie wywodzi raport „We have no science of safe AI” autorstwa D. Janků i in, nie istnieją dobre standardy bezpieczeństwa SI. System tworzony przez AIA to procedury niewypełnione treścią akurat w obszarze danych osobowych i w tym obszarze najgroźniejsze. Dlaczego nadzór nad tym obszarem miałby dostać organ bez doświadczenia i zrozumienia, że chodzi właśnie o ochronę praw podstawowych a nie organ, który w tym się specjalizuje?

Czy AI przetwarza dużo danych osobowych? Autor polemiki twierdzi, że jest wiele systemów SI, które nie przetwarzają danych osobowych. I dlatego, rozwijają się techniki ochrony prywatności, takie jak syntetyczne dane, prywatność różnicowa, czy „confidential computing”. Obawiam się, że w tych dwóch zdaniach ukrył się oksymoron. Zdanie nr 2 wyklucza zdanie nr 1. Nie byłoby potrzeba technik ochrony prywatności, gdyby te mityczne, rzekomo nieprzetwarzające danych osobowych systemy, naprawdę nie przetwarzały danych osobowych.

Uroczy argument „nie ma badań”. Podobno „nie ma badań” że AI przetwarza dane osobowe, chyba że do makijażu? Naprawdę schodzimy na ten poziom?

Autor twierdzi, że dane osobowe są najczęściej przetwarzane tam, gdzie wymaga tego specyfika produktu czy usługi i potrzeba klienta – na przykład aby dopasować ubranie, czy makijaż do konkretnej osoby, za jej wiedzą i zgodą. No, jeżeli taki jest stan świadomości i wiedzy o działaniu i współczesnych zastosowaniach sztucznej inteligencji w całym Ministerstwie Cyfryzacji i Grupie Roboczej ds. AI, to ja się nie dziwię, że rozporządzeniem chcieli zmieniać ustawę. Martwi mnie tylko tak duży udział w tej osób, które na co dzień zajmują się ochroną danych.

Twierdzenie, że SI przetwarza dane osobowe głównie na potrzeby dobierania makijażu, jest niepoważne. Mówi nam jednak, że proponenci utworzenia Komisji ds. AI nie czytali AIA.

Netflix filmy kręci, naukowcy książki piszą o tym, że Dolina Krzemowa stoi na pobieraniu wszelkich możliwych danych osobowych. Słynne sformułowanie Steva Jobsa „Silicon Valley is not monolithic”, We've always had a very different view of privacy than some of our colleagues in the Valley.” tylko to potwierdza.

Czytaj więcej:

Biznes

W walce z deepfake’ami jesteśmy daleko w tyle

Przedsiębiorca, którego dotyczy deepf...

Pro

Żadnymi pieniędzmi nie jesteśmy w stanie zrównoważyć przewagi finansowej Doliny Krzemowej, USA, Chin

No ale wróćmy do tych badań, co ich niby nie ma. Zacznijmy od przejrzenia pierwszej z brzegu firmy technologicznej na A – znajdziemy głównie przykłady zastosowania AI do przetwarzania danych osobowych – w marketingu, customer experience, bankingu, zarządzania ludźmi, wyszukiwania danych, rozrywce itp. Wrzućmy w Google albo w jakieś AI przykłady użytku AI. Na 22 tylko 3 (rolnictwo, robotyka i astronomia) nie są bezpośrednio związane z przetwarzaniem danych osobowych. Pozostałe 21 to: e-commerce, edukacja, styl życia, nawigacja, mowa naturalna, rozpoznawanie obrazów, rozpoznawanie twarzy, zasoby ludzkie, zdrowie, gaming, samochody, media społecznościowe, marketing, chatoboty, finanse, cyberbezpieczeństwo, Podróże i transport, rozrywka . Ale ale…

Zacznijmy od badania Pisma, czyli AIA. AIA reguluje taką SI, która może stwarzać zagrożenie dla OSÓB FIZYCZNYCH (nie dla korporacji), w tym:

• systemy przetwarzające dane osobowe zakazane z uwagi na zagrożenie dla praw i wolności osób fizycznych (art. 5);

• systemy grożące niebezpieczeństwem fizycznym DLA OSÓB FIZYCZNYCH z Załącznika I. Obszary z Załącznika I mają już funkcjonujące przymusowe systemy zarządzania zgodnością;

• po trzecie systemy zagrażające prawom i wolnościom osób fizycznych z Załącznika III. Załącznik III wymienia: biometrię (rozpoznawanie emocji, zdalna identyfikacja, profilowanie osób) , cyfrową, drogową i „mediową” infrastrukturę krytyczną, kształcenie i szkolenie zawodowe, zatrudnienie i zarządzanie pracownikami i dostęp do samozatrudnienia, kwalifikowanie osób do świadczeń zdrowotnych i innych świadczeń publicznych przez administrację, a także do żądania zwrotu takich świadczeń, ocena zdolności kredytowej, ocena ryzyka i cen ubezpieczeń, ocena priorytetu zgłoszeń alarmowych, ściganie przestępstw, ocena ryzyka migrantów, sądownictwo, wpływanie na decyzje wyborców.

Z tej wyliczanki nawet ruch drogowy i dostawa mediów wiąże się z istotnym przetwarzaniem danych osobowych, a pozostałe elementy polegają na przetwarzaniu danych osobowych.

• deep fejki (mogące wprowadzić w błąd osoby fizyczne jak i wykorzystać dane osób fizycznych),

• modele ogólnego zastosowania, które mogą narobić w zasadzie dowolnego bigosu i przy tym jeszcze podglądać i profilować użytkowników internetu i tych modeli (czyli przetwarzać ich dane osobowe jak i zbierać cudze dane osobowe), co oczywiście czynią.

Jeśli członek GRAI twierdzi, że sztuczna inteligencja przetwarza dane osobowe tylko pomagając przy makijażu i tylko za zgodą użytkownika, to ja się nie dziwie, że Ministerstwo wolało sobie powołać własny organ, gdzie takie brednie będzie sobie można radośnie powtarzać.

Czytaj więcej

Opinie Prawne

Maciej Gawroński: Nie mnóżmy strażników sztucznej inteligencji

„Czasy się zmieniają, ale Pan zawsze jest w komisjach”. Czyli dlaczego to Urząd Ochrony Danych Os...

Z przecieków informacji z prac nad wdrożeniem AIA w Polsce wiadomo, że w tej przepychance chodzi o to, żeby sparaliżować nadzór i zamienić go w rozdawnictwo kasy publicznej dla wiecznie głodnych firm technologicznych.

Koncepcja „nadzoru wodzowskiego”, który jak Ulrich von Jungingen będzie wieść natarcie „polskiej” sztucznej inteligencji na cały świat, obrzucając firmy technologiczne miliardami z Funduszu Sztucznej Inteligencji brzmi jak z filmów Barei. Tymi miliardami (których zresztą nie ma) urzędnicy mogą co najwyżej komuś sypnąć w oczy i liczyć, że im z powrotem skapnie. Żadnymi pieniędzmi nie jesteśmy w stanie zrównoważyć przewagi finansowej Doliny Krzemowej, USA, Chin. Argument, że my tu mamy fikcyjnego nadzorcę, co najwyżej pozbawi zaufania do państwa jako instytucji. Tym bardziej, że cokolwiek Komisja będzie opowiadać, to PUODO i tak może i będzie wydawać decyzje względem zastosowania każdej technologii przetwarzającej dane osobowe. Za koncepcją wytworzenia takiego PRowego organu, jakim ma być ta Komisja, stoi więc prawdziwy Machiavelli Polski resortowej. Może ten od fundacji rodzinnych?

Opinia publiczna obroni Komisję przed degeneracją? Serio? Bo, niby, obroniła IDEAS? To jak w dowcipie. Kradnie Pan z budżetu? Tak, A co? Nie boi się Pan, że ktoś się dowie? No właśnie się Pan dowiedział, i co?

Komisja ma być nowoczesnym ośrodkiem kompetencji? Czy tak jak Ministerstwo Pracy zauważyło SI i chce chronić przed nią zawody? To zacząłbym od windziarza.

Komisja będzie szukać nowych obszarów regulacji? Może windy kosmiczne? Wydobywanie helu na Księżycu?

Angielskie powiedzenie „pierdnąć w windzie” (fart in the elevator), oznacza powiedzieć coś nieprzyjemnego, ale niestety prawdziwego. Otóż powołanie Komisji ds. SI rodzi też ryzyko zachowań typu „drzwi obrotowe” (revolving door), które doprowadziły do systemowej korupcji całego systemu nadzoru rynków w USA. Wiadome jest, że w zasadzie nikogo z sektora prywatnego nie stać na to, żeby zostać urzędnikiem i powiedzieć rodzinie, że od teraz rodzinny budżet kurczy się dziesięciokrotnie. Dlatego praca w sektorze publicznym to albo misja albo inwestycja. Jak misja to na całe życie. Ale jak inwestycja, to musi się zwrócić. I znamy takie przypadki, także w Polsce, że się zwróciło.

Z tej perspektywy to rzeczywiście, PUODO nigdy nie performował. Może właśnie dlatego autorom projektu ustawy o nadzorze nad SI nie podoba się wizja przeniesienia praktyki PUODO na obszar SI?