Jest pani informatyczką, ale ukończyła też filozofię, stąd pierwsze pytanie: czym właściwie jest sztuczna inteligencja? Czy to po prostu kolejne narzędzie technologiczne czy coś, co rzeczywiście zmienia naszą rzeczywistość, a nawet sposób, w jaki myślimy o człowieku i o nas samych?
Można spojrzeć na to z dwóch perspektyw. Regulator posługuje się definicjami zawartymi w ustawie i rozporządzeniu AI Act, ale jest też pytanie bardziej podstawowe: czym w ogóle jest sztuczna inteligencja? I tutaj filozofowie mają rację, spierając się o definicję, bo tym samym słowem nazywamy zwykły filtr spamu i potencjalną superinteligencję. Opisujemy nim zarówno proste rozwiązania, które już pomagają nam w codziennym życiu, jak i hipotetyczny byt, który mógłby pojawić się w przyszłości i którego skutków dziś nie znamy. Dlatego samo pojęcie „sztucznej inteligencji” jest nieostre i mieści w sobie bardzo różne znaczenia. Kiedy o niej rozmawiamy, powinniśmy więc zawsze doprecyzować, o jakiego rodzaju technologii właściwie mówimy.
Czytaj więcej
Pamela Krzypkowska chce, żeby Komisja w pierwszej kolejności zajęła się kwestią oznaczania treści tzw. deepfake. Komisja, jak podkreślała, ma być m...
Kiedy sadzam moją babcię przed czatem, ona pyta: kto tam siedzi? I choć odpowiadam, że nikt, to rzeczywiście ta technologia zmusza nas do zadawania pytań o nas samych, o człowieka i jego rolę w świecie. Uważam jednak, że nie należy przesuwać całego ciężaru dyskusji na to, co teoretyczne i przyszłe, bo wówczas zapominamy, jakie ryzyka ta technologia niesie dzisiaj. Bo jeżeli dzisiejsze AI, które bywa określane jako najbardziej prymitywne w historii tej technologii, wręcz jej „epoka kamienia łupanego”, może zdecydować np., czy ktoś dostanie pracę, czy nie dostanie, to źle zastosowane niesie bardzo poważne społeczne konsekwencje. I na tym chcę się skoncentrować.
To rewolucja na miarę internetu?
Internet zrewolucjonizował dostęp do informacji, każdy może tworzyć treści, a AI trochę przesuwa tę granicę dalej: nie tyle każdy może tworzyć, ile każdy może mieć swój własny świat. AI może wygenerować mi treści w mediach społecznościowych, materiały, z których będę się uczyła tak, jak lubię, a idąc dalej, wyobraźmy sobie hiperspersonalizowaną medycynę: diagnozę i lek specjalnie dla mnie, uwzględniający to, co mi dolega. To wydaje się niesamowite i może jest to przyszłość, ale są też oczywiście ciemne strony.
Czytaj więcej
Sztuczna inteligencja napędza wyścig o centra danych. Polska chce pozyskać europejską gigafabrykę AI i miliardowe inwestycje. Piszemy o tym w rapor...
Bo jeżeli AI jest moim lustrem, moim sposobem konsumowania informacji, to jako właścicielka algorytmu mogę zmienić to, co ludzie konsumują, i sprawić, że myślą, że to obiektywne, chociaż wcale takie nie jest. Prof. Przemysław Biecek, który zajmuje się wyjaśnialnością AI, pisał o dostosowywaniu się systemów sztucznej inteligencji do osobowości użytkownika: osobę neurotyczną, która się boi, można próbować przekonać argumentem strachu, a ekstrawertyka – argumentem społecznym, więc system może dostosować sposób mówienia do osobowości użytkownika.
A autonomiczni agenci? Mamy się bać? W ostatnich dniach ostrzegają nas sami twórcy sztucznej inteligencji.
Mówienie o tym, że agenci AI przejmują kontrolę, to jest jasna antropomorfizacja: jest jakiś agent i on robi jakąś rzecz, podczas gdy obecne rozwiązania agentowe są pisane przez ludzi. Dlaczego kładziemy odpowiedzialność po stronie rozwiązania, a nie po stronie człowieka, który to rozwiązanie stworzył? Możemy mówić, że to czarna skrzynka, że systemy mogą się samodoskonalić, ale ktoś tę skrzynkę wytrenował, stworzył, zbudował jej architekturę. Nie możemy też zapomnieć o człowieku, bo na tych, którzy tworzą systemy AI, spoczywa duża odpowiedzialność społeczna.
Czytaj więcej
Piaskownice regulacyjne będą priorytetem, a pierwsze kontrole obejmą systemy oceny emocji w pracy i aplikacje do „rozbierania” – zapowiedziała Pame...
Nie wiemy, co siedzi w głowach twórców AI, ale trzeba pamiętać, że strach bardzo się opłaca – generuje uwagę, jest silną emocją, na której można grać. To nie znaczy, że wszyscy na nim grają, bo AI niesie ze sobą ryzyka, o których mówimy, ale warto patrzeć nie tylko na słowa, lecz także na to, kto mówi, w jakim kontekście i co robi. Bo co może brzmieć bardziej niesamowicie niż stwierdzenie: mój model jest taki super, że muszę go zatrzymać, bo zaraz zrobi niesamowite rzeczy? Myślisz sobie wtedy: ten model musi być w stanie zrobić wszystko.
A czego sama nie chciałaby pani oddać AI, nawet gdy zrobi to szybciej?
Kiedy uczyłam się jednego tematu, poprosiłam AI, żeby zrobiła za mnie notatki. Były dobre, ale nic mi z nich nie zostało w głowie, więc musiałam wziąć dokument i stworzyć je sama, bo najlepiej nauczyłam się właśnie przez samo tworzenie notatek. To łączy się z tak zwaną koncepcją tarcia – z tym, że to, co najprostsze, nie zawsze jest dla nas najlepsze.
Trzeba też uważać, żeby, korzystając z AI, nie zasnąć za kierownicą, nie wyciągnąć wniosku, że skoro system często ma rację, to zawsze ma rację. Nasze mózgi są leniwe, sprawdzenie informacji wyprodukowanej dla nas jest dodatkowym kosztem, ale musimy być świadomymi użytkownikami i sprawdzać informacje, zwłaszcza np. w pracy prawnej czy dziennikarskiej, gdzie odpowiadamy za to, że to, co tworzymy, jest zweryfikowane.
W jaki sposób zostanie zapewniona niezależność Komisji od rządu, ministerstwa i firm technologicznych?
Niezależność jest wbudowana w przepisy ustawy, ma wewnętrzne bezpieczniki jak np. Społeczna Rada ds. Sztucznej Inteligencji, która może reagować na naruszenie przez przewodniczącego przepisów związanych z konfliktem interesów, a także wskazywać, jakie kontrole są ważne i co należy zrobić. Dodatkowym mechanizmem kontroli będzie parlament – Komisja ma obowiązek składać mu sprawozdanie do 31 marca każdego roku.
Spodobał mi się pomysł jawnego kalendarza, czyli informowania opinii publicznej np. co miesiąc, z kim spotkali się przedstawiciele Komisji. Chodzi o sprawy Komisji, a nie wszystkie spotkania jej członków, którzy przecież reprezentują również inne urzędy, np. Komisję Nadzoru Finansowego czy Urząd Komunikacji Elektronicznej. Myślę, że to ważne, by było wiadomo, z jakimi firmami, organizacjami czy jednostkami administracji rozmawiamy.
Jak dać firmom pewność prawa? Co dadzą im opinie indywidualne i wyjaśnienia ogólne?
Firma może powiedzieć: mam system AI, uważam, że jest to system wysokiego ryzyka i mam w związku z tym określone obowiązki, po czym za 150 zł złożyć wniosek o opinię indywidualną. Zależnie od trudności sprawy Komisja odpowiada w 30 albo 60 dni, potwierdzając stanowisko wnioskodawcy albo przedstawiając inne stanowisko dotyczące klasyfikacji systemu. Przedsiębiorca może wtedy powiedzieć: wiem, gdzie jestem, i mogę zgodnie z tym działać. Z kolei wyjaśnienia ogólne są ważne, bo wiele spraw będzie podobnych, choćby dotyczących czatu do obsługi klientów czy systemu rekomendacji. Z takich rozwiązań korzysta się masowo, bo są użyteczne i proste do wdrożenia, więc trzeba spojrzeć na rynek szeroko, zobaczyć, jakie opinie spływają, i przygotować wyjaśnienie będące trochę opinią dla wszystkich.
Przepisy o skargach zaczną obowiązywać 28 października. Czy ktoś już się zgłosił?
Pierwsze skargi już się pojawiły, na razie wiele z nich dotyczy oznaczania treści. To dla nas będzie ważne, bo skarga jest jednym ze źródeł informacji, ale nie jedynym, bo współpracujące ze sobą w Komisji urzędy mogą wskazać problem, niekoniecznie w formie formalnej skargi, a kierunki dodatkowo może wskazywać Społeczna Rada ds. AI. Na bazie tych informacji będą powstawać plany kontroli.
Czytaj więcej
Bill Gates apeluje do władz USA o wprowadzenie regulacji dotyczących rozwoju sztucznej inteligencji. W rozmowie z NBC współzałożyciel Microsoftu os...
Pamiętajmy jednak, że kontrola to nie jest jeszcze postępowanie naruszeniowe, jest wcześniejszym etapem, służącym weryfikacji procesu, podczas gdy dopiero postępowanie może zakończyć się nałożeniem kary. Celem Komisji jest uzgodnienie praktyk z AI Actem, a nie kara, która jest ostatecznym środkiem osiągnięcia tej zgodności. Co do samych kontroli, to dla mnie ważne są praktyki zakazane, bo moim zdaniem mają największą szkodliwość społeczną, ale kiedy Komisja się zbierze, inne organy mogą wnieść swoje perspektywy.
Czy oznaczanie treści wygenerowanych przez AI nie skończy się kolejną „banerozą”, na którą nikt nie zwróci uwagi?
Widziałam już komentarz, że oprócz informacji o konsultacji z lekarzem i farmaceutą będzie jeszcze komunikat, że coś jest wygenerowane przez AI. Rolą Komisji i Unii Europejskiej jest jednak mówienie, jak oznaczać treści i nie tworzyć „banerozy”, bo przecież da się to zrobić, tylko trzeba zrobić to mądrze. I tu znowu wracamy do pewności prawa, bo dlaczego firma może oznaczać nadmiarowo, także tam, gdzie nie jest to wymagane? Bo się boi i myśli: jeżeli nie oznaczę kota grającego na ukulele albo ludzika wyskakującego z pudełka płatków, zaraz ktoś powie, że to nie fair. Komisja ma właśnie za zadanie wyjaśniać różnego rodzaju przypadki zastosowania AI, żeby przedsiębiorca wiedział, co musi zrobić.
W jaki sposób Komisja pomoże firmom korzystać z AI? I gdzie w tym miejsce na polskie modele?
Modele ogólnego przeznaczenia są w kompetencjach Urzędu ds. AI na poziomie Komisji Europejskiej, ale przecież byłoby absurdalne, gdyby ktoś chciał zrobić polski model i nie mógł po polsku zapytać, co ma zrobić. Komisja będzie wtedy jednym punktem kontaktu, który pomoże twórcom choćby zweryfikować, czy właściwie przygotowują dokumentację dotyczącą danych albo modelu, więc znowu chodzi o pewność prawa.
Co ciekawe, z badania Polskiego Instytutu Ekonomicznego wynika, że AI najczęściej wdrażają duże firmy i te z kontaktami międzynarodowymi. Dużej firmie ktoś może przywieźć rozwiązanie z zagranicy i powiedzieć: proszę, gotowa paczka, a polskie małe i średnie firmy, które chciałyby wdrożyć AI, są w gorszej pozycji, bo mają np. tylko czterech pracowników, nie mają prawnika i nie są pewne regulacji. Komisja będzie zatem po to, żeby wyrównać ten poziom.
Pierwsze posiedzenie Komisji ma zostać zwołane do 11 listopada. Co się na nim wydarzy?
Bardzo patriotyczna data. No cóż, to będą najprostsze rzeczy: regulamin prac Komisji, nabór do Społecznej Rady ds. AI, ustalenie sposobu działania i dyskusja o tym, co robimy dalej. Ja mam swoją perspektywę, ale bardzo mi zależy na spojrzeniu innych członków, czyli przedstawicieli Urzędu Ochrony Konkurencji i Konsumentów, KNF, Krajowej Rady Radiofonii i Telewizji oraz UKE. Mam w tym obszarze swoją stronniczość, mówiąc po AI-owemu, mam swój bias, a oni widzą świat inaczej i bardzo potrzebuję tego ich wkładu, żeby mieć szerszą perspektywę.
Minie pięć lat i skończy pani kadencję. Z czego chciałaby pani być najbardziej dumna?
Pięć lat w świecie sztucznej inteligencji to wieczność, dlatego w tej roli trzeba będzie być otwartym na zmianę technologiczną i społeczną. Jeżeli powiesz sobie: dowiozę to, i będziesz miał klapki na oczach, skupiony na jednej rzeczy, możesz stracić rytm, który wyznacza technologia.
Bardzo bym chciała, żeby dobrze zadziałały nam piaskownice regulacyjne, żeby były dużym, działającym mechanizmem, w którym innowatorzy chcą tworzyć rozwiązania i weryfikować ich zgodność, z komponentem technicznym, nie tylko prawnym. Żeby ten mechanizm był zrozumiały, żeby wszyscy wiedzieli, jak się do niego dostać, i żeby piaskownice stały się w Polsce standardem nie tylko dla AI, lecz także w innych dziedzinach.
Warto też patrzeć na prostsze rzeczy, tworzymy przecież nowy urząd, a mogę zapewnić, że administracja publiczna leży bardzo głęboko w moim sercu. Chciałabym, żeby Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji była urzędem na miarę XXI wieku – takim, który działa zgodnie ze wszystkimi wymogami prawnymi, ale jest też miejscem, w którym ludzie po prostu chcą pracować.
