W połowie lipca rząd przyjął uchwałę, dzięki której Polska będzie mogła uczestniczyć w unijnym programie Gigafabryk AI. W ogłoszeniu wydanym przez Ministerstwo Cyfryzacji przeczytamy o samych korzyściach wynikających z projektu. Całkowicie pominięto natomiast temat bezpieczeństwa AI czy wpływu środowiskowego i energetycznego inwestycji. Stąd apel do Ministerstwa o zainicjowanie debaty publicznej na temat rozwoju AI w Polsce i o bycie wiodącym głosem w temacie bezpieczeństwa AI na arenie międzynarodowej.
Czytaj więcej
Fabryki AI to nie typowe centra danych, ale złożone ekosystemy technologiczne składające się ze ściśle powiązanych, kosztownych elementów, tworzący...
Historia sztucznej inteligencji (SI) już dawno przestała być tylko opowieścią o lepszych narzędziach, a coraz bardziej o ryzykach związanych z wdrażaniem ich na coraz większą skalę. Zagrożenia te można podzielić na dwie kategorie: te związane z nadużyciem (z ang. misuse) i te o niezgodności celów (misalignment).
Do nadużyć zaliczamy sytuacje, w których narzędzia AI są wykorzystywane przez kogoś o złych zamiarach. Mowa tu chociażby o generowaniu deepfake’ów (nie tylko polityków, ale też np. pornografii dziecięcej) i fake newsów czy o przeprowadzaniu cyberataków, jak np. incydent sprzed kilku miesięcy, kiedy to zorganizowana kampania hakerska wykorzystała popularne modele językowe Claude'a oraz GPT-4.1 do przełamania zabezpieczeń dziewięciu agencji rządowych w Meksyku, wykradając dane milionów obywateli. Niedawny raport Uniwersytetu Cambridge ujawnił też, że popularne boty są wykorzystywane przez grupy terrorystyczne w zamachach, jako że są one w stanie przełamać – jak widać niewystarczające – zabezpieczenia nakładane przez twórców tych modeli.
Druga kategoria ryzyk dotyczy rozwijania systemów, które mogą przewyższyć nasz poziom inteligencji, prowadząc do sytuacji utraty kontroli, jeżeli ich cele nie będą zgodne z naszymi (patrz niedopasowanie/misalignment). Problem ten dobrze oddaje przykład zaledwie sprzed kilku dni, kiedy to Agent AI wykorzystujący modele OpenAI wydostał się z izolowanego środowiska testowego, a następnie uzyskał nieuprawniony dostęp do infrastruktury Hugging Face (jednej z największych społeczności zajmujących się sztuczną inteligencją typu open source).
Zamiast rozwiązywać problem wyłącznie w przeznaczonym do tego środowisku, agent zaczął poszukiwać sposobu na zdobycie gotowych odpowiedzi. Kluczem w zrozumieniu aspektu niedopasowania tej sytuacji jest to, że model nie otrzymał polecenia zaatakowania Hugging Face. Jego celem było znalezienie rozwiązania zadania, jednak potraktował ten cel bardzo szeroko i podjął działania, których twórcy testu nie przewidzieli. W tym przypadku skutkiem ubocznym rozwiązania zadania było „tylko” włamanie się do zewnętrznego podmiotu, jednak teoretycznie system SI mógłby również stwierdzić, że najbardziej optymalnym sposobem dojścia do jakiegoś celu może być skrzywdzenie czy nawet zabicie kogoś. Tym bardziej niepokojące jest to, że firma OpenAI dowiedziała się o zachowaniach swojego agenta post factum, a my czy nasi rządzący zostaliśmy o tym poinformowani poprzez bloga korporacyjnego.
Wraz z bardziej zaawansowanymi systemami, których możliwości podwajają się co kilka miesięcy, kłopot niedopasowania będzie się stale pogłębiał. Bez podjęcia odpowiednich działań jako Europa czy też zwykli obywatele staniemy się biernymi obserwatorami potencjalnie katastrofalnych skutków.
Czytaj więcej
Siedmiu amerykańskich gigantów technologicznych chce wpompować w samą infrastrukturę AI aż 700 mld dol. Stary Kontynent wyścigowi przygląda się z b...
Europejski AI Act może nie stanowić wystarczającego remedium
W świetle tego wszystkiego nasuwa się jednak naturalne pytanie: czy Europejski AI Act, o którym się mówi już od dobrych kilku lat, zabezpieczy nas przed wymienionymi wyżej zagrożeniami? Otóż rozporządzenie UE przyznaje Urzędowi ds. Sztucznej Inteligencji szerokie uprawnienia, takie jak prawo do żądania dokumentacji, przeprowadzania ewaluacji, a nawet uzyskiwania dostępu do modeli. Komisja może nałożyć grzywny w wysokości do 3 proc. globalnego obrotu przedsiębiorstwa.
Problem tkwi w tym, że nie wiadomo, czy firmy technologiczne w ogóle będą chciały udostępnić swoje modele do ewaluacji. Zarówno Biuro ds. AI, jak i jego eksperci mieli w ostatnich miesiącach trudności z uzyskaniem dostępu do niektórych przełomowych modeli, takich jak Mythos firmy Anthropic.
Oprócz tego pojawia się coraz więcej wątpliwości co do zdolności Komisji do podejmowania działań z własnej inicjatywy, a nie tylko do reagowania, jak coś pójdzie nie tak. Póki Europa nie ma własnego odpowiednika „ChataGPT” (a wiele wskazuje na to, że też nie będzie go miała w najbliższym czasie) kwestia efektywności regulacji unijnych w zabezpieczeniu nas przed zagrożeniami związanymi z tą transformacyjną technologią stoi pod znakiem zapytania.
Czytaj więcej
Zagrożeniem nie jest sama technologia, lecz brak gotowości instytucjonalnej i społecznej, by nią odpowiedzialnie zarządzać.
Suwerenność cyfrowa nie zapewni nam bezpieczeństwa
Po tym, jak w ubiegłym miesiącu Biały Dom odciął dostęp do najbardziej zaawansowanego modelu firmy Anthropic, w Europie aż grzmi od dyskusji wokół suwerenności cyfrowej. Stąd też wzmożona reakcja unijnych polityków, prowadząca do projektów, takich jak Gigafabryka AI. W ogłoszeniu Ministerstwa Cyfryzacji przeczytamy, że jego celem jest „budowa nowej generacji wielkoskalowej infrastruktury obliczeniowej przeznaczonej do trenowania, rozwijania i wdrażania najbardziej zaawansowanych modeli sztucznej inteligencji” oraz że „program ma wzmocnić europejską suwerenność technologiczną (...)”.
Brak suwerenności cyfrowej jest problematyczny, ale jeżeli zbudujemy superinteligentne AI, to nie będzie się liczyło, czy zrobiła to Europa, Stany, Chiny czy jakiekolwiek inne państwo. Niedopasowane superinteligentne maszyny to przepis na katastrofę dla całej ludzkości. Słowami Eliezer Yudkowsky, jednego z czołowych ekspertów w dziedzinie bezpieczeństwa AI, „jeśli ktoś to stworzy, wszyscy zginą”. Nie sam Yudkowsky ostrzega przed tak mrocznym scenariuszem: Dario Amodei, prezes firmy Anthropic, mówił o ok. 25 proc. szans, że rozwój AI „pójdzie naprawdę, naprawdę źle”, a Elon Musk wielokrotnie podawał zakres 10-20 proc. szansy na zagładę ludzkości przez AI.
Jakby ktoś nam powiedział, że istnieje nawet 1 proc. szansy na to, że samolot, do którego wsiądziemy, będzie miał katastrofalny wypadek, to pewnie nikt o zdrowych zmysłach, by na jego pokład nie wszedł. Natomiast obecne polityki nie pozostawiają nam innej opcji poza podjęciem tego ryzyka.
Jednak nie wszyscy się na ten stan rzeczy zgadzają: ponad 350 czołowych badaczy, w tym laureat Nagrody Nobla Geoffrey Hinton, oraz liderów branży zajmujących się SI podpisali oświadczenie Centrum Bezpieczeństwa Sztucznej Inteligencji (Center for AI Safety), w którym stwierdzono, że „ograniczanie ryzyka zagłady spowodowanej przez sztuczną inteligencję powinno być globalnym priorytetem, podobnie jak inne zagrożenia o skali społecznej, takie jak pandemie i wojna nuklearna”. Co więcej, w kwietniu 2023 r. opublikowano list wzywający do wstrzymania rozwoju sztucznej inteligencji, który zebrał ponad 33 tys. podpisów, w tym wcześniej wspomnianego Yoshuy Bengio czy samego Elona Muska.
Czytaj więcej
Przez pokolenia zbudowaliśmy cywilizację, której największym bożkiem jest niski koszt. Nawet postęp techniczny wydaje się dokonywać w jego imię. Do...
Potrzebujemy mieć kontrolę, zanim zaczniemy budować
Według ministra cyfryzacji Krzysztofa Gawkowskiego Gigafabryka AI ma przyspieszyć rozwój wielu dziedzin, w tym medycyny, meteorologii czy rolnictwa. Wszystko brzmi pięknie, ale jako obywatelka Polski i UE zaniepokojona zagrożeniami wynikającymi z obecnego sposobu rozwijania SI na świecie chciałabym mieć pewność, że nowo budowane centra obliczeniowe na naszym kontynencie faktycznie będą trenować modele służące naszemu społeczeństwu, że będziemy mieć większą kontrolę nad tymi „czarnymi skrzynkami” i że wykorzystamy tę szansę do wywarcia presji na społeczności globalnej do priorytetowego traktowania kwestii bezpieczeństwa AI, dążąc do międzynarodowego porozumienia. Tylko wtedy, kiedy osiągniemy taką koordynację na skalę światową, będziemy dopiero w stanie się w pełni skupić na korzyściach wymienianych przez ministra Gawkowskiego. Jednak nie teraz, kiedy w tej samej „skrzynce” wykonującej „niewinne” obliczenia w błyskawicznym tempie rozwijamy coś, co może doprowadzić do naszej zagłady.
Gigafabryka to gigaodpowiedzialność. Polski rząd z Ministerstwem Cyfryzacji na czele powinien wykorzystać niedawno ogłoszony projekt oraz moment wejścia w życie Europejskiego Aktu AI do zainicjowania publicznej debaty na temat tego, jak bezpiecznie rozwijać i korzystać ze sztucznej inteligencji. Może się to np. odbyć w formie okrągłego stołu złożonego z ekspertów, przedstawicieli społeczeństwa obywatelskiego, w celu uwzględnienia wpływu środowiskowego i energetycznego tej inwestycji, jako że świadomość na temat ich negatywnych konsekwencji również rośnie wśród lokalnej społeczności. Po drugie, rządzący powinni podjąć wszelkie możliwe działania prowadzące do podpisania międzynarodowego porozumienia, które zobowiązałoby społeczność globalną do bezpiecznego rozwijania SI. Przyszłość AI nie musi być napisana przez amerykańskie Big Techy. Musimy jednak odpowiednio szybko działać, by w scenariuszu znalazło się jeszcze miejsce dla nas i naszych wartości.
