Nowe technologie stanowią realne zagrożenie dla naszej wolności

Jako osoba od lat związana z branżą technologii obawia się pan sztucznej inteligencji, czy raczej jest pan w grupie tych, którzy uważają ją za szansę na cywilizacyjny rozwój?

Przytoczę słowa Elona Muska, który już jakiś czas temu powiedział, że sztuczna inteligencja (AI) będzie bardziej niebezpieczna niż broń atomowa. I ja się z tym twierdzeniem zgadzam.

Zagrożenie jest olbrzymie, gdyż – na ten moment – w zakresie rozwoju tej technologii panuje kompletny „Dziki Zachód”. Nie ma jakichkolwiek regulacji w kontekście AI, one dopiero się tworzą. A brak ram w stosunku do tego, jak używać sztucznej inteligencji i w jakim kierunku powinna ona zmierzać, a w którym absolutnie nie może zbaczać, tworzy poważne ryzyka. Jako informatyk, technolog i inżynier jestem oczywiście podekscytowany tym, co AI jest w stanie zaoferować ludziom, ale zdaję sobie też sprawę z potencjalnych niebezpieczeństw. AI ma możliwość zwrócić się przeciwko ludziom, o ile uzna, że ci zagrażają celom, jakie ma ona realizować. Jeśli nie postawimy barier, różnie może się to skończyć.

Rozumiem zatem, że podpisałby pan list Elona Muska, aby zawiesić prace nad AI do czasu wypracowania pewnych reguł?

Mam bardzo mieszane uczucia. Sami eksplorujemy AI, mamy grant naukowo-badawczy, w ramach którego pracujemy nad podpięciem sztucznej inteligencji do naszych automatów hakujących. Chodzi o tzw. cyberpoligon i maszyny, które imitują atak hakerów na określoną infrastrukturę – to rodzaj testu dla służb odpowiedzialnych za cyberochronę. Nie chciałbym zawieszać tych prac na długie miesiące. Natomiast obiema rękami sygnowałbym list nawołujący do przyspieszenia prac regulacyjnych. Nie da się kijem zatrzymać rzeki – można podpisać petycję wstrzymującą prace nad tą technologią, ale w jaki sposób to egzekwować? Jak weryfikować i jak karać? Poza tym zawsze znajdą się ludzie o złych intencjach, których nie powstrzymają zakazy.

To zapytam o zupełnie inną technologię, o której w ostatnich dniach mówi się równie wiele – wirtualną i rozszerzoną rzeczywistość (VR/AR). Apple zaprezentował gogle mieszanej rzeczywistości (MR), wcześniej Meta wyraźnie postawiła na rozwój cyfrowych światów, inwestując w tzw. metaverse. Te rozwiązania to przyszłość czy ślepa uliczka?

Metaverse z jakiegoś powodu nie chce się przyjąć. Meta odnosi na tej technologii straty. Zapewne powodów jest wiele, ale – moim zdaniem – to olbrzymie wyzwanie przenieść realne życie i zachowania do całkowicie sztucznego świata. Nie czuję znaczącego ułatwienia zakupów w zwirtualizowanym odpowiedniku prawdziwego sklepu, po którym chodzimy w metaverse, zakładając okulary do VR. Ludzie co do zasady są leniwi i wybierają najprostsze rozwiązania.

Natomiast całkowicie rozumiem potrzebę, która stoi za technologią gogli Apple’a – ta jest w stanie znacznie ułatwić życie. Proszę wyobrazić sobie pracę choćby administratora sieci, który ma na ścianie 50 monitorów i musi na nich nadzorować kilkadziesiąt różnych procesów. W takich okularach może robić to samo, ale zdalnie – bez dziesiątków wyświetlaczy i olbrzymiego „data roomu”. Sterując dłonią, wyciągnie przed oczy interesujący go obraz, a gdy chce mieć przed sobą wszystkie monitory razem, zrobi to jednym ruchem. Użyteczność tej technologii jest więc olbrzymia.

Ale przenoszenie swojej obecności do cyfrowego świata nie jest chyba aż tak abstrakcyjne. Już dziś cały dzień spędzamy wpatrzeni w ekran smartfona, więc funkcjonujemy w pewnej cyfrowej rzeczywistości?

To prawda. I mam nadzieję, że ludzkość się opamięta i nie będzie stosować technologii jako zamiennika życia realnego. Ale boję się, że nie będzie to wcale proste.

Dlaczego?

Bo dziś nowe technologie to bardzo potężne narzędzia. Rower nie prosi mnie, bym na niego wsiadł i pojechał w dane miejsce, nie informuje, że pojawiła się nowa funkcja na kierownicy, nie prosi „włącz mnie”. A smartfon, który mamy cały czas przy sobie, robi to bez przerwy i na różne sposoby angażuje użytkowników. Aplikacje społecznościowe nieustannie przyciągają, przypominają, aby do nich zajrzeć. A za taką technologią stoją miliony dolarów, zaawansowane algorytmy, menedżerowie od marketingu, profesorowie od psychiki ludzkiej, sztaby naukowców – to wszystko jest agregowane w jednym urządzeniu, które dajemy kompletnie bezbronnemu użytkownikowi. Odbiorca tej technologii nie ma szans.

Brzmi jak kolejne potężne zagrożenie.

I tak jest. Dzisiaj nowe technologie mogą prowadzić do realnego zagrożenia odebrania wolności. To my powinniśmy decydować, co chcemy oglądać, a nie algorytmy, które – czy to np. na YouTubie, czy w wyszukiwarce Google – każdemu z użytkowników na podobne zapytanie dają inną podpowiedź, w zależności m.in. od naszej historii wcześniejszych wyszukiwań i tego, jak zostaliśmy sprofilowani. Taka sytuacja prowadzi do tego, że możemy być, jako społeczeństwa, polaryzowani.

Gdy jako dziecko interesowałem się żeglarstwem, a nie było wówczas internetu, miałem w swojej szkole może cztery inne osoby o podobnym hobby i z nimi wymieniałem poglądy. Dziś, jeśli człowieka interesuje najdziwniejsza teoria świata, choćby ta dotycząca płaskiej Ziemi, bez problemu w sieci znajdzie setki tysięcy osób o podobnej filozofii. W łatwy sposób można się stać wyznawcą określonej idei. To poważne zagrożenie, z którego dziś wiele osób nie zdaje sobie sprawy. Zadajmy sobie pytanie, czy informacje, które dostaję w internecie, nie są mi narzucone, czy filozofia, którą zacząłem wyznawać, jest zgodna z moimi wartościami.

Nietrudno sobie wyobrazić, że poprzez technologię można wpływać choćby na wyborców – wystarczy „stargetować” tych niezdecydowanych, dotrzeć do nich z odpowiednim przekazem, spolaryzować, zmanipulować. Przez nowe technologie istnieje dziś dostęp do mas i do każdego z osobna. W ten sposób z użytkownikami takich urządzeń można zrobić wiele – da się wygrać wybory, dokonać zamachu stanu czy przekonać do zbiorowego samobójstwa dla danej idei.

Nie sądziłem, że jako innowator i informatyk ma pan tak wielkie obawy dotyczące technologii.

Może wynika to właśnie z większej świadomości i wiedzy technologicznej. Proszę zobaczyć, jak mocno wzrosła liczba samobójstw wśród dzieci i młodzieży. To jest bezpośrednio związane z dostępem do social mediów. Małe dziewczynki chcą wyglądać jak gwiazdy, każdy pokazuje swoje lepsze życie w internecie. A sami widzimy, że nasze życie jest niedoskonałe. To może być depresyjne. A do tego nie jest to działanie jednostkowe, bo ten negatywny wpływ dociera do rzesz. To rażenie masowe. Oczywiście wiem, że technologia bywa zbawienna, może ratować zdrowie i życie, ale trzeba do niej podchodzić jak do noża, którym dobry człowiek pokroi chleb, aby nakarmić rodzinę, a przestępca poderżnie komuś gardło. Dziś należy skupić się na tym, jak regulować wszelkie technologie, abyśmy żyli w bezpieczniejszym świecie. A wraz z rozwojem technologii wcale nie żyjemy w bezpieczniejszej rzeczywistości.

Ale rozumiem, że nowatorskie rozwiązania, które tworzy pana firma, to jest ta dobra twarz technologii?

Zdecydowanie tak. Vector Synergy to firma świadcząca głównie usługi IT i cyberbezpieczeństwa dla rynku „defence”, a więc obronnego. Krótko mówiąc, jeśli wojsko lub organizacje, jak NATO, potrzebują wsparcia cywili w zakresie IT z zewnątrz, to dzwonią do nas. Realizujemy projekty, a także dostarczamy usługi konsultantów IT i Cyber, a CDeX (skrót od Cyber Defence eXercise Platform) – software. Dziś świat boryka się z rosnącą liczbą ataków cybernetycznych i – choć szkoły kształcą ekspertów w tej dziedzinie – luka na rynku wciąż jest ogromna i cały czas rośnie. A CDeX zajmuje się właśnie edukowaniem i utrzymywaniem w gotowości bojowej służb odpowiedzialnych za cyberbezpieczeństwo.

Jak to działa?

Sprawdzamy dla firm przygotowanie działów cyberochrony do odpierania ataków, tzw. cyber readiness. Jesteśmy w stanie naszym oprogramowaniem poddać ich realnemu ćwiczeniu, symulującemu uderzenie hakerskie z różnych stron – na infrastruktury np. serwerowe czy baz danych. Tzw. cyberbezpiecznicy muszą się na takim cyfrowym poligonie obronić – szefowie firm czy organizacji widzą efekt ich działań, ich skuteczność. Symulacje odbywają się na realnej infrastrukturze IT. Wytworzyliśmy platformę, gdzie – dzięki wirtualnym maszynom – jesteśmy w stanie szybko odtworzyć część firmowej sieci lub zastosować predefiniowane scenariusze i zaatakować określoną infrastrukturę.

Czy polskie firmy i instytucje są gotowe na odparcie rosnącego naporu cyberzagrożeń?

W kraju mamy dobre systemy informatyczne, pod tym względem nie odstajemy od Zachodu. Firmy i instytucje są obkupione sprzętem, ale teraz nadchodzi czas na to, by ludzie, którzy go obsługują, byli w ciągłej gotowości bojowej. Muszą się szkolić, gdyż nieustannie pojawiają się nowe zagrożenia, nowe wektory ataków.

A problem deficytu kadr w IT?

Z pewnością informatycy nie mają dziś kłopotu z pracą. Mogą przebierać w ofertach. Sami, prowadząc projekty, musimy ich zanęcać. Doszło do tego, że pieniądze przestały być już dla nich wabikiem. Miałem taką anegdotyczną historię, że przyszedł do nas deweloper, którego szukaliśmy pół roku. Projekt mu się spodobał, wynagrodzenie też, ale koniec końców pracy nie wziął. Okazało się, że kupił sobie rower, bo chciał jeździć nim do pracy, aby schudnąć. A do naszej firmy miał zdecydowanie zbyt blisko. I to był powód, dla którego nam odmówił. To pokazuje, że młodzi ludzie powinni dziś wybierać kierunki techniczne, informatyczne – one dają gwarancję dobrze płatnej pracy z dowolnego miejsca na świecie.

Czy po wybuchu wojny w Ukrainie faktycznie nastąpił dramatyczny wzrost ataków na polskie i europejskie instytucje, administrację publiczną, firmy?

Odpowiedzią może być fakt, że widzimy zwiększone zapotrzebowanie ze strony klientów na specjalistów IT, na konsultacje. Armie tworzą piony cyberbezpieczeństwa. W CDeX nawiązujemy np. współpracę z portem w Antwerpii, który jest jednym z centrów handlowo-logistycznych Europy i jest mocno narażony na ataki hakerów. Kooperujemy też z akademiami morskimi w krajach NATO, z którymi rozwijamy nowe modele treningowe w zakresie cyberataków. Mamy też kontrakty m.in. z kilkoma ministerstwami obrony narodowej państw NATO. Z ramienia Vector Synergy służymy ponadto dla Europejskiej Agencji Kosmicznej czy Europejskiej Organizacji Bezpieczeństwa Żeglugi Powietrznej.

Współpracujecie też z NATO?

Tak, jesteśmy w gronie dziesięciu firm z całego świata, do których NATO wysyła zapotrzebowanie na usługi ekspertów informatycznych i „cyberbezpieczników”. Konkurujemy z takimi tuzami, jak IBM, Airbus czy Atos.