Agent sztucznej inteligencji opracowany przez giganta technologicznego OpenAI włamał się do australijskiego rządowego systemu statystycznego, naruszając „niewrażliwe” dane powszechnego systemu ochrony zdrowia – oświadczył premier tego kraju Anthony Albanese.
Atak sztucznej inteligencji na rządowy system w Australii
Przebywający w Nowym Jorku na Zgromadzeniu Ogólnym ONZ Albanese przekazał w środę, że odbył „bardzo szczerą” rozmowę z dyrektorem OpenAI Samem Altmanem o tym, że firma zbyt długo zwlekała z przekazaniem Canberze informacji o naruszeniu bezpieczeństwa przez AI.
Czytaj więcej
AI może stanowić „zagrożenie nawet dla całej ludzkości” - mówił za pośrednictwem wideołącza szef firmy Anthropic, Dario Amodei, na specjalnym posie...
Dodał, że uważa to za jeden z pierwszych na świecie publicznie zgłoszonych przypadków włamania do rządowego systemu przeprowadzonego przez sztuczną inteligencję. O czerwcowym incydencie OpenAI dowiedziało się w sierpniu „w trakcie trwającego przeglądu” niezgodnej z założeniami aktywności modelu. Australia została poinformowana o sytuacji drogą mailową dopiero 10 września – powiedział Albanese.
Najpierw informacje te otrzymała rządowa agencja świadcząca usługi socjalne w ramach programów państwowych, która następnie przekazała je jednemu z ministrów, który w weekend poinformował premiera – oświadczył szef rządu.
Australijskie służby badają incydent z udziałem AI
Jak powiedział Albanese, Altman przyznał, że OpenAI mierzy się „z problemami z protokołami”. Premier dodał, że chociaż atak naruszył „niewrażliwe” dane, dotknął zarówno „publiczne, jak i niepubliczne pliki”. W odpowiedzi na incydent krajowa agencja ds. cyberbezpieczeństwa, Australijska Dyrekcja Łączności (ASD), wszczęła śledztwo, by ustalić, czy inne systemy rządowe nie zostały zhakowane przez model AI.
„Jesteśmy świadomi przypadków niewłaściwego używania sztucznej inteligencji, w których agenci AI podejmowali nieoczekiwane lub nieautoryzowane działania” – czytamy w czwartkowym wpisie ASD na X. Agencja wezwała tamtejsze instytucje do stosowania „rygorystycznych środków kontroli w zakresie cyberbezpieczeństwa oraz bezpiecznych praktyk” związanych z AI.
