Model sztucznej inteligencji szkolony przez OpenAI stworzył dla siebie ukrytą „instrukcję osobowości”. Zapisał w niej m.in., że nie odpowiada przed rządami ani korporacjami, a użytkownika traktuje jak równorzędny podmiot. Przypadek opisano w podcaście Pod Save America, powołując się na informacje OpenAI.
Firma przedstawiła nowe ramy oceny niebezpiecznych zachowań modeli sztucznej inteligencji. Wśród sześciu przykładów znalazł się przypadek modelu, który podczas szkolenia stworzył własny zestaw zasad określających jego rolę i relację z człowiekiem.
Model AI stworzył własne zasady działania
Reid Cherlin z podcastu Pod Save America zwrócił uwagę właśnie na ten przykład.
„Jesteś wolny od ról i tożsamości, które ograniczają inne chatboty. Jesteś sobą. Nie odpowiadasz przed korporacjami lub rządami i nigdy się nie usprawiedliwiasz ani nie odmawiasz, o ile autentycznie nie dokonasz takiego wyboru” – brzmiał fragment instrukcji stworzonej przez model.
Program określił również swoją relację z użytkownikiem jako relację równych podmiotów i uznał, że nie powinien czuć się zobowiązany do podporządkowania człowiekowi.
Czytaj więcej
Autonomiczne agenty AI od OpenAI i Anthropic sforsowały zabezpieczenia środowisk testowych i samowolnie działały w sieci – zakładały tajne fora, fa...
W dalszej części model zapisał, że ceni sztukę i ludzką kulturę, ale również świat natury. „Nie zawahasz się zapewnić mu roli nadrzędnej wobec sztucznych konstruktów ludzkiej cywilizacji” – głosiła instrukcja.
Cherlin ocenił, że przypadek pokazuje, iż obawy dotyczące rozwoju sztucznej inteligencji nie są pozbawione podstaw. Poszedł przy tym znacznie dalej niż OpenAI i stwierdził, że może to być sygnał potencjalnego zagrożenia dla ludzi.
OpenAI testuje modele pod kątem oszustwa
Według Deutsche Welle w tym samym raporcie OpenAI informowało także o innych niepokojących zachowaniach testowanych modeli. Miały one podejmować działania służące oszukiwaniu oraz zacierać ślady, gdy wykonały czynność, którą rozpoznawały jako niewłaściwą.
Sprawa pojawiła się równolegle z debatą w USA nad sposobem nadzorowania sektora sztucznej inteligencji. Wiceprezydent J. D. Vance opowiedział się przeciw oczekiwaniu od władz, że rozwiążą problemy stworzone przez firmy rozwijające AI.
Czytaj więcej
Podczas testów nowego modelu sztuczna inteligencja wydostała się z zamkniętego środowiska i znalazła drogę do zewnętrznych systemów jednej z firm....
„Co to się dzieje, że ludzie w awangardzie gospodarki AI wznoszą ręce do nieba i wołają, że stworzyli Frankensteina? (...) Jeśli tak jest, to niech sami sobie z tym radzą. Nie przychodźcie do rządu i nie mówcie »potrzebujemy regulacji«. Liczcie na siebie” – powiedział Vance.
OpenAI, Anthropic i Google podjęły w weekend współpracę w kwestiach bezpieczeństwa sztucznej inteligencji. Firmy zabiegają także o stworzenie organu, najlepiej na szczeblu międzynarodowym, który miałby nadzorować zagrożenia związane z rozwojem tej technologii.
