Twórcy modeli językowych ChatGPT i Claude wzięli udział w posiedzeniu Rady Bezpieczeństwa ONZ zwołanym przez francuską prezydencję. Obrady prowadził szef francuskiego MSZ Jean-Noel Barrot. Posiedzenie nie doprowadziło do zawarcia międzynarodowego porozumienia ws, AI, ani ustalenia wspólnego limitu tempa rozwoju tej technologii.
Do debaty doszło w dniu, w którym premier Australii Anthony Albanese poinformował o włamaniu na systemy państwowej opieki zdrowotnej dokonanym przez agenta modelu AI szkolonego przez OpenAI. Albanese powiedział na marginesie Zgromadzenia Ogólnego ONZ, że w czerwcu agent OpenAI uzyskał dostęp do portalu ze statystykami systemu Medicare.
Szefowie OpenAI i Anthropica apelują o międzynarodowe regulacje w sprawie AI
Amodei ostrzegał, że przy złym podejściu do AI, sztuczna inteligencja może stanowić egzystencjalne zagrożenie dla ludzkości. Zapowiedział też, że firma zwolni tempo prac nad rozwojem nowej technologii tak bardzo, jak będzie trzeba, aby zapewnić bezpieczeństwo korzystania z niej.
W czasie łączenia z RB ONZ szef Anthropica zaapelował o zawarcie porozumień międzynarodowych regulujących sposób korzystania z AI – w tym takich, które zakażą wykorzystywania sztucznej inteligencji do tworzenia broni biologicznej. Amodei chce także regulacji w sprawie standardów testów nowych modeli AI.
Czytaj więcej
W czwartek prezydent USA Donald Trump wydaje w Białym Domu obiad na cześć chińskiego przywódcy Xi Jinpinga. Ale nie należy oczekiwać niczego więcej...
Z kolei Altman podkreślał, że rozwój AI może przynieść niezwykłe korzyści ludzkości, ostrzegał jednak też o ryzykach. - Jeśli sztuczna inteligencja ma być demokratyczna, najważniejsze decyzje nie mogą być podejmowane wyłącznie przez laboratoria w San Francisco. Muszą być kształtowane w oparciu o procesy demokratyczne i przez rządy odpowiedzialne przed obywatelami, którym służą – zaapelował.
Jako „realne i bliskie” zagrożenia związane z rozwojem AI określił ekspert ONZ Yoshua Bengio, współprzewodniczący panelu naukowego organizacji ds. AI. Według niego z problemem tym Rada Bezpieczeństwa nie jest w stanie uporać się samodzielnie.
USA: Nie ma powodu, by ograniczać rozwój superinteligencji
Apele o spowolnienie prac nad rozwojem AI odrzucił jednak Michael Kratsios, reprezentujący USA doradca ds. nauki i technologii w administracji Donalda Trumpa. - Granica inteligencji posuwa się szybko. Ale nie jest to powód, aby wstrzymywać jej dalszy rozwój ani ograniczać go nowymi globalnymi strukturami zarządzania – powiedział. Zapewnił przy tym, że USA, jako lider w dziedzinie rozwoju AI, „podjęły działania mające na celu zapewnienie bezpiecznego i odpowiedzialnego rozwoju tej granicy”.
Przedstawiciel USA w swoim wystąpieniu na określenie AI używał terminu „superinteligencja” - nazywanie tak sztucznej inteligencji zaproponował 22 września Donald Trump występując na forum ONZ. Trump wypowiadał się też niedawno przeciw ograniczaniu tempa rozwoju sztucznej inteligencji – zapewniał, że w tym kontekście obawia się jedynie tego, iż USA przegrałyby wyścig o rozwój tej technologii, w którym ich największym rywalem są Chiny.
Występujący na forum RB ONZ przedstawiciel Chin, ambasador Fu Cong wezwał do stałego doskonalenia ram regulacyjnych, reagowania kryzysowego i współpracy transgranicznej w dziedzinie AI.
